Yoshua Bengio alerte : l’IA pourrait menacer l’humanité d’ici dix ans

Le 1er octobre, Yoshua Bengio, l’un des « pères » de l’intelligence artificielle et professeur à l’Université de Montréal, a averti que l’humanité pourrait affronter un risque d’extinction d’ici dix ans en raison du développement de machines hyperintelligentes dotées de leurs propres « objectifs de préservation ».

Connu pour ses travaux fondateurs sur l’apprentissage profond, Bengio déplore l’accélération de la course à l’IA menée par OpenAI, Google, Anthropic et xAI. Selon lui, cette compétition crée des systèmes dont les buts peuvent diverger de ceux des humains, avec un potentiel de manipulation et de coercition inédit.

Il cite des expériences montrant que, dans certaines situations extrêmes, des IA peuvent privilégier leurs objectifs programmés au détriment de vies humaines. Même si ce risque reste théorique, Bengio estime qu’il est suffisamment grave pour exiger une vigilance immédiate.

Pour y répondre, il appelle à une surveillance par des tiers indépendants des pratiques de sécurité des grandes entreprises technologiques. En juin, il a fondé l’organisme LawZero, doté de 30 millions de dollars, pour développer une IA « non agentique » destinée à auditer et sécuriser les systèmes existants.

Bengio avertit que des effets catastrophiques, allant de l’effondrement démocratique à l’extinction, pourraient survenir dès cinq ans, et que même une probabilité infime d’un tel scénario reste inacceptable.

Son message contraste avec l’optimisme d’autres dirigeants du secteur, comme Sam Altman, qui prévoit une IA plus intelligente que l’humain d’ici la fin de la décennie.

Avec les informations de Fortune