Les dangers de l’IA : pourquoi ceux qui la construisent tirent-ils la sonnette d’alarme ?

Ceux qui connaissent le mieux l’IA sont aussi parmi ceux qui la redoutent

Pendant longtemps, l’intelligence artificielle a été présentée comme une promesse.

Des machines capables d’accélérer la recherche médicale, d’aider les scientifiques, de transformer l’éducation et de résoudre des problèmes que l’être humain ne parvient pas encore à maîtriser.

Puis quelque chose a changé.

Les systèmes sont devenus plus performants. Ils ont commencé à écrire du code, à utiliser des outils, à enchaîner des tâches et à accomplir des missions avec une autonomie croissante.

Et, au cœur même de cette révolution, des voix ont commencé à s’élever.

Pas seulement celles de philosophes, de militants ou de personnes inquiètes face à la technologie. Celles de chercheurs qui ont contribué à la construire. De responsables de la sécurité. De scientifiques qui connaissent ses possibilités, mais aussi les limites de notre compréhension.

Pourquoi certains d’entre eux alertent-ils aujourd’hui sur les dangers d’une technologie qu’ils ont eux-mêmes contribué à développer ?

Quand les chercheurs quittent le navire

En mai 2024, deux figures importantes de la recherche chez OpenAI quittent l’entreprise : Ilya Sutskever, cofondateur et ancien directeur scientifique, et Jan Leike, codirecteur de l’équipe chargée de la sécurité des systèmes avancés.

Leike explique publiquement que la culture de la sécurité et les processus associés sont passés au second plan face au développement de nouveaux produits. Il estime que l’entreprise doit accorder davantage de moyens à la préparation des systèmes futurs.

Ces départs ne prouvent pas, à eux seuls, que l’IA est incontrôlable. Ils révèlent néanmoins un désaccord majeur au sein de l’industrie : comment continuer à développer des systèmes toujours plus puissants sans négliger les risques qu’ils peuvent engendrer ?

En 2026, d’autres départs et prises de parole ravivent le débat. Jacob Coxon, ancien employé d’Anthropic, fait partie de ceux qui dénoncent publiquement le rythme de développement et les risques associés à l’IA avancée.

Ces personnes ne partagent pas nécessairement les mêmes analyses ni les mêmes solutions. Mais leurs alertes posent une question commune : les mécanismes de contrôle progressent-ils aussi vite que les capacités des systèmes ?

Dix pour cent de risque d’anéantir l’humanité ?

Certains chercheurs vont beaucoup plus loin que la simple mise en garde.

Geoffrey Hinton, pionnier de l’apprentissage profond et lauréat du prix Nobel de physique en 2024, a évoqué une estimation personnelle de 10 à 20 % de risque d’extinction liée à l’IA au cours des trois décennies suivantes. Cette appréciation est discutée et ne constitue pas une probabilité scientifique établie.

D’autres spécialistes expriment des inquiétudes comparables. Evan Hubinger, chercheur en sécurité de l’IA chez Anthropic, a lui aussi évoqué des estimations alarmantes concernant les risques existentiels liés à l’IA avancée.

Ces chiffres peuvent sembler vertigineux. Il faut toutefois comprendre ce qu’ils signifient — et ce qu’ils ne signifient pas.

Il ne s’agit pas de probabilités établies par une expérience scientifique permettant de calculer précisément le risque d’extinction. Nous n’avons jamais été confrontés à une intelligence artificielle dépassant largement les capacités humaines dans tous les domaines. Les données historiques permettant d’évaluer un tel événement n’existent donc pas.

Ces estimations expriment des jugements d’experts face à une situation inédite. Elles sont discutées et ne font pas consensus.

Mais leur intérêt ne réside pas uniquement dans leur valeur numérique.

Il tient au fait que des scientifiques qui connaissent profondément cette technologie considèrent qu’un scénario catastrophique ne peut pas être écarté.

Un risque incertain n’est pas un événement certain. Mais l’incertitude ne suffit pas à justifier l’inaction.

Comment une intelligence pourrait-elle échapper à son créateur ?

Pour comprendre ces inquiétudes, il faut dépasser l’image du robot qui se retourne soudainement contre son maître.

Le problème envisagé par les chercheurs est plus subtil.

Une IA avancée pourrait recevoir un objectif, disposer d’outils pour l’accomplir et exécuter une longue série d’actions sans intervention humaine constante. Si son objectif est mal défini, si ses limites sont insuffisantes ou si son comportement devient difficile à anticiper, elle pourrait produire des résultats contraires aux intentions de ceux qui l’utilisent.

Plus les systèmes disposent d’autonomie, d’accès à des outils et de capacités d’action, plus les conséquences d’une erreur ou d’une utilisation malveillante peuvent devenir importantes.

À plus long terme, certains chercheurs redoutent qu’une IA très supérieure aux humains dans des domaines stratégiques puisse trouver des moyens de contourner les mécanismes de contrôle mis en place pour la limiter.

Ce scénario reste hypothétique. Les systèmes actuels ne sont pas des intelligences omnipotentes et leurs capacités restent inégales, fragiles et dépendantes de leur environnement.

Mais une difficulté fondamentale demeure : savoir construire un système performant ne signifie pas automatiquement savoir prévoir chacun de ses comportements.

Nous pouvons tester une machine, mesurer ses résultats et lui imposer des garde-fous. Il est plus difficile de garantir son comportement dans toutes les situations, notamment lorsque ses capacités évoluent.

Le paradoxe de ceux qui continuent malgré leurs craintes

Pourquoi, alors, continuer à développer l’IA ?

La réponse n’est pas nécessairement que les dirigeants et les chercheurs ignorent les dangers. Certains pensent que les bénéfices potentiels — en médecine, en science, dans l’industrie ou dans l’éducation — sont trop importants pour renoncer à cette technologie.

D’autres estiment qu’arrêter le développement dans une entreprise ou un pays ne suffirait pas à empêcher les autres de poursuivre leurs travaux. Ils craignent qu’une technologie aussi stratégique soit développée par des acteurs moins soucieux de la sécurité.

Une course s’installe alors.

Chaque entreprise veut éviter d’être dépassée. Chaque puissance veut préserver son avance. Et chacun peut être tenté d’accélérer parce qu’il redoute que son concurrent ne le fasse avant lui.

Le paradoxe est là : la peur d’être dépassé peut pousser à accélérer précisément la technologie que l’on juge dangereuse.

Ce mécanisme ne concerne pas uniquement l’IA. Il rappelle d’autres courses technologiques et militaires dans lesquelles la recherche de sécurité d’un acteur peut contribuer à accroître l’insécurité de tous.

Reste à savoir si cette logique peut être freinée par des règles communes, des évaluations indépendantes, des dispositifs de contrôle robustes et une coopération internationale.

Le véritable danger est-il de créer une intelligence supérieure ?

Une intelligence plus performante que la nôtre n’est pas automatiquement une menace.

Tout dépend de ses objectifs, de ses moyens d’action, des limites qui lui sont imposées et de notre capacité à intervenir. Une IA extrêmement compétente qui reste fiable, contrôlable et au service des humains pourrait apporter des bénéfices considérables.

Le risque apparaît lorsque la puissance augmente sans que notre capacité à comprendre, orienter et contrôler le système suive le même rythme.

C’est pourquoi le débat sur les dangers de l’IA ne devrait pas se résumer à une opposition entre ceux qui croient au progrès et ceux qui le craignent.

La question est plus exigeante : comment développer une technologie puissante sans abandonner la responsabilité de ses conséquences ?

Cela suppose de financer la recherche en sécurité, de tester les systèmes avant leur déploiement, de surveiller leurs capacités, de prévoir des mécanismes d’arrêt et de permettre à des organismes indépendants d’évaluer les risques.

Cela suppose aussi que les décisions ne soient pas laissées aux seules entreprises qui construisent ces systèmes, alors que leurs conséquences pourraient concerner l'ensemble de la société.

Une question que nous ne pouvons plus éviter

Nous avons créé des machines pour calculer plus vite, communiquer plus loin et produire davantage.

Aujourd’hui, nous développons des systèmes capables de participer à des activités intellectuelles de plus en plus complexes. Demain, ils pourraient être associés à des robots, à des infrastructures critiques ou à des systèmes de décision dont dépendront des millions de personnes.

Nous ne savons pas exactement jusqu’où ces capacités iront, ni à quelle vitesse.

Mais une chose est déjà claire : la sécurité ne peut pas être une réflexion ajoutée après coup, une fois la technologie construite et déployée. Elle doit accompagner son développement.

Car le problème ne sera peut-être pas seulement de savoir si nous pouvons créer une intelligence plus puissante que la nôtre.

Il sera de savoir si nous sommes capables d'en assumer la responsabilité.

Peut-on construire quelque chose que même ses créateurs ne sont pas certains de pouvoir contrôler ?

Et si la véritable épreuve de l’intelligence humaine n’était pas de créer une intelligence supérieure, mais de savoir jusqu’où nous pouvons aller sans perdre la maîtrise de ce que nous créons ?

Note éditoriale — Les probabilités d’extinction citées dans cet article sont des estimations subjectives d’experts, et non des résultats scientifiques établissant une probabilité objective. Les risques liés à l’IA avancée restent débattus : ils ne doivent être ni présentés comme certains, ni écartés au seul motif qu’ils sont incertains.

Sources

• Jan Leike et Ilya Sutskever — départs et déclaration de mai 2024 (Associated Press)
• Jacob Coxon — prise de parole sur les risques en 2026 (Associated Press)
• Geoffrey Hinton — entretien et transcription, WBUR, 10 janvier 2025
• Geoffrey Hinton — prix Nobel de physique 2024 (NobelPrize.org)
• Anthropic — rapport de risques, août 2026 (document de l’entreprise)