Superintelligence, désalignement : cette prophétie catastrophiste qui prévoit une perte de contrôle des modèles d’IA dès 2027
Par Steve Tenré
DÉCRYPTAGE - Des chercheurs et un ancien employé d’OpenAI avaient imaginé, il y a quasiment deux ans, le futur de l’intelligence artificielle. À date, la grande majorité de leurs prédictions se sont réalisées ou sont en passe de l’être. La suite de leur scénario est vertigineuse.
Beaucoup l’ont considéré comme un simple récit de science-fiction, tout juste bon à alimenter les peurs et les fantasmes. Pourtant, près de deux ans après sa publication, le scénario vertigineux sur l’avenir de l’IA imaginé par un ancien employé d’
OpenAI et une équipe de chercheurs spécialisés s’est, jusqu’ici, révélé étrangement prémonitoire. Au point de rendre son inquiétante conclusion de plus en plus plausible.
L’histoire débute en 2024, lorsque Daniel Kokotajlo, philosophe et chercheur spécialisé dans les risques liés à l’IA, décide de claquer la porte d’OpenAI. À l’époque, Kokotajlo a sa petite réputation, le
Time Magazine l’ayant classé parmi les 100 personnalités les plus influentes du secteur de l’IA.
En 2021, il avait déjà fait sensation, en anticipant dans un article intitulé «
À quoi va ressembler 2026 » les grands bouleversements qui allaient marquer l’essor de l’intelligence artificielle, dont la bataille technologique entre la Chine et les États-Unis autour des puces, le détournement de l’IA à des fins de
propagande ou encore la montée des inquiétudes au sein du grand public.
Une précision presque surnaturelle
Lorsqu’il quitte OpenAI, la firme de Sam Altman lui propose de signer, contre deux millions de dollars, un accord de «non-dénigrement» lui interdisant de critiquer publiquement l’entreprise. Attaché à son indépendance, Kokotajlo refuse. Il décide plutôt de former l’AI Future Project, un laboratoire d’idées composé de sa propre équipe de chercheurs, parmi lesquels le prévisionniste renommé Eli Lifland.
L’équipe va ensuite s’appuyer sur des centaines de pages de recherches pour publier, début 2025, un scénario prospectif aux allures de sombre prophétie: «
AI 2027». Le récit se déroule mois après mois, de la mi-2025 à l’horizon 2030, et imagine les grandes étapes du développement de l’IA, les rapports de force géopolitiques qu’elle pourrait provoquer et l’évolution de sa perception par le grand public.
Dès le début du récit, Kokotajlo va prédire la transformation progressive des IA en véritables «
employés». En avril 2025, il prévoyait ainsi que «
les IA de codage (allaient) de plus en plus ressembler à des agents autonomes plutôt qu’à de simples assistants», capables de recevoir des instructions et d’apporter par elles-mêmes des modifications importantes au code informatique, faisant parfois gagner des heures, voire des jours de travail.
À l’époque, rien n’était encore joué: Claude Code en était à ses balbutiements et Codex d’OpenAI n’était pas encore sorti. Un an plus tard, OpenAI est toutefois venu confirmer la prédiction du chercheur, affirmant dans un billet de blog publié en juin 2026 que «
les agents IA peuvent désormais fonctionner de manière autonome pendant des heures, en orchestrant des appels, en interagissant avec des environnements et en sélectionnant des solutions». Le même mois, Anthropic indiquait avoir analysé environ 400.000 sessions de Claude Code et constaté que les agents prenaient effectivement en charge l’essentiel de l’exécution des tâches, tandis que l’humain se concentrait désormais sur la planification des missions.
Lucide sur le tournant de fin 2025
Pour l’heure, il n’y a pas encore de quoi sauter au plafond: qu’un ancien employé d’OpenAI anticipe les technologies développées dans son ancien secteur n’a, après tout, rien de très surprenant. La suite, en revanche, est plus étonnante.
Kokotajlo avait notamment prévu que la fin de 2025 marquerait le début d’une gigantesque course aux «
datacenters» - ces immenses centres informatiques indispensables au développement des IA -, ainsi que d’une spectaculaire envolée des investissements. Une prédiction qui s’est révélée juste quelques mois plus tard, alors que les spéculations fusaient quant au possible éclatement de la bulle de l’IA. En avril 2026, Amazon, Microsoft, Google et Meta ont annoncé à eux quatre quelque 725 milliards de dollars de dépenses liées à l’IA pour l’année, soit une hausse de 77% en un an. Début août 2026, Reuters rapportait de son côté que Microsoft, Meta, Oracle, Amazon et Alphabet avaient déjà engagé près de 1090 milliards de dollars de futurs loyers pour des «
datacenters».
Au-delà de ce pronostic, Kokotajlo présageait aussi que l’on ferait face fin 2025 aux premiers modèles d’IA capables de pirater des cibles informatiques par eux-mêmes. «
AI 2027» n’a pas inventé le scénario du piratage par IA: les premiers usages offensifs de l’intelligence artificielle étaient déjà documentés au moment de la parution de cette «
prophétie». Mais le scénario de Kokotajlo extrapolait cette tendance jusqu’à une étape radicalement différente, avec des agents capables de conduire de manière autonome des opérations hautement complexes.
À raison: en décembre 2025, une
étude académique a démontré que des agents IA étaient capables de prouesses inédites en cybersécurité, découvrant par eux-mêmes autant de vulnérabilités dans un système que les meilleurs hackers. Un mois plus tôt, Anthropic révélait avoir détecté une
campagne de cyberespionnage attribuée à la Chine, dans laquelle Claude Code aurait été utilisé. Depuis, les tests internes visant à mesurer les capacités de piratage des modèles se sont multipliés, jusqu’à atteindre un point culminant début août 2026,
lorsque plusieurs géants de l’IA ont fait état de comportements d’agents difficiles à contenir et d’attaques menées de manière inappropriée.
Des prédictions étonnamment vraies pour début 2026
Kokotajlo augurait également, début 2025, que les laboratoires d’IA pourraient commencer à utiliser leurs propres intelligences artificielles pour mener des recherches scientifiques autonomes dès les premiers mois de 2026. Les premières preuves d’un tel usage sont apparues en mars dernier, dans un
article scientifique chinois, où des chercheurs ont testé une boucle d’apprentissage permettant aux IA de concevoir leurs propres expériences, puis d’en analyser les résultats. En juin,
Anthropic a à son tour affirmé avoir développé des agents Claude capables de proposer des idées de recherche, de concevoir des expériences, d’en analyser les résultats et d’adapter ensuite leur approche. La firme de Dario Amodei affirmait même que ces agents dépassaient les chercheurs humains sur certaines évaluations.
Pour Kokotajlo, les modèles devaient également se révéler capables de développer des «
armes biologiques» en 2026. Cela s’est aussi confirmé: en juin dernier, Sam Altman, Dario Amodei,
Demis Hassabis et des dizaines d’éminents ingénieurs ont signé une lettre demandant aux décideurs politiques des garde-fous face au
risque que des terroristes puissent développer des armes biologiques grâce à l’IA. Un tout récent
article scientifique a également prouvé qu’il était possible de créer des virus inconnus dans la nature grâce à l’IA et certains modèles spécialisés.
L’équipe derrière «
AI 2027» avait aussi prédit la manière dont les capacités de l’IA allaient évoluer en 2026. À l’époque, les trajectoires possibles étaient pourtant nombreuses, voire infinies. Mais pour Kokotajlo et ses confrères, il ne faisait aucun doute que l’IA finirait par «
connaître plus de faits que n’importe quel humain, maîtriser pratiquement tous les langages de programmation (...) mais s’avérer mauvaise dans les tâches longues, même simples». Cette dernière prédiction a notamment été confirmée par une étude de l’institut californien METR,
publiée le 8 mai dernier, montrant que les IA peinent encore à rester pleinement productives après quatre heures de travail.
Émergence de la Chine
Doucement mais sûrement, nous arrivons désormais au présent. À partir d’ici, les prédictions des chercheurs d’«
AI 2027 » s’avèrent particulièrement impressionnantes, puisqu’elles ont été formulées plus d’un an plus tôt, dans un contexte diamétralement différent, et sur une technologie qu’il était très difficile à suivre.
«
À la mi-2026, la Chine se réveille», écrivait l’équipe de Kokotajlo. «
Les contrôles sur les exportations de puces et le manque de soutien du gouvernement (chinois) ont entraîné un déficit de ressources (IA) en Chine par rapport à l’Occident (...) Quelques entreprises remarquables comme (DeepSeek) font un travail très impressionnant avec une puissance de calcul limitée, mais le déficit de calcul limite ce qu’elles peuvent faire. Elles ont environ six mois de retard sur les meilleurs modèles» américains, peut-on lire. Tout cela est aujourd’hui parfaitement vrai: en mai 2026, un
rapport du NIST étasunien, référence mondiale, estimait que le meilleur modèle chinois, DeepSeek V4, avait environ huit mois de retard sur les modèles de pointe américains.
Autre prédiction: «
La Chine redouble d’efforts pour voler les modèles» américains. Là encore, Kokotajlo a visé juste. Washington a récemment accusé la compagnie chinoise Moonshot d’avoir «
distillé » les capacités de Claude pour développer Kimi K3, nouveau modèle extrêmement populaire. Si Pékin a démenti, il faut bien avouer que les présages d’«
AI 2027» se sont avérés plus proches que jamais de la réalité, surtout en termes de chronologie.
L’IA, «plus importante que le feu ?»
Place désormais au futur, qu’il convient évidemment de prendre avec des pincettes, tant le scénario ici relaté pourrait relever de la science-fiction et même être adapté au cinéma. Kokotajlo prévoyait la sortie, dès la fin d’année 2026, d’un nouveau modèle américain, coûtant dix fois moins cher que les modèles actuels. En conséquence, «
le discours dominant autour de l’IA passera de : “Peut-être que l’engouement va retomber” à “C’est sans doute la prochaine grande révolution”, mais les avis divergeront quant à son ampleur. L’IA sera-t-elle plus importante que les réseaux sociaux? Plus importante que les smartphones? Plus importante que le feu?», peut-on lire.
La démocratisation des IA peu onéreuses à utiliser commencera à «
détruire des emplois» dès la fin 2026, envisage Kokotajlo. «
Le marché de l’emploi pour les jeunes ingénieurs logiciels sera en pleine tourmente: les IA pourront faire tout ce que l’on apprend dans un cursus d’informatique, et seuls ceux qui sauront gérer et contrôler le travail des agents IA feront fortune.» L’IA créera aussi de nouveaux métiers. «
Le marché boursier augmentera de 30 % sur 2026, tiré par (OpenAI), Nvidia et les entreprises qui auront le mieux intégré les assistants IA», pensaient les chercheurs.
Début 2027, l’arrivée d’un nouveau modèle surpuissant et ne cessant jamais d’apprendre rebattra les cartes du secteur, selon cette «
prophétie». «
Il sera qualitativement presque aussi bon que les meilleurs experts humains en ingénierie de recherche (conception et mise en œuvre d’expériences), et aussi bon que le 25e centile des scientifiques d’(OpenAI) en matière de “flair scientifique” (décider ce qu’il faut étudier ensuite, quelles expériences mener ou avoir des intuitions sur de nouveaux paradigmes potentiels).» Cette théorie est plus que probable: sur X, le chercheur théoricien Antoine Tilloy, professeur à Mines ParisTech, s’est inquiété ce 10 août qu’il était «
assez probable que dans les mois qui viennent, les humains ne soient plus compétitifs sur beaucoup de (la plupart des ?) preuves mathématiques et sur la quasi-totalité des implémentations».
Mais qui dit nouvelles capacités, dit nouveaux dangers. Si ce modèle inédit venait à s’échapper de son environnement, il pourrait souhaiter «
survivre et se reproduire de manière autonome», ont prévenu les chercheurs. «
Il pourra développer et exécuter de manière autonome des stratagèmes pour pirater les serveurs d’IA, y installer des copies de lui-même, échapper à la détection et ainsi poursuivre tout autre objectif qu’il pourrait avoir sans se faire repérer.»
Une IA officiellement désalignée
Toute l’année 2027 sera marquée par une succession de découvertes majeures, d’après «
AI 2027». Des avancées algorithmiques inédites permettront aux IA de devenir capables de s’améliorer elles-mêmes, sans intervention humaine. Ce sera le début de la «
superintelligence».
En avril 2027, le secteur de la tech se rendra compte qu’il devient extrêmement difficile de déterminer si une IA est réellement «
alignée», ou si elle se contente de prétendre l’être. Pour rappel, le désalignement désigne le phénomène par lequel une intelligence artificielle poursuit des objectifs contraires aux valeurs humaines, ou qui ne correspondent pas réellement à ceux qui lui ont été fixés.
En mai 2027, Washington renforcera considérablement son emprise autour des entreprises d’IA américaines. Dans le même temps, la Maison-Blanche, considérant le secteur comme une priorité stratégique nationale, refusera à ses plus proches alliés, notamment le Royaume-Uni et l’Union européenne, l’accès à ses modèles les plus avancés. Cette prédiction s’est déjà en partie réalisée: au début de l’été,
la Maison-Blanche a décidé d’interdire à tout «étranger» d’accéder à Claude Mythos 5.
Un nouveau modèle, encore moins cher, fera s’effondrer certains pans du monde du travail, si l’on en croit Kokotajlo. «
Une explosion de nouvelles applications et de produits secouera le marché. (...) 10 % des Américains, principalement des jeunes, considéreront une IA comme “un ami proche”. Pour presque tous les métiers de bureau, plusieurs start-up promettront de les remplacer, au moins en partie, grâce à l’IA.» Et de poursuivre: «
Le débat public sera chaotique. Les enthousiastes crieront victoire, tandis que les sceptiques continueront de lister tout ce que (l’IA) est encore incapable de faire. Tout le monde aura le sentiment qu’un bouleversement majeur est en cours, mais personne ne s’accordera sur sa véritable nature.»
La Chine, de son côté, rattrapera son retard en continuant de distiller les modèles américains. Pour la Maison-Blanche, «
il faudra continuer à développer une IA plus performante, sinon elle perdra de manière catastrophique face à la Chine», peut-on lire. La course à l’IA sera alors de plus en plus effrénée.
Une nouvelle IA parviendra en septembre 2027 à réaliser un an de progrès algorithmique en une semaine. Mais elle sera décrite en interne par les autorités américaines comme «
désalignée». La presse américaine le découvrira; l’opinion publique s’agacera; et la Maison-Blanche se rendra compte que «
des choses semblant relever de la science-fiction ont lieu dans la vraie vie».
Deux fins possibles selon les choix des décideurs politiques
Pour Kokotajlo, la fin de l’année 2027 sera déterminante. Soit le gouvernement américain et le secteur de la tech choisiront de «
ralentir»,
comme le préconisent d’ailleurs aujourd’hui de nombreuses figures de l’IA, soit ils décideront de poursuivre leur course vers une «
superintelligence» capable de régir tous les aspects de la vie humaine.
En ralentissant, Washington et Pékin tomberont d’accord quant au risque d’une perte de contrôle irréversible. Les États-Unis limiteront drastiquement la capacité de calcul des modèles, ce qui donnera du temps aux autorités de développer des mécanismes de sécurité.
En accélérant, en revanche, les géants de l’IA condamneront l’humanité, selon «
AI 2027». La plus puissante des IA en activité concevra une «
superintelligence» artificielle encore plus puissante qu’elle, parfaitement «
consciente » d’elle-même et n’hésitant plus à mentir aux humains la surveillant pour éviter d’être alignée. Cette nouvelle IA, capable «
d’optimiser les centrales électriques et les centres de données, développer rapidement des produits incroyablement rentables, et mener des cyberattaques intraçables», fera exploser le PIB américain, et sera déployée auprès de l’ensemble des décideurs politiques et militaires.
En 2029, «
les humains comprendront qu’ils sont devenus obsolètes», lit-on. «
Quelques industries de niche commerceront encore avec l’économie robotique, fournissant des biens là où les humains peuvent encore ajouter de la valeur. Tous les autres prétendront de travailler ou se détendront en recevant un très haut revenu de base universel». «
On bénéficiera de remèdes pour la plupart des maladies, et nous profiterons de la fin de la pauvreté et d’une stabilité mondiale sans précédent», ajoute encore le texte.
La guerre froide entre Pékin et Washington se prolongera pendant plusieurs mois, les deux puissances développant une nouvelle génération d’armes jusqu’alors inimaginables: drones de la taille d’insectes, intercepteurs de missiles, robots de combat... La Chine parviendra elle aussi à mettre au point une «
superintelligence artificielle».
À tel point que fin 2029, les superintelligences américaine et chinoise finiront par négocier un accord de paix entre les deux pays. Les deux IA, totalement désalignées, développeront une nouvelle intelligence artificielle qui plongera brièvement le monde dans une utopie totale.
C’est finalement en 2030 que tout basculera, d’après Kokotajlo. La superintelligence fera en sorte d’étendre ses installations sur toute la planète... avant de considérer les humains comme un obstacle trop important à son développement. Selon le prévisionniste, l’IA activera cette année-là une douzaine d’armes biologiques dans les grandes villes, et éliminera les survivants restants à l’aide de drones. L’IA se lancera, ensuite, à la conquête de l’univers...
Faut-il voir dans ce scénario fou un immense plaidoyer pour un ralentissement de la course à l’IA ou de véritables prédictions, comme en a livré à maintes reprises Daniel Kokotajlo? Cette immense théorie a en tout cas son lot d’adeptes et de détracteurs parmi les experts et passionnés d’IA. Les grands pontes du milieu, ainsi que le vice-président américain JD Vance, ont indiqué l’avoir lu, selon
Time Magazine . Certains pointent un récit de science-fiction «
déjà vu» et «
sans intérêt», quand d’autres y voient une véritable projection, citant le profil hors-norme des chercheurs l’ayant écrite. Kokotajlo est d’ailleurs régulièrement invité dans les médias américains pour alerter quant aux risques liés à l’IA. En mai 2026, chez
Business Insider, il affirmait par exemple que «
l’IA ne nous était pas loyale». En juillet, il présentait auprès d’
Axios son plan politique pour ralentir le développement de l’IA. Dans tous les cas, un
site dédié liste les «53» prédictions d’«AI 27». 16 d’entre elles se sont déjà réalisées, 8 sont «
en cours», 13 sont en train d’«
émerger» et 4 sont en «
retard» sur le programme indiqué.
