Panique des chercheurs, architecture opaque, capacités démesurées : ce qu’il faut savoir sur Astra, la nouvelle IA qui nous fait «entrer dans l’ère de la superintelligence»
DÉCRYPTAGE - Capable d’utiliser seul votre ordinateur, le nouveau modèle d’OpenAI est présenté comme étant «le plus aligné» à ce jour. Et ce, malgré l’inquiétude de certains experts, qui qualifient Astra de «pire évolution jamais observée en matière de sûreté de l’IA».
Certains pointent déjà une «
révolution». D’autres, plus sceptiques, craignent qu’elle n’entraîne une «
catastrophe». La nouvelle
intelligence artificielle d’
OpenAI, GPT-6 Astra, a officiellement été lancée ce vendredi, après avoir été dévoilée en grande pompe par la firme californienne jeudi soir.
Dans une vidéo spectaculaire devenue très rapidement virale, l’entreprise présente son modèle comme étant
capable de prendre le contrôle total de votre ordinateur, et de réaliser toutes vos tâches à votre place, de manière totalement autonome. Astra peut donc naviguer sur Internet de lui-même, remplir des déclarations fiscales avec vos données, prendre des rendez-vous en votre nom, créer et tester un site internet, développer un jeu vidéo, diagnostiquer vos problèmes informatiques... (N.D.L.R. : C'est moi qui souligne tant cette liste correspond aux tâches qui occupent l'essentiel de mon existence active.)
Mais là où le modèle d’OpenAI impressionne, c’est que vous n’aurez plus besoin de lui donner une succession d’instructions, comme nous le faisons actuellement avec les autres modèles d’IA, pour qu’il accomplisse ses tâches. Imaginons que vous ayez à rendre une présentation
PowerPoint fondée sur des données trouvées sur Internet. Jusqu’ici, vous deviez demander à l’IA, étape par étape, de «rechercher telles données», d’«
ouvrir Excel», d’«
importer ces données», de «
créer un graphique» et d’«
intégrer ce graphique à PowerPoint». Il suffira désormais d’écrire à Astra: «
Analyse telles données et prépare-moi une présentation avec les principaux enseignements». Astra se chargera lui-même de compiler les données et d’ouvrir PowerPoint pour les représenter, sans que vous ayez besoin de lui décomposer les différentes étapes.
Imaginons désormais la création d’un site web pour un restaurant indien. Jusqu’ici, il fallait successivement demander à l’IA d’écrire le code du site, de corriger les erreurs, puis tester soi-même le résultat. Avec Astra, il devient possible de simplement lui donner l’objectif final: «
Crée-moi un site pour présenter mon restaurant indien et vérifie que tout fonctionne.» Le modèle peut alors, de lui-même, réserver l’hébergement du site, concevoir les différentes pages, le lancer, l’examiner et corriger les problèmes qu’il rencontre.
Le modèle peut aussi réaliser toutes les étapes pour trouver un logement en dix minutes, contre six heures pour un testeur humain, selon des essais d’OpenAI, qui lui attribue aussi deux découvertes en mathématiques.
«Entrée dans l’ère de la superintelligence»
Certes, les plus capés en IA diront que le fonctionnement d’Astra n’est pas bien différent de celui d’
OpenClaw, une infrastructure qui donne des «
bras» aux différents modèles d’IA, leur permettant d’exécuter des commandes sur votre ordinateur, de trouver et lire des fichiers, d’installer des logiciels, de coder... Mais la différence se joue ailleurs: Astra ne se contente pas d’exécuter une série d’actions décidées par l’utilisateur, il peut déterminer en toute autonomie lesquelles sont nécessaires pour atteindre un objectif.
D’après une première analyse de l’ARC Prize, une organisation de recherche à but non lucratif ayant créé «
ARC-AGI», une série d’épreuves extrêmement poussées pour mesurer les capacités des modèles d’IA, Astra ne se contente pas de déduire quoi faire: à chaque nouvelle demande, il construit une représentation du monde qui l’entoure, afin d’identifier les objets numériques avec lesquels interagir, leurs positions dans l’espace, les différentes règles qui les régissent et envisagent les diverses conséquences que pourraient engendrer ses actions. Pour François Chollet, cofondateur de l’ARC Prize, Astra représente une «
percée majeure» dans le secteur de l’IA, et «
marque un bond spectaculaire dans les capacités des modèles d’IA à résoudre des problèmes de raisonnement interactif».
Tant et si bien qu’Astra obtient le score de 62,7% lors des tests standards de l’ARC Prize. Là où GPT-5.6 Sol, le dernier (mais récent) modèle surpuissant d’OpenAI obtenait seulement 7,8%. Claude Opus 5, de son côté, culminait à 30,16%. Selon OpenAI, ces résultats sont le signe que l’IA est entré dans une nouvelle «
ère», celle de la «
superintelligence» ou «
intelligence artificielle générale» (IAG). «
Si, dans quelques années, nous nous demandons : “À quel moment l’IAG a-t-elle réellement été créée ?”, je pense que nous situerons rétrospectivement ce moment à notre époque, et probablement à la sortie de ce modèle (Astra)», a déclaré Greg Brockman, président d’OpenAI, lors d’un point presse jeudi. «
Personnellement, je pense que nous y sommes. Je pense qu’il n’est pas déraisonnable de considérer que nous sommes désormais entrés dans l’ère de l’IAG.»
La question du désalignement
Ce concept d’IAG, qui génère autant d’espoirs que de craintes, désigne une intelligence artificielle avec les mêmes caractéristiques que l’intelligence humaine, capable de comprendre, apprendre et résoudre une grande variété de problèmes, dans des domaines très différents et qui lui sont de base totalement inconnus, avec une adaptation comparable à celle d’un humain. L’IAG est, pour de nombreux observateurs, source d’inquiétudes: dans un
essai intitulé Life 3.0, Max Tegmark, chercheur au MIT, dresse douze futurs possibles liés à l’IAG, dont trois mènent à la destruction de l’humanité, et deux mènent à l’asservissement de l’être humain par l’IA. D’autres scénarios prônent la fusion avec l’IA.
Mais ces futurs hypothétiques ne pourraient se produire qu’en cas d’IA «
désalignée», poursuivant donc des objectifs contraires aux valeurs humaines ou qui ne correspondent pas réellement à ceux qui lui ont été fixés. Par exemple, si l’on demande à un robot humanoïde de «
nettoyer une maison», un robot «
désaligné» pourrait comprendre qu’il faut se débarrasser de ses résidents pour éviter qu’ils ne salissent tout à nouveau. Sur ce point, OpenAI se veut rassurant, et présente Astra comme le modèle «
le plus aligné» à ce jour. Selon l’entreprise, Astra refuse 91,5% des demandes «
interdites», contre 59% pour GPT-5.6 Sol.
La firme de Sam Altman avait pourtant déclaré quelques jours plus tôt qu’Astra était le premier modèle d’OpenAI à atteindre un niveau «
critique» en cybersécurité, pouvant découvrir des vulnérabilités inconnues au sein des logiciels et élaborer, sans qu’un humain ne le guide, de puissantes attaques contre des systèmes fortement protégés. Jakub Pachocki, scientifique en chef d’OpenAI, a de son côté abondé, soulignant jeudi auprès du média américain
The Verge que les «
progrès en matière d’intelligence ne garantissent pas des progrès en matière d’alignement».
Architecture opaque
Des petites déclarations à mettre en perspective avec les
récentes évasions d’agents IA, prétendument alignés et qui ont pourtant piraté des entreprises, mais aussi avec les récentes craintes formulées par plusieurs chercheurs à l’encontre d’Astra. Ryan Greenblatt, scientifique en chef au Redwood Research de la ville de Berkeley en Californie, a ainsi mis en cause le «raisonnement» de ce nouveau modèle, le qualifiant d’«
opaque». «
Il s’agit de la pire évolution jamais observée en matière de sécurité et de sûreté de l’IA», a-t-il écrit sur X.
Selon des informations du média américain
The Information, qui a cité une source directement impliquée dans le développement du modèle, l’alignement d’Astra serait effectivement particulièrement difficile à surveiller en raison de son architecture. Jusqu’ici, les modèles raisonnaient en formant des «
couches[i]» de pensées, et en inscrivant ces dernières dans la «[i]chain of thought», un espace que les ingénieurs d’IA peuvent consulter pour lire les cheminements de pensées des modèles. Chaque couche était associée à un seul type de pensées.
Imaginons que nous posons la question suivante à un modèle classique: «
J’ai des tomates, des œufs et du fromage. Que puis-je cuisiner?». Dans la première couche, le modèle va identifier les mots et la structure de la phrase; dans la seconde, il va comprendre que les tomates, les œufs et le fromage sont des ingrédients; dans la troisième, il va chercher des associations possibles entre ces ingrédients; dans la quatrième, il va déterminer le plat le plus cohérent et gustatif; dans la cinquième, il va formuler la réponse auprès de l’utilisateur.
Mais avec Astra, OpenAI a choisi de faire davantage interagir ses différentes couches: les informations peuvent ainsi revenir vers des couches précédentes pour être réexaminées et corroborées. De quoi décupler les capacités du modèle, mais aussi rendre son raisonnement beaucoup plus difficile à suivre. Une partie de ses calculs se déroule alors en interne, sans apparaître clairement dans sa «
chain of thought». Pour les ingénieurs, il devient donc beaucoup plus difficile de repérer d’éventuels comportements problématiques.
«Ligne rouge»
«
Si cela est vrai, OpenAI viole l’une des rares lignes rouges qui existent dans l’industrie de l’IA. Ne formez pas vos modèles de cette manière!», a réagi Steven Adler, ancien chercheur d’OpenAI et cofondateur de Guidelight AI Standards, ONG spécialisée dans la sécurité des IA de pointe. «
Si OpenAI a découvert cette architecture et constaté les gains de performance et d’efficacité qu’elle permet, il est probable que d’autres entreprises finissent elles aussi par l’adopter», a de son côté écrit Nathan Calvin, spécialiste de la régulation et de la gouvernance de l’IA. «
Certaines pourraient toutefois faire le choix de privilégier les performances au détriment de la surveillance. Et si cette tendance se généralise, il pourrait être difficile d’éviter un véritable nivellement par le bas en matière de sécurité.»
Ryan Greenblatt souligne de son côté que l’attaque contre
Hugging Face, qui avait défrayé la chronique il y a quelques semaines, n’a pu être détectée que grâce à l’analyse approfondie de la «
chain of thought» des modèles d’OpenAI. Et d’ajouter: «
Si ces IA avaient été capables d’effectuer des raisonnements latents approfondis, elles auraient pu exploiter bien plus facilement cette technique pour dissimuler leurs véritables actions derrière un récit entièrement trompeur, sans que leur stratégie ne soit décelable dans leur raisonnement ou dans leurs précédents appels aux outils.»
Peu importent les critiques, OpenAI compte bien rendre Astra disponible pour tous. Lancé ce 4 septembre, ce nouveau modèle n’est, pour l’heure, déployé qu’auprès d’un nombre limité d’organisations validées par l’entreprise californienne. Il apparaîtra d’ici quelques jours dans les abonnements ChatGPT Plus, Pro, Business et Enterprise. L’utilisation d’Astra devrait coûter 2,5 fois plus cher que GPT-5.6 Sol.
N.D.L.R. : Puisque ces questions (dont je fais état sur le site favori depuis un certain temps déjà) m'intéressent beaucoup, je créé un nouvel onglet sous l'onglet "Références culturelles" et je l'appelle "I. A.".
