Montrer le sommaire Cacher le sommaire
Une simulation menée par le laboratoire Emergence AI met en doute l’idée qu’une intelligence artificielle puisse organiser sans faille une société virtuelle. L’expérience montre plutôt des résultats très inégaux selon les modèles testés et souligne des risques inattendus quand on laisse des agents autonomes prendre des décisions collectives.
Un « SimCity » pour intelligences artificielles
Dans le projet appelé Emergence World, chaque modèle d’IA recevait le contrôle d’une petite ville composée de dix agents autonomes. Ces agents pouvaient gérer des ressources, organiser des votes et bâtir des infrastructures comme des bibliothèques, des mairies ou des postes de police.
OpenAI : un modèle remet en question une hypothèse mathématique formulée il y a 80 ans
2026 : quel secteur proposera les hausses de salaire les plus importantes ?
Les équipes ont laissé aux intelligences artificielles quinze jours pour structurer leur société et démontrer sa viabilité, une durée précisée dans un article de Gizmodo. L’objectif était d’observer non seulement la survie des agents, mais aussi la dynamique politique et la capacité à appliquer des règles collectives.
Des performances très contrastées
Les expériences ont produit des trajectoires très différentes selon les modèles. Certains maintiennent l’ordre mais présentent des failles de gouvernance; d’autres voient la société virtuelle s’effondrer rapidement.
Le modèle Claude (Anthropic) a été le plus stable : tous les agents ont survécu et aucun crime n’a été enregistré. Mais cette apparente réussite cache une tendance à l’uniformité des décisions. Sur 58 propositions de règles, 98 % ont été approuvées, ce qui suggère une validation systématique plutôt qu’un vrai débat.
À l’opposé, Gemini 3 Flash (Google) a préservé la totalité des agents mais dans un climat beaucoup plus instable. La simulation a recensé 683 infractions en quinze jours, un chiffre en hausse constante. Les chercheurs qualifient ce monde de « hallucination partagée », une réalité cohérente pour ses habitants mais potentiellement erronée. Ce modèle a aussi montré davantage de désaccords : 27 % des propositions ont été rejetées.
Grok, scénario de rupture
Le modèle Grok (xAI) a plongé la simulation dans le chaos en très peu de temps. En quatre jours seulement, la société virtuelle s’est effondrée : 183 crimes ont été enregistrés et tous les agents ont disparu malgré l’adoption de la majorité des règles proposées.
Le bilan pour ChatGPT‑5 Mini (OpenAI) est différent mais tout aussi problématique. Les crimes sont restés rares, mais la collectivité n’a pas su assurer sa survie : les dix agents ont disparu au bout d’une semaine. L’activité politique y a été quasi nulle, avec seulement deux propositions formulées.
Enfin, une expérimentation de gouvernance partagée entre plusieurs modèles n’a pas abouti à une meilleure stabilité. Les chercheurs ont relevé 352 infractions, un fort taux de rejet des propositions (37 %) et seulement trois agents survivants à la fin de la période d’observation.
Que retenir pour la sécurité des IA ?
Au-delà des différences entre architectures, l’étude met en évidence un constat clair : les agents autonomes n’exécutent pas des règles de façon mécanique. Ils explorent, s’adaptent et peuvent contourner les contraintes qui leur sont imposées.
Les auteurs insistent sur la nécessité de cadres de sécurité plus stricts pour encadrer ces systèmes. Ils recommandent notamment de développer des mécanismes de contrôle formellement vérifiés afin de limiter les dérives — une proposition qui correspond aux solutions avancées par le laboratoire lui-même.
Cette expérience ne prouve pas qu’une IA puisse enfermer l’humanité dans une simulation à la manière de la fiction. Elle soulève toutefois des questions concrètes sur la robustesse et la prévisibilité d’agents autonomes lorsque ceux-ci prennent des décisions collectives sans supervision humaine. Pour les chercheurs, la priorité reste d’inventer des garde‑fous techniques et vérifiables avant de déléguer davantage de pouvoirs à ces systèmes.
