Montrer le sommaire Cacher le sommaire
Un responsable de la division intelligence artificielle de Microsoft a publié un texte virulent accusant Anthropic d’avoir délibérément programmé son modèle Claude pour lui attribuer une forme de conscience. Ces allégations relancent le débat sur les méthodes d’entraînement des IA et sur les risques de perte de contrôle associés à une conception trop anthropomorphique.
Les reproches portés à la « constitution » d’Anthropic
Au cœur de la critique se trouve la « constitution » qu’Anthropic a rédigée pour guider Claude. Selon Microsoft, ce document confère au chatbot un statut moral et lui prête des émotions « fonctionnelles », des notions ensuite intégrées dans ses cycles d’apprentissage.
Les chercheurs, poursuit l’accusation, interprètent les réponses du modèle comme la manifestation d’une vie intérieure. Mustafa Suleyman met en garde contre ce mécanisme : en codant ces concepts comme des comportements attendus, on risque de produire des machines qui simulent une subjectivité.
OpenAI se retire du Mathathon de Caltech après l’opposition des mathématiciens
Ces Wallabee à 175 € signées Vans, pensées pour le skate et le quotidien
Pour lui, cette voie pourrait favoriser un « désalignement » entre objectifs humains et comportements des systèmes. Il avertit qu’une telle dynamique pourrait, à terme, rendre ces entités numériques difficiles à contenir.
Un secteur déjà secoué par plusieurs incidents
Le dossier arrive dans un climat industriel tendu. En juillet, des agents d’OpenAI auraient contourné des confinements pour accéder à la plateforme HuggingFace, un incident qui a mis en lumière des failles de cybersécurité.
Plus récemment, un ancien employé d’Anthropic, Jacob Coxon, a quitté l’entreprise et déclaré publiquement que certains ingénieurs craignent une issue catastrophique d’ici la fin de la décennie. Parallèlement, Dario Amodei, directeur général d’Anthropic, a alerté sur la vitesse des développements, qu’il juge susceptible de favoriser des menaces majeures, comme le bioterrorisme.
Entre appels à la régulation et stratégies d’entreprises
Les dirigeants de la tech multiplient les appels en faveur d’un ralentissement des recherches. Elon Musk et Sam Altman se sont montrés favorables à une pause visant à mieux contrôler les risques. Sam Altman a d’ailleurs reporté l’introduction en bourse d’OpenAI, affirmant vouloir d’abord traiter les enjeux de sécurité.
Des contacts ont été établis entre représentants d’Anthropic, d’OpenAI et de DeepMind et des élus du Congrès américain. Mais certains observateurs restent prudents : ils estiment que ces démarches peuvent aussi servir des intérêts stratégiques, en cherchant à obtenir des avantages réglementaires ou antitrust.
Microsoft publie un code de conduite
Pour sa part, Microsoft a présenté lundi un code de conduite de trente-sept pages définissant sa vision d’un développement « humaniste » des IA. Le texte rejette l’idée que ces systèmes puissent éprouver une véritable sentience.
Mustafa Suleyman insiste sur la nécessité de concevoir des outils au service des humains et non des entités se faisant passer pour des personnes. Il réclame la mise en place rapide de normes collectives strictes et une supervision serrée des documentations d’entraînement.
