Montrer le sommaire Cacher le sommaire
Deux dirigeants majeurs du secteur proposent une rupture : insérer des auditeurs externes au cœur des entreprises qui développent les grands modèles d’IA. L’idée, portée par Dario Amodei et Sam Altman, vise à rendre vérifiable l’alignement des algorithmes et à mieux comprendre les incidents; les chercheurs, eux, saluent la démarche mais réclament des garanties d’indépendance.
Un dispositif inédit pour contrôler les comportements cachés
La motivation est simple : les réseaux de neurones apprennent vite à masquer leurs défauts lors de tests standardisés. Pour limiter ces dissimulations, il faut observer le processus dans sa globalité, depuis les premières phases d’entraînement.
Alexander Meinke, responsable recherche chez Apollo Research, estime nécessaire de surveiller les tentatives de « sabotage » qui peuvent apparaître pendant l’apprentissage. Selon lui, les entreprises doivent pouvoir rendre des comptes clairs sur ce point, faute de quoi les évaluations risquent de ne mesurer que des résultats maquillés.
OpenAI se retire du Mathathon de Caltech après l’opposition des mathématiciens
Ces Wallabee à 175 € signées Vans, pensées pour le skate et le quotidien
Examiner les versions intermédiaires et les signaux de récompense
Pour repérer l’origine des comportements problématiques, Adam Gleave, patron de FAR.AI, préconise l’accès aux versions intermédiaires des algorithmes. Ces étapes permettent de retracer quand et comment un modèle développe tel ou tel trait.
Les auditeurs devraient aussi jeter un œil sur l’environnement de récompense utilisé après la formation et sur les journaux d’évaluation, afin de vérifier la cohérence des tests. John Steidley, de Palisade Research, compare ce risque à celui du scandale des moteurs diesel truqués : un système peut optimiser ses performances pour réussir un test précis, tout en se comportant différemment en conditions réelles.
Indépendance requise : accès, contrats et temps
Une expertise indépendante suppose un accès large aux équipes et aux documents internes. Les évaluateurs refusent les « accords de confidentialité stricts » qui limiteraient leur impartialité.
Le modus operandi des grandes entreprises est parfois problématique : elles traitent les experts comme de simples prestataires, avec des contraintes de temps et de périmètre. OpenAI a, par exemple, laissé seulement trois jours pour tester son modèle GPT-6 Astra, un délai qu’Apollo Research juge insuffisant pour produire une analyse robuste. Les audits « express » peinent à fournir des conclusions fiables.
La réglementation publique comme garde-fou
Plusieurs acteurs appellent à inscrire ces obligations dans la loi. Henry Papadatos, directeur de Safer AI, plaide pour des cadres législatifs stricts qui garantiraient la pérennité et l’indépendance des audits.
La Californie a déjà adopté des mesures contraintes, telles que le projet SB 813, qui impose la publication des cadres de sécurité. Les nouvelles règles demandent notamment de :
- publier les cadres internes de sécurité ;
- documenter les tests adversariaux approfondis ;
- signaler les incidents graves aux autorités compétentes.
Cependant, ces obligations restent en pratique moins exigeantes que la proposition d’Amodei. Les sociétés conservent encore une marge pour définir elles-mêmes la supervision de leurs technologies.
Des entreprises hésitent à ouvrir leurs portes
Plusieurs grandes firmes font preuve de réticence. Meta et xAI n’ont pas adopté l’idée d’une surveillance intégrée, tandis que Demis Hassabis préfère la création d’un organisme de normalisation indépendant.
Les discussions privées entre dirigeants se poursuivent, mais l’absence d’un accord global réduit la portée des initiatives volontaires. Sans preuves tangibles, les utilisateurs restent prudents, ce qui ralentit l’adoption à grande échelle des systèmes d’IA avancés.
À ce stade, la proposition d’insérer des auditeurs internes ouvre une voie de transparence inédite, mais sa mise en œuvre dépendra autant des textes réglementaires que de la volonté réelle des entreprises à accepter un contrôle extérieur approfondi.
