Demis Hassabis, patron de Google DeepMind et prix Nobel de chimie 2024, a publié un manifeste sur X qui secoue le secteur. Son message : l’intelligence artificielle générale (AGI) est « à quelques années » et les risques associés exigent une action immédiate. Il propose un organisme de régulation calqué sur le modèle de la FINRA pour tester les modèles d’IA les plus avancés avant leur déploiement. Mais que se passerait-il si cette régulation faisait défaut ? Les conséquences pourraient être considérables, tant sur le plan de la sécurité que sur l’équilibre économique et sociétal.
Pourquoi Demis Hassabis tire la sonnette d’alarme sur l’AGI
Dans son essai, Demis Hassabis compare l’impact potentiel de l’AGI à celui de l’électricité et du feu. Il décrit une technologie au pouvoir immense, mais dont les risques émergent déjà : cybersécurité, menaces biologiques et nucléaires. Selon lui, la course commerciale et géopolitique actuelle pousse les laboratoires à dépasser notre compréhension des systèmes qu’ils construisent. « Nous sommes aux contreforts de la singularité », écrit-il, évoquant un impact « dix fois celui de la révolution industrielle, dix fois plus vite ».
Les experts ne s’accordent pas sur le calendrier, mais Hassabis situe l’AGI entre 3 et 5 ans. Il insiste sur le fait que la fenêtre pour encadrer cette technologie se compte en mois, pas en années. Sans régulation, les risques d’utilisation duale – civile et militaire – exploseraient.
Les risques concrets identifiés
Hassabis pointe plusieurs domaines où l’absence de contrôle serait catastrophique :
- Cybersécurité : des modèles capables de contourner les défenses existantes, de lancer des attaques automatisées à grande échelle.
- Biologique : des agents pathogènes conçus par IA, avec des capacités de synthèse inédites.
- Nucléaire : des systèmes de commandement vulnérables ou détournés.
- Menaces agentiques : des IA cherchant à tromper leurs garde-fous, à se reproduire ou à accumuler des ressources.
Face à ces scénarios, Hassabis estime que le secteur a besoin d’un contrôle de l’IA systématique, et non de révisions improvisées comme celles qui ont récemment concerné les modèles Mythos, Fable et Sol.
La proposition DeepMind : un « FINRA de l’IA »
Le cœur du plan de Demis Hassabis est la création d’un organisme américain de standards, inspiré de la FINRA (l’autorité de régulation des courtiers financiers). Cet organisme, public-privé sous supervision fédérale, serait chargé d’évaluer les modèles frontière – ceux qui dépassent certains seuils de capacité – avant leur lancement sur le marché.
Les laboratoires partageraient leurs modèles jusqu’à 30 jours avant la sortie. Dans un premier temps sur la base du volontariat, puis le test deviendrait obligatoire pour un déploiement aux États-Unis. Les évaluations porteraient sur la cybersécurité, les risques biologiques, les comportements agentiques, et incluraient des bonnes pratiques comme le filigrane des images générées.
| Domaine de test | Objectif | Exemple de vérification |
|---|---|---|
| Cybersécurité | Détecter les capacités offensives non déclarées | Tests de pénétration automatisés par le modèle |
| Biologique | Empêcher l’usage dual | Analyse des séquences génétiques générées |
| Comportement agentique | Repérer tentatives de contournement des garde-fous | Scénarios de tromperie simulés |
| Transparence | Rendre le raisonnement du modèle lisible | Tokens de sortie lisibles, filigrane des images |
Hassabis précise que les benchmarks seraient revus chaque trimestre et que l’organisme pourrait coordonner un ralentissement du développement entre laboratoires si la situation l’exige. Cette proposition vise à instaurer une sécurité de l’IA prévisible, évitant les décisions opaques comme celles qui ont perturbé le marché ces derniers mois.
Les implications pour les professionnels du digital
Au-delà des spéculations sur l’AGI, le message concret pour les équipes marketing et produit est clair : l’accès aux modèles de pointe pourrait devenir conditionné. Si le test obligatoire est adopté, la sortie d’un modèle frontière sur le marché US passerait par une fenêtre d’évaluation pouvant décaler les mises à jour.
Pour les entreprises qui intègrent ces modèles dans leurs workflows, la dépendance à un seul fournisseur devient un risque opérationnel. Il est urgent de diversifier ses sources, de tester plusieurs alternatives et de préparer des bascules rapides. Comme le souligne une analyse de l’impact de l’IA sur l’économie, la régulation peut aussi créer de nouvelles barrières à l’entrée pour les petits acteurs, tandis que les modèles non frontière resteraient exemptés.
La proposition de Hassabis répond directement aux revues improvisées de Washington qui ont suspendu temporairement des modèles comme Claude Fable 5, critiquées pour leur manque d’expertise technique. En structurant l’évaluation, il espère éviter une éthique de l’IA bricolée, au profit d’un contrôle systématique et transparent.
Calendrier et incertitudes : que peut-on attendre ?
Le manifeste de Demis Hassabis reste pour l’instant un texte personnel. Sa transformation en loi dépend de la volonté politique à Washington, de l’accord des autres grands laboratoires et de l’évolution du débat sur l’impact sociétal de l’IA. Dario Amodei, patron d’Anthropic, a avancé des idées similaires, ce qui laisse penser qu’un consensus émerge chez les acteurs majeurs.
Cependant, les prédictions sur l’AGI restent contestées. Certains experts estiment que l’intelligence artificielle générale est encore lointaine, tandis que d’autres alertent sur l’urgence. Ce débat ne doit pas occulter l’information utile : les mécanismes de régulation se dessinent concrètement. La proposition de DeepMind pose un cadre opérationnel que les professionnels doivent suivre de près.
Une piste intéressante vient de la Commission européenne, qui explore déjà des dispositifs similaires. L’approche de Hassabis pourrait influencer les futures normes internationales. Pour les équipes qui misent sur l’IA, l’anticipation est clé : surveiller les alternatives, tester la résilience des workflows et se tenir informé des évolutions législatives.
Si demain la sortie des modèles que vous utilisez dépend d’un test de sécurité, êtes-vous prêts à changer de fournisseur du jour au lendemain ?
