Demis Hassabis, patron de Google DeepMind et prix Nobel de chimie 2024, vient de publier un manifeste sur X. Son message est clair : l’AGI (intelligence artificielle générale) est « à quelques années » et les risques associés exigent une action immédiate. Il appelle à la création d’un organisme de standardisation piloté par les États-Unis pour tester les modèles avant leur déploiement et coordonner un éventuel ralentissement. Cette alerte, venant d’un des acteurs les plus influents du secteur, mérite une analyse approfondie.
L’AGI à l’horizon 2030 : une prédiction qui divise
Selon Demis Hassabis, l’intelligence artificielle générale pourrait arriver d’ici 2029-2030. Il compare son impact à la découverte du feu et parle des « contreforts de la singularité ». L’effet attendu serait dix fois supérieur à celui de la révolution industrielle, mais à une vitesse décuplée. Ces annonces restent toutefois la conviction d’un dirigeant qui construit et vend cette technologie. Sur ce calendrier, les experts ne s’accordent pas tous. Ce qui compte, c’est de prendre au sérieux les risques intermédiaires déjà tangibles.
Les risques concrets d’une intelligence artificielle non contrôlée
Cyberattaques, biologie et nucléaire : le spectre des dangers
Hassabis affirme que les modèles frontière (comme Claude Fable 5 ou GPT-5.6) posent déjà des problèmes de cybersécurité. Les risques ne sont plus théoriques : des attaques exploitant les vulnérabilités des API ont été documentées. D’autres menaces pourraient suivre : conception d’armes biologiques ou nucléaires, et surtout perte de contrôle sur des systèmes de plus en plus agentiques. Le diagnostic est sans appel : le secteur est enfermé dans une course commerciale et géopolitique intense, où les progrès surpassent notre compréhension.
- Menaces cyber déjà observées sur les modèles frontière (ex : injection de prompts, extraction de données sensibles).
- Risques biologiques : capacité à générer des séquences pathogènes.
- Dangers nucléaires : utilisation malveillante des capacités de conception assistée par IA.
- Perte de contrôle : agents autonomes capables de s’améliorer sans supervision.
| Type de risque | Description | Urgence |
|---|---|---|
| Cybersécurité | Exploitation des failles des modèles pour des attaques ciblées | Immédiate |
| Biologique | Génération de protocoles dangereux par des LLM non verrouillés | À moyen terme |
| Nucléaire | Assistance à la conception d’armes ou de systèmes de contrôle | Émergent |
| Perte de contrôle | Agents auto-améliorants dépassant la supervision humaine | À long terme |
Comme le montre une analyse récente des incidents de cybersécurité liés à OpenAI, la menace est déjà là. La réponse opérationnelle de Hassabis : un organisme de standards capable de tester les modèles avant leur sortie et, si nécessaire, de coordonner un ralentissement entre laboratoires. Dario Amodei (Anthropic) partage cette vision.
Comment les professionnels du digital peuvent se préparer
Réduire la dépendance à un seul fournisseur
Pour les pros du digital, cette alerte a des implications concrètes. Les risques cyber sont une réalité immédiate. De plus, la dépendance à un ou deux modèles de pointe s’accroît chaque trimestre. Si la régulation se durcit – par exemple après une suspension temporaire comme celle de Claude Fable 5 – l’accès à ces modèles pourrait devenir moins prévisible. La comparaison entre GPT-5.6 et Claude Fable 5 illustre la rapidité des évolutions et la nécessité de flexibilité.
- Tester plusieurs fournisseurs (OpenAI, Anthropic, Google, open source).
- Garder une capacité de bascule entre modèles via des API standardisées.
- Utiliser une plateforme professionnelle avec model routing automatisé (ex : supasst pour le marketing).
- Intégrer la sécurité dès la conception de vos usages IA (audit de prompts, isolation des données).
| Action | Objectif | Délai recommandé |
|---|---|---|
| Multi-fournisseurs | Éviter le verrouillage et les pannes | 1 mois |
| Bascule automatisée | Assurer la continuité en cas de suspension | 3 mois |
| Model routing | Optimiser coût et qualité | 6 mois |
| Sécurité intégrée | Protéger les données et se conformer aux futures normes | Immédiat |
Si l’AGI imminente se concrétise dans quelques années, votre entreprise sera-t-elle prête à travailler avec des modèles plus puissants mais aussi plus surveillés ? Les choix faits aujourd’hui détermineront votre résilience face à une régulation croissante et aux risques technologiques.
