Bill Gates et l'alerte sur l'IA : pourquoi l'autorégulation ne suffit pas

Bill Gates n'utilise pas souvent des mots à la légère. Lorsque le cofondateur de Microsoft qualifie l'intelligence artificielle de "la chose la plus dangereuse à laquelle les êtres humains aient jamais été confrontés", le marché devrait s'arrêter pour écouter. Et pas seulement par respect pour la biographie de l'individu, mais pour ce que cette déclaration révèle sur l'état actuel de la course à l'IA.

Dans une interview accordée au New York Times, Gates est allé au-delà de l'alarmisme générique. Il a tracé un parallèle direct entre l'absence de réglementation pour les modèles avancés d'IA et des scénarios concrets de risque : des cyberattaques à grande échelle et l'utilisation de la technologie pour aider à la création d'armes biologiques. La question qu'il pose est dérangeante : faudra-t-il attendre "des millions de morts" pour que des mécanismes obligatoires de supervision soient mis en place ?

Le problème de l'autorégulation dans l'intelligence artificielle

La position de Gates entre en collision directe avec l'approche adoptée par le gouvernement de Donald Trump aux États-Unis. Des figures comme David Sacks, conseiller du gouvernement en matière de technologie, et Jensen Huang, PDG de Nvidia, soutiennent que le secteur est capable de s'autoréguler, et que l'imposition de règles anticipées pourrait freiner l'innovation américaine face à la Chine.

Gates rejette cette logique avec une analogie simple : les médicaments, les avions et les automobiles doivent répondre à des exigences de sécurité rigoureuses avant d'arriver au consommateur. Personne ne suggère que l'industrie pharmaceutique devrait s'autoréguler et être tenue responsable uniquement après un désastre. Pourquoi l'IA serait-elle différente ?

L'argument prend du poids lorsque l'on observe ce qui se passe déjà avec les modèles open source. Selon Gates, ces outils peuvent être adaptés pour désactiver les mécanismes de surveillance et aider à des activités dangereuses. Ce n'est pas de la science-fiction. C'est une capacité technique déjà existante. Comme nous l'avons analysé dans notre couverture des avancées en IA, la vitesse de développement des modèles dépasse la capacité de réglementation des gouvernements.

Pourquoi le marché sous-estime les risques de l'IA

Gates a fait une autre observation qui mérite d'être notée : la perception du risque lié à l'IA reste "extrêmement basse" en dehors du secteur lui-même. Les universitaires, les centres de recherche, les décideurs politiques et les politiciens n'ont pas encore mesuré ce qui est en jeu. Cela crée une asymétrie dangereuse.

Du côté des investisseurs, l'optimisme domine. Les actions des grandes entreprises technologiques américaines ont accumulé une valorisation significative au cours des deux dernières années, entraînées par le récit selon lequel l'IA générative va transformer la productivité mondiale. Et cela va probablement se produire. Mais le marché évalue la promesse et ignore le risque de queue.

Ce risque de queue a un nom : événement réglementaire abrupt. Si un incident grave impliquant l'IA se produit avant qu'il n'existe un cadre réglementaire, la réponse politique tend à être disproportionnée et punitive. Il suffit de regarder l'historique des réglementations dans le secteur financier après la crise de 2008. Lorsque le législateur agit sous pression publique, les résultats sont rarement équilibrés.

Ce qui est en jeu pour ceux qui investissent dans la technologie

La déclaration de Gates n'est pas isolée. Elle s'ajoute à un chœur croissant de voix au sein de l'industrie elle-même qui demandent une forme de supervision. Geoffrey Hinton, considéré comme l'un des pères du deep learning, a quitté Google en 2023 précisément pour pouvoir parler ouvertement des risques existentiels de l'IA. Dario Amodei, PDG d'Anthropic, plaide pour des tests de sécurité obligatoires avant le lancement de modèles de pointe.

Ce qui distingue la position de Gates est la clarté sur le mécanisme. Il ne demande pas que l'IA soit freinée. Il demande que des garanties soient exigées avant, et non après un désastre. C'est la différence entre la réglementation préventive et la réglementation réactive.

Pour les investisseurs, cela a des implications pratiques. Les entreprises qui investissent déjà dans la sécurité et l'alignement de l'IA, comme Anthropic et le propre bras de recherche de Microsoft, pourraient être mieux positionnées si la réglementation avance. En revanche, les entreprises qui fonctionnent avec des marges serrées et des modèles ouverts sans gouvernance claire pourraient faire face à des coûts de conformité significatifs.

Un autre point pertinent est l'impact sur le marché du travail. Nir Bar Dea, cité dans la même série d'interviews, estime que l'IA pourrait retirer 18 % des Américains du marché du travail si les gouvernements et les entreprises ne se préparent pas. Ce n'est pas un chiffre trivial. Et cela renforce la thèse selon laquelle l'IA va générer de la valeur, mais aussi concentrer des risques sur des populations et des secteurs spécifiques.

Régulation de l'IA et effet domino sur les cryptos et les fintechs

Le débat sur la régulation de l'IA a des parallèles directs avec ce que le marché des cryptomonnaies a vécu ces dernières années. La résistance à la régulation, suivie d'effondrements comme celui de FTX, a entraîné une vague réglementaire qui a redessiné le secteur. Comme nous l'avons discuté dans notre analyse sur la régulation des cryptos, le schéma est récurrent : l'innovation sans supervision génère une crise, la crise génère une réglementation lourde.

Pour les fintechs et les entreprises qui intègrent l'IA dans les services financiers, la question est encore plus sensible. Les modèles de crédit basés sur l'IA, les robots d'investissement et les systèmes de détection de fraude dépendent d'algorithmes qui, s'ils sont mal supervisés, peuvent causer des dommages systémiques. La convergence entre l'IA et les services financiers élargit la surface de risque.

Gates a eu raison de poser la question en termes simples : il ne s'agit pas d'être contre l'innovation, mais d'exiger que l'innovation vienne avec une responsabilité intégrée. Le problème est qu'à ce jour, l'incitation économique pointe dans la direction opposée. Celui qui arrive le premier sur le marché capture de la valeur. Celui qui s'arrête pour tester la sécurité perd en vitesse.

La question qui reste pour les investisseurs, les régulateurs et la société est la même que celle que Gates a posée : allons-nous attendre le désastre pour agir, ou allons-nous construire les protections tant qu'il est encore possible ? La réponse à cette question définira la forme de l'industrie technologique dans la prochaine décennie.