Une pause dans l'IA favoriserait les entreprises dominantes, pas la sécurité, avertit un think tank

L'institut libertaire Cato avertit qu'une pause imposée par le gouvernement dans le développement de l'intelligence artificielle pourrait protéger les entreprises dominantes de la concurrence et retarder des technologies bénéfiques, alors que les législateurs et les dirigeants de l'IA plaident pour des restrictions.

Dans un article de blog publié lundi, Jennifer Huddleston, chercheuse en politique technologique au think tank, a soutenu que les entreprises peuvent aborder des dangers spécifiques grâce à des mesures de protection volontaires et des normes partagées sans arrêter le développement dans l'ensemble de l'industrie.

"Une pause imposée par le gouvernement soulèverait plusieurs préoccupations et échouerait probablement à réaliser les améliorations de sécurité alléguées," a-t-elle écrit, ajoutant que les règles gouvernementales sont lentes à rédiger et encore plus lentes à changer. "Un cadre réglementaire construit pour les modèles d'aujourd'hui pourrait entraver activement ceux de demain, empêchant ce qui pourrait être de meilleures ou plus sûres réponses."

Huddleston reconnaît les risques de l'IA mais avertit que des règles façonnées autour des principaux développeurs pourraient les aider à consolider leur pouvoir et à limiter la concurrence - une forme de capture de marché qui rendrait plus difficile la concurrence pour les petites entreprises. Elle soutient également que la pause du développement aux États-Unis pourrait affaiblir les défenses en cybersécurité tandis que des rivaux étrangers continuent d'avancer.

Ses commentaires font suite à une proposition du sénateur Bernie Sanders et du représentant Greg Casar de suspendre le développement avancé de l'IA jusqu'à ce que des normes de sécurité fédérales soient établies et d'interdire définitivement l'intelligence artificielle superintelligente, tandis que le PDG d'OpenAI, Sam Altman, a soutenu un développement plus lent et a exhorté les entreprises à renforcer les mesures de protection sans attendre les règles fédérales qu'il soutient.

"Beaucoup de ces appels sont accompagnés de scénarios apocalyptiques de science-fiction sur le pire qui pourrait arriver," a écrit Huddleston. "Pourtant, une précipitation à réglementer par peur pourrait avoir des conséquences négatives à long terme plus importantes que le risque qu'elle prétend aborder."

Le président et co-fondateur de Block, Jack Dorsey, a exprimé des préoccupations similaires concernant la concurrence dans un post sur X lundi.

"Les entreprises qui dirigent l'intelligence machine méritent d'être entendues. Elles ont une expertise et des intérêts commerciaux à protéger," a écrit Dorsey. "Des règles construites autour de leurs ressources pourraient les rendre les seules capables de participer. Une préoccupation sincère pour la sécurité peut encore produire une barrière à l'entrée."

Dorsey a déclaré qu'il favorisait des publications ouvertes que les chercheurs peuvent inspecter, modifier et tester, avec des évaluations et des limitations connues publiées afin que des tiers puissent contester les affirmations de sécurité des développeurs.

"Je soutiens l'examen. Je m'oppose à des limites à l'échelle de l'industrie négociées par les dirigeants d'aujourd'hui car elles pourraient exclure les personnes qui pourraient exposer des échecs ou construire des alternatives," a-t-il écrit. "Préserver l'avantage commercial d'une entreprise n'est pas un objectif de sécurité."

Dans son post, Dorsey a également déclaré qu'il soutenait des tests indépendants et une application responsable publiquement, y compris le retrait de modèles lorsque des preuves montrent que leur publication augmenterait matériellement les risques catastrophiques que des mesures plus étroites ne peuvent pas traiter adéquatement.

"Le calcul peut déclencher un examen sans limiter le développement. L'examen n'est pas une permission d'un régulateur ou d'un concurrent," a-t-il déclaré. "Je ne veux pas d'exigences d'approbation générales ou de périodes d'attente. Toute pause imposée sur la publication basée sur la sécurité doit être justifiée par l'exception de risque catastrophique."

Une récente analyse du Atlantic Council soutient que la pression concurrentielle exige des normes de sécurité de l'IA applicables, tandis que la méfiance entre les États-Unis et la Chine complique les accords internationaux. La coopération soulève également des préoccupations antitrust : OpenAI a demandé aux législateurs si les développeurs rivaux pouvaient légalement convenir de ralentir le développement.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.