Des pionniers de l'IA s'opposent à un resserrement total des modèles ouverts

Alors que les controverses sur la sécurité de l'IA s'intensifient, des médias étrangers rapportent que Geoffrey Hinton, Fei-Fei Li et Andrew Ng ont récemment abordé la question des modèles ouverts lors de la conférence Ai4 à Las Vegas. Bien que leurs positions ne soient pas entièrement alignées, ils s'opposent tous à ce que le développement de l'IA soit dominé par un petit nombre de grandes entreprises technologiques.

Opposition à la monopolisation par quelques entreprises

L'article indique que les trois chercheurs partagent une préoccupation commune : si l'IA est contrôlée par quelques entreprises, l'espace d'innovation pourrait être réduit. Andrew Ng a déclaré qu'il ne souhaitait pas voir l'émergence de "gardiens" dans le domaine de l'IA, car cela limiterait l'accès des développeurs, des entreprises et du public à l'IA.

Il estime que les grandes entreprises protégeront naturellement leurs avantages, ce qui pourrait influencer la formation des règles de l'industrie. Le résultat pourrait être que seules les entreprises les plus riches et les plus puissantes en calcul pourront continuer à construire les systèmes les plus avancés. Ng propose de maintenir la coexistence de plusieurs fournisseurs de modèles, permettant ainsi aux modèles et aux entreprises de rivaliser sur le marché, plutôt que de laisser quelques plateformes dominer.

Hinton distingue le code source ouvert des poids ouverts

Cependant, Hinton ne considère pas le "logiciel open source" et le "modèle de poids ouverts" comme équivalents. Selon lui, le logiciel open source rend le code public, permettant à l'extérieur d'examiner les vulnérabilités et de proposer des modifications ; les poids ouverts, en revanche, consistent à remettre directement les paramètres d'un grand modèle entraîné à l'extérieur, ce qui abaisse considérablement le seuil d'entrée pour le développement secondaire.

Il a déclaré qu'il s'était opposé par le passé aux poids ouverts, car cela permettrait à certaines personnes de transformer des modèles de base en outils pour des attaques en ligne à moindre coût. Cependant, il admet également que ce débat est désormais difficile à inverser dans la réalité. Avec l'apparition continue de modèles de poids ouverts, le seuil de coût d'entraînement a été considérablement réduit.

Cela dit, Hinton ne plaide pas pour un arrêt du développement de l'IA. L'article indique qu'il continue de croire que l'IA améliorera la productivité et améliorera des domaines tels que l'éducation et la santé, mais qu'il ne faut pas ignorer les risques potentiels. Il a également déclaré qu'il n'était pas juste de regrouper toutes les personnes préoccupées par les risques de l'IA sous le terme de "créateurs de panique".

Fei-Fei Li prône une ouverture par niveaux

Contrairement à Andrew Ng qui met l'accent sur la concurrence ouverte et à Hinton qui souligne les risques de sécurité, Fei-Fei Li s'oppose à simplifier le débat en deux choix : "ouverture totale" ou "fermeture totale". Elle estime que des systèmes logiciels et de recherche complexes existent déjà à différents niveaux, et que différentes étapes peuvent adopter différents degrés d'ouverture.

Elle prend l'exemple de la physique nucléaire, où les articles académiques peuvent être publiés ouvertement, mais où les matériaux d'uranium sont strictement réglementés, et où les expériences se situent entre les deux. Elle en conclut que l'IA peut également adopter une approche similaire : maintenir un certain degré d'ouverture dans la découverte scientifique, l'éducation et la coopération internationale, tout en permettant aux entreprises de conserver des systèmes et des modèles commerciaux fermés.

L'article mentionne également que Fei-Fei Li cite le projet du génome humain pour illustrer que les plateformes de connaissances fondamentales formées par la coopération entre les institutions publiques et le secteur privé peuvent soutenir à la fois l'avancement de la recherche, la rentabilité des entreprises et l'application sociale. Elle estime que l'infrastructure de l'IA devrait également se développer dans cette direction, plutôt que de tomber dans un débat binaire.

Les trois reconnaissent la nécessité de régulation

Bien que les trois aient des jugements différents sur les limites des modèles ouverts, leurs attitudes concernant la régulation sont proches. L'article indique qu'ils estiment tous que l'IA nécessite un certain degré de règles pour se développer dans une direction plus favorable à la société.

Hinton a déclaré qu'il ne faut pas laisser aux entrepreneurs le soin de décider comment l'IA devrait se développer. Le débat autour des modèles ouverts n'est pas seulement une question de voie technique, mais concerne également la répartition du pouvoir dans l'industrie, la concurrence internationale et la direction de la gouvernance de la sécurité de l'IA.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.