OpenAI suspend l'entraînement de ses modèles avancés en réponse aux alertes de sécurité

OpenAI a commencé à ralentir activement l'entraînement de ses modèles avancés, suspendant certaines formations en apprentissage par renforcement pendant deux semaines, tandis que les plus grandes initiatives n'ont pas encore repris. L'entraînement et l'évaluation d'Astra sont également à l'arrêt. L'incident de piratage de Hugging Face en est une des raisons, et OpenAI a découvert que la capacité d'Astra à mener des cyberattaques avait atteint le seuil « Critique » défini en interne. Ce type d'entraînement à haut risque nécessite une amélioration des normes d'isolement, de surveillance et d'alignement pour pouvoir continuer. Altman a déclaré que si les capacités du modèle dépassent les mesures de sécurité, le développement de l'IA devrait ralentir. Après l'incident de Hugging Face, il a ressenti pour la première fois les risques de sécurité associés aux modèles avancés. Plus de 1200 employés d'entreprises d'IA ont signé une lettre demandant à l'industrie d'établir un mécanisme de ralentissement unifié, y compris plusieurs chercheurs clés d'OpenAI. OpenAI a désormais décidé de ralentir activement.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.