OpenAI interdit deux actions d'influence cachées assistées par IA

OpenAI a publié un rapport indiquant qu'elle a récemment interdit deux groupes menant des actions d'influence cachées en utilisant ses modèles. Ces actions combinent l'IA avec des techniques traditionnelles pour créer de fausses entités de façade et de fausses identités. Parmi elles, l'opération russe "Dark Clark" contrôlait un faux think tank nommé "Centre de recherche sociale (SRC)", soupçonné d'utiliser ChatGPT pour rédiger des rapports internes et générer du contenu, tout en menant des activités d'influence en Amérique latine. Cette opération a été évaluée comme un cas de niveau 5 sur l'échelle des percées IO, marquant la première fois qu'un cas atteint ce niveau depuis qu'OpenAI a commencé à divulguer des actions connexes. OpenAI a déclaré que l'IA n'a pas changé le modèle fondamental de ces actions d'influence, mais a augmenté leur échelle, leur efficacité, leurs capacités linguistiques et leur capacité de production de contenu, facilitant ainsi la création de fausses identités, la falsification de contenu et la diffusion d'informations à travers de véritables canaux médiatiques.