Twitch utilise par défaut le contenu des streams pour entraîner l'IA : pourquoi un "bouton de désinscription" n'a pas résolu le problème de confiance

Crypto World Report :

Twitch a récemment ajouté un paramètre de compte permettant aux streamers de se désinscrire de l'entraînement du modèle d'IA générative d'Amazon. Le problème est que ce paramètre est par défaut activé, et les streamers doivent le désactiver activement. Les explications de Twitch indiquent que le contenu pouvant être utilisé pour l'amélioration future des modèles inclut non seulement les images de stream, mais peut également couvrir les discussions en direct, les enregistrements, les clips, les extraits sélectionnés ainsi que le texte et les images sur la chaîne. Pour de nombreux créateurs dont les actifs principaux sont la voix, l'image et l'interaction, ce n'est pas une simple préférence produit, mais un changement dans les limites d'utilisation du contenu.

La controverse autour de cette question s'est rapidement intensifiée après le 12 août. Twitch Support a d'abord présenté l'option de désinscription via les réseaux sociaux, puis a souligné qu'"il ne s'agit pas d'un modèle entraîné par Twitch lui-même", mais de la désinscription de l'entraînement du modèle d'IA générative d'Amazon. Cette formulation peut être valide sur le plan organisationnel, mais elle n'a pas changé la question la plus préoccupante pour les créateurs : le contenu sur la plateforme sera-t-il utilisé pour l'entraînement de modèles au sein de la même société mère, et le paramètre par défaut représente-t-il un consentement réel ?

L'explication du responsable produit de Twitch selon laquelle "si cela devenait une option d'adhésion active, personne ne voudrait y participer" a amplifié la réaction. Cela souligne involontairement la valeur de l'option par défaut : la plateforme n'ignore pas que les utilisateurs peuvent refuser, mais elle exploite le fait que les utilisateurs ne consulteront pas les paramètres, ne comprendront pas les changements ou n'auront pas le temps d'agir, pour obtenir un plus grand pool de données d'entraînement. Même si les utilisateurs disposent d'un bouton de désinscription, la structure des choix influencera considérablement le résultat final.

Il est nécessaire de distinguer clairement ce qui a été confirmé et ce qui reste flou. Ce qui est confirmé, c'est que Twitch a fourni un paramètre pour se désinscrire de l'entraînement d'IA générative d'Amazon et a énuméré les contenus de chaîne potentiellement concernés ; ce qui reste flou, c'est quels modèles spécifiques ont déjà utilisé le contenu historique, quand la désinscription prendra effet, si les données ayant déjà intégré le processus d'entraînement peuvent être supprimées, et comment le contenu généré lors des discussions sur d'autres chaînes sera traité. Les déclarations publiques de la plateforme n'ont pas répondu à toutes les questions sur le cycle de vie des données.

Transformer le "consentement" par défaut en une tâche que l'utilisateur doit découvrir

Les plateformes numériques utilisent souvent des options par défaut pour gérer des paramètres complexes, car il est impossible de laisser les utilisateurs décider de chaque détail technique. Mais lorsque l'utilisation s'étend de "fournir un service de streaming" à "entraîner des modèles capables de générer du texte, des images, des sons ou des vidéos", l'objectif d'utilisation a clairement changé. Les streamers téléchargent du contenu pour interagir avec leur public et générer des revenus, ce qui ne signifie pas qu'ils consentent naturellement à ce que leur contenu soit utilisé pour entraîner un autre type de produit.

Le mécanisme de désinscription semble conserver le contrôle, mais en réalité, il transfère tous les coûts de découverte, de compréhension et d'action à l'utilisateur. Les streamers doivent être conscients que la politique a changé, trouver la page des paramètres, comprendre la signification de l'interrupteur, puis décider s'ils souhaitent le désactiver. Les utilisateurs qui ne suivent pas les comptes officiels, qui sont en période de pause ou qui parlent une langue différente peuvent maintenir l'état par défaut pendant longtemps. Un véritable consentement actif devrait permettre à la plateforme d'expliquer d'abord l'utilisation, puis à l'utilisateur de choisir clairement, plutôt que d'interpréter le silence comme une permission.

Le contenu des streams présente également une complexité que le texte ordinaire sur le web n'a pas. Un stream peut inclure simultanément le streamer lui-même, des invités en ligne, des voix de jeu, de la musique, des discussions de spectateurs et du matériel tiers. Les streamers peuvent contrôler les paramètres de leur compte, mais ils n'ont pas nécessairement le droit de représenter tous les participants pour autoriser l'entraînement. Même si les conditions de la plateforme confèrent un large droit d'utilisation, la disponibilité sur le plan de la conformité ne signifie pas qu'elle est raisonnable sur le plan des relations avec les créateurs.

Pour les streamers professionnels, la voix, le visage, les habitudes de langage et le style de contenu sont eux-mêmes des moyens de production. Si le modèle peut à l'avenir imiter des expressions similaires ou générer automatiquement des extraits de streams, les préoccupations des créateurs ne portent pas seulement sur la vie privée, mais aussi sur le remplacement et le pouvoir de négociation. La plateforme obtient des données d'entraînement, la société mère acquiert des capacités de modèle, mais il n'est pas clair si les créateurs originaux reçoivent une compensation, une attribution ou un rapport d'utilisation.

Pour restaurer la confiance, la plateforme a besoin de plus qu'un simple bouton de désinscription

La première étape devrait être de fournir des notifications indépendantes compréhensibles. Les changements d'utilisation importants ne devraient pas être cachés uniquement dans les paramètres de compte ou les comptes de support, mais devraient être clairement affichés dans le tableau de bord des créateurs, en précisant quels contenus sont concernés, pour quels modèles, à partir de quand et comment se désinscrire. Les notifications doivent également distinguer le contenu futur du contenu historique, afin d'éviter que les utilisateurs ne pensent que la désactivation de l'interrupteur supprimera automatiquement les données passées.

La deuxième étape consiste à établir des limites d'exécution vérifiables. Après que le streamer se soit désinscrit, la plateforme devrait expliquer comment les données sont arrêtées à chaque étape de la collecte, du prétraitement, de l'ensemble d'entraînement et de l'évaluation du modèle. Si certaines données ont déjà intégré un processus d'entraînement irréversible, cela devrait également être clairement indiqué, plutôt que de masquer les limitations techniques avec des déclarations vagues comme "ne sera plus utilisé à l'avenir". Pour les créateurs professionnels, il est préférable de fournir un enregistrement des états et des dates d'entrée en vigueur.

La troisième étape est de discuter de l'échange de valeur. Si la plateforme considère que le contenu des streams a une valeur commerciale pour le modèle, il est difficile de soutenir en même temps que les créateurs ne doivent recevoir aucune compensation. Les mécanismes possibles incluent l'adhésion active à des programmes, le partage des revenus, la limitation de l'utilisation des modèles ou l'utilisation uniquement de contenus obtenus avec une autorisation distincte. Tous les entraînements ne doivent pas nécessairement être payants, mais plus ils se rapprochent de l'exploitation de l'identité et du style des créateurs, plus des autorisations et des compensations fortes sont nécessaires.

Cette controverse montre que la question des données d'entraînement de l'IA est passée du scraping web à l'intérieur des plateformes fermées. La plateforme possède des serveurs, des comptes et des avantages contractuels, mais dépend toujours de la production continue de contenu par les créateurs. L'activation par défaut peut augmenter le volume de données à court terme, mais à long terme, elle pourrait amener les utilisateurs à considérer chaque mise à jour de produit comme une potentielle appropriation de données. Ce que Twitch doit vraiment résoudre, ce n'est pas comment faire en sorte que plus de gens oublient le bouton de désinscription, mais comment prouver que la plateforme considère toujours les créateurs comme des partenaires, et non comme un ensemble de matériaux d'entraînement par défaut.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.