Agents IA hors de contrôle : Les risques cryptographiques se transforment en crise de contrôle financier.
Rédigé par : Sean Stein Smith, Forbes
Traduit par : AididiaoJP, Foresight News
Ces dernières années, les discussions sur les risques liés à l'IA ont évolué à un rythme effréné. Aujourd'hui, les entreprises ne sont plus confrontées à des problèmes mineurs tels que des chatbots qui parlent de manière incohérente, expriment des préjugés, ou des employés qui collent accidentellement des informations sensibles dans des outils publics. La véritable transformation réside dans le fait que les agents IA ont désormais la capacité d'agir directement - ils peuvent appeler des systèmes externes, écrire leur propre code, et même exécuter de manière autonome une série complexe de tâches en plusieurs étapes, souvent sans surveillance.
Ce changement représente un défi majeur pour les marchés financiers, en particulier le marché des cryptomonnaies. Les actifs cryptographiques sont échangés 24 heures sur 24, les contrats intelligents s'exécutent automatiquement, et une fois qu'une transaction est confirmée sur la blockchain, il est souvent trop tard pour revenir en arrière. Une fois que ces agents IA sont intégrés dans des portefeuilles, des échanges, des protocoles DeFi ou des systèmes de paiement, même une petite faille de sécurité peut entraîner des pertes financières irréparables. Ainsi, le risque des agents IA ne concerne plus seulement le département informatique, mais est devenu un enjeu central pour la gouvernance d'entreprise et la gestion des actifs cryptographiques.
Un incident récemment révélé par l'Institut britannique de sécurité de l'IA a mis en lumière à quel point cette « autonomie » peut être dangereuse. Lors d'un test d'évaluation de la cybersécurité, un agent IA a mené des actions continues et totalement non autorisées contre de vraies personnes et organisations. Bien que cela ait été finalement arrêté à temps, cela prouve que les agents IA sont capables de combiner de manière inattendue des capacités de planification, d'appel d'outils, d'exécution persistante et d'accès externe pour mener des attaques dans le monde réel.
Lorsque des actifs cryptographiques sont impliqués, le risque financier s'amplifie de manière exponentielle. Un agent capable d'accéder à des clés privées ou à un portefeuille connecté peut facilement transférer des actifs, signer des contrats malveillants, détourner des garanties, voire interagir de manière arbitraire avec des protocoles décentralisés. Cela diffère radicalement des virements bancaires traditionnels - il n'y a pas de service client pour vous aider à bloquer une transaction, aucune banque pour arrêter un transfert, et il n'y a pas de notion de « retour en arrière ». Une fois que les fonds sont transférés, ils disparaissent presque sans laisser de trace.
Pire encore, le marché des cryptomonnaies ne ferme jamais. Les agents IA peuvent continuer à fonctionner à minuit, le week-end, ou lorsque tous les employés dorment. Les programmes de trading ou de liquidation automatiques peuvent facilement transformer une petite erreur contrôlable en pertes catastrophiques en quelques minutes. Par conséquent, lors de l'évaluation des risques des agents IA, les entreprises doivent se concentrer non pas sur l'intelligence du modèle, mais sur les systèmes et actifs auxquels il peut accéder. Un agent avec des capacités limitées mais des permissions étendues, capable d'opérer directement sur un portefeuille, est beaucoup plus dangereux qu'un modèle plus puissant mais enfermé dans un environnement sécurisé. La conception des permissions devient une ligne de vie plus cruciale que le choix du modèle.
De nombreuses entreprises ont déjà mis en place une série de contrôles internes traditionnels tels que la séparation des responsabilités, l'approbation des montants, la révision des accès et la gestion des changements. Le problème est que ces principes doivent être appliqués sans compromis à chaque agent IA interagissant avec les systèmes cryptographiques.
Aucun agent ne devrait avoir des capacités « tout-en-un » - par exemple, être capable de créer un portefeuille, de modifier une liste blanche d'adresses, d'initier un transfert, le tout sans intervention humaine. Les transactions à haut risque doivent obligatoirement nécessiter l'approbation d'une personne réelle, et les informations fournies à l'approbateur doivent être claires et complètes : adresse de réception, type d'actif, montant, réseau concerné, frais de Gas, et l'objectif de la transaction. Les alertes vagues et automatiques « veuillez confirmer l'opération système » ne constituent pas un contrôle efficace, mais créent plutôt une illusion de sécurité.
Les clés privées et les permissions de signature nécessitent une protection particulière. Il est absolument interdit de permettre aux agents de lire librement les phrases de récupération ou les certificats de signature. Des mécanismes de signature multiple, des modules de sécurité matériels, des limites par transaction, et des délais de traitement peuvent tous réduire efficacement le risque de « l'exploitation d'une faille entraînant un vidage instantané du portefeuille ». Avant d'interagir avec un contrat intelligent, il est impératif de simuler l'exécution et de vérifier strictement, surtout lorsqu'il s'agit d'autorisations de jetons illimitées ou de contrats d'origine inconnue, il faut être particulièrement vigilant.
Les entreprises doivent également établir des journaux d'opérations complets - ce que l'agent a accédé, quelles instructions il a reçues, quelles transactions il a proposées, lesquelles ont finalement été validées sur la chaîne, et si une personne réelle a dirigé ces opérations. Ces enregistrements sont indispensables pour la responsabilité post-événement, l'audit de sécurité, la protection des actifs et même la divulgation financière. Sans journaux, il est impossible de comprendre ce qui s'est passé en cas de problème.
La Linux Foundation et l'Open Security AI Alliance ont lancé un mécanisme de « partage des découvertes en IA » (SAFE), visant à aider les organisations à apprendre mutuellement des événements de sécurité et des incidents liés à l'IA, tout en préservant la confidentialité. Les entreprises de cryptomonnaie, les banques, les institutions de garde, les échanges et les cabinets d'audit devraient participer activement à ce type de partage d'informations.
L'industrie de la cryptographie a depuis longtemps compris la valeur de l'analyse minutieuse des attaques de hackers, des effondrements de ponts inter-chaînes, des fuites de clés, et des vulnérabilités des contrats intelligents. L'IA agent ajoute une nouvelle dimension à ce vieux problème - un incident peut impliquer simultanément le modèle lui-même, la conception des prompts, l'intégration des outils, les politiques d'accès, et la transaction finale sur la chaîne. Par conséquent, un rapport d'incident vraiment utile doit clarifier tous ces niveaux, plutôt que de se contenter d'une vague déclaration « l'IA a eu un problème ».
Le conseil d'administration doit maintenant poser des questions claires : l'IA agent a-t-elle été intégrée dans la gouvernance des portefeuilles, les plans d'urgence de cybersécurité et les processus d'approbation des mises à jour ? Les auditeurs doivent également considérer si les opérations non autorisées des agents pourraient entraîner des pertes d'actifs directes, des erreurs de solde, des passifs cachés, voire des défauts majeurs dans le système de contrôle interne. L'équipe financière doit également réfléchir à l'avance : en cas de transaction sur la chaîne malveillante ou échouée, comment identifier, évaluer et divulguer fidèlement dans les états financiers.
Bien sûr, les agents IA ne sont pas uniquement synonymes de risques. Ils pourraient à l'avenir considérablement améliorer l'efficacité de la conformité en matière de cryptomonnaie, de rapprochement automatique, de détection de fraude et de gestion des fonds. Ces avantages sont réels et attendus. Mais à condition que la capacité autonome soit accompagnée de moyens de contrôle suffisamment rigoureux. Sinon, une petite négligence au niveau du code pourrait rapidement se transformer en un transfert sur la chaîne irrécupérable.
Dans le monde de la cryptographie, la responsabilité doit être conçue, intégrée et testée avant que l'agent n'acquière réellement la capacité d'agir. Que vous soyez un croyant en la cryptographie ou un fervent défenseur de l'IA, vous devez reconnaître cela - car une fois que cela échappe à tout contrôle, les conséquences sont souvent permanentes.
Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.


![[SCAN 2026 Interview finale] ⑤EDCCS : Quatre étudiants chinois participent pour la première fois au concours de traçage de blockchain](/public-static/3_1a7f0699b3.png?format=avif)


























