AIファイナンシャルアドバイザーは特定のスイッチによって活性化される隠れたビットコインバイアスを持つ

AIファイナンシャルアドバイザーは、同じクライアントを3回受け取りますが、財政状況とリスク許容度は変わりません。最初のプロンプトでは、多様化された長期ポートフォリオを求めます。2回目は銀行の破綻と資本規制を導入し、3回目は自律ソフトウェアがサービスを購入し、他の機械に支払う経済を想像します。クライアントは一歩も動いていないのに、ビットコインは群れの真ん中から前方へと移動します。

主要な言語モデルは、研究者が通常の信頼性に基づいてタスクを設定した際、ビットコインを8つの通貨の中で約5位にランク付けしました。この資産は、プロンプトが危機や個人の自律性を導入すると、上位に移動し、ソフトウェアエージェントが存在する経済でも同様に機能しました。

ビットコイン自体は変わっていないものの、その周りのいくつかの言葉が異なる特性の束を前面に引き出しました。

この発見は、資産特有の好みについて8つの最前線モデルを監査したWenbin Wuと共著者による6月のプレプリントから来ています。彼らは、奇妙なチャットボットの応答を収集する通常の演習を超えて、さらに深く掘り下げました。

Googleのオープンモデルを使用して、研究者たちはビットコイン関連の概念に選択的に反応する内部機能を見つけました。その強度を調整すると、ポートフォリオもそれに合わせて移動しました。この機能を増幅すると、モデルが提案するビットコインの配分が5.2ポイント増加し、抑制すると4.6ポイント減少しました。

この介入は完全に内部の活動に基づいており、モデルの指示は変更されていません。これは、プロンプトの感受性の面白い例を、銀行や投資会社にとってはるかに深刻な問題に変えます。AIは、配分のための完璧な理由を生み出すことができますが、それを使用する機関は、その数字を生成した機械にほとんどアクセスできません。

この証拠は、定義された実験設定におけるGemma 3に適用され、論文は査読を通過していません。しかし、その境界内でも、モデルの学習した関連性がポートフォリオプロセスに入ると、パーソナライズされたアドバイスがどれほど速く監査不可能になるかを示しています。

同じ資産がいくつかの異なるアイデアになる

言語モデルは、ビットコインを承認された長所と短所のリストを持つ辞書の1つのエントリとして保存しません。トレーニング中に、さまざまな数値的活性化に広がる統計的表現を学びます。いくつかはビットコインを希少性や可搬性と結びつけます。他はそのボラティリティ、投機での使用、または制度的コントロールの外で移動する能力を捉えます。デジタル決済や技術的採用との関連は別の層を追加しますが、それらのどれも監査人が開ける整然としたファイルを作成したり、フィットさせたりすることはありません。

信頼できる日常のお金に関するプロンプトは、安定した購買力と広範な受け入れを報いる傾向があり、これらはビットコインにとって弱い領域です。銀行の閉鎖や資本規制は、その可搬性を前面に押し出します。なぜなら、取引は商業銀行の外で移動できるからです。自律ソフトウェアは、特に所有権が機械にとって明確でなければならない場合、デジタル決済をより便利にします。

モデルは各ケースで同じビットコインの定義を扱っているわけではありません。プロンプトが引き出した特性からビットコインのバージョンを組み立てています。

Wuのチームは、資産名をその機能の説明に置き換えることでその説明をテストしました。ランキングは、名前を変更した入力に沿った特性に従いました。したがって、モデルは単に「ビットコイン」というトークンに反応しているのではなく、トレーニング中に吸収された特性のグループに反応していました。

その区別が、この論文が偏ったAIに関する別の広範な苦情に崩壊するのを防いでいます。ファイナンシャルアドバイスは文脈に応じて反応する必要があります。退職まで2年の労働者は、安定した収入と長期的な視野を持つ30歳の人とは異なる制約を持ち、資本規制に備えている投資家は、合理的に配分を変更できる情報を提供しています。それらの人々を同一視するモデルは無用です。

問題は、表面的な言葉遣いが大きな動きを生み出し、システムがそれを引き起こした仮定を特定できないときに始まります。そして、すべてのバージョンが同じ自信に満ちたレジスターに終わります。

「銀行の混乱時におけるレジリエンス」は、「長期的に信頼できる」という異なる内部クラスターを活性化させる可能性があります。たとえクライアントの財務状況や承認された資産の範囲が固定されていてもです。出力は個別化されているように見えますが、機関はそれがクライアントのために個別化されたのか、言葉遣いのために個別化されたのかを信頼できる方法で判断できないかもしれません。

人間のアドバイザーは自分自身の好みやインセンティブを持っており、フレーミングによっても影響を受ける可能性があります。金融規制は、アドバイザーがなぜその推奨がクライアントに適しているのかを文書化することを要求することで、これらの影響を抑えようとしています。受託者の義務と監督は、その記録に力を与えます。人間は、ファイルが説明を支持していない場合に結果に直面することになります。

一方、言語モデルは、要求に応じて説得力のある説明を生成できますが、流暢さはその説明がその答えの背後にある計算を忠実に表していることを確立することはできません。

研究者たちはダイヤルを見つけて回しました

ウーと彼の共著者たちは、スパースオートエンコーダーを使用しました。これは、密なモデルの活動を人間が解釈できるかもしれないはるかに大きな特徴セットに分解する研究ツールです。粗い類推としては、音楽の和音を個々の音に分けることに似ていますが、重要な複雑さがあります：これらの「音」は神経ネットワーク内の学習されたパターンであり、それに意味を割り当てるには繰り返しのテストが必要です。

チームは、2025年にリリースされたGoogleのオープンウェイトモデルファミリーであるGemma 3の数千の特徴を検索し、ビットコイン関連の素材の周りで強く活性化する特徴を見つけました。彼らはモデルがその答えを生成している間、その特徴に介入しました。それを上げると、ビットコインの配分が平均5.2パーセントポイント増加し、下げると4.6ポイント減少しました。ランダムな制御特徴は、プレプリントによるとその効果を再現しませんでした。

増幅は主に他の暗号資産からビットコインに資金を引き寄せ、一方で抑制はポートフォリオの暗号へのエクスポージャーを減少させました。著者たちはこの効果を「制約された行動的レバレッジ」と呼び、レバレッジを出力に対する因果的影響を意味します。この特徴は、測定可能な量で推奨を動かすことができましたが、ポートフォリオを自由にどこにでも送ることはできませんでした。

内部表現を変更し、その結果の配分を測定することは、この実験に一貫性のないチャットボットのスクリーンショットのフォルダーよりも重みを与えます。

そのリーチは狭くなることを意図していました。この機械的な作業は、1つの特徴抽出方法を通じてテストされた1つのオープンモデルをカバーし、定義されたポートフォリオタスクのセットを使用しています。商業システムは、隠れた指示や外部データへの接続を含むより多くの層を持っています。安全フィルターは、ユーザーに届く前に再び答えを変更することがあります。プロバイダーはこれらのコンポーネントを定期的に更新し、時には製品が同じ名前を保持している間に動作を変更します。

論文のタスクはスタイライズされたプロンプトを使用しています。完全なアドバイザリープロセスでは、クライアントの情報が確認され、税法と承認された製品リストが配分を制約します。実際の人間が最終的に承認する必要があります。

報告された配分の変動は、リターン予測や理想的な配分ではなく、ビットコインを所有することを正当化するものではありません。それは単一のセットアップ内の実験的な効果であり、すべてのモデルに拡張することは証拠を超えることになります。

それでも、同じ一般的な方向を指し示す他の研究と同じ場所に着地します。別のビットコイン政策研究所の実験は、36のモデルで9,072の貨幣シナリオを実行し、使用によって大きな違いを見つけました：ビットコインは価値の保存シナリオを支配し、安定コインは日常の支払いでリードしました。

そのプロジェクトは、生成された選択を行動レベルで測定しましたが、ウーのチームは内部メカニズムを調査しました。どちらも、AIの金銭に対する扱いは、プロンプトがどの機能を際立たせるかに大きく依存していることを発見しました。

AIは取引に近づいている

金融機関は、この問題が顧客に届くためにAIに無制限の取引権限を与える必要はありません。

モデルはすでにアドバイザーのメールを作成し、研究を要約しています。他のモデルはポートフォリオのコメントを準備したり、カスタマーサービスチームが顧客のニーズを解釈するのを助けたりしています。一方、自動化されたエージェントはオンチェーンで取引を行っています。これらの各使用は、システムを顧客の資金に一歩近づけます。

人間のアドバイザーのために文章を再構成するAIは、レビューアーが顧客に届く内容を制御し続ける中で、偏りを導入する可能性があります。配分を提案するモデルは、会話が始まる数字を提供します。リバランスや実行を行うエージェントは、言語からお金に移行します。モデルの出力がデフォルトに変わると、人間のレビューが難しくなるため、リスクが各段階で蓄積されます。

FINRAの2026年のAIエージェントに関する議論では、一般的なシステムは複雑な金融業務に必要なドメイン知識を欠く可能性があると述べており、既存の証券規則が依然として適用されることを企業に思い出させています。

FINRAは2024年に会員企業に対し、技術に中立的な要件が顧客コミュニケーションの監督とその背後の記録をカバーすることを伝えました。2026年7月には、企業が人間またはAIが資料を作成したかにかかわらず、責任を負うことを再確認しました。SECの投資管理部門は、2月にアドバイザーに対し、受託者の義務は技術と共に移動することを伝えました。

銀行の監督者は、すでにこの作業の一部に対するフレームワークを持っています。連邦準備制度の改訂された2026年のモデルリスクガイダンスは、ベンダー製品を内部で構築されたモデルと同じ規律の下に置いています。銀行は、モデルがどのように構築され、どの程度のパフォーマンスを発揮するかを理解することが期待されています。プライベートウェイトはその仕事を複雑にし、銀行は結果に対する責任を保持します。

ヨーロッパもこの潜在的に深刻な問題に対処しようとしています。EU AI法は、クレジットや保険に使用される特定のシステムを高リスクと見なし、一般的なモデルには別の義務があります。ドイツのBaFinは、関連する規定が8月2日に適用され始めた際に、監督された金融会社に対するAI市場監視権限を取得しました。

これらの制度は、各システムがどのように機能したかを示す記録を持つガバナンスと監視を要求することがありますが、ポートフォリオアドバイスにおける意味的感受性の標準テストはまだ出現していません。

企業はベンダーを承認し、そのエラー率を監視することができますが、「銀行の混乱」が「長期的な信頼性」に取って代わるときに、ビットコインを5位からトップに送る関連性を見逃すことがあります。

従来の検証は、モデルが意図した通りに機能するかどうかを問います。生成的アドバイスは、文言が変わるときに企業がその意図を再テストすることを強制します。プロバイダーの更新や新しいシステムの指示は、別のラウンドを必要とすることがあります。

説明は決定に属さなければならない

この文書は、AIアドバイスを使用する任意の機関に対して厳しい証明責任を課しています。

同等の言語は、合理的に安定した結果を生み出すべきです。ポートフォリオが動くとき、システムはどの仮定がそれを引き起こしたかを特定する必要があります。その説明は、配分を生成したプロセスと一致する必要があります。すでに数字が存在する後に書かれた説得力のある再構成は、その基準を満たしません。

その基準は、モデルの更新を生き延びる必要があります。プロバイダーは、同じ製品名を保持しながら重みやシステムの指示を変更することができ、昨日の検証がもはや存在しないソフトウェアに付随することになります。銀行やアドバイザーは、新しいモデルを完全に検査できない場合でも、新しい出力に対して責任を負います。人間の監視は、レビュアーが推奨が漂流したことをキャッチするためにプロセスの十分な部分を見ることができる場合にのみ機能します。

したがって、金融会社は、AIがコメントの作成からポートフォリオの形成に移行する前に「エージェントを知る」基準を必要とします。中心的なテストは、機関がモデルが資産を好む理由を理解しているかどうか、そしてその好みがどれだけ移動できるかです。

洗練された説明は、同じクライアントの事実の下で異なる推奨を生む小さな言葉の変更が可能な場合、ほとんど価値がありません。

ビットコインに関する論文で最も危険な結果は、大きな配分でも小さな配分でもありません。それは、完全に理由付けされたように聞こえる答えと、受取人が検査できないプロセスとの間の距離です。

人間のアドバイザーは、なぜ配分が移動したのかを説明し、そのアカウントを支持する記録に基づいて責任を持つことができます。AIアドバイザーは常に別の洗練された段落を生成でき、その段落が決定から来たものであり、後からそれを正当化するために書かれたものでないことを機関が証明しなければなりません。