リスク：モデル、バイアス、群集行動と詐欺
金融サービスにおける人工知能のリスクは、監督当局及び文献が特定してきたいくつかの類型に分けられる。モデルリスクは最も古いものである。あらゆるモデルは現実を単純化しており、条件が変化すれば機能しなくなる可能性がある。機械学習モデルは特にこのリスクにさらされている。将来には当てはまらないかもしれない過去のデータからパターンを学習するからである。大規模モデルの複雑さは、銀行が2000年代以降に統計モデルを検証してきたのと同じ方法でそれらを検証することを困難にしている。1
バイアスと差別が第二の類型を成す。過去の決定に基づいて学習した与信モデルは、保護される属性を直接用いていない場合であっても、特定の集団に対する不利益を含め、それらの決定のパターンを再現することがある。スイス法は私人間の差別に関する一般的な禁止規定を有していないが、民法第28条による人格の保護及び個別の法律が一定の保護を与えている。スイス金融市場監督機構（FINMA）の指針は、注視すべき領域の一つとして平等な取扱いを挙げている。他方、EUのAI法は、高リスクシステムに関するデータガバナンスの要件を通じてこの問題に対処している。2説明可能性はこれと密接に関連する。モデルが、なぜ融資申込みを拒否したのか、あるいはなぜ取引にフラグを立てたのかを説明できない場合、顧客はその決定を争うことができず、機関は自らが適法に行動したことを証明することができない。
金融の安定は、バーゼルに所在する機関の関心事である。多くの市場参加者が類似のデータで学習した類似のモデルを用いれば、その意思決定は相関するようになり、市場の動きを増幅させ、市場の流動性を保つ見解の多様性を減少させる可能性がある。Gary Genslerは、米国証券取引委員会の委員長に就任する前に、Lily Baileyとともに2020年の論文でこの群集行動のリスクを描き出し、深層学習が画一性、ネットワーク上の相互連関及び規制の空白を通じてシステミックリスクを増大させ得ると論じた。3金融安定理事会は、これに加えて、モデル、クラウドサービス及びチップの少数の提供者への集中を指摘した。これは金融システムにとって単一障害点を生み出すものである。4
サイバーリスクと詐欺は、この技術とともに増大してきた。攻撃者は言語モデルを用いて、スイスドイツ語を含むあらゆる言語で説得力のあるフィッシングメッセージを作成し、ソフトウェアの脆弱性を特定している。音声クローニング及び動画のディープフェイクにより、犯罪者は経営者、顧客又は親族になりすますことができる。2024年に広く報道された事件では、香港のエンジニアリング会社Arupの従業員が、最高財務責任者とみられる人物を含む他の参加者全員が人工知能によって生成されていたビデオ会議の後に、約2,500万米ドルを送金した。52024年に連邦サイバーセキュリティ庁となった国家サイバーセキュリティセンターは、スイスにおけるこうした試みの件数が増加していると報告している。6銀行及びその顧客にとっての帰結は、画面上の声や顔がもはや本人であることを証明しないということである。そのため、支払指図には別の経路を通じた独立の確認が必要となる。
注
- モデルリスク管理については、連邦準備制度及び通貨監督庁の監督指針SR 11-7, Guidance on Model Risk Management（2011年4月）を参照。同指針は国際的に実務に影響を与えてきた。要確認。 ↩
- スイス民法（ZGB、SR 210）第28条。FINMA指針08/2024。データ及びデータガバナンスに関する規則（EU）2024/1689第10条。要確認。 ↩
- Gary Gensler and Lily Bailey, 「Deep Learning and Financial Stability」, working paper, MIT, 2020年11月。要確認。 ↩
- Financial Stability Board, The Financial Stability Implications of Artificial Intelligence, 2024年11月14日、第三者依存及び市場の相関に関する節。要確認。 ↩
- Arupの香港事務所に対するディープフェイク詐欺に関する香港警察の発表並びに2024年2月及び5月の国際的な報道。数値は要確認。 ↩
- 連邦サイバーセキュリティ庁（BACS）の半期報告書及び2024年以降の詐欺とディープフェイクに関する週次レビュー。現状は要確認。 ↩
本記事は一般的な情報提供のみを目的としています。法律上または税務上の助言を構成するものではなく、個別案件に関する助言に代わるものでもなく、弁護士と依頼者との間に委任関係を生じさせるものでもありません。本記事は2026年10月時点の法的状況を反映しています。