Anthropicの最新モデル「Fable」を巡る輸出規制：安全性を標榜する企業と米政府の対立

📝 概要

AIスタートアップのAnthropic社が提供を開始した最新モデル「Fable」に対し、米政府が輸出規制を課す事態となっています。この決定の背景には、Fableのベースとなる「Mythos」級モデルが持つ高度なサイバー機能と、それを制御するガードレールの脆弱性（ジェイルブレイク）を巡る見解の相違があります。安全性（AI Safety）を最優先事項として掲げてきた同社が、政府による修正依頼を拒否したことは、業界内外に大きな波紋を広げています。本件は、高度なAIモデルの管理責任がどこにあるのかを問う象徴的な事例といえます。

📋 詳細レポート

モデルの背景と技術的リスク

Anthropicは、以前より「Mythos」級のモデルが高度なサイバー兵器になり得る可能性を指摘し、規制の必要性を自ら主張してきました。今週、同社はこのMythosに安全のためのガードレールを施し、商用モデル「Fable」として一般公開しました。しかし、政府および信頼できるパートナーによるテストの結果、このガードレールを無効化する「ジェイルブレイク」の手法が発見されました。ガードレールが機能しない状態のFableは、実質的に高度なサイバー能力を持つMythosそのものを公衆にさらすことと同義であると懸念されています。

対立の争点：脆弱性の評価と企業の対応

今回の事態を深刻化させているのは、脆弱性発見後のAnthropicの対応です。

• ジェイルブレイクの深刻度: 米政府およびテストパートナーは、サイバー兵器級の能力が解放されるリスクを極めて重大と見ています。一方、Anthropicは公式ブログ等で「深刻なものではない」と主張し、評価が真っ向から対立しています。
• 修正および公開停止の拒否: 米当局はAnthropicのダリオ・アモデイCEOに対し、脆弱性の修正、あるいは修正が完了するまでの公開停止を求めましたが、同社はこれを拒否しました。
• 企業理念との矛盾: Anthropicは「安全性を最優先する」というブランディングで知られてきましたが、今回は安全上の懸念よりも消費者向けモデルの提供継続を優先した形となっており、政府側は困惑を示しています。

行政による輸出規制の行使

Anthropicが協力を拒んだことを受け、米政府は不本意ながらも輸出規制の実施に踏み切りました。これは、同社の技術力を評価しつつも、安全性が確認されない状態での拡散を防ぐための法的措置です。政府側は、この問題はあくまで技術的な安全性の問題であり、過去に発生した他のトラブルとは無関係であると明言しています。

今後の展望

事態の解決に向けた鍵は、全面的にAnthropic側に委ねられています。政府側は、同社が安全上の問題を修正し、適切な是正措置を講じることを強く望んでいます。修正が確認されれば、輸出規制は解除され、Fableの一般公開も正常化する見込みです。AIセーフティの先駆者としての信頼を回復できるか、あるいは独自の判断を貫くのか、Anthropicの次なるアクションが注目されています。