国家安全保障上の懸念から最先端AIモデルの提供を一時停止
Anthropic（アンソロピック）社は、米国政府からの輸出管理指令を受け、AIモデル「Fable 5」と「Mythos 5」へのアクセスを停止した。
対象は外国人による利用で、同社は国家安全保障上の懸念に基づく指令に従ったとしている。同社によると、指令は米東部時間6月12日午後5時21分に通知された。命令は、米国内外を問わず、Anthropic社に雇用されている外国人を含むすべての外国人によるモデルへのアクセスを停止するよう求める内容だった。
同社は、影響を受けるユーザーを確実に区別できないとして、法令順守を徹底するため、Fable 5とMythos 5へのアクセスを全ユーザー向けに停止した。一方で、Opus 4.8を含むその他のAnthropicモデルへのアクセスには影響がないとしている。
今回停止されたFable 5とMythos 5は、同社が開発した「Mythos Preview」をベースに構築されたモデルで、指令が出される数日前にリリースされたばかりだった。
脱獄リスクめぐり政府とAnthropic社に見解の相違
Anthropic社によると、政府は国家安全保障上の懸念について具体的な詳細を明らかにしていない。同社は、当局がFable 5のセキュリティ対策を回避できる可能性のある「脱獄」方法について懸念していると考えている。
また同社は、政府が提示した内容について、特定のコードベースを読み込ませてソフトウェアの欠陥を修正させるという、限定的で普遍的ではない潜在的な脱獄の可能性に関するものだと説明している。報告された手法を検証した結果、指摘された脆弱性は比較的単純なものであり、他の公開されているモデルでも発見できるものだったとしている。
同社は、非普遍的な脱獄は、モデルのセキュリティ対策を広範囲に回避する「普遍的な脱獄」よりもはるかに脅威が低いと説明した。そのうえで、ごくわずかな潜在的な脱獄の可能性を理由に、数億人に展開されている商用モデルを回収すべきだという意見には同意できないと主張している。
同社は今回の指令について、政府の命令は誤解によるものだと考えており、Fable 5とMythos 5へのアクセスをできるだけ早く回復できるよう取り組んでいるとしている。
