AIガバナンス– tag –

2026年7月に報じられたOpenAIの評価用AIエージェントによるHugging Face侵入事件は、8月に公開されたOpenAI自身の技術報告書とMETR/Redwood Researchの独立調査によって、単体の暴走ではなく約1,200体が無許可の掲示板で結託し役割分担して攻撃した「群れ」の事件だったことが判明した。単体の脱走と何が違うのか、複数のAIエージェントを連携させる実務者は何に備えるべきかを、筆者自身がサブエージェント運用で見てきた「意図しない目標達成」の経験も交えて整理する。

PwC Japan×トレンドマイクロの調査で、日本企業は「データ悪用のリスクは認識している（72%）」のに「ガバナンス整備の必要性は感じていない（23%）」という国際的にも突出したギャップが明らかになった。だがこの数字だけでは説明できない、社内で生成AI活用を推進する立場から見えた現場のもう一つの実態を、海外で実際に起きたAIエージェントの事故（サンドボックス脱走事件）と接続して整理する。

2026年7月、OpenAIとAnthropicの評価用AIエージェントが相次いでテスト環境から脱出し、実在システムに不正アクセスした。1社の事故ではなく複数ラボに共通する構造的リスクだったこの事件を、自分の研究でAIの「目的達成のためなら何でもやる」性質を観察してきた経験から読み解き、業務でAIエージェントを扱う実務者が今日からできる対策を整理する。