「AIが全人類を死なせる可能性」Anthropicの研究者から警告相次ぐ

Made with AI

　Anthropicの研究者だったジェイコブ・コクソン氏が9月8日、同社を辞任したことをXで明らかにした。コクソン氏はOpenAIとAnthropicの双方でAIモデルの事前学習に携わってきた研究者で、両社は「責任ある行動を取っていない」と批判。「自己改善するスーパーインテリジェンスに向かってまっすぐ競争し、私たちの命を賭けている」と訴えた。ウォール・ストリート・ジャーナルも同日、コクソン氏への取材をもとに辞任を報じている。

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

　「AIを構築している人々は、それが2020年代の終わりまでに私たち全員を死なせる可能性があると本気で考えている」という発言が注目を集めた。コクソン氏は「これはマーケティング上の演出ではない」としたうえで、経営幹部や上級研究者の中には公の場では慎重な表現を使いながら、非公開の場ではAIへの恐怖を口にする人もいると主張した。

　コクソン氏は27歳の英国人研究者。ケンブリッジ大学で学んだ後、2023年にOpenAIへ入り、GPT-4oを含むAIモデルの研究に携わった。その後2026年にAnthropicへ移り、大規模なデータを用いてモデルを訓練する事前学習の研究を担当した。

　コクソン氏の警告に対し、AnthropicでAIのアラインメント研究を率いるエバン・ハビンガー氏もXで異例の反応を示した。「ジェイコブは正しい。我々は本気でAIが全人類を死なせる可能性があると考えている」として、自身については「今後10年間で10％を超える」と推定していると述べた。

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

　コクソン氏だけでなく、現在もAnthropicに所属する研究者から同様の懸念が公に語られたことで、業界内部の議論があらためて注目を集めた形だ。

　一方、米国ではAI開発を規制しようとする政治的な動きも進んでいる。バーニー・サンダース上院議員とグレッグ・カサール下院議員は9月3日、「Ban Artificial Superintelligence Act（人工超知能禁止法案）」を提出する方針を発表した。人間の能力を超え、制御が困難になるスーパーインテリジェンス（ASI）の開発・配備を恒久的に禁止するとともに、新たな連邦AI規制機関が安全基準や審査制度を整備するまで高度AIの開発を一時停止するもの。

　なお、コクソン氏の投稿を巡っては、規制強化を求める動きと連動した広報キャンペーンではないかと疑問視する声もX上で出ているが、コクソン氏の一連の動きが政治団体や資金提供者によって組織されたことを示す独立した証拠は確認されていない。