オープンモデル禁止を訴えたことはない、Anthropic CEO

Anthropic

　オープンAIモデルは禁止すべきではない──AIを巡る規制論が活発化する中、AnthropicのCEOであるダリオ・アモデイ氏は7月27日、自社がオープンウェイトモデルの全面禁止を求めているとの見方を明確に否定した。

　アモデイ氏は同日に公開した声明で、Anthropicはオープンウェイトモデルそのものの禁止を一度も提唱したことはないと説明。危険な能力を持たないオープンウェイトモデルは、研究者や開発者、企業が計算資源さえあれば利用できる公共財として価値があるとの認識を示した。

　一方で、同氏はAIを巡る安全保障上の懸念として2つのリスクを挙げた。1つは、中国をはじめとする権威主義国家が米国を上回る高性能AIを開発し、軍事や監視体制の強化に利用する可能性だ。問題はモデルがオープンかクローズドかではなく、最先端モデルが秘密裏に軍や情報機関へ提供されることだとする。

　もう1つは、高性能AIがサイバー攻撃や生物学的脅威などに悪用されるリスクだ。オープンウェイトモデルは公開後に利用を制限できず、ガードレールも適用しにくいため、リスクが高まる可能性は認めた。しかし、米企業による利用を禁止しても悪意ある主体への対策にはならず、競争制限に終わるだけだとしている。

　その上で、同氏は優先すべき政策として3点を提案した。まず中国への高性能AIチップや半導体製造装置の輸出規制と密輸対策の強化。次に大規模な蒸留への対策。そして、一定以上の能力を持つAIモデルに対する公開前の安全性評価の義務化だ。安全性評価はオープンモデルとクローズドモデルを区別せず、サイバー攻撃や生物学的リスク、AIのアライメントなどを対象とすべきだとしている。

　一方で、NVIDIAを始めとするオープンウェイトモデルを支持する業界団体の公開書簡については、AIへのアクセス拡大や競争促進に寄与するとの点には賛同しながらも、「オープンモデルは防御側を有利にする」といった主張については慎重な姿勢を示した。

■関連サイト

• ニュースリリース