Anthropic、オープンウェイトモデルは「公共財」とCEOが表明　禁止の主張を否定

時間がない人向けの30秒で理解ゾーン

米Anthropicのダリオ・アモデイ最高経営責任者(CEO)が7月27日、公式ブログで見解を表明した。危険な能力を持たないオープンウェイトモデルは「公共財」だと述べる一方、同社が禁止を主張しているとの見方を明確に否定する内容だった。背景には、エヌビディアなど77社が名を連ねた書簡（同社のジェンスン・フアンCEOが自身のX（旧Twitter）で発信）に同社が署名しなかった経緯がある。

↓ 詳細が気になる方は、このまま下へ ↓

7月27日、公式ブログで方針表明

アモデイは7月27日、Anthropicの公式サイトに「オープンウェイトモデルへの当社の立場」と題する文章を投稿した。ここ数日、中国発のモデルを中心にオープンウェイトモデルをめぐる議論が過熱していたことを受けての発信だった。

危険な能力を持たないオープンウェイトモデルについて、アモデイは「計算に必要な費用以外はコストがかからない公共財だ」との認識を示す。低コストでAI技術にアクセスできる利点、競争を促す効果、利用者側の裁量が広がる利点も認めた。ここでいう「危険な能力」とは、サイバー攻撃や生物兵器開発への転用など、悪用された場合に重大な被害につながりうる性能を指す。

そのうえで「Anthropicはオープンウェイトモデルの禁止を主張したことは一度もない」と明言。自社のクローズドモデル事業を守るために禁止を求めているとの見方が一部にあったことへの反論だった。

エヌビディア書簡に署名せず、批判の背景

米政府内では、中国発のオープンウェイトモデルの使用を制限する案がここ数日取り沙汰されていた。この動きの中、エヌビディアなど77社が名を連ねる書簡が公開され（同社のジェンスン・フアンCEOが自身のX（旧Twitter）で発信）、オープンウェイトモデルの普及こそが米国のAI開発における主導権を保つ道であり、規制はかえって競争力を損なうと訴えている。

Anthropicはこの書簡に署名しなかった。この対応をめぐり、一部で「オープンウェイトモデルを敵視している」との批判が上がった。今回のブログ投稿は、こうした受け止めへの反論という位置づけだ。

権威主義国家の悪用リスクを列挙

アモデイが最大の懸念として挙げるのが、権威主義体制の政府によるAIの軍事転用だ。バンス副大統領は昨年パリで「権威主義体制はAIを盗用し、軍事、諜報、監視能力の強化に利用してきた」と警告しており、アモデイはこの発言を引用しながら、懸念が一部の企業だけのものではないと強調した。

最悪のシナリオとして挙げたのが一つある。秘密裏に訓練された高性能モデルが、中国人民解放軍のドローン運用や国家安全部の監視・弾圧に使われるケース。英AIセキュリティー機構の分析も引用し、オープンウェイトモデルは一度公開されると安全対策を取り除かれたり、複製されて外部のシステムで動かされたりする危険があると説明する。

禁止でなく規制を、3つの具体策

アモデイが実際に求めるのは、全面禁止ではなく的を絞った規制だ。第一に挙げたのが、対中国のチップ規制強化。高性能チップや製造装置の輸出を厳しく制限し、密輸や抜け道の取り締まりを強化するべきだとした。第二に、大規模な蒸留(ディスティレーション)作業の摘発を挙げた。蒸留は既存モデルから比較的低コストで能力を抽出する手法で、チップ規制の効果を弱める抜け道になっているという。

第三に挙げたのが、安全性テストの義務化だった。サイバー攻撃、生物兵器、AIの制御不能(アラインメント)の3分野について、公開・非公開を問わず「十分に高性能な」モデルにリリース前のテストを義務付けるべきだと主張する。スタートアップや学術機関が開発する能力の低いモデルは対象から除外するとした。過度な規制で新興企業の開発意欲をそぐ事態を避けつつ、危険な能力を持ちうる最先端モデルだけに網をかける狙いだ。

米グーグル・ディープマインドのデミス・ハサビスCEOも自身のブログで、国籍や公開・非公開の形式を問わず最も高性能なモデルに統一的なテスト枠組みを設けるべきだと提案しており、アモデイはこの提案を自説の裏付けとして引用する。米政権もここ数カ月、高性能モデルへの安全性テストを義務付ける方向へ政策を進めてきたと付け加えた。