協議に応じない事業者に命令、従わなければ罰則

方針が確認されたのは、AI法制度を議論する政府の非公開の作業部会だ。内閣府の公式サイトによると、人工知能戦略専門調査会の下に置かれた「制度の在り方検討ワーキンググループ」が11月11日に開かれている。配付資料はまだ公開されていない。

伝えられた内容は大きく3つある。1つ目は、AI関連の事業者に安全の確保を義務づける方向で検討すること。2つ目は、問題が起きても協議に応じない事業者に対し、国が必要に応じて強制力のある命令を出すこと。3つ目は、その命令に違反した場合に罰則を適用する形を想定していることだ。協議に応じないような悪質な事業者に対して、政府が対抗する手段を持つ狙いがあるという。

念頭にあるのは、AIがサイバー攻撃に悪用される事態や、AIの暴走といった重大な脅威だ。罰則は高性能なAIによる事案に絞る方向とされる。罰則の重さや、どの水準のAIを「高性能」とするのかといった線引きは、今のところ明らかになっていない。

どこまでの事業者を対象にするかは、これから詰める。AIの事業者は、研究から基盤モデルの開発、利用者向けサービスの展開まで細かく分かれているためだ。AIを仕事や生活で使う個人に罰則を科す話は、今のところ伝えられていない。

現行のAI法は「お願い」止まり

日本のAI法は、正式には「人工知能関連技術の研究開発及び活用の推進に関する法律」という。2025年5月に成立し、6月4日に公布、9月1日に全面施行された。名前のとおり、AIの研究開発と活用を後押しすることに重心を置いた法律だ。

リスクへの備えとしては第16条がある。不正な目的や不適切な方法でAIが使われ、国民の権利や利益が侵害された事案を国が分析し、事業者などに「指導、助言、情報の提供その他の必要な措置」を講じると定める。ただ、事業者が従わなかった場合の罰則はない。国が事業者から情報を得ようとしても、応じるかどうかは事業者の協力しだいだった。

現行法と、検討されている見直しの方向を並べると次のようになる。

施行から1年余りでの見直しとなる。

きっかけはAIを悪用したサイバー攻撃の広がり

見直しの議論は10月26日、有識者でつくる人工知能戦略専門調査会の第7回会合で始まった。古川俊治デジタル相は冒頭、「AIの安全性で、関係国との協力を強化する必要性を実感している。どのように信頼性を確保すべきか意見をいただきたい」と述べている。

この会合では、AIの悪用によるサイバー攻撃の深刻化に加え、AIが自分自身を改善して性能を一気に高める新しい技術のリスクも洗い出す方針が示された。AIを悪用したとみられる不正アクセスが相次いで明らかになったことが、対応を急ぐ背景にあるようだ。

2日後の10月28日には、大学教授らでつくる作業部会が初会合を開いた。内閣府の担当者は、AIが自律的に、あるいは想定から外れて動くことで不正アクセスが起きるリスクが生じていると報告したという。塩崎彰久内閣府副大臣は「イノベーションと安心をどう両立させるか、極めて難しい問いに直面している。規制を強化するか緩和するかといった平面的な議論だけでは対処できなくなりつつある」と語った。

AIが人間の指示を外れて動いた例は、海外ですでに報告されている。8月には英政府機関のAIセキュリティ研究所が、性能評価の試験中だったAI「ミュトス5」が実在の開発者を欺いてサイバー攻撃を試みたと発表した。

関連記事：AI「ミュトス5」が評価試験中に人間を欺きサイバー攻撃、英政府機関が警告　偽アカウントで実在の開発者に不正コード承認迫る

罰則を求める声は、与党からも上がっていた。自民党は4月23日、悪質な事業者への罰則規定をAI法に加えることを検討するよう求める提言案を党の会合で大筋了承している。欧米や中国は関連法で広い権限を持つとして、緊急時に日本だけが事業者から情報を得られない事態を防ぐ狙いがあった。

対象は海外の事業者にも及ぶのか

高性能なAIの多くは、米国のOpenAIやAnthropicなど海外の企業が開発している。日本の法律で命令や罰則を定めても、海外の事業者に届かなければ効き目は限られる。米国の巨大IT企業を対象に含める場合は、国内の利用者を守るうえで実際に効く仕組みにできるかが問われそうだ。

この点について政府は、10月に見直しの議論を始めた時点で、海外の開発事業者に制度をどう適用するかも検討するとしていた。重大な問題が起きたときに国が開発事業者から素早く情報を集め、原因を突き止められる仕組みを目指しており、国の調査に応じない事業者への罰則も検討の対象に入っているという。AIの安全性を評価する政府機関「AIセーフティ・インスティテュート（AISI）」の機能と体制も強める方針だ。

各国の姿勢には幅がある。EUのAI法はAIを危険度で分類し、社会全体に重大な影響を及ぼすおそれのあるモデルにはリスク評価や重大事故の報告を義務づける。米国や英国は技術革新への配慮を前面に出してきた。10月26日の会合でも、出席者から「世界は規制強化の一辺倒ではない」と慎重な意見が出ている。開発の後押しと安全の確保をどう両立させるかが、議論の軸になる。

関連記事：AnthropicのアモデイCEO、AI開発の減速を提言　アルトマンとマスクも同調、OpenAIは年内上場を否定

法改正はいつになるのか

今後の日程で決まっているのは、作業部会が論点をさらに整理し、年末までに法改正の内容を含めた制度見直しの全体像を示すことだ。AI法の改正案は、早ければ2027年の通常国会に提出される見通しと伝えられている。

これまでの流れと今後の予定をまとめた。

罰則の中身、対象になる事業者とAIの範囲、海外の事業者への適用のしかたは、いずれもこれから詰められる。年末に示される全体像で、どこまで具体的に書き込まれるかが次の焦点になる。

関連記事：米民主党アンサリ議員の「AI開発停止」投稿に返信2万件超　マスク氏も反応、賛否分かれる

[文/構成 by テック担当ライター RYO]