AIの「壊滅的なリスク」に法規制　グーグル、OpenAIも対象

2025年10月07日 07時00分更新

文● 小島寛明

　米国のカリフォルニア州で、新たなAI規制が成立した。

　2025年9月29日のロイターによれば、同州のニューサム知事が「フロンティアAI透明化法」に署名し、同法が成立した。新しい法律では、AIを開発する企業は、先進的なAIがもたらす「壊滅的なリスク」について評価し、その対策を含めてカリフォルニア州の危機対策局に報告する義務を負う。このリスク評価については、企業秘密が含まれる可能性があるため、報告を受けたとしても州は外部には公表しないという。

　また、AIに関連して重大な事案が発生した場合は、州に対して通報することが義務付けられる。企業は、事案が発生してから15日以内、死傷者を伴う事案の場合は24時間以内の通報の義務を負う。

　カリフォルニア州にはシリコンバレーがあり、世界のIT産業の中心地だ。AI関連では、OpenAI、アルファベット（グーグル親会社）、メタ・プラットフォームズ、アンスロピック、エヌビディアなどが同州を本拠地としている。このためカリフォルニア州はどちらかというと、AIに対して規制よりも振興を重視しているように見える。しかし、罰則を規定していない日本のAI法と比べてもカリフォルニア州の新法の内容は厳しい。AIの中心地であるカリフォルニア州が、率先して規制に踏み切った狙いはどこにあるのだろうか。

AIの壊滅的リスクとは

　この法律を理解するうえで、「フロンティア」という言葉がキーワードになる。フロンティアAI透明化法は、「フロンティアAI」を開発していて、前年の売上が5億ドルを超えている企業が対象とされる。フロンティアAIは、AIの学習に使った計算量が10²⁶ FLOPsを超えているAIを指す。10の26乗FLOPsと言われても、にわかに規模感がつかめない。AIのデータセンターでは最近、エヌビディアのH100というGPUのモデルが使われているが、H100を1000台使って約4年かかる計算量だという。

　売上が5億ドルを超え、大規模な計算量を投じて「フロンティアAI」を開発する企業が、同法の対象となる。したがって、冒頭で挙げたOpenAIやアルファベット傘下のグーグル、メタ、Claudeを提供するアンスロピックなどが、同法の対象として想定された企業であると考えられる。開発フェーズのスタートアップ企業というより、成熟したAI関連のサービスを提供している企業が射程に入ると理解していいだろう。

　それでは、壊滅的なリスクとは、どのような事態を想定しているのだろうか。この言葉については、フロンティアAI透明化法に定義がある。同法では、フロンティアAIの開発や使用、保存、配置により、50人以上の死亡または重傷、10億ドルを超える損害や損失が生じるリスクを言う。「50人以上の死亡または重傷」と言われると、自動運転の車両や航空機が暴走したり、AIを活用したハッキングで大停電が起きたりといった事態を想像してしまうが、カリフォルニア州当局が具体的にどのような事態を想定しているのかは不明だ。

　最近は、ユーザーの指示によって、AIがコンピューターを直接操作するエージェントAIの性能も向上してきた。さまざまな業務を自動化するうえで、AIが自律的に判断、操作する場面も、少しずつ拡大している。実際に、AIの判断の誤りが、重大事故につながる可能性も現実に近づいている。