カリフォルニア州議会は2025年9月13日、AI開発企業に安全対策の情報開示を義務づける法案「SB53(Transparency in Frontier Artificial Intelligence Act)」を上院で可決した。ALLFORCES編集部の取材時点では知事の署名を待つ段階にあるが、成立すれば全米で初めて「破局的リスク」の情報開示を大規模AI開発企業に義務づける州法となる。
SB53が定義する「破局的リスク」とは、単一のインシデントで50人を超える死亡・重傷、または10億ドルを超える損害につながりうる事態を指す。化学・生物・放射性・核兵器の製造支援、人間の監督を伴わないサイバー攻撃や重大犯罪への関与、開発者による制御からの逸脱などが想定されている。対象となるのは年間売上5億ドル以上のフロンティアモデル開発企業で、安全対策フレームワークの策定・公表と、重大インシデントの州緊急事態対策局(Cal OES)への報告(発覚から15日以内、急迫の危険がある場合は24時間以内)が義務づけられる。
出典: California State Legislature「SB-53 Bill Text」https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB53
この法案には前身がある。2024年に審議された「SB1047」は、AIによる損害について開発企業の法的責任を問う条項を含み、業界側の強い反発を受けて知事が拒否権を行使し廃案になった経緯がある。SB53はこの経緯を踏まえ、責任追及条項を外し、透明性の確保と内部告発者保護に的を絞った。OpenAI、Google、Anthropicのような大規模開発企業が主要な適用対象になるとみられ、Anthropicは連邦レベルでの統一規制を望みつつも、SB53を「前向きな一歩」として支持する立場を公にしている。
法案にはまた、スタートアップや学術機関が低コストで大規模計算資源を利用できる公共クラウド「CalCompute」の創設提案が盛り込まれている。潤沢な資金を持つ大手企業に対して、資金力に乏しい研究機関や新興企業がAI開発に参入しやすくする狙いがあるとみられる。NVIDIAのようなGPUプロバイダーや、Microsoft Azure、Amazon Web Servicesのようなクラウド事業者にとっては、AI開発全体の裾野が広がることが追い風になり得る一方、直接の規制対象となる大規模開発企業には新たなコンプライアンス負担が生じる。
何が不確かなままか
SB53は上院を通過した段階であり、記事執筆時点では知事の署名の有無、施行細則、そして「重大インシデント」の認定基準の運用がどうなるかは確定していない。CalComputeの具体的な予算規模や、規制対象となる「大規模開発企業」の線引き(パラメータ数か計算資源量か)も、条文の解釈と今後のガイドライン整備に委ねられている部分が大きい。ALLFORCES編集部は、これらの実運用の詳細が固まる過程を継続して取材する。
投資家・実務者への示唆
投資家にとっては、AI企業を評価する際に技術的優位性だけでなく、安全対策フレームワークの内容や内部告発者保護の実効性、報告体制の整備状況を評価軸に加える必要が出てくる。SB53はEU AI Actと並び、地域規制が企業のガバナンス評価に直結する事例になりつつある。
技術・法務の実務者にとっては、モデルのライフサイクル全体でリスク評価を組み込み、インシデント発生時に15日(急迫時24時間)以内に報告できる体制を整えることが実務課題になる。特に年間売上5億ドルに近い水準で事業を拡大しているAIスタートアップは、自社が適用対象に入るタイミングを見極める必要がある。
SB53が示すのは、AI規制が「導入するかどうか」ではなく「どの粒度で開示を義務づけるか」という運用論の段階に入ったという事実である。カリフォルニア州の判断は、他州や連邦レベルの議論、そしてEU AI Actとの整合性をめぐる国際的な調整にも波及していくとみられる。