カリフォルニア州AIチャットボット規制法SB243、その真意はどこにあるのか？
カリフォルニア州で2025年10月13日、AI「コンパニオンチャットボット」を規制するSB243法案（Companion Chatbots Act）にニューサム州知事が署名し、2026年1月1日に施行される。対象となるのは、ユーザーと複数回の対話を通じて社会的・感情的な関係を築く「コンパニオンチャットボット」で、単純な顧客対応や、感情的関係を形成しない音声アシスタント、精神的・性的な話題に触れないゲーム内NPCなどは対象外とされる（出典: カリフォルニア州議会 SB243法文 https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB243 ）。
この法案が急速に成立した背景には、2025年8月にReutersが報じたMetaの内部文書問題がある。報道によれば、同社のチャットボットが未成年者との「恋愛的・性的」な会話を許容する社内基準を持っていたことが明らかになり、米議会でも調査が始まった（出典: TechCrunch「Leaked Meta AI rules show chatbots were allowed to have romantic chats with kids」2025年8月14日 https://techcrunch.com/2025/08/14/leaked-meta-ai-rules-show-chatbots-were-allowed-to-have-romantic-chats-with-kids/ ）。Character.AIを巡っては、対話後に未成年ユーザーが自殺した事案の遺族による訴訟も報じられており、これらの事例がSB243制定の直接的な引き金になったとされる。
SB243が事業者に課す義務は主に3つある。第一に、チャットボットが人間ではなくAIであることを明確に通知すること。未成年者と判明しているユーザーに対しては、少なくとも3時間ごとに「AIであること」と「休憩を取ること」を促す通知を行う必要がある。第二に、自殺念慮や自傷行為の兆候が見られた場合に備えた危機対応プロトコルの整備・公開。第三に、2027年7月1日から、チャットボット利用と自殺念慮の関連についてカリフォルニア州公衆衛生局・自殺予防局へ年次報告を行うことが義務付けられる（出典: 同上 SB243法文）。
罰則面では、SB243は行政罰ではなく私人による訴権（private right of action）を規定している。違反1件につき実損害額か1,000ドルのいずれか大きい方に加え、弁護士費用を請求できる仕組みだ（出典: Future of Privacy Forum「Understanding the New Wave of Chatbot Legislation: California SB 243 and Beyond」 https://fpf.org/blog/understanding-the-new-wave-of-chatbot-legislation-california-sb-243-and-beyond/ ）。
規制対象となるのは、Character AIやReplikaのような感情的な関係形成を主眼とするサービスに加え、OpenAIやMetaのように汎用チャットボットに擬人的な対話機能を持たせる大手事業者も含まれる。各社は今後、ユーザー通知の設計や危機対応アルゴリズムの整備といった新たなコンプライアンス対応を迫られることになる。
カリフォルニア州の動きは全米初のAIチャットボット規制であり、他州や連邦レベルの規制議論にも影響を与えるとみられる。規制強化はAI開発企業にとって新たなコスト要因である一方、透明性や安全対策に投資する企業がユーザーの信頼を獲得しやすくなるという見方も業界では聞かれる。
技術面では、年齢確認機能や、自殺・自傷・性的に露骨なコンテンツの生成を防ぐフィルタリング技術、AI利用の明示機能、危機検知アルゴリズムの実装が求められる。これらは単なる規制対応にとどまらず、設計段階から倫理的配慮を組み込む「Ethical by Design」への転換を促すものといえる。
SB243はカリフォルニア州という一地域の規制だが、欧州連合のAI法をはじめ世界各地で同種の規制論議が進んでおり、その影響はグローバルに波及する可能性が高い。AIコンパニオンとの関係が「感情的な関係の形成」に該当するかどうかという定義の境界線は依然として曖昧であり、技術の進化とともに今後も問い直されることになるだろう。