「Anthropicが AI倫理研究に巨額を投資する」という話が一部で語られている。編集部で一次資料を確認したところ、この金額・時期・投資対象を明記した公式発表は見当たらなかった。一方で、Anthropicが安全性研究や関連インフラに大規模な資金を投じてきたこと自体は、複数の公式発表・報道で裏付けられる。本記事では、確認できる事実を土台に、Anthropicの安全性投資の実像を整理する。
Anthropicの成り立ちと、なぜ「安全性」にこだわるのか
Anthropicは、OpenAIからスピンオフする形で2021年に設立された企業だ。共同創業者のダリオ・アモデイ(Dario Amodei)氏をはじめ、初期メンバーの多くは、OpenAIが営利化する中でAIの安全性に関するミッションが希薄になることを懸念し、より安全性に特化した研究開発を目指して独立したとされる。このため、AIの安全性やアラインメント(AIが人間の意図や価値観に沿って振る舞うようにすること)への強いこだわりは、同社の創業当初からの中心的なテーマになっている。
確認できる資金の実態
見出しの具体的な金額そのものは確認できなかったが、Anthropicに投じられてきた資金規模は、複数の公式発表で具体的に裏付けられている。 Amazonは2023年9月に12.5億ドルを投資し、2024年3月に27.5億ドルを追加投資して合計40億ドルに、さらに2024年11月にもう40億ドルを追加投資し、累計投資額を80億ドルとした(出典: Amazon公式ニュースルーム「Amazon and Anthropic deepen strategic collaboration」https://www.aboutamazon.com/news/company-news/amazon-anthropic-ai-investment )。この投資と同時に、AnthropicはAWSを安全性研究や基盤モデル開発を含む中核ワークロードの主要クラウドパートナーとする提携を結んでいる。
Googleも2023年10月、Anthropicに対して最大20億ドルを投資すると発表した(上場企業からの5億ドルの即時出資と、条件付きで最大15億ドルを追加投資する枠組み)(出典: CNBC「Google commits to invest $2 billion in OpenAI competitor Anthropic」https://www.cnbc.com/2023/10/27/google-commits-to-invest-2-billion-in-openai-competitor-anthropic.html )。
安全性研究そのものへの直接投資としては、2023年10月にAnthropic・Google・Microsoft・OpenAIの4社が共同で「Frontier Model Forum」を設立し、独立した安全性研究を支援する「AI Safety Fund」に1000万ドル超を拠出したことが公式に発表されている(出典: Google公式ブログ「Anthropic, Google, Microsoft and OpenAI announce Executive Director of the Frontier Model Forum」https://blog.google/company-news/outreach-and-initiatives/public-policy/google-microsoft-anthropic-open-ai-frontier-model-forum-executive-director/ 、Frontier Model Forum公式サイト https://www.frontiermodelforum.org/ai-safety-fund/ )。この基金には、Patrick J. McGovern財団やSchmidt Sciencesなど複数の財団も資金を拠出している。
「Constitutional AI」というアプローチ
Anthropicが提唱する技術的なアプローチとして知られるのが「Constitutional AI(憲法AI)」だ。人間のフィードバックに全面的に依存するRLHF(Reinforcement Learning from Human Feedback)とは異なり、AI自身があらかじめ与えられた原則(「憲法」)に基づいて自らの出力を自己修正する仕組みを組み込む研究で、2022年12月に論文として公開されている(出典: Anthropic「Constitutional AI: Harmlessness from AI Feedback」https://arxiv.org/abs/2212.08073 )。人間評価者の負荷を減らしつつ有害な出力を抑制する試みとして、業界内で継続的に参照されている手法だ。
世界の潮流とAI安全性のフロンティア
Anthropicの動きは、単独企業の戦略にとどまらない、より大きな国際的潮流の一部でもある。欧州連合の「EU AI Act」、2023年11月に英ブレッチリー・パークで開催された国際AI安全サミット、日本が主導した「広島AIプロセス」など、AIガバナンスに関する国際的な議論はここ数年で急速に具体化してきた。AI開発企業が自ら安全性研究に資金を投じる動きには、こうした規制の具体化を見据えた先行対応という側面もある。
なお、OpenAIも2023年に超知能の安全性研究を担う「Superalignment」チームを結成していたが、共同責任者だったイリヤ・サツケバー氏とヤン・ライケ氏の相次ぐ離脱を受け、2024年5月に同チームは解散している(出典: CNBC「OpenAI dissolves Superalignment AI safety team」https://www.cnbc.com/2024/05/17/openai-superalignment-sutskever-leike.html )。安全性研究チームの組成と解散が短期間で起きた事例であり、体制の持続性そのものが評価対象になることを示している。
投資家・技術者が見るべき点
投資家が確認すべき点 安全性研究への投資は、短期的な収益に直結しにくい支出に見える。しかし、AmazonとGoogleが合計で100億ドルを超える資金をAnthropicに投じ(前掲の出典: Amazon公式ニュースルーム累計80億ドル、CNBC報道のGoogle最大20億ドルの合算)、AWS・Google Cloudとの提携をセットにしている事実は、安全性への取り組みが単なる広報ではなく、クラウド供給網や規制対応まで含めた事業戦略の一部であることを示している。評価にあたっては、投資額そのものよりも、どの提携がどの実需(計算資源の確保、規制対応、企業顧客からの信頼獲得)に紐づいているかを個別に確認する視点が有効だ。
技術者が備えるべき点 「倫理研究に巨額を投じた」という見出しだけでなく、Constitutional AIのように実装可能な形で公開されている技術を実際に読み、自社のモデル運用にどう応用できるかを検討する姿勢が実務的だ。AIのバイアス検出や説明可能性(Explainability)に関する技術動向を継続的に追い、安全性を「後付けの制約」ではなく設計要件として組み込む発想が、今後のAI開発では標準になっていく可能性が高い。
まとめ
Anthropicの安全性投資を巡る見出しの数値そのものの一次情報は確認できなかったが、前述のAmazon公式発表(累計80億ドル)とGoogle公式発表(最大20億ドル)、Frontier Model Forumを通じた業界横断のAI Safety Fund、Constitutional AIという具体的な研究成果は、いずれも出典元の一次資料で裏付けられる事実だ(出典は前掲の各段落を参照)。見出しの数字を鵜呑みにするのではなく、一次情報に立ち返って実態を確認する作業こそが、AI業界のニュースを読み解く上で欠かせない。