AnthropicがOpenAIの支持するイリノイ州AI責任法案に反対を表明。AI企業が大規模被害の責任を免れる内容に懸念。AI規制をめぐる米国大手2社の対立が鮮明に。

AnthropicがOpenAI支持のAI責任免除法案に反対表明、米AI規制で対立鮮明に

2025年4月、AI開発企業のAnthropicは、競合のOpenAIが支持するイリノイ州の法案に反対する姿勢を明らかにしました。この法案SB 3444は、AI企業が開発したシステムが大規模な被害を引き起こした場合でも、企業側の責任を大幅に免除する内容となっています。具体的には、大量の死傷者や10億ドル以上の財産被害が発生した場合でも、企業が独自の安全基準を作成しウェブサイトで公開していれば責任を問われないというものです。AnthropicとOpenAIは、どちらも最先端のAIモデルを開発する米国の代表的企業ですが、AI技術の規制のあり方をめぐって真っ向から対立する形となりました。この対立は、AI技術が社会に与える影響が大きくなる中で、企業の責任をどこまで求めるべきかという重要な問題を浮き彫りにしています。両社は全米各地でロビー活動を強化しており、今回の対立は今後のAI規制の方向性を左右する可能性があります。

法案の内容と両社の主張

イリノイ州で提案されているSB 3444法案は、AI企業の責任範囲を大きく制限する内容です。この法案では、悪意ある第三者がAIモデルを使って生物兵器を作成し数百人が死亡した場合でも、AI企業が独自の安全フレームワークを作成し公開していれば法的責任を負わないとされています。

OpenAIはこの法案を支持し、「最先端AIシステムによる深刻な被害のリスクを減らしながら、イリノイ州の人々や企業にこの技術を届けることができる」と主張しています。同社は連邦政府の動きがない中で、ニューヨーク州やカリフォルニア州と協力し、統一的なAI規制の枠組みを作ろうとしています。

一方、AnthropicのCesar Fernandez氏は「優れた透明性法案は、この強力な技術を開発する企業の公共安全と説明責任を確保する必要があり、すべての責任から逃れるフリーパスを提供するものであってはならない」と述べ、法案に強く反対しています。同社は最先端AIモデルを開発する企業は、その技術が広範な社会的被害に使用された場合、少なくとも部分的に責任を負うべきだと主張しています。

背景と経緯

この対立の背景には、AI技術の急速な発展と、それに追いつかない規制の現状があります。米国では連邦レベルでの包括的なAI規制がまだ整備されていないため、各州が独自に法案を検討している状況です。

Anthropicは5年前にOpenAIを離れた研究者グループによって設立された企業で、高度なAIから生じる潜在的リスクについて積極的に発言し、予防策を提唱することで知られています。この姿勢は、AI開発を妨げる可能性があるとして州レベルのAI規制を抑制しようとするトランプ政権からの批判を招いています。

一方OpenAIは、各州と協力して「調和のとれた」AI規制アプローチを作ることを目指しており、州法が最終的に全国的な枠組みの基礎になることを期待しています。

専門家の見解と法的影響

AI安全法の開発と提唱を支援する非営利団体Secure AI Projectの共同創設者Thomas Woodside氏は、この法案が既存の規制を解体する恐れがあると警告しています。「責任はすでにコモンロー、つまり判例法の下で存在しており、AI企業が予見可能なリスクを防ぐための合理的な措置を講じる強力なインセンティブとなっています」と同氏は説明します。

コモンローとは、過去の裁判の判例に基づいて形成される法体系のことです。例えば、製造業者が欠陥製品で消費者に被害を与えた場合、過去の判例に基づいて責任を問われます。Woodside氏は「SB 3444は深刻な被害に対する責任をほぼ排除するという極端な措置を取るものです。しかし、ほとんどの州ですでに実施されているAI企業に対する最も重要な法的説明責任の形態である責任を弱めることは悪い考えです」と述べています。

AI政策の専門家たちは、この法案が実際に成立する可能性は低いと見ていますが、それでも米国を代表する2つのAI企業間の政治的分断を露呈させたことに意義があると指摘しています。

もう一つの法案への対応

Anthropicは先週、イリノイ州の別の法案SB 3261を支持する証言を行いました。この法案は成立すれば全米で最も強力なAI安全法の一つとなります。

SB 3261は、OpenAIやAnthropicのような最先端AI開発企業に対し、公共安全と児童保護の計画を作成し、第三者監査機関によるテストを受けてその有効性を評価することを義務付けています。この法案は、企業が自主的に基準を設定するだけでなく、外部の専門家による検証を求める点でSB 3444とは対照的です。

イリノイ州知事JB Pritzker氏の事務所は声明で「知事室は州議会を通過する多くのAI法案を監視し検討しますが、Pritzker知事は、大手テクノロジー企業が公共の利益を保護する責任を回避する完全な盾を与えられるべきではないと考えています」と述べています。

できること・できないこと

SB 3444が成立した場合、AI企業は独自の安全フレームワークを作成しウェブサイトで公開するだけで、そのAIシステムが引き起こす大規模な被害から法的責任を免れることができるようになります。例えば、テロリストがAIを使って生物兵器を設計したり、AIの誤動作で金融システムが崩壊し数十億ドルの損失が発生したりした場合でも、企業は「安全基準を公開していた」という理由で訴訟から守られる可能性があります。

一方で、この法案では被害を受けた個人や組織が適切な補償を受けることが難しくなります。現在のコモンローの下では、企業が合理的な予防措置を怠った場合に責任を問うことができますが、この法案はその権利を大幅に制限します。また、第三者による独立した安全性の検証は求められないため、企業が作成する安全基準の実効性が保証されません。

Anthropicが支持するSB 3261では、企業が作成した安全計画を第三者監査機関がテストし評価することが義務付けられており、より実効性のある安全対策が期待できます。

私たちへの影響

このニュースは、AI技術を利用するすべての人々、そしてAI産業の発展を見守る社会全体に重要な意味を持ちます。AI企業の責任範囲をどう定めるかは、今後のAI技術の安全性と信頼性を左右する根本的な問題だからです。

短期的には、イリノイ州でのこの法案の行方が注目されます。OpenAIとAnthropicという業界をリードする2社が真っ向から対立していることで、他の州でも同様の議論が活発化する可能性があります。すでにニューヨーク州やカリフォルニア州でもAI規制の法案が検討されており、イリノイ州の決定は他州の判断に影響を与えるでしょう。

中長期的には、この対立が連邦レベルでのAI規制の枠組み作りに影響を与える可能性があります。現在、米国には包括的なAI規制法がありませんが、各州での取り組みが積み重なることで、最終的に全国的な基準が形成されていくと考えられています。企業の責任を重視するか、それとも開発の自由を優先するかという今回の対立は、その方向性を決める重要な分岐点となるかもしれません。

ただし、AI政策の専門家が指摘するように、SB 3444が実際に成立する可能性は高くないとされています。それでも、この議論を通じて、AI技術の安全性と企業の責任についての社会的な関心が高まり、より良い規制の枠組みが生まれることが期待されます。