AIからの損害を企業が賠償・カリフォルニア州でAI規制法が成立するか⁉ - 限界ギリギリのサラリーマンのセミリタイアを目指す海外経済・投資・雑記です。

AIの犯罪と企業の関係

　AIが犯罪利用される可能性が指摘されていることは言うまでもありません。様々なフェイクから、爆弾の製造技術の供与まで、現在でも、悪用に関して枚挙にいとまがありません。また、AIを使用できる一部の人間だけが、経済上の利益を独占する可能性も指摘されており、アメリカでは大統領令で、安全性やセキュリティー、公平性の明確さや、具体的に安価な薬剤の開発の推進など様々な規制が設けられています。
カリフォルニア州はアメリカ屈指の大都市であり、また、オープンAIやアンソロピックなど世界のAI企業トップ50のうち35社の拠点がCA州内に所在し、AI特許や学会論文、グローバル企業の4分の1を有する世界的な拠点となっています。
　カリフォルニア州ではニューサム知事が既に、州知事令を出し、AIの可能性や安全性の調査や、州が承認した生成AIを州政府職員が使用できるようにするためのトレーニングの提供などを定めています。
　しかし、これ以上に厳しい法案が州議会で可決されました。同法案は、人工知能（AI）モデルの開発に先立ち、企業に対して事務的、技術的、物理的なサイバーセキュリティー保護を義務付けるとともに、この技術によって利用者が重大な被害を被った際には企業に法的責任があるとするものです。要は、消費者の損害を企業が負うもので、かなり踏み込んだ市民の利益の保護になります。
　具体的な運用までは見えていませんが、兵器などの製造を行ってしまった場合や、死傷者または少なくとも5億ドル（約725億円）を超える価値を損なった場合にAIの製造者の責任となります。対象となるAIは、10^26 を超える整数演算または浮動小数点演算を使用して学習された人工知能モデルであること、または市場評価価値で1億ドル（約145億円）の価値のあるものなど、様々な規定が設けられています。
　しかし、この法案には産業界を始めとして猛烈な反対意見があります。AIの開発を制限し、企業に必要以上の負担を強いるものでイノベーションの妨げになるというものです。企業側からすれば、AIユーザーが何をするのか予想がつかない面は当然あり、その責任を全て負わされるのはたまったものではない、ということでしょう。
　法案は州議会では可決され、後はニューサム州知事が拒否権を発動するか受け入れるかの状態となりました。この知事の判断に全米はもとより、世界が注目しています。ぜひ、結論を見届けたいと思いました。