カリフォルニア州のニューサム知事は9月10日、人工知能に関する2つの規制法案に署名し、同州の人工知能分野における法規制の枠組みを更に整備した。注目すべきは、この2つの法案が導入される前に、主要な人工知能企業から承認と支持を得ていたことである。
法案署名の日時は、人工知能の安全性に関する話題が広く注目を集めている時期と重なった。以前、Anthropicに勤務していた研究者ジェイコブ・コックスソンが離職を発表し、人工知能業界が破滅的なリスクを引き起こす可能性があると警告した。これに対し、ニューサム知事は、最近の出来事が引き起こした懸念は、カリフォルニア州が以前から抱いていた見方を裏付けるものであると述べ、人工知能には巨大な可能性があるが、その開発と展開には実質的な安全対策が不可欠であると強調した。ニューサム知事は同時に、連邦政府が現在の差し迫った状況に対応した全国的な人工知能規制法を早急に制定するよう呼びかけた。
カリフォルニア州の人工知能規制法案が業界安全基準を向上させる
この2つの法案のうち、州上院議員ジェリー・マクナマラが提出したSB 813法案は、カリフォルニア人工知能基準・安全性委員会を設置し、自主的な人工知能の安全性基準を策定することを規定している。一方、議員レベッカ・バウアー・カーンが提出したAB 1405法案は、人工知能のリスク監査機関の登録制度を創設し、監査員の資格認証を規範化する。
業界レベルでは、AnthropicとOpenAIが法案署名前に支持を表明していた。OpenAIの公共政策担当責任者クリス・レイハンは、現在人工知能の能力が新たな段階に達しており、それに応じた政策枠組みもこれに追随する必要があると述べた。Anthropicは、長年にわたる安全性への投資に基づいており、それが業界全体が合法かつ検証可能な方法で協力し、強力なモデルのリリースのタイミングを共に管理することを支持する動機となったと指摘した。両社とも、国際的に互換性のある基準の確立を推進し、能力の評価、リスクの管理、人間の制御権の維持などの問題について合意を形成したいと表明した。