アメリカ合衆国議会が政府の先進人工知能モデルへの介入条件を制限することを提案

Anthropicは議会が連邦当局による高度な人工知能モデルのユーザーへのサービス提供禁止に際して厳格な制限を設けることを望んでいる。《POLITICO》が入手した機密草案によれば、政府の介入は特定の災害的脅威に関連付けられ、モデルの使用を一時停止するためには司法の承認が必要となる。この提案は、最先端の人工知能開発者に対してより明確な法的枠組みを提供し、政府の介入を引き起こす可能性のある状況を制限し、規制当局がますます強力なシステムにどの程度の監視を行うべきかという問題を引き起こす。

介入の厳格な条件

介入の厳格な基準によれば、連邦当局はモデルに対して予見可能かつ差し迫った脅威が存在する場合にのみ一時停止を求めることができる。該当するリスクは、10億ドルを超える損失または50人以上の死亡または重傷を伴う必要がある。この法案は、これらの脅威を生物兵器の創造または放出、モデルが開発者の制御を離れること、またはサイバー攻撃の三つの状況に制限している。他の形態の損害は、この特定の介入枠組みには含まれない。Anthropicは、この立法が6月以来、連邦および州の立法者の間で推進してきた高度な人工知能の枠組みを反映していると述べている。

「これらは、議会が採用すべき合理的な政策だと考えています」と、Anthropicのスポークスパーソンは述べた。

独立した評価者がコンプライアンスの監視を担当する。彼らは商務省に登録し、最先端の人工知能開発者とそのモデルを定期的に評価する。評価者は、彼らが調査する企業から報酬を受け取ることができるが、その報酬は評価結果に依存してはならない。もし評価が法案に含まれる差し迫った脅威を特定した場合、評価者は審査を完了した後72時間以内に商務省に通知しなければならない。

裁判所は、商務省がモデルを自ら閉鎖することを阻止する提案を制御する。代わりに、商務省はワシントンD.C.の連邦裁判官に命令を申請する必要がある。この草案は、他の連邦部門、機関、及び官僚がモデルの開発、展開、または内部使用を一時停止することを禁止している。この制限は、人工知能開発者に対する突然の執行行動のリスクを減少させる可能性がある。この問題は、アメリカの輸出管理報告において特に関連性が高く、報告によれば、夏に2つの高度なAnthropicモデルが除外された。この出来事は、政府官僚が強力なシステムへのアクセスを制限することに対する技術業界の懸念を引き起こした。

議会内部の激しい議論

しかし、この法案は特定の州における公共リスクの開示、独立評価、重大事件報告の要件を優先することも含まれている。この条項は、ワシントンが全国的な基準を設けるべきか、それともより強力な州の保護を維持すべきかに関する議論を再燃させる可能性がある。

議会は、競合する提案を検討しており、Anthropicの草案はアメリカがどのように最先端の人工知能を規制すべきかに関する激しい立法議論に入っている。下院議員のLori TrahanとJay Obernolteは、リスクのあるモデルに対する政府の介入を認可し、特定の州の法律を覆すFRONTIER法案を推進している。上院では、与党のリーダーであるJohn Thuneが、Senator Amy KlobucharおよびTed Cruzと共に、災害的な人工知能リスクに対する立法を策定している。

しかし、一部の安全推進者やSenator Maria Cantwellは、より強力な連邦審査プロセスを求めている。他の立法者は、より包括的な制限を推進している。下院議員のGreg CasarとSenator Bernie Sandersは、高度な人工知能の開発を一時停止し、超知能を禁止するよう呼びかけている。

Anthropicの提案は、より狭いアプローチを採用している。これは、最先端の開発者に安全な枠組みを構築させ、新しいモデルのリリースに関する透明な報告を行い、内部告発者を保護し、重大事件を商務省に報告することを求めるものである。立法者がこれらの制限を受け入れるかどうかは、連邦政府が高度な人工知能システムにどの程度の権限を持つかを決定するのに寄与する。この議論は、公共の利益を守るために、単一の全国的な枠組みを通じてどのように公衆を保護できるか、また規制当局に過度の裁量権を与えないようにするかに集中している。

政府の人工知能規制の課題

人工知能技術の急速な発展に伴い、効果的な規制の方法が重要な課題となっている。Anthropicが提案する法案は、高度な人工知能の開発者に対して明確な法的枠組みを提供し、政府の恣意的な介入を制限することを目的としており、技術革新と公共の安全とのバランスに対する関心を反映している。議会内部での規制措置に関する異なる見解が存在する中で、今後の立法は人工知能の発展方向とその社会への影響に影響を与えることになる。この議論は、技術の安全性だけでなく、革新を促進しつつ公共の利益を保障するための適切な境界を見出すことにも関わっている。