สภาคองเกรสสหรัฐฯ เสนอข้อจำกัดในการแทรกแซงของรัฐบาลต่อโมเดลปัญญาประดิษฐ์ขั้นสูง

Anthropic ต้องการให้สภาคองเกรสกำหนดข้อจำกัดที่เข้มงวดต่อหน่วยงานรัฐบาลกลางในการห้ามไม่ให้โมเดลปัญญาประดิษฐ์ขั้นสูงให้บริการแก่ผู้ใช้ ตามเอกสารร่างกฎหมายลับที่ได้รับจาก POLITICO การแทรกแซงของรัฐบาลจะเชื่อมโยงกับภัยคุกคามที่ร้ายแรงเฉพาะ และต้องได้รับการอนุมัติจากศาลก่อนที่จะระงับการใช้งานโมเดล ข้อเสนอจะมอบกรอบกฎหมายที่ชัดเจนยิ่งขึ้นสำหรับนักพัฒนาปัญญาประดิษฐ์ขั้นสูง ในขณะเดียวกันก็จำกัดสถานการณ์ที่อาจกระตุ้นให้รัฐบาลดำเนินการ และตั้งคำถามเกี่ยวกับระดับการควบคุมที่หน่วยงานกำกับดูแลควรมีต่อระบบที่มีพลังมากขึ้น

เงื่อนไขการแทรกแซงที่เข้มงวด

ตามข้อเสนอ เงื่อนไขการแทรกแซงที่เข้มงวดจะทำให้หน่วยงานรัฐบาลกลางสามารถขอระงับการใช้งานโมเดลได้เฉพาะเมื่อมีภัยคุกคามที่คาดการณ์ได้และใกล้เข้ามา ความเสี่ยงที่ตรงตามเงื่อนไขต้องเกี่ยวข้องกับการสูญเสียมากกว่า 1,000,000,000 ดอลลาร์สหรัฐ หรือมีผู้เสียชีวิตหรือบาดเจ็บสาหัสมากกว่า 50 คน ร่างกฎหมายจะจำกัดภัยคุกคามเหล่านี้ไว้ในสามสถานการณ์ ได้แก่ การสร้างหรือปล่อยอาวุธชีวภาพ โมเดลหลุดจากการควบคุมของนักพัฒนา หรือการโจมตีทางไซเบอร์ รูปแบบความเสียหายอื่น ๆ จะไม่อยู่ในกรอบการแทรกแซงเฉพาะนี้ Anthropic ระบุว่ากฎหมายนี้สะท้อนถึงกรอบปัญญาประดิษฐ์ขั้นสูงที่พวกเขาได้ส่งเสริมต่อหน่วยงานรัฐบาลกลางและรัฐตั้งแต่เดือนมิถุนายนที่ผ่านมา

“นี่คือแนวนโยบายที่เราคิดว่าสภาคองเกรสควรดำเนินการ” โฆษกของ Anthropic กล่าว

ผู้ประเมินอิสระจะรับผิดชอบในการตรวจสอบความสอดคล้อง พวกเขาจะต้องลงทะเบียนกับกระทรวงพาณิชย์ และประเมินนักพัฒนาปัญญาประดิษฐ์ขั้นสูงและโมเดลของพวกเขาเป็นประจำ ผู้ประเมินสามารถได้รับค่าตอบแทนจากบริษัทที่พวกเขาตรวจสอบได้ โดยมีเงื่อนไขว่าค่าตอบแทนของพวกเขาจะไม่ขึ้นอยู่กับผลการประเมิน หากการประเมินพบภัยคุกคามที่ใกล้เข้ามาตามที่ร่างกฎหมายกำหนด ผู้ประเมินจะต้องแจ้งกระทรวงพาณิชย์ภายใน 72 ชั่วโมงหลังจากเสร็จสิ้นการตรวจสอบ

ศาลจะควบคุมการระงับ ร่างกฎหมายนี้จะป้องกันไม่ให้กระทรวงพาณิชย์ปิดโมเดลโดยพลการ ในทางกลับกัน กระทรวงจะต้องขอคำสั่งจากผู้พิพากษาของรัฐบาลกลางในกรุงวอชิงตัน ดี.ซี. ร่างกฎหมายนี้ยังห้ามหน่วยงานรัฐบาลกลาง องค์กร และเจ้าหน้าที่อื่น ๆ จากการระงับการพัฒนา การใช้งาน หรือการใช้งานภายในของโมเดล ข้อจำกัดนี้อาจลดความเสี่ยงจากการดำเนินการบังคับที่ไม่คาดคิดต่อผู้พัฒนาปัญญาประดิษฐ์ ปัญหานี้มีความเกี่ยวข้องโดยเฉพาะในรายงานการควบคุมการส่งออกของสหรัฐฯ ซึ่งมีข่าวว่าควบคุมการส่งออกในฤดูร้อนที่จะทำให้โมเดลขั้นสูงของ Anthropic สองโมเดลถูกตัดออก เหตุการณ์นี้ทำให้เกิดความกังวลในอุตสาหกรรมเทคโนโลยีเกี่ยวกับการจำกัดการเข้าถึงระบบที่มีพลังจากเจ้าหน้าที่รัฐบาล

การถกเถียงอย่างรุนแรงภายในสภาคองเกรส

อย่างไรก็ตาม ร่างกฎหมายนี้ยังจะให้ความสำคัญกับการเปิดเผยความเสี่ยงสาธารณะ การประเมินอิสระ และข้อกำหนดในการรายงานเหตุการณ์สำคัญในบางรัฐ ข้อกำหนดนี้อาจจุดประกายการถกเถียงเกี่ยวกับว่าควรมีการกำหนดมาตรฐานระดับชาติหรือควรคงไว้ซึ่งการป้องกันของรัฐที่เข้มแข็งกว่า

สภาคองเกรสกำลังพิจารณาข้อเสนอที่แข่งขันกัน ร่างกฎหมายของ Anthropic ได้เข้าสู่การถกเถียงทางกฎหมายอย่างเข้มข้นเกี่ยวกับวิธีการที่สหรัฐฯ ควรควบคุมปัญญาประดิษฐ์ขั้นสูง ตัวแทน Lori Trahan และ Jay Obernolte ได้ผลักดันร่างกฎหมาย FRONTIER ซึ่งจะให้อำนาจรัฐบาลในการแทรกแซงโมเดลที่มีความเสี่ยง และครอบคลุมกฎหมายของรัฐบางฉบับ ในวุฒิสภา ผู้นำพรรคส่วนใหญ่ John Thune ร่วมกับวุฒิสมาชิก Amy Klobuchar และ Ted Cruz ได้จัดทำกฎหมายที่มุ่งเน้นไปที่ความเสี่ยงที่เกิดจากปัญญาประดิษฐ์ที่ร้ายแรง

อย่างไรก็ตาม บางกลุ่มผู้สนับสนุนความปลอดภัยและวุฒิสมาชิก Maria Cantwell ต้องการกระบวนการตรวจสอบของรัฐบาลกลางที่เข้มงวดกว่า ขณะที่นักกฎหมายคนอื่น ๆ สนับสนุนข้อจำกัดที่ครอบคลุมมากขึ้น ตัวแทน Greg Casar และวุฒิสมาชิก Bernie Sanders เรียกร้องให้มีการระงับการพัฒนาปัญญาประดิษฐ์ขั้นสูงและห้ามการสร้างปัญญาประดิษฐ์ที่เหนือกว่ามนุษย์

ข้อเสนอของ Anthropic ใช้แนวทางที่แคบกว่า โดยจะกำหนดให้นักพัฒนาขั้นสูงสร้างกรอบความปลอดภัย จัดทำรายงานความโปร่งใสสำหรับการเผยแพร่โมเดลใหม่ ปกป้องผู้แจ้งเบาะแส และรายงานเหตุการณ์สำคัญต่อกระทรวงพาณิชย์ ว่าการยอมรับข้อจำกัดเหล่านี้จะช่วยกำหนดอำนาจของรัฐบาลกลางในการควบคุมระบบปัญญาประดิษฐ์ขั้นสูงอย่างไร การถกเถียงนี้ยังมุ่งเน้นไปที่ว่าควรมีการปกป้องสาธารณะผ่านกรอบงานระดับชาติเดียว โดยไม่ให้หน่วยงานกำกับดูแลมีอำนาจดุลยพินิจมากเกินไป

ความท้าทายในการควบคุมปัญญาประดิษฐ์ของรัฐบาล

ด้วยการพัฒนาเทคโนโลยีปัญญาประดิษฐ์อย่างรวดเร็ว การควบคุมอย่างมีประสิทธิภาพกลายเป็นประเด็นสำคัญ ร่างกฎหมายที่เสนอโดย Anthropic มีเป้าหมายเพื่อให้กรอบกฎหมายที่ชัดเจนสำหรับนักพัฒนาปัญญาประดิษฐ์ขั้นสูง และจำกัดการแทรกแซงโดยพลการของรัฐบาล ซึ่งสะท้อนถึงความกังวลเกี่ยวกับการสร้างสมดุลระหว่างนวัตกรรมทางเทคโนโลยีกับความปลอดภัยสาธารณะ ขณะที่มีมุมมองที่แตกต่างกันภายในสภาคองเกรสเกี่ยวกับมาตรการควบคุม กฎหมายในอนาคตจะมีผลกระทบต่อทิศทางการพัฒนาปัญญาประดิษฐ์และผลกระทบต่อสังคม การถกเถียงนี้ไม่เพียงแต่เกี่ยวกับความปลอดภัยของเทคโนโลยี แต่ยังเกี่ยวข้องกับการหาขอบเขตที่เหมาะสมในการส่งเสริมนวัตกรรมและการปกป้องผลประโยชน์ของสาธารณะ