Anthropic ได้ประกาศอย่างเป็นทางการว่าจะให้สิทธิ์การเข้าถึงที่คล้ายคลึงกับพนักงานแก่ทีม METR เพื่อประเมินความปลอดภัยของระบบของตน โดย METR เป็นองค์กรไม่แสวงหาผลกำไรที่มุ่งเน้นการประเมินโมเดลปัญญาประดิษฐ์ที่ล้ำสมัย นอกจากนี้ Anthropic กำลังอยู่ในระหว่างการหารือเบื้องต้นกับหน่วยงานอื่น ๆ รวมถึง Hugging Face
ให้สิทธิ์การเข้าถึงทีมประเมินอิสระ
Anthropic ระบุว่ามาตรการนี้มีเป้าหมายเพื่อเสริมสร้างการประเมินความปลอดภัยของระบบปัญญาประดิษฐ์ของตน ตามที่ทางการกล่าว การร่วมมือในลักษณะนี้จะช่วยให้มั่นใจได้ว่าการพัฒนาเทคโนโลยีของตนมีความรับผิดชอบ บริษัทได้เน้นย้ำว่าการร่วมมือกับ METR เป็นส่วนหนึ่งของความมุ่งมั่นต่อความโปร่งใสและความปลอดภัย
「เพื่อประเมินความปลอดภัยของระบบของเรา Anthropic กำลังให้สิทธิ์การเข้าถึงที่คล้ายคลึงกับพนักงานแก่ทีม METR」
Anthropic
อัปเดตนโยบายการใช้งานเพื่อเพิ่มความปลอดภัย
นอกจากนี้ Anthropic ยังได้เผยแพร่เวอร์ชันใหม่ของนโยบายการใช้งาน พร้อมทั้งสรุปการเปลี่ยนแปลงที่ได้ดำเนินการ เป้าหมายของการเปลี่ยนแปลงเหล่านี้คือเพื่อเพิ่มความปลอดภัยของผู้ใช้และรับรองการใช้งานเทคโนโลยีปัญญาประดิษฐ์อย่างมีความรับผิดชอบ
「ในบทความนี้ เราได้สรุปการเปลี่ยนแปลงที่เราได้ดำเนินการ」
Anthropic
เน้นการพัฒนาศูนย์ข้อมูลอย่างมีความรับผิดชอบ
Anthropic ยังสนับสนุนการเรียกร้องของผู้ว่าการรัฐเท็กซัส Greg Abbott ต่อการพัฒนาศูนย์ข้อมูลอย่างมีความรับผิดชอบ ซึ่งแสดงให้เห็นว่าบริษัทให้ความสำคัญกับความรับผิดชอบต่อสังคมและผลกระทบต่อสิ่งแวดล้อมในขณะที่ส่งเสริมการพัฒนาเทคโนโลยี
「เราจะยังคงสนับสนุนการพัฒนาศูนย์ข้อมูลอย่างมีความรับผิดชอบ」
Anthropic
มาตรการเหล่านี้แสดงให้เห็นถึงความพยายามของ Anthropic ในการรับรองความปลอดภัยและการใช้งานเทคโนโลยีปัญญาประดิษฐ์อย่างมีความรับผิดชอบ และหวังว่าจะเสริมสร้างการทำงานในด้านนี้ผ่านความร่วมมือกับหน่วยงานภายนอก
ข้อมูลอ้างอิง: ประกาศอย่างเป็นทางการของ Anthropic