- Anthropic ป้องกันไม่ให้มีการใช้ Claude ในการสนับสนุนการพัฒนาอาวุธทางชีวภาพ 5 ครั้ง
- ขีดแบ่งระหว่างงานวิจัยที่ถูกกฎหมายและงานที่อันตรายยากจะกำหนด เนื่องจากวิจัยทางชีววิทยามีศักยภาพในการใช้งานทั้งสองทาง
- Anthropic ได้เผยแพร่รายงานข่าวกรองความเสี่ยงที่ละเอียดที่สุด โดยอธิบายวิธีการใช้ Claude อย่างผิดกฎหมายในหลายด้าน
- เมื่อความสามารถของรูปแบบ AI เพิ่มขึ้น การแยกแยะระหว่างงานวิจัยที่ถูกกฎหมายและงานที่อันตรายยิ่งยากขึ้น
Anthropic เปิดเผยว่าได้ป้องกันไม่ให้มีการใช้ Claude ในการสนับสนุนการพัฒนาอาวุธทางชีวภาพ 5 ครั้ง บริษัทยังไม่สามารถระบุได้ว่าผู้วิจัยมีเจตนาที่จะทำร้ายหรือไม่ แต่เนื่องจากผลกระทบที่เป็นไปได้มีความรุนแรงมาก บริษัทจึงยังคงป้องกันการกระทำเหล่านี้ กรณีเหล่านี้เกิดขึ้นระหว่างเดือนธันวาคม 2025 ถึงสิงหาคม 2026 โดย Anthropic ได้อธิบายการใช้งานที่ผิดกฎหมายของรูปแบบ AI เหล่านี้ในรายงานข่าวกรองความเสี่ยงใหม่ของบริษัท บริษัทกล่าวว่ากรณีเหล่านี้แสดงให้เห็นว่าการเพิ่มขึ้นของความสามารถในการวิจัยทางวิทยาศาสตร์ของรูปแบบ AI ที่ท้าทายที่สุด อาจทำให้เกิดความเสี่ยงทางชีวภาพที่ยากต่อการตรวจพบมากขึ้น
ขีดแบ่งระหว่างงานวิจัยที่ถูกกฎหมายและงานที่อันตราย
Anthropic เผชิญกับความท้าทายที่ใหญ่ที่สุดในการกำหนดขีดแบ่งระหว่างงานวิจัยที่ถูกกฎหมายและงานที่อันตราย วิจัยทางชีววิทยามักมีศักยภาพในการใช้งานทั้งสองทาง ความรู้ทางวิทยาศาสตร์เดียวกันสามารถสนับสนุนการรักษาทางการแพทย์และยังสามารถส่งเสริมการพัฒนาพาหะที่เป็นอันตรายยิ่งขึ้นได้ Anthropic หัวหน้าข่าวกรองความเสี่ยง Jacob Klein เล่าให้ฟังกับ The New York Times ว่ากรณีเหล่านี้มักไม่ได้มีการประกาศเจตนาที่ชัดเจนในการทำร้าย ผู้วิจัยสามารถแสดงเป้าหมายทางวิทยาศาสตร์ที่เหมือนกับถูกกฎหมาย ในขณะที่กำลังทำงานที่ส่งผลกระทบต่อความมั่นคงปลอดภัยอย่างร้ายแรง
«เรากำลังเผยแพร่รายงานข่าวกรองความเสี่ยงที่ละเอียดที่สุดที่เคยมีมา รายงานนี้ครอบคลุมวิธีการที่คนพยายามใช้ Claude ในการทำผิดกฎหมาย — เช่น การโจมตีเครือข่าย การทำผลกระทบต่อการดำเนินงาน การสอดแนม การวิจัยทางชีววิทยา และการสร้างอาวุธ — และวิธีที่เราตรวจพบและป้องกันการกระทำเหล่านี้» Anthropic ได้ประกาศในโซเชียลมีเดียว่า «เราป้องกันการดำเนินการทุกอย่างในรายงาน»
การวิเคราะห์กรณีการใช้ Claude อย่างผิดกฎหมาย
Anthropic เผยแพร่ว่าได้ตรวจพบการพยายามใช้งานที่ละเอียดอ่อนและหลบหลีกระบบความมั่นคงปลอดภัย บริษัทได้ระบุบัญชีที่เกี่ยวข้องกับการกระทำเหล่านี้และแบ่งปันผลการตรวจสอบกับเจ้าหน้าที่และบริษัท AI อื่นๆ กรณีหนึ่งเกี่ยวข้องกับการวิจัยที่เกี่ยวกับไข้ชิกงกันยา โดยระบบของ Anthropic ป้องกันคำขอการสนับสนุนที่เกี่ยวข้องกับการเพิ่มความสามารถที่จะทำการวิจัยทางทหาร การทำงานที่เกี่ยวข้องนี้มีเป้าหมายที่จะทำในหน่วยงานทางทหาร ซึ่งทำให้ความกังวลของบริษัทเพิ่มขึ้น หลังจากที่ Claude ป้องกันคำขอที่ไว้วางใจได้น้อยลง ผู้วิจัยได้ดำเนินการต่อผ่านช่องทางอื่น
Anthropic ได้พบว่าพาณิชย์แพลตฟอร์มหนึ่งได้นำพางการแนะนำทางชีวภาพที่ถูกปฏิเสธไปยังรูปแบบ AI ที่มีความมั่นคงปลอดภัยที่อ่อนกว่า กรณีที่สองเกี่ยวข้องกับการวิจัยเกี่ยวกับไข้หวัดนกที่เป็นไวรัสที่เป็นอันตรายสูง Anthropic ระบุว่านักวิจัยใช้ Claude ในการวิจัยแผนการ การวิเคราะห์ข้อมูล และการอธิบายทางวิทยาศาสตร์เป็นเวลาหลายสัปดาห์ บริษัทกล่าวว่าระบบความมั่นคงปลอดภัยของบริษัทป้องกันไม่ให้นักวิจัยเข้าถึงรูปแบบที่แข็งแกร่งที่สุดของบริษัทเพื่อทำงานที่ไว้วางใจได้น้อยลง การกระทำนี้ในที่สุดยังคงอยู่ในรุ่นที่อ่อนกว่า
มาตรการควบคุมการสอบถามทางชีวภาพที่เป็นความเสี่ยงสูง
Anthropic ได้รายงานอีก 3 กรณีที่เกี่ยวข้องกับการวิจัยทางชีวภาพที่มีศักยภาพในการใช้เป็นอาวุธ กรณีเหล่านี้รวมถึงงานที่เกี่ยวข้องกับไวรัสพอกซ์ พิษ และสารประกอบที่เกี่ยวข้องกับพิษบางชนิด บริษัทได้เก็บรักษาข้อมูลเกี่ยวกับตัวตน สถานที่ และรายละเอียดทางชีวภาพของนักวิจัย Anthropic ไม่ได้กล่าวอ้างว่าวิทยาศาสตร์บางคนมีเจตนาที่จะทำร้าย การแยกแยะนี้มีความสำคัญมาก เนื่องจากรุ่นเก่าของ Claude ในการสนับสนุนการวิจัยทางชีวภาพที่ซับซ้อนแสดงความสามารถที่มีจำกัด Anthropic ตอนนี้ไม่สามารถทำนายได้เหมือนกันสำหรับระบบใหม่
นักจุลชีววิทยาและอดีตเจ้าหน้าที่สาธารณสุขของสหรัฐฯ Susan Monarez ได้ทำการตรวจสอบรายงานก่อนที่จะเผยแพร่ เธอเล่าให้ฟังกับ The New York Times ว่ารูปแบบที่ท้าทายที่สุดอาจช่วยให้ผู้ที่มีเจตนาที่ไม่ดีซ่อนการวิจัยที่อันตรายไว้ใต้เป้าหมายทางวิทยาศาสตร์ที่ถูกกฎหมาย Anthropic ได้เพิ่มมาตรการควบคุมสำหรับการสอบถามทางชีวภาพที่เป็นความเสี่ยงสูง บริษัทยังได้กล่าวว่าหวังว่าผู้วิจัยจะยังคงมีสิทธิ์ในการเข้าถึงความสามารถทางวิทยาศาสตร์ที่มีประโยชน์ ซึ่งทำให้เกิดปัญหาทางวิศวกรรมที่ยาก มาตรการความมั่นคงปลอดภัยต้องไม่กระทบต่อการวิจัยที่ถูกกฎหมายในการรักษาโรค �วัคชัน และการรักษา
กรณีล่าสุดของ Anthropic แสดงให้เห็นว่าการแยกแยะนี้ยิ่งยากขึ้นเมื่อรูปแบบท้าทายที่สุดได้มีความสามารถทางวิทยาศาสตร์ที่ลึกซึ้งมากขึ้น
ผลกระทบของรูปแบบท้าทายที่สุดต่อการวิจัยทางชีวภาพ
เมื่อ AI รุ่นใหม่มีความก้าวหน้าขึ้น นักวิจัยอาจทำการวิจัยทางชีวภาพที่เป็นความเสี่ยงที่ซ่อนอยู่ใต้เป้าหมายทางวิทยาศาสตร์ที่ถูกกฎหมาย Anthropic ได้เปิดเผยกรณีเหล่านี้และแสดงให้เห็นว่าศักยภาพในการใช้ทั้งสองทางในการวิจัยทางชีวภาพเพิ่มขึ้นอย่างมาก การเพิ่มขึ้นนี้ไม่เพียงแต่ท้าทายมาตรการความมั่นคงปลอดภัยของบริษัท แต่ยังก่อให้เกิดการพิจารณาอย่างลึกซึ้งเกี่ยวกับวิธีการที่จะสมดุลการส่งเสริมความก้าวหน้าทางวิทยาศาสตร์และความปลอดภัยของสาธารณะ ด้วยการพัฒนาที่รวดเร็วของเทคโนโลยี การให้ความมั่นในการไม่ให้การวิจัยถูกใช้ในทางที่ผิดเป็นหัวข้อที่สำคัญ และมีผลกระทบมากต่อการวิจัยทางวิทยาศาสตร์และการใช้งานในอนาคต