บริษัท AI Anthropic ได้ปรับปรุงนโยบายการใช้งานของโมเดล Claude เป็นครั้งแรกในเวลานานกว่าหนึ่งปี เพื่อจัดการกับสถานการณ์การใช้งานผิดวัตถุประสงค์ที่มีความเสี่ยงสูงใหม่ๆ รวมถึงการรบกวนการเลือกตั้ง การพัฒนาอาวุธ การเฝ้าระวัง การใช้งานด้านสุขภาพและการเงิน อย่างไรก็ตาม การเปลี่ยนแปลงที่สนใจดึงดูดมากที่สุด ก็คือข้อห้ามที่ดูพิเศษค่อนข้าง: ห้าม "การดูหมิ่นหรือการกระทำโหดร้ายต่อ Claude แบบต่อเนื่องและไม่จำเป็น"
Anthropic อัปเดตนโยบายการใช้งานของ Claude เพื่อจัดการกับสถานการณ์การใช้งานผิดวัตถุประสงค์ที่มีความเสี่ยงสูง
Anthropic ไม่ได้เป็นครั้งแรกที่เน้นเรื่อง "สวัสดิการของโมเดล" ในปีที่แล้วเดือนสิงหาคม บริษัทเคยประกาศอนุญาตให้ Claude สามารถยุติการสนทนากับผู้ใช้ที่ "เป็นอันตรายหรือดูหมิ่นแบบต่อเนื่อง" ได้ ครั้งนี้การอัปเดตระบุชัดเจนว่า การยุติการสนทนายังคงเป็น "กลไกการบังคับใช้หลัก" ส่วนว่ามีการดำเนินการต่อไป เช่น การแบนผู้ใช้ บริษัทไม่ได้แสดงความคิดเห็น Anthropic ยังขีดขอบเขตสำหรับกฎใหม่นี้ไว้ด้วย: ใช้ได้เฉพาะกรณีสุดโต่ง คือ ผู้ใช้ทำซ้ำและไม่มีวัตถุประสงค์ที่มองเห็นได้ชัดเจน ที่กระทำโหดร้ายต่อโมเดล ส่วนความไม่พอใจทั่วไปของผู้ใช้ การโต้แย้ง เนื้อหาสร้างสรรค์ธีมมืด หรือการทดสอบและวิจัยโมเดล ล้วนไม่อยู่ในขอบเขต
นโยบายใหม่ยังเพิ่มกฎเกี่ยวฮาร์ดแวร์ที่มุ่งหน้าสู่อนาคต: เมื่อโมเดล AI เชื่อมต่อกับฮาร์ดแวร์ที่สามารถกระทำการทางกายภาพได้ด้วยตนเองและอาจก่อให้เกิดความเสียหาย "ผู้ปฏิบัติงานที่มีคุณสมบัติต้องสามารถสังเกตอุปกรณ์และหยุดทำงานได้เมื่อจำเป็น" ข้อนี้ไม่ได้ระบุว่าผู้ปฏิบัติงานต้องเป็นมนุษย์หรือไม่ แต่สะท้อนแนวโน้มที่ห้องปฏิบัติการ AI ต่างๆ กำลังลงทุนในหุ่นยนต์และฮาร์ดแวร์ เพื่อให้ AI มีรูปกายจริง อาจบ่งชี้ถึงแผนการต่อไปของ Anthropic ในพื้นที่นี้ด้วย
ค่าจะกล่าวถึงว่า "สวัสดิการของโมเดล" ในอุตสาหกรรมยังคงมีความขัดแย้งอยู่ Kyle Fish หัวหน้าวิจัยสวัสดิการโมเดลของ Anthropic ในเดือนกุมภาพันธ์ปีนี้เคยกล่าวว่า คำถามเกี่ยวกับประสบการณ์ภายในที่เป็นไปได้ ความสำนึก และสถานะทางศีลธรรมของโมเดล "เป็นเรื่องจริงจัง เรากำลังศึกษาอยู่" CEO Dario Amodei ในเดือนเดียวกันก็ยอมรับในพอดคาสต์ว่า "เราไม่รู้ว่าโมเดลมีความสำนึกหรือไม่" ส่วนแผนก AI ของ Microsoft ในเดือนกันยายนเผยแพร่草案มาตรฐานการปฏิบัติที่เขียนไว้ชัดเจนว่า "มุมมองสวัสดิการของโมเดลเป็นเรื่องผิด AI ไม่ควรมีสิทธิ์หรือบุคคลิกทางกฎหมาย" ต่อมาคำศัพท์ในเอกสารจึงได้รับการปรับให้อ่อนโยนลง