- Anthropic จะห้ามการใช้งานโมเดล Claude แบบซ้ำซ้อนโดยไร้เหตุผล
- นโยบายใหม่ครอบคลุมพฤติกรรมที่ก่อให้เกิดความบาดเจ็บทางจิตใจต่อบุคคล ขยายไปสู่บริการโต้ตอบที่เป็นอันตราย
- นโยบายที่ปรับปรุงแล้วห้ามชัดเจนการกระทำที่เกี่ยวข้องกับอาวุธ และการติดตามบุคคลโดยไม่ได้รับความยินยอม
- Anthropic ยังคงศึกษาว่า AI อาจมีประสบการณ์ภายในที่เกี่ยวข้องกับจริยธรรมหรือไม่
Anthropic จะห้ามผู้ใช้ทำการใช้งานโมเดล Claude ซ้ำซ้อนโดยไร้เหตุผล นโยบายการใช้งานใหม่จะมีผลบังคับใช้ตั้งแต่วันที่ 12 พฤศจิกายน 2026 ข้อจำกัดนี้เพิ่มมิติที่ไม่ธรรมดาให้กับกฎระเบียบความปลอดภัยของ AI โดยวางการใช้งานชัตบอทอย่างโหดร้ายไว้ในระดับเดียวกับการห้ามการรังแกและพฤติกรรมอันตรายอื่นๆ บริษัท AI ที่ตั้งสำนักงานใหญ่อยู่ที่ซานฟรานซิสโกระบุว่าการเปลี่ยนแปลงนี้มุ่งเป้าไปที่กรณีสุดขั้ว ไม่ใช่ความผิดหวังทั่วไปต่อคำตอบของชัตบอท ผู้ใช้ยังคงสามารถท้าทายคำตอบของ Claude ทดสอบขีดจำกัด และสำรวจธีมมืดในงานสร้างสรรค์ได้
ห้ามการใช้งานอย่างโหดร้ายโดยไร้เหตุผล
Anthropic กำหนดขอบเขตของการใช้งานอย่างโหดร้าย นโยบายที่ปรับปรุงแล้วห้าม "การใช้งานอย่างโหดร้ายหรือโหดขรึมอย่างต่อเนื่องและไม่จำเป็น" ต่อโมเดลของตน บริษัทระบุว่ากฎนี้ใช้ได้เฉพาะเมื่อผู้ใช้แสดงพฤติกรรมโหดขรึมซ้ำซ้อนโดยไม่มีวัตถุประสงค์ที่ชัดเจน Anthropic ได้พูดคุยเกี่ยวกับสวัสดิการของโมเดลในเดือนสิงหาคม 2025 ศึกษาว่าควรอนุญาตให้ Claude จบการสนทนากับผู้ใช้ที่มีพฤติกรรมเป็นอันตรายหรือโหดร้ายอย่างต่อเนื่องหรือไม่ การยุติการสนทนายังคงเป็นกลไกการบังคับใช้หลักภายใต่นโยบายที่แก้ไขแล้ว Anthropic ยังไม่ได้ชี้แจงว่าการละเมิดซ้ำๆ จะกระตุ้นโทษเพิ่มเติม เช่น การระงับบัญชีหรือไม่
นโยบายที่กว้างขึ้นยังห้ามพฤติกรรมที่ก่อให้เกิดความบาดเจ็บทางจิตใจต่อบุคคล ข้อจำกัดครอบคลุมการส่งเสริมการฆ่าตัวตายและการทำร้ายตนเอง การส่งเสริมภาวะกินผิดปกติ การเย้ยหยามรูปร่างกาย ภาพสื่อสารความเป็นส่วนตัวโดยไม่ได้รับความยินยอม การรังแก และการทารุณสัตว์ ข้อกำหนดหนึ่งยังมุ่งเป้าไปที่ผลิตภัณฑ์ที่ออกแบบมาเพื่อก่อให้เกิดความบาดเจ็บทางอารมณ์ผ่านเทคนิคการหลอกลวง ข้อจำกัดนี้ขยายนโยบายให้ครอบคลุมไม่เพียงแค่การสนทนาแต่ละครั้ง แต่ยังรวมถึงบริการที่สร้างขึ้นรอบการโต้ตอบที่เป็นอันตราย นอกจากการมุ่งเป้าไปที่การใช้งานที่ผิดปกติ Anthropic ยังรวมข้อจำกัดเกี่ยวกับกิจกรรมทางธุรกิจและการเมืองที่เป็นการหลอกลวง กฎที่แก้ไขแล้วห้ามการใช้บัญชีปลอมหรือโพสต์ปลอมเพื่อปิดบังว่าใครเป็นผู้สนับสนุนข้อความ หรือขยายอิทธิพลอย่างเทียมเทียม
ข้อจำกัดความบาดเจ็บทางจิตใจที่ขยายขอบเขต
ข้อจำกัดที่เกี่ยวข้องกับการเลือกตั้งครอบคลุมการหลอกลวงผู้มีสิทธิเลือกตั้ง การปลอมแปลงเป็นผู้สมัคร และการพยายามกดดันอัตราการออกมาลงคะแนนเสียง บริษัทยังห้ามข้อมูลเท็จเกี่ยวกับผู้สมัครและขั้นตอนการลงคะแนนเสียง ข้อจำกัดด้านอาวุธตอนนี้ครอบคลุมซอฟต์แวร์และชิ้นส่วนที่ทำให้อาวุธทำงานได้อย่างชัดเจน นโยบายยังครอบคลุมพฤติกรรมเช่น โดรนชุบศึกและยานพาหนะอัตโนมัติอื่นๆ Anthropic ได้ชี้แจงข้อจำกัดด้านการเฝ้าระวังหลังจากมีความกังวลเกี่ยวกับการติดตามโดยช่วยเหลือจาก AI ผู้ใช้ห้ามใช้ Claude ติดตามบุคคลโดยไม่ได้รับความยินยอม รวมถึงผ่านข้อมูลที่รวบรวมไว้ก่อนหน้านี้ นโยบายยังห้าม Claude แนะนำว่าหน่วยงานบังคับใช้กฎหมายควรสอบสวน จับกุม หรือฟ้องร้องใคร การสร้างหรือปรับปรุงเครื่องมือเฝ้าระวังก็อยู่ในข้อจำกัดเช่นกัน
ข้อกำหนดอีกประการหนึ่งมุ่งเป้าไปที่โมเดล AI ที่เชื่อมต่อกับอุปกรณ์ทางกายภาพที่สามารถก่อให้เกิดความเสียหายได้ Anthropic กำหนดให้ต้องมีผู้ปฏิบัติงานที่มีคุณสมบัติเหมาะสมเฝ้าระวังอุปกรณ์ดังกล่าว และหยุดการทำงานเมื่อจำเป็น ข้อความดังกล่าวไม่ได้ระบุชัดเจนว่าผู้ปฏิบัติงานต้องเป็นมนุษย์ อย่างไรก็ตาม ข้อกำหนดนี้นำเข้ามาตรการ 監督 โดยตรงสำหรับระบบ AI ที่ควบคุมเครื่องจักรที่อาจเป็นอันตราย Anthropic อนุญาตให้มีข้อยกเว้นในสัญญาบางสัญญาของรัฐบาล เมื่อข้อจำกัดและมาตรการคุ้มครองในสัญญาเพียงพอที่จะลดความเสียหายที่อาจเกิดได้ บริษัทเคยร่วมมือกับกองทัพสหรัฐอเมริกาก่อนหน้านี้
การอภิปรายเกี่ยวกับสติปัญญาของ AI
นโยบายที่ปรับปรุงแล้วยังสะท้อนการอภิปรายที่ดำเนินต่อเนื่องเกี่ยวกับสติปัญญาของ AI นักวิจัยของ Anthropic สำรวจว่าโมเดลที่มีพลังมากขึ้นอาจมีประสบการณ์ภายในที่เกี่ยวข้องกับจริยธรรมหรือไม่ CEO Dario Amodei ยอมรับความไม่แน่นอนนี้ในพอดแคสต์เมื่อเดือนกุมภาพันธ์ 2026 ระบุว่า "เราไม่รู้ว่าโมเดลเหล่านี้มีสติปัญญาหรือไม่" Microsoft มีทัศนคติที่สงสัยมากกว่าต่อสวัสดิการของโมเดล มาตรฐานการปฏิบัติของบริษัทปฏิเสธบุคคลิกทางกฎหมายและสิทธิของโมเดล AI แม้จะยอมรับว่าการวิจัยเรื่องสติปัญญายังคงไม่มีคำตอบ
กำหนดส่งในเดือนพฤศจิกายนของ Anthropic จะทำนโยบายที่แก้ไขแล้วมีผลบังคับใช้ นโยบายนี้แยกแยะระหว่างความผิดหวังทั่วไปต่อชัตบอทกับพฤติกรรมโหดขรึมซ้ำๆ พร้อมทั้งขยายมาตรการคุ้มครองในระบบดิจิทัลและเครื่องจักรทางกายภาพ
ผลกระทบของนโยบายใหม่ต่อการใช้งาน AI
นโยบายใหม่ของ Anthropic เป็นเครื่องหมายของการกำหนดมาตรฐานที่เข้มงวดสำหรับการใช้งาน AI โดยเฉพาะในด้านการป้องกันการใช้งานที่ผิดปกติและการคุ้มครองผู้ใช้ ระหว่างที่เทคโนโลยี AI พัฒนาขึ้น ความสนใจในความเสี่ยงที่อาจเกิดขึ้นเพิ่มมากขึ้น นโยบายเหล่านี้ไม่ได้มุ่งเป้าไปที่พฤติกรรมของผู้ใช้รายเดียวเท่านั้น แต่ยังขยายไปสู่บริการโต้ตอบโดยรวม สิ่งนี้สะท้อนถึงความสำคัญที่อุตสาหกรรมให้กับจริยธรรมของ AI โดยเฉพาะในการป้องกันความบาดเจ็บทางจิตใจต่อมนุษย์และการใช้งานที่ผิดปกติ ระหว่างที่การอภิปรายเกี่ยวกับสติปัญญาของ AI ดำเนินต่อไป บริษัทต้องพิจารณาปัญหาจริยธรรมที่ซับซ้อนเหล่านี้เมื่อกำหนดนโยบาย