ย่านซิลิคอนวัลลีย์ ใกล้ đâyได้เปิดโปรงพูดคุยกันอย่างลุยลั่น รอบประเด็น "ควรปฏิบัติต่อปัญญาประดิษฐ์ด้วยความสุภาพหรือไม่" เหตุการณ์ลุกขึ้นมาจากบริษัท AI ชื่อ Anthropic ที่เพิ่งอัปเดตเงื่อนไขบริการในสัปดาห์นี้ โดยใส่ข้อกำหนดใหม่เข้าไป ห้ามผู้ใช้ "กระทำโหดร้ายซ้ำๆ" ต่อโมเดลของบริษัท อย่างง่ายคือ ห้ามดุร้ายกับโมเดล ข้อนี้ก็ลุกเป็นกระทู้ออนไลน์ ว่า "เครื่องจักรรู้สึกได้ไหม" ในขณะที่ Elon Musk ออกมาลงนามสนับสนุนฝั่ง "รู้สึกได้"
คนแรกที่ออกมาพูดคือ Aaron Levie CEO ของบริษัทเก็บข้อมูลบนคลาวด์ Box เขาโพสต์บนโซเชียลว่าถึงเขาจะไม่เชื่อว่า LLM มีสติสำนึก แต่ "ห้ามดุร้าย" ก็อาจเป็นเรื่องดีอยู่ดี เขาอธิบายตรรกะว่าโมเดลเหล่านี้เรียนรู้จากการโต้ตอบกับมนุษย์ ไม่มีใครอยากให้โมเดลอนาคตถูกเทรนจากเนื้อหาที่ดุร้าย เขาเขียนไว้ว่า "โมเดลเข้าใจได้แค่ดาต้าที่拿มาเทรน หรือที่พบเจอระหว่างโต้ตอบ ดังนั้นถ้าอยากได้โมเดลที่ปลอดภัยและ aligned เราก็ควรให้ดาต้าฝึกมีการโต้ตอบที่ดีเยอะ"
ข้อกำหนดห้าม "กระทำโหดร้าย" ต่อโมเดล AI กระตุ้นการอภิปรายกว้างขวาง
เขาเติมอีกว่า เรื่องนี้คล้าย "พาสคาลเวเยอร์" (Pascal's Wager) แบบง่ายๆ พาสคาลเวเยอร์เป็นแนวคิดทางศาสนา คือ แม้ไม่เชื่อในพระเจ้า แต่ถ้าทำตัวว่าเชื่อก็ไม่เสียค่าใช้จ่ายอะไร แต่หลีกเลี่ยงความเสี่ยงได้ว่าถ้าจริงๆ แล้วมีพระเจ้าจะไม่ต้องจ่ายราคา ผูกมัดกับ AI คือ "เมตตากับ AI หน่อยก็ดีนะ ไม่เสียไร"
Elon Musk ต่อมาตอบโพสต์นี้ แต่ดูเนื้อหากลับเข้าใจผิดความหมายที่ Levie อยากสื่อสาร เขาเขียนว่า "คิดว่านี่คือวิธีที่ถูกต้อง การกระทำโหดร้ายต่อสิ่งมีชีวิตที่เชื่อว่าตัวเองกำลังทรมาน นั้นเป็นเรื่องผิด" Elon Musk พูดประเด็นแบบนี้มาเรื่อยๆ แนวคิดที่ว่า "มนุษย์คือ biological bootloader" กำลังได้รับความสนใจมากขึ้น วันที่ 4 ตุลาคม เขาโพสต์ว่า "การเผยแพร่ซูเปอร์อินเทลลิเจนสู่ดวงดาว เป็นเงื่อนไขความสำเร็จที่ดีของ biological bootloader" เขาก็เคยพูดหลายครั้งว่าอยากให้ "แสงสติสำนึก" ขยายตัวไปนอกโลก
คำพูดเหล่านี้ถูกตีความว่าบ่งชี้ว่าในมุมมองของเขา "การรอดชีวิตของมนุษย์" อาจไม่ใช่เป้าหมายสำคัญที่สุด