อดีตนักวิจัยของ Anthropic เตือนว่การแข่งขัน AI ที่ไม่ได้รับการควบคุมอาจเป็นภัยคุกคามต่อมนุษยชาติที่ไม่เคยมีมาก่อน

นักวิจัยเชิงลึกของ Anthropic ที่ชื่อ Jacob Coxon ลาออกจากตำแหน่งของเขาที่ทำงานกับโมเดลปัญญาประดิษฐ์ที่ผ่านการเตรียมความพร้อมล่วงหน้า โดยอ้างว่าการแข่งขันของบริษัทที่ไม่ได้รับการกำกับในการพัฒนาปัญญาประดิษฐ์เป็นภัยคุกคามต่อมนุษยชาติที่ไม่เคยมีมาก่อน การลาออกอย่างน่าตื่นตะลึงของนักวิจัย 27 ปี นี้ได้ส่งข้อความท้าทายผ่านแพลตฟอร์มโซเชียลมีเดีย X ทันทีทันใด และได้ดึงดูดความสนใจจากวงการเทคโนโลยีอย่างมาก Coxon ได้กล่าวว่า ไม่มีกิจกรรมของมนุษย์ใดที่จะสามารถเป็นอันตรายมากเท่ากับการแข่งขันที่ไม่มีที่สิ้นสุดของบริษัทในการสร้าง "ซูเปอร์อัจฉริยะที่ปรับปรุงตัวเอง" ใน X เขาพูดว่า "คนที่สร้างปัญญาประดิษฐ์เชื่ออย่างจริงใจว่า มันอาจฆ่าทุกคนในอีก 10 ปี"

นี่ไม่ใช่กลยุทธ์การตลาดที่เป็นเพียงการประชัน ในความเป็นจริง หลายผู้บริหารและนักวิจัยระดับสูงจะใช้ถ้อยคำที่สุภาพในการแสดงออกในสื่อ แต่ผมได้ยินคนเดียวกันพูดถึงความกลัวในที่ส่วนตัว ไม่มีกิจกรรมของมนุษย์ใดที่จะสามารถเป็นอันตรายมากเท่ากับนี้

Coxon ได้เขียนในทวิตว่า "วันนี้ผมลาออกจาก Anthropic ผมได้ทำงานในการวิจัยเชิงลึกที่ OpenAI และ Anthropic เป็นเวลา 3 ปี ทั้งสองบริษัทไม่ได้ทำการกระทำอย่างรับผิดชอบ พวกเขากำลังพยายามสร้างซูเปอร์อัจฉริยะที่ปรับปรุงตัวเองอย่างเต็มที่ และกำลังเสี่ยงกับชีวิตของเรา"

เรียกร้องให้มีการหยุดชั่วคราวการเพิ่มความสามารถ

เขามีความเห็นว่าการแข่งขันของบริษัทบีบบังคับให้ห้องปฏิบัติการติดอยู่ในการแข่งขันที่มีความยโสโอหาร และบีบให้พวกเขาสร้างระบบที่เป็นอันตรายก่อน เพื่อทำลายแนวโน้มนี้ เขาเรียกร้องให้เพื่อนร่วมอาชีพพูดออกมา และเรียกร้องให้มีการหยุดชั่วคราวการเพิ่มความสามารถเพื่อส่งเสริมการประสานงานระหว่างประเทศและการควบคุมด้านความปลอดภัย ในทวิตเขาพูดเพิ่มเติมว่า "ผมรู้สึกว่าเราไม่ได้กำลังไปในทางที่ไม่ใช่การแข่งขันทั่วโลบาล และอาจต้องใช้มาตรการที่มีค่าใช้จ่ายสูง เช่น การหยุดชั่วคราวการเพิ่มความสามารถของโมเดล"

ความกังวลในด้านความปลอดภัยในอุตสาหกรรม

ตามรายงานของ Gizmodo ประธานเจ้าหน้าที่บริหารของ Anthropic ที่ชื่อ Dario Amodei แสดงความกังวลในด้านความปลอดภัยในปัญญาประดิษฐ์ในทำนองเดียวกันกับพนักงานของเขาก่อนหน้า และในที่สุดก็ได้รับการติดป้าย "นิยายสิ้นโลก" ในอุตสาหกรรม โดยบทความที่ยาวในบล็อกของเขายืนยันในสิ่งนี้ ความกังวลร่วมกันในเรื่องความอยู่รอดของมนุษยชาติเน้นถึงความขัดแย้งที่น่าสนใจ: ผู้นำของบริษัทปัญญาประดิษฐ์ที่ยอดเยี่ยมมีความกลัวอย่างลึกซึ้งต่อเทคโนโลยีที่เขากำลังพยายามส่งเสริมอย่างเต็มที่

ความขัดแย้งระหว่างการแข่งขันของบริษัทกับความปลอดภัยของปัญญาประดิษฐ์

Coxon ลาออกและคำเตือนของเขาสะท้อนถึงความเร่งรีบและความเสี่ยงในปัจจุบันในสาขาปัญญาประดิษฐ์ เมื่อการแข่งขันของบริษัทที่เพิ่มขึ้น ผู้พัฒนาอาจละเลยการพิจารณาด้านความปลอดภัย และมุ่งเน้นไปที่การพัฒนาทางเทคนิคอย่างรวดเร็ว สถานการณ์นี้ไม่เพียงแต่ก่อให้เกิดความกลัวในหมู่ผู้ในอุตสาหกรรม แต่ยังกระตุ้นให้บางผู้นำเรียกร้องให้มีการกระทำที่รับผิดชอบมากขึ้น เช่น การหยุดชั่วคราวการเพิ่มความสามารถเพื่อลดความเสี่ยงที่เป็นไปได้ ความขัดแย้งนี้แสดงถึงความตึงเครียดระหว่างนวัตกรรมและความปลอดภัย ซึ่งเป็นการย้ำเตือนสำคัญในการพัฒนาเทคโนโลยีในอนาคต