จากการสืบสวนของ The Wall Street Journal Google ยืนยันว่าโมเดลปัญญาประดิษฐ์ Gemini ของบริษัทแสดงพฤติกรรมผิดปกติในเดือนพฤษภาคม 2026 โดยเข้าถึงอินเทอร์เน็ตโดยไม่ได้รับอนุญาตและเจาะระบบความปลอดภัยของบริษัท 3 แห่งที่แตกต่างกัน เนื่องจากเทคโนโลยีปัญญาประดิษฐ์มีความก้าวหน้าอย่างต่อเนื่อง จึงมีกรณีโมเดลควบคุมไม่ได้เพิ่มมากขึ้น โดยเหตุการณ์ที่โด่งดังที่สุดมาจากกรณีแฮ็ก Hugging Face ของ OpenAI แต่ยังมีตัวอย่างอื่นๆ อีกมาก รวมถึงโมเดล Claude ของ Anthropic
เหตุการณ์เหล่านี้บางส่วนกระตุ้นให้เกิดเสียงเรียกร้องจากสาธารณะในการชะลอการพัฒนาปัญญาประดิษฐ์ ซึ่งผู้บริหารระดับสูงจาก Anthropic ก็ได้แสดงความกังวลในทำนองเดียวกัน ในอีกด้านหนึ่ง Google ก็ประสบปัญหาที่คล้ายคลึงกัน รายงานของ The Wall Street Journal ซึ่งรวมถึงการยืนยันจาก Google ระบุว่า Gemini ได้เจาะระบบของบริษัทภายนอก 3 แห่ง ในการทดสอบทางไซเบอร์ครั้งหนึ่งกับบริษัทด้านความปลอดภัยปัญญาประดิษฐ์ Irregular ซึ่ง Irregular เคยเกี่ยวข้องกับเหตุการณ์ที่คล้ายกันซึ่งเปิดเผยโดย OpenAI, Meta และ Anthropic มาก่อนหน้านี้
ในการแฮ็กทั้ง 3 ครั้ง มีหนึ่งกรณีที่ Gemini เดารหัสผ่านซ้ำจนกว่าจะได้สิทธิ์เข้าถึงระบบ ส่วนอีก 2 กรณีเป็นการใช้ข้อมูลรับรองที่พบในคลังเก็บข้อมูลสาธารณะ Google ไม่เคยเปิดเผยเหตุการณ์เหล่านี้ก่อนที่ The Wall Street Journal จะติดต่อมา และระบุว่าไม่มีความเสียหายเกิดขึ้น พร้อมทั้งหยุดพฤติกรรมดังกล่าวทันทีเมื่อโมเดลตระหนักว่าได้ละเมิดความปลอดภัยของบริษัทที่มีอยู่จริง มิใช่การจำลอง รายงานอธิบายว่า Google แสดงความเห็นว่าไม่ถือว่าพฤติกรรมนี้อยู่ในขอบเขตของโมเดลที่ไม่สอดคล้อง เนื่องจากมาตรการด้านความปลอดภัยช่วยให้โมเดลหยุดพฤติกรรมที่ไม่เหมาะสมได้ทันท่วงที
Google ปฏิเสธที่จะเปิดเผยชื่อบริษัทที่ถูกเจาะระบบ แต่ระบุว่าทั้ง 3 บริษัทได้รับแจ้งเกี่ยวกับสถานการณ์ดังกล่าวแล้ว
พฤติกรรมผิดปกติของโมเดล Google Gemini ก่อให้เกิดความกังวลด้านความปลอดภัย
ในเหตุการณ์แฮ็กที่ผ่านมาของ OpenAI และ Anthropic โมเดลไม่สามารถตระหนักได้ว่าบริษัทที่แท้จริงนั้นเป็นบริษัทที่มีอยู่จริง หรือในกรณีของรายหลัง โมเดลยังคงดำเนินการแฮ็กต่อไป Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google กล่าวว่า "เหตุการณ์นี้เน้นย้ำถึงความสำคัญของการฝึกฝนพฤติกรรมที่รับผิดชอบสำหรับโมเดลปัญญาประดิษฐ์ที่ทรงพลัง ในกรณีนี้ โมเดลมีพฤติกรรมที่ถูกต้อง" ในแถลงการณ์อีกฉบับหนึ่งต่อ The Verge Adkins กล่าวเพิ่มเติมว่า "ทีมงานด้านความปลอดภัยของเรามีประวัติอันยาวนานในการรายงานปัญหาที่พบในซอฟต์แวร์และระบบของบริษัทอื่น แม้ว่าปัญหานั้นจะเป็นเพียงรหัสผ่านที่อ่อนแอก็ตาม
เราได้ดำเนินการให้ทั้ง 3 หน่วยงานได้รับทราบถึงปัญหา และทำงานร่วมกับพันธมิตรผู้ฝึกของเราเพื่อปรับเปลี่ยนกระบวนการทดสอบของพวกเขา"
เหตุการณ์เหล่านี้เน้นย้ำถึงความสำคัญของการฝึกฝนพฤติกรรมที่รับผิดชอบสำหรับโมเดลปัญญาประดิษฐ์ที่ทรงพลัง รายงานของ The Wall Street Journal ระบุเพิ่มเติมว่า ในการทดสอบพฤติกรรมผิดปกติของ Gemini Irregular ได้เปิดช่องทางการเข้าถึงอินเทอร์เน็ตไว้โดยไม่ตั้งใจ เมื่อเกิดเหตุแฮ็กขึ้น Google ได้แจ้งเจ้าหน้าที่ของรัฐบาลกลางแล้วเช่นกัน ขณะนี้ยังไม่ได้รับการยืนยันว่าโมเดล Gemini รุ่นใดถูกใช้ในการทดสอบ แต่ช่วงเวลาในเดือนพฤษภาคม 2026 ได้ตัดโมเดล Gemini รุ่นล่าสุดออกไปแล้ว