ผู้บริหารระดับสูงของ Anthropic เตือนโมเดล AI แบบโอเพนซอร์สมีความเสี่ยงสูงกว่า เน้นจำเป็นต้องระมัดระวังเรื่องความปลอดภัย

·โดย Henderson·AI
ผู้บริหารระดับสูงของ Anthropic เตือนโมเดล AI แบบโอเพนซอร์สมีความเสี่ยงสูงกว่า เน้นจำเป็นต้องระมัดระวังเรื่องความปลอดภัย

Guillaume Princen ผู้จัดการธุรกิจระหว่างประเทศของ Anthropic ในการสัมภาษณ์กับ Bloomberg Television ระหว่างการประชุม AI International Summit ที่จัดขึ้นใน Dublin ระบุว่า เมื่อเปรียบเทียบกับโมเดล AI ของบริษัทเอง โมเดลแบบเปิดมีความเสี่ยงสูงกว่าในด้านเหตุการณ์ความปลอดภัยทางไซเบอร์หรืออันตรายอื่นๆ เขาชี้ให้เห็นว่าสำหรับประเด็นความปลอดภัย ต้องระมัดระวังเป็นพิเศษกับโมเดลโอเพนซอร์ส และเน้นว่าเขาไม่สามารถแสดงความคิดเห็นแทนโมเดลแบบเปิดได้ แต่จากนิยามแล้ว โมเดลเหล่านี้มีความเสี่ยงสูงกว่าจริง

บริบทของการแสดงความคิดเห็นครั้งนี้คือ Anthropic กำลังเผชิญกับการแข่งขันที่รุนแรงขึ้นในบางประเทศ ปัจจุบันตัวเลือกแทนโมเดลแบบปิด (closed-source) ที่ได้รับความสนใจคือโมเดล AI แบบเปิดน้ำหนัก (open-weight) ซึ่งเผยพารามิเตอร์ อนุญาตให้ผู้ใช้ปรับเปลี่ยนเอง และรันบนฮาร์ดแวร์ของตัวเองได้ ผู้สนับสนุนมองว่า相較於 Anthropic และ OpenAI ที่ให้โมเดลแบบปิดที่ควบคุมเข้มงวด โมเดลแบบเปิดน้ำหนักมีต้นทุนต่ำกว่า และมีประโยชน์ต่อการรักษาสิทธิเอกราชของชาติ บริษัท AI ของฝรั่งเศสคือ Mistral AI เพิ่งเปิดตัวโมเดลแบบเปิดน้ำหนัก ให้ตัวเลือกโมเดลเอกราชแก่ยุโรป ในขณะเดียวกัน ชุดโมเดลแบบเปิดที่คล้ายกันของบริษัทจีน ก็ได้รับความสนใจเพิ่มขึ้นในตลาดต่างประเทศ

ความกังวลของ Anthropic ต่อความปลอดภัยของโมเดลแบบเปิดเพิ่มขึ้นอย่างต่อเนื่อง

Anthropic เพิ่มเตือนเกี่ยวกับความสามารถของ AI ใกล้ đâyอย่างต่อเนื่อง ในช่วงต้นสัปดาห์นี้ บริษัทเตือนว่าโมเดล AI ขนาดเล็กอาจเร็วๆ นี้สร้างบอทเน็ต (botnet) ชนิดใหม่ ที่สามารถทำซ้ำตัวเองระหว่างอุปกรณ์ขนาดเล็กที่เชื่อมต่ออินเทอร์เน็ต เช่น เตาอบอัจฉริยะ (smart oven) Princen ซึ่งยังดูแลธุรกิจขายไปยังสตาร์ทอัพและธุรกิจ "ดิจิทัลเนทีฟ" (digital-native) ของ Anthropic ระบุว่าความกังวลต่อโมเดลแบบเปิดน้ำหนัก มาจากความพยายามของ Anthropic ในการรับรองความปลอดภัยของผลิตภัณฑ์ หลังจากเกิดเหตุการณ์แฮกเกอร์ที่เกี่ยวข้องกับ AI หลายครั้งที่สนใจสาธารณะ Anthropic ระบุว่าได้เพิ่มมาตรการป้องกันความปลอดภัยพิเศษ เพื่อป้องกันไม่ให้โมเดลของตนถูกนำไปใช้ในการกระทำอันตราย

บริษัทยัง坚持 主張ว่า ควรชะลอการพัฒนา AI ก่อนที่จะสร้างมาตรฐานระหว่างประเทศและกลไกการประเมินที่เป็นเอกภาพ

เกี่ยวกับโมเดลของตนที่มีราคาสูงกว่า Princen ระบุว่าเขาจะบอกลูกค้าองค์กรว่าการซื้อโมเดลที่มีประสิทธิภาพสูงกว่าในที่สุดจะให้ผลตอบแทน "ต้องลงทุนในเทคโนโลยีขั้นหน้าตลอดเวลา เพราะในอีก 6 เดือน 1 ปี หรือ 2 ปีข้างหน้า ต้นทุนการใช้งานในสถานการณ์ประยุกต์เหล่านี้ก็จะลดลง" เขาพูด นอกจากนี้ เขายังกล่าวว่าโมเดล Claude ล่าสุดคือ Opus 5.5 ถูกกว่ารุ่นก่อนหน้า 40% เขายังเติมว่าลูกค้าองค์กรที่ซื้อโมเดล "ขั้นหน้า" (frontier) ของ Anthropic คิดเป็น "สัดส่วนที่ใหญ่มาก" ในธุรกิจของบริษัท แต่ไม่เปิดเผยข้อมูลเฉพาะเจาะจง

เกี่ยวกับแผน IPO ของ Anthropic Princen ปฏิเสธที่จะแสดงความคิดเห็น เช่นเดียวกับจำนวนเงินที่บริษัทลงทุนในการฝึกโมเดลใหม่ เขาก็ไม่ยินดีเปิดเผย

H
เกี่ยวกับผู้เขียน
Henderson