Anthropic เปิดตัวระบบ FlashProve เพื่อยืนยันความถูกต้องของผลลัพธ์ AI

Anthropic ประกาศเปิดตัว FlashProve ระบบเข้ารหัสแบบเปิดซึ่งมีเป้าหมายเพื่อยืนยันว่าโมเดลปัญญาประดิษฐ์ได้สร้างการตอบสนองจริง ๆ หรือไม่ โดยไม่ต้องเปิดเผยน้ำหนักที่เป็นกรรมสิทธิ์ของมัน เทคโนโลยีนี้สามารถช่วยผู้ใช้ ผู้ตรวจสอบอิสระ และหน่วยงานกำกับดูแลในการยืนยันว่าผู้ให้บริการกำลังใช้งานโมเดลตามที่กล่าวอ้าง ระบบนี้ใช้เทคโนโลยีการเข้ารหัสแบบความรู้ศูนย์เพื่อสร้างหลักฐานทางคณิตศาสตร์ที่พิสูจน์ว่าโมเดลเฉพาะได้สร้างผลลัพธ์ที่กำหนดเมื่อได้รับการกระตุ้นเฉพาะ ด้วยเหตุนี้ เทคโนโลยีนี้จึงมีแนวโน้มที่จะช่วยแก้ปัญหาความเชื่อมั่นที่เพิ่มขึ้นในขณะที่บริษัทต่าง ๆ เริ่มพึ่งพาผู้ให้บริการโมเดลและบริการเส้นทางจากบุคคลที่สามเพื่อเข้าถึงระบบ AI ที่ทันสมัย

ในปัจจุบัน ผู้ใช้ไม่สามารถระบุได้อย่างเชื่อถือได้ว่าการตอบสนองใด ๆ มาจากโมเดลที่พวกเขาเลือกหรือผู้ให้บริการได้เปลี่ยนเป็นทางเลือกที่ถูกกว่า FlashProve มีเป้าหมายเพื่อให้การรับประกันนี้ โดยไม่ต้องให้ผู้ใช้เข้าถึงหรือดำเนินการโมเดลนั้นด้วยตนเอง

หลักการทำงานของเทคโนโลยีการเข้ารหัส

หลักฐานการเข้ารหัสเพื่อยืนยันผลลัพธ์ FlashProve ใช้เทคโนโลยีการเข้ารหัสที่เรียกว่า zero-knowledge succinct non-interactive arguments of knowledge (zkSNARK) ซึ่งอนุญาตให้ผู้ให้บริการพิสูจน์ความถูกต้องของการคำนวณโดยไม่ต้องเปิดเผยข้อมูลที่ละเอียดอ่อนของโมเดล ระบบนี้ทำงานในสองขั้นตอน ขั้นแรก ผู้ให้บริการจะเผยแพร่คำมั่นสัญญาเข้ารหัสของน้ำหนักโมเดล ซึ่งสร้างลายนิ้วมือของโมเดลที่ใช้ในขณะที่ยังคงความเป็นส่วนตัวของน้ำหนัก เมื่อผู้ใช้ส่งคำขอ ผู้ให้บริการสามารถสร้างหลักฐานเพื่อพิสูจน์ว่าโมเดลที่ได้ให้คำมั่นสัญญาได้สร้างผลลัพธ์ที่สอดคล้องกันได้ ผู้ที่มีคำมั่นสัญญา คำกระตุ้น และการตอบสนองสามารถตรวจสอบหลักฐานนี้ได้โดยไม่ต้องเข้าถึงน้ำหนักของโมเดล

Anthropic ใช้ Llama 4 Maverick (โมเดลผสมที่มี 4000 ล้านพารามิเตอร์) เพื่อสาธิตวิธีการนี้ เมื่อทำงานบน NVIDIA H100 GPU ตัวเดียว FlashProve สามารถสร้างหลักฐานได้ที่ความเร็วประมาณ 110 แท็กต่อวินาที โดยขนาดของแต่ละหลักฐานอยู่ที่ประมาณ 19 MB สำหรับคำขอที่มี 1,024 แท็ก การตรวจสอบด้วย CPU 24 คอร์ใช้เวลาประมาณ 17 วินาที โดยไม่ต้องใช้ GPU

ความท้าทายและข้อจำกัดในการประยุกต์ใช้เทคโนโลยี

ความปลอดภัยเผชิญกับความท้าทายจริง ๆ การประยุกต์ใช้เทคโนโลยีนี้ไม่จำกัดเพียงแค่การตรวจสอบว่าลูกค้าได้รับโมเดลที่เลือกหรือไม่ Anthropic เชื่อว่าหลักฐานการอนุมานที่เข้ารหัสสามารถช่วยตรวจสอบการเปลี่ยนแปลงของการตอบสนองของโมเดล สนับสนุนการประเมินอิสระ และให้หน่วยงานกำกับดูแลตรวจสอบว่าผู้ให้บริการเสนอโมเดลใดบ้าง ตัวอย่างเช่น บริษัทหนึ่งสามารถขอให้ผู้ให้บริการพิสูจน์ว่าโปรแกรมซอฟต์แวร์รักษาความปลอดภัยทางไซเบอร์ของตนถูกตรวจสอบโดยโมเดลเฉพาะ แทนที่จะเป็นทางเลือกที่ถูกกว่า หน่วยงานกำกับดูแลยังสามารถใช้หลักฐานประเภทนี้เพื่อตรวจสอบว่าผู้ให้บริการได้เสนอโมเดลที่ได้รับการอนุมัติหรือไม่ หรือว่าตรงตามข้อผูกพันบางประการในการพัฒนา AI หรือไม่

อย่างไรก็ตาม FlashProve ยังคงเป็นต้นแบบการวิจัย ไม่ใช่โซลูชันที่พร้อมใช้งานในเชิงพาณิชย์ ทรัพยากรการคำนวณที่จำเป็นในการสร้างหลักฐานนั้นสูงกว่าการอนุมานทั่วไปมาก การวัดของ Anthropic แสดงให้เห็นว่ากระบวนการนี้ต้องการเวลา GPU ประมาณ 70 ถึง 95 เท่าของ vLLM (เครื่องมืออนุมานแบบเปิดที่ใช้กันอย่างแพร่หลาย) ระบบปัจจุบันยังรองรับบริบทสูงสุด 1,024 แท็ก และพิสูจน์เวอร์ชันจำนวนเต็มของโมเดลภายใต้การถอดรหัสแบบโลภ มันยังไม่ได้ครอบคลุมผลลัพธ์การอนุมานทั้งหมดที่เป็นจุดลอยหรือการสุ่ม นอกจากนี้ มันซ่อนน้ำหนักของโมเดล แต่ไม่ซ่อนโครงสร้างของโมเดล

ความหมายในการส่งเสริมการวิจัยและพัฒนา

Anthropic ได้เผยแพร่โค้ดที่สามารถใช้งานได้ของระบบ รายงานทางเทคนิค ข้อกำหนดโปรโตคอล และหลักฐานการตรวจสอบอย่างเป็นทางการตามใบอนุญาต Apache 2.0 บริษัทกล่าวว่าการเผยแพร่ครั้งนี้มีเป้าหมายเพื่อกระตุ้นให้นักวิจัยคนอื่น ๆ พัฒนาต่อจากพื้นฐานนี้และปรับปรุงเทคโนโลยีนี้ การวิจัยนี้เป็นการก้าวแรกไปสู่การทำให้สามารถตรวจสอบความถูกต้องของตัวตนของโมเดลและความสมบูรณ์ของการตอบสนองได้อย่างอิสระ ซึ่งอาจเพิ่มความเชื่อมั่นของผู้ใช้ต่อระบบที่อยู่เบื้องหลังแอปพลิเคชันของพวกเขา

ผลกระทบของ FlashProve ต่อความเชื่อมั่นในโมเดล AI

ด้วยการพัฒนาเทคโนโลยี AI อย่างรวดเร็ว ความเชื่อมั่นในความถูกต้องของผลลัพธ์โมเดลกลายเป็นประเด็นสำคัญ การเปิดตัว FlashProve มอบเครื่องมือการตรวจสอบใหม่ให้กับผู้ใช้และหน่วยงานกำกับดูแล ซึ่งสามารถรับรองว่าโมเดลที่ใช้งานนั้นตรงตามฟังก์ชันที่กล่าวอ้าง โดยไม่ต้องเปิดเผยข้อมูลที่ละเอียดอ่อนของโมเดล สิ่งนี้ไม่เพียงช่วยเพิ่มความเชื่อมั่นของผู้ใช้ต่อการใช้งาน AI แต่ยังอาจส่งเสริมความต้องการความโปร่งใสจากผู้ให้บริการโมเดลในตลาด แม้ว่าเทคโนโลยีในปัจจุบันยังอยู่ในระยะการวิจัย แต่ผลกระทบที่อาจเกิดขึ้นอาจเปลี่ยนแปลงวิธีการตรวจสอบโมเดล AI ในอุตสาหกรรม