Anthropic ประกาศเสริมความร่วมมือกับทีมประเมินอิสระ

Anthropic ได้ประกาศอย่างเป็นทางการว่าเริ่มต้นความร่วมมือกับองค์กรไม่แสวงหาผลกำไร METR เพื่อให้สิทธิ์การเข้าถึงระดับพนักงานสำหรับโมเดลปัญญาประดิษฐ์ของตน เพื่อทำการประเมินอิสระที่มีความเข้มแข็งมากขึ้น ซึ่งเป็นส่วนหนึ่งของคำมั่นสัญญาที่บริษัทได้ให้ไว้เมื่อเดือนที่แล้วในการเสริมสร้างการประเมินจากบุคคลที่สามในด้านโมเดลและการปฏิบัติด้านความปลอดภัย

เหตุผลในการร่วมมือกับผู้ประเมินอิสระ

เมื่อความสามารถของโมเดลเพิ่มขึ้น ความต้องการในด้านมาตรการด้านความปลอดภัยและการประเมินความเสี่ยงก็เพิ่มขึ้นตามไปด้วย Anthropic ระบุว่าพวกเขาต้องการรับผิดชอบต่อการตัดสินใจที่ทำ แต่ไม่สามารถเปิดเผยข้อมูลทั้งหมดที่เกี่ยวข้องกับการทำงานด้านความปลอดภัยได้ เนื่องจากข้อมูลบางอย่างอาจถูกนำไปใช้โดยผู้ประสงค์ร้าย หรือเป็นข้อมูลที่มีความละเอียดอ่อนในเชิงพาณิชย์

「เราต้องการลดช่องว่างระหว่างความเข้าใจของผู้ประเมินต่อระบบของบริษัทปัญญาประดิษฐ์ชั้นนำกับความเข้าใจของบริษัทเอง」

Anthropic

บทบาทและวิธีการประเมินของ METR

METR จะรับผิดชอบในการประเมินรายงานความเสี่ยงของ Anthropic และเปิดเผยผลการประเมินความเสี่ยงดังกล่าว Anthropic ได้ร่วมมือกับ METR ในการตรวจสอบรายงานความเสี่ยงหลายครั้งแล้ว และมีแผนที่จะเสริมสร้างความร่วมมือกับหน่วยงานประเมินอื่น ๆ รวมถึง SecureBio และ Accenture

「เป้าหมายของเราคือการรับประกันว่าพันธมิตรของเราสามารถปกป้องข้อมูลลับและมีทรัพยากรและความเชี่ยวชาญที่จำเป็นในการประเมินโมเดลของเรา」

Anthropic

ระดับการเข้าถึงของผู้ประเมินและผลกระทบ

Anthropic มีแผนที่จะกำหนดระดับการเข้าถึงสามระดับสำหรับผู้ประเมิน โดยจะค่อย ๆ เพิ่มสิทธิ์การเข้าถึงข้อมูลสำหรับผู้ประเมินตามความลึกของความร่วมมือ ผู้ประเมินระดับแรกจะทำการตรวจสอบความเสี่ยงในแง่แคบ ขณะที่ผู้ประเมินระดับสองสามารถเผยแพร่ผลโดยไม่ต้องได้รับการอนุมัติจากบริษัท METR จะอยู่ในระดับสาม โดยมีสิทธิ์การเข้าถึงที่คล้ายกับพนักงาน

「เรามั่นใจว่าบริษัทปัญญาประดิษฐ์ชั้นนำทุกแห่งควรใช้มาตรการประเมินที่ฝังตัวเช่นเดียวกัน」

Anthropic

มาตรการชุดนี้ถือเป็นก้าวสำคัญของ Anthropic ในการควบคุมความปลอดภัยของปัญญาประดิษฐ์ โดยมีเป้าหมายเพื่อเสริมสร้างความโปร่งใสและความรับผิดชอบต่อโมเดลของตน

ข้อมูลจาก: ประกาศอย่างเป็นทางการของ Anthropic