เมื่อเร็ว ๆ นี้ Meta ได้เปิดตัวโมเดลปัญญาประดิษฐ์ Muse Spark Open และประกาศความร่วมมือกับ Apple เพื่อปรับแต่งการทำงานในท้องถิ่นของโมเดลนี้สำหรับ Mac Studio ตามข้อมูลที่ได้รับ โมเดล Muse Spark Open มีพารามิเตอร์รวม 8160 พันล้านตัว โดยใช้การออกแบบการกระตุ้นแบบกระจาย ซึ่งในแต่ละครั้งที่ทำการอนุมานจะมีพารามิเตอร์ที่ถูกกระตุ้นจริงประมาณ 420 พันล้านตัว รองรับหน้าต่างบริบทยาวถึง 1,000,000 Token โดยมุ่งเน้นไปที่การเขียนโปรแกรม การอนุมานที่ซับซ้อน และภารกิจของ AI ตัวแทน
ด้วยการใช้ Mac Studio สองเครื่องที่ติดตั้งชิป M5 Ultra และมีหน่วยความจำรวม 512GB ผู้ใช้สามารถเรียกใช้งานโมเดลขนาดใหญ่ในสภาพแวดล้อมเดสก์ท็อปได้ โดยไม่ต้องพึ่งพาบริการ AI บนคลาวด์อย่างเต็มที่
ความร่วมมือในครั้งนี้นับว่ามีความน่าสนใจอย่างมาก เนื่องจาก Apple และ Meta เคยมีความแตกต่างที่ชัดเจนในด้านนโยบายความเป็นส่วนตัว กฎของแพลตฟอร์ม และระบบนิเวศของแอปพลิเคชัน แต่ในครั้งนี้ทั้งสองฝ่ายกลับร่วมกันผลักดันให้โมเดลที่มีน้ำหนักเปิดทำงานบนฮาร์ดแวร์ของ Apple โดย Mark Zuckerberg CEO ของ Meta ได้ขอบคุณ John Ternus CEO ของ Apple ที่เข้าร่วมความร่วมมือ และ Ternus ได้กล่าวว่า Muse Spark Open สามารถทำงานได้อย่างมีประสิทธิภาพบนอุปกรณ์เดสก์ท็อป แสดงให้เห็นถึงศักยภาพของ Mac Studio ในการคำนวณ AI ในท้องถิ่น
ความร่วมมือระหว่าง Meta และ Apple สนับสนุนการทำงานของโมเดลปัญญาประดิษฐ์ในท้องถิ่น
Apple Muse Spark Open เป็นเวอร์ชันน้ำหนักเปิดของโมเดล Muse ของ Meta ซึ่งแตกต่างจากโมเดลปิดที่สามารถเข้าถึงได้เฉพาะผ่านบริการระยะไกล โมเดลน้ำหนักเปิดอนุญาตให้ผู้ใช้เข้าถึงน้ำหนักของโมเดลและสามารถนำไปใช้งานเองภายใต้เงื่อนไขที่กำหนด ซึ่งให้ความควบคุมในการทำงานที่มากขึ้นสำหรับนักพัฒนา นักวิจัย และธุรกิจ
ในด้านฮาร์ดแวร์ Meta ระบุว่าโมเดลนี้ได้รับการปรับแต่งสำหรับ Mac Studio โดยสามารถใช้โครงสร้างหน่วยความจำรวมของชิป Apple ในการทำงานได้ ระบบการ์ดจอแยกแบบดั้งเดิมมักต้องนำโมเดลน้ำหนักไปเก็บไว้ในหน่วยความจำกราฟิก แต่โครงสร้างหน่วยความจำรวมของ Apple อนุญาตให้ CPU และ GPU แบ่งปันหน่วยความจำเดียวกัน สองเครื่อง Mac Studio สามารถทำงานร่วมกันผ่านเฟรมเวิร์กซอฟต์แวร์ที่เกี่ยวข้อง ทำให้ระบบมีหน่วยความจำรวมประมาณ 1TB โดยแต่ละเครื่องติดตั้งชิป M5 Ultra ที่มีแบนด์วิธหน่วยความจำสูงสุด 1.2TB/s
Apple’s MLX machine learning framework ได้ให้การสนับสนุนการทำงานของโมเดลบน Apple Silicon ขณะที่ Meta ได้ทำการปรับแต่งสำหรับ Muse Spark Open
รายการ สเปค โปรเซสเซอร์ M5 Ultra RAM 512GB หน่วยความจำรวม แบนด์วิธหน่วยความจำ สูงสุด 1.2TB/s
คำชี้แจงเกี่ยวกับผลประโยชน์: บทความนี้มีลิงก์ผลิตภัณฑ์ของพันธมิตร หากคุณซื้อผ่านลิงก์ดังกล่าว TechRitual อาจได้รับค่าคอมมิชชั่น แต่จะไม่ส่งผลต่อการประเมินและการแนะนำผลิตภัณฑ์ รายละเอียดเพิ่มเติมโปรดดูที่นโยบายความเป็นส่วนตัว.