“#MuseGlimmer30B จาก #Meta พร้อมใช้งานบนแพลตฟอร์ม #AMD เพื่อรองรับ #LocalAgenticAI”
วันนี้ AMD ประกาศความพร้อมในการรองรับโมเดล Muse Glimmer 30B จาก Meta ตั้งแต่วันแรกที่เปิดตัว ซึ่งช่วยให้โมเดลดังกล่าวสามารถประมวลผลบนฮาร์ดแวร์ของ AMD ได้โดยตรง เพื่อรองรับการทำงานของ Agentic AI บนอุปกรณ์
ในขณะที่ AI Agents เริ่มเข้ามาจัดการเวิร์กโฟลว์ที่ซับซ้อนมากขึ้น ไม่ว่าจะเป็นการจัดการหน่วยความจำ การใช้งานเครื่องมือต่างๆ และการประมวลผลข้อมูลที่ละเอียดอ่อน การรันโมเดลแบบโลคัลผ่านเฟรมเวิร์กอย่าง llama.cpp จะช่วยให้นักพัฒนาลดการพึ่งพาโครงสร้างพื้นฐานบนระบบคลาวด์ลงได้ ในขณะเดียวกันก็ยังสามารถควบคุมความเป็นส่วนตัวและบริหารจัดการต้นทุนได้อย่างมีประสิทธิภาพมากขึ้น
สรุปประเด็นสำคัญ:
- Muse Glimmer 30B สามารถประมวลผลบนระบบที่ใช้โปรเซสเซอร์ AMD Ryzen™ AI Max+ หรือบนเครื่องเวิร์กสเตชันที่ขับเคลื่อนด้วยกราฟิกการ์ด Radeon™ AI PRO R9700 เพียงตัวเดียว ผ่านการใช้งานเฟรมเวิร์กแบบเปิดอย่าง llama.cpp
- ผ่านทางโปรแกรม LM Studio นักพัฒนาที่ใช้งานบนระบบ AMD ที่รองรับ พร้อมด้วยหน่วยความจำ VRAM/VGM ขนาด 32GB ขึ้นไป สามารถค้นหา ดาวน์โหลด และรันโมเดลได้ภายในเวลาไม่กี่นาที อีกทั้งยังสามารถเชื่อมต่อกับตัว Agents ต่าง ๆ เช่น Hermes Agent หรือ Open Claw ผ่านทาง Endpoints ที่รองรับมาตรฐานของ OpenAI และ Anthropic
- Lemonade ช่วยผสานรวม Muse Glimmer 30B เข้ากับแอปพลิเคชันโดยตรงผ่าน Local API Binary แบบฝัง (Embeddable) ที่มีขนาดเพียงประมาณ 4MB ทำให้โมเดลและข้อมูลทั้งหมดถูกจัดเก็บและประมวลผลอยู่บนอุปกรณ์ โดยไม่จำเป็นต้องติดตั้งโปรแกรมแยกต่างหาก
ไม่มีความคิดเห็น:
แสดงความคิดเห็น