iPhone มี RAM น้อยกว่า Android ยังสามารถรันโมเดล AI จากบนเครื่องได้หรือไม่
นับตั้งแต่ปี 2024 เป็นต้นไป การแข่งขันด้าน AI จะเข้มข้นมากขึ้นอย่างที่ไม่เคยมีมาก่อน มือถือ Android ระรองรับการรันโมเดลภาษาขนาดใหญ่ (LLM) จากบนเครื่องโดยไม่ต้องพึ่งพาอินเทอร์เน็ต เพราะข้อได้เปรียบของการมี RAM ขนาดใหญ่ – แต่คำถามคือ iPhone ของ Apple ที่ปัจจุบันมี RAM สูงสุดเพียง 8GB ซึ่งดูจะน้อยเกินไป จะสามารถทำแบบเดียวกับ Android ได้หรือไม่
ตามที่ผมเขียนไว้ในบทความ ‘เทรนด์มือถือปี 2024’ ว่า RAM อาจกลายมาเป็นปัจจัยในการเลือกซื้อมือถือในปีหน้า เนื่องจาก Macquarie ได้ออกรายงานว่า 12GB คือขนาด RAM ขั้นต่ำที่จะทำให้มือถือรันโมเดล AI จากบนเครื่องได้ ซึ่งข้อมูลนี้ไปสอดคล้องกับการที่ Google ปล่อยอัปเดต Gemini ให้ใช้งานเฉพาะ Pixel 8 Pro ที่มี RAM 12 GB ในขณะที่ Pixel 8 รุ่นมาตรฐานที่มี RAM 8GB นั้นยังไร้วี่แวว
หากอ่านมาถึงตรงนี้ หลายคนคงเริ่มสงสัยแล้วว่า มือถือที่มี RAM 8GB หรือต่ำกว่า จะเป็นยังไงต่อ ผู้ผลิตจะลดขนาดโมเดล AI ให้เล็กลงโดยการตัดฟังก์ชันบางอย่างออกมั้ย หรือจะปรับให้ไปรันจากบนคลาวด์แทนเพื่อให้ยังใช้งานได้ โดยแลกมากับความเร็วการประมวลผลและการตอบสนองที่ด้อยกว่า เพราะถึงอย่างไรเสียก็คงดีกว่าการที่ใช้งานไม่ได้เลย… แต่ดูเหมือนคำตอบของ Apple จะไม่ใช่ทั้งหมดที่กล่าวมา
นักวิจัยของ Apple ได้เผยแพร่บทความ ‘LLM in a flash’ เพื่อนำเสนอแนวทางในการรันโมเดล LLM บนอุปกรณ์ที่มี RAM จำกัดได้อย่างมีประสิทธิภาพ โดยวิธีที่ Apple ใช้คือ การเก็บพารามิเตอร์บางส่วนไว้ในสตอเรจ ร่วมกับเทคนิค windowing และ row-column bundling เพื่อลดภาระการโหลดข้อมูลและเพิ่มประสิทธิภาพการใช้หน่วยความจำ ก่อนที่จะต่อไปยัง RAM อีกทอดหนึ่ง แทนที่จะโหลดโมเดลทั้งก้อนไว้ใน RAM เหมือนวิธีปกติ
ข้อมูลในเอกสารระบุว่า วิธีข้างต้นจะช่วยให้อุปกรณ์รันโมเดล LLM ที่มีขนาดใหญ่เป็นสองเท่าของขนาด RAM ได้ หากวิธีการนี้ได้ผลลัพธ์ตามที่เคลม หมายความว่า iPhone 15 Pro ที่มี RAM 8GB อาจสามารถรันโมเดลได้เทียบเท่ามือถือรุ่นอื่นที่มี RAM 16GB ส่วนในแง่ของความหน่วงของเทคนิคนี้ Apple เคลมว่า เร็วกว่าการโหลดจาก CPU และ GPU แบบเนทีฟที่ 4 – 5 เท่า และ 20 – 25 เท่า ตามลำดับ เรื่องความเร็วจึงไม่ใช่ปัญหา
Counterpoint ประเมินว่า มือถือที่มาพร้อมความสามารถด้าน AI จะมียอดขายแตะ 100 ล้านเครื่องในปี 2024 และภายในปี 2027 กว่า 40% ของมือถือในตลาด จะมาพร้อมความสามารถด้าน AI ถือเป็นการเข้าสู่ยุคใหม่อย่างแท้จริง
ที่มา : arXiv