Intel เปิดตัว Gaudi 3 ชิปประมวลผล AI ที่เคลมว่าแรงกว่า ชิป NVIDIA H100 ถึง 1.7 เท่า
Intel เปิดตัวชิปประมวลผล AI ตัวใหม่ล่าสุดในชื่อ Gaudi 3 ในงาน Intel Vision 2024 โดยเจาะตลาดไปในกลุ่มองค์กรที่ต้องการประมวลข้อมูล AI เป็นจำนวนมาก พร้อมเคลมประสิทธิภาพว่าแรงกว่าชิปตัวดังที่เป็นมาตรฐานในวงการอย่าง NVIDIA H100 ถึง 1.7 เท่า อีกทั้งยังประหยัดพลังงานมากกว่าคู่แข่งด้วย
Intel Gaudi 3 ผลิตโดย TSMC ซึ่งใช้สถาปัตยกรรม และหลักการจัดเรียงเหมือนกับชิป Gaudi 2 รุ่นก่อน แต่ได้มีการปรับเปลี่ยนโดยใช้กรรมวิธีการผลิตขนาด 5 นาโนเมตร (รุ่นก่อนผลิตบนขนาด 7 นาโนเมตร) ทำให้ประหยัดพลังงานมากกว่าเดิม
ตัวชิปมากับหน่วยประมวลผลหลัก Tensor Processing Cores ทั้งหมด 64 ตัว รองรับหน่วยความจำแบนด์วิดท์สูง HBM2e ความเร็ว 3.7TB/s ความจุสูงสุดถึง 128GB มีค่าการปล่อยความร้อนสูงสุด (TDP) สูงสุด 900W
ซึ่งเมื่อนำไปทดสอบกับโมเดลภาษาขนาดใหญ่ตัวดังอย่าง LLAMA2-7B, LLAMA2-13B และ GPT 3-175B สามารถเทรนคำสั่งได้รวดเร็วกว่าชิป NVIDIA H100 สูงสุดถึง 1.7 เท่า อีกทั้งยังจัดการการใช้พลังงานได้ดีกว่าถึง 2.3 เท่าเลยด้วย
เบื้องต้นทาง Intel ได้เริ่มจัดส่งตัวอย่างชิปดังกล่าวในรูปแบบ Unit ระบายความร้อนด้วยลม ไปให้พาร์ตเนอร์ได้ทดสอบกันแล้ว โดยมีแผนที่จะวางจำหน่ายอย่างเป็นทางการในช่วงไตรมาส 3 ปีนี้ (ก.ค. – ก.ย. 2024) หลังจากนั้นก็จะเปิดตัว Unit ที่ใช้ระบบระบายความร้อนโดยของเหลวในช่วงสิ้นปีนี้