ป้ายกำกับ: Tokens

AI: mac เหมาะกับ AI มากกว่าAI: mac เหมาะกับ AI มากกว่า

Mac M5 ถือเป็นข้อยกเว้นที่ได้เปรียบกว่าฝั่ง Windows PC มากเพราะ Mac ใช้สิ่งที่เรียกว่า Unified Memory ทำให้คุณสามารถนำ RAM ทั้งหมดของเครื่องมาใช้รัน AI ได้เกือบ 100%


1. วิธีคำนวณจากขนาด RAM

บน Mac M5 ระบบจะจอง RAM ส่วนหนึ่งไว้ให้ OS ดังนั้นกฎเหล็กคือ “ห้ามใช้ RAM เกิน 70-80% ของเครื่อง” เพื่อให้ AI รันได้ลื่นไหล

ขนาด RAM ของเครื่องขนาดโมเดล ที่รันได้ลื่น ขีดจำกัดสูงสุดที่พอรันได้
8 GB1b – 3b8b
16 GB7b – 9b14b
24 GB12b – 14b20b
36 GB / 48 GB30b32b – 40b
64 GB – 128 GB70bMoE

2. ทำไม M5 ถึงรันได้ดีกว่ารุ่นอื่น?

ถึงแม้ M1- M4 จะรันได้เหมือนกัน แต่ M5 มีจุดเด่นที่คุณควรรู้

  • Memory Bandwidth: M5 มีช่องทางการส่งข้อมูลที่กว้างมาก ทำให้เวลา AI ตอบ จะเร็วมาก แม้จะเป็นโมเดลขนาดใหญ่
  • Neural Engine รุ่นใหม่: ช่วยประมวลผลงานเฉพาะทางบางอย่าง ทำให้ CPU / GPU ไม่ต้องรับภาระหนักเกินไป
  • Metal Acceleration: โปรแกรมอย่าง Ollama หรือ LM Studio บน Mac จะดึงพลัง GPU มาช่วยรัน AI ได้เต็มประสิทธิภาพตั้งแต่วันแรก

3. คำแนะนำสำหรับการใช้งานจริง

หากคุณมี Mac M5 ผมแนะนำให้เลือกโมเดลตามประเภทงานดังนี้ครับ

  1. เน้นความไว : ใช้โมเดล 8b จะตอบโต้ทันทีเหมือนคุยกับคนจริง ๆ
  2. เน้นงานยาก / เขียนโค้ด: หากเครื่องคุณมี RAM 24GB ขึ้นไป ให้ลอง 14b หรือ 27b จะเริ่มเห็นความฉลาดที่ต่างออกไปมาก
  3. เน้นความรู้รอบตัว: หากมี RAM 64GB+ คุณสามารถรัน 70b ซึ่งฉลาดใกล้เคียง ChatGPT-4 ได้ในเครื่องตัวเองเลย

ชิปเซ็ต (Chipset) RAM (Unified Memory) ขนาดโมเดล AI ที่แนะนำ (4-bit) ความเร็วการตอบโต้ (Estimate) เหมาะสำหรับงาน
M5 (Base) 16 GB8B เร็วมากใช้งานทั่วไป, แชทบอทส่วนตัว
M5 / M5 Pro24 GB12B – 14B เร็วมากงานเอกสาร, ช่วยเขียนโค้ดเบื้องต้น
M5 / M5 Pro32 GB20B – 27B ดีวิเคราะห์ข้อมูล, เขียนโค้ดซับซ้อน
M5 Pro / Max64 GB30B – 50Bดีมาก งานวิจัย, สรุปบทความยาว ๆ
M5 Max128 GB70B – 90B ดี งาน AI ระดับโปร, สร้างเอเจนท์

จุดเด่นที่ต้องพิจารณา

ในชิปตระกูล M5 ตัวเลข RAM ไม่ใช่แค่บอกว่า “รันได้ไหม” แต่ Bandwidth จะเป็นตัวบอกว่า “ตอบเร็วแค่ไหน” ครับ

  1. M5 : Bandwidth ประมาณ 153 GB/s เหมาะกับการรันโมเดลขนาดเล็กถึงกลาง ได้ลื่นไหลที่สุด
  2. M5 Pro: Bandwidth เพิ่มเป็น 307 GB/s ทำให้เวลาใช้โมเดลขนาดกลาง จะแทบไม่ต้องรอ AI พิมพ์เลย
  3. M5 Max: Bandwidth สูงถึง 614 GB/s รุ่นนี้เกิดมาเพื่อรันโมเดลใหญ่ระดับ 70B ขึ้นไปโดยเฉพาะ เพราะสามารถดึงข้อมูลพารามิเตอร์จำนวนมหาศาลออกมาประมวลผลได้ทันที

สรุปวิธีเช็ค

เปิด Activity Monitor > ไปที่แถบ Memory

  • ดูว่าตอนนี้คุณใช้ RAM ไปเท่าไหร่
  • เอา RAM ที่เหลืออยู่ มาเทียบกับตารางด้านบนได้เลยครับ

ทริคพิเศษ: สำหรับ Mac แนะนำให้โหลดโมเดลที่เป็นไฟล์นามสกุล .gguf มาใช้ครับ เพราะมันถูกออกแบบมาให้รันบน Apple Silicon ได้สมบูรณ์แบบที่สุด


อ่านเพิ่มเติม