Local AI & Hardware

รัน DeepSeek Coder บน Mac Studio: คู่มือ VRAM, Metal และ TPS

2026-09-02·22 นาที นาทีที่ใช้อ่าน·LLMPodium Team

คำตอบด่วน: สำหรับการรัน LLM สำหรับเขียนโค้ดบน Apple Silicon แนะนำให้ใช้ Mac Studio (ชิป M2/M3/M4 Max หรือ Ultra) คู่กับ Qwen 2.5 Coder 32B หรือ DeepSeek Coder V2.5 ด้วย MLX หรือ llama.cpp ที่เปิดใช้ Metal และการควอนไทซ์ Q4_K_M จะได้ความเร็ว 32–42 tps บน Max และ 65–78 tps บน Ultra โดยใช้ VRAM แบบรวม 22GB–95GB

1. บทนำ: การปฏิวัติโมเดลเขียนโค้ดบน Apple Silicon ในปี 2026

สำหรับนักพัฒนาซอฟต์แวร์ การพึ่งพาคลาวด์ API เชิงพาณิชย์ เช่น Claude 3.7 Sonnet หรือ OpenAI o3 ก่อให้เกิดข้อจำกัดมากมาย ทั้งขีดจำกัดอัตราเรียกใช้ (Rate Limits) ความล่าช้าของเครือข่าย ค่าใช้จ่ายที่สูงเกิน 500 ดอลลาร์ต่อเดือนในระบบ Autonomous Agents และความเสี่ยงเรื่องความปลอดภัยของซอร์สโค้ด

ด้วยการมาถึงของโมเดลโอเพนซอร์สชั้นนำอย่าง Qwen 2.5 Coder 32B Instruct และ DeepSeek Coder V2.5 MoE ควบคู่กับสถาปัตยกรรม Unified Memory (UMA) ของ Mac Studio ทำให้นักพัฒนาสามารถรันโมเดลขนาด 32B ถึง 236B พารามิเตอร์บน VRAM ภายในเครื่องได้ 100% โดยไม่มีค่าบริการรายเดือน

2. ทำไม Mac Studio จึงเหนือกว่าการ์ดจอแยกสำหรับงานโค้ด

การ์ดจอแยกสำหรับพีซีทั่วไป (เช่น RTX 4090) ถูกจำกัด VRAM สูงสุดไว้ที่ 24GB แต่ Mac Studio มีหน่วยความจำรวมแบนด์วิดท์สูงตั้งแต่ 32GB จนถึง 192GB ที่ซีพียูและจีพียูเข้าถึงร่วมกันได้ทันทีโดยไม่ต้องผ่านบัส PCIe 

# ปลดล็อกขีดจำกัดหน่วยความจำ Metal ใน macOS (สำหรับรุ่น 64GB จัดสรรได้ถึง 56GB)
sudo sysctl -w iogpu.wired_mem_limit=57344

# สำหรับรุ่น 128GB จัดสรรได้ถึง 116GB
sudo sysctl -w iogpu.wired_mem_limit=118784

3. ตารางเปรียบเทียบโมเดลและการติดตั้ง

+------------------------------------+--------------------------------+------------------------------+
| คุณสมบัติ                           | Qwen 2.5 Coder 32B Instruct    | DeepSeek Coder V2.5 MoE      |
+------------------------------------+--------------------------------+------------------------------+
| จำนวนพารามิเตอร์ทั้งหมด             | 32.5 พันล้าน (32.5B)           | 236 พันล้าน (236B)           |
| พารามิเตอร์ที่ทำงานต่อโทเคน         | 32.5 พันล้าน (32.5B)           | 21 พันล้าน (21B)             |
| ผลทดสอบ SWE-bench Verified         | 43.6%                          | 41.8%                        |
| LiveCodeBench v4                   | 51.2%                          | 49.6%                        |
| รูปแบบควอนไทซ์แนะนำ                | Q4_K_M (19.8 GB) / Q8_0 (34 GB)| IQ3_M (82 GB) / Q4_K_M (96GB)|
| รุ่น Mac Studio ที่เหมาะสม          | 32GB หรือ 64GB Max             | 128GB หรือ 192GB Ultra       |
+------------------------------------+--------------------------------+------------------------------+
# บิลด์และรัน llama.cpp พร้อมการเร่งความเร็ว Metal
git clone https://github.com/ggerganov/llama.cpp.git && cd llama.cpp
cmake -B build -DGGML_METAL=ON -DGGML_METAL_EMBED_LIBRARY=ON
cmake --build build --config Release -j$(sysctl -n hw.ncpu)

./build/bin/llama-server \
  --model ~/models/qwen2.5-coder-32b-instruct-q4_k_m.gguf \
  --host 127.0.0.1 --port 8080 \
  --n-gpu-layers 99 --ctx-size 32768 \
  --flash-attn --cache-type-k q4_0 --cache-type-v q4_0

เชื่อมต่อไปยัง VS Code ผ่าน Cline หรือ Roo Code ที่ http://127.0.0.1:8080/v1 ช่วยคืนทุนค่าเครื่อง Mac Studio M4 Max (2,199 ดอลลาร์) ได้ในเวลาเพียง 5.2 เดือน เมื่อเทียบกับค่าคลาวด์ API

← บทความทั้งหมด
0 / 4
เปรียบเทียบเลย →