VI
7 tháng 11 năm 2026 · Jakub M.
Mới: công cụ tính RAM cho mô hình AI cục bộ
Máy Mac của bạn chạy được những mô hình AI nào, và mô hình bạn muốn dùng cần bao nhiêu bộ nhớ? Công cụ mới của chúng tôi cho thấy ngay điều đó với 63 mô hình mở, từ loại nhỏ nhất đến những gã khổng lồ hàng nghìn tỷ tham số.
Chúng tôi vừa ra mắt công cụ tính RAM. Công cụ cho thấy ngay những mô hình AI mở nào chạy được trên máy Mac nào, nên bạn không cần tự tính.
Hai cách sử dụng
- Mac của tôi có: chọn dung lượng bộ nhớ máy Mac của bạn, từ 16 đến 512 GB, và xem mọi mô hình vừa được, từ lớn đến nhỏ.
- Tôi muốn chạy: chọn một mô hình và xem nó cần bao nhiêu bộ nhớ, chạy được trên những máy Mac nào.
Cái gì vừa ở đâu
| Bộ nhớ Mac | Mô hình lớn nhất vừa được (4 bit) |
|---|---|
| 16 GB | Ministral 3 14B, Qwen3 8B, Llama 3.1 8B |
| 32 GB | Gemma 4 31B, Qwen3 30B-A3B, gpt-oss-20b |
| 64 GB | Qwen2.5 72B, Llama 3.3 70B, Qwen3.5 35B-A3B |
| 128 GB | Mistral Large 2, Qwen3.5 122B-A10B, gpt-oss-120b |
| 256 GB | DeepSeek V4 Flash, Qwen3 235B-A22B, MiniMax M2 |
| 512 GB | Nemotron 3 Ultra, Qwen3-Coder 480B-A35B, Llama 3.1 405B |
Ước tính của công cụ: lượng tử hóa 4 bit, ngữ cảnh đến khoảng 32.000 token, giới hạn GPU mặc định của macOS.
Cách tính
Công cụ gồm 63 mô hình mở, từ Qwen3 0.6B đến Qwen3.8 với 2,4 nghìn tỷ tham số. Công cụ tính theo lượng tử hóa 4 bit, phổ biến với mô hình cục bộ, và cộng thêm phần dự phòng cho ngữ cảnh và vận hành. Công cụ cũng tính đến việc macOS mặc định chỉ dành cho đồ họa khoảng hai phần ba đến ba phần tư bộ nhớ. Kết quả là ước tính: mức dùng thực tế phụ thuộc vào phần mềm và độ dài ngữ cảnh. Cách tính được giải thích trong bài viết mô hình ngôn ngữ cần bao nhiêu bộ nhớ của chúng tôi.
Dùng thử
Mở công cụ tính. Nếu máy Mac của bạn không đủ, bạn có thể thuê Mac Studio M5 Ultra 256 GB từ một ngày.