2026年11月13日
沒有黃仁勳的Nvidia:對本地AI與硬體價格意味著什麼
Nvidia創辦人黃仁勳已辭去執行長職務。但對於在自己硬體上執行人工智慧的人來說,更重要的是另一件事:顯示卡與AI工作站漲價主要源於記憶體短缺,而不是經營層更替。
Bohemian Silicon
來自 Apple Silicon Mac 租用服務的實測、指南與筆記。
2026年11月13日
Nvidia創辦人黃仁勳已辭去執行長職務。但對於在自己硬體上執行人工智慧的人來說,更重要的是另一件事:顯示卡與AI工作站漲價主要源於記憶體短缺,而不是經營層更替。
2026年11月12日
我們讓 Mac Studio M5 Ultra 的 CPU 和 GPU 滿載運行兩小時,測量溫度、功耗和效能。單獨滿載 CPU 時完全不降速,單獨滿載 GPU 時下降 3%。兩者同時滿載時,macOS 讓 GPU 維持在 90% 以上,而把 CPU 壓到約 60%。
2026年11月12日
3970 億參數的模型在 4 位元量化下約占 224 GB。我們在一台 256 GB 的 Mac Studio M5 Ultra 上執行它:每秒生成約 62 個 token,能處理 12.8 萬 token 的上下文,而且無需更改任何 macOS 設定。
2026年11月11日
256 GB 的 Mac Studio M5 Ultra 在 Apple 售價超過 12,000 歐元,租用 30 天則是 1,399 歐元。我們算了算購買從什麼時候開始更划算,以及簡單比較中被忽略的因素。
2026年11月11日
我們有兩台搭載 M5 Ultra 與 256 GB 統一記憶體的 Mac Studio:一台從 10 月開始運作,另一台是全新的。我們在兩台機器上用三個語言模型執行了相同的測試,生成速度相差不到 0.5%。
2026年11月7日
你的 Mac 能執行哪些 AI 模型?你想用的模型需要多少記憶體?我們的新計算器針對 63 個開放模型一目了然地提供答案,從最小的模型到上兆參數的巨型模型。
2026年11月3日
Vše Smart 在 128 GB 的 MacBook Pro M5 Max 上執行了 6 個開放模型,參數從 80 億到 1200 億不等。全部無需調整系統即可放下,gpt-oss-120b 每秒產生 110 個 token,晶片功耗僅 37–50 W。面對長上下文與大型稠密模型,筆電就力不從心了。
2026年10月27日
最快的 MacBook 對上最快的 Mac Studio,32 個語言模型,只有一個贏家。在 Vše Smart 的測試中,Mac Studio M5 Ultra 在 32 個回合中贏下 31 個,中位數領先 89%。在 700 億參數以上的模型上,它的速度是 MacBook 的兩倍半以上。
2026年10月26日
捷克科技網站 Vše Smart 以 llama.cpp 和 MLX 在 256 GB 的 Mac Studio M5 Ultra 上測試了五個語言模型。其中最大的 Qwen3 235B 佔用 133 GB 記憶體,每秒生成 46 個 token。我們來看看這些結果對執行大型模型代表什麼。
2026年10月22日
我們讓 Mac Studio 同時用十六個 AI 模型連續生成文字整整一小時,每十秒記錄一次速度、功耗和溫度。它生成了 98 萬個 token 且沒有降速,每一百萬個 token 耗電 0.074 kWh。
2026年10月20日
70B 模型放得進 64 GB 嗎?235B 呢?我們計算了不同規模的語言模型需要多少記憶體、上下文會增加多少,以及哪種 Mac 適合做什麼。
2026年10月17日
不靠雲端執行大型語言模型、建置 App、轉錄數小時的錄音,或處理其他地方放不下的資料。以下是 256 GB Mac Studio 真正派得上用場的地方,以及它不適合的情況。
2026年10月16日
捷克科技網站 Vše Smart 在配備 M5 Ultra 與 256 GB 記憶體的 Mac Studio 上執行了 32 個本機語言模型。我們從中挑選了十五個,從小巧的 Qwen3 4B 到 1230 億參數的 Mistral Large,看看這些數字對日常工作的意義。
2026年10月15日
配備 M5 Ultra 與 256 GB 統一記憶體的 Mac Studio,實際每秒能生成多少 token?我們執行了六個 90 億到 1200 億參數的熱門開源模型,分別測試空上下文和長上下文,並記錄了記憶體用量。