管理 MLX LM 的 Model | 次世代 Hugo

本文討論 MLX LM 最基本的管裡：新增 Model、Model 清單 與 刪除 Model。

Version

MLX LM 0.31.3

Add Model

(mlx)$ mlx_lm.server --model mlx-community/Qwen3-8B-4bit

• MLX LM 不必另外下載 model，直接啟動 model 即可，若發現 model 不存在，會自動下載到 cache

List Model

(mlx)$ hf cache ls

• 使用 Hugging Face CLI 列出在 cache 中有哪些 model

Delete Model

(mlx)$ hf cache rm model/mlx-community/Qwen3-14B-6bit

• 使用 Hugging Face CLI 刪除 model，rm 後接 model id，注意前面必須加上 model/

model id 可由 curl http://127.0.0.1:8080/v1/models 取得