mlx-lm for Mac 版
使用 MLX 运行大语言模型
mlx-lm 是什么
mlx-lm 是一个 Python 包,用于在 Apple 芯片上借助 MLX 框架生成文本并微调大语言模型。它打通了 Hugging Face Hub,只需一条命令就能调用数千个模型,也支持将量化后的模型上传回 Hub。微调方面,既支持低秩微调也支持全模型微调,并且能对量化模型直接操作。此外,它还通过 mx.distributed 提供分布式推理与微调能力。使用时,命令行工具可指定模型、采样参数等,默认模型是 mlx-community/Llama-3.2-3B-Instruct-4bit,也可以换成任何 MLX 兼容模型。除了命令行,mlx-lm 也能作为 Python 模块调用,提供 generate、stream_generate 等接口,支持流式生成和自定义采样器。它适合在 Mac 上本地跑大模型、做推理或微调的开发者和研究者。
如何安装 mlx-lm
- 打开 终端(按 ⌘ + 空格,输入“终端”)。
- 如果还没安装 Homebrew,先运行下面这条安装命令。
- 运行下面这条命令:
最近 10 个版本记录
最近一次更新为 2026-10-16,当前版本 v0.32.2,共记录最近 10 个版本。
| 版本 | 发布日期 | 类型 | 大小 | macOS | Windows | Linux |
|---|---|---|---|---|---|---|
| v0.32.2 | 2026-10-16 | 稳定版 | — | — | — | — |
| v0.32.1 | 2026-10-15 | 稳定版 | — | — | — | — |
| v0.32.0 | 2026-10-15 | 稳定版 | — | — | — | — |
| v0.31.3 | 2026-04-22 | 稳定版 | — | — | — | — |
| v0.31.2 | 2026-04-07 | 稳定版 | — | — | — | — |
| v0.31.0 | 2026-03-07 | 稳定版 | — | — | — | — |
| v0.30.7 | 2026-02-12 | 稳定版 | — | — | — | — |
| v0.30.6 | 2026-02-04 | 稳定版 | — | — | — | — |
| v0.30.5 | 2026-01-25 | 稳定版 | — | — | — | — |
| v0.30.4 | 2026-01-19 | 稳定版 | — | — | — | — |
数据来自 GitHub Releases,稳定版优先,同类按发布时间排序。
二进制包支持平台
Homebrew 官方提供的预编译包(bottle)覆盖:
- Apple 芯片 · 最新 macOS
- Apple 芯片 · macOS 26 Tahoe
- Apple 芯片 · macOS 15 Sequoia
⚠️ 未提供 Intel Mac 的预编译包,Intel 机型需要通过 brew install --build-from-source 从源码编译。
与同类应用对比
只对比公开元数据,不做主观推荐;需要逐项对比时见对比页。
| 应用 | 版本 | 许可证 | 架构 | 近 30 天安装 |
|---|---|---|---|---|
| mlx-lm | v0.32.2 | MIT | 命令行 | 1,592 |
| act | v0.2.97 | MIT | 命令行 | 10,511 |
| entr | 5.9 | ISC | 命令行 | 1,565 |
| logcli | v3.6.20 | AGPL-3.0-only | 命令行 | 1,368 |
命令行工具中的类似应用
act
act 是一个让你在本地运行 GitHub Actions 的工具,名字取自「Think globally, act locally」。entr
entr 是一个命令行小工具,专门解决“文件一改就得手动重跑命令”的麻烦。你把它和任意命令组合起来,再告诉它要盯哪些文件,之后每次这些文件被保存或改动,它就…logcli
logcli 是 Loki 生态中的命令行工具,用于在终端查询日志。Loki 本身是一个受 Prometheus 启发的水平可扩展、高可用、多租户日志聚合系…llmfit
llmfit 是一个帮你判断本地硬件究竟能跑哪些开源大模型的工具。它会自动检测 CPU 核心数、系统内存、独立或集成 GPU、显存以及统一内存架构(覆盖 N…openssl@4
OpenSSL 是一套开源、商用级、功能完整的加密工具箱,主要服务于 TLS(早期称 SSL)、DTLS 和 QUIC 协议。xz
XZ Utils 是一个通用数据压缩库,同时附带命令行工具。它的原生格式是 .xz,也兼容旧的 .lzma 格式。所属分类:命令行工具