Ornith-1.0-35B模型：35B打赢了400B的编程模型，对硬件要求不高
原文链接： https://mp.weixin.qq.com/s/QqrYvi9P7WA1MsZg44PXzg原作者： 黑虾 发布日期： 2026-07-06
最近 DeepReinforce 团队放出了一个叫 Ornith-1.0 的开源模型家族，专攻"智能体编程"（说白了就是能自己写代码、跑命令行、修 bug 的 AI）。其中的 35B 版本，跑分直接反超了参数量是它十几倍的 397B 大模型。几天时间，模型就有 40 万下载了。
模型背景介绍
Ornith-1.0-35B 是在 Qwen3.5-35B-A3B 基础上，做强化学习后训练出来的模型，所以它也是一个混合专家（MoE）架构模型，总参数 35B，但每次推理实际激活 3B。
基准测试评分
| 测试项 | Ornith-1.0-35B | Qwen3.5-397B | Gemma4-31B |
|---|---|---|---|
| Terminal-Bench 2.1 | 64.2 | 53.5 | — |
| SWE-bench Verified | 75.6 | 76.4 | — |
| SWE-bench Multilingual | 69.3 | — | — |
- Terminal-Bench 2.1： Ornith-1.0-35B 拿到 64.2 分，比参数量是它十几倍的 Qwen3.5-397B（53.5 分）还要高。
- SWE-bench Verified： 75.6 分，逼近 397B 版本的 76.4 分。
- SWE-bench Multilingual： 69.3 分，和 397B 版本打平。
- 在每个维度上，对 Gemma4-31B 更是完全碾压。
说白了就是，这个 35B 模型，在编程智能体这个细分赛道上，用不到十分之一的参数，做到了接近甚至反超 400B 级模型的效果。官方管这个叫"自我改进训练框架"，相当于让模型自己给自己写工作流。
另外它还支持 26 万 token 的长上下文，自带推理（thinking）模式，原生工具调用能力，还能处理图像和视频理解，基础模型的能力全部保留。
需要什么配置？
Q4 量化只需 21.2GB。这里要给小白科普一下，量化是什么意思。说白了就是把模型参数，从高精度数字压缩成低精度数字，牺牲一点点准确度换取体积大幅缩小。Q4 大概能保留原模型 90% 以上的能力，日常使用完全够用，是本地部署最常见的选择。
那具体需要什么硬件呢？笔者按几种典型配置给大家分档：
24G 显存显卡（3090/4090）
跑 Q4_K_M（21.2GB）完全可以胜任，能整个塞进显存里跑，速度流畅。
16G 显存显卡（5060 Ti 16G）
显存不能完全装下，但可以把部分层丢给 CPU 算，也能跑起来，虽然速度慢点。同理，8G 显存也可以。
苹果 Mac（32GB 以上统一内存）
Mac 的统一内存架构（CPU 和 GPU 共用一块内存），理论上 24G 统一内存好像就够用，实际并不能，因为苹果系统本身运行还要占用部分内存，至少要 32G 内存才可以部署。
纯 CPU 党
只要内存够（比如 64GB 内存条），也能用 llama.cpp 纯 CPU 跑，就是速度太慢，便秘输出，玩一下可以，不能正经用。
部署方法简述
因为是 GGUF 格式的模型，所以主流的模型运行工具，其实都可以部署，比如 LM Studio、Ollama、Llama.cpp、vLLM 等都可以。
不过因为模型本身是为智能体优化的，所以官方建议用 vLLM 部署，部署完之后，把它作为本地模型服务器，接入 Agent 就行了。
具体可以看下 Hugging Face 上的部署细节：
- 模型地址： https://huggingface.co/deepreinforce-ai/Ornith-1.0-35B-GGUF
- 或者直接让 Claude Code 或 Codex 部署，最省事。
最后
值不值得本地部署，我个人认为，如果是日常跑跑脚本、做一些轻量的智能体任务，Ornith-1.0-35B 模型其实是不错的选择。因为本身 Qwen35B 这个基础模型，就是目前单卡最热门的模型，本体加各种修改版，下载量已经接近 2000 万了，智商在线，比 10B 级别的模型聪明很多。
但坦诚地讲，处理复杂的大型项目重构，稳定性和上限，肯定不如云端顶级模型，比如 Claude、GLM5.2 等。所以，要不要本地部署，具体要看使用需求。如果看重数据隐私和离线可用性，可以体验一下。
以上，希望对你有帮助。有问题评论区见。
参考资料：