我已经收集了足够的产品信息，下面撰写一篇面向创业者的深度产品分析报告。

Mellum by JetBrains 深度产品分析报告

面向创业者的技术选型、架构红利与商业机会解读

报告日期：2026 年 6 月 面向读者：AI 创业者、技术合伙人、产品负责人、CTO、投资人

一、执行摘要

JetBrains 在 2025 年 1 月首次发布了自研的代码语言模型 Mellum，并在 2026 年 6 月推出重磅升级 Mellum2——一个 120 亿参数的 Mixture-of-Experts（MoE，混合专家） 模型，每个 token 仅激活 25 亿参数，采用 Apache 2.0 许可证完全开源。

对于创业者而言，Mellum 不仅仅是一个”更强的代码补全工具”，它代表了一种全新的 AI 基础设施范式——“焦点模型（Focal Model）“。JetBrains 提出：未来生产级 AI 系统的胜利者，不是拥有一个”无所不能”的前沿模型，而是拥有一套分工明确、成本可控、延迟极低的协同模型栈。

本报告将系统解构：

Mellum 究竟是什么，技术架构有什么独到之处？
相比 DeepSeek-Coder、Qwen2.5-Coder、Code Llama、StarCoder 等竞品，它的差异化在哪里？
对创业者来说，有哪些直接的产品机会、集成机会与商业模式机会？
使用 Mellum 的成本结构、风险与最佳实践是什么？

二、产品全景：从代码补全到 AI 基础设施的演进

2.1 演进历程

时间	事件	意义
2025 年初	Mellum 首次发布，作为 JetBrains AI Assistant 的代码补全引擎	替代第三方模型，掌握核心能力
2025 年 4 月	Mellum-4b-base 开源（Apache 2.0）	首个开源的 4B 代码专用 LLM，8K 上下文
2025 年	Mellum-4b-sft-python 等微调模型发布	扩展生态
2026 年 6 月	Mellum2（12B MoE, 2.5B active）开源，配套技术报告发布	从”代码补全模型”进化为”AI 工作流焦点模型”

2.2 核心产品定位

JetBrains 官方将 Mellum 定位为：

“Fast language models for real-world AI workloads.”（面向真实 AI 工作负载的快速语言模型）

Mellum2 关键参数：

总参数：120 亿（12B）
激活参数：每 token 25 亿（2.5B）
架构：Mixture-of-Experts（64 专家，激活 8 个）
上下文窗口：通过 YaRN 扩展至 128K
许可证：Apache 2.0（可商用、可微调、可分发）
训练数据：约 10.6 万亿 token
训练硬件：256 块 NVIDIA H200，耗时约 20 天
优化器：Muon 优化器 + FP8 混合精度
注意力机制：Grouped-Query Attention（4 KV heads）+ 3/4 层 Sliding Window Attention
多 token 预测：单 MTP 头，同时充当推测解码（speculative decoding）的草稿模型
释放的变体：Base / Instruct（直接回答）/ Thinking（带推理链）

三、技术深度解析

3.1 MoE 架构：创业者最该理解的设计哲学

Mellum2 最大的技术亮点是 Mixture-of-Experts 架构。这与传统的”密集模型”（Dense Model）有本质区别：

Dense 模型（如 Code Llama 7B）：每个 token 都要流过全部参数。
MoE 模型（如 Mellum2 12B）：通过路由层（Router）为每个 token 动态选择 8/64 = 12.5% 的专家网络，实际激活参数仅 2.5B。

对创业者的实际意义：

┌──────────────────────────────────────────────────────┐
│  关键等式                                            │
│  ─────────────────────────────────────────          │
│  知识容量 ≈ 12B 密集模型                            │
│  推理成本 ≈ 2.5B 密集模型                           │
│  ─────────────────────────────────────────          │
│  → 你用 1/5 的算力，获得了 5 倍参数的"知识"          │
└──────────────────────────────────────────────────────┘

JetBrains 官方数据：相比同体量密集模型，推理速度提升 2 倍以上，P95 延迟降低，成本显著下降。

3.2 128K 上下文与工程优化

Mellum2 通过**分层选择性 YaRN（layer-selective YaRN）**技术将上下文窗口从 8K 扩展到 128K。这意味着：

可以一次性喂入整个中型代码仓库
支持 RAG（检索增强生成）场景中处理长文档
Sliding Window Attention 在 3/4 层使用，兼顾长上下文与推理效率

3.3 推测解码（Speculative Decoding）的内置支持

Mellum2 的 Multi-Token Prediction 头同时充当推测解码的内置草稿模型。这是一个”免费送”的能力：

用 Mellum2 的小头快速生成草稿 token
用主模型一次性验证多个 token
在保持主模型精度的同时，显著加速推理

对创业者来说，这意味着不需要为 Mellum2 单独训练一个蒸馏小模型。

3.4 训练数据的”专精”策略

Mellum2 的训练分三个阶段（三阶段课程学习）：

多样化的 Web 数据（建立通用语言能力）
代码 + 数学内容占比逐步提升（专业能力强化）
RLVR（基于可验证奖励的强化学习）（对齐与质量提升）

对创业者的启示：Mellum2 不是”通用聊天机器人”，它是一个软件工程特化模型，专精于：

代码生成与编辑
调试
多步推理
工具使用 / Function Calling
Agentic Coding（智能体编程）
对话式编程辅助

四、对比分析：Mellum 在代码 LLM 版图中的位置

4.1 主流代码 LLM 横向对比（截至 2026 年中）

模型	参数	架构	上下文	开源	许可证	强项
Mellum2-12B	12B (2.5B active)	MoE	128K	✅	Apache 2.0	低延迟、Agent 友好、私有部署
DeepSeek-Coder-V2	236B (21B active)	MoE	128K	✅	DeepSeek	超大代码知识库
Qwen2.5-Coder-32B	32B	Dense	128K	✅	Apache 2.0	通用代码能力
Code Llama 70B	70B	Dense	100K	✅	Llama 社区	生态成熟
StarCoder2-15B	15B	Dense	16K	✅	BigCode OpenRAIL	数据透明
GPT-4o / Claude Sonnet	闭源	-	200K+	❌	专有	综合最强

4.2 Mellum2 的核心差异化

1. “焦点模型”定位 —— 与”前沿模型”互补而非竞争

未来属于协同系统，而非单一模型。

Mellum2 不追求在所有 benchmark 上超越 GPT-4。它的目标是：在高频率、低难度、对延迟敏感的子任务上，提供极致性价比。

2. 为生产部署而生的工程细节

单一 checkpoint 同时支持 Instruct + Thinking
内置 MTP 头 → 内置推测解码
商业友好的 Apache 2.0
支持 vLLM、SGLang、Transformers、llama.cpp、Ollama 全栈部署

3. 软件工程领域的”专科医生” 相比通用 LLM，Mellum2 在代码相关的细颗粒度任务上更专业：

路由与编排（Routing）
RAG 流水线的上下文压缩、检索后处理
Sub-agent 的规划、校验、转换
私有化部署（自有代码库、内部数据）

五、面向创业者的机会地图

机会 1：构建 AI 编程 Agent 产品（黄金窗口）

Mellum2 是 Agent 创业者的”理想拼图”。

典型架构示意：

用户请求
   ↓
[路由层：Mellum2] ← 决定调用哪个工具/Agent
   ↓
   ├── [RAG 检索] → [Mellum2 上下文压缩/摘要]
   ├── [Code Agent] → [Mellum2 子任务：规划/校验]
   ├── [文件操作] → [Mellum2 转换/格式化]
   └── [大模型推理]（仅在真正需要时调用 GPT-4/Claude）
   ↓
[Mellum2 验证/格式化] → 输出

为什么 Mellum2 是 Agent 创业的”完美底座”？

低延迟：内层循环（routing、validation、transformation）调用 Mellum2，P95 < 200ms
低成本：相比每次都调用 GPT-4，单次成本可降低 60-90%
可控性强：可自托管，敏感代码不出企业内网
Apache 2.0：可商用、可微调、可打包分发

参考产品方向：

企业内部代码助手（私有化部署）
垂直行业 IDE（金融、医疗、嵌入式开发的专用 IDE）
Code Review Agent（PR 自动审查）
测试生成 Agent
Legacy 代码迁移 Agent（COBOL → Java、Python 2 → 3 等）

机会 2：RAG 与代码检索增强服务

Mellum2 在 128K 上下文下处理整个代码仓库的能力，使其非常适合：

代码搜索引擎（如 Sourcegraph 风格）
技术文档问答
企业内部知识库 + 代码生成
多仓库智能问答

商业模式：按 token / 按查询 / 按席位定价，可私有化部署。

机会 3：开发者工具插件与生态

JetBrains 拥有全球最大的 IDE 用户群（PyCharm、IntelliJ IDEA、WebStorm、GoLand、CLion 等），但其生态仍开放。

创业机会：

VS Code / Cursor 插件：用 Mellum2 提供本地代码补全（无需联网，隐私友好）
CLI 工具：类似 gh copilot 但使用 Mellum2，可离线工作
Git 钩子工具：commit message 自动生成、PR 描述生成
代码翻译工具：跨语言代码转换

机会 4：垂直行业模型微调（Fine-Tuning as a Service）

Mellum2 Apache 2.0 许可证明确允许商业微调与再分发。这意味着：

商业模式：

客户提供领域代码库（如金融、保险、游戏引擎）
在 Mellum2 基础上做 LoRA / QLoRA 微调
输出领域专用模型，按 token / 按订阅收费

关键合规优势：

客户数据不出域（私有化训练）
无需支付 OpenAI 抽成
微调后模型归客户所有（Apache 2.0 允许）

机会 5：教育与培训市场

Mellum 的轻量、可本地运行（Ollama / llama.cpp 即可在笔记本运行），非常适合：

编程教育产品（“AI 老师”）
企业内部培训（带本地代码理解能力的导师）
学生 / 独立开发者工具

六、成本分析与 TCO（总拥有成本）

6.1 推理成本对比（估算）

方案	单次 1K token 输入成本	延迟（P95）	数据隐私
OpenAI GPT-4o	~$0.005 - $0.015	1-3s	❌ 离开企业
Claude Sonnet 4	~$0.003 - $0.015	1-3s	❌ 离开企业
自托管 Mellum2（单 H100）	~$0.0002 - $0.0005（电费+折旧）	200-500ms	✅ 完全可控
自托管 Mellum2（量化版 + 消费级 GPU）	~$0.0001	500ms-1s	✅ 完全可控

关键洞察：在 Agent 场景下，一次用户请求可能触发10-50 次模型调用。如果都用 GPT-4o，单次用户请求成本可能高达 $0.10+；用 Mellum2 处理 80% 的子任务，单次成本可降至 $0.01 量级。

6.2 自托管的硬件门槛

部署方式	硬件要求	月度 TCO 估算
FP16 全精度	2×H100（80GB）或 1×H200	$3,000 - $5,000
INT8 量化	1×H100（80GB）	$1,500 - $3,000
INT4 量化（Q4_K_M）	1×A100（40GB）或 2×RTX 4090	$500 - $1,500
llama.cpp + 消费级 GPU	M3 Max / RTX 4090	$0（已有硬件）

七、风险与挑战

7.1 技术风险

Benchmark 不顶尖：Mellum2 明确不追求”击败所有模型”，创业者在做选型时需要明确”够用”的标准
128K 上下文 vs 实际效果：长上下文 ≠ 有效长上下文，RAG 仍是必要的
生态相对较新：相比 StarCoder、Code Llama，社区贡献与工具链还在发展中

7.2 商业风险

JetBrains 自身的产品竞争：Mellum2 能力提升后，JetBrains 可能在其商业产品（AI Pro、AI Enterprise）中提供更深度集成的服务
前沿模型价格战：OpenAI、Anthropic、Google 可能进一步降价
数据安全合规：自托管 Mellum2 仍需承担数据安全责任

7.3 战略风险

Mellum2 是”快”，不是”强”：复杂架构决策、长链路推理仍需大模型
依赖单一供应商：建议在产品中保留多模型路由，避免锁定

八、给创业者的行动建议

8.1 如果你正在做 AI 编程产品

✅ 推荐路径：
1. 立即集成 Mellum2 作为"内层循环"模型（routing、validation、summarization）
2. 保留 1-2 个前沿模型 API 作为"外层推理"备份
3. 设计 router logic，根据任务难度动态选择模型
4. 半年内可考虑基于 Mellum2 微调领域模型

8.2 如果你正在做企业服务

✅ 推荐路径：
1. 强调"私有化部署"作为 Mellum2 的核心卖点
2. 重点关注金融、医疗、政务、军工等数据敏感行业
3. 提供"开箱即用"的 Mellum2 部署镜像 + 运维工具
4. 与 JetBrains 官方合作（[email protected]）争取生态位

8.3 如果你正在做 To C 开发者工具

✅ 推荐路径：
1. 用 Mellum2 量化版做"本地代码补全"，主打"离线 + 隐私"
2. 考虑订阅制：免费版用 Mellum2，Pro 版接入更强模型
3. 利用 Ollama / LM Studio 生态降低用户使用门槛

8.4 给投资人的视角

Mellum2 这类”焦点模型”代表了一个清晰的趋势：

“模型即基础设施”分层化：底层基础模型 → 中层焦点模型 → 顶层应用
“开源即护城河”的新逻辑：通过开源建立标准，通过工程化与垂直化建立壁垒
AI 成本结构正在被重塑：从”按 token 计费”走向”分层按需调度”

值得关注的赛道：

焦点模型微调服务（Fine-Tuning as a Service）
多模型路由与编排平台
企业级私有化 AI 编程部署
垂直行业代码 Agent

九、结论

Mellum 与 Mellum2 的发布，标志着 JetBrains 不再只是一个 IDE 厂商，而是开始定义 AI 时代的开发者基础设施。

对创业者来说，这是一个千载难逢的机会窗口：

一个Apache 2.0、商业友好、专精代码、低延迟的模型，现在就可以免费使用
它不是来抢你的饭碗，而是来当你的引擎
谁能最快把 Mellum2 整合进自己的产品，谁就能在 AI 编程赛道上获得显著的成本与体验优势

未来 12-24 个月，“焦点模型 + 前沿模型”的混合架构将成为 AI 产品的事实标准。 越早理解并拥抱这一范式的创业者，越能在下一轮竞争中占据先机。

附录：关键资源链接

官方产品页：https://www.jetbrains.com/mellum/
中文官方页：https://www.jetbrains.com.cn/mellum/
Mellum2 开源博客：https://blog.jetbrains.com/ai/2026/06/mellum2-goes-open-source-a-fast-model-for-ai-workflows/
Hugging Face 模型集合：https://huggingface.co/JetBrains/Mellum-2
Mellum-4b-base 模型卡：https://huggingface.co/JetBrains/Mellum-4b-base
技术报告（arXiv）：https://arxiv.org/abs/2605.31268
官方联系邮箱：[email protected]

免责声明：本报告基于 2026 年 6 月公开信息整理，benchmark 数据、性能表现与产品功能可能随版本迭代而变化。建议在做出商业决策前，参考最新技术报告并自行进行 PoC 验证。