OPEN SOURCE DEEP DIVE
OpenMontage:把你的 AI 编程助手变成一整间视频制片厂
开源的 agent 化视频制片系统:代码里没有编排器,Claude Code、Cursor、Copilot、Codex 等编程助手本身就是编排器。YAML 流水线清单、Markdown 导演技能、100 多个注册工具与七维打分的供应商选择器,把调研、提案、剧本、场景计划、素材、剪辑、合成做成带创意审批门与预算治理的流水线;零 API key 也能靠 Piper 离线语音、Archive.org/NASA/Wikimedia 与免费素材库剪出真 footage 视频,Backlot 看板把阶段、故事板审批与逐笔花费摊在墙上。
不是「prompt 出一条片段」,而是一间可以审计的制片厂
OpenMontage 是 calesthio 在 2026 年 3 月底开源的「agent 化视频制片系统」,仓库在半年内积累到七万 star 量级,以 AGPL-3.0 发布,官网 openmontage.video。它和市面上大多数「AI 视频工具」的区别不在画质,而在工作对象的粒度:单点工具给你的是一条从 prompt 抽出来的片段,OpenMontage 给你的是一条从选题到成片的完整制片流水线——调研、提案、剧本、场景计划、素材、剪辑、合成,每一段都有明确的产物、审查标准和通过门。
README 里有一句很容易被滑过去但其实是全项目立场的话:多数「免费 AI 视频」栈的真实含义是「把几张静图动起来」;OpenMontage 也能这么做,但它同时支持另一条路——从 Archive.org、NASA、Wikimedia Commons 以及 Pexels、Unsplash、Pixabay 这些免费/开放源里建一个可被 CLIP 语义检索的真实素材库,检索出真正在动的镜头,按意图剪进时间线,渲成一支 finished video。仓库里那支《How Salt Made History》百秒纪录片就是这条路:真实历史 footage 加原创旁白加手工 motion graphics,没有一个付费视频模型。
没有编排器:你的 coding agent 就是编排器
OpenMontage 的架构选择相当激进:代码里没有 orchestrator。Claude Code、Cursor、Copilot、Windsurf、Codex 这类 AI 编程助手本身就是编排器,Python 只负责提供工具与持久化。所有创意决策、编排逻辑、审查标准与质量线,都写在人可以读、可以改的文件里:YAML 流水线清单声明阶段、可用工具、审查标准与成功门;Markdown 的 stage director skill 教 agent 每个阶段具体怎么做;JSON checkpoint 让生产中断后可以续跑,并带着决策日志与成本快照。
flowchart TB
U["你的一句话 brief"] --> R["research
15-25+ 次联网检索
YouTube / Reddit / HN / 新闻 / 学术"]
R --> P["proposal
选流水线 · 锁 render_runtime
成本估算 · 风格 playbook"]
P --> G1{"创意门:你批准吗"}
G1 -- 否 --> P
G1 -- 是 --> S["script
剧本 + 旁白与声音指导"]
S --> SP["scene_plan
场景卡 · 镜头意图 · 时长"]
SP --> A["assets
七维打分选供应商生成素材"]
A --> G2{"故事板门:逐场景 contact sheet
takes / prompts / 单价 / 质量分"}
G2 -- 否 --> A
G2 -- 是 --> E["edit
检索排序 · 剪辑意图 · 字幕时间轴"]
E --> C["compose
Remotion / HyperFrames / FFmpeg"]
C --> V{"pre-compose 验证 + 渲染后自审
ffprobe · 四点位抽帧 · 音频电平
交付承诺 · 字幕在场"}
V -- 不过 --> E
V -- 通过 --> F["final.mp4 + 决策审计日志"]
这张图里有两个容易被忽略的工程细节。其一是 render_runtime 在 proposal 阶段就被锁定:Remotion 承接数据驱动的讲解片与既有 React 场景栈,HyperFrames 承接以 HTML + GSAP 表达更自然的 motion graphics(包括 character-animation 流水线的 SVG/GSAP 骨骼输出),FFmpeg 兜底编码与合成;中途静默换渲染器在这个体系里被定义为治理违规,而不是「优化」。其二是每一次供应商选择、风格决定与回退,都要写进可审计的决策轨迹:考虑过哪些备选、置信度多少、为什么选它,跨阶段累积,事后可回放。
三层知识:工具知道「有什么」,技能知道「怎么用」,知识包知道「为什么」
仓库把 agent 需要的知识切成三层。第一层是 tools/ 与 pipeline_defs/:一百多个注册工具(视频生成、图像、TTS、音乐、混音、字幕、增强、分析、avatar/唇形同步)加上 YAML 流水线清单,回答「有什么可用」。第二层是 skills/:流水线导演技能、创意技法、质量清单与 reviewer/checkpoint 协议,回答「OpenMontage 希望它被怎么用」。第三层是 .agents/skills/:外部技术的深度知识包,回答「底层技术本身怎么工作」。每个工具会声明自己依赖哪些第三层技能,agent 读到某个工具时按需下钻,而不是把七百多个技能与知识文件一次性塞进上下文。
配套还有二十多个 JSON Schema 做合同校验(make test-contracts 不需要任何 API key 就能跑),三套视觉风格 playbook(Clean Professional、Flat Motion Graphics、Minimalist Diagram),以及仓库根目录的 CLAUDE.md、CURSOR.md、COPILOT.md、CODEX.md、.windsurfrules——它们全部指向同一对入口:AGENT_GUIDE.md 与 PROJECT_CONTEXT.md。这套「给 agent 读的文档」本身,就是项目最重要的产物之一。
一百多个工具、六十多家供应商,和一个打七维分的选择器
视频生成侧覆盖 Kling(fal.ai 与官方直连)、Veo 3.1、Runway Gen-4、Seedance、MiniMax、Hunyuan、WAN、CogVideo、LTX-Video 等二十多家,含本地 GPU 档;图像侧有 FLUX、Imagen、GPT Image、Seedream、Recraft、本地 Stable Diffusion 与 ManimCE;语音侧有 ElevenLabs、Google TTS(七百多个声音)、OpenAI TTS、Azure 与完全离线的 Piper。选择哪一个,不由 prompt 里的形容词决定,而由一个七维打分选择器决定:
| 维度 | 权重 | 在问什么 |
|---|---|---|
| task fit | 30 | 这个供应商能不能做这类镜头/这类声音 |
| output quality | 20 | 实测质量与风格匹配度 |
| control | 15 | 可控参数够不够(首尾帧、参考图、种子) |
| reliability | 15 | 失败率与重试行为 |
| cost efficiency | 10 | 单位产出成本 |
| latency | 5 | 出活速度 |
| continuity | 5 | 与本片已用素材的一致性 |
打分写成一行就是 score(p) = Σᵢ w · norm(p) / Σᵢ wᵢ,其中 normᵢ 把各维观测值归一到可比区间;选择器还会先把松散的 brief 归一化,再把胜出供应商的 agent_skills 暴露给 agent。决策与备选一起进审计日志,所以「为什么这条镜头用了 Kling 而不是 Veo」在事后是有答案的。
零 key 也能出真视频,成本写在明面上
| 能力 | 零 key 工具 | 说明 |
|---|---|---|
| 旁白 | Piper TTS | 完全离线免费的文本转语音 |
| 开放 footage | Archive.org + NASA + Wikimedia Commons | 档案 footage、教育媒体、纪录片质感 |
| 补充素材 | Pexels + Unsplash + Pixabay | 开发者 key 免费申请 |
| 合成(React) | Remotion | 弹簧动画场景、数据卡、图表、逐词字幕、TalkingHead |
| 合成(HTML/GSAP) | HyperFrames | kinetic typography、产品 promo、rigged SVG 角色 |
| 后期 | FFmpeg | 编码、字幕烧录、混音、调色 |
README 给出的成本样本是这套治理的直接证据:六支 Kling v3 镜头加 Chirp3-HD 旁白加免版税钢琴配乐的 60 秒动画短片《THE LAST BANANA》,总成本 1.33 美元;五支生成场景加定制 HyperFrames 合成的 50 秒竖片《Reimagine Your Universe》约 4 美元;七世界混剪《Imagine the Possibilities》约 5 美元。想要真 footage 路径,就在 prompt 里明说 documentary montage、tone poem 或 stock-footage collage,并写「use real footage only」。
Backlot:把生产过程摊在一面看得见的墙上
聊天窗口只能告诉你 agent 说了什么,Backlot 告诉你生产正在做什么:阶段灯亮起、剧本以 screenplay 页面落地、场景卡在素材生成时闪烁、每一笔供应商决策与花费上墙。更重要的是故事板现在是一个真正的审批门:素材生成会在逐场景 contact sheet 前停下,sheet 上有 takes、prompts、单资产成本与质量分,你在渲染之前批准视觉,而不是在钱花完之后后悔。
python -m backlot open 打开库,python -m backlot open <project-id> 打开单片看板,python scripts/backlot_simulate_run.py 可以在还没有生产时看一场模拟直播;跑完之后点 REPLAY RUN,整场生产按时间戳回放,可拖拽 scrub。质量门与预算治理:不让 agent 把垃圾和账单一起递给你
渲染前有 pre-compose 验证:交付承诺(delivery promise)核对、幻灯片风险六维评估、渲染器治理检查,先把「看起来像 PPT 轮播」的计划挡在 GPU 时间之前。渲染后是强制自审:ffprobe 校验容器与流、四个点位抽帧目检、音频电平分析、交付承诺复核、字幕在场检查,任何一项不过就不允许把成片递给你。
钱这条线同样是被建模的,而不是靠自觉。预算三段式是 estimate → reserve → reconcile:提案期估出 estimate = Σ 阶段 Σ 动作 单价(供应商, 动作) × 次数,执行期按 reserve = estimate × (1 + contingency) 预留,收尾期对账 actual ≤ reserve 才允许结案;治理模式有 observe、warn、cap 三档,单动作超过默认 0.50 美元要逐笔批准,全片默认上限 10 美元。超支不是报错文案,而是流程上的门。
十一条流水线,八种平台出口
| 流水线 | 产出 | 最适合 |
|---|---|---|
| Animated Explainer | 调研+旁白+视觉+配乐的讲解片 | 教育内容、教程 |
| Animation | motion graphics、kinetic typography | 社媒、产品演示 |
| Avatar Spokesperson | avatar 主播视频 | 企业内宣、培训 |
| Cinematic | 预告片、teaser、情绪剪辑 | 品牌片 |
| Clip Factory | 长视频切一批排序后的短clip | 长内容复用 |
| Documentary Montage | CLIP 索引免费素材库剪出的真 footage 片 | video essay、 mood piece |
| Hybrid | 源 footage + AI 补充视觉 | 给已有素材加图形 |
| Localization & Dub | 字幕、配音、翻译 | 多语言分发 |
| Podcast Repurpose | 播客高光转视频 | audiogram |
| Screen Demo | 精致的屏幕录制 walkthrough | 产品文档 |
| Talking Head | 以 footage 为主的说话人视频 | vlog、访谈 |
出口侧预置八种平台 profile:YouTube 1080p/4K/Shorts、Reels、Feed、TikTok、LinkedIn 与 21:9 电影感。参考驱动创作也在这里闭环:贴一支你喜欢的 YouTube/Short/Reel/TikTok 或本地片段,agent 分析转录、节奏、场景、关键帧与风格,回给你两到三个有差异的概念、一条诚实的工具路径、目标时长下的成本估计,以及在全量生产之前先出一段 sample。
边界:它不是 SaaS,也不假装是
跑起来需要一个 AI 编程助手、Python 3.10+、FFmpeg 与 Node 18+;make setup 之后一切从一句话 brief 开始。有 GPU 的话 make install-gpu 可以解锁 WAN 2.1/2.2、Hunyuan、CogVideo、LTX 等本地免费视频生成;Ollama 与 LM Studio 的支持标注为 coming soon。许可证是 AGPL-3.0,把它包进闭源服务之前需要先想清楚传染范围。社区在 GitHub Discussions,YouTube 频道 @OpenMontage 每支视频都附完整 prompt、流水线、工具与成本,可以直接复现。对一个想把「AI 做视频」从抽卡变成工程的项目来说,这套把决策、成本与质量全部落到可审计文件里的做法,比任何单点画质都更值得抄。