14 KiB
| name | description | category |
|---|---|---|
| poem-storyboard | 古诗词 AI 视频分镜脚本生成器。输入一首古诗/词,产出秒级分镜表:每句诗对应起止秒数、画面细节中文描写、运镜方式、英文关键帧图片提示词、英文视频运动提示词。采用「链式共享关键帧」让相邻镜头首尾帧复用同一张图,镜头之间无缝衔接。产出可直接交给 agnes-image 生成关键帧图片与分镜视频。适用:古诗动画、诗词 MV、国风短视频、AI 视频分镜、storyboard、关键帧脚本、shot list、诗词可视化、古诗配画配视频。 | Creative Generation |
poem-storyboard
把一首古诗词拆解成可直接用于 AI 视频生产的秒级分镜脚本:每一句诗对应一个镜头,含起止秒数、画面细节中文描写、运镜方式、英文关键帧图片提示词、英文视频运动提示词。
本 Skill 的核心是**「链式共享关键帧」:把整片当成一条连续的画面长卷,N 句诗对应 N+1 个关键帧节点,第 i 个节点同时**是「镜头 i 的尾帧」和「镜头 i+1 的首帧」——同一张图、同一个 URL 被两个镜头复用。这样上一镜视频的最后一帧 = 下一镜视频的第一帧,拼接时零跳变、严丝合缝。
本 Skill 只负责产出分镜脚本。脚本里每个关键帧/视频提示词都已写成可直接执行的形式,后续由 agent 调用 agnes-image 出图、出视频。
为什么用这个 Skill?
- 秒级时间轴:不是泛泛"配个图",而是明确"第 0–5 秒展示什么、镜头怎么动",可直接对齐剪辑时间线。
- 一句一镜:以诗句为最小分镜单位,逐句给画面、运镜、关键帧、转场。
- 镜头无缝衔接:链式共享关键帧 + 链式图生图,保证相邻镜头画面连续、风格人物一致,不再"每镜各画各的、拼起来对不上"。
- 可直接出图出视频:每个关键帧、每个镜头都给好了英文提示词,agent 拿来就能喂给 agnes-image。
核心概念:链式共享关键帧
诗句: 句1 句2 句3 句4
镜头: [ shot1 ] [ shot2 ] [ shot3 ] [ shot4 ]
关键帧: k0 ──────k1───────k2───────k3───────k4
↑首帧 ↑尾帧/首帧 ↑尾帧/首帧 ↑尾帧/首帧 ↑尾帧
· N 句诗 → N+1 个关键帧节点 k0..kN
· shot i 走 agnes「关键帧动画」,从 k(i-1) 过渡到 k(i)
· k(i) 既是 shot i 的尾帧,也是 shot (i+1) 的首帧 —— 同一张图复用
· 每个 k(i) 生成时用 k(i-1) 做图生图参考(ref),保证场景/角色/风格一致
要点:
- 每镜都用 2 帧(首帧 + 尾帧),统一走关键帧动画,画面有明确的"从哪到哪"。
- 相邻镜头共享中间帧:不要为同一个时间点分别画两张图。
- 链式图生图:k0 用文生图打底,k1..kN 都拿前一帧的 URL 做
--image参考,只让光线、姿态、镜头位置、季节时辰渐变,主体不漂移。
工作流
古诗原文
→ ① 解析(断句 / 意象 / 情绪 / 季节时辰)
→ ② 秒级分镜(每句诗 = 一个 shot,分配 start/end 秒数)
→ ③ 规划关键帧链(N 句 → N+1 个节点 k0..kN,定每个节点画什么)
→ ④ 细节描写(中文画面 + 运镜 + 转场)
→ ⑤ 关键帧提示词(英文,给 agnes-image 链式文生图/图生图)
→ ⑥ 视频运动提示词(英文,给 agnes-image 关键帧动画)
→ ⑦ 输出:可读分镜表(Markdown) + storyboard.json
→ ⑧ 出图出视频 → merge_videos.py 合并成片 final.mp4
全局参数(先确认/默认,再逐句分镜)
| 参数 | 说明 | 默认 |
|---|---|---|
视觉风格 style |
全局画风,拼到每条图片提示词后,保证全片一致 | Chinese ink wash painting (shuimo), cinematic, soft mist, elegant, film grain |
画幅 aspect |
关键帧图片尺寸 | 1152x768(16:9 横屏,与 agnes 视频默认一致;竖屏短视频用 768x1152) |
| 每句时长 | 单句镜头秒数 | 5 秒/句(见"配速建议") |
配速建议(秒级时间轴)
- 默认 每句 4–6 秒;写景/抒情句可拉到 6–8 秒,叙事/转折句 3–4 秒。
- 经验公式:
句时长 ≈ 2.5 + 字数 × 0.4秒,再按情绪微调。 - 整片估算:五言绝句(4 句)≈ 16–20 秒;七言绝句 ≈ 20–24 秒;律诗(8 句)≈ 35–45 秒。
- 各镜头在时间轴上首尾相接不留缝,转场(溶解/推拉)写在
transition字段,靠剪辑时叠加。
规划关键帧链(关键步骤)
在逐句细节描写前,先把整片的关键帧节点序列 k0..kN 想清楚——它是整片画面的"骨架":
- k0(开篇锚点):全片第一帧,定调画风、主体、季节时辰。用文生图生成。
- k1..kN(过渡节点):每个节点是"一句诗结束、下一句诗开始"的那个共享画面。规划时问自己:上一句的情绪/画面,如何平滑过渡到下一句?这一帧应是两句之间的视觉枢纽。
- 一致性约束:相邻节点必须是同一场景/角色的渐变——只改光线、姿态、镜头位置、近远景,不要换人换景。需要切换大场景时,把它放在
transition为match cut/fade to black的镜头边界上,并在该尾帧 prompt 里写清新场景的承接元素。 - 每个节点记下
ref:生成该帧时引用哪一帧做图生图参考(一般就是前一个节点)。k0 的ref为null(纯文生图)。
每个分镜(shot)必须写清楚
- line:诗句原文。
- start / end:在整片时间轴上的起止秒(连续不留缝)。
- scene:中文画面细节描写——主体、环境、光线、色调、季节时辰、情绪,具体到"能照着画"。
- camera:运镜(如 slow dolly in / pan left / crane up / tilt down / static)。
- from_frame / to_frame:本镜引用的两个关键帧节点 id(如
k0→k1)。to_frame必须等于下一镜的from_frame(共享)。 - motion:英文视频运动提示词——描述这几秒画面如何从首帧动到尾帧(云雾流动、衣袂飘、水波、镜头推进),强调保持主体一致。
- transition:到下一镜的转场(如
dissolve、fade、fade to black、match cut)。因为首尾帧已共享,多数衔接用cut/dissolve即可天然连贯。
关键帧节点(frame)必须写清楚
- id:节点编号
k0、k1…。 - image_prompt:英文,只写静止画面内容,不要带运镜词(运镜交给视频)。
- ref:生成本帧时图生图参考的节点 id(保持一致性);
k0为null。 - 相邻节点的
image_prompt应是同一画面的渐变,仅光线/姿态/镜头位置不同,措辞上显式复用相同主体、服饰、环境描述。
输出格式(同时给两份)
A. 可读分镜表(给人看)—— Markdown 表格
| # | 时间 | 诗句 | 画面描写 | 运镜 | 关键帧 | 转场 |
|---|---|---|---|---|---|---|
| 1 | 0–5s | 床前明月光 | 夜深,简朴卧房,月光透过窗棂洒在地上如霜… | slow dolly in | k0 → k1 | dissolve |
| 2 | 5–10s | 疑是地上霜 | 同一卧房,视线移向地面霜白光斑… | tilt down | k1 → k2 | dissolve |
关键帧列写成
k(i-1) → k(i),能一眼看出相邻镜头共享了哪一帧(上一行的右值 = 下一行的左值)。
B. storyboard.json(给 agnes-image 用)—— 严格 JSON
顶层用全局 frames 数组承载链式关键帧,shots 只引用帧 id,共享关系一目了然:
{
"title": "静夜思",
"author": "李白",
"style": "Chinese ink wash painting (shuimo), cinematic, soft mist, elegant, film grain",
"aspect": "1152x768",
"frames": [
{
"id": "k0",
"ref": null,
"image_prompt": "Quiet ancient Chinese bedroom at midnight, cold moonlight streaming through a latticed window onto the floor like frost, minimal wooden furniture, plain hanging drape, serene"
},
{
"id": "k1",
"ref": "k0",
"image_prompt": "Same bedroom and same latticed window, moonlight pooled brighter on the floor, frost-like glow intensified on the ground, deep silent night, identical furniture and drape"
},
{
"id": "k2",
"ref": "k1",
"image_prompt": "Same bedroom, camera lowered toward the bright frost-like moonlight patch on the floor, glowing pale silver, same window and furniture in soft focus background"
}
],
"shots": [
{
"id": 1,
"line": "床前明月光",
"start": 0,
"end": 5,
"scene": "夜深人静,简朴卧房内,清冷月光透过窗棂洒在地面,泛着霜白色泽,墙上挂着素色帷幔。",
"camera": "slow dolly in",
"from_frame": "k0",
"to_frame": "k1",
"motion": "Slow gentle camera push-in from k0 to k1, moonlight subtly shimmering on the floor, faint dust motes drifting, calm and still, keep room and window identical",
"transition": "dissolve"
},
{
"id": 2,
"line": "疑是地上霜",
"start": 5,
"end": 10,
"scene": "同一卧房,视线下移,地面霜白光斑愈发明亮,宛如薄霜铺地。",
"camera": "tilt down",
"from_frame": "k1",
"to_frame": "k2",
"motion": "Camera slowly tilts down from k1 to k2 toward the frost-like moonlight on the floor, glow gently intensifying, same room, smooth and quiet",
"transition": "dissolve"
}
]
}
约定:
frames按k0..kN顺序排列且链式依赖(ref指向前一帧),数量 = 镜头数 + 1。shots[i].to_frame == shots[i+1].from_frame(首尾共享,严格相等)。image_prompt/motion用英文;image_prompt只描述静止画面,motion只描述怎么动。- 生成图片时把全局
style拼到每条image_prompt后。
后续交给 agnes-image(agent 自动执行)
产出 storyboard.json 后,先把整条关键帧链全部出图(拿到每帧公网 URL),再逐镜头出视频:
第一步:链式生成全部关键帧(按 frames 顺序,不可乱序)
维护一个 frame_url[id] 映射,依次处理 frames:
- k0(ref 为 null):文生图。
记下输出的python {agnes}/scripts/generate_image.py \ --prompt "<k0.image_prompt> , <style>" \ --size "<aspect>" --save ./outputs/k0.pngMEDIA_URL存入frame_url["k0"]。 - k1..kN(有 ref):图生图,用
ref帧的公网 URL 做参考,保证与上一帧连贯一致。
记下python {agnes}/scripts/generate_image.py \ --prompt "<ki.image_prompt> , <style>" \ --image "<frame_url[ki.ref]>" \ --size "<aspect>" --save ./outputs/ki.pngMEDIA_URL存入frame_url["ki"]。 - 全部出完后,
frame_url里就是 N+1 个公网 URL。
链式图生图是镜头能衔接的关键:每帧都"长在"前一帧身上,整条链风格/人物/构图一致。
第二步:逐镜头出视频(关键帧动画,复用共享 URL)
对每个 shot,取 from_frame、to_frame 两个帧的公网 URL,跑关键帧动画:
python {agnes}/scripts/generate_video.py \
--prompt "<shot.motion>" \
--image "<frame_url[shot.from_frame]>" \
--image "<frame_url[shot.to_frame]>" \
--keyframes \
--duration <shot.end - shot.start> \
--width <aspect 宽> --height <aspect 高> \
--save ./outputs/shot_<id>.mp4
因为 to_frame 与下一镜 from_frame 是同一个 URL,所以本镜视频的尾帧画面 = 下一镜视频的首帧画面,拼接天然连续。
第三步:合并成片(自动化)
所有镜头视频保存为 ./outputs/shot_<id>.mp4 后,用本 Skill 自带的 merge_videos.py 按 storyboard 顺序一键合并成整片(需要本机有 ffmpeg,macOS 装法:brew install ffmpeg):
python {baseDir}/scripts/merge_videos.py \
--storyboard ./outputs/storyboard.json \
--dir ./outputs \
--out ./outputs/final.mp4
- 脚本按
storyboard.json的shots顺序找到每个shot_<id>.mp4,归一化分辨率/帧率后无缝拼接,输出SAVED: ./outputs/final.mp4。 - 默认硬拼接(cut)即无缝:因为相邻镜头共享首尾帧,上一镜最后一帧 = 下一镜第一帧,硬拼接看不出接缝。
- 想要软溶解可加
--crossfade 0.5(每镜之间 0.5 秒 dissolve);但注意交叉溶解会把共享帧重叠掉,通常不需要,保持默认硬拼接即可。 - 分辨率默认从
storyboard.json的aspect自动推导(如1152x768),也可用--width/--height/--fps覆盖。
BGM / 字幕在合并后另行叠加(可再用 ffmpeg 或剪辑软件加音轨与字幕)。
关键:agnes-image 的视频参考图必须是公网 URL(不支持本地/Base64)。直接用第一步文生图/图生图返回的
MEDIA_URL即可,无需手动上传图床。
注意事项
- 顺序铁律:先按
frames顺序链式出图、再出视频。ki依赖ki.ref的 URL,乱序会拿不到参考图。 - 共享帧只生成一次:
k(i)出一次图,被 shot i(当尾帧)和 shot (i+1)(当首帧)共用,不要重复生成两张——这正是镜头能衔接的根本。 - 一致性:全局
style固定统一画风;链式ref图生图保持人物/场景;大场景切换放在镜头边界并用match cut/fade过渡。 - 校验:输出前自检
len(frames) == len(shots) + 1,且每个shots[i].to_frame == shots[i+1].from_frame。 - 画幅对齐:
aspect与视频分辨率对齐能减少裁切;竖屏用768x1152,并把--width/--height同步成768 1152。 - 古诗意象用通用国风描述即可,避免出现真实人物姓名或受版权保护的具体形象。