動画編集ソフトを、AIのFableと自作した話 ― 3日間の工程を全部見せます
「手術動画をそこに入れたらスクリーンショットの部分に合わせて動画編集をしてパワーポイントでそれを並べてくれるアプリを作りたい」
深夜、AIにそう打ち込んだ。相手はClaude Codeで動くFable(アンソロピック社のAI。日本語で頼むと、プログラムを書いて動かすところまでやってくれる)。私が使ったのはプログラミングの知識ではなく、ほぼ日本語だけ。
この記事では、当時の実際のやりとりをそのまま引用しながら、できあがるまでの工程を順番に説明していく。
作りたかったもの
手術の記録動画は長い。数時間になることもある。
そこから大事な場面を探して、スクショを撮って、時刻をメモして、カルテやプレゼン用にまとめる。私はこれを全部手作業でやっていた。1本やるだけで、けっこう疲れる。
欲しかったのは、「見返しながらその場でメモを残せば、あとは自動でまとめてくれる」道具。市販の動画編集ソフトは高機能すぎて、手術の復習には合わない。ないなら、作ってみよう。
工程1:やりたいことを、日本語で全部話す
最初にやるのは、プログラミングではなく「おしゃべり」だ。
実際の最初のメッセージは、こんな調子だった。
手術動画をそこに入れたらスクリーンショットの部分に合わせて動画編集をしてパワーポイントでそれを並べてくれるアプリを作りたい、また時間がかかっている部分を可視化する、言語化するツールが欲しいと思ってる、つまり私は手術復習を効率化(私が手術動画を用いて手術技術を向上)するためのツールを作りたい。あと、過去の先生の動画も振り返る時に便利がツールも欲しい、手術書とリンクすると良いのか?どうなんだろう
整った仕様書ではない。「どうなんだろう」という迷いまで混ざった、思いつくままの一段落だ。でも、これでいい。Fableがこれを仕様書(何をどう作るかの設計図)に整理してくれて、あいまいな希望が箇条書きの計画に変わる。迷っている部分は、質問で返ってくる。(ちなみに手術書とのリンクは今も未実装。夢は残してある)
工程2:AIを「設計士」と「大工さん」に分ける
もうひとつ、私が最初に必ず貼っている一文がある。
実装にあたってはトークンを節約するためにOpus/Sonnetを適切にサブエージェントとして切り出して実行し、このメインセッション(Fable 5)は設計と監査、レビューに専念してください。実装難易度が特に高いところはこのセッションでやってよいです
呪文みたいだが、やっていることは単純で、AIに役割分担を指示している。一番賢い(そして利用量の重い)Fableには設計図とチェックだけをやらせ、実際にプログラムを書く作業は子分のAIに切り出す。建築でいう、設計士と大工さんの分業だ。
このときも「フロントエンド実装(画面まわり)」「バックエンド実装(裏側の処理)」の子分2体が同時に作業して、初版はその日のうちに動いた。触ってみて、思わず——
めちゃくちゃ良い!!
工程3:追加の注文にこそ、現場の知識が出る
ここからはキャッチボールになる。初版を触ってすぐ、私は4つの注文を出した。実物はこうだ。
#1 IN OUTの時間を30sec固定でなくて自分で設定できるようにしたい
#2 最後の書き出しの時にclips単体だけでなくてclipsを全て繋げた動画を作成したい
#3 clipsの名前に工程の名前を入れてほしい
#4 あと、pptxに起こすところだけどこの保存方法は自分の復習にはOK、追加でもう1つカルテに残すpptxを作成したい いつも1-2枚にキュッとまとめてるんだけどどうにかできないかな
いま読み返すと、この4つは全部「外科医としての日常」から出ている。
- 切り抜きの前後秒数(IN/OUT)を自分で変えたいのは、見返したい文脈の長さが場面ごとに違うから
- クリップ名に工程名が欲しいのは、手術を「工程の連続」として振り返る頭になっているから。最初のメッセージの「時間がかかっている部分を可視化する」も同じ発想だ
- カルテ用に1〜2枚へキュッとまとめるのは、私が普段カルテでやっている運用そのもの。いつものまとめ方の写真を渡して「理想はこれ」と伝えた
プログラミングの知識はいらなかった。でも、何が欲しいかを具体的に言える現場の知識はフル稼働だった。AIは道具の形を作れるが、「道具がどうあるべきか」を知っているのは、現場で使う本人だけだ。
この4つも、その日のうちに反映された。
工程4:地味な四苦八苦 ―「アプリっぽく」ならない
かっこいいトラブルばかりではない。実際は、もっと地味なところでつまずいている。当時の私の発言を並べる。
普段使うならどこをどう、何で開いたら良いんだっけ?
使う時だけ起動で良いけど、毎回フォルダ開くのめんどい アイコンにしてアプリっぽく立ち上げられない?
開けるんだけど、dockにでない
作った直後は、起動の仕方すら分かっていない。ダブルクリックで立ち上がる「アプリらしい形」になるまで、こういう往復を繰り返した。派手さはゼロ。でも毎日使う道具になるかどうかは、こういう地味な部分で決まる。
工程5:本物のデータで真っ暗 ― ここが一番の山場
順調だったのは、本物のデータを入れるまでだった。
早朝、実際の手術の収録データ(9.4GB、3時間26分)を読み込ませたら、画面が真っ黒。再生できない。
動画がアップロードできてないのかな?真っ暗
直してもらっても——
暗いままだよ
さらに直しても——
変わりなし、、、、
正直イライラしてきたので、一度作業を止めて仕切り直した。
原因は、動画ファイルの「目次」だった。動画ファイルの中には、どの場面がどこに入っているかを示す、目次のようなデータがある。今回の動画は、その目次がファイルの一番うしろに置かれていた。目次が最後のページにある分厚い本を想像してほしい。ブラウザは目次を読むまで再生を始められないので、9.4GB分を最後まで探しに行って、固まっていたのだ。
対策は、目次だけをファイルの先頭に引っ越しさせること。動画そのものには手を付けない。それだけで、あっさり再生できた。9.4GBでも変換は約7秒。以後は、必要なときだけ自動でこの引っ越しをする仕組みにした。
それでも一部のブラウザでは映らない。ブラウザを取っ替え引っ替えして原因を絞り込んだのは、AIではなく私だった。
chromeだとうまくったのでchromeで開くようにするね でもデフォルトがarcだからちょっとめんどい
きれいなテスト動画では出ない問題が、本物のデータでは次々出てくる。ソフト作りの一番の山場は、実はここだと思う。
工程6:使い込むと、第二波が来る
完成して終わり、ではなかった。実際のデータで使い込むと、新しい困りごとが出てくる。
2点修正を!
アップロードする動画をキーワード検索できるようにしたい 動画をドラックアンドドロップでアップロードしたい
さらに、収録機から出てくる動画の形式がブラウザと相性の悪いケースも見つかった。
この問題は仕方ない?とりあえずmp4が良いのか
#まとめてmp4に変換して置き換えるスクリプト作って アプリとして起動できるようにまでして
道具は「作って終わり」ではなく、「使いながら育てる」ものになった。
できあがったもの
完成したのが「OpReview(手術復習ワークベンチ)」。できることはこうだ。
- 動画を見ながらキーを1回押すだけで、静止画+時刻+メモを記録できる
- 気になる場面だけを切り抜き動画にできる
- 工程ごとの所要時間が見える
- 復習用とカルテ用、2種類のパワポを自動で作ってくれる
もちろん、患者情報を含む動画は外部に一切送らない。すべて自分のパソコンの中だけで動く。ここだけは、最初から絶対条件にした。
やってみて思ったこと
振り返ると、私とAIの分担ははっきりしている。
- AIがやったこと:設計、プログラム作成、修正。頼んだことは基本、その日のうちに形になった
- 私がやったこと:日本語で頼む。触って注文を出す。本物のデータで試す。ブラウザを替えて原因を切り分ける
そして、注文の中身は全部「手術をしている人間の日常」から出ていた。AIの時代に効いてくるのは、プログラミングの知識よりも、自分の現場を具体的に語れることなのかもしれない。
素晴らしい使いやすい。
めちゃくちゃ良い体験だった、 私の日頃の自己研鑽の効率をupさせるものをどんどん作りたいね
当時のログに残っていた自分のこの言葉が、いちばん正直な感想だと思う。
道具は買うものだと思っていた。でも、自分の困りごとにぴったり合う道具は、自分で作れる。それがわかった3日間だった。