動画編集ソフトを、AIのFableと自作した話 ― 3日間の工程を全部見せます

動画編集ソフトを、AIのFableと自作した話 ― 3日間の工程を全部見せます

「手術動画をそこに入れたらスクリーンショットの部分に合わせて動画編集をしてパワーポイントでそれを並べてくれるアプリを作りたい」

深夜、AIにそう打ち込んだ。相手はClaude Codeで動くFable(アンソロピック社のAI。日本語で頼むと、プログラムを書いて動かすところまでやってくれる)。私が使ったのはプログラミングの知識ではなく、ほぼ日本語だけ。

この記事では、当時の実際のやりとりをそのまま引用しながら、できあがるまでの工程を順番に説明していく。

作りたかったもの

手術の記録動画は長い。数時間になることもある。

そこから大事な場面を探して、スクショを撮って、時刻をメモして、カルテやプレゼン用にまとめる。私はこれを全部手作業でやっていた。1本やるだけで、けっこう疲れる。

欲しかったのは、「見返しながらその場でメモを残せば、あとは自動でまとめてくれる」道具。市販の動画編集ソフトは高機能すぎて、手術の復習には合わない。ないなら、作ってみよう。

工程1:やりたいことを、日本語で全部話す

最初にやるのは、プログラミングではなく「おしゃべり」だ。

実際に打ち込んだ最初の依頼文(イメージ再現)

実際の最初のメッセージは、こんな調子だった。

手術動画をそこに入れたらスクリーンショットの部分に合わせて動画編集をしてパワーポイントでそれを並べてくれるアプリを作りたい、また時間がかかっている部分を可視化する、言語化するツールが欲しいと思ってる、つまり私は手術復習を効率化(私が手術動画を用いて手術技術を向上)するためのツールを作りたい。あと、過去の先生の動画も振り返る時に便利がツールも欲しい、手術書とリンクすると良いのか?どうなんだろう

整った仕様書ではない。「どうなんだろう」という迷いまで混ざった、思いつくままの一段落だ。でも、これでいい。Fableがこれを仕様書(何をどう作るかの設計図)に整理してくれて、あいまいな希望が箇条書きの計画に変わる。迷っている部分は、質問で返ってくる。(ちなみに手術書とのリンクは今も未実装。夢は残してある)

工程2:AIを「設計士」と「大工さん」に分ける

もうひとつ、私が最初に必ず貼っている一文がある。

実装にあたってはトークンを節約するためにOpus/Sonnetを適切にサブエージェントとして切り出して実行し、このメインセッション(Fable 5)は設計と監査、レビューに専念してください。実装難易度が特に高いところはこのセッションでやってよいです

呪文みたいだが、やっていることは単純で、AIに役割分担を指示している。一番賢い(そして利用量の重い)Fableには設計図とチェックだけをやらせ、実際にプログラムを書く作業は子分のAIに切り出す。建築でいう、設計士と大工さんの分業だ。

AIの分業体制 ― 設計士と大工さん

このときも「フロントエンド実装(画面まわり)」「バックエンド実装(裏側の処理)」の子分2体が同時に作業して、初版はその日のうちに動いた。触ってみて、思わず——

めちゃくちゃ良い!!

工程3:追加の注文にこそ、現場の知識が出る

ここからはキャッチボールになる。初版を触ってすぐ、私は4つの注文を出した。実物はこうだ。

#1 IN OUTの時間を30sec固定でなくて自分で設定できるようにしたい

#2 最後の書き出しの時にclips単体だけでなくてclipsを全て繋げた動画を作成したい

#3 clipsの名前に工程の名前を入れてほしい

#4 あと、pptxに起こすところだけどこの保存方法は自分の復習にはOK、追加でもう1つカルテに残すpptxを作成したい いつも1-2枚にキュッとまとめてるんだけどどうにかできないかな

いま読み返すと、この4つは全部「外科医としての日常」から出ている。

  • 切り抜きの前後秒数(IN/OUT)を自分で変えたいのは、見返したい文脈の長さが場面ごとに違うから
  • クリップ名に工程名が欲しいのは、手術を「工程の連続」として振り返る頭になっているから。最初のメッセージの「時間がかかっている部分を可視化する」も同じ発想だ
  • カルテ用に1〜2枚へキュッとまとめるのは、私が普段カルテでやっている運用そのもの。いつものまとめ方の写真を渡して「理想はこれ」と伝えた

プログラミングの知識はいらなかった。でも、何が欲しいかを具体的に言える現場の知識はフル稼働だった。AIは道具の形を作れるが、「道具がどうあるべきか」を知っているのは、現場で使う本人だけだ。

この4つも、その日のうちに反映された。

工程4:地味な四苦八苦 ―「アプリっぽく」ならない

かっこいいトラブルばかりではない。実際は、もっと地味なところでつまずいている。当時の私の発言を並べる。

普段使うならどこをどう、何で開いたら良いんだっけ?

使う時だけ起動で良いけど、毎回フォルダ開くのめんどい アイコンにしてアプリっぽく立ち上げられない?

開けるんだけど、dockにでない

作った直後は、起動の仕方すら分かっていない。ダブルクリックで立ち上がる「アプリらしい形」になるまで、こういう往復を繰り返した。派手さはゼロ。でも毎日使う道具になるかどうかは、こういう地味な部分で決まる。

工程5:本物のデータで真っ暗 ― ここが一番の山場

順調だったのは、本物のデータを入れるまでだった。

早朝、実際の手術の収録データ(9.4GB、3時間26分)を読み込ませたら、画面が真っ黒。再生できない。

動画がアップロードできてないのかな?真っ暗

直してもらっても——

暗いままだよ

さらに直しても——

変わりなし、、、、

正直イライラしてきたので、一度作業を止めて仕切り直した。

原因は、動画ファイルの「目次」だった。動画ファイルの中には、どの場面がどこに入っているかを示す、目次のようなデータがある。今回の動画は、その目次がファイルの一番うしろに置かれていた。目次が最後のページにある分厚い本を想像してほしい。ブラウザは目次を読むまで再生を始められないので、9.4GB分を最後まで探しに行って、固まっていたのだ。

対策は、目次だけをファイルの先頭に引っ越しさせること。動画そのものには手を付けない。それだけで、あっさり再生できた。9.4GBでも変換は約7秒。以後は、必要なときだけ自動でこの引っ越しをする仕組みにした。

それでも一部のブラウザでは映らない。ブラウザを取っ替え引っ替えして原因を絞り込んだのは、AIではなく私だった。

chromeだとうまくったのでchromeで開くようにするね でもデフォルトがarcだからちょっとめんどい

きれいなテスト動画では出ない問題が、本物のデータでは次々出てくる。ソフト作りの一番の山場は、実はここだと思う。

工程6:使い込むと、第二波が来る

完成して終わり、ではなかった。実際のデータで使い込むと、新しい困りごとが出てくる。

2点修正を!

アップロードする動画をキーワード検索できるようにしたい 動画をドラックアンドドロップでアップロードしたい

さらに、収録機から出てくる動画の形式がブラウザと相性の悪いケースも見つかった。

この問題は仕方ない?とりあえずmp4が良いのか

#まとめてmp4に変換して置き換えるスクリプト作って アプリとして起動できるようにまでして

道具は「作って終わり」ではなく、「使いながら育てる」ものになった。

できあがったもの

完成したのが「OpReview(手術復習ワークベンチ)」。できることはこうだ。

  • 動画を見ながらキーを1回押すだけで、静止画+時刻+メモを記録できる
  • 気になる場面だけを切り抜き動画にできる
  • 工程ごとの所要時間が見える
  • 復習用とカルテ用、2種類のパワポを自動で作ってくれる

もちろん、患者情報を含む動画は外部に一切送らない。すべて自分のパソコンの中だけで動く。ここだけは、最初から絶対条件にした。

やってみて思ったこと

振り返ると、私とAIの分担ははっきりしている。

  • AIがやったこと:設計、プログラム作成、修正。頼んだことは基本、その日のうちに形になった
  • 私がやったこと:日本語で頼む。触って注文を出す。本物のデータで試す。ブラウザを替えて原因を切り分ける

そして、注文の中身は全部「手術をしている人間の日常」から出ていた。AIの時代に効いてくるのは、プログラミングの知識よりも、自分の現場を具体的に語れることなのかもしれない。

素晴らしい使いやすい。

めちゃくちゃ良い体験だった、 私の日頃の自己研鑽の効率をupさせるものをどんどん作りたいね

当時のログに残っていた自分のこの言葉が、いちばん正直な感想だと思う。

道具は買うものだと思っていた。でも、自分の困りごとにぴったり合う道具は、自分で作れる。それがわかった3日間だった。