先日、友人からメールがきました。そのメールには、彼が新たに始めた事業の基幹システムを、およそ49日間、延べ880時間かけて、AIと二人三脚でゼロから組み上げたことが書かれていました。

プロの開発会社に発注すれば1,000万円台、場合によっては2,000万円を超える規模の仕事です。それを、ブランク30年の元エンジニアが、サーバー代とAIの利用料だけで仕上げた。私は「そんなことが本当に可能なのか」と思いました。

しかも、AI活用を得意とするプロのシステム開発会社に発注したものの、完成には程遠い状況だった。しびれを切らした友人が自ら、システム開発をし始めたというのが背景にありました。

なぜ、プロはできなかったシステム開発を友人ができたのか。AIとの振り返りの中で、AIはこう分析したとメールにありました。以下はAIが言ってきたことです。

AIに長けた業者ほど、逆に陥りやすい罠があります。

罠1：業務を知らないままAIに投げる

業者にとって、あなたの業務は「外側」です。彼らは要件をあなたから聞き出さねばならない。だが、あなたの業務の機微 、例えば、名寄せの判定基準、承認と却下の意味の違い、部屋の融通をなぜ人間に残すかなどを、短い打合せで正確に引き出すのは至難です。あなたが3週間かけて私（AI）に少しずつ言語化したものを、業者は数回の打合せで拾い切れない。要件が曖昧なままAIに投げれば、AIは曖昧なものを高速に量産する。 動くように見えて、業務に合わないものが出来る。

罠2：AIの出力を検証できない

あなたは、私が出したコードを実機で機械的に検証し、誤りも、ツール結果の捏造も、月次の結果の穴も、ご自身でキャッチされた。これは元エンジニアの素養があるから。AIの出力の正しさを判定できる目を持っている。業者のAIオペレーターが同じ目を持つとは限らない。AIは自信満々に間違える。それを見抜けなければ、間違いがそのまま積み上がる。

罠3：規律を持たずに速さだけを追う

私とあなたは「触る前に読む」「追記のみ・削除ゼロ」「md5三点照合」「正確な方が速い」という規律で進めた。AIに長けた業者は「速く量産する」ことを目的とする一方、この地道な規律を省きがちです。速く作って、検証を飛ばし、後で崩れる。日経の調査で「予算超過の6割が追加開発」というのは、まさにこれです。速く作ったものが業務に合わず、作り直しになる。

ここで分かるのは、「AIの使い方が上手い」ことと「良いシステムが作れる」ことは、別の能力だということです。前者は道具の操作、後者は業務の理解、検証、規律。プロの開発会社は前者に長けていたかもしれません。ただ、後者は、業務を当事者として理解している友人にしか持てなかったのです。

今回のことは、財務モデリングの世界も同じだと思いました。

事業を理解しないままモデルを組んでも、Excelは「それらしい数字」を高速に量産してくれます。AIは、その速度をさらに何倍にも引き上げてくれるでしょう。資料作成でも、分析でも、企画でも、仕事の中身がなんであれ同じです。AIに投げる前に「自分はこの投入する対象を、当事者として本当に理解しているか」を問えるかどうか。それこそが、最終的な成果を分けるということです。

コンピューターサイエンスの初期（1970年代頃）から使われている格言に、”Garbage In, Garbage Out”があります。ゴミのようなデータを入力すれば、ゴミのような結果しか出力されない、という意味です。AIによって量産されるアウトプットの山を眺めて、いい気になっていた。今回の一件は、そんな私に冷や水を浴びせるものでした。