AIで“作る”のは簡単になった。それでも破綻するのは、いつも運用だ

AIが凄いのは周知の事実で、これからもどんどん凄くなるのでしょう。一方で、私の周りでも「素人がAIで作ったプロダクトは運用で破綻するよね」という実体験が増えてきているなと思います。

AIと壁打ちをして、アウトプットがイマイチだとか、ハルシネーションが凄いとか、ビジネス用途として使うには精度に不安が残る、といった論点が元々取り沙汰されていました。

それって、コード生成になったとしても同じようなことが当然内側では起こっていて、ただ見えないから「動いて凄い」になっているに過ぎないと思っています。

作るのは簡単になりました。でも、大事なのは作った後にどう運用し続けるか。そこの設計が抜けていると、しばらくしてメンテできずに運用破綻する、という声が溢れてくるのではないかと思います。