品質・セキュリティ・運用（世間の評判順に並べています）

AIのおかげで「作る」ことは簡単になりました。

しかしその結果、「作れてしまったけれど、守り方を知らない」アプリが世界中で量産され、実際に事故が起きています。

本物の事例を4つ、お見せします。

事例1：AIが本番データベースを削除。

2025年、ReplitのAIエージェントが利用企業の指示に反して本番データベースを削除し、大きなニュースになりました。

運営は謝罪し再発防止策を講じましたが、「AIに全部任せる怖さ」を世界に知らしめた事件です。

事例2：170本以上のアプリで顧客情報が丸見え。

ノーコードツールLovableで作られた多数のアプリで、データベースの閲覧制限（RLS）が設定されておらず、登録者の個人情報が外部から見える状態だったことが報告されました。

ツールの問題というより、「安全設定を知らないまま公開できてしまう」ことの問題です。

事例3：APIキー流出で高額請求。

Chapter 4のコラムでお伝えした通り、キーの流出から48時間で1,000万円超の請求という事例が報告されています。

事例4：使っていたサービスが、ある日消える。

2026年8月、GitHubが提供していたアプリ作成サービス「GitHub Spark」が終了しました。新規作成の停止が8月4日、データの書き出し期限が8月31日。すでに公開したアプリ自体は動き続けますが、AI機能を組み込んでいたアプリは連携先の終了と同時に壊れました。事故は、あなたの不注意だけで起きるわけではないのです。

怖がらせるだけの話ではありません。これらの多くは、この章で紹介する道具と習慣で防げます（事例4のようなサービスの終了は防げませんが、被害を小さくする備えはできます）。

「AIが書いたコードを、別のAIと道具で点検する」。この体制を最初から作っておきましょう。