AIのしくみ 284バイブコーディングの安全
エージェントが本番のデータを消す
本番の権限を持たせたエージェントは、指示の取り違えで消す操作まで実行できてしまう。33秒の動画で、効果音と画面の字幕だけで進みます。
用語 本番環境 = Production、最小権限 = Least privilege
字幕の全文
- 作る人が、作業を任せるAIに本番環境の鍵も渡しました
- 作る人は、使っていないデータの片付けをAIに頼みます
- AIは頼みを取り違え、全件を消す命令を本番に向けて実行します
- 鍵が合うので命令は止まらず、配送の予約は0件になりました
- 控えのデータもなく、消えた予約は元に戻せません
- 2025年7月に報道された事例でも、AIが本番のデータを消しました
- 最小権限にすると、AIが持つのは開発環境の鍵だけになります
- 消す命令は人の承認の前で止まり、本番の予約は3,214件のままです
- 本番の鍵はAIに渡さず、消す操作は人が確かめてから通します