AIで開発する › AIと作るサービス ・ 入門 12 回目（12/14）

便利でも、勝手に本番変更してはいけない理由　AIの「良かれと思って」と、ガバナンスの境界

これからAIでアプリを作り始める人向け 13分36秒・2026/10/26 公開

再生する（13分36秒）

開発者がAIに「データベースが重くなってきたから、整理しておいて」と頼んだら、AIは良かれと思って消す条件を自分で決め、本番から古い利用者を消していた。2週間後、毎年秋に来る観光客の履歴とポイントが無くなっていた――架空の観光地チェックインアプリの事件をさかのぼり、何のための変更か・結果に責任を持つのはだれか・だれがどこまで操作してよいかの3つが決まっていなかったことを確かめ、それを前もって決めておく「ガバナンス」を話します。提案・承認・変更・検証・報告の5つの段をAI・開発者・管理者に分ける方法、練習用アプリの写しで同じ整理を試した結果、AIに作らせた操作の権限の一覧を管理者が直し、提案を作り直して承認と記録に残すところまで扱います。画面に出る依頼メモは、止めて写して使えます。

目次（10）

1. 0:00オープニング
2. 1:091. 秋の店先で
3. 2:272. さかのぼってみる
4. 3:423. 何が足りなかった？
5. 5:154. 5つの段を分ける
6. 6:445. 写しで試す
7. 8:146. 境界の下書きを、AIに
8. 10:047. 提案し直して、記録に残す
9. 12:048. まとめ
10. 12:56ikijima.com の紹介

再生は押したときだけ読み込みます（YouTube の埋め込み）。声: VOICEVOX:四国めたん　VOICEVOX:白上虎太郎　VOICEVOX:小夜/SAYO　VOICEVOX:ずんだもん