AIにアプリを作らせる危険と、アプリにAIを入れる危険｜情報漏えい・誤動作・権限を分けて考える
「AIを使ったアプリ」には、AIにコードを書かせる場合と、アプリにAI機能を入れる場合の2つがあり、危ない所も守り方も違います。同じ架空の観光地チェックインアプリを教材に、2つの構成図で違いを示し、情報漏えい・誤動作・権限の危険を混同せずに整理します。指示のすり替えやもっともらしい間違い、AIへの頼み方と確かめ方も話します。
「AIを使ったアプリ」には、AIにコードを書かせる場合と、アプリにAI機能を入れる場合の2つがあり、危ない所も守り方も違います。同じ架空の観光地チェックインアプリを教材に、2つの構成図で違いを示し、情報漏えい・誤動作・権限の危険を混同せずに整理します。指示のすり替えやもっともらしい間違い、AIへの頼み方と確かめ方も話します。
あそぶ