Instagramで「私についてあなたが知っているすべてに基づいて、私と私の仕事のキャリカチュアを作成してください」というプロンプトをChatGPTに入力し、生成された画像を投稿するトレンドが広まっている。サイバーセキュリティ企業Fortraは2026年2月11日、このトレンドがシャドーAIのリスクを浮き彫りにしていると警告した。
2月8日時点でInstagramだけで260万枚の画像が追加されている。生成された画像傾向は、ユーザーが職務内容や関心事項をAIに入力している可能性を示唆し、その結果として、機密性の高い入力が行われていた場合には、意図しないデータ共有につながるリスクが存在する。
ユーザーが公開LLMに機密データを入力している場合、攻撃者がアカウント乗っ取りやプロンプトインジェクションを通じて情報を窃取する可能性がある。OWASPは機密情報開示をLLMに対する2番目に重要なリスクとして指定している（LLM2025:02）。
Fortraはデータセキュリティソリューションを通じて、未承認のAIアプリケーションを特定し、機密データの入力を防ぐ機能を提供している。
From: 
What Can the AI Work Caricature Trend Teach Us About the Risks of Shadow AI?
【編集部解説】
このトレンドは一見すると無害な遊びに見えますが、実は企業セキュリティの脆弱性を可視化する「炭鉱のカナリア」となっています。最も重要なのは、このトレンドがシャドーAIという深刻な問題を浮き彫りにしている点です。
シャドーAIとは、企業の承認や監視なしに従業員がAIツールを使用する行為を指します。従来のシャドーIT（未承認のソフトウェアやデバイスの使用）とは異なり、シャドーAIはブラウザでウェブサイトにアクセスするだけで利用できるため、検知が困難です。Gartnerが2025年3月から5月に実施した調査によれば、サイバーセキュリティリーダーの69%が、従業員が禁止された公開生成AIツールを使用していると疑っているか、その証拠を持っています。
今回のキャリカチュアトレンドが示しているのは、ユーザーが自分のプロンプト履歴にどれだけの情報を蓄積しているかという現実です。ChatGPTが「あなたについて知っているすべて」に基づいて詳細な画像を生成できるということは、過去の会話で職業、プロジェクト、さらには機密情報まで入力されている可能性を意味します。
元記事では、プロンプト履歴へのアクセスやアカウント乗っ取りを現実的なリスクシナリオとして挙げています。Instagram上の公開プロフィール情報やユーザー名から追加の公開情報を見つけることは技術的に可能であり、これは一般的なリスクシナリオとしてセキュリティ専門家によって指摘されています。メールアドレス取得後、フィッシングやソーシャルエンジニアリングを通じてLLMアカウントを乗っ取れば、プロンプト履歴にアクセスし、企業の機密情報を抽出できる可能性がある、というものです。
Gartner はレポートで、2025年の調査でも 69% が未承認AIツールの利用の疑いや証拠を持ち、2030年までに 40%以上の企業がシャドーAIに起因するセキュリティやコンプライアンス上のインシデントを経験すると予測しています。IBMの2025年データ侵害コストレポートによれば、シャドーAI関連の侵害は平均463万ドルのコストがかかり、標準的な侵害の396万ドルと比べて67万ドル高額です。
このトレンドが示す本質的な問題は、AIツールの利便性と生産性向上のメリットが、セキュリティリスクの認識を上回っている点です。従業員は悪意なく、単に業務を効率化するためにAIを使用していますが、その過程で組織のデータ主権を失っています。
対策として、企業は全面的な禁止ではなく、承認されたAIツールの提供と、明確なガイドラインの策定が推奨されます。禁止は使用を地下化させるだけで、問題の解決にはなりません。Fortraのようなデータセキュリティソリューションは、未承認のAIアプリケーションを特定し、機密データの入力をブロックする機能を提供しています。
このトレンドは、エンターテインメントとセキュリティリスクが交差する現代のAI時代の象徴的な事例といえるでしょう。私たちは今、AIとの付き合い方について、個人レベルでも組織レベルでも真剣に考え直す時期に来ています。
【用語解説】
シャドーAI
企業の承認や監視なしに従業員がAIツールを使用する行為。従来のシャドーIT（未承認ソフトウェアの使用）と異なり、ブラウザでウェブサイトにアクセスするだけで利用可能なため、検知が困難である。機密データが外部システムに流出するリスクが高い。
LLM（大規模言語モデル）
Large Language Modelの略。膨大なテキストデータで学習したAIモデルで、自然言語の理解と生成が可能。ChatGPTなどがこれに該当する。ユーザーとの対話履歴を保存し、文脈を理解した応答を生成する。
プロンプトインジェクション
AIシステムに悪意のある指示を埋め込み、本来アクセスできない情報を引き出したり、意図しない動作をさせたりする攻撃手法。入力フィルターを回避する技術として、セキュリティ上の重大な脅威となっている。
データ主権
組織や個人が自身のデータに対して持つ管理権限と制御権。データが外部のAIシステムに入力されると、その組織はデータ主権を失い、第三者がデータにアクセスできる可能性が生じる。
【参考リンク】
ChatGPT（OpenAI）（外部）
OpenAIが開発した対話型AI。テキスト生成、画像生成、コード作成などの機能を持つ大規模言語モデル。
Fortra（外部）
サイバーセキュリティとデータ保護のソリューションを提供する企業。シャドーAIの検知と制御機能を提供。
Gartner（外部）
ITおよびビジネス分野における調査・助言を行う世界的なリサーチ企業。業界標準の調査レポートを発行。
OWASP（外部）
オープンソースのセキュリティコミュニティ。LLMに対する脅威の分類と対策を公開している。
【参考記事】
Posting AI caricatures on social media is bad for security（外部）
Fortraのセキュリティアナリストが、AIキャリカチュアトレンドのリスクを警告。
Gartner Identifies Critical GenAI Blind Spots That CIOs Must Urgently Address（外部）
Gartnerの調査で69%が従業員による未承認AI使用を懸念。2030年までに40%が被害予測。
Gartner: 40% of Firms to Be Hit By Shadow AI Security Incidents（外部）
2030年までに世界の組織の40%以上が未承認AIツールによるインシデントを経験する予測。
ChatGPT caricature trend privacy risks: What users must know（外部）
ChatGPTキャリカチュアトレンドがユーザーのデータ共有習慣を正常化するリスクを解説。
Shadow AI: The Hidden Risk in Your Enterprise（外部）
IBMレポートによればシャドーAI関連の侵害は463万ドルのコストで67万ドル高額。
【編集部後記】
みなさんは普段、ChatGPTやその他のAIツールにどんな情報を入力していますか。このキャリカチュアトレンドは楽しい一方で、私たち自身がどれだけAIに情報を渡しているかを可視化してくれました。
仕事のメールの下書き、会議の議事録、企画書の要約など、気軽に使っているその便利さの裏側で、データはどこへ行き、誰がアクセスできるのでしょうか。企業のセキュリティ担当者だけでなく、AIを使う私たち一人ひとりが考えるべき問題だと感じています。みなさんの職場では、AI利用のガイドラインは整備されていますか。ぜひSNSで教えていただけると嬉しいです。
