【注意喚起】LLMに個人情報を入力してはいけない理由と、企業がとるべき現実的な対策

✅ はじめに：ChatGPTやLLMに“なんとなく”情報を入れていませんか？

近年、ChatGPTやClaude、Geminiなどの大規模言語モデル（LLM）が日常業務に定着しつつあります。
質問に答えてくれたり、資料を作成してくれたりと便利な存在ですが──

「個人情報（PII）をうっかり入れてしまうと大変なことになる」ことをご存じですか？

本記事では以下の内容を、技術的＋実務的視点から解説します。

• LLMに個人情報を入力してはいけない本当の理由
• モデルに情報が“記憶”される仕組みとそのリスク
• 実際に起きた情報漏えい事故の例
• PII保護のための現実的な対策と技術例（プライバシーサンドボックスなど）

🔍 そもそも「個人情報（PII）」とは？

PII（Personally Identifiable Information）とは、個人を特定できる情報全般を指します。
例として以下のような情報があります：

• 氏名、住所、電話番号、メールアドレス
• 社員ID、ユーザーID、顔写真、位置情報
• 病歴、学歴、業務上の行動ログなど

⚠️ これらをLLMにそのまま入力することは、企業リスクや法的リスクに直結します。

❌ なぜLLMに個人情報を入力してはいけないのか？

理由1：一部のLLMは入力内容を学習に利用する

• 一部のクラウド型LLMは、ユーザーの入力を後の学習に再利用している可能性があります。
• その結果、別ユーザーへの応答として情報が“出てしまう”リスクがあります。

✅ 例：OpenAIの無料版ChatGPTでは、デフォルトで入力が学習に使われます（設定で無効化可）。

理由2：モデル抽出攻撃（Model Extraction）で情報が盗まれる可能性

• 悪意あるユーザーが大量のクエリを通して、モデルに“染みついた知識”を逆抽出する「攻撃」が報告されています。
• PIIや機密情報がモデルに残っていた場合、それが“復元”されてしまう可能性があるのです。

理由3：法的責任は“利用者側”が負う場合がある

• 日本の個人情報保護法やEUのGDPRでは、第三者サービスにPIIを提供した場合、その取り扱いについて管理責任を問われる可能性があります。

⚠️ 実際に起きた「情報漏えい事故」の例

▪ Samsung（2023年）

社内でChatGPTを業務に使っていた開発者が、ソースコードと会議議事録をそのまま入力。
後に「社内情報が外部モデルに蓄積されていた」と発覚し、全社的な利用禁止に。

▪ Amazon・Apple・JPMorgan など

大手IT・金融・製造業では、従業員によるLLMの不適切利用を防ぐため、業務利用を制限または禁止している例も多数あります。

🛡️ PII保護のために企業がとるべき技術的対策

✅ 1. 入力段階での「自動検知・フィルタリング」

• ユーザーが入力する前に、PIIに該当する内容（氏名、電話番号など）を自動で検知・マスクするフィルターの導入。
• 正規表現やNER（名前付きエンティティ認識）を使った実装が可能。

✅ 2. LLMプロンプトへの「サニタイザー処理」

• 企業内のLLM APIを使う場合、入力をプロキシサーバで中継・除去処理。
• プロンプトに個人情報が含まれていれば、自動でマスキング・警告を行う。

🧩 プライバシーサンドボックス的アプローチとは？

「データは入力するが、モデルには残さない」ための仕組みが「プライバシーサンドボックス的アーキテクチャ」です。

✦ 代表的な実装例：

✅ まとめ：LLM利用には「PII入力禁止」が新常識

• 個人情報の入力は、重大な法的・技術的リスクにつながります。
• モデルが賢くなっても、“入力の責任”はあなたにあるという事実は変わりません。

企業や個人が安心してAIを活用するためには、

💡 「モデルの賢さ」ではなく、「モデルの扱い方」こそが問われる時代です。