生成AIによる情報漏洩の原因と対策

漏洩は「送信」から始まる

外部の生成AIサービスへ入力した文章は、サービス提供者のサーバーに送信されます。

たとえば「この見積書の誤りを指摘して」と依頼するとき、その見積書には顧客企業名、担当者名、単価、取引条件が含まれています。「クレームメールへの返信案を作って」と頼むとき、そこには顧客の氏名や連絡先、トラブルの詳細が含まれています。悪意はどこにもありませんが、情報は確実に社外へ出ています。

漏洩が問題化する3つの経路

1. 学習データとして利用される

多くの一般向けAIサービスでは、入力内容がモデルの改善に利用される場合があります。設定で無効化できるサービスもありますが、個人アカウントで使っている社員がその設定を確認しているとは限りません。

2. サービス側の事故・不具合

過去には、AIサービスの不具合により他ユーザーの会話履歴の一部が表示された事例が報告されています。自社がどれだけ注意していても、預けた先の事故は制御できません。だからこそ「そもそも渡さない」ことが最も確実な防御になります。

3. アカウントの乗っ取り

個人アカウントで業務利用している場合、そのアカウントが侵害されると、過去の会話履歴——つまり業務情報の蓄積——がまとめて閲覧される可能性があります。会社の管理外にあるため、退職時に履歴を削除させることもできません。

企業が取れる5つの防止策

1. 法人向けプランを契約し、公式に使えるAIを用意する。入力内容が学習に使われない契約形態を選ぶ
2. 入力してはいけない情報を具体的に定義する。「機密情報」ではなく「顧客の氏名・連絡先・取引金額・未公開の財務数値」のように、判断に迷わない粒度で書く
3. 実態を可視化する。ルールを作る前に、現状どのAIが使われているかを把握する
4. 入力の瞬間に警告する仕組みを入れる。人間の注意力に依存せず、個人情報が含まれる送信を検知して確認を促す
5. 記録を残す。事故が起きた際に影響範囲を特定できるよう、いつ・どのサービスが使われたかを追跡できる状態にする

「教育」だけでは不十分な理由

研修で入力ルールを伝えることに加え、送信前に確認できる仕組みを用意します。

有効なのは、危険な操作の瞬間に介入する仕組みです。たとえば電話番号やメールアドレスを含む文章を送信しようとしたとき、その場で「個人情報が含まれています」と表示されれば、多くの人は立ち止まります。教育で意識を高めることと、仕組みで支えることは、どちらか一方ではなく両方が必要です。