AI情報漏洩の原因と事例を解説|今すぐできる対策とは

「生成AIを業務で使いたいが、情報漏洩が心配」――そんな不安を抱える情報システム担当者や経営層は少なくありません。ChatGPTやCopilotなどの生成AIは現場での利用が先行しがちで、全社ルールの整備が追いついていない企業も多いのが実情です。本記事では、AIによる情報漏洩は本当に起こるのかという疑問に答えたうえで、原因のパターン、国内外の実際の事例、各国の規制動向、そして見落とされがちな「シャドーAI」のリスクまでを整理します。さらに、明日から着手できる技術・組織両面の具体的な対策も紹介しますので、自社のガイドライン整備や社内周知の第一歩として活用してください。

生成AIで情報漏洩は本当に起こる？仕組みを整理

「生成AIを業務に使うと情報漏洩が起こるのでは」という不安を抱く担当者は少なくありません。結論からいうと、生成AIによる情報漏洩は実際に起こり得るリスクであり、単なる杞憂とは言い切れません。

ただし誤解してはいけないのは、生成AI自体が意図的に情報を盗み出しているわけではないという点です。ChatGPTやCopilot、Geminiといった生成AIは、あくまでユーザーからの入力（プロンプト）に対して学習済みのモデルを使って応答を返す仕組みであり、AIが自律的に企業の機密情報を探し出して外部に流出させるようなことは想定されていません。

それでも情報漏洩が現実に起こってしまうのは、次のような「人為的な要因」と「技術的な要因」が組み合わさるためです。

人為的な要因：従業員が機密情報や個人情報をそのままプロンプトに入力してしまうケース
技術的な要因：サービス側のバグや不具合、外部からの不正アクセスによって、意図しない形で情報が外部に表示・流出してしまうケース

たとえばOpenAI社は2023年3月25日、有料版「ChatGPT Plus」利用者の個人情報が漏洩したことを公表しています。ユーザーの名前・メールアドレス・クレジットカード情報が約10時間にわたって閲覧可能な状態になっていたもので、原因はオープンソースライブラリーのバグでした（出典：SKYSEA Client View）。この事例からも分かるとおり、生成AIの情報漏洩は「AIが悪さをする」のではなく、「AIを支えるシステムや、AIを使う人間の側に生じた不備」がきっかけになって起こります。

つまり、生成AIの情報漏洩リスクを正しく理解するには、次の2つの視点を押さえておくことが重要です。

入力した情報がどのように扱われ、どこに保存・学習され得るのかという「仕組み」の理解
サービス提供側の不具合や外部攻撃によって、意図せず情報が漏れてしまう「技術的な脆弱性」の存在

この2つの視点を踏まえたうえで、次のセクションでは実際にどのような原因のパターンがあるのかを、より具体的に見ていきます。

生成AIで情報漏洩が起こる4つの原因

生成AIによる情報漏洩は、単一の原因で起こるわけではありません。ここでは代表的な原因を4つの類型に整理し、それぞれどのようなメカニズムでリスクにつながるのかを解説します。具体的な事例は次の章で詳しく紹介しますので、ここではまず「なぜ起こるのか」という仕組みの理解を深めていきましょう。

個人情報・機密情報をそのままプロンプトに入力してしまう

最も基本的で、かつ発生頻度が高いとされるのがこのパターンです。生成AIはユーザーが入力したプロンプトを処理する仕組み上、入力した内容そのものがリスクの起点になります。

顧客の氏名・住所・連絡先などの個人情報をそのまま貼り付けて要約や分析を依頼してしまう
社外秘の企画書や契約書の内容をプロンプトに含めてしまう
ソースコードの修正や解説を依頼する際に、自社の非公開プログラムをそのまま入力してしまう

生成AIサービスの多くは、ユーザーとのやり取りをサービス改善やモデルの学習に活用する仕組みを持っています。そのため、入力した機密情報が意図せず他のユーザーへの回答生成に反映されてしまう可能性があり、悪意の有無にかかわらず情報漏洩につながるリスクをはらんでいます。この点は次章で紹介する事例でも実際に指摘されている論点です。

サービスのバグ・不具合による意図しない表示

利用者側の入力に問題がなくても、生成AIサービスを提供する事業者側のシステム不具合によって情報が漏洩するケースがあります。

例えば、内部で利用しているデータベースの処理に不具合が生じた結果、本来は別々に管理されるべき利用者情報や会話履歴が混在し、意図しない形で他のユーザーの画面に表示されてしまう、といった事象です。こうした不具合は利用者側では防ぎようがなく、サービス提供事業者の品質管理体制に依存する部分が大きいのが特徴です。実際にOpenAI社のChatGPTでも、こうしたバグに起因する情報漏洩が公表された事例があり、次章で詳しく取り上げます。

学習データや保存データへの不正アクセス

生成AIサービスは、ユーザーの入力データや会話履歴、アカウント情報などをサーバー上に保存しています。これらのデータが保管されているシステムに対して外部から不正アクセスが行われた場合、大量の情報が一度に流出するリスクがあります。

不正アクセスの手口は、脆弱性を突いたシステムへの侵入や、認証情報の窃取などさまざまです。生成AIサービスは急速に普及し利用者数・データ量ともに増加しているため、攻撃者にとって狙う価値の高いターゲットになりやすいという側面もあります。企業側としては、自社の入力データがどのように保存・管理されているかを把握し、サービス選定の段階でセキュリティ体制を確認しておくことが重要です。

プロンプトインジェクションなどの攻撃

比較的新しいリスクとして注目されているのが、生成AIの応答を悪意ある第三者が意図的に操作しようとする攻撃手法です。代表的なものが「プロンプトインジェクション」と呼ばれる手法で、AIに与える指示文（プロンプト)の中に、開発者が想定していない不正な命令を埋め込むことで、本来出力すべきでない内部情報や機密データを引き出そうとするものです。

こうした攻撃は、チャットボットのように外部ユーザーが自由に入力できる形で生成AIを業務システムに組み込んでいる場合に特にリスクが高まります。生成AIの活用が業務システムへの組み込みへと広がるほど、この種の攻撃手法に対する警戒も欠かせなくなってきています。

実際に起きた生成AI・ChatGPTの情報漏洩事例

生成AIによる情報漏洩は、決して仮定の話ではありません。ここでは実際に報道された3つの事例を紹介し、前章で整理した原因が具体的にどのような被害につながったのかを確認していきます。

OpenAI社：ChatGPT Plus利用者の個人情報漏洩

2023年3月25日、OpenAI社は有料版「ChatGPT Plus」の利用者に関する個人情報が漏洩したことを公表しました。漏洩した情報には、ユーザーの名前・メールアドレス・クレジットカード情報が含まれており、これらがおよそ10時間にわたって外部から閲覧可能な状態になっていたとされています。

原因は、ChatGPTのシステムで利用されていたオープンソースライブラリーに存在したバグでした。ユーザー自身が機密情報を入力したわけではなく、サービス側のシステム不具合によって起きた事例である点が特徴です。決済情報という機微な情報が対象になったことから、生成AIサービスであっても一般的なWebサービスと同様にシステム基盤の脆弱性がそのまま情報漏洩リスクに直結することを示す事例といえます。

OpenAI社：バグによるチャット履歴の流出

同じくOpenAI社では、ChatGPTのバグによって、あるユーザーのチャット履歴が別の無関係なユーザーの画面に表示されてしまう事象も発生しています。本来であれば本人しか閲覧できないはずのやり取りが、システムの不具合によって他人に見えてしまったという点で、利用者にとっては大きな不安を与える出来事でした。

OpenAI社の公表によると、原因はインメモリ型データベースシステムのバグとされており、問題自体は数時間内に修正されています。対応のスピード自体は早かったものの、この事例が示しているのは、たとえ短時間であっても、生成AIサービス内部の技術的な不具合が第三者への情報漏洩につながり得るという事実です。業務で機密性の高いやり取りをChatGPTに入力していた場合、その内容が意図せず他ユーザーの画面に表示されるリスクもゼロではないことを物語っています。

大手電子製品メーカー：ソースコードの流出

海外の大手電子製品メーカーでは、従業員が開発中の製品に関するソースコードの修正をChatGPTに依頼したことをきっかけに、そのプログラムコードが外部に流出する事態が起きています。

この事例の背景には、生成AIがユーザーとの対話内容を学習し、その後の他ユーザーへの回答に反映する仕組みがあります。従業員本人には悪意がなくても、業務効率化のために社外秘の情報を含むプロンプトを入力してしまえば、それが生成AIの学習プロセスを通じて外部に漏れ出す可能性があるということです。前章で触れた「入力データの取り扱い」に起因する情報漏洩の典型例であり、開発現場で生成AIを便利に使いこなそうとするほど、こうしたリスクと隣り合わせになることを示しています。

以上の3つの事例からわかるのは、生成AIによる情報漏洩には「サービス提供側の技術的な不具合」と「利用者側の入力データの取り扱い」という、性質の異なる2つの原因が存在するという点です。次章では、こうした事例を踏まえて各国の政府がどのような規制・対応方針を打ち出しているのかを見ていきます。

生成AIに対する各国の規制・法規制の動向

生成AIによる情報漏洩リスクが顕在化するなかで、各国政府もそれぞれの立場から規制や対応方針を打ち出しています。企業が生成AIを業務に取り入れる際は、自社が拠点を置く国・地域だけでなく、取引先やユーザーが存在する国の規制動向にも目を配っておく必要があります。ここでは、アメリカ・フランス・中国の3か国の動きを整理します。

アメリカの動向

アメリカでは2023年10月30日、生成AIの安全性確保に関する大統領令が発令されました。この大統領令により、生成AIの開発企業はサービスを提供する前に、政府による安全性評価を受けることが義務づけられています。生成AIの利便性を活かしつつも、社会に広く展開される前に一定の安全基準をクリアさせようとする姿勢がうかがえます。企業にとっては、利用するAIサービスの提供元が、こうした安全性評価の対象となっているかどうかも、サービス選定時の判断材料の一つになると考えられます。

フランスの動向

フランスでは、監視システムにAIソフトウェアの使用を認める法案が可決されています。ただしこの措置は、2024年のパリ夏季オリンピック・パラリンピックに向けた一時的なものと位置づけられており、大会後も恒久的な法律として継続されるかどうかは不透明とされています。大規模イベントの警備という特殊な文脈でAI活用が容認された一方、平時における一般的なAI利用のルールとは切り分けて捉える必要がある点に注意が必要です。

中国の動向

中国では2023年2月下旬までに、政府が国内企業に対してChatGPTの使用を停止するよう指示しました。情報統制やデータの越境移転に対する懸念が背景にあるとみられ、海外発の生成AIサービスに対しては特に厳しい姿勢が取られていることがわかります。中国国内で事業を展開する企業や、中国拠点の従業員を抱える企業にとっては、利用できる生成AIサービスそのものが国によって異なり得るという前提を踏まえた対応が求められます。

このように、生成AIに対する規制のスタンスは国によって大きく異なり、しかも各国とも制度は流動的な段階にあります。自社が国際的に事業を展開している場合や、海外拠点・海外ユーザーとのやり取りに生成AIを利用する場合は、こうした規制動向が今後も変化し続けることを前提に、定期的な情報収集を続ける姿勢が欠かせません。

見えないリスク「シャドーAI」に要注意

これまで見てきた事例や規制の動きは、いずれも「会社が把握している生成AI利用」を前提としたものです。しかし実際の職場では、会社の承認を得ないまま従業員が個人の判断で生成AIを業務に使っているケースが少なくありません。これがいわゆる「シャドーAI」と呼ばれるリスクです。ここでは、シャドーAIとは何かを整理したうえで、なぜこれが情報漏洩につながりやすいのかを解説します。

シャドーAIとは何か

シャドーAIとは、企業の情報システム部門やセキュリティ部門の許可・管理下にないまま、従業員が個人アカウントや無料版のツールを使って生成AIを業務に利用している状態を指します。

具体的には、次のような行為が典型例です。

会社支給のPCやスマートフォンから、私用アカウントでChatGPTなどの生成AIにログインして資料作成を手伝わせる
会議の議事録や顧客とのやり取りの要約を、会社が正式導入していないAIツールに貼り付けて処理する
部署やチーム単位で「便利だから」と独自に無料の生成AIサービスを使い始め、全社的なルール整備を待たずに定着してしまう

こうした利用は、従業員本人に悪意があるわけではなく、むしろ「業務を効率化したい」という前向きな動機から生まれることがほとんどです。しかし、会社としてリスクを把握・管理できていない点で、シャドーIT（許可されていないITツールの利用）と同様の構造的な問題をはらんでいます。

シャドーAIが情報漏洩につながりやすい理由

シャドーAIが厄介なのは、単に「無許可で使われている」という点だけではなく、発生に気づきにくく、リスクが表面化しにくい点にあります。

まず、シャドーAIは個々の従業員の端末やブラウザ上で完結してしまうため、情報システム部門のログ監視や既存のセキュリティ製品では検知しづらいという性質があります。会社が導入・契約しているシステムの外側で情報のやり取りが行われるため、「いつ・誰が・どんな情報を入力したか」を事後的に把握することが極めて困難です。

さらに、利用している従業員自身が「これは社外秘に該当する」という意識を持たないまま、顧客情報や未公開の企画内容、開発中の製品情報などをプロンプトに入力してしまうケースも考えられます。無料版のサービスを使っている場合、入力した内容が学習データとして扱われる可能性がある点も見落とされがちです。実際に、海外の大手電子製品メーカーで従業員が開発中製品のソースコード修正を生成AIに依頼したことで情報が外部に流出した事例（本記事「実際に起きた生成AI・ChatGPTの情報漏洩事例」参照）も、会社としての利用ルールが十分でなかった状況下で起きたものと考えられます。

加えて、シャドーAIは一部の従業員や部署から自然発生的に広がっていくため、経営層や情報システム部門が実態を把握したときには、すでに社内の複数箇所で常態化しているということも珍しくありません。ルールを整備する前に利用実態だけが先行してしまう点こそが、シャドーAI最大の危険性といえるでしょう。

このようにシャドーAIは、原因が特定しにくく、被害が発覚するまでに時間がかかるという二重の意味で「見えないリスク」です。次のセクションでは、こうしたリスクに対して企業が組織的・技術的にどう備えるべきか、具体的な対策を見ていきます。

生成AIによる情報漏洩を防ぐための実践的対策

ここまで見てきたように、生成AIによる情報漏洩は「AIそのものが悪意を持って情報を盗む」わけではなく、入力ミスやサービス側の不具合、不正アクセス、そしてシャドーAIのような管理外利用が積み重なって発生します。裏を返せば、原因が特定できているということは、企業側で打てる対策も具体的に存在するということです。ここでは「技術・システム面」と「組織・ルール面」の2軸に分けて、今すぐ着手できる対策を整理します。

技術・システム面の対策（学習オプトアウト設定・法人向けプラン・DLPツール）

まず取り組みやすいのが、生成AIサービス自体の設定や契約プランを見直すことです。

学習オプトアウト設定を有効にする ChatGPTをはじめとする多くの生成AIサービスには、入力した内容をAIの学習データとして利用させない「オプトアウト」設定が用意されています。個人アカウントで利用する場合は、この設定が有効になっているかを必ず確認しましょう。設定を怠ると、入力したプロンプトが将来的に別のユーザーへの回答に影響する可能性を否定できません。
法人向けプランへの切り替えを検討する 一般に、法人向けプラン（Enterpriseプランなど）は、入力データを学習に利用しない設計や、管理者によるアカウント一元管理機能を備えていることが多く、無料版・個人向け有料版と比べてセキュリティ面での配慮がなされています。既に現場でChatGPTなどの利用が始まっている企業ほど、個人契約のまま放置せず、法人向けプランへの移行を優先的に検討すべきです。
DLP（Data Loss Prevention）ツールの導入 従業員が生成AIのプロンプトに機密情報や個人情報を入力しようとした際に検知・警告・ブロックする仕組みとして、DLPツールの活用も有効な選択肢です。人の注意力だけに頼るのではなく、システム側で入力内容をチェックする仕組みを設けることで、うっかり入力によるリスクを機械的に減らすことができます。
アクセス権限・ログの管理を徹底する 誰がどのAIサービスに、どのアカウントでアクセスしているかを可視化することも重要です。利用状況が見えていなければ、シャドーAIの発生に気づくこともできません。

組織・ルール面の対策（利用ガイドライン策定・従業員教育）

技術的な対策だけでは、現場の運用実態と乖離してしまうリスクがあります。仕組みと並行して、ルールと意識づけを整備することが欠かせません。

生成AI利用ガイドラインを策定する 「入力してよい情報・入力してはいけない情報」の線引きを明文化することが第一歩です。個人情報、顧客情報、未公開の財務情報、開発中の製品情報やソースコードなど、社外秘に該当する情報はプロンプトに入力しないというルールを、具体例つきで示すことがポイントです。あわせて、業務利用が許可されているAIサービスとアカウントの種類（個人契約は不可、法人契約のみ可、など）も明記しましょう。
従業員教育を継続的に実施する ガイドラインを作っても、周知されなければ意味がありません。生成AIで実際に起きた事例（サービス側のバグによる情報流出や、ソースコードの入力による流出など）を教育資料に盛り込み、「なぜ危険なのか」を具体的にイメージできる研修を行うことが効果的です。一度きりの説明会で終わらせず、定期的な周知や新入社員向け研修に組み込むことで、意識の風化を防げます。
シャドーAIを前提とした運用体制を作る 従業員による未承認AIの利用をゼロにすることは現実的に難しいため、「見つけて禁止する」だけでなく、「安全に使える環境を用意して移行を促す」という発想も重要です。業務効率化のニーズがある以上、便利な公式ツールを用意しなければ、現場は管理外のサービスに流れてしまいます。
相談・報告窓口を明確にする 誤って機密情報を入力してしまった、不審な挙動に気づいたといった場合に、従業員が委縮せずすぐに相談できる窓口を設けておくことも、被害の早期発見・拡大防止につながります。

技術・システム面の対策は「入り口を狭める」役割を、組織・ルール面の対策は「使う人の意識を整える」役割を担います。どちらか一方だけでは不十分であり、両輪で整備することが、生成AIの利便性を活かしながら情報漏洩リスクを抑える現実的なアプローチといえるでしょう。

まとめ

生成AIによる情報漏洩は、AI自体が悪意を持つのではなく、機密情報の入力ミス、サービス側のバグ、不正アクセス、プロンプトインジェクションといった原因が積み重なって起こります。OpenAI社の個人情報漏洩やソースコード流出の事例が示すとおり、リスクは既に現実のものであり、各国の規制も流動的に進んでいます。特に会社の管理が及ばない「シャドーAI」は気づきにくく、放置すれば被害が拡大しかねません。対策は、学習オプトアウト設定や法人向けプラン、DLPツールといった技術面と、利用ガイドラインの策定や従業員教育といった組織面の両輪で進めることが重要です。まずは自社の生成AI利用実態を洗い出し、ガイドライン整備と法人向けプラン導入の検討から着手しましょう。