AIと個人情報の関係を解説|リスクと2026年法改正対応

ChatGPTなどの生成AIに顧客情報や個人データを入力してしまい、「法律的に問題ないのだろうか」と不安を感じたことはないでしょうか。生成AIの業務活用が広がる一方で、個人情報保護法違反や情報漏洩のリスク、社内で許可なくAIを使う「シャドーAI」の実態など、見過ごせない課題が数多く存在します。本記事では、個人情報保護委員会の注意喚起や実際に起きたトラブル事例、2026年に成立した個人情報保護法改正の内容までを整理し、企業や個人が今日から実践できる具体的な対策をチェックリスト形式でご紹介します。

AIに個人情報を入力するとどうなる？知っておきたいリスクの全体像

ChatGPTをはじめとする生成AIに顧客の名前やメールアドレス、取引先の情報などを入力してしまい、「これって法律的に問題ないのだろうか」と不安になった経験がある方は少なくないはずです。生成AIに個人情報を入力する行為には、大きく分けて「法律上のリスク」と「技術的なリスク」の2種類があります。まずはこの2つを切り分けて整理していきます。

個人情報保護法における2つの論点（利用目的・第三者提供）

生成AIに個人データを入力する場面で問題になりやすいのが、個人情報保護法上の次の2つの論点です。

利用目的の範囲を超えていないか：個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合、あらかじめ特定された利用目的を達成するために必要な範囲内で行う必要があるとされています。業務効率化のために何となく顧客情報を貼り付けてしまうと、この範囲を超えてしまう恐れがあります。
第三者提供・外国への提供にあたらないか：本人の同意を得ずに個人データをAIサービスへ入力し、その情報が応答結果の出力以外の目的（AIの学習など）で取り扱われる場合、個人情報保護法違反となる可能性があると個人情報保護委員会が指摘しています。弁護士による解説でも、この論点は少なくとも第三者提供の規制（法27条）や外国にある第三者への提供の制限（法28条）を念頭に置いたものと考えられています。海外事業者が提供するAIサービスにデータを送信すること自体が、外国への第三者提供に該当しうる点は見落とされがちなポイントです。

なお、そもそも入力しようとしている情報が「個人情報」に該当するかどうかの判断には、個人情報保護委員会のガイドライン（通則編）が参考になります。氏名だけでなく、複数の情報を組み合わせて特定の個人を識別できる場合も個人情報に含まれる点には注意が必要です。

入力データが学習に使われるリスク

法律上の論点とは別に、AIサービス特有の技術的なリスクとして押さえておきたいのが「入力した情報がAIの学習データとして利用されてしまう可能性」です。

生成AIサービスの多くは、ユーザーが入力したプロンプトをモデルの性能向上のために活用する仕組みを持っています。設定次第では、入力した個人情報が事業者側のサーバーに蓄積され、将来的に別のユーザーへの応答生成に間接的な影響を与える可能性もゼロとはいえません。個人情報保護委員会が注意喚起で問題視しているのも、まさにこの「応答結果の出力以外の目的」でデータが扱われてしまう構造そのものです。学習利用のオン・オフを自分で制御できるかどうかは、サービスごとに設定内容が異なるため、利用前に確認しておく姿勢が欠かせません。

意図しない出力・第三者提供につながるリスク

もう一つ見逃せないのが、システム側の不具合や設計上の問題によって、入力した情報が意図せず他のユーザーに表示されてしまうリスクです。これは入力する側の注意だけでは防ぎきれない、AIサービス提供事業者側の技術的な問題に起因するものです。

こうした事故が起きた場合、個人情報を入力した企業側は「知らないうちに第三者提供をしてしまっていた」という状況に置かれかねません。実際にどのような事故が起きてきたのかは、後の章で具体的な事例として取り上げます。ここでは、入力する情報の管理は自社の運用ルールだけでなく、利用するAIサービス自体の信頼性にも左右されるという点を押さえておいてください。

個人情報保護委員会によるAI事業者への注意喚起とは

生成AIと個人情報の関係を考えるうえで欠かせないのが、個人情報保護委員会（PPC）が実際に行った公的な対応です。ここでは、事業者全般に向けた注意喚起と、OpenAIという特定事業者に対する個別の注意喚起という、性質の異なる2つの対応を整理します。

生成AIサービス利用に関する注意喚起の内容

個人情報保護委員会は「生成AIサービスの利用に関する注意喚起等について」を公表し、生成AIサービスを利用する個人情報取扱事業者に向けて注意を呼びかけています。

この注意喚起の中で特に重要なのが、あらかじめ本人の同意を得ないまま個人データを含むプロンプトを生成AIサービスに入力し、そのデータが応答結果の出力以外の目的（AIモデルの学習など）で取り扱われる場合、個人情報保護法違反となる可能性があるという指摘です。

つまり、単に「AIに個人情報を入力した」という行為そのものが直ちに違法になるわけではなく、

入力した個人データが本来の利用目的の範囲を超えて扱われていないか
応答結果の出力以外の目的（学習利用など）に使われていないか

という点が問題になり得るということです。弁護士による解説でも、この注意喚起は少なくとも個人情報保護法27条が定める第三者提供の規制や、28条が定める外国にある第三者への提供の制限を念頭に置いたものと考えられています（牛島総合法律事務所の解説より）。海外の事業者が提供する生成AIサービスに個人データを入力する行為が、実質的に「外国にある第三者への個人データの提供」に当たり得るという視点は、業務でクラウド型の生成AIサービスを使う企業にとって見落としがちなポイントといえます。

OpenAIに対する個別の注意喚起の概要

個人情報保護委員会は、事業者全般への注意喚起とあわせて、令和5年（2023年）6月1日付けで、ChatGPTを提供するOpenAI, L.L.C.およびOpenAI OpCo, LLCに対し、個人情報保護法第147条の規定に基づく個別の注意喚起を行いました。

第147条は、個人情報取扱事業者などに対して必要な指導・助言を行うことができると定めた規定であり、これに基づく注意喚起は、特定の事業者を名指しして行われる、比較的踏み込んだ公的対応です。生成AIサービスという新しい技術領域に対して、委員会が個別事業者への対応にまで踏み込んだこと自体が、当時の社会的な関心の高さを物語っています。

なお、委員会自身も、この注意喚起はあくまで「現時点で明確に認識した懸念事項」を踏まえたものであり、今後新たな懸念事項が認識された場合には追加の対応があり得るとしています。つまり、この2023年の注意喚起で議論が終わったわけではなく、AI技術の進化やサービスの変化に応じて、公的機関の対応も今後アップデートされていく可能性があるということです。実際、こうした流れの延長線上に、後述する2026年の法改正の議論があると捉えることができます。

実際に起きたAIによる個人情報トラブルの事例

生成AIをめぐっては、これまでに複数の個人情報トラブルが実際に発生しています。ここでは代表的な3つの事例を紹介します。

バグにより決済情報が他ユーザーに表示された事例

2023年3月20日、ChatGPTを提供するOpenAIが使用していたオープンソースライブラリ「redis-py」にバグが発生し、一部ユーザーの画面に他ユーザーのチャット履歴タイトルが表示されるという事故が起きました。

この不具合の影響はチャット履歴の表示にとどまりませんでした。ChatGPT Plus加入者のうち約1.2%にあたるユーザーについては、氏名やメールアドレスに加えて、クレジットカードの下4桁や有効期限といった決済情報までもが、別のユーザーに表示されてしまう事態に発展しています。加入者数の規模から見ると、推定で数万人規模のユーザーが影響を受けたとされており、ソフトウェアの不具合ひとつが決済情報という機微な個人情報の漏洩につながり得ることを示す事例です。

アカウント情報がダークウェブで取引された事例

ChatGPTをめぐっては、アカウント情報そのものが不正に売買されるという被害も報告されています。

シンガポールの情報セキュリティ企業による調査では、ChatGPTのアカウント情報がダークウェブ上で取引されている実態が確認されました。同調査によると、2023年5月までの時点で、少なくとも700件近くが日本からの漏洩によるものであると確認されています。この事例は、AIサービス側のシステム不具合ではなく、利用者側のアカウント情報が何らかの経路で窃取され、闇市場で流通してしまうという別の種類のリスクを浮き彫りにしました。

業務利用で社外秘情報が流出した事例

生成AIの業務利用そのものが原因となって、機密情報が外部に流出したケースもあります。

2023年3月、韓国の大手電子製品メーカーにおいて、開発担当者が業務効率化を目的に半導体関連のソースコードをChatGPTへ入力したことが発端となり、社内の機密情報が外部に流出する事案が発生しました。この事態を受けて同社は、社内における生成AIの利用を一時的に制限する対応を取っています。

この事例は、個人が特定される「個人情報」というよりも企業の機密情報の流出事例ですが、業務でAIに入力したデータが意図せず外部へ広がってしまうリスクを端的に示すものとして、多くの企業のAI利用ルール見直しのきっかけとなりました。

2026年の個人情報保護法改正でAI活用はどう変わるのか

生成AIの普及を受けて、個人情報保護法そのものも大きな見直しが行われました。個人情報保護法には3年ごとに制度を見直す規定（同法附則第10条）があり、これに基づいて2026年に改正が実現しています。ここでは、AI活用に直接関わる変更点に絞って整理します。

AI開発・統計作成目的では本人同意が不要になる

今回の改正の大きな柱が、AI開発や統計作成を目的とする場合に、本人の同意を得ずに個人データを利用できる特例が新設された点です。

改正案は2026年4月7日に閣議決定され、AIの学習データとして個人情報を活用する場面において、これまで原則として必要とされてきた本人同意の取得が不要になる方向性が示されました（阿部国際法律事務所）。

これは、AI開発を行う事業者にとっては大きな追い風となる一方で、「知らないうちに自分のデータがAIの学習に使われているのではないか」という個人側の不安を強める要素にもなり得ます。実際、この特例とセットで導入されたのが、次に説明するオプトアウトの仕組みです。

事業者に課されるオプトアウト対応の義務

同意が不要になる代わりに、事業者には新たな義務が課されています。それが、本人が「自分のデータをAI学習に使わないでほしい」と求められる、オプトアウトの手続きを整備する義務です。

具体的には、事業者は利用者に対して、オプトアウトの方法をわかりやすい形で提示しなければならないとされています（阿部国際法律事務所）。つまり、「同意なしに使ってよい」ではなく、「使われたくない人が拒否できる仕組みを用意したうえで使ってよい」という、いわば条件付きの緩和という位置づけです。

企業としてAIサービスを提供する立場であれば、次のような対応が求められることになります。

個人データをAI学習に利用する旨を、わかりやすく利用者に案内すること
利用者が容易にオプトアウトを申し出られる窓口や手続きを用意すること
オプトアウトの申し出があった場合に、確実にデータ利用を停止する体制を整えること

なお、今回の改正はEUのAI規則（AI Act）や米国各州のプライバシー法との整合性も意識して設計されており、国際的な規制動向に足並みをそろえようとする姿勢がうかがえます（阿部国際法律事務所）。日本国内だけでなく、海外展開を行う企業にとっても無視できない変更といえます。

施行までのスケジュール

最後に、改正法がいつから適用されるのかを押さえておきましょう。今回の改正は、次のようなスケジュールで進んでいます。

2026年4月7日：改正案が閣議決定
2026年5月26日：衆議院を通過
2026年7月10日：法律として成立
2026年7月17日：公布

施行時期については、公布から2年以内、つまり遅くとも2028年7月17日までに施行されることが定められています。ただし、一部の規定については公布後6か月というより早いタイミングで先行して施行される予定です（阿部国際法律事務所）。

このため、AI開発やAI活用に携わる事業者は、「まだ数年先の話」と油断せず、先行施行される規定の内容を早めに確認しておくことが望ましいといえます。特に、オプトアウト対応の仕組みづくりは一朝一夕には整わないため、施行スケジュールを見据えて準備を進めることが重要です。

なお、改正法の詳細な条文番号や、違反時の課徴金制度の具体的な水準については、現時点で公表されている情報の範囲では十分な裏付けが確認できていません。今後、政令やガイドラインの整備が進む中で、より具体的な内容が明らかになっていくものと考えられます。

見えにくいリスク「シャドーAI」が社内に潜んでいる

これまで見てきた事例は、いずれも個人の不注意やシステムの不具合が引き金になったものでした。しかし、実はそれ以上に見えにくく、根が深いリスクが存在します。それが「シャドーAI」です。会社が公式に許可・管理していないAIツールを、従業員が個人の判断で業務に使ってしまう状態を指します。

会社の許可なくAIを使う「シャドーAI」の実態

シャドーAIは決して一部の先進的な社員だけの問題ではありません。JBCC株式会社が紹介するSIGNATE総研「AI活用実態調査」（2025年12月）によると、生成AI活用意欲の高い層632名のうち34.8%が、会社の公式な許可を得ずにAIツールを業務利用する「シャドーAI」を実際に利用していると回答しています。つまり、AIに前向きな社員のおよそ3人に1人が、会社の目の届かないところでAIを使っている計算になります。

さらに気になるのは、機密情報を入力している層の内訳です。Forbes JAPAN（2026年4月18日）の記事では、一般社員よりも課長・部長クラスの管理職のほうがシャドーAIに機密情報を入力している割合が高く、その差は2倍近くに上ると報じられています。管理職は業務効率化への意欲が高く、より機密性の高い情報に日常的に触れる立場にあるため、リスクの大きさも比例して高くなっていると考えられます。「若手社員への注意喚起だけで十分」という発想では、対策として不十分だといえるでしょう。

加えて、社内ルールそのものが浸透していない実態も明らかになっています。PR TIMES掲載の調査では、社内ガイドラインについて「わからない」と回答した人が39.8%にのぼる一方、「明確なルールあり」と答えた人はわずか11.8%にとどまりました。また、シャドーAI経験者は9.5%という結果も出ています。多くの従業員は、そもそも「何がルール違反にあたるのか」すら把握できていない状況で、日々AIを使っているのです。

対策が追いついていない企業の現状

こうした利用実態に対し、企業側の管理体制はどこまで追いついているのでしょうか。日経クロステックの調査結果は、その厳しい現状を浮き彫りにしています。シャドーAIについて「把握し、有効な対策を取れている」と回答した企業はわずか24%にとどまりました。一方で、「把握できていない」と答えた企業が43%、「把握しているが対策できていない」と答えた企業が30%にのぼり、合計すると73%もの企業が事実上の無防備状態に置かれていることが分かります。

つまり、シャドーAIは「一部の企業だけが抱える特殊な問題」ではなく、多くの企業に共通する構造的なリスクだといえます。従業員個人の意識だけに頼った対策には限界があり、会社としてAI利用の実態を可視化し、ガイドラインを整備した上で、許可されたツールへ利用を誘導していく仕組みづくりが欠かせません。次のセクションでは、こうした課題に対して今日から取り組める具体的な実践ポイントを整理していきます。

個人情報を守りながらAIを活用するための実践ポイント

ここまで見てきたリスクや法改正の動向を踏まえると、AIを安全に使いこなすためには「入力する前の確認」「設定の見直し」「組織的なルール整備」「サービス選定」という4つの観点で対策を積み重ねることが重要です。難しく考える必要はなく、今日から実行できることばかりですので、順番にチェックしていきましょう。

プロンプト入力前に確認すべきこと

生成AIに何かを入力する前に、まず立ち止まって確認すべきなのが「その情報を入力する必要が本当にあるか」という点です。個人情報保護委員会は、個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合、特定された利用目的を達成するために必要な範囲内で行う必要があると示しています。つまり、業務効率化のためとはいえ、目的外の個人情報まで安易に入力してしまうと法令違反につながるおそれがあるということです。

具体的には、以下の点を入力前の習慣にしておくと安心です。

氏名・住所・電話番号・メールアドレスなど、個人が特定できる情報が含まれていないかを確認する
取引先の機密情報や社外秘の技術情報が紛れ込んでいないかを確認する
どうしても個人情報を扱う必要がある場合は、仮名化・匿名化してから入力する
「この情報は誰の同意のもとで扱っているものか」を一呼吸おいて考える

こうした確認は、個人情報保護法における利用目的規制や第三者提供規制（法27条・法28条）への抵触を防ぐ第一歩になります。

学習利用をオフにする設定を使う

多くの生成AIサービスには、入力したデータをAIの学習に利用するかどうかを選べる設定が用意されています。この設定を確認しないまま利用を続けると、意図せず社内情報や個人情報がモデルの学習データとして取り込まれてしまう可能性があります。

対策としては、次のような行動が有効です。

利用しているAIサービスの設定画面で「チャット履歴と学習」に関する項目を確認する
学習利用をオフにできる設定がある場合は、業務利用のアカウントでは必ずオフにしておく
設定変更後も、サービス側のアップデートによって仕様が変わる可能性があるため、定期的に見直す

なお、2026年の個人情報保護法改正では、AI開発・統計作成目的での本人同意が不要になる一方、事業者側にはオプトアウトの方法をわかりやすく提示する義務が課されることになっています。今後は「学習に使われたくない場合はどう申し出るか」という観点からも、サービス側の説明を確認しておくことが実務上のポイントになりそうです。

社内ガイドラインを整備する

シャドーAIの実態からも分かる通り、個人の注意だけに頼った対策には限界があります。会社としてルールを明文化し、全社員に周知することが不可欠です。

ガイドラインに盛り込みたい項目の例は以下の通りです。

業務利用を許可するAIサービスの一覧（許可制・申請制の導入）
入力してよい情報・入力してはいけない情報の具体的な線引き
個人情報や機密情報を扱う際の匿名化・仮名化の手順
違反時の報告フローと相談窓口の明示
定期的な研修・注意喚起の実施

社内ガイドラインについて「わからない」と回答した従業員が4割近くに上るという調査結果もあり、ルールを作るだけでなく、日常的に社員が参照・理解できる形で運用することが重要です。管理職ほど機密情報をシャドーAIに入力している割合が高いという指摘もあるため、役職を問わず一律に周知する姿勢が求められます。

法人向け・エンタープライズ版を活用する

個人向けの無料版AIサービスは手軽に使える一方、セキュリティ面での管理機能が限られている場合があります。業務で継続的にAIを活用するのであれば、法人向け・エンタープライズ向けのプランへの切り替えを検討する価値があります。

一般的に、法人向けプランでは入力データを学習に使わないオプトアウト設定が用意されているほか、管理者による利用状況の一元管理やアクセス権限の設定が可能になるケースが多く見られます。契約内容やデータの取り扱い条件はサービスごとに異なるため、導入前には各サービスの利用規約やデータ処理に関する説明を確認し、自社の情報管理方針に合致しているかを見極めることが大切です。

こうした4つの視点を組み合わせることで、AIの利便性を損なうことなく、個人情報保護のリスクを着実に抑えていくことができます。

まとめ

生成AIへの個人情報入力には、利用目的の範囲や第三者提供規制に関わる法的リスクと、学習利用や意図しない出力といった技術的リスクが存在します。個人情報保護委員会はOpenAIへの個別注意喚起を含む対応を行っており、過去には決済情報の漏洩や機密情報の流出といった実際の事例も起きています。2026年に成立した個人情報保護法改正では、AI開発目的での本人同意が不要になる一方、事業者にはオプトアウト対応の義務が課されました。また、社内で許可なくAIを使う「シャドーAI」への対策が追いついていない企業が7割を超えるという実態も明らかになっています。まずは自社の利用状況を確認し、入力前のチェック、学習利用のオフ設定、社内ガイドラインの整備、法人向けプランの検討という4つの観点から、できるところから対策を始めてみてください。