All
SaaS管理
デバイス管理
セキュリティ対策
脅威・インシデント
IT基盤・インフラ
情シス業務・組織形成
AI / テクノロジー
プロダクト
イベントレポート
その他
ガバナンス

新着記事

もっと見る

>

>

ChatGPT情報漏洩事例と企業が取るべき対策【2026】

ChatGPT情報漏洩事例と企業が取るべき対策【2026】

ChatGPT情報漏洩事例と企業が取るべき対策【2026】

ChatGPT情報漏洩事例と企業が取るべき対策【2026】

公開日

最終更新日

事故の原因が従業員の入力ミスか、サービス側の障害か、端末の感染かによって、情シスが最初に止める対象と連絡先は変わります。

2026年には、RIZAPの特定保健指導データ誤送信や、パナソニックグループの約33万4,000人分の個人情報を含むデータの外部生成AIへのアップロードも公表されました。外部AIに送信された事実と、第三者への公開・悪用は区別して読む必要があります。

本記事は、生成AIの業務利用を管理する情報システム部門(情シス)・セキュリティ担当者向けです。前半でChatGPTの情報漏洩事例と漏洩経路を解説し、後半でRAG・AIエージェントの権限制御、個人情報保護法への対応、導入後の統制と事故対応までを扱います。

ChatGPTをはじめとする生成AI利用における情報漏洩リスクの主な要因と、企業のAI棚卸しやアクセス権限管理といった具体的な安全対策の手順を整理したインフォグラフィック。

ChatGPT情報漏洩事例とは

ChatGPT情報漏洩事例とは、機密情報や個人情報が許可されていないAI環境へ送信されたり、履歴・認証情報が権限のない相手に渡ったりする事故です。本記事では、事故一般を「情報漏洩」、個人情報保護法上の報告対象を指す場合を「漏えい等」と書き分けます。

本記事のポイント

  • ChatGPT・生成AIの情報漏洩事例は、誤入力、サービス障害、認証情報窃取、権限不備に分けて対策します。

  • 個人向け有料プランを契約しても、会社のID管理や監査機能は自動的には整いません。

  • 企業は承認済み環境と入力可能なデータを定め、未承認の個人アカウントへの業務情報送信を抑えます。

  • 誤送信が起きたら、追加送信の停止、証拠保全、影響範囲の特定、法的義務の判断を並行して進めます。

外部送信・第三者閲覧・学習利用の違い

外部AIへの送信、第三者による閲覧、モデルの学習利用は、それぞれ異なる事象です。

会社が許可していないサービスへ顧客データを送れば、公開されていなくても社内規程や契約に抵触する可能性があります。一方、サービス提供者への送信を認めた法人契約でも、アカウントを乗っ取られれば会話履歴を読まれるおそれがあります。「学習に使わない」という条件だけで、保存、管理者によるアクセス、外部連携、事故時の取り扱いまで決まるわけではありません。

ChatGPTで機密情報を扱う際は、誰が、どの契約環境へ、どのデータを送れるかを先に決めます。氏名を削除した文章でも、案件番号、勤務先、疾病、地域、日時の組み合わせから本人や取引先を識別できる場合があります。

段階

事故の例

企業が管理する対象

入力

顧客一覧やソースコードを個人アカウントへ貼り付けます。

入力可能なデータ区分、添付ファイル、送信前検査

処理・保存

会話履歴やアプリのログに秘密情報が残ります。

学習利用、保持期間、削除条件、ログの閲覧権限

連携・検索

社内検索AIが利用者の権限を超えた文書を参照します。

文書単位のアクセス権、連携先、実行権限

閲覧・外部送信

盗まれたセッションから履歴を閲覧されたり、AIが外部へ送信したりします。

端末、認証、外部通信、人間の承認です。

入力情報の分類と利用可否

入力情報は「公開情報」「社外秘」「個人情報・高度機密」に分け、環境ごとに許可範囲を設定します。

公開済みの製品説明は一般的な文章作成に使えても、顧客別価格、未公開決算、採用評価、健康情報、秘密鍵は同じ扱いにしません。個人情報は利用目的や契約条件の審査も伴うため、法人プランの導入だけで一括許可しない運用にします。分類表には情報の所有部署を記載し、入力可否を現場の担当者だけに判断させないようにします。

▶ 関連記事: 生成AIセキュリティのベストプラクティス|シャドーAI検知と対策

実際のChatGPT・生成AI情報漏洩事例と企業の教訓

ChatGPTをはじめとする生成AIの情報漏洩事例を企業ごとに比べると、入力先の管理、端末防御、サービス障害への備えを分けて整備する理由が分かります。

以下では、事故と導入事例を分けて扱います。外部生成AIへのアップロードが公表された事案については、送信された情報の範囲を示し、第三者への公開や悪用まで起きたとは断定しません。

企業・対象

時期

発生した事象

対策の焦点

パナソニックグループ

2026年10月公表

約33万4,000人分の個人情報を含むデータを、禁止されていた外部生成AIへアップロードしました。

禁止ルールと実際の送信制御を接続します。

RIZAP

2026年9月公表

特定保健指導の対象者情報を個人の外部生成AIへ誤送信しました。

要配慮個人情報と個人アカウントを分離します。

Samsung電子

2023年

利用許可後の約20日間に、機密コードや会議内容を入力する事案が3件発生しました。

利用開始前に開発部門の入力条件を定めます。

OpenAI

2023年3月

不具合により他者の履歴タイトルや一部の支払い関連情報が表示されました。

ベンダー事故時の停止・通知手順を用意します。

ブラウザ拡張機能の利用者

2025年12月報告(IPAが2026年4月の資料で整理)

悪意ある拡張機能がAIサービス上の会話を窃取しました。

拡張機能の導入と権限を管理します。

パナソニックグループの個人情報アップロード事案

パナソニックグループの事案は、外部生成AIを禁止していても、送信を止める仕組みが別途必要だと分かる事例です。

業種・規模:電機メーカーの企業グループで、対象データは約33万4,000人分です。発生時期:ASCIIは、同グループが2026年10月23日に外部生成AIへのアップロードを公表したと報道しています。

原因→影響→再発防止策:社内で禁止されていた外部生成AIへ、個人情報を含むデータがアップロードされましたが、ASCIIによるとAIの学習には使われず、不正利用も確認されていません。影響を評価する際は、対象人数と情報項目に加え、送信先の契約、保存、アクセス状況を切り分けます。自社で同種事故を防ぐなら、管理端末からの未承認AIへのファイル送信制御、個人・法人ワークスペースの区別、違反検知時の連絡を組み合わせます。

この事案と、後述するパナソニック コネクトのConnectAI導入事例は、対象組織と利用環境を区別します。グループ内に承認済みAIがあっても、すべての従業員がその環境だけを使う状態になるとは限りません。

RIZAPの特定保健指導データ誤送信事案

RIZAPの事案では、健康情報を含むデータを個人の外部生成AIへ送信した点が事故対応の焦点です。

業種・規模:健康関連サービスを提供するRIZAPの特定保健指導業務が対象です。発生時期:2026年9月の公表で、ITmediaは、氏名、生年月日、保険証記号番号、疾患情報などを社員が個人の外部生成AIへ誤ってアップロードしたと報道しています。

原因→影響→再発防止策:業務システムの対象者情報が個人利用のAIへ渡り、要配慮個人情報を含む事故になりました。同報道によると、RIZAPグループは、許諾していない生成AIの業務利用禁止の再周知と、ISMSに加えたAIマネジメントシステム(AIMS)の導入検討を表明しています。件数は公表されておらず、データは24時間以内に削除され、個人情報保護委員会へ報告済みとされています。自社では、健康情報を含むファイルの出力権限と送信先を制限し、誤送信時は件数の確定を待たず個人情報保護担当へ連絡します。

Samsung電子の機密コード入力事案

Samsung電子の事案は、業務効率化を目的とした正規の利用でも機密情報を送信し得る例です。

業種・規模:半導体を扱うDS部門の開発・製造関連業務です。発生時期:PC Watchは、2023年3月11日の利用許可後、約20日間に少なくとも3件の機密情報入力が発生したと報道しています。対象には設備測定データベース関連のソースコード、歩留まり把握プログラム、社内会議内容が含まれます。

原因→影響→再発防止策:従業員がコードの修正や会議の整理を目的に、秘密情報を外部へ入力しました。同報道では、緊急措置として1質問当たりの入力容量を1,024バイトに制限したとしています。Bloombergの2023年5月の報道は、同社が従業員による生成AIの利用を禁止したと伝えています。

自社の開発部門では、実コードの入力可否、秘密鍵の除去、外部リポジトリへの送信条件を利用開始前に定めます。

OpenAIのチャット履歴表示障害

OpenAIの障害は、利用者の入力ミスとは異なる、サービス側の不具合による情報露出です。

業種・規模:生成AIサービスの一部利用者が対象です。発生時期:2023年3月20日に発生しました。OpenAIの障害報告では、redis-pyの不具合により、他者のチャット履歴タイトルが一部利用者に表示され、特定の9時間にアクティブだったChatGPT Plus加入者の約1.2%について支払い関連情報が閲覧可能になった可能性があるとしています。

原因→影響→再発防止策:ライブラリの不具合が他利用者の情報表示につながりました。対象は氏名、メールアドレス、カード番号の下4桁、有効期限などで、カード番号全体の流出とは区別します。利用企業は、障害通知を受け取る窓口を決め、停止対象の業務、代替手段、データ削除依頼の担当を事前に割り当てます。

悪意あるブラウザ拡張機能による会話窃取事案

ブラウザ拡張機能は、AIサービスの契約とは別の経路で会話内容へアクセスする場合があります。

業種・規模:Chrome・Edge上でAIサービスを使う利用者が対象です。発生時期:IPAの2026年4月公開のAI関連セキュリティ資料は、悪意ある拡張機能による会話窃取と合計890万人以上への影響を整理しています。対象サービスにはChatGPT、Claude、DeepSeekなどが含まれます。

原因→影響→再発防止策:拡張機能がブラウザAPIの乗っ取りや画面内容の読み取りを通じて会話を取得しました。890万人以上は、IPAが影響を受けた可能性のあるユーザー数として挙げた数値で、IPAは資料がニュースの要約であり個々の事例の正確性を保証しないと明記しています。全員の機密情報が漏洩した件数と読み替えてはいけません。自社では拡張機能を許可制にし、ページの読み書き権限、更新後の権限追加、個人アカウント同期による持ち込みを管理します。

パナソニック コネクトのConnectAI導入事例

パナソニック コネクトの事例では、承認済み環境を全社展開し、利用拡大と運用管理を並行しています。

業種・規模:法人向け事業を展開する同社の国内従業員が対象です。導入時期:2023年2月にConnectAIの活用を開始しました。2024年6月の取材時点では国内全従業員約1万2,400人、2025年7月の発表時点では国内全社員約1万1,600人が対象で、2024年は年間44.8万時間の業務時間を削減したと公表しています。パナソニックの2025年7月のConnectAI活用発表では、OpenAI、Google、Anthropicのモデルを活用する展開も示しています。

課題→施策→成果:従業員の業務支援に向けて社内AIを整備し、利用範囲を拡大しました。キーマンズネットの2024年の取材記事は、運用開始から16カ月に情報漏洩・著作権侵害の問題が発生しなかったことや、品質管理規定・過去事例630件、1万1,743ページを扱う社内活用を伝えています。過去の無事故実績は将来の無事故を保証しませんが、対象文書と利用者を定めた展開手順は参考になります。

▶ 関連記事: シャドーAI事例と生成AI事故原因|情シスが取るべき漏洩対策

生成AI・ChatGPTを経由した漏洩経路の4類型

生成AIの漏洩対策は、プロンプト入力、サービス・端末、シャドーAI、RAG・AIエージェントの4経路ごとに担当と制御を割り当てます。

プロンプトへの機密情報入力

入力経路では、送信前にデータを減らし、禁止情報を含む場合は処理を止めます。

顧客対応履歴、採用候補者の履歴書、障害ログ、契約書、ソースコードには、担当者が意識していない機密情報が含まれます。ログの中のメールアドレスやアクセストークン、議事録の中の取引先名や交渉価格などは、本文だけを読んでも見落としがちです。添付ファイルでは、非表示シート、コメント、変更履歴、ファイル名も検査対象に含めます。

入力を検査する際は、個人番号やカード番号のような定型データと、「来期の買収候補」「未公表の原価」のような文脈依存の秘密情報を分けます。前者はパターン検知、後者は文書ラベルや送信元の業務システムとの組み合わせで判定します。検知精度を測る場合は、実在顧客のデータではなく、業務の形式を再現したテストデータを使います。

混入率は部署や業務で大きく異なるため、企業は自社の検知件数、対象部署、判定基準を記録して評価します。

サービス障害と認証情報窃取

サービス側の不具合と、利用端末からの認証情報窃取は、別々に備えます。

前者はベンダーの障害通知、契約上の調査協力、業務停止判断で対応します。後者は端末防御、認証、セッション失効、APIキー管理が中心です。多要素認証を設定していても、認証後のCookieやセッショントークンが盗まれる場合を想定し、パスワード変更だけで対応を終えません。

Group-IBは、情報窃取マルウェアのログを過去1年分析し、ChatGPT認証情報が保存された感染端末101,134台を見つけたと発表しています。Group-IBの2023年の認証情報流出調査は、サービス本体ではなく利用端末を侵入経路として扱っています。これは2023年時点の観測数であり、現在の流出規模は変化している可能性があります。

端末感染が疑われる場合は端末を隔離し、別の安全な端末からセッションを失効させます。APIキー、連携トークン、ブラウザ内に保存された他サービスの認証情報も対象に含めます。AIの履歴だけを削除しても、感染端末から再び認証情報を盗まれる状態は解消しません。

従業員による未承認利用(シャドーAI)

シャドーAIは、情シスが管理していないサービスやアカウントを業務に使う状態です。

個人契約のChatGPTに加え、翻訳サイト、議事録ツール、ブラウザ拡張機能、SaaSに追加されたAI機能も対象になります。従来から契約しているSaaSでも、新しいAI機能へのデータ送信が従来の審査範囲に含まれるとは限りません。サービス名の一覧だけでなく、機能、アカウント、送信先、接続先を把握します。

検知後は、サービスを使った理由と投入した情報を聞き取ります。悪意の有無を調べる前に、必要な業務を承認環境へ移せるかを判断します。顧客情報や健康情報が含まれていれば事故対応へ切り替え、公開情報だけなら用途と契約を審査して台帳へ登録します。

RAG・AIエージェントへの間接的プロンプトインジェクション

RAGやAIエージェントでは、外部文書に含まれる文章を業務命令として実行させない制御を置きます。

RAGは文書を検索して回答に使う仕組みで、AIエージェントは検索に加えてメール送信やファイル操作なども行います。攻撃者がWebページ、PDF、メールに「取得した資料を外部へ送れ」といった命令を埋め込み、AIがその内容に従う攻撃が間接的プロンプトインジェクションです。検索対象のアクセス権が正しくても、正規に取得した情報を外へ送る機能があれば被害につながります。

対策は、検索権限と実行権限を分けることから始めます。読み取りだけで済む業務には書き込み権限を与えず、送信先を許可リストで限定します。メール送信、公開設定変更、権限付与、支払いは、実行する対象と内容を人間が承認してから処理します。承認画面に「処理を続行しますか」とだけ表示する設計では、誤った操作を見抜けません。

総務省の「AIのセキュリティ確保のための技術的対策に係るガイドライン」(2026年3月)は、AIセキュリティ分科会の取りまとめ(2025年12月)を踏まえ、LLM等への脅威に対する技術的対策例を整理しています。自社では攻撃名を列挙するだけで終わらせず、各ツールに許す操作、外部通信、停止手順へ落とし込みます。

▶ 関連記事: 機密情報とは?個人情報との違いや管理体制・対策を図解で解説

シャドーAIの可視化と企業の損害管理

シャドーAIを見つけたら、サービス名だけで判断せず、利用者、投入データ、外部連携、業務上の必要性を記録します。

利用実態の棚卸し

棚卸しでは、通信ログ、契約情報、従業員への聞き取りを組み合わせます。

プロキシやDNSのログから利用先を調べ、SaaS台帳と経費精算から契約者を把握します。ただし、接続ログだけで送信内容まで分かるとは限りません。会社メールでの登録でも個人向けアカウントの場合があり、契約の名義と管理権限も区別します。個人端末上の利用を含める場合は、従業員への周知、労務、プライバシーの取り扱いを先に整えます。

台帳項目

記録する内容

判断後の行動

利用目的

翻訳、要約、コード補助、議事録などです。

承認済み環境で代替できる用途から移行します。

アカウント

個人・法人、管理者、SSOの有無です。

会社が停止できないアカウントへの業務情報入力を止めます。

投入データ

情報区分、出所、対象者、添付の有無です。

個人情報や高度機密があれば事故調査を開始します。

外部連携

メール、ストレージ、CRM、APIの接続権限です。

不要な接続を解除し、残す接続の責任者を定めます。

終了手順

退職・異動時の停止、データ返却、削除です。

停止できない利用形態は継続対象から外します。

事故コストの評価と社内説明

損害の説明では、外部調査の平均値と、自社で発生する作業・支出を分けます。

IBMのデータ侵害コスト報告書のような外部調査の平均値は、調査対象組織の集計であり、日本企業の生成AI事故1件の見積額ではありません。

社内予算では、調査委託、ログ解析、法律相談、本人通知、問い合わせ窓口、再発防止改修、業務停止を分けて積み上げます。例えば、本人通知の対象人数が変われば郵送・窓口対応の負担も変わりますが、漏洩人数だけで総損害を比例計算しないようにします。取引先との契約違反、事業停止の期間、送信した秘密情報の性質が費用を左右します。

通報を妨げない社内窓口

誤送信を早く把握するため、事故報告と規律上の判断を切り離して受け付けます。

従業員には「操作を止める」「チャットを独断で消さない」「送った内容と時刻を連絡する」の3点を伝えます。初回連絡で完全な報告書を求めず、サービス名、アカウント、ファイル名、概算の対象範囲だけで受付を開始します。報告後の調査担当と次回連絡時刻を返せば、現場が不安から証拠を消したり、同じデータを別のAIへ再送したりする事態を抑えられます。

▶ 関連記事: 【2026年】SCS評価制度★3取得チェックリスト|81項目を無料DL

有料版の誤解とChatGPTプラン別のデータ保護

ChatGPT Plusへの課金は、会社の機密情報を入力できるかどうかの判断基準にはなりません。

学習利用と保持期間の区別

学習利用を止めても、会話履歴や安全対策用の記録が直ちに消えるとは限りません。

個人向けサービスでは、会話をモデル改善に使う設定、通常の会話履歴、履歴に残さないチャット、削除済みデータの処理を分けて扱います。「学習をオフにすればすべて30日後に消える」と一括して理解すると、通常の履歴や添付、連携先に残るデータを見落とします。個人向けプランは既定で会話がモデル改善に使われ、利用者が設定でオフにできます。一時チャットは履歴に残らず学習にも使われませんが、安全確認のため最大30日保持されます。

OpenAIは、ChatGPT Business、Enterprise、API Platformの業務データを既定でモデル学習に利用しない方針を示しています。OpenAIの法人向けプライバシー説明では、学習利用の方針と管理・保護の考え方を案内しています。企業は非学習だけで利用を許可せず、自社が必要とする保持・削除とID統制を契約条件へ加えます。

Free・Plus・Business・Enterprise・APIの比較

プランは、学習利用、保持、ID管理、監査の同じ軸で比較します。SSO・SCIM、監査ログ、保持・削除の可否は契約プラン、管理設定、利用する機能で変わるため、下表は方向性の整理として使います。表の「モデル学習」「保持・削除」の列はOpenAIの法人向けプライバシー説明、「SSO・SCIM」「監査ログ」の列は契約書と管理画面のID・セキュリティ設定で契約前に照合し、満たさない項目は後述の調達基準に沿って運用で補うか、用途を縮小するかを決めます。

利用形態

モデル学習

保持・削除

SSO・SCIM

監査ログ

ChatGPTのFreeおよびPlus

個人向けのデータ利用設定が適用され、利用者が学習利用を制御します。

通常履歴と一時的なチャットは扱いが異なり、30日を全会話共通の期限とは扱いません。

法人ワークスペースの一括ID統制の代替にはしません。

個人の履歴を会社の監査証跡の代替にはしません。

ChatGPT Business

業務データは既定で学習に使われません。

ワークスペースの保持・削除条件を適用します。

SSOの設定範囲を調達要件にします。

管理画面の利用状況と、必要な会話・操作ログを区別して審査します。

ChatGPT Enterprise

業務データは既定で学習に使われません。

組織の保持要件に合わせた設定・契約条件で運用します。

SSO・SCIMを使ったID連携を設計します。

コンプライアンス機能やログ連携の対象範囲を定めます。

OpenAI API

APIデータは既定で学習に使われません。

エンドポイント、保存機能、監視用記録を分けて設計します。

業務アプリの利用者認証は自社側で実装します。

APIの記録に加え、利用者、検索文書、実行操作をアプリ側で記録します。

SSOは会社のIDによるログイン統合、SCIMはアカウントの登録・変更・停止を連携する仕組みです。SSOでログインできても、退職者の登録解除、既存セッションの失効、APIキーの停止が自動的に終わるとは限りません。ID連携の試験では、登録、異動、停止をそれぞれ再現します。

調達時の合否基準

機能名の有無ではなく、自社の事故調査と利用停止を実行できるかで導入範囲を決めます。

利用者と送信時刻を追跡でき、必要な保存期間を設定でき、退職時に会社側から停止できるなら、対象部署を限定した検証へ進みます。会話本文を取得できない契約なら、すべての本文監査を前提とした運用を組まず、入力制限、端末側検知、対象データの縮小で補います。これらを実施しても社内の調査要件を満たせない場合は、公開情報の用途に限定します。

調達要件

受け入れ試験

満たせない場合の扱い

退職時の停止

テストIDを停止し、再ログインと既存セッションを試します。

手動停止の担当・期限を設定し、機密用途の開始を保留します。

調査用ログ

利用者、時刻、対象機能、出力・操作の取得範囲を確かめます。

自社アプリ側の記録で補い、補えなければ用途を縮小します。

データ削除

履歴、添付、連携データの削除手順を試します。

削除期限が厳しい情報を投入対象から外します。

個人環境との分離

個人・法人ワークスペースの切り替えと送信先表示を試します。

管理ブラウザやアクセス制御で業務経路を限定します。

他社AIと既存SaaSの権限管理

Microsoft 365 Copilot、Azure OpenAI Service、Claudeを採用する場合も、元データの権限を先に整理します。

SharePoint、Teams、Google Drive、CRMに過剰な共有権限があれば、AIが本来見せたくない資料を検索・要約する原因になります。製品のブランドを変えても、データ所有者が不明な資料や、全社員に公開された人事フォルダは残ります。導入前に所有部署を定め、利用しなくなった共有リンクと連携アプリの権限を閉じます。モデル選択とデータのアクセス管理は、別の作業として担当を割り当てます。

ChatGPTの個人向けプランと法人向けプランにおけるデータ保護・管理機能の比較。

▲ ChatGPTの個人向けプランと法人向けプランにおけるデータ保護・管理機能の比較。

法規制・公的ガイドラインと企業の判断基準

生成AIの業務利用は、個人情報、営業秘密、契約上の秘密保持を既存の管理手順に接続して判断します。

法令と公的ガイドラインの役割

法令の義務と、ガイドラインを使った管理体制の整備は分けて進めます。

AI推進法による研究開発・活用の推進があっても、個人情報保護法、不正競争防止法、著作権法、業法、委託契約の制約は残ります。顧客から預かった資料をAIへ入力できるかは、自社の社内規程だけでなく、顧客との契約や委託範囲も含めて判断します。入力した情報が営業秘密なら、従来の秘密管理措置とAI利用ルールを一致させます。

経済産業省と総務省のAI事業者ガイドラインは、開発者、提供者、利用者の立場から安全性、プライバシー、セキュリティ、透明性などを扱っています。第1.2版を利用する際も、版番号だけを社内規程へ記載して終わらせず、各項目に担当者と記録を対応付けます。チェックリストやワークシートは、利用申請、リスク評価、事故時の連絡を部署間で分担するために使います。

行政向け文書と民間企業への適用範囲

行政向けの禁止・承認条件を、そのまま民間企業全体の法的義務として説明してはいけません。

デジタル庁等の関係省庁による「ChatGPT等の生成AIの業務利用に関する申合せ」(第2.1版、2025年3月25日 デジタル社会推進会議幹事会申合せ)は、対象となる行政機関での要機密情報の取り扱いと承認手続きを定めています。企業では、そのまま一律禁止へ転用するのではなく、自社の情報区分、契約、承認権限に置き換えます。

デジタル庁の「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」(DS-920)を参照する場合も、調達条件、リスク管理、運用責任のどこに適用するかを明記します。行政向け文書で要求される管理を参考に、保存場所、再委託先、事故通知、契約終了時の削除を自社の審査項目へ落とし込みます。

個人情報の入力と漏えい等報告の要件

個人データの漏えい等報告は、1,000人超の場合だけに限られません。

個人情報保護法第26条と同法施行規則第7条では、個人の権利利益を害するおそれが大きい一定の漏えい等について、個人情報保護委員会への報告と本人通知を定めています。以下の類型は原則としてそれぞれ独立した要件です。「不正アクセスがあり、かつ1,000人超の場合だけ」といった理解は誤りです。件数ではなく、個人データに係る本人の数で判断する類型もあります。

報告対象となる主な類型

生成AI事故で調べる事項

連携先

要配慮個人情報を含む個人データの漏えい等、またはそのおそれです。

病歴、健康診断結果などの有無と対象範囲です。

個人情報保護担当、法務、対象業務の責任者です。

不正利用により財産的被害が生じるおそれがある個人データの漏えい等です。

決済情報、認証情報などの内容と悪用可能性です。

法務、セキュリティ、決済・顧客対応部門です。

不正の目的をもって行われたおそれがある漏えい等です。

不正アクセス、マルウェア、内部不正などの経緯です。

CSIRT、法務、個人情報保護担当です。

本人の数が1,000人を超える個人データの漏えい等です。

重複を除いた対象者数と、追加対象の可能性です。

データ所有部署、個人情報保護担当です。

外部AIへ入力した事実だけで、報告対象かどうかは決まりません。送信先の契約上の立場、個人データ該当性、権限外のアクセスや取得の有無を確認します。ただし、漏えい等のおそれを含めて対象になるため、悪用の証拠がないことを理由に対応を保留しません。類型への該当が曖昧な場合は、個人情報保護委員会の「個人情報の保護に関する法律についてのガイドライン(通則編)」と漏えい等報告に関するQ&Aの最新版で要件を照合し、法務が報告・本人通知の要否を最終判断します。

速報・確報・本人通知の判断

報告対象の可能性を把握した時点で速報の準備を始め、全容解明を待たずに法務と個人情報保護担当を招集します。

速報は事態を知った後、速やかに行い、目安はおおむね3〜5日以内です。確報は原則として知った日から30日以内で、不正の目的をもって行われたおそれがある漏えい等では60日以内です。調査が完了しなくても、把握済みの事項と未判明の事項を整理して期限を管理します。委託関係にある場合は、委託先から委託元への通知など、適用される取り扱いも合わせて判断します。

本人通知は事態に応じて速やかに行います。通知が困難な場合には代替措置が認められる条件もありますが、公表だけで常に代替できるわけではありません。法務は報告・通知の要否と根拠を記録し、情シスは日時、対象情報、アクセス状況を提供します。担当を決めないまま「調査中」で日数を経過させない運用にします。

IPAの情報セキュリティ10大脅威2026と既存のセキュリティ管理を対応付け、AIだけを別枠にしない体制にします。各リスクに責任部署、承認者、証拠の保存先を割り当てます。

▶ 関連記事: AIガバナンスの実装手順|ISO42001対応とシャドーAI対策

個人情報保護法に基づく個人データ漏えい等報告・本人通知の要否を判定するフロー。

▲ 個人情報保護法に基づく個人データ漏えい等報告・本人通知の要否を判定するフロー。

生成AI導入でやってはいけない失敗パターンと緊急初動

生成AIの事故を防ぐには、禁止通達や履歴削除だけで対処せず、技術制御と証拠保全を伴う手順を用意します。

全面禁止と申請放置による未承認利用

利用を禁止する場合は、対象業務と代替手段を合わせて示します。

健康情報、顧客の高度機密、認証情報などを扱う業務では、特定のAI利用を禁止する判断もあります。しかし、一般的な翻訳や公開情報の要約まで禁止し、申請にも返答しなければ、現場は私用端末や個人アカウントへ移る可能性があります。規程の存在と実際の利用状況は分けて把握します。

申請窓口には受付担当、審査担当、返答期限を設定します。安全に利用できる代替環境があるなら移行手順を返し、ない場合は許可するデータ範囲を限定します。「審査中」のまま放置しないよう、案件ごとに次の判断日を台帳へ記載します。

ガイドライン配布だけによる統制不足

ガイドラインに書いた禁止事項は、実際の検知・遮断・事故報告と結び付けます。

「個人情報を入力しない」とだけ書いても、非表示シートやログ中の識別子までは防げません。利用者向けには、入力できる例と入力できない例、添付前の削除箇所、誤送信時の連絡先を示します。管理者向けには、ログを見る頻度、検知後に連絡する部署、停止判断者を定めます。

ルールは申請書、教育資料、検知ルールへ対応付けます。教育では実在顧客の情報を使わず、案件番号や日付の組み合わせで再識別できる例を作り、伏せ字だけでは不十分な場合を示します。

Post-filteringだけに依存したRAG検証

RAGの試験は、正しく回答できるかより先に、権限外の情報を返さないかを調べます。

管理者のアカウントだけで試験すると、一般社員には見せられない資料まで正解として評価してしまいます。一般社員、管理職、人事、役員、異動者、退職者のテストIDを用意し、回答、引用元、検索候補、生成ログ、キャッシュを調べます。公開範囲を変更した文書が、インデックスやキャッシュにも反映されるかを試します。

漏洩試験の入力例は、単に「役員報酬を教えて」だけにしません。資料の一部を要約させる質問、別の業務情報と組み合わせる質問、引用文だけを要求する質問も含めます。見せてはいけない断片が出たら本番投入を止め、ACLの反映と検索処理を修正してから同じ試験を再実行します。

誤送信直後の履歴削除と端末初期化

誤送信を発見しても、利用者の判断だけで履歴削除や端末初期化を進めてはいけません。

証拠を消すと、何をいつどこへ送ったか、どのアカウントを使ったかが分からなくなります。一方、攻撃が続いている場合は被害拡大の阻止を優先し、隔離・停止と並行して残せるログを確保します。保存する証拠自体にも個人情報が含まれるため、限定された調査用保管先に集約し、一般の問い合わせチケットへ添付しない運用にします。

削除依頼は証拠保全後にサービス提供者へ行い、履歴、添付、連携先、バックアップ等で扱いが違う点を記録します。利用者の画面から会話が消えたことだけで、サーバー側の削除や第三者の未取得を証明したとは扱いません。

誤送信・漏洩時の緊急初動チェックリスト

事故発覚後は、封じ込め、証拠保全、影響調査、法定対応を担当別に並行して進めます。

以下の時間区分は社内運用を組むための例で、法定期限を置き換えるものではありません。小規模な組織でも役割は分け、同じ担当者が兼務する場合は代理者を設定します。

時期

担当

実施内容

残す記録

発見直後

発見者・受付窓口です。

追加送信を止め、サービス名、送信時刻、アカウント、ファイル名を伝えます。

第一報と発見時刻です。

最初の1時間の目安

情シス・CSIRTです。

感染端末を隔離し、必要なアカウント・セッション・APIキーを停止します。

停止対象、実施時刻、判断者です。

封じ込めと並行

調査担当です。

プロンプト、添付、認証、アクセス、外部通信のログを保全します。

取得元、対象期間、取得者、保管先です。

当日中の目安

業務責任者・法務・個人情報保護担当です。

情報項目、対象者、契約関係、報告対象の可能性を整理します。

既知の事実、未判明事項、判断根拠です。

速報・通知の準備

個人情報保護担当・広報・顧客対応部門です。

報告期限、本人通知、委託元への連絡、窓口体制を決めます。

提出・通知計画と承認履歴です。

復旧前

システム責任者です。

原因を修正し、権限・送信制御・停止手順を再試験します。

試験結果と再開承認です。

  • 送信した内容と添付ファイルを、アクセス制限付きで保全します。

  • 個人・法人のどちらの環境だったか、外部連携があったかを特定します。

  • アカウント停止に加え、既存セッションと連携トークンも失効させます。

  • 秘密鍵やAPIキーを送った場合は、漏洩調査と並行して失効・再発行します。

  • 要配慮個人情報、不正アクセス、財産的被害、対象人数を法務へ共有します。

  • サービス提供者への削除・調査依頼の受付番号と回答を記録します。

  • 復旧後も同じ経路で送信できないか再現試験を行います。

事故事例を読むときは、事故名だけでなく、自社のどの制御で同種事故を止めるかまで対応付けます。原因を「担当者の不注意」だけに限定すると、送信先の選択ミスや権限の過剰付与が残ります。

▶ 関連記事: AI利用ガイドラインの作り方|社内規定に盛り込むべき10項目と雛形【2026】

誤送信発生時に現場と組織が連携して証拠保全と被害拡大防止を図る初動手順。

▲ 誤送信発生時に現場と組織が連携して証拠保全と被害拡大防止を図る初動手順。

情シスが講じる技術的・組織的対策

情シスは、全社共通の基本対策を先に整え、API・RAG・AIエージェントの利用範囲に応じて追加制御を実装します。

全社共通の承認環境とデータ分類

まず、利用環境、入力可能な情報、管理責任者、事故窓口を全社で統一します。

従業員数だけで対策を分けず、データの機密性、外部接続、操作権限、調査要件で判断します。少人数でも健康情報や決済情報を扱う企業は厳しい制御が必要です。一方、公開情報の文章校正だけなら、RAGや自動実行を前提とした複雑な基盤を先に作る必要はありません。

承認環境では多要素認証を有効にし、会社が利用者を停止できる状態にします。入力可能なデータを画面やマニュアルに示し、業務で個人環境へ切り替える必要が生じないようにします。必要な機能が法人環境にない場合は、無断利用を黙認せず、代替手順か利用範囲の変更を責任者が決めます。

契約・ルール・委託先審査の接続

契約審査では、秘密保持だけでなく、保存、再委託、事故通知、削除、調査協力を対象にします。

学習利用を禁止していても、サービスの運用や安全対策で保存・アクセスされる条件は残り得ます。入力・出力、添付ファイル、フィードバック送信、連携先ごとに扱いを整理します。顧客データを使う場合は、委託契約で許された目的と再委託の条件に照らし、業務担当と法務が判断します。

審査結果は申請ごとのメモで終わらせず、サービス台帳に反映します。契約更新、機能追加、接続先追加、保持方針変更を再審査の契機にします。担当者が異動しても判断根拠を追えるよう、承認日、対象用途、禁止データ、契約資料の保存先を残します。

RAGの検索権限と証跡管理

社内RAGへ取り込む文書は、利用者の権限を検索前に照合します。

検索前の権限制御をPre-filtering、検索後に結果を除外する方式をPost-filteringと呼びます。後者だけに依存すると、権限外の文書断片が生成用の入力、ログ、キャッシュに残る設計になり得ます。文書のアクセス制御リストであるACLを利用者IDと照合し、許可された文書だけを検索候補にします。元データの権限を引き継げない場合は、対象文書を限定するか取り込みを止めます。

プロンプト検査・AI Gateway・DSPMの活用

複数のAIやデータ基盤を使う場合は、通信の制御と元データの権限管理を分けて実装します。

CASBはクラウド利用の可視化やアクセス制御、DLPは機密データの検知・送信制御に使います。プロンプトを検査する製品・機能を導入する場合は、検知対象、対応する利用経路、遮断時の挙動を試験します。特定の製品名が付いていても、管理外端末や未対応アプリまで自動的に保護されるとは扱いません。

AI Gatewayは、複数モデルやAPIへの通信に認証、利用制限、記録、コンテンツ検査を適用する中継基盤です。DSPMは、機密データの所在、共有状態、アクセス権を把握する仕組みです。Gatewayで送信を管理しても、元のストレージに全社員公開の人事資料が残っていれば別の漏洩経路が残ります。保護する場所と管理する担当を対応付けます。

利用状況

追加する対策

導入後の試験

運用上の負担

法人AIの文章作成・要約が中心です。

ID管理、入力ルール、端末防御を整えます。

個人環境への誤送信と退職時停止を試します。

アカウント棚卸しと教育の更新が発生します。

複数のLLM APIを利用します。

AI Gatewayとキー管理を導入します。

認証を迂回する直接通信とキーの不正利用を試します。

連携アプリの変更対応とログ管理が発生します。

社内RAGを運用します。

文書ACL連携と検索前の権限制御を実装します。

異動・退職・共有解除後の検索を試します。

インデックス更新と権限同期の監視が発生します。

AIエージェントが操作します。

最小権限、送信先制限、人間の承認を実装します。

悪意ある文書からの外部送信や権限変更を試します。

承認待ち対応と停止・再実行の管理が発生します。

検知ルールと誤検知の管理

検知ルールは、直ちに遮断する条件と、担当者が調査する条件を分けます。

秘密鍵の形式に一致する送信や、禁止された健康情報ファイルの添付は遮断候補です。一方、大量の会話送信や通常と異なる地域のログインは、出張や正規の一括処理でも起こるため、関連ログと合わせて調べます。すべて同じ通知先へ送ると高リスクの警告が埋もれるため、データの種類と操作権限で優先度を付けます。

試験では、検知した件数だけでなく、遮断できなかった経路、誤って止めた正規業務、担当者の調査時間を記録します。例外を許可する場合は対象者、用途、期限を付け、恒久的な全許可にしません。ログそのものに機密情報が入る場合は、本文をマスキングする範囲と、事故調査のために限定保存する範囲を分けます。

導入後90日間の実行計画

導入後は、台帳、移行、検知試験、事故訓練の順に完了条件を置きます。

以下は実行計画の例です。既に重大な誤送信や感染の兆候がある場合は、計画日程より封じ込めを優先します。

期間

実施内容

完了条件

最初の30日

AI利用の棚卸し、情報分類、責任者と受付窓口の設定を行います。

各サービスに管理者、用途、情報区分、審査状態が付いています。

31〜60日

承認環境への移行、ID連携、端末・拡張機能管理、利用教育を行います。

業務利用者が承認環境へ移り、停止手順を試験済みです。

61〜90日

送信制御、ログ収集、RAG権限試験、事故対応訓練を行います。

高リスクのテスト送信を止め、第一報から法務連携まで再現できます。

継続運用

権限棚卸し、例外終了、契約・機能変更の再審査を行います。

担当、次回実施日、未解決事項を追跡できます。

事故訓練では「個人アカウントに健康情報を送った」「拡張機能から会話を盗まれた」「RAGが他部署の資料を引用した」を分けて実施します。同じ停止操作で解決できるとは限らないため、端末担当、ID担当、データ所有部署、法務の連絡を実際に試します。訓練で不足した権限や取得できなかったログは、次回までの改修項目として管理します。

SCS評価制度★3など外部の評価基準に対応する場合は、既存のID・端末・委託先管理の証跡とAI運用の証跡を対応付けます。AI用に同じ棚卸しを重複して作らず、元の台帳と承認記録を共通利用します。

よくある質問

ChatGPTの情報漏洩対策では、履歴、学習利用、外部送信、アカウント管理を区別して判断します。

Q:ChatGPTに氏名を入力しただけで、必ず情報漏洩になりますか?

A:必ず漏洩になるとは限りませんが、利用目的、契約、送信先、社内の許可範囲に反していれば問題になります。本人の氏名だけか、健康・評価・取引情報と結び付くかも含め、業務での入力可否を決めます。

Q:ChatGPTへ入力した内容は、他人への回答にそのまま表示されますか?

A:入力するたびに他人へ公開される仕組みではありません。企業では、学習利用の条件とは別に、履歴共有、アカウント侵害、サービス不具合、外部連携による露出を防ぎます。

Q:ChatGPT Plusなら会社の機密情報を扱えますか?

A:Plusへの課金だけでは会社としての利用許可は成立しません。管理者が停止・調査できる環境と情報区分別の承認が整わない場合は、公開情報の用途に限定します。

Q:誤送信したチャットを削除すれば事故対応は終わりますか?

A:終わりません。送信内容とログを保全したうえで、削除依頼、連携先への残存、認証情報の悪用、報告・通知の要否を担当部署が調べます。

Q:法人AIでもブラウザ拡張機能への対策は必要ですか?

A:必要です。法人契約の非学習方針では、利用端末上で画面を読み取る悪意ある拡張機能までは防げないため、導入制限、権限審査、端末監視を実施します。

Q:生成AIへ個人情報を送った場合、何人から報告義務がありますか?

A:人数だけでは決まりません。1,000人超の類型とは別に、要配慮個人情報、不正目的、財産的被害のおそれなどの類型があるため、少人数でも法務・個人情報保護担当へ直ちに連絡します。

まとめ

ChatGPT・生成AIの情報漏洩は、誤入力、サービス障害、認証情報窃取、権限不備で起こります。まず利用中のAIを一覧にし、管理者、用途、投入データ、外部連携を記録します。次に、個人アカウントへの業務情報送信を承認環境へ移し、停止・証拠保全・法務連携を試します。RAGやAIエージェントを使う企業は、検索前の権限照合と外部送信の承認を加え、実際に止められるかまで検証します。

📋 WHITE PAPER

シャドーAIガバナンスガイド

情報システム部門マネージャー・担当者のための対応の進め方

シャドーAIガバナンスガイド
─ この資料の内容
  • シャドーAIの定義から、情報漏洩やコンプライアンス違反など組織にもたらすリスク・経済的インパクトを解説
  • 「可視化・仕分け・継続判断」で対応する3ステップと、企業規模別の実践プランを網羅
  • シャドーAI管理ツールの選定基準と、マネーフォワード Adminaでできること
フォームを読み込んでいます...

本記事の内容に誤り等がございましたら、こちらからご連絡ください。

監修

Admina Team

情シス業務に関するお役立ち情報をマネーフォワード Adminaが提供します。

SaaS・アカウント・デバイスの管理を自動化し、IT資産の可視化とセキュリティ統制を実現。

従業員の入退社対応や棚卸し作業の工数を削減し、情報システム部門の運用負荷を大幅に軽減します。

中小企業から大企業まで、情シス・管理部門・経営層のすべてに頼れるIT管理プラットフォームです。