AIツールの情報漏洩リスクと対策|企業資産を守るためのセキュリティチェック

AIによって情報漏洩してしまい頭を抱えている女性

AIツールを業務に入れたいという相談が、コンテンツ部門や企画部門から情報システム部門に届く場面が増えています。一方で、入力したデータがどこに保存され、再学習に使われるのかを確かめる材料は、ベンダーの資料だけでは足りないことが多いのが実情です。

また、従業員の77%が企業データを生成AIツールに貼り付けており、貼り付けの82%は、会社が管理していない個人アカウントから行われていたという調査結果も出ています(出典: LayerX Security『Enterprise AI and SaaS Data Security Report 2025』)。情報システム部門が把握していない利用、いわゆるシャドーAIは、すでに社内で起きている前提で設計する必要があるでしょう。

本記事では、情報漏洩が起きる3つの原因、契約形態ごとの学習設定の違い、導入前に点検すべき5項目、現場を止めない承認体制の作り方、そして漏洩時の初動手順までを順に解説します。

はじめに

経営層の意識と、現場の統制には差があります。34か国・地域のIT・ビジネスリーダー2,300人以上を対象にした調査では、ほぼ全ての調査対象者が生成AIへの投資を実施している一方、89%が生成AI活用におけるセキュリティのリスクを懸念していると報告されています(出典: NTTデータグループ「Global GenAI Report」2024年12月公表)。つまり、使うかどうかより、どう統制して使うかが論点になっています。

89%生成AI活用のセキュリティリスクを懸念34か国・地域のIT・ビジネスリーダー2,300人超への調査(2024年9〜10月) (出典: NTTデータグループ「Global GenAI Report」2024年12月公表)
77%生成AIツールに企業データを貼り付けている従業員貼り付けの82%は管理外の個人アカウントから (出典: LayerX Security「Enterprise AI and SaaS Data Security Report 2025」)
97%AIアクセス制御が未整備だった被害組織AIモデル・アプリの侵害を報告した組織(全体の13%)のうち (出典: [IBM「Cost of a Data Breach Report 2025」、調査 Ponemon Institute])

AIモデルやアプリの侵害を報告した組織(全体の13%)のうち97%は、適切なAIアクセス制御を導入していませんでした(出典: IBM「Cost of a Data Breach Report 2025」)。被害の多くは、アクセス制御という大切な統制が欠けたところで起きています。まず全体像から整理します。

AIツールの情報漏洩における全体像と対策ロードマップ

AIツールの情報漏洩対策は、リスクがどの経路で生じるかを先に分け、その経路ごとに手順を当てていくと抜けが出にくくなります。この章では、企業でのAIツール利用に伴うリスクの全体像を整理したうえで、情報システム部門が進める対策を5つの段階に分けて示します。

企業でAIツールを利用する際に生じるリスクの全体像

企業でのAIツール利用に伴うリスクは、大きく3つの経路に分けられます。入力の経路(機密情報の誤入力と再学習への混入)、認証の経路(アカウント情報の窃取と不正アクセス)、出力の経路(事実誤認や権利侵害を含むコンテンツの誤公開)です。3つの経路ごとに対策の担当と手順を決めることが、全体設計の出発点になります。

統制の整備は遅れがちです。73%の組織がAIツールを導入している一方、リアルタイムでポリシーを執行する統制体制を整備しているのは7%にとどまります(出典: Cybersecurity Insiders『2026 AI Risk and Readiness Report』(Netskope 協賛、2026年3月))。

情報システム部門が進めるべきセキュリティ対策のステップ

対策は、次の5段階で進めると抜けが出にくくなります。

  1. 現状把握社内で使われているAIツールと入力データの棚卸し
  2. 契約・設定確認契約形態と学習設定、オプトアウトの確認
  3. 導入前点検暗号化・保存場所・アクセス制御・ログ・法令対応の点検
  4. ガイドライン策定利用範囲と承認フローの文書化
  5. 運用と初動準備履歴の記録と緊急時の停止手順の整備

次は、そもそも情報漏洩がどの仕組みで起きるのかを確かめます。

基礎編 AIツールの利用で情報漏洩が発生する主な原因とリスク

AIツール利用時の情報漏洩は、主に「誤入力」「再学習への混入」「認証情報の窃取」の3つで発生します。それぞれ仕組みが異なるため、対策も分けて考える必要があります。

機密情報や個人情報の誤入力による外部流出

最も頻度が高いのは、従業員がプロンプトに機密情報を貼り付けてしまうケースです。ChatGPT単体だけで、2025年に4億1,000万件以上のDLP(データ損失防止)ポリシー違反が記録されたという報告があります(出典: Zscaler ThreatLabz 2026 AIセキュリティレポート)。共有が試行されたデータには、ソースコードや医療記録が含まれていました。悪意のない日常業務の中で漏洩が起きる点が、この経路の特徴です。

入力データがAIモデルの再学習に使われる仕組み

一部のAIサービスでは、入力されたプロンプトや添付ファイルが、サービス改善やモデルの再学習に利用される設定になっている場合があります。再学習に取り込まれたデータは削除の依頼が難しく、他の利用者への出力に影響するおそれがあります。契約形態と設定によって扱いが変わるため、確認方法は次の実践編で詳しく扱います。

アカウント情報の漏洩や不正アクセスによる被害

認証情報そのものが狙われる経路もあります。2023年6月、セキュリティ企業の Group-IB は、情報窃取型マルウェア(インフォスティーラー)に感染した10万台超の端末に ChatGPT のログイン情報が保存されていたと発表しました。対象は2022年6月〜2023年5月のログで、こうしたログはダークウェブで売買されています(出典: Group-IB)。2023年3月には、オープンソースのライブラリのバグにより、3月20日の数時間の間に利用していた ChatGPT Plus 加入者の1.2%について、氏名や支払い情報の一部(カード番号は下4桁のみ)が他の利用者に見える状態になりました(出典: OpenAI発表)。

原因の整理ができたところで、次は再学習への混入を防ぐ具体的な設定確認に進みます。

実践編 入力データの再学習を防ぐ設定確認と運用対応

入力データの再学習を防ぐためには、まず契約形態ごとのデータの扱いの違いを把握し、学習利用のオプトアウト設定を確かめることが大切です。

無料版・法人版・API利用におけるデータ扱いの違い

観点無料版・個人向けプラン法人版・API利用
入力データの学習利用初期設定で学習に利用される場合がある契約上、学習に利用しないと明記される例が多い
設定の統制個人ごとの設定に依存し、組織で統制できない管理者が組織単位でポリシーを設定できる
監査ログ取得できないか、範囲が限定的利用履歴やログのエクスポートに対応する例が多い
契約・規約一般利用規約のみDPA(データ処理契約)やSLAを締結できる場合がある

個人向け無料版の業務利用を禁止し、法人契約に寄せることが、統制の前提になります。前述の通り、貼り付けの82%は、会社が管理していない個人アカウントから行われており、(出典: LayerX Security『Enterprise AI and SaaS Data Security Report 2025』)、個人アカウントの放置は統制の穴になります。

主要AIツールでオプトアウトや学習オフを設定する手順

ツールごとに画面は異なりますが、確認の手順は共通化できます。

  1. 規約とデータポリシーの確認

    入力データの学習利用の有無と、オプトアウトの可否を利用規約・プライバシーポリシーで確認する

  2. 組織設定で学習オフを適用

    管理者権限で、組織全体に学習利用オフのポリシーを適用する。個人任せにしない

  3. API経由のデータ扱いを確認

    API利用時のデータ保持期間と学習利用の有無を、開発者向け規約で確認する

  4. 定期的な再確認

    規約は改定されるため、四半期ごとなど周期を決めて設定と規約を見直す

業務別の匿名化方法と安全な言い換え

設定だけに頼らず、入力前のデータ加工も組み合わせます。顧客名は「A業界の取引先」、金額は「概算レンジ」、個人名はイニシャルやダミーIDに置き換えるなど、業務の意味を保ったまま特定性だけを落とす言い換えを部門別にテンプレート化しておくと、現場の判断も速くなるでしょう。

設定と入力の両面を押さえたら、次はツールそのものを導入前にどう点検するかです。

点検編 情報システム部門が導入前に確認すべきセキュリティチェックポイント

導入前の点検項目は、暗号化、データ保存場所、アクセス制御、監査ログ、法令対応の5つに集約できます。ベンダーへの質問票にこの5項目を落とし込むと、比較の軸がぶれません。

データの暗号化と保存場所に関する基準

まずは通信経路の暗号化(TLS)と保存時の暗号化の両方が実装されているかを確認してください。保存場所については、データが保管されるリージョン(国・地域)と、海外移転の有無を明示できるベンダーを選ぶのがおすすめです。保存期間と削除手続き、契約終了時のデータ返却・消去の条件も、契約書面で確かめましょう。

アクセス制御と監査ログの取得範囲

誰がどのデータにアクセスできるかの権限設計と、その操作がログに残るかを確認します。前述の通り、AIモデルやアプリの侵害を報告した組織(全体の13%)のうち97%はAIアクセス制御が未整備でした(出典:IBM「Cost of a Data Breach Report 2025」)。SSOと多要素認証への対応、ロール別の権限設定、ログのエクスポート可否が確認ポイントとなるでしょう。

個人情報保護法やGDPRなどの法令順守

個人情報を入力する可能性がある場合、個人情報保護法上の第三者提供や委託に該当しないかを法務部門と確認するのが先決です。EU圏の個人データを扱う場合はGDPRの域外移転規制も対象です。生成コンテンツ側では、著作権侵害の可能性がある出力への対処方針と、業界ガイドラインへの適合も点検項目に含めましょう。

ツールの点検が済んでも、運用の設計がなければ統制は機能しません。次は現場を止めない運用体制の作り方です。

運用編 現場の効率を損なわずに誤公開を防ぐガイドラインと承認体制の構築

現場の効率とセキュリティを両立できるようにするためには、「すべてを人が見る」のではなく、人が確かめる箇所を機械で絞り込み、承認・記録・停止を仕組みにすることが大切です。

利用範囲を定義する社内ガイドラインの作成手順

  1. 入力してよいデータの区分を定義

    公開情報・社外秘・個人情報の3区分で、AIに入力できる範囲を明文化する

  2. 利用を認めるツールと契約形態を指定

    法人契約済みのツールをリスト化し、個人アカウントの業務利用を禁止する

  3. 承認が必要な工程を特定

    外部に出る成果物(記事やコード)は、公開前に人の承認を必須とする

  4. 違反時・漏洩時の手順を記載

    報告先と初動手順をガイドライン本体に含め、別文書にしない

人の承認と操作履歴を組み合わせた運用フロー

外部に出る変更は人が承認してから反映する、誰がいつ何を承認したかを記録する、止めたいときは1か所で止められるようにする。この3点を運用フローに組み込むと、現場はAIで下書きを作成しつつ、誤公開は承認のタイミングで止められます。

私自身、2026年10月11日に自社サイトの最初の記事を自社製品で生成したとき、品質チェックは100点中65点で不合格でした。本文には私が経験していない体験談と根拠のない数字が入っており、確認者として読んだ私がそれを削り、出典を差し替えてから公開しました。機械による点検は人が見る箇所を絞るためのもので、公開の判断を代替しないという運用方針は、この経験から来ています。

万が一の漏洩に備えた緊急初動対応手順

初動手順は発生前に文書化し、標準化しておきます。

  1. 検知・報告発見者が情シスの窓口へ即時報告する
  2. 停止該当アカウントの停止とAPIキーの無効化を行う
  3. ログ確認操作履歴から入力されたデータと期間を特定する
  4. 影響範囲の特定漏洩した情報の種別と件数を整理する
  5. 報告・再発防止経営層・法務へ報告し、必要に応じ当局・本人へ通知する

最後に、この要件を記事制作の領域でどう実装しているか、私たちのサービスを一例として示します。

ツール編 LINKS AI Contentsが提供する漏洩対策とセキュリティ仕様

私たちが提供するLINKS AI Contentsは、AIによる記事生成と、公開前の点検・承認を1つの管理画面で行うサービスです。ここまで述べた各要件を、記事制作という領域でどう実装しているかを示します。

データの保存場所と暗号化・アクセス権限の管理仕様

データの保存場所、暗号化方式、アクセス権限の管理仕様は、導入検討時にセキュリティホワイトペーパーで開示しています。点検編で挙げた5項目の質問票に沿って回答できる形にしており、情報システム部門がベンダー比較に使える粒度で確認できます。

公開前の事前照合と品質検査による自動チェック

本文の前半にある数値の主張を Web 検索で照合し、食い違いや出典の無いものに警告を出します(警告が公開処理を止めわけではありません)。あわせて、AIらしい言い回しや出典のない数値など20観点の点検を自動でかけ、品質採点が基準を下回った記事は、自動公開の設定でも保留されます。点検はあくまで人が確かめる箇所を絞り込むために使用し、事実確認の代わりとはしない運用方針です。

人の承認フローと操作履歴の記録および一括停止機能

監修者はシステム内で本文の該当箇所にコメントを付けて差し戻すことができ、公開の判断は人が行う設定にして、承認してから公開する形も選べます。自動公開の設定でも、採点が基準に届かない記事は保留されます。品質採点による保留と書き直しの承認は、設定にかかわらず人が判断。私たちは自社サイトの記事も同じ体制で作っており、自社の運用で確かめてから提供しています。

AIツールの統制は、現場の利用を止めるためのものではありません。承認・記録・停止の仕組みが先にあれば、AIに任せる範囲を段階的に広げ、制作の量と公開の速度を増やせるでしょう。

導入前の点検項目を自社の質問票に落とし込みたい方へ、AIツール導入時セキュリティチェックリスト付きのセキュリティホワイトペーパーを用意しています。LINKS AI Contentsの保存場所・暗号化・アクセス管理・承認フローの仕様もあわせて確認できますので、ベンダー比較の材料としてご活用ください。まず点検の軸を固めることが、安全にAIの成果を増やす近道です。

よくある質問

AIは情報漏洩する可能性がありますか?
AIツールの利用においては情報漏洩のリスクが存在します。実際に2025年には、ChatGPTに関連するデータ損失防止(DLP)違反件数が4億1,000万件以上記録されたという報告もあります。(出典: Zscaler ThreatLabz 2026 AIセキュリティレポート)
ChatGPTの情報漏洩は発生しますか?
実際に過去のシステム不具合による漏洩事例が存在します。2023年3月には、オープンソースのライブラリのバグにより、3月20日の9時間に利用していた ChatGPT Plus 加入者の1.2%について、氏名や支払い情報の一部(カード番号は下4桁のみ)が他の利用者に見える状態になりました。(出典: OpenAI発表)
AIが情報漏洩を起こす理由は何ですか?
従業員による管理外アカウントでの利用や適切なアクセス制御の不足が主な原因です。調査では従業員の77%が企業データを生成AIツールに貼り付けており、そのうち82%は、会社が管理していない個人アカウントから行われていたことが判明しています。(出典: LayerX Security『Enterprise AI and SaaS Data Security Report 2025』)

この記事の確認者

谷本和隆の肖像

谷本和隆

本人の写真をもとにAIで生成した肖像です

LINKS PACIFIC GROUP株式会社 代表取締役

コンテンツマーケティングの会社を10年以上経営し、大手から中小企業まで延べ200社以上の記事コンテンツ、取材記事、プレスリリース、PRコンテンツの制作を手がけてきました。SEOとシステム開発も手がけ、AI記事生成サービス「LINKS AI Contents」では開発責任者として、20観点の品質チェックと記事を配信する仕組みを設計・実装しています。このマガジンでは、AIの下書きに自社で確かめた事実を書き足し、出典と製品の仕様を照らし合わせてから公開しています。

関連するページ

LINKS AI Contents の品質チェック(観点の一覧)