生成AIのセキュリティリスクとは？情報漏洩を防ぐ対策と社内ルールの作り方

執筆：浅香 祐輔（Never Red株式会社）公開日：2026年7月13日　｜　最終更新日：2026年10月2日

社員が生成AIを使い始めているのに、会社として「どこまで入れてよいか」を決めきれていない。そうした状態にある情シス・管理部門・経営者の方に向けて、生成AIのセキュリティのリスクと対策、社内ルールと研修への落とし込み方を整理します。

決めることは4つです。何を入力するか、どのサービスをどの契約で使うか、出力を誰が確かめるか、アカウントを誰が管理するか。規程の条文、著作権、アカウント管理などの個別のテーマは、それぞれの記事で詳しく扱っています。本文の該当箇所から案内します。

生成AIのリスクは3種類ある

生成AIを業務で使う側のリスクは、どこで起きるかで3種類に分けられます。入力するとき、出力を使うとき、日々の運用のなかです。

この分け方は、利用する会社の側から見た当社の整理です。公的な分類ではありません。生成AIのサービスを開発・提供する側のリスクは、この記事では扱いません。行政機関での利用を想定した整理には、デジタル庁の「テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版）」があります。著作権の論点は生成AIと著作権で別に扱っています。

生成AIのセキュリティリスクは4つに分けて考える

「生成AIは危ない」とひとまとめにすると、対策が決まりません。起きることが違えば、打ち手も変わります。

表1　セキュリティの4つのリスクと打ち手

情報漏洩だけでなく、出力の誤りとアカウントの放置も、同じ表に並べて対策を決めます。順に説明します。

入力情報の漏洩：何を入力するかの線引きで大きく変わる

最初に決めるのは、入力してはいけない情報の線です。顧客の個人情報、取引先との契約内容、未公開の数字。これらを外部のサービスに入力すれば、情報が自社の管理の外に出る可能性があります。ここは技術の問題というより、何を入力して、何を入力しないかの線引きで大きく変わる部分です。

個人情報については、個人情報保護委員会が2023年6月に注意喚起を出しています。個人データを含むプロンプトを本人の同意なく入力し、その個人データが応答の出力以外の目的で取り扱われる場合は法令違反となる可能性があるため、提供事業者が機械学習に利用しないこと等を十分に確認するよう求める内容です。研修の演習で自社の実データを使う場面の判断は、演習で自社の実データを使わせてよいかで個別に整理しています。

入力の学習利用：契約形態と設定で扱いが変わる

入力した内容がAIの学習に使われるかどうかは、サービス・プラン・設定によって異なります。法人向けのプランでは、入力と出力を学習に使わないことを既定としているサービスがあります。たとえばOpenAIは、ChatGPT BusinessやChatGPT Enterpriseなどについて、既定ではビジネスデータをモデルの学習に使わないと説明しています（2026年10月2日に確認）。個人向けのプランは、扱いが法人向けと違う場合があります。社員が個人の無料版を各自で使っている状態では、この設定を会社が確認できません。研修を始める前にどの名義・どの契約で使うかを決める手順は、ChatGPT研修の前に決めるアカウントと契約にまとめています。

ただし、学習に使われない契約であっても、入力した情報が外部のサーバーに送られることに変わりはありません。学習の有無と、入力してよい情報のルールは別の話として扱ってください。

出力の誤り：設定では防げない

生成AIは、事実と異なる内容をもっともらしい文章で返すことがあります（いわゆるハルシネーション）。これは設定では防げません。出てきた答えは下書きとして扱い、人が確認することが対策になります。数字、固有名詞、根拠が要る内容ほど、確認を省かないことが大切です。出力が既存の作品に似てしまう著作権上の論点は、生成AIと著作権で入力側・出力側に分けて整理しています。

アカウント管理：退職と異動で穴が空く

社員が思い思いに個人アカウントで使い始めると、誰がどのサービスを使っているかを会社が把握できない状態になります。退職した人のアカウントが残る、業務情報が個人の会話履歴にたまる。こうした管理の穴もセキュリティリスクです。停止の担当と棚卸しの頻度の決め方は、研修が終わったあと、アカウントは誰が止めるかで扱っています。

情報漏洩を防ぐ4つの対策

禁止ではなく、安全に使える形にすることを軸に、打ち手を4つ挙げます。

1. 入力してよい情報の線を、例つきで引く

最初に決めるのは入力の可否の基準です。「個人情報・未公開の数字・契約内容は入力しない」「入力する場合は、固有名詞や金額を伏せて特定できない形にする」といった線を、具体例つきで示します。伏せた形にしても、内容から相手が分かる場合があります。迷ったら入力せず、窓口に相談する決まりにします。「これは入力してよい／これはだめ」という例があると、現場は自分で判断できます。

2. 使うサービスと契約形態を会社が決める

個人が無料版をばらばらに使う状態から、会社が選んだサービスを、管理できる契約で使う状態へ移します。学習利用の設定、利用者の追加と停止、利用状況の確認が、会社側でできるプランを選びます。できる範囲はサービスとプランで違うため、契約の前に公式の説明で確かめます。

3. 出力は確認してから使う工程にする

誰がどの段階で確認するかを業務の手順に組み込みます。社外に出す文章、数字を含む資料、判断の根拠になる内容ほど、人の確認を通します。「出力をそのまま使わない」という注意だけでなく、「社外文書は送信前に担当者以外が1回読む」のように、手順の形で決めます。

4. ルールは「規程」と「ガイドライン」の2層で配る

ルールは、会社の規則として定めるAI利用規程と、現場が迷ったときに開く運用の手引きであるガイドラインに分けます。規程には適用範囲・禁止事項・違反時の扱いなどを条文で書き、ガイドラインには「この業務ではこう使う」「この情報はこう伏せる」といった具体例を載せます。条文の組み立てはAI利用規程の作り方、手引きに入れる項目は生成AIガイドラインの作り方をご覧ください。

ルールだけでは守られない理由と、研修との組み合わせ

禁止事項を並べた文書だけでは、現場は「何なら入力してよいのか」を判断できません。判断できないと、会社に見えない形で使うか、まったく使わないかのどちらかになります。

当社が研修で重視しているのは、安全な使い方を、手を動かして確かめてもらうことです。自社の業務で「ここまでは入力してよい」を具体的に確かめます。ルールを禁止の紙ではなく判断の基準として使えるようにするためです。全社員に共通の土台をそろえる研修はAIリテラシー研修で扱っています。判断に迷う事例を研修で扱う方法は、コンプライアンス研修と生成AIにまとめました。社員が実際に社外秘を入力してしまったあとの研修の見直し方は、社外秘を生成AIに入力された後の研修で扱っています。

ノセカエの研修で扱うこと

ノセカエは、座学3割・実習7割で、貴社の実際の業務を題材にAIの使い方を身につけていただく法人研修です。何を入力してはいけないかを扱うセキュリティの講義を行い、AI利用規程のひな形をお渡しします。料金と内容はノセカエのトップページでご確認ください。

この記事を書いた人

浅香 祐輔（Never Red株式会社 代表取締役）

大手コンサルティングファーム（アクセンチュア／アビーム）出身。DX・業務改革・SAP導入が専門で、50名超のチームでPMを担当。法人向け生成AI研修「ノセカエ」の講師を務める。

講師プロフィール　・　運営会社の情報