企業向け生成AI利用ルールの作り方｜情報漏えい・誤回答を防ぐセキュリティ対策

会社が承認していない生成AIを業務で利用する「シャドーAI」は、情報漏えいとガバナンス不全の両面で企業課題です。従業員が顧客情報や社内資料を、管理されていない外部AIサービスに入力すれば、企業が把握できない場所に重要情報が渡るおそれがあります。一方、生成AIの利用を一律に禁止するだけでは、現場の業務効率化ニーズを満たせず、かえって無許可利用を招きかねません。本記事では、企業が生成AI利用ルールを作る際に押さえるべき5項目と、情報漏えい・誤回答を防ぐセキュリティ対策を解説します。

シャドーAIが示す利用ルールの不在

シャドーAIが生まれる理由

シャドーAIが発生する背景には、「誰に申請すればよいか」「誰が判断するのか」が不明確であることが考えられます。セキュリティ担当者はリスクを指摘し、IT部門はインフラ整備を担当し、現場は独自に動きます。

GMOグループは、AI活用を統括する最高責任者を設置しました。企業規模や利用範囲に応じて、AI活用の意思決定者と運用責任者を定めることが重要です。

技術的リスクと社会的リスク

総務省・経済産業省のAI事業者ガイドラインでは、AIに関するリスクを技術面と社会面の両面から捉えています。

企業では、情報漏えい、学習データの改ざん、プロンプトインジェクションなどの技術的リスクに加え、誤情報、差別的な出力、著作権・個人情報保護といった社会的・法的リスクも想定して利用ルールを設計する必要があります。セキュリティ担当者が技術的セキュリティを、データ管理責任者がデータ品質と倫理性を、IT部門が全体のインフラとガバナンスを担うという明確な線引きが必要です。

企業が定めるべき生成AI利用ルールの5項目

1. 入力してよい情報・避けるべき情報の分類

生成AI利用ルールの第一歩は、「何を入力してよいか」を明確にすることです。以下の基準は、会社が承認した生成AIサービスを利用することを前提とします。

原則として入力を認めやすい情報：自社が公開済みの情報、一般的な業務知識、再識別のおそれがないよう加工された統計データ

入力前に確認が必要な情報：第三者から受領した資料、著作権・契約上の制約がある情報

原則として入力を禁止する情報：個人情報、要配慮個人情報、未公表の経営・財務情報、顧客情報、営業秘密、認証情報（ID・パスワード・APIキーなど）、未公開のソースコード、設計図、脆弱性情報などの機密性が高い技術情報

この分類を社内ガイドラインとして明文化し、全従業員に周知することが重要です。「機密情報を入力しない」と禁止するだけでは、現場は判断に迷います。具体例を示し、判断基準を明確にすることが定着の鍵です。

2. 回答の確認・承認プロセス

IPA「情報セキュリティ10大脅威 2026」では、「AIの利用をめぐるサイバーリスク」が第3位に挙げられています。

一方、生成AIの利用では、サイバー攻撃だけでなく、もっともらしい誤回答や根拠不明の出力も実務上のリスクです。社外発信、契約・法務、顧客対応など、誤りが重大な影響につながる業務では、人による確認・承認を必須にすべきです。

社外公開コンテンツについてはAI利用の表示要否をあらかじめ定め、顧客への回答は上長または専門家が確認してから送信し、契約書・法的文書は法務担当者が、技術仕様書は技術リーダーが確認します。このプロセスを利用ルールに明記し、AI生成文章をそのまま使うことのリスクを全社で共有します。

3. 利用範囲の制限

すべての業務にAIを使うのではなく、利用範囲を制限することも重要です。採用・人事評価、医療・法務・税務、与信・契約承認、個人情報や機微情報を扱う業務では、AI単独で最終判断してはなりません。これらの業務では、AIは情報整理や下書き作成を補助する役割にとどめ、最終判断は責任者または専門家が行うルールにします。

4. ログ管理・監査

生成AI利用の透明性を確保するため、ログ管理・監査の仕組みが必要です。監査ログとしては、利用者、利用日時、利用したAIサービス・モデル、参照した社内データ、実行した操作などを、利用目的とリスクに応じて記録対象にします。入力内容や生成結果を記録する場合は、個人情報・営業秘密の取り扱いに配慮し、必要性、閲覧権限、保存期間、マスキング、削除手順を定めることが重要です。別途、生成結果を社外送信したか、資料へ反映したか、誰が承認したかを業務プロセスで管理します。

ログ管理により、不適切な利用を早期に検知できます。ただし、プロンプトや生成結果には個人情報・営業秘密が含まれる可能性があります。ログは必要最小限の範囲で取得し、閲覧権限、保存期間、マスキング、削除手順をあわせて定めることが重要です。

5. 権限管理・アクセス制御

部署・役職ごとに利用できるAIサービスやデータを制限することで、情報漏えいリスクの低減につながります。営業資料は営業担当者、人事評価資料は人事担当者、経理資料は経理担当者に限定し、案件資料や顧客情報は当該案件の関係者に限定します。権限は役職だけで一律に決めるのではなく、「業務上必要な人に、必要な期間だけ付与する」という最小権限の考え方で設計します。

利用ルールを実効性のあるものにするには、周知や研修だけでなく、権限管理、利用ログ、入力データの扱いを技術的に統制できる環境が必要です。企業向けの社内AI基盤を活用すれば、利用者・部署ごとのアクセス制御や監査証跡を設けながら、従業員が承認済みのAI環境を利用できる状態を整えやすくなります。

技術的な対策で補完するセキュリティ

入力データの学習利用・保持条件の確認

Azure OpenAI Service、Amazon Bedrock、Google Cloud Vertex AIなどの企業向けサービスでは、顧客データを基盤モデルの学習に利用しない方針を示しているものがあります。ただし、保存期間、ログの保管場所、利用リージョン、個別契約の条件はサービスごとに異なります。導入前には公式仕様書と契約条件を確認し、自社の情報区分に合った環境を設計することが重要です。

専用環境・クローズド環境

企業向けAIサービスでは、テナント分離、アクセス制御、閉域接続などを組み合わせ、自社のセキュリティ要件に応じた利用環境を設計できます。データ分離の方式やネットワーク構成はサービス・契約・設定によって異なるため、導入前に公式仕様書と契約条件を確認する必要があります。高セキュリティ要件の業界では、ネットワーク構成を慎重に設計することで、情報漏えいリスクの低減につながります。

プロンプトインジェクション対策

プロンプトインジェクションとは、AIに本来のルールや制約を無視させるため、悪意ある指示を入力・混入させる攻撃です。利用者が直接入力するケースだけでなく、メール、Webページ、添付ファイルなどに埋め込まれた指示をAIが読み込む「間接型」のケースもあります。

対策では、外部文書の内容を「AIへの命令」ではなく「参照データ」として扱う設計が重要です。AIが参照できるデータと実行できる操作を必要最小限に制限し、外部の参照先を許可リストで制御し、メール送信やデータ更新などの重要操作は人間の承認を必須にし、AIの出力をそのまま実行せず内容を検証します。「AIに与える権限を絞る」「重要操作を自動実行させない」という設計が重要です。

利用ルールの定着に必要な3つのステップ

ステップ1：ガイドラインの作成と周知

利用ルールを明文化し、全従業員に周知します。ガイドラインには、入力可否の基準、回答の確認プロセス、利用範囲、ログ管理、権限管理を含めます。社内ポータルに掲載し、定期的に研修を実施して浸透させます。

また、未承認のAIサービスを業務で利用したい場合の申請窓口と審査手順を定めます。申請時には、利用目的、入力する情報の種類、利用者、外部連携の有無、想定されるリスクを確認し、IT・セキュリティ・法務などの関係部門が判断できる仕組みにします。

ステップ2：利用者教育と研修

利用ルールを定めても、現場が理解していなければ定着しません。新入社員研修、部門別研修、管理職向けの監査・承認プロセス研修、定期的な事例共有を実施します。管理職が率先して利用ルールを守る姿勢を見せることが、現場の定着につながります。

ステップ3：継続的な見直しと改善

生成AIの技術は急速に進化しており、利用ルールも定期的に見直す必要があります。四半期ごとの利用状況レビュー、インシデント発生時の原因分析、新しいAIサービス追加時のリスク評価、法改正への対応といった改善サイクルを構築します。EU AI法は2024年8月1日に発効しており、2026年8月2日には透明性関連ルールなど多くの規定が適用・執行開始となります。法改正の動向を注視し、利用ルールを適時更新することが重要です。

さいごに

企業向け生成AI利用ルールの作成は、「入力情報の分類」「回答の確認プロセス」「利用範囲の制限」「ログ管理」「権限管理」の5項目を押さえることが重要です。さらに、入力データの学習利用・保持条件の確認、専用環境の設計、プロンプトインジェクション対策といった技術的な対策で補完することで、情報漏えい・誤回答を防ぐセキュリティ対策が実現します。

シャドーAIの発生は、利用ルールの不在を示しています。禁止するだけでは現場の生産性向上ニーズは止められません。企業は、現場が安心して使える環境を整え、ガイドライン作成・利用者教育・継続的な見直しの3ステップで利用ルールを定着させることが、生成AI時代のセキュリティガバナンスの前提条件となります。