はじめに
生成AIの導入が進むほど、重要になるのが「何を入力してよいか」「何を入力してはいけないか」という情報管理のルールです。
生成AIは、職員や社員が入力した文章、資料、データをもとに回答を作ります。つまり、便利な道具である一方で、入力内容によっては個人情報、営業秘密、契約情報、認証情報などが外部サービスへ送信されるリスクがあります。
政府向けの生成AI調達・利活用ガイドラインでも、生成AIの利活用促進とリスク管理を一体で進める考え方が示されています。特に、AIガバナンス、リスク対応、調達・利活用時の留意点を整理することが重要とされています。
本記事では、生成AI導入時に必要な情報ガバナンス、入力禁止情報、情報分類、実務ルールの作り方を整理します。
生成AI導入で情報ガバナンスが重要になる理由
生成AIのリスクは、ツールそのものだけでなく、使い方によって大きく変わります。
たとえば、公開済みの会社案内をもとに文章を整える使い方と、未公開の人事情報や顧客データを入力して分析させる使い方では、リスクの大きさがまったく違います。
この違いを現場任せにすると、「便利そうだから入力した」「個人名を少し消したから大丈夫だと思った」「無料版と法人版の違いを知らなかった」という判断ミスが起こります。
生成AIの情報ガバナンスとは、AIを禁止するための仕組みではありません。安全に使うために、情報の種類、利用目的、利用できるAI環境、確認責任を整理する仕組みです。
公的指針から見る生成AI利用ルールの基本
総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」では、AIのリスクを正しく認識し、必要な対策をAIのライフサイクル全体で実行する考え方が示されています。イノベーションの促進とリスク緩和を両立する枠組みが重視されています。
また、デジタル庁の政府向けガイドラインでは、各府省庁にAI統括責任者、いわゆるCAIOを設置し、生成AIシステムの企画、行政データの取扱い、調達、利活用、運用、リスクケースを一元的に把握することが示されています。
民間企業や自治体でも、この考え方は応用できます。つまり、生成AIの導入は情報システム部門だけ、または現場担当者だけで進めるものではありません。経営層、情報管理部門、法務、現場部門が連携し、誰が判断し、誰が責任を持つのかを決める必要があります。
生成AIに入力してはいけない情報
生成AIの入力ルールを作るときは、まず「入力禁止情報」を明確にすることが重要です。
個人情報・要配慮個人情報
氏名、住所、電話番号、メールアドレス、顧客番号、顔写真、健康情報、家族構成、相談内容などは慎重に扱う必要があります。
個人情報保護委員会は、生成AIサービスに個人情報を含むプロンプトを入力する場合、利用目的の範囲内であるかを確認すること、また個人データが応答結果の出力以外の目的で取り扱われる場合には、機械学習に利用されないことなどを十分に確認することを求めています。
特に、医療、福祉、教育、採用、人事評価、住民相談などの情報は、個人の権利利益に影響する可能性があります。原則として、本人を特定できる形で生成AIに入力しない運用が必要です。
営業秘密・未公開情報
営業戦略、価格交渉、取引先との契約条件、未発表の商品情報、社内の経営資料、技術資料、ソースコードなども入力禁止または厳格管理の対象です。
これらは、外部に漏れると競争力を損なう可能性があります。生成AIに入力する場合は、法人向け環境であること、入力データが学習に使われないこと、契約上の保護があることを確認しなければなりません。
認証情報・セキュリティ情報
パスワード、APIキー、アクセスキー、秘密鍵、サーバー設定、ネットワーク構成、脆弱性情報などは、原則として生成AIに入力してはいけません。
一度入力された情報がログに残ると、後から完全に回収することは難しくなります。技術部門ほど、エラー解決やコード修正のために詳細情報を入力しがちですが、認証情報やシステム構成情報は特に注意が必要です。
第三者の著作物
有料記事、書籍、社外資料、他社のマニュアル、画像、動画、研修資料などを大量に入力し、要約や再利用を行う場合も注意が必要です。
生成AIの利用では、入力だけでなく出力物にも著作権上の論点が生じます。AIが作成した文章や画像をそのまま公開するのではなく、出典、類似性、利用目的を確認する体制が必要です。
情報分類は「入力可否」とセットで設計する
情報分類は、単に「重要」「普通」と分けるだけでは不十分です。生成AI導入時には、それぞれの分類ごとに「どのAI環境なら使えるか」「匿名化すれば使えるか」「承認が必要か」まで決めておく必要があります。
実務では、次のような4段階で整理するとわかりやすくなります。
| レベル | 区分 | 情報の例 | 生成AI入力ルール |
|---|---|---|---|
| レベル4 | 極秘 | M&A情報、未公表決算、重要な技術情報、認証情報 | 原則入力禁止 |
| レベル3 | 社外秘 | 顧客リスト、契約条件、個人情報、社内戦略 | 原則禁止。法人環境・匿名化・承認がある場合のみ検討 |
| レベル2 | 関係者限定 | 社内マニュアル、会議メモ、研修資料 | 条件付きで利用可。個人名や機密部分は削除 |
| レベル1 | 公開情報 | Webサイト、プレスリリース、公開資料 | 利用可。ただし出力確認は必要 |
この分類の目的は、現場の判断を楽にすることです。
「これは社外秘だからダメ」だけではなく、「社外秘でも、個人名を削除し、法人版AIで、業務目的が明確なら利用できる場合がある」というように、現実的な運用に落とし込む必要があります。
自治体・公的機関では住民情報の扱いに注意が必要
自治体や公的機関では、住民情報、相談記録、福祉情報、税情報、防災情報など、慎重に扱うべき情報が多くあります。
総務省の「自治体におけるAI活用・導入ガイドブック」は、AI導入の進め方や留意点を具体的な手順に沿って紹介しており、生成AIの利用方法、利活用事例、利用時の留意事項、生成AIシステム利用ガイドラインのひな形も追加されています。
自治体で生成AIを使う場合は、住民情報を直接入力しないことを基本にしつつ、庁内FAQ、文書要約、議事録作成、広報文のたたき台作成など、低リスクな業務から始めるのが現実的です。
一方で、相談対応や申請審査のように住民の権利に関わる業務では、AIの出力をそのまま判断に使うのではなく、必ず職員が確認する仕組みが必要です。
実務で使える入力ルールの作り方
生成AIの入力ルールは、長すぎると現場に読まれません。最初は、次の3分類で整理すると運用しやすくなります。
1. 入力してよい情報
公開済みの情報、一般的な業務知識、個人や取引先を特定できない文章、公開前提の広報文案などです。
ただし、公開情報であっても、AIの出力が正しいとは限りません。数値、制度名、固有名詞、法令、補助金、医療・法律・金融に関する内容は、人による確認が必要です。
2. 条件付きで入力できる情報
社内資料、会議メモ、業務マニュアル、研修資料などです。
この場合は、個人名、会社名、金額、契約条件、未公開情報を削除する。法人向けAI環境を使う。業務目的を明確にする。必要に応じて上長や管理部門の承認を得る。こうした条件を付ける必要があります。
3. 入力してはいけない情報
個人情報、要配慮個人情報、営業秘密、認証情報、未公開の経営情報、契約上秘密保持義務のある情報、第三者著作物の大量入力などです。
ここは曖昧にしてはいけません。現場が迷う情報ほど、具体例を入れて示すことが大切です。
技術的な防御策も合わせて整える
ルールを作るだけでは、入力ミスや判断ミスを完全には防げません。そこで、技術的な防御策も組み合わせます。
たとえば、法人向けAIサービスを利用し、入力データが学習に使われない設定を確認する。個人情報や機密語句を検知するDLPを導入する。氏名や住所を自動でマスキングする。ログを取得して不適切な利用がないか確認する。こうした仕組みが有効です。
デジタル庁のガイドラインでも、生成AIシステムの利活用ルールには、利用前に理解しておくべき知識、要機密情報の取扱い、説明責任、AI生成物の取扱い、知的財産権への対策、リスク発生時の報告などを含める考え方が示されています。
生成物の利用にもルールが必要
生成AIのリスクは、入力時だけではありません。出力された文章や画像をどう使うかも重要です。
AIの回答には、事実誤認、古い情報、偏った表現、著作物との類似、説明不足が含まれる可能性があります。特に、対外的な文書、住民向け案内、契約文書、採用・人事に関する文章では、AIの出力をそのまま使わないことが基本です。
確認すべきポイントは、正確性、妥当性、公平性、説明可能性、権利侵害の有無です。
生成AIは、文章のたたき台作成や整理には役立ちます。しかし、最終的な判断と責任は人間が持つ必要があります。
インシデント対応を事前に決めておく
万が一、入力禁止情報を生成AIに入力してしまった場合に備えて、対応手順を決めておくことも重要です。
まず、本人が速やかに報告できる仕組みを作ります。ミスを隠させないために、報告者を責めるのではなく、被害拡大を防ぐ文化が必要です。
次に、どのサービスに、いつ、どのような情報を入力したのかを記録します。必要に応じて、AIサービス提供者への削除依頼、関係部署への報告、本人通知、再発防止策の策定を行います。
そして、同じミスが起きないよう、ルール、研修、システム設定を見直します。
生成AIのガバナンスは、一度作って終わりではありません。新しいAIツール、AIエージェント、RAG、社内データ連携などが進むほど、入力管理の重要性は高まります。
まとめ
生成AI導入で最初に整えるべきなのは、便利な使い方だけではありません。
個人情報、営業秘密、認証情報、著作物、未公開情報をどう扱うか。どの情報なら入力できるのか。どの情報は匿名化が必要なのか。どのAI環境なら利用できるのか。誰が承認し、誰が責任を持つのか。
この設計がないまま生成AIを広げると、現場は使うことを恐れるか、逆に危険な使い方をしてしまう可能性があります。
重要なのは、「禁止」ではなく「安全に使える道筋」を作ることです。
生成AIは、正しく管理すれば、文書作成、情報整理、問い合わせ対応、研修、業務改善に大きく役立ちます。だからこそ、導入初期の段階で、情報分類と入力ルールを整えることが、組織のAI活用を前に進める土台になります。
コメント