「実証実験では正確に回答できた」「担当者の作業時間が短くなった」。こうした成果が出ると、AIを早く現場へ展開したくなります。
しかし、限られた資料と利用者で確認した結果だけでは、本番運用への準備が整ったとは判断できません。実際の業務では、古い資料、想定外の質問、アクセス権限の違い、外部サービスの停止などが重なります。
本番移行の審査では、AIの回答品質に加えて、誤りが起きたときの影響、止める方法、対応する人まで確認します。本記事では、添付資料を基に、組織が使える段階的な審査フローへ整理します。
本番移行で承認する対象を明確にする
AI成果物という言葉には、生成した文書、業務用のプロンプト、社内検索システム、外部サービスを操作するAIなどが含まれます。それぞれで確認すべきリスクは異なります。
例えば、社内文書の下書きを作るAIと、顧客へ回答を自動送信するAIでは、誤回答の影響が違います。下書き作成だけを試した結果を根拠に、自動送信まで承認することはできません。
審査の入り口では、対象業務、利用者、扱う情報、AIが実行できる操作、利用しない場面を決めます。「問い合わせ対応に使う」という説明を、「社内担当者向けに回答案を作成し、送信前に担当者が確認する」と具体化すると、審査の範囲が定まります。
国内の公式資料では、2026年10月8日時点で経済産業省がAI事業者ガイドライン第1.2版を最新版として掲載しています。審査項目を作る際は、古い版の記載だけを参照せず、現行資料と照合します。meti.go.jp
以下の審査フローは、組織内で運用するための実務案です。すべてのAIに一律の法定手続きとして適用されるものではありません。
モデル単体と業務システム全体を分けて評価する
AIモデルの性能が高くても、業務システムとして適切に動くとは限りません。
社内検索AIなら、回答を生成するモデルに加えて、検索対象の資料、文書を取り出す仕組み、アクセス権限、画面の表示方法が結果を左右します。正しい文章でも、閲覧権限のない資料から生成されていれば、業務上の問題が生じます。
評価は二段階で進めます。
最初に、用意した評価用データを使い、回答の正確さ、根拠との一致、回答できない場合の対応を確認します。次に、本番に近い構成で、資料の検索から画面表示、人による確認、外部システムへの反映までを通して試します。
後者では、通常の成功例だけでなく、資料が見つからない、情報が矛盾する、サービスが応答しないといった場面も対象にします。
また、同じ質問に異なる回答が出る可能性を考慮し、重大な業務では一度の成功だけで合格としません。複数回の実行結果と、表現が変わっても守られるべき条件を確認します。
四つの関門で実証実験から本番へ進める
開発を段階に区切り、次へ進む前に証拠を確認する方法を「ステージゲート」と呼びます。中小企業では、まず次の四つの関門に整理すると運用しやすくなります。
| 関門 | 判断すること | 主な確認材料 |
|---|---|---|
| 企画審査 | 試す価値と許容できるリスクがあるか | 対象業務、現状の課題、想定効果、利用範囲 |
| 実証評価 | 限定した条件で効果と問題を確認できたか | 評価結果、失敗例、人による確認作業 |
| 本番移行審査 | 実際の業務で運用できる状態か | 総合試験、権限設定、運用手順、停止・復旧試験 |
| 運用レビュー | 継続利用や変更を認められるか | 稼働記録、品質の変化、事故・苦情、変更内容 |
企画時点では、「何をもって成功とするか」を先に決めます。回答を作る時間だけを見ると、確認や修正にかかる負担を見落とします。業務全体の処理時間、修正の内容、対応できなかった事例を合わせて評価します。
実証評価では、うまくいった質問だけを集めないことがポイントです。実際の利用で出そうな曖昧な質問や、回答すべきでない依頼も含めます。
本番移行審査では、利用範囲と運用担当を確定します。運用レビューでは、承認時の前提が現在も成り立っているかを見直します。
NISTのAI RMF Playbookも、提案する対応をすべて実施するチェックリストではなく、組織の用途に応じて選ぶものと説明しています。審査の深さは、業務への影響に合わせて調整します。AIRC
本番移行前に確認する五つの評価領域
データの利用条件と更新方法
データについては、出所、利用権限、機密性、更新担当、保持期間を確認します。
社内検索なら、廃止された規程が検索対象に残っていないか、部署ごとの閲覧制限が回答にも反映されるかを試します。資料を更新した際、検索結果にいつ反映されるのかも確認対象です。
評価のために保存する入力・出力にも、個人情報や機密情報が含まれる可能性があります。記録を残す目的と、保存する範囲、閲覧できる人を決めておきます。
回答品質と評価条件
「正答率が高い」という結果だけでは、判断材料が足りません。どの業務の、どの質問を、どの基準で評価したのかを記録します。
よくある簡単な質問が多い評価と、例外処理を含む評価では、同じ正答率でも意味が異なります。質問の種類ごとに結果を分け、重大な誤りが平均値に埋もれないようにします。
生成AIでは、文章の自然さと事実の正しさを分けて確認します。根拠がない場合に推測で埋めず、回答を控えられるかも評価します。
不正な指示と情報漏えいへの対応
通常の利用だけでなく、制限を回避させる指示や、検索対象の文書に紛れた不正な命令への対応を試します。
外部システムを操作するAIでは、回答の安全性に加えて、実行できる操作の範囲を確認します。画面上で禁止と書くだけではなく、権限設定や実行前の確認によって制御します。
安全性の合格基準に、どの業務にも通用する一律の数値はありません。漏えいや不正操作などの重大な失敗は、発生率の平均だけで判断せず、原因と対策を確認します。
障害時の代替手順と費用
外部サービスの停止、応答の遅延、利用量の急増を想定し、業務をどう継続するかを試します。
AIが使えないときに担当者の手作業へ戻すなら、誰が判断し、どの画面から切り替え、未処理案件をどう引き継ぐかまで具体化します。
費用も、通常時の利用料だけでなく、長い入力、再実行、繁忙期の増加を考慮します。AWSのMLOpsチェックリストも、本番運用の準備を人・技術・プロセスの組み合わせとして捉えています。AWS Prescriptive Guidance
利用者への説明と責任体制
利用者には、AIが担当する範囲、回答の限界、人へ相談する方法を伝えます。もっともらしい回答を無条件に採用しないため、根拠を確認できる画面や、修正・報告の導線も検討します。
社外へ提供する場合や、人の権利・安全に影響する場合は、用途に応じて法務や専門家の確認を組み込みます。国際規格の参照や認証の有無だけで、個別業務の適法性や安全性が保証されるわけではありません。
審査結果を五つに分けて記録する
審査を「承認するか、しないか」の二択にすると、不備の程度や次の行動が曖昧になります。
| 判定 | 適用する状態 | 記録する内容 |
|---|---|---|
| 承認 | 定めた必須条件を満たした | 利用範囲、承認対象の版、次回確認時期 |
| 条件付き承認 | 重大な問題はなく、限定運用が可能 | 未完了事項、利用制限、担当者、期限 |
| 保留 | 外部確認などの結果を待つ | 待機理由、再開条件、再確認時期 |
| 差し戻し | 評価不足や修正すべき不備がある | 不備、修正内容、再提出条件 |
| 中止 | リスクや費用に見合う価値が見込めない | 中止理由、既存データや接続の処理 |
条件付き承認では、未解決の重大なリスクを後回しにしないようにします。例えば、権限外の情報が回答される問題が残る状態で、注意書きだけを追加して利用を広げる判断は避けます。
また、承認は特定の構成と利用範囲に対して行います。承認後にプロンプトや連携先を変更した場合、そのまま承認済みとして扱えるかを別途判断します。
「誰が判断するか」を一人に定める
審査には、業務責任者、開発担当、IT運用担当、法務・セキュリティ担当などが関わります。ただし、全員が確認したという記録だけでは、最終判断の所在が分かりません。
役割は、作業する人、最終判断を担う人、相談する人、報告を受ける人に分けます。これはRACIという役割整理の考え方です。
中小企業では同じ人が複数の役割を兼ねても構いません。その場合も、誰が評価を行い、誰が本番移行を認めたのかを区別して記録します。重大な影響がある案件では、開発担当以外の視点を入れます。
審査資料には、利用範囲、評価結果、残るリスク、運用担当、停止手順、変更履歴をまとめます。資料を直前に提出すると確認が形だけになりやすいため、審査に必要な時間を見込んで提出期限を設けます。
稼働後の変更と再審査まで設計する
本番移行後も、モデル、参照資料、利用者、連携先が変われば、承認時と異なる結果が出る可能性があります。
再審査のきっかけは、あらかじめ決めておきます。例えば、モデルの変更、検索対象の大幅な追加、自動実行する操作の拡張、重大な誤回答の発生です。単純な誤字修正と、外部への送信権限の追加を同じ扱いにする必要はありません。
監視する項目は、回答品質、担当者の修正、処理できなかった案件、遅延、費用などから選びます。通知を出すだけで終わらせず、誰が確認し、どの状態で利用を制限・停止するかを決めます。
復旧では、以前のモデルに戻すだけで解決するとは限りません。参照資料や連携設定に原因がある場合もあるため、戻す対象を整理し、従来の手作業へ切り替える方法も試しておきます。

まとめ
AIの本番移行は、回答の精度だけで判断できません。承認する利用範囲を定め、業務システム全体の試験、データの利用条件、障害時の対応、責任体制を確認することで、現場で使える状態かを判断できます。
まず一つの業務で、企画、実証、本番移行、運用レビューの四段階を設けてみてください。それぞれの段階で確認する証拠と判断者を決めれば、審査が開発の途中から組み込まれます。
承認対象の版と利用範囲を記録し、変更時に見直す。この積み重ねが、AIを継続して活用するための運用基盤になります。
コメント