>
>
公開日
最終更新日
対象読者は、生成AIやAI機能を搭載したSaaSの利用を管理する情報システム部門の担当者です。AIの利用申請、アクセス制御、プロンプトのデータ漏洩対策、出力内容の確認、監査ログの保存を別々に扱うと、ルールだけが残って実運用が追いつきません。ポリシー、管理体制、技術的ガードレールをつなぎ、利用部門が安全な環境で業務改善を進められる状態を作る必要があります。
本記事では、AI事業者ガイドライン、ISO/IEC 42001、EU AI Actの動向を踏まえつつ、情シスが実装できるAIガバナンスフレームワークを提示します。Human Oversight、人による監視をどこに置くか、ログをどの指標で見直すか、AI機能付きSaaSをどの条件で許可するかまで整理します。
AIガバナンス実装とは
AIガバナンス実装とは、AIを安全かつ事業に役立つ形で利用し続けるために、方針、組織、技術的制御を業務プロセスへ組み込むことです。
本記事のポイント
AI利用ルールだけでは統制できず、アクセス制御、プロンプトDLP、監査ログを実装します。
Human Oversightは、すべての出力を人が読むことではなく、高リスク判断を人が止められる工程として設計します。
AI機能付きSaaSは、学習利用の有無だけでなく、保持期間、外部委託先、ログ取得可否を契約と設定の両面で判定します。
情シスは利用禁止の管理者ではなく、安全な標準環境を提供し、利用状況を継続監査する役割を担います。
AIガバナンスは、生成AI、予測モデル、画像認識、AIエージェントを対象に、リスクを許容水準に保ちながら活用する仕組み全体です。文書化した利用規程だけではなく、誰がどのAIを利用できるか、機密情報を含む入力をどの時点で遮断するか、出力をどの業務判断に利用できるかまで決めます。
経済産業省と総務省は2024年4月、既存の複数ガイドラインを統合したAI事業者ガイドライン第1.0版を公表しました。さらに2026年3月公表の第1.2版では、自律型AIエージェント、フィジカルAI、AIシステムの連鎖利用を新たに定義しています（参考：IPA：AI事業者ガイドライン関連情報）。AIが回答を生成するだけでなく、他システムのAPIを呼び出し、データ更新や外部送信まで行う場合は、従来のチャット利用よりも権限管理と実行ログの重要性が上がります。
AIガバナンスプラットフォームは、こうした統制を支援する基盤です。ただし、製品を導入するだけで体制が完成するわけではありません。承認者、例外申請、利用停止の判断基準が決まっていなければ、検知したリスクを処理できないためです。
▶ 関連記事: ChatGPT情報漏洩事例と企業が取るべき対策【2026】
AIガバナンスが必要な背景
AIガバナンスが必要な理由は、情報漏えい、誤った出力、権限を持つAIエージェントの誤作動を、利用拡大と同時に管理しなければならないためです。
セキュリティリスクの顕在化
Ragateが2025年12月に情報システム部門およびDX推進室の担当者505人を対象に実施した調査では、「情報漏えい・セキュリティリスクへの懸念」を課題として挙げた割合は32.5％でした（設問・集計方法により別数値が報告されている場合があります。原典はTechTarget Japanの記事（techtarget.itmedia.co.jp）で確認できます）。AI活用の課題は、モデルの精度だけではありません。未承認サービスへの入力、共有設定の誤り、APIキーの管理不足、出力物を確認せずに顧客へ提示する運用が重なると、インシデントの原因になります。
一律禁止は、個人アカウントや無許可SaaSを使うシャドーAIを増やす可能性があります。情シスは、利用目的が明確で入力データを統制できる法人環境を用意し、許可されない経路をCASB、Webフィルタ、端末管理、プロキシログで検知する構成を取ります。
国内外の制度動向
日本では、人工知能関連技術の研究開発及び活用の推進に関する法律（令和7年法律第53号）が2025年5月に成立しました。この法律はEU AI Actのように企業活動を個別に直接規制する罰則規定を持つ法律とは性格が異なり、研究開発・活用の促進を主眼とする枠組みです。法令の全文および逐条解説は国会の公式情報で確認できます。一方で、AI事業者ガイドライン（経済産業省・総務省、2024年4月公表の第1.0版および2026年3月公表の第1.2版）は、開発者、提供者、利用者がリスクに応じて実施すべき取組を整理しており、社内規程や調達審査の基準として使えます（参考：IPA：AI事業者ガイドライン関連情報）。
EU AI Actは段階的に適用されています。高リスクAIシステムに関する主な義務の適用時期や対象範囲は欧州委員会が官報（Official Journal of the EU）および欧州AI局のウェブサイトで公表しており、施行スケジュールは改正・延期が生じる場合があるため、EU域内で提供・使用されるAIや同域内で利用される出力に関係する日本企業は欧州委員会の公表する一次情報で適用範囲と施行スケジュールを確認します。確認の結果、対象に該当する場合は、適合性評価、文書化、人間による監視の要件への対応が生じます。違反類型によっては最大3,500万ユーロまたは全世界年間売上高の7％に達する制裁金が定められています。
利用価値を高める監査
ITmediaは、Gartnerが2025年11月に発表した調査として、AIシステムを定期的に監査・評価する組織は実施しない組織よりも生成AIのビジネス価値を高いと評価する割合が3倍以上だったと紹介しています（参考：ITmedia記事）。統制は利用を遅らせるための作業ではなく、利用範囲を安全に広げるための条件です。
▶ 関連記事: NIST CSFとは？構成から最新2.0・導入事例まで解説
AIガバナンスフレームワークの3層構造
AIガバナンスフレームワークは、ポリシー・マネジメント・テクノロジーの3層を、共通のリスク台帳と承認プロセスで接続して運用します。
ポリシー層の判断基準
ポリシー層では、AIを利用する目的、禁止する用途、扱えるデータ区分、最終責任者を定めます。たとえば、公開情報のみを要約する用途と、個人情報を含む顧客対応支援では、同じ生成AIであってもリスクが異なります。利用目的を「文書作成」のように広く定義せず、「社内公開済み資料の下書き作成」のようにデータと出力先まで記載すると、審査基準がぶれません。
マネジメント層の運用設計
マネジメント層では、AI資産台帳、リスクアセスメント、利用申請、例外申請、教育、インシデント対応を運用します。台帳には、サービス名、利用部門、用途、入力データ分類、外部連携、管理者、契約更新日、ログ保存先、リスク評価日を登録します。AI機能の追加はSaaSの通常アップデートでも発生するため、契約時だけでなく更新通知を受けた時点で再審査する仕組みにします。
テクノロジー層のガードレール
テクノロジー層では、ルール違反を人の注意力だけに任せません。AIゲートウェイをAPI経路に置き、利用者、モデル、用途ごとに認証と利用上限を設定します。DLPは、個人番号、口座情報、ソースコード、契約書などのパターンを検知し、マスキング、警告、送信遮断を行います。プロンプトフィルタリングは、機密情報の持ち出し、権限外の操作要求、プロンプトインジェクションを検知する制御です。
RAGを使う場合も、検索対象の権限をAI利用者の権限と連動させます。検索結果にアクセスできるからといって、AI経由で全社員へ回答してよいわけではありません。文書リポジトリのアクセス権、検索インデックス、AIの回答権限を一致させる設計が必要です。
▶ 関連記事: 【2026】AI利用ガイドラインの作り方｜社内規定・社内ルール雛形とセキュリティ対策
▲ AIガバナンスを支える「ポリシー・マネジメント・テクノロジー」の3層構造
AIガバナンス実装とHuman Oversightの手順
AIガバナンス実装は、利用実態の把握から始め、技術的ガードレール、人による監視、KPI監査の順で定着させます。
実装フェーズと成果物
フェーズ | 情シスの実施内容 | 主な成果物 |
|---|---|---|
第1段階：棚卸し | 利用中のAI、AI機能付きSaaS、API連携、未承認アクセスを把握します。 | AI資産台帳、データ分類表、利用部門一覧 |
第2段階：リスク評価 | 入力データ、出力先、自律実行、外部送信、影響対象を評価します。 | リスク台帳、利用可否基準、例外申請票 |
第3段階：技術統制 | SSO、RBAC、DLP、AIゲートウェイ、ログ収集、利用上限を設定します。 | アクセス設計書、遮断ルール、監査ログ仕様 |
第4段階：監視運用 | 人による確認、アラート対応、定期レビュー、教育を実施します。 | レビュー記録、KPI報告書、改善計画 |
棚卸しでは、承認済みのチャットAIだけでなく、会議録、営業支援、採用、人事評価、開発支援などのSaaSに追加されたAI機能も対象にします。通信ログから未承認のAIサービスを見つけた場合は、ただちに遮断する前に、利用部門、利用目的、入力データ、代替環境の有無を確認します。業務上必要な利用であれば、安全な法人環境へ移行させる方がシャドーAIの抑止につながります。
Human Oversightの配置
Human Oversightは、AIの出力を常に人が手作業で確認する運用ではありません。影響の大きい決定、外部への送信、権限操作、例外処理に、人が介入する停止点を設ける仕組みです。人事評価、与信、採用選考、医療・安全に関係する用途、契約条件を顧客へ提示する用途では、AI出力をそのまま確定させず、責任者が根拠と出力内容を確認して承認します。
AIが生成または提案した内容を、確定前の下書きとして記録します。
担当者は、参照元、数値、固有名詞、法的表現、顧客影響を確認します。
高リスク用途では、業務責任者または法務担当者が承認または差し戻しを行います。
誤り、差別的表現、意図しないデータ参照を検知した場合は、出力を利用停止し、原因、影響範囲、再発防止策を台帳へ記録します。
AIエージェントがチケット起票、ファイル更新、メール送信、ワークフロー実行を行う場合は、権限を最小化します。読み取り専用で検証し、次に限定された更新操作へ進み、金銭、契約、顧客情報の変更は人の承認後に実行する構成にします。
ログ監査と評価KPI
ログは、誰が、いつ、どのAIまたはモデルに、どの権限でアクセスし、どの分類のデータを入力し、どの処理を実行したかを追跡できる粒度で残します。プロンプト本文を全件保存できない場合は、利用者ID、日時、サービス、ルール検知結果、データ分類、処理結果、承認者、ハッシュ値を保存し、機密情報をログへ二重に残さない設計にします。
KPI | 測定内容と判断基準 | 判断後の対応 |
|---|---|---|
未承認AIアクセス件数 | プロキシログ・CASBで未登録サービスへの接続数を集計します。前月比で増加していれば需要を把握します。業務上必要な利用であれば代替環境を整備し、不要な利用は遮断します。 | 業務需要がある場合は承認済み環境へ移行し、不要な利用は遮断します。 |
DLP検知件数 | DLPレポートから機密情報・個人情報の入力試行をデータ分類別に集計します。特定部門からの検知が全体の30％超であれば、その業務のデータ入力フローに課題があると判断します。 | 入力テンプレートを整備して禁止情報が入らない設計に変更し、対象部門への教育を実施します。 |
Human Oversight実施率 | 高リスク用途の処理件数に対して承認記録が残っている件数の割合を算出します。100％未満の場合は記録されていない承認がある、または承認工程が省略されていると判断します。 | 承認記録のない利用は業務フローに承認ステップを追加し、記録なしの外部送信は即時停止します。 |
AI起因インシデント件数 | 誤出力・誤操作・権限逸脱・意図しないデータ送信を重大度別に台帳へ記録します。重大度の区分の例として、顧客・個人情報の外部送信や権限逸脱を「高」、社内限定情報の誤出力や承認省略を「中」、軽微な誤記や誤検知を「低」とし、組織のリスク許容水準に合わせて定義します。同一カテゴリのインシデントが月2件以上繰り返す場合は構造的な原因があると判断します。 | 重大度別に原因分析を行い、プロンプト・権限・モデル・運用のどこを変えるかを決定します。 |
▶ 関連記事: ISO/IEC 27001とは？ISMS最新基準の改正点と情シスの実務対応
▲ AIガバナンス実装における4つのフェーズと進め方
AIガバナンス体制とフレームワークの選び方
AIガバナンス体制は、情シスが技術統制を担い、法務、コンプライアンス、事業部門が用途と影響を判断する横断組織として設計します。
役割分担の基本形
情シスは、ID管理、端末管理、ネットワーク制御、SaaS台帳、監査ログ、インシデント初動を担当します。法務・コンプライアンス部門は、契約、知的財産、個人情報、規制対象の確認を担います。利用部門は、業務目的、データの正確性、出力の最終確認、効果測定に責任を持ちます。経営層または委員会は、許容するリスク水準と例外の最終判断を行います。
専任組織を置くだけでは成熟した体制にはなりません。TechTarget Japanが紹介した調査では、回答者の4分の3が専用のAIガバナンス機関を設置済みと答えた一方、成熟していると回答した割合は12％にとどまりました。会議体の設置後は、申請処理日数、例外件数、監査結果、インシデント対応時間を記録し、意思決定が実際に機能しているか確認します。
フレームワークの比較
フレームワーク | 主な役割 | 情シスでの使い方 |
|---|---|---|
AI事業者ガイドライン | AIの開発者、提供者、利用者に必要な取組を整理します。 | 利用規程、リスク評価票、調達審査、教育内容の基準にします。 |
ISO/IEC 42001 | AIマネジメントシステムの構築、運用、改善を扱います。 | 責任者、リスク対応、文書化、内部監査、経営レビューを既存のISMS運用へ接続します。 |
NIST AI RMF | Govern、Map、Measure、ManageでAIリスクを管理します。 | ユースケースごとの影響整理、評価指標、継続的な測定に使います。 |
国内向けサービスの利用統制を整える段階では、AI事業者ガイドラインを基準にし、既存のISMSがある場合はISO/IEC 42001の考え方を統合します。海外向けサービス、高リスク用途、複数モデルを使う開発環境では、NIST AI RMFの評価観点を加えると、モデル性能だけでは見落としやすい人権、説明可能性、利用環境のリスクを整理できます。
ISO/IEC 42001は認証可能なマネジメントシステム規格ですが、認証取得そのものがAI出力の正確性を保証するものではありません。認証を目指す場合も、まず対象AI、業務影響、統制の証跡を定義し、運用記録を残せる状態を作ります。
具体的な社内ルールの構成はAI利用ガイドラインの作り方でも解説しています。
生成AIとAI機能付きSaaSの審査基準
生成AIとAI機能付きSaaSは、学習利用の可否、データ保持、外部委託、アクセス制御、ログ監査を分けて審査します。
データ利用の確認項目
「入力内容を学習に利用しない」という説明だけで導入可否を決めると、保持期間、サブプロセッサー、リージョン、管理者設定を見落とします。データ利用条件はプラン、契約、地域、管理画面の設定によって異なるため、対象の契約書、データ処理契約、利用規約、管理者向け仕様で確認します。
審査項目 | 確認できれば進める条件 | 確認できない場合の判断 |
|---|---|---|
モデル学習への利用 | 顧客データ、入力、出力が基盤モデルまたはサービス改善の学習に使われない条件が明記されています。 | 機密情報を扱う用途には利用せず、公開情報だけの限定検証に切り替えます。 |
保持期間と削除 | 入力、出力、ログ、バックアップの保持期間と削除方法が分かります。 | 保持期間を把握できない場合は、個人情報や営業秘密を送信する用途を認めません。 |
外部委託先 | AI処理に関わる委託先、処理地域、再委託の通知条件が明確です。 | 委託範囲が不明な場合は、社内限定データを連携させません。 |
権限とSSO | SSO、MFA、役割別権限、退職者のアクセス削除を管理できます。 | 個人アカウントでしか管理できない場合は、全社標準の業務環境にしません。 |
監査ログ | 管理者が利用者、日時、操作、設定変更を取得できます。 | ログが取れない場合は、高リスク用途や外部送信を伴う用途を認めません。 |
プロンプトDLPとログ監査
プロンプトDLPは、入力前にデータを分類し、禁止情報を送らせないための制御です。個人情報、認証情報、秘密鍵、未公表の決算情報、顧客契約、ソースコードを検知対象にする場合は、完全一致だけでなく、正規表現、辞書、文書ラベル、ファイル指紋を組み合わせます。ただし、誤検知が多いと現場が迂回経路を使うため、遮断、警告、マスキングをデータ区分ごとに使い分けます。
ログ監査では、DLP検知後に誰が何を入力したかを必要最小限の範囲で追跡し、本人への通知、上長連絡、情報セキュリティ部門へのエスカレーションを重大度ごとに決めます。ログを取得できるならSIEMなどへ集約し、取得できないならベンダーのCSVエクスポートと月次レビューを運用に組み込みます。
アクセス制御やログ監視の実務は生成AIの情報漏洩を防ぐ技術対策でも確認できます。
▶ 関連記事: AIガバナンスツール選定ガイド｜SaaS管理でISO 42001対応を実現する方法
▲ 生成AI・AI機能付きSaaS導入時の審査判定フロー
国内企業の導入事例と投資判断
国内企業の事例は、AIの利用拡大とガバナンスを別施策にせず、業務効果と統制を同時に検証する必要があることを示しています。
東京海上ホールディングスのAIガバナンス
東京海上ホールディングスは、Citadel AIのAIガバナンスツール「Citadel Lens」を本格導入したと公表しています。金融サービスでは、モデルの精度だけでなく、公平性、説明可能性、リスク評価の記録が問われます。情シスは、モデル評価ツールを導入する場合も、評価結果を誰が承認し、どの条件で再評価するかまで業務フローへ組み込みます。
ChatGPT Enterpriseの業務削減効果
クレディセゾンは2025年9月、2025年6月から8月に約300人を対象として行ったChatGPT Enterpriseのパイロット導入において、参加社員一人あたり年間170時間の業務削減効果が見込まれたと発表しています。このような効果測定では、削減見込み時間だけを成果にせず、誤出力の修正時間、レビュー実施率、禁止情報の入力検知、利用継続率も並べて確認します。時間削減が大きくても、レビューを省略して品質事故が起きれば、AIガバナンスとしては成功と判断できません。
導入判断に使う指標
AI導入の効果について、IPA（情報処理推進機構）が発行した「DX動向2026」の調査では、「業務が効率化したり迅速化した」と回答した企業は91.6％だった一方、「売上や利益が向上した」は3.9％でした。まずは、議事録の要約、社内文書の検索、定型文の下書きのように、入力データと出力確認を管理しやすい用途で評価します。その後、品質基準、レビュー率、インシデント件数が許容範囲にある用途だけを拡大します。
導入後に利用部門から効果報告が上がらない場合は、利用回数だけで評価せず、業務プロセスのどこで使われ、作業時間、差し戻し、承認待ちがどう変わったかを確認します。AI利用ログと業務KPIを同一期間で比較すると、利用量だけが増えて成果が出ていないケースを見つけやすくなります。
AIガバナンスで起きやすい失敗パターン
AIガバナンスで失敗しやすいのは、文書だけを整備すること、利用を一律禁止すること、監査ログを取らずに全社展開することです。
禁止だけで終わる運用
利用禁止の通達だけを出し、業務で使える代替環境を提供しないと、個人アカウントや未承認SaaSの利用を把握できません。未承認アクセスを検知したら、利用者を責める前に、利用目的と必要なデータを確認します。公開情報の要約であれば承認済み環境へ誘導し、機密情報を扱う用途であればDLPと権限を設定した別環境を用意します。
全件を人手で確認する運用
すべてのプロンプトと出力を人が審査する設計は、利用量が増えると停止します。Human Oversightは、顧客送信、契約、個人評価、権限操作、外部システム更新など、影響が大きい工程に絞ります。低リスク用途は自動フィルタ、データ分類、利用上限で制御し、人の確認を必要な場所へ集中させます。
導入後に評価しない運用
モデル、SaaS機能、利用規約、外部連携は変化します。導入時の審査結果を固定したままにすると、当初はなかったAI機能やデータ送信が追加される場合があります。契約更新、主要機能の変更、重大インシデント、利用部門の拡大を再評価の契機として台帳に登録します。
AIサービスの無許可利用を可視化する運用はシャドーAI対策でも整理しています。
よくある質問
AIガバナンス実装で情シスが判断しやすいよう、運用開始時によく出る疑問へ簡潔に答えます。
AIガバナンス実装は何から始めますか
最初に、社内で使われているAIサービス、AI機能付きSaaS、API連携を台帳化します。そのうえで入力データ、出力先、外部連携、自律実行の有無を評価し、低リスク用途から安全な標準環境へ移行します。
Human Oversightはどの用途で必須ですか
顧客への回答、契約条件、人事評価、採用、与信、金銭処理、権限変更など、誤りが人や事業へ直接影響する用途では承認工程を設けます。社内向けの下書き作成でも、事実確認が必要な数値や法的表現は利用者が確認してから使います。
AI機能付きSaaSのオプトアウトは何を見ますか
自社データがモデル学習やサービス改善に使われない条件だけでなく、設定が管理者権限で有効になっているかを確認します。学習利用、保持期間、委託先、処理地域、削除、ログ取得のいずれかが確認できない場合は、機密情報を扱う用途に使わず、公開情報だけの限定利用にします。
ISO 42001とISO 27001はどう使い分けますか
ISO 27001は情報資産の機密性、完全性、可用性を扱い、ISO/IEC 42001はAIの利用、提供、開発に伴うマネジメントシステムを扱います。すでにISMSを運用している場合は、既存のリスク評価、教育、監査、是正処置へAI特有の評価項目を追加すると、二重管理を減らせます。
まとめ
AIガバナンス実装では、利用規程を作るだけでは不十分です。情シスは、AI資産台帳、リスク評価、SSOと権限管理、プロンプトDLP、監査ログ、Human Oversightを一つの運用としてつなげます。最初の一歩は、承認済み・未承認を問わず、社内で利用されるAIとAI機能付きSaaSを棚卸しし、入力データと外部送信の有無を記録することです。
台帳ができれば、低リスク用途には安全な標準環境を提供し、高リスク用途には承認とログ監査を設ける判断ができます。AI機能の追加、契約更新、利用部門の拡大を再評価の契機として運用し、統制と業務改善を両立させてください。
AI資産台帳の維持やAIMSの運用エビデンス収集にあたって、ブラウザアクセス単位でAIサービス利用ログを取得できるツールを選定する場合は、監査ログのエクスポート形式・保持期間・SIEM連携の可否・管理者権限の粒度を比較したうえで判断します。自組織でCASBやプロキシログを活用できる場合はそちらで代替可能です。200+のAIサービス利用をブラウザアクセス単位で可視化できるプラットフォームはその選択肢の一つです。
本記事の内容に誤り等がございましたら、こちらからご連絡ください。
監修
Admina Team
情シス業務に関するお役立ち情報をマネーフォワード Adminaが提供します。
SaaS・アカウント・デバイスの管理を自動化し、IT資産の可視化とセキュリティ統制を実現。
従業員の入退社対応や棚卸し作業の工数を削減し、情報システム部門の運用負荷を大幅に軽減します。
中小企業から大企業まで、情シス・管理部門・経営層のすべてに頼れるIT管理プラットフォームです。
