生成AIの入力内容・出力結果を記録しておくことで、情報漏えいや著作権トラブル発生時の原因追跡や再発防止に役立ちます。プロンプト監査の考え方と運用ポイントを解説します。

なぜ、生成AIのプロンプトを「監査」する必要があるのか

ビジネスシーンにおける生成AIの活用領域は広がっています。企画書の下書き、議事録の要約、メール文面の作成はもちろんのこと、自社サイトやSNSに掲出するイラストや動画・音楽も、生成AIで作ることが可能です。

生成AIを利用する際に注意しなければいけないのが「プロンプト（命令文）」です。たとえばプロンプトに顧客情報や未公開資料を入力すれば、その情報は利用中の生成AIサービスに送信されます。サービスや契約条件、設定によっては、入力内容が保存されたり、モデル改善に使われたりする場合もあります。

プロンプトに入力したデータがどのように扱われるかは、利用するサービスや契約条件によって異なります。たとえば「ChatGPT」で知られるOpenAIは、ChatGPT Enterpriseなどビジネス向けの一部プランについては、初期設定において入力されたデータをモデルの学習や改善に使用しないことを明言しています。

一方で、個人向けサービスでは、設定によってチャット内容がモデル改善に使われる場合があります。そのため業務で生成AIを使う場合は、利用するサービスのプランやデータ利用設定を確認しておく必要があります。

万が一、情報漏えいが疑われる事態が起きた場合、従業員がどのような情報を入力したのかを確認できなければ、影響範囲や再発防止策を検討しにくくなります。

記録は、説明責任を支える手がかりになる

プロンプトの内容だけでなく、誰が、いつ、どのサービスで、何のために使ったのかを記録しておくことは、情報漏えい以外のトラブルに備えるうえでも意味があります。

たとえば生成AIが出力した文章や画像をビジネスで使用した結果、そのデータが学習元のデータと似たものだった場合、著作権侵害のトラブルに発展してしまう恐れがあります。この場合、従業員がどのような業務で、どのようなプロンプトで生成したのか、事実関係を把握しておくことで、原因や意図の説明、再発防止策を講じることが可能になります。

同様に、生成AIが誤った情報や偏った情報を出力し、それを従業員が確認しないまま公開資料に使用し、トラブルにつながってしまった場合も、プロンプトの入力データを残していることで、その説明と対策にも活用できます。

こうした「プロンプトの入力内容と出力を記録し、後から追跡できるようにしておく」という考え方は、国内外のAIに関するガイドラインでも取り上げられています。

たとえば米国のNIST（米国国立標準技術研究所）が公開する「AI RMF（Risk Management Framework）」では、AIリスクを管理するための枠組みの中で、透明性やアカウンタビリティを、信頼できるAIを構成する要素として位置づけています。NISTによれば、AI RMFはAI製品、サービス、システムの設計、開発、利用、評価に信頼性の考慮を組み込む能力を高めるための枠組みです。

日本でも、総務省・経済産業省が共同で策定した「AI事業者ガイドライン（第1.2版）」において、AIシステムの利用時の入力・出力等のログを、検証可能性の確保のために記録・保存することが挙げられています。同ガイドラインは、事故の原因究明や再発防止策の検討なども踏まえ、記録方法や保存期間を検討する考え方を示しています。

プロンプト監査の仕組みはどう設計すればいいのか

プロンプト監査の方法としては、たとえば生成AIサービス自体の管理画面やAPIの監査ログを使う方法があります。この仕組みでは、そのサービスを通過したやり取りだけを監査するため、別のサービスの利用状況は、この記録には含まれません。

ほかにも、社内と生成AIサービスの間にゲートウェイを設置し、通過するプロンプトと出力を記録する方法もあります。すべての通信をこの一箇所に集める設計にしているため、その経路を通過するすべてのデータを取得することができます。ただし、既存の通信経路をゲートウェイ経由に変更する作業が発生します。

ログにどこまでの情報を残すのかという問題もあります。NISTの「AI 600-1」（生成AIプロファイル）では、インシデントを報告・管理する際に、対象システム、発生日、内容、影響、関係するステークホルダーなどを記録する考え方が示されています。プロンプト監査のログを設計する際も、後から事実関係を追えるよう、利用者、時刻、対象サービス、入力内容、出力内容、利用目的などを残しておくことが重要です。

取得したログは、後から検索・確認しやすい形で分類しておく必要があります。たとえば、「個人情報を含む」「著作権に関わる」「社外公開に使う」といったタグを付けておけば、問題が起きた際に該当する入力や出力を追跡しやすくなります。NIST AI 600-1でも、著作権、知的財産、個人情報など、第三者の権利に関わる種類ごとに生成AIコンテンツを分類する考え方が示されています。

監査は、一度作って終わりではない

こうしてログを整えたとしても、確認されなければ監査にはなりません。先に挙げたNIST AI 600-1でも、コンテンツの来歴確認とインシデントの監視について、定期的なレビューを行うことを組織内で定める考え方が示されています。そのため、ログを取得した後は、定期的に確認する運用まで決めておく必要があります。

もしインシデントが起きた場合は、ログが事実確認の起点になります。問題となった出力がいつ生成され、誰がどの情報を入力し、どの業務で使われたのかをログやタグから追跡します。

NIST AI 600-1では、インシデント対応の後に振り返りを行い、対応手順を見直すことも挙げています。つまり、同じような問題が繰り返し起きていないか、対応にかかった時間は妥当だったかを確認し、必要であれば監査レポートの項目やログの設計そのものを見直すことが求められます。一度作った仕組みを固定せず、実際の利用状況やインシデント対応で見えた課題を踏まえて、ログ項目やレポートの見直しにつなげます。

生成AIは便利な存在ですが、入力内容と出力結果を把握できないまま利用を広げれば、問題が起きたときに、企業は説明に必要な材料を失います。プロンプト監査は、利用者を監視するためだけの仕組みではありません。生成AIを業務で使い続けるために、入力、出力、利用目的、責任範囲を可視化する取り組みといえるでしょう。

関連サービス

資料ダウンロード

関連するコラム