AIが作成した資料の誤りや、AIの判断によって損害が生じた場合、誰が責任を負うのでしょうか。経産省の手引きをもとに、AI利用時の責任の考え方を解説します。

日本人はAIに期待しているけれど、利用は進んでいない？

生成AIを普段から利用している人は多いことでしょう。しかしその利用は、まだ国内全体に広がってはいないかもしれません。

野村総合研究所が2026年3月に発表した「日・米・中・独4か国調査にみるAI利用の受容性と日本におけるAI浸透の未来像」という資料によると、生成AIを月に数回以上利用している人の割合は、中国では8割以上、アメリカ・ドイツでは6割弱なのに対し、日本では35%と、他国と比べて低い数値となっています。

特に日本では、「AIに期待するが、利用は消極的」という傾向が見られるといいます。日本はAIへの信頼度が4か国中で最も低く（39.2%）、ミスを許容しづらい慎重な姿勢が強いのが特徴です。このため、エラーや誤判定が発生した際のセーフティネットや、判断の透明性といった「利用への安心感」の不足が、“まずはAIを使ってみる”というフェーズへの移行を阻む障壁になっていると分析しています。

生成AIを業務で利用した場合、その出力内容によって問題が発生する可能性は十分に考えられます。たとえば生成AIが作成した資料に誤情報が含まれていた場合や、AIの判定をもとに対応したことによって相手方に損害が生じた場合、その責任がどのようになるのかは、判断が難しい側面があります。生成AIの便利さは理解しているものの、その安全面を気にして、本格導入できていない企業も多いかもしれません。

AIを使っただけで責任が生じるわけではない

こうした生成AIのトラブルに関する資料として、経済産業省は2026年4月に「AI利活用における民事責任の解釈適用に関する手引き」を公表しました。同省では本資料について、AI利活用時に損害等が発生した際の民事責任について、不法行為法と製造物責任法の観点から、現行法がどのように解釈・適用され得るかを整理したものとしています。

この資料では、AIの利用形態を大きく2つに分けています。ひとつは「補助／支援型AI」で、人の判断や行動を補助する形でAIを利用する形態です。もうひとつは「依拠／代替型AI」で、人の判断や行動の全部または一部を代替する前提で、AIの出力に依拠しながら用いることが想定された形態です。

補助／支援型AIでは、最終的に人の判断や行動が介在します。そのため資料では、「従来の過失の判断枠組みを適用する」と説明しています。たとえば、資料作成の下書きや文書の要約、判断材料の情報収集としてAIを利用した場合、人の判断を支える目的で使用されるため、AIを利用したことが、AI利用者に求められる注意義務の水準を「引き上げることも引き下げることもない」としています。

つまり、「AIを使ったこと」が問題になるのではなく、その業務で本来必要な確認や判断を行っていたかどうかが問題になる、ということです。

資料では補助／支援型AIのトラブルの具体例として、イラストや人物画像を作る生成AIを利用し、その画像を自社ブランドのWeb広告に利用したものの、その絵が著名なタレントの容貌に酷似していたケースを挙げています。こうした生成AIをトラブルなく使用するためには、生成された画像が第三者のパブリシティ権などの権利を侵害していないかを評価・検証するプロセスが必要であり、AI利用者が自身の判断で適正な範囲にコントロールして用いる必要があるといいます。

AIに判断を任せた場合、その必要性やリスク対策も検証される

一方、依拠／代替型AIは、ひとつひとつの出力について、人間が最終判断することを前提としていません。そのためトラブルが発生した際は、「担当者がAIの答えを確認したか」という点だけではなく、人の最終判断を介在させずAIに判断を委ねるだけの必要性があったのか、そのAIが同種の業務を人が行う場合と比べて十分な精度や安全性を備えていたのか、といった点が問われる可能性があります。

資料では依拠／代替型AIの具体例として、製造品のX線画像から、金属片などの異物を高精度で検出するAIシステムを挙げています。このシステムが、バッグに混入したカッターの刃先の存在を見落としてしまった場合、そもそもAIを使う必要があったのか、人間の目視よりも検知率が高かったのかなどの必要性・合理性が、企業に対して問われる可能性があるとしています。

さらに資料では、依拠／代替型AIの開発者や提供者に対しても、求められる対応の水準が高まるとしています。AIの精度や安全性を高めるために合理的な措置を講じていたか、望ましくない出力が生じる可能性を踏まえてセーフガードを検討していたか、利用者がリスクを管理するうえで必要な情報を提供していたかなどが論点になり得るとしています。

AIに任せる範囲と、人が担う範囲を明確化しよう

ここまで見てきたように、AIによって損害が生じた場合の責任は、AIがどのように利用されていたのか、利用者・開発者・提供者がそれぞれどのような対応をしていたかによって考え方が変わります。そのため、企業がAIを業務で利用する際には、AIを業務の中でどのような役割で使っているのかを把握することが求められます。

たとえば、AIが作成した内容を担当者が確認し、人が最終的な判断をするのであれば、その業務において必要な確認や判断を、従来通り適切に行うことが求められます。一方、AIの判断に依拠して業務を自動化するのであれば、個々の出力を確認することだけではなく、そのAIを業務に組み込むことが適切なのか、必要な精度や安全性が確保されているのか、運用後の状況をどのように確認するのかといった業務プロセス全体も重要になります。

生成AIの利用に慎重な企業はまだまだ多いかもしれませんが、本資料ではAIの利用を制限しているわけではなく、AIに任せることと人間が判断するところを明確にし、その使い方に応じた対策を取ったうえで、生成AIを使うことを推奨しています。

AIに任せる範囲と、人が担う範囲を整理したうえで、リスクを管理しながら業務への活用を進めていくことが、これからのビジネスシーンにおける、安全な生成AIの利用法といえるでしょう。

関連サービス

資料ダウンロード

関連するコラム