1. 法人のお客さまトップ
  2. BizDrive
  3. お役立ち情報1
  4. 話題・トレンド
  5. なぜEUは、生成AIを規制しようとしているのか
閉じる

2024.07.12 (Fri)

話題・トレンド

テクノロジーでビジネスの現場が変わる！（第55回）

なぜEUは、生成AIを規制しようとしているのか

　2024年5月、EUはAIの悪用を禁じる規制法「AI法」を承認しました。同法によって、どんなAIが規制されたのでしょうか？そして、日本でも同法は適用されるのでしょうか？

都道府県で導入されるなど、生成AIはすでに生活に入り込んでいる

　指示を入力するだけで、文脈に沿った回答が出力される「生成AI」が登場し、我々の生活にも徐々に利用が進み始めています。

　たとえば東京都では、2023年8月より全局において文章生成AIの利用をスタートしました。同様の取り組みは他の都道府県でも進んでおり、たとえば神奈川県、埼玉県、千葉県でも利用がスタートしています。

　画像を出力する「画像生成AI」の活用も進みつつあります。たとえばあるファッションブランドでは、画像生成AIを使うことで新ブランドのロゴを内製したといいます。別のIT企業では、イベントに使用するイメージ映像を、画像生成AIを用いて社内だけで製作できたといいます。

なぜEUは、生成AIを規制しようとしているのか

　このようにAIが社会でも活用される中で、逆にAIの利用を禁止する流れも生まれています。

　EU（ヨーロッパ連合）は2024年5月21日、AIの開発や運用を規制する法律「AI法」を承認しました。このAI法は、生成AIの基本モデルを提供する事業者に対しさまざまなルールの順守を義務付けるもので、違反した事業者には制裁金が課されます。

　なぜEUは、生成AIの使用を規制しようとしているのでしょうか？ その背景には、生成AIが持つリスクを回避する狙いがあるようです。

AI法では、使用が禁止されたAIが存在する

　AI法では、生成AIの使用目的を4つに分類しており、社会的に及ぼすリスクが高いと考えられる順に、【1】使用禁止（許容できない、Unacceptable Risk）、【2】高リスク(High Risk)、【3】限定的リスク(Limited Risk)、【4】最小限のリスク（Minimal Risk）とランク分けされています。

　【1】の「使用禁止」のランクは、生命の危険や基本的権利の侵害の恐れがあり、EUが掲げる価値観に反する恐れがあるものが含まれます。

　たとえば、サブリミナル手法を用いた個人の行動操作や、インターネットや監視カメラからの無差別な顔画像の抽出、行動に基づいて人間をランク付けする「ソーシャルスコアリング」などが含まれます。まとめると、人間の行動を操作したり、社会的な統制を可能にする危険の恐れがあるAIのことです。こうした用途に使用されるAIについては、一部の例外を除いて、使用が禁止されます。

　【2】の「高リスク」は、扱い方によっては健康や安全、基本的権利を侵害するリスクがあるため、AI事業者は事前に適合性の評価手続きを経ることや、整合規格・共通仕様を守るなど、厳しい基準をクリアする必要があります。

　このランクに該当するAIシステムとしては、教育や職業訓練における学生や希望者の評価および合否、交通管理や電気/水道/ガスなど重要インフラの管理・運営、移民や国境の管理などに使用されるAIなどが挙げられます。

　【3】の「限定的リスク」は、なりすましや詐欺のリスクを伴うものです。たとえば消費者と対話するチャットボットのようなAIシステムや、ディープフェイク（AIで生成した、リアルな偽の画像・動画）を含んだサービスについては、あらかじめ「このチャットボットはAIです」「この映像は人工的に生成されたものです」などを明らかにする必要があるとしています。

　【4】の「最小限のリスク」は、AIによるスパムメールのフィルターや、AIに対応したゲームなどです。このランクについては「高いリスクはない」として、特に規制は掛けられていません。

罰金は約60億円。AI導入の際は危険性も忘れずに

　このAI法は2026年の全面施行が予定されています。基本的にはEUに所属する国が対象となりますが、日本企業であってもEU内でAIシステムを展開する場合は、規制の適用を受けます。

　AI法が定める規制に違反した場合、事業者に対し、最大で3,500万ユーロ（約60億円）、もしくは年間売上高の7％の制裁金が科される恐れがあります。

　AIは人間の仕事の負担を軽減し、効率的に業務を行う手助けになるテクノロジーですが、一方で使い方によっては、人間が持つ権利を侵し、人間の正しい判断を奪う恐れもあります。AIを導入する際には、利便性の側面だけでなく、危険性の面からも検討を進めてみても良いかもしれません。

連載記事一覧

メルマガ登録


NTT EAST DX SOLUTION


ミライeまち.com


「ビジネスの最適解」をお届けします　無料ダウンロード資料


イベント・セミナー情報

用語辞典

BYOD ICT スマートデバイス マルウェア BCP／事業継続計画 標的型攻撃 情報漏洩 ランサムウェア サプライチェーン VPN UTM／統合脅威管理 無線LAN 仮想化 Wi-Fi

用語一覧へ

ページトップへ

ページ上部へ戻る