2024.07.12 (Fri)
テクノロジーでビジネスの現場が変わる！（第55回）
なぜEUは、生成AIを規制しようとしているのか
2024年5月、EUはAIの悪用を禁じる規制法「AI法」を承認しました。同法によって、どんなAIが規制されたのでしょうか？そして、日本でも同法は適用されるのでしょうか？
都道府県で導入されるなど、生成AIはすでに生活に入り込んでいる
指示を入力するだけで、文脈に沿った回答が出力される「生成AI」が登場し、我々の生活にも徐々に利用が進み始めています。
たとえば東京都では、2023年8月より全局において文章生成AIの利用をスタートしました。同様の取り組みは他の都道府県でも進んでおり、たとえば神奈川県、埼玉県、千葉県でも利用がスタートしています。
画像を出力する「画像生成AI」の活用も進みつつあります。たとえばあるファッションブランドでは、画像生成AIを使うことで新ブランドのロゴを内製したといいます。別のIT企業では、イベントに使用するイメージ映像を、画像生成AIを用いて社内だけで製作できたといいます。
なぜEUは、生成AIを規制しようとしているのか
このようにAIが社会でも活用される中で、逆にAIの利用を禁止する流れも生まれています。
EU（ヨーロッパ連合）は2024年5月21日、AIの開発や運用を規制する法律「AI法」を承認しました。このAI法は、生成AIの基本モデルを提供する事業者に対しさまざまなルールの順守を義務付けるもので、違反した事業者には制裁金が課されます。
なぜEUは、生成AIの使用を規制しようとしているのでしょうか？ その背景には、生成AIが持つリスクを回避する狙いがあるようです。
AI法では、使用が禁止されたAIが存在する
AI法では、生成AIの使用目的を4つに分類しており、社会的に及ぼすリスクが高いと考えられる順に、【1】使用禁止（許容できない、Unacceptable Risk）、【2】高リスク(High Risk)、【3】限定的リスク(Limited Risk)、【4】最小限のリスク（Minimal Risk）とランク分けされています。
【1】の「使用禁止」のランクは、生命の危険や基本的権利の侵害の恐れがあり、EUが掲げる価値観に反する恐れがあるものが含まれます。
たとえば、サブリミナル手法を用いた個人の行動操作や、インターネットや監視カメラからの無差別な顔画像の抽出、行動に基づいて人間をランク付けする「ソーシャルスコアリング」などが含まれます。まとめると、人間の行動を操作したり、社会的な統制を可能にする危険の恐れがあるAIのことです。こうした用途に使用されるAIについては、一部の例外を除いて、使用が禁止されます。
【2】の「高リスク」は、扱い方によっては健康や安全、基本的権利を侵害するリスクがあるため、AI事業者は事前に適合性の評価手続きを経ることや、整合規格・共通仕様を守るなど、厳しい基準をクリアする必要があります。
このランクに該当するAIシステムとしては、教育や職業訓練における学生や希望者の評価および合否、交通管理や電気/水道/ガスなど重要インフラの管理・運営、移民や国境の管理などに使用されるAIなどが挙げられます。
【3】の「限定的リスク」は、なりすましや詐欺のリスクを伴うものです。たとえば消費者と対話するチャットボットのようなAIシステムや、ディープフェイク（AIで生成した、リアルな偽の画像・動画）を含んだサービスについては、あらかじめ「このチャットボットはAIです」「この映像は人工的に生成されたものです」などを明らかにする必要があるとしています。
【4】の「最小限のリスク」は、AIによるスパムメールのフィルターや、AIに対応したゲームなどです。このランクについては「高いリスクはない」として、特に規制は掛けられていません。
罰金は約60億円。AI導入の際は危険性も忘れずに
このAI法は2026年の全面施行が予定されています。基本的にはEUに所属する国が対象となりますが、日本企業であってもEU内でAIシステムを展開する場合は、規制の適用を受けます。
AI法が定める規制に違反した場合、事業者に対し、最大で3,500万ユーロ（約60億円）、もしくは年間売上高の7％の制裁金が科される恐れがあります。
AIは人間の仕事の負担を軽減し、効率的に業務を行う手助けになるテクノロジーですが、一方で使い方によっては、人間が持つ権利を侵し、人間の正しい判断を奪う恐れもあります。AIを導入する際には、利便性の側面だけでなく、危険性の面からも検討を進めてみても良いかもしれません。
連載記事一覧
- 第1回 出張が不要になる？新技術「ホロポーテーション」 2016.07.15 (Fri)
- 第2回 AIがオフィスの空気を管理すれば生産性は上がる？ 2016.08.29 (Mon)
- 第3回 目は口ほどにものを言う、「感情認識」の新ビジネス 2016.09.28 (Wed)
- 第4回 仕事中の危険を未然に防ぐ「バイタルデータ」とは 2016.10.14 (Fri)
- 第5回 社会インフラを激変させる可能性を秘めた仮想通貨 2017.10.03 (Tue)
- 第6回 企業が仮想通貨で資金調達する時代は到来するか？ 2018.03.26 (Mon)
- 第7回 東大廣瀬教授が語る「本気のVRが企業教育を変える」 2021.02.19 (Fri)
- 第8回 建設業界で注目のDX「デジタルツイン」とは 2021.09.14 (Tue)
- 第9回 中小企業こそDXに向く。町工場・今野製作所の挑戦 2021.12.10 (Fri)
- 第10回 小売業の広告販促DX「リテールメディア」の始め方 2021.12.10 (Fri)
- 第11回 「小売業再建のプロ」が語る、利益率UPのヒント 2022.03.01 (Tue)
- 第12回 年4億円コスト削減を達成した地方製造業のIoT活用術 2022.03.04 (Fri)
- 第13回 「幻の日本酒」が安定供給できた裏にデータ活用あり 2022.06.27 (Mon)
- 第14回 いまどきの企業PRに不可欠、Twitterスペースとはなにか 2022.11.15 (Tue)
- 第15回 雇用確保につながる可能性も、覚えておきたい「給与のデジタル払い」2022.12.21 (Wed)
- 第16回 なぜ世界の小売店が「リテールメディア」に参入しているのか？2023.03.06 (Mon)
- 第17回 経済効果は2兆円！女性の悩みを解決するフェムテックとは2023.03.06 (Mon)
- 第18回 バブル期京都でDX実現！ 24時間稼働の無人工場2023.03.15 (Wed)
- 第19回 どうする「2024年問題」物流DXの課題と事例2023.03.30 (Thu)
- 第20回 なぜ企業や自治体が「VTuber」を起用するのか？ 2023.03.30 (Thu)
- 第21回 未来を予測し先手を打つ。「AI需要予測」の活用術2023.03.30 (Thu)
- 第22回 顧客の本音を読み解く「センチメント分析」の活用法2023.03.30 (Thu)
- 第23回 「気象ビッグデータ」が売上増とロス削減に貢献する2023.03.30 (Thu)
- 第24回 消費者から信頼感を得るには、トレーサビリティ向上が不可欠2023.04.28 (Fri)
- 第25回 健康のDX「パーソナライズド・ニュートリション」2023.09.08 (Fri)
- 第26回 「Web3」がもたらすビジネスや社会への影響とは2023.09.08 (Fri)
- 第27回 「観光DX」は日本の観光業をどう変えるのか？2023.10.04 (Wed)
- 第28回 大手企業も導入「リーガルテック」で何が変わる？2023.10.04 (Wed)
- 第29回 情報漏えいの原因を解析「デジタルフォレンジック」2023.10.04 (Wed)
- 第30回 関東大震災から百年、災害対策はどう進化したのか？2023.10.04 (Wed)
- 第31回 ITに疎くてもDXはできる！老舗食品企業の挑戦2023.11.22 (Wed)
- 第32回 極地でも高速通信「スターリンク」の可能性2023.12.21 (Thu)
- 第33回 インフラの「老朽化」は、最新技術でメンテナンスできる2024.01.24 (Wed)
- 第34回 新たな個人データ収集方法「ゼロパーティデータ」とは2024.01.24 (Wed)
- 第35回 2024年4月から限定解禁「ライドシェア」の可能性2024.01.24 (Wed)
- 第36回 AIが奪うのは仕事ではなく電力？生成AIのエネルギー事情2024.02.09 (Fri)
- 第37回 トークン経済で市場に好循環は起こるのか？2024.03.01 (Fri)
- 第44回 バス運行を効率化「AIオンデマンド交通」の可能性2024.03.29 (Fri)
- 第45回 生成AIとの対話が成長を促す「AIコーチング」2024.03.29 (Fri)
- 第46回 広告に続々登場「AIタレント」の弱点とは2024.03.29 (Fri)
- 第47回 訪日客が日本のファンになる鍵は「AI」にあり2024.03.29 (Fri)
- 第48回 脳と機械が繋がる「ブレインテック」の可能性2024.03.29 (Fri)
- 第49回 打ち上げが本格化。民間企業の宇宙ビジネスの今2024.03.29 (Fri)
- 第50回 バイヤーもサプライヤーも歓迎!?「自動交渉AI」2024.03.29 (Fri)
- 第51回 医療・建設業界で導入が進む「自律型ロボット」とは2024.03.29 (Fri)
- 第42回 6G、7Gで世界はどう変わるのか？「Beyond 5G」の可能性2024.03.22 (Fri)
- 第43回 脱炭素の効果はブロックチェーンで証明できる2024.03.29 (Fri)
- 第38回 総務省が認可「Wi-Fi 7」とは何か？2024.03.29 (Fri)
- 第39回 総務省が発表「モバイル市場競争促進プラン」とは？2024.03.29 (Fri)
- 第39回 インボイスにも対応「IT導入補助金2024」を解説2024.03.29 (Fri)
- 第40回 文章生成AIの理想的な使用法とは？東京都がガイドラインを公開2024.03.29 (Fri)
- 第41回 新たなテクノロジー「光の半導体」とは何か？2024.03.29 (Fri)
- 第52回 訪日観光客が増えるとトラブルも増える!?オーバーツーリズムをどう解決するか2024.05.22 (Wed)
- 第53回 ウェブアクセシビリティが義務化。どう対処する？2024.07.11 (Thu)
- 第54回 決済時間を1/2に短縮「タッチ決済」が普及中2024.07.12 (Fri)
- 第55回 なぜEUは、生成AIを規制しようとしているのか2024.07.12 (Fri)
- 第56回 2024年10月につくば市でスタート「インターネット投票」とは？2024.08.08 (Thu)
- 第57回 ７月実施完了。デジタル庁の「フロッピーディスク」使用規定撤廃の方針とは2024.08.08 (Thu)
- 第58回 Googleが動画作成ツール「Google Vids」をテスト開始。どんなツール？2024.08.08 (Thu)
- 第59回 「パーソナルAI」が、ビジネスを代行する時代が来ている2024.08.13 (Tue)
- 第60回 多言語対応や旅行プラン作成も！観光業での生成AI活用法2024.08.13 (Tue)
- 第61回 GoogleもMicrosoftも参入。「生成AI検索」は何が凄いのか2024.09.24 (Tue)
- 第62回 Googleの生成AI「Gemini」は、ChatGPTと何が違うのか？2024.09.24 (Tue)
- 第63回 DX人材は生成AIにどう向き合うべきか？経産省がデジタルスキル標準を改訂2024.10.08 (Tue)
- 第64回 能登半島地震で被害を受けた通信インフラはどのように回復したのか？2024.10.08 (Tue)
- 第65回 政府が世界から誘客する「デジタルノマド」とはどんな人たち？2024.10.08 (Tue)
- 第66回 まずは何から"生成"する？総務省が生成AIの入門書を発表2024.10.08 (Tue)
- 第67回 Web会議の新たなパートナー。耳を塞がないヘッドホンが登場2024.10.08 (Tue)
- 第68回 行政こそ生成AIが効く！都城市に「自治体DX」の進め方を聞く2024.10.09 (Wed)
- 第69回 なぜコープさっぽろは、AIに"人間らしい"要素を求めたのか2024.10.09 (Wed)
- 第70回 Officeの買い切り版が新発売。サブスク版とは何が違うのか？2024.11.21 (Thu)
- 第71回 携帯電話の番号に「060」が開放された理由とは2024.11.21 (Thu)
- 第72回 自動車内でWi-Fiが使い放題のサービスが登場2024.11.22 (Fri)
- 第73回 根拠を元に回答を生成「Perplexity」（パープレキシティ）の魅力2024.11.22 (Fri)
- 第74回 Wi-Fiの電波が1km先まで届く!?「Wi-Fi HaLow」とは2024.11.22 (Fri)
- 第75回 誤差はセンチメートル級。衛星測位システム「みちびき」が導く未来2024.12.20 (Fri)
- 第76回 市場拡大中！AIで進化する音声認識技術の今2024.12.24 (Tue)
- 第77回 ブランドイメージ向上に効果あり。「香りマーケティング」の今2024.12.24 (Tue)
- 第78回 図表を自動で作成する生成AI「Napkin.ai」が登場2024.12.27 (Fri)
- 第79回 Googleの新ルール「サイト評判の不正使用」とは何か？2024.12.27 (Fri)
- 第80回 水道の老朽化が進行中......解決のカギはAIにあり2024.12.27 (Fri)
