欧州におけるAI規制について
東京都中小企業診断士協会
三多摩支部国際部
手塚 宏
1.はじめに
現在、様々な分野でAIが広く使われるようになりました。AIは人類に多大なる貢献をもたらす一方その利用方法に関する課題なども浮き彫りになってきています。EUでは、そのようなAIの発展に伴いAIに対する規制を強化する方針を打ち出しております。
小生は、今後中小企業でもAIを幅広く活用していくことで、業務の効率化が進み、事業を支えていくインフラになると考えています。その中で、AIとどう向き合い、どう付き合っていくかを知っておくことが重要であると同時にEUの規制など何を気にしていくべきかを知っておくことは必要と思います。本コラムでは、今後、中小企業がAIとどう付き合っていくかを念頭に、この規制に関して調べてみたので報告します。
2.EU AI規制とは
EUでは、AIのルールは人間中心である必要があるという理念の元、AIの普及を促進するという目的に加え、そういった技術の特定のユースケースにおけるリスクに対処するという2つの目的を達成することを目標としました。このためAIの悪用による個人の自由や権利の棄損を避けるため、AIの利用を包括的に規制することに踏み切りました。AI全てが規制の対象というわけでは無く、悪影響を及ぼすであろうAIを4段階に分け、その内容に分け、規制方針を適用しています。具体的には、それぞれ「禁止」「高リスク」「限定的なリスク」「最小限のリスク」と定義されています。
「禁止」には、サブリミナルのような個人の潜在意識を操作するような技術、子供や精神障害者を相手とする搾取行為、公的機関によるAIベースのソーシャルスコアリング、公的空間における法執行目的での遠隔生体認証などが挙げられています。
「高リスク」は以下の分野にリスト化されているAIシステムです。①自然人の生体認証と分類、②重要なインフラの管理と運用、③教育と職業訓練、④雇用、労働者管理及び自営業の機会、⑤重要な民間サービスおよび公共サービスへのアクセスと享受、⑥法執行機関、⑦移住、亡命および国境管理、⑧司法運営と民主的プロセス等が定義されています。このリストは定期的に見直され、更新されることになっています。このような「高リスク」AIを市場に投入する際には、リスク管理を人的またシステム的に堅牢化することが要求されており、かつ規制への適合性を事前に審査することが必要です。
「限定的なリスク」とは、①人間と対話する、②感情推定や生体認証データに基づいてグループに分類するシステム、③コンテンツを生成または操作する（「ディープフェイク」）システムなどが挙げられています。これらのAIを使う場合にはその利用者にAI技術を使っていることを事前に伝えておく必要があります。
「最小限のリスク」に関しては、上記以外のAIシステムが該当し、特に制限はありません。
これらの違反に関して、「高リスク」システムに関する違反に関しては、最高3,000万ユーロの罰金、または違反者が会社の場合は、前会計年度の全世界の年間売上高の最大6％のいずれか高い方の罰金、それ以外の違反には、最高2,000万ユーロ又は全世界での前年度総売上高の4％の制裁金といった罰則が決められています。これらの規制はまだ施行されておらず、今後2022年後半での開始および2024年後半の完全施行目指しているとのことです。
今回の規制に関してはパブリックコメントを収集しており、産業界や人権団体など賛否両論（より厳しくすべき、範囲をもっと明確（狭く）にすべき等）が寄せられています。
3.日本企業の考え方
日本では、2019 年 3 月、OECD の AI 勧告案策定に貢献した、統合イノベーション戦略 推進会議が決定した「人間中心の AI 社会原則」を公表しています。また、経産省からも「AI 原則実践のためのガバナンス・ガイドライン」が出されており、法的拘束力はないものの各社の自主的な取り組みを後押しすることを期待しています。AIの持つ開発効率の高さなどの正の側面、AIにより公平性を失ったり、安全性の課題があるなどの負の側面から、正しくAIを使うためのガイドラインとして作成されています。
こういった日本での検討が進む中、経団連やJEITAなどから欧州委員会に対してパブリックコメントへの回答を行っています。回答の方針として、どちらもAI規制に対する方向性に賛同していますが、規制内容に関しては、ともにイノベーションの阻害に懸念を抱いており、定義方法の再考を促しております。他の国からのパブリックコメントも同様の内容を含むものもあり、今後EU内でより具体的な内容の検討が進むものと思われます。
4.中小企業にとっての規制への影響
今回はEUでのAI規制ですが、今後欧州以外の他の国々に対しても同様の規制が始まるかもしれません。このような規制が始まることで、様々な企業が対応に追われていくことになると思います。当然日本で法的拘束力を持つのか、ガイドラインにとどめるのか議論をしていくものと思われます。もし、日本でも規制となれば、中小企業への影響も出てきます。
とはいえ、中小企業にとって、今回の規制は「対岸の火事」と捉える人もいるかもしれません。しかし、最近では、AIの利用は業務の効率化を進めていく上で必要不可欠となっており、その影響は全くの無関係ではないと思います。中小企業にとってAIは「利用する側」である場合と、「作る側」の両方のケースがあります。前者の場合、例えば、他の企業が提供しているクラウドサービスなどを利用している場合、そのサービスが規制に違反していたとすると、突然サービスが停止したりすることで業務に影響を及ぼす可能性もあります。また、後者の場合はより、深刻で、AI開発に伴うリスク評価を実施したり、場合によってはその開発したAIを利用できず、莫大な損失をもたらす可能性があります。
このため、こういったAIの導入や開発の際に、高い知見を持って、支援する枠組みや体制の構築が必要かと考えます。我々中小企業診断士としても、こういったAI規制に関して、もっと勉強を行い、様々な企業に対しての支援の枠組みも検討しいかなければと考えています。
5.最後に（蛇足）
当初、AI規制の話を聞いたとき、人類がシンギュラリティ（技術的特異点：人工知能（AI）の知性（性能）が地球上の全人類の知性を超える時点）の到達を阻む、もしくは対抗する手段として、検討を進めているものと感じていました。実際には、AIの成長を阻むというより、安全性の確保に主眼を持っており、当初感じていた内容とは別のものと認識しました。シンギュラリティに関しても、個人的な興味は高く、今後もスタディしていきたいと思います。
以 上
