AI Alignment Talk from Japan No.4

ライター：泉川茉莉

こんにちは！AI Alignment Talk from Japanの泉川です。今回は3月13日にEU議会で可決されたAI規制法（AI Act）についてのニュースとその意味合いについてお伝えします。

---

AI Actとは？

AI Actは世界で始めてEU市場で販売、使用されるAIシステムに対し、権利の保障やEUの価値を尊重するために制定された規則です。AI Actは「リスクベースアプローチ」と呼ばれる、リスクのレベルによって規制の度合いを変える手法を採用しています¹。

European Commission “Shaping Europe’s difigal future, AI Act”より

リスクは許容できないリスク、高いリスク、限定的なリスク、そして最小限のリスクに分類されており、求められる対応も異なります。この法律の下では、近年東京メトロが導入したようなデプスカメラによる列車の混雑状況計測システム²なども高リスクの分類になる可能性があります。

• 許容できないリスク

  • 該当例：AI Actでは生体認証分類システム（法執行機関による使用を免除）や顔認証データベースを作成するためのインターネット・監視カメラ映像からの顔画像の無差別スクレイピングなどを禁止した

• 高いリスク³⁴

  • 該当例：健康、安全、基本的権利、環境、民主主義、法の支配に対する危害を及ぼす可能性のあるシステム。重要インフラ、教育、雇用、医療、銀行、法執行プロセス、移民管理、選挙など

  • 求められる対応：適切なリスク管理、差別的結果を最小限にするためのデータセットの確保、導入社への明確な情報提供、適切な人間による監視措置など

• 限定的なリスク⁵

  • 該当例：透明性の欠如に関するリスク。例えばディープフェイクの音声・映像コンテンツ

  • 求められる対応：AIが生成したコンテンツを識別できるようにする/公衆に知らせる

• 最小限のリスク⁶

  • 該当例：AI対応ビデオゲーム、スパムフィルターなどのアプリ

  • 求められる対応：リスクを最小限に抑える

3月26日にはOpenAIのCEO、サム・アルトマン率いるWorldCoinプロジェクトがスペインに続きポルトガルでも一時禁止を命じられました⁷⁸。WorldCoinでは人工知能の発展とともにbotと人間の区別をつけることを目的とし、IDやパスワードの代わりに眼球をスキャンすることで複製不可能な身分証明書の形式を実現しようとしています⁹¹⁰。このような生体情報を用いたシステムはスペイン、ポルトガルだけでなくEU全土で利用ができなくなる可能性が出てきています。

---

何が画期的なのか？

EU議会はプレスリリースにて、以下4項目をAI Actのハイライトとして述べています。

1. 汎用目的AI(General Purpose AI)の保護措置

2. 生体認証システムの法的な使用制限

3. ユーザーの操作・悪用を目的としたソーシャルスコアリングAIの禁止

4. 消費者による申し立て及び事業者からの説明を受ける権利

これらに加え、上記のリスクベースアプローチの規定に違反した場合、最大3500万ユーロ（約56億円）の制裁金が企業に課せられることになりました¹¹。これらの規則は24ヶ月後に施行され、違反した企業への処罰、リスクベースの対応の徹底やルールに基づくAIガバナンスの構築などが順次始まる予定です¹²。

---

どんな変化が期待できるのか？

AI Actが施行されることにより、私たちの社会にどのように変化するのでしょうか？最も分かりやすい変化は、一定のAIシステムが今年末ごろから使えなくなる可能性があることです¹³。とりわけ、医療・教育などEU AI Actで強調されている基本的権利や健康、安全に関わる領域で使われているAIシステムの一部は「許容できないリスク」として禁止される可能性があります¹⁴。

次に、EUにおいて、現在ディープフェイクだとわからない映像や音声がより識別しやすくなると期待できます。テック企業は今後ディープフェイクのコンテンツをそれとわかるようにウォーターマークなどで分かりやすく周知する必要があります。それでもディープフェイクだとわからないディープフェイクコンテンツを故意に「本物」として発信する事業者はどのように特定するのか、技術が追いつくことができるのか疑問が残ります。

最後に、AIシステムのユーザーがAIによる危害を受けた場合に、事業者に対して申し立てを行うことができるようになりました。これにより、非技術者の一般市民がAIガバナンスに参加し、今後の政策の方向性に影響力を持てるようになります。

---

残る課題

AI Actの施行に際し、EU議会は2月21日、DG CONNECTというデジタル系のユニット傘下にAI Officeを設立しました。AI OfficeはDG CONNECTに元々あるAIとロボティックスのイノベーションチーム（A1)とAI政策のチーム（A2）に加わる形となる模様です¹⁵。

しかし、早くもAI Officeの開始予算の少なさが懸念されています。開始予算は4,650万ユーロとされており、英国AI Safety Instituteの半分以下だと言われています。今後EUのテックファンド、Digital Europe Programから追加の資金援助を受ける予定との報道がありますが、具体的な援助額は明らかになっていません¹⁶。

人材面でも課題が指摘されています。EU議会議員からはAI Actの施行に関わる部署であるからこそ、AIの専門的な知識を多少なりとも理解でき、同時に組織状況や”AI外交”に素養のある人材が必要であるとの見解が示されています¹⁷。

---

日本への影響

日本では2024年2月14日に経済産業省傘下の独立法人としてAI・セーフティ・インスティテュート（AISI）が設立されました¹⁸。AISIはAIの安全性確保に向けた国際的な基準づくりを行う役目を期待されており、AI Actも加味せざるを得なくなるはずです。

一方で、今後日本はEUのようなハードローアプローチでAIを野放しにしないため、厳しい処罰や基準によってAIを規制していくのか、はたまたアメリカが代表例に上がるようなソフトローにより、一度AIを野放しにしてからAIの良し悪しを人間の価値観で都度判断していくのか議論を進めていかなければなりません。

---

AI Alignment Talk from Japanでは毎週ニュースレターをお届けします。ニュースレターを受け取りたい方はこちらからSubscribeよろしくお願いいたします！

Xのフォローはこちらから！

1.  European Council "Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world” (2023/12/9) https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/.

2.  東京メトロ「業界初！デプスカメラと人工知能(AI)を用いた列車混雑計測システムを開発」(2021/3/1) https://www.tokyometro.jp/news/2021/209731.html

3.  European Comission "Shaping Europe's digital future, AI Act" https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai#:~:text=The%20AI%20Act%20allows%20the,EU%20fall%20into%20this%20category.

4.  European Parliament "Artificial Intelligence Act; MEPs adopt landmark law" (2024/3/13) https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law

5.  ibid. 

6.  ibid. 

7.  Euronews “Spain puts temporary ban on Sam Altman's Worldcoin eyeball scans over privacy concerns” (2024/3/8) https://www.euronews.com/next/2024/03/08/spain-puts-temporary-ban-on-sam-altmans-worldcoin-eyeball-scans-over-privacy-concerns

8.  Techcrunch “Worldcoin hit with another ban order in Europe citing risks to kids” (2024/3/26) https://techcrunch.com/2024/03/26/worldcoin-portugal-ban/

9.  WorldCoin “WHAT IS WORLDCOIN, AND HOW DOES IT WORK?” (2024/1/31) https://worldcoin.org/blog/worldcoin/what-is-worldcoin-how-does-it-work

10.  日経XTECH「アルトマン氏手掛けるWorldcoinが価格上昇も、複数国の個人情報保護当局が「待った」」（2024/3/12) https://xtech.nikkei.com/atcl/nxt/column/18/00001/09020/

11.  Forbes Japan「世界初のAI規制法、EU議会で可決　制裁金最大56億円」

12.  European Parliament "Artificial Intelligence Act; MEPs adopt landmark law" (2024/3/13) https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law

13.  2023年4月にイタリアでは一時的にChatGPTが禁止されたことがありました。BBC ”ChatGPT banned in Italy over privacy concerns” https://www.bbc.com/news/technology-65139406

14.  MIT Technology Review "The AI Act is done. Here’s what will (and won’t change)” (2024/3/19) https://www.technologyreview.com/2024/03/19/1089919/the-ai-act-is-done-heres-what-will-and-wont-change/

15.  POLITICO “EU needs ‘Oppenheimers’ to run AI policy” (202/3/3/6) https://www.politico.eu/article/eu-needs-oppenheimer-to-run-ai-policy-key-lawmaker-tudorache-romania-says/?utm_source=substack&utm_medium=email

16. ibid.

17. ibid.

18.  日本経済新聞「AI専門機関初代所長の村上氏　安全性評価の基準づくりへ」(2024/2/9) https://www.nikkei.com/article/DGXZQOUA083OO0Y4A200C2000000/