AI Alignment Talk from Japan No.5
文責_根本
Hi!
今週もAIAに関連する情報を発信させていただきます。
AIの規制や統制で欠かせないのは、政府サイドの側の考えです。
さて彼らはどのように法整備を行うのでしょうか、傾向などからから学んでみましょう。
今回のNLではFDAやFTCから見る政府の法整備の特徴を俯瞰します。
AIの規制を色々な立場から考える
1. FDA for AI
何かを法整備して規制をすると言っても多くの考え方が存在します。
その一つのご紹介として米国食品医薬品局（いわゆるFDA）の AIの規制についてAI Now Institute（以下ANI）がまとめた記事をまずご紹介します(ANI 2024)。
FDAは基本的にその名の通り食品や薬品を扱う部門ですが、彼らの考えは基本的に「サプライチェーンベース管理」になります。原材料から販売までの全てのところに関与しようとする考え方です。薬や食品のトラッキングと聞くと非常に理解しやすい概念のように感じます。
さて彼らがAIに対しての法整備をするとしたらどうなるのか、 ANIの公開したメモをベースにご紹介します。（＊メモをきちんとしたものとして春にANIが発表するようです。）
FDAの法整備や規制はあくまでも従来の規制のAIへの組み替えと見るのではなく、”サプライチェーンアプローチ”という彼らの規制のアプローチを元にしたものと認識すべき
結局のところ従来の規制がこうだったから、こうする、というような考え方ではなく、彼らの思考方法をまず理解するというのが正しい規制当局とのコミュニケーション・理解の仕方であるということです。
FDAのサプライチェーンスタイルのAI規制は一部のAIのプロダクトに対してマッチする可能性がある
川上から川下まで見るアプローチは AIの安全性や有効性に関しての管理においては非常にマッチしている概念であり、期待がされるということです。しかしながら、新しい基盤モデルの開発においては有用とは言えません。その際には金融規制のようなアプローチが良いのはないかと考えています。いずれにせよ、アプリケーション・応用の層では、データやベースとなったモデルの文書化・記述は不可欠であり、FDAスタイルの規制がマッチしている可能性があります。そして、これらは内部の透明性を強化し、行政のAI企業への調査への助けとなるはずです。
FDAスタイルのアプローチは現在のAI市場の抱える情報的側面の負のインセンティブを是正する可能性がある
現在のAI市場はステイクホルダー間の情報交換がされておらず、非常に不透明な点の多い市場になっています。それだけでなく、どこまでが関係者であるかも非常に難しいです。加えて言えば、このような中で説明責任や安全性のための介入は非常に制度するのが難しいです。これはFDAの生まれる前の製薬業界にはありました。AI市場においても、薬などのようにはっきりとした関係性の定義と関係各所の間のコミュニケーションが必要なのです。これがなければ、一般人への不利益が大きくなってしまいます。
FDAのようなアプローチはAI市場において従来の規制を超えて大企業に喧嘩を売るくらいの勢いが必要である
FDAは医薬品の販売の許可を出しています。そしてその気になれば保険適用外にすることもできる。これは市場にとっては非常に大きなパワーとして立ちはだかります。企業内部のガバナンスが機能しなくても、彼らが市場をきちんと規制するのです。このような大きな立場はAIの市場にはまだ存在しません。
運営資金の獲得の方式がその規制の効力や市場の掌握に関わる
現在はFDAは薬などのレビューの対象となる企業からの支払いによって運営されています。逆に言えば、FDAは彼らに会計責任を持っており、その活動に影響を与える可能性があります。これはAIの規制に関しても言えるでしょう。このようにFDAスタイルのAIの法整備は非常に今後の行政との関わりに関して企業や研究者目線としても面白いものとなっています。
2. FTC for AI
もし経済学を少しでも高等教育機関で学んだことがあれば、アメリカのanti-trust の歴史は非常に面白いトピックだと思います。さて彼らはAI市場に対してどのような規制や統制をもたらす可能性があるのか。少し見てみましょう。
Milmo(2024)のこんな記事からお話を始めましょう。彼女は Lina Khan、連邦取引委員会（FTC）のヘッドを務める方です。彼女はバイデン政権の先鋒として消費者保護の活動を行っています。彼女は2017年にイエールを卒業し、その際になぜアメリカのビッグテックへの政治は失敗しているのかを論じたものを書いています。彼女はその論文を書いた4年後バイデン政権のFTCのヘッドの任を受けます。
バイデン政権が求めたのは新しい反トラストへの政権のスタンスでした（記事中では反トラストの姿勢が描かれた大統領令をを補足しています）。その隊長としてKhanは有名となりました。現在のアメリカ社会は非常に寡占が進んだ市場となっています。この中で近年の政権は非常にそのM&Aなどの取引への監視を強めています。1
例えば彼女はNvidiaによるArmの買収のリクエストを棄却しました。(Leswing 2024)このような姿勢は党派を超えて支持されているようです。ただし、彼女にはマネジメント上の課題があるのではないかという指摘があります。そのような批判がありながらも、彼女が力強く進んでいるのはそのバックグラウンドにありました。
Barry Lynnに師事した彼女は、Lynnの反トラストの姿勢を吸収しました。彼女は早い段階からアマゾンの脅威について唱えたレポートを執筆しました。彼女はその価格効果を超えた、力について非常に強い関心を示していました。
バイデン政権は高いイフレーション率などを背景に独占に近い状態の大企業に対しての対決姿勢をあらわにしています。このような状態において、AIのような一番良いプロダクトが独占できる市場に対してどのようにアプローチをするのでしょうか。
"“If you look at the history of America, it’s been a history of a struggle between monopolies and democracy,” said David Cicilline, a former Democratic congressman who chaired the House Judiciary committee’s antitrust panel."
もし独占と民主主義で揺れるアメリカの歴史に倣うのであれば、ひょっとするとAI規制もKhanの元で競争政策的に積極的に行われるかもしれません。
Ref
A.I. Now Institute. (2024). What can we learn from the FDA model for AI regulation? A.I. Now Institute. Retrieved March 24, 2024, from https://ainowinstitute.org/publication/what-can-we-learn-from-the-fda-model-for-ai-regulation
Leswing, K. (2024, February 27). FTC Chair Lina Khan Takes Victory Lap on Blocking Nvidia-Arm Merger. CNBC. https://www.cnbc.com/2024/02/27/ftc-chair-lina-khan-takes-victory-lap-on-blocking-nvidia-arm-merger.html
Milmo, D. (2024, March 9). Lina Khan: the antitrust enforcer taking on America's mightiest monopolies. The Guardian. Retrieved March 24, 2024, from https://www.theguardian.com/us-news/2024/mar/09/lina-khan-federal-trade-commission-antitrust-monopolies?CMP=share_btn_url
Sitaraman, Ganesh, & Foster, Natalie. (2024, March 13). Opinion | How States Can Keep Big Tech from Dominating AI. POLITICO. https://www.politico.com/news/magazine/2024/03/13/states-big-tech-ai-00146338
AI Alignment Talk from Japanでは毎週ニュースレターをお届けします。ニュースレターを受け取りたい方はこちらからSubscribeよろしくお願いいたします！
Subscribed
Xのフォローはこちらから！
連邦政府の動きに連動して、カリフォルニア州やニューヨーク州ではクラウドの料金を調整するような法整備や研究機関と連携して公的なクラウドの提供を行なっている。