AI Alignment Talk from Japan No.9

ライター：泉川茉莉

こんにちは！AI Alignment Talk from Japanの泉川です。

本日取り上げるのはアメリカのテクノロジー規制で大きな転換点となるTikTok規制法案です。アメリカ議会でどのようにしてTikTok規制の話し合いが進んできたのかを理解することはAIを含むテクノロジーのガバナンスと国際政治情勢や外交関係の密接な関わりを理解することでもあります。今回の「脆い共存」（Fragile Coexistence）をテーマに、米中関係がAIガバナンスに与えうる影響、さらには国際政治のなかの「AIアライメント」を考えていきます。

---

なぜTikTokを禁止しようとしているのか

動画投稿SNSアプリTikTokは若者を中心に人気を誇っています。アメリカ政府はTikTok(Ltd.)の親会社である中国企業ByteDanceに対し、TikTok(Ltd.)を270日以内に中国以外の国の企業に売却しなければアメリカでのTikTokアプリの利用を禁止する法案を4月13日に下院で¹、4月23日に上院で可決させ²、バイデン大統領が署名したことで法案成立となりました³。法案で求められているTikTok(Ltd.)の非中国企業への売却には中国当局の承認が必要で、これを中国政府が拒否すると明言していることから⁴、米国内でのTikTokアプリの利用禁止が現実的になってきています。

法案可決に際した米議会議員の主な問題意識は情報漏洩と情報操作でした。中国の国家安全保障法により、TikTok(Ltd.)は要請されればデータを政府に提供する義務があります⁵。アメリカでは1億7000万人のTikTokユーザーがおり⁶、米政府は国民の個人的なデータが不用意に中国政府に渡ることを重大な問題として捉えています。さらに、昨年の公聴会でFBIのレイ長官が「中国政府が、アプリを通じて、台湾問題などをめぐり、アメリカを分断する情報操作を行う可能性がある」などとし⁷、米政府内では情報操作の面でも不安が広がっていました。

これらの懸念に対し、TikTok(Ltd.)のショウ・チュウCEOは昨年の公聴会でTikTok(Ltd.)が中国から独立しており、米国のユーザーデータは米国内で米国企業によって保管されているとした上で、それらのデータに中国政府がアクセスした証拠は確認できないと述べました⁸。また、チュウCEOはTikTokアプリ上で流れる情報を理由に利用を制限することは、アメリカ合衆国憲法修正第1条（First Amendment）の表現の自由を妨げる行為であるとし、全面的に法廷で争う構えを示しました⁹¹⁰。

---

TikTok規制の意味合い

今回のTikTokアプリ規制法案成立から外交関係がテクノロジーの開発・利用のあり方に及ぼす影響が見て取れます。具体的には、アメリカ政府は国内ユーザーのデータの権限を敵対国と繋がりのある企業には渡せないというスタンスを示しています。安全保障の観点から言えば一見筋の通った理由にも聞こえます。例えばアメリカを含め多くの国では外国人（企業）による国内の放送会社の所有を制限する法律があります¹¹。近年規制は多少緩和されているとはいえ、アメリカではメディア企業の株式を購入するために連邦政府の許可が必要となります¹²。TikTokをテレビに変わる新しい情報源と捉えるなら、メディア会社の所有制限同様、外国アクターのコントロールを制限するという動きは当然に思えます。

一方で今回のTikTok規制法成立は「外交問題によってグローバルなテクノロジーがグローバルでなくなってしまうリスク」を示唆しているのではないでしょうか。米中対立によって影響を受けてきたテクノロジーは他にもあります。例えばインターネット。本来世界中の人々を結びつけるために設計されたテクノロジーであったはずですが、政府や企業がアクセスを管理・制限することで分断が生じ¹³¹⁴、スプリンターネット（Splinternet、Divided Internetとも。）が出来上がってしまいました。多国間のいつ対立が深まるかがわからない「脆い共存」のなかで、AIアライメント研究は何を考え、それぞれのアクターの立場にどう対応していけば良いのでしょうか？

---

AIアライメントの視点から

外交関係において影響を受ける技術として、AIも例外ではありません。AIに関する法律の指針がが米中（または広く欧米対中国）で分断してしまえば、世界的に利用できるAGIの開発は困難になるでしょう。それだけでなく、TikTok規制法の軸にあったような国内ユーザーのデータの利活用に対する規制により一部のユーザーの価値観には整合していても一部のユーザーに対して排他的なAGIが登場する可能性も否めません。

近年、米中間ではAI活用に対する対話が進みつつあります。アメリカの政府活動シンクタンクブルッキングス研究所によれば、過去5年間に渡り、国家安全保障におけるAIの利用に関して米中間で定期的な会合が行われているとあります¹⁵。2023年11月にはカリフォルニアでバイデン大統領と習近平総書記がAIに関する競技のための二国間チャンネルを築く発表をしました¹⁶。これらの動向から両国がAIに対する立場を揃えようとする姿勢が垣間見えます。

しかし、今後両国の対立が深まった時、AGIの開発はよりローカライズされ、アライメントで扱う価値観も地域によって分化が進んでいくのでしょうか？それは果たして人類にとって有益なことなのでしょうか？第1回のニュースレターで言及があるように、すでに世界的に、独立したAI（Sovereign AI）に投資する動きがあります。「AIの原材料であるデータは自国で自国のために価値のあるものに変えていく」という流れは各地で広がっています¹⁷。そのような流れは対立を避けるには好都合と見なされ、各国はお互いのAIガバナンスに干渉しない孤立主義の姿勢を強めていくのでしょうか？「脆い共存」のなかでテクノロジーをめぐる平和と対立、合意と不干渉のバランスをどう取るかが問われています。

---

余談〜AIアライメントの中の政治を考える

テクノロジーの背後にはユーザー、開発者、開発企業、親会社、資金提供者、政府など様々な関与者が存在します。使う人の生活を豊かにしたいという純粋な気持ちで開発されたテクノロジーであっても、その開発者や開発企業の思惑や親会社、政府との関連を探っていくとそのテクノロジーは政治性を持ち始めます。こと国家間の対立のなかでテクノロジーを扱うとなると、テクノロジーはその軍事的な利活用の可能性や人々の思考への影響力のせいで「政治の道具」としての扱いを受けます。

もちろん国家の安全を守るという使命を持った人ならテクノロジーが政治の道具として悪用されているリスクを考えないわけにはいきません。しかし、そのような考え方だけでは本来テクノロジーが持っている「人々の生活を豊かにする」という可能性が埋もれてしまうのではないでしょうか。

AIアライメントに関わる人間としてテクノロジーを取り巻く政治にはアンテナを立てておくことが大切です。その反面、アライメント研究者に政治を持ち込むことには慎重になる必要がありそうです。AIアライメントを語る上で、研究やガイドラインが発表されている国、または著者の国籍によって自分の批判的考察のレベルは変わっていないか？政治的な考えに基づいたアライメント研究での確証バイアスは存在しないか？AIアライメントは人の考え・価値観を扱う流動的で主観的な学問だからこそ再帰的（Reflexive）になることが大切なのかもしれません。

1.  BBC「米下院、TIkTokのアメリカでの利用禁止できる法案を可決」https://www.bbc.com/japanese/articles/c3gjdj1n85yo（2024/3/14)

2.  AP "Senate passes bill forcing TikTok’s parent company to sell or face ban, sends to Biden for signature” https://apnews.com/article/tiktok-ban-congress-bill-1c48466df82f3684bd6eb21e61ebcb8d (2024/4/24) 

3.  BBC "TikTok vows to fight `unconstitutional’ US ban” https://www.bbc.com/news/articles/c87zp82247yo (2024/4/23)

4.  BBC「米下院、TIkTokのアメリカでの利用禁止できる法案を可決」https://www.bbc.com/japanese/articles/c3gjdj1n85yo（2024/3/14)

5. ibid.

6.  NewYork Times "'Thunder Run’: Behind Lawmakers’ Secretive Push to Pass the TikTok Bill” https://www.nytimes.com/2024/04/24/technology/tiktok-ban-congress.html (2024/4/24)

7.  NHK「なぜダメなの？TikTok 世界に広がる禁止包囲網」https://www3.nhk.or.jp/news/html/20230317/k10014011251000.html (2023/3/17)

8.  CNN "TikTokのCEOを厳しい質問攻め、米公聴会での初証言に見る5つのポイント” https://www.cnn.co.jp/tech/35201688.html（2023/5/4)

9.  日経新聞「米国のTikTok規制、「表現の自由」巡る法廷闘争へ」https://www.nikkei.com/article/DGXZQOGN23EFW0T20C24A4000000/ (2024/4/26)

10.  CNBC News “TikTok CEO Shou Chew says fight over ban will head to court: ‘We aren’t going anywhere’” https://www.nbcnews.com/tech/social-media/tiktok-ceo-shou-chew-says-fight-ban-will-head-court-rcna149178 (2024/4.25)

11.  NewYork Times HardFork “TikTok on the Clock, Tesla’s Flop Era and How NASA Fixed a ‘70s-Era Space Computer’ https://www.nytimes.com/2024/04/26/podcasts/hard-fork-tiktok-tesla-voyager.html?showTranscript=1 (2024/4/26)

12. ibid.

13.  Internet Society "US, EU, and G7 Commitment Will Slow the Splinternet, But More Work Needed” https://www.internetsociety.org/blog/2022/04/us-eu-and-g7-commitment-will-slow-the-splinternet-but-more-work-needed/ (2022/4/14) 

14.  Deborah Lynn Blumberg “3 Ways the ‘splinternet’ is damaging society’” https://mitsloan.mit.edu/ideas-made-to-matter/3-ways-splinternet-damaging-society (2023/6/14)

15.  Brookings "Laying the groundwork for US~China AI dialogue" https://www.brookings.edu/articles/laying-the-groundwork-for-us-china-ai-dialogue/ 2024/4/5

16.  Brookings “A roadmap for a US-China AI dialogue” https://www.brookings.edu/articles/a-roadmap-for-a-us-china-ai-dialogue/ 2024/1/10

17. NVIDIS "What is Sovereign AI?"https://blogs.nvidia.com/blog/what-is-sovereign-ai/ (2024/2/28)

事例としては国有の電気通信プロバイダーや電力会社と協力して独立した AI クラウドを調達・運用している企業やローカルなローカル データセットでトレーニングされた大規模言語モデルが挙げられる