SNSが分断を生み、AIは市民を監視する...ITがもたらした「反社会的な脅威」

ITは過去10年で、社会の分断を招く「反社会」的な力と、監視と統制を強化する「中央集権」的な力の二方向から民主主義を脅かしている――。ITがもたらした複合的な脅威とは?

台湾の初代デジタル発展省大臣オードリー・タンとマイクロソフトの首席研究員にして気鋭の経済学者グレン・ワイルという世界のトップランナーが提唱する、新たな社会のビジョン「プルラリティ/多元性」について詳説した書籍『PLURALITY』より解説する。

※本稿は、オードリー・タン、E・グレン・ワイル、山形浩生（翻訳）、⿻コミュニティ『PLURALITY　対立を創造に変える、協働テクノロジーと民主主義の未来』(ライツ社)を一部抜粋・編集したものです。

ITによる民主主義への攻撃

過去10年にわたり、ITは正反対の2つのやり方で、民主主義を脅かしてきた。だがその2つのやり方は、相互に関連し合っている部分もある。

ダロン・アセモグルとジェームズ・ロビンソンの有名な議論によれば、自由な民主主義社会は社会崩壊と専制主義との間の「狭い回廊」に置かれている(※1)。ITは両側からその回廊を狭め、自由な社会の可能性を押し潰しているのだ。

片やIT（たとえばソーシャルメディア、暗号化技術などの金融技術）は社会の仕組みを破壊し、人々の意見をますます極端に走らせ、規範を潰し、法執行を無力化し、金融市場の速度と到達範囲を拡大する。これでITは民主政治の手の届かないところに行ってしまったと思われている。こうした脅威を「反社会」と呼ぼう。

他方でIT（たとえば機械学習、基盤モデル、IoT）はますます中央集権的な監視能力を強化している。少数のエンジニアたちが、何十億もの市民や顧客の社会生活ルールとなるシステムのパターンを作り上げてしまっているため、人々が自分の生活やコミュニティ形成に、まともに参加できる範囲が狭まっている。この脅威を「中央集権」と呼ぼう。

いずれの脅威も民主主義の核心を攻撃している。アレクシス・ド・トックヴィルが『アメリカの民主主義(※2)』で述べたように、深く多様で、非市場的で分散化した社会市民的なつながりがないと、民主主義は機能できないからだ(※3)。

ITがもたらす反社会的な脅威

最近のITがもたらす反社会的な脅威には、社会的、経済的、政治的、法的、実存的な側面がある。

・社会的な側面：ソーシャルメディアはこれまで社会的に孤立していた人々（たとえば保守的な地域における性的、宗教的なマイノリティ）がつながり合うための強力な新しいプラットフォームを提供してくれた。だが各種調査を見ると、平均としてそうしたツールはむしろ社会的孤立や疎外感を悪化させている(※4) 。

・経済的な側面：インターネットと在宅勤務の増大がもたらす地理的、時間的、副業の容易さといった柔軟性は、開発途上国や、伝統的な労働市場におさまりにくい労働者の機会を広げてくれた。だがこうした仕組みの便益を労働者が享受するための、適切な労働市場制度（たとえば労働組合や労働規制）はほとんど生まれていない。このため職場の不安定性が高まり、多くの先進国で中産階級の「空洞化」をもたらした(※5)。

・政治的な側面：多くの先進民主主義国では、人々の見解が極端なものに走り、過激政党が躍進している。ソーシャルメディアの影響については多くの研究が行われているが、当初は人々の違いを超えた社会的、政治的な絆を強化できると思われていたにもかかわらず、特にアメリカでは2000年以来のポピュリスト的な社会の分断と双極化をもたらした可能性が指摘されている(※6)。

・法的な側面：過去数十年における金融イノベーションの拡大は、消費者への明らかな便益を（リスク削減、資本配分、融資アクセスの面で）あまりもたらしていない。むしろ金融システムの相当部分でリスクを増やし、各種の金融不安を抑える規制レジームに逆らい、それを迂回するために使われてしまっている(※7)。

最も顕著な例は、住宅金融をとりまくイノベーションがもたらした2008年の金融危機だし、（局所的とはいえ）最も極端な例はデジタル「暗号」資産や通貨をめぐる最近の活動だろう。既存の規制レジームが対応できていないため、これは投機、ギャンブル、詐欺、規制逃れや脱税など反社会活動の機会を増大させている(※8)。

・人類存続にかかわる側面：社会的に重要なものを見極め、それに集団として対処する能力が分断され、そのため大量破壊をもたらす技術の発達に対抗できない。そうした破壊技術は環境荒廃（たとえば気候変動、生物多様性の喪失、海洋酸性化）から、もっと直接的な兵器（たとえば偏向した人工知能やバイオ兵器）による破滅の可能性までさまざまだ(※9)。

政府の統制を強め、権力を集中させる

しかしITは、このように民主社会のまとまりを弱めるだけではない。一方では政府の統制を強め、少数の民間アクター（訳注：行為者、当事者といった意味）集団の手に権力を集中させることで民主主義を脅かす側面も、ますます強まっている。

・社会的な側面：情報技術の最も一貫した影響は、情報提供を拡大化し、加速化したことだ。おかげで私生活の領域が劇的に侵食され、人々の広い活動がますますデータ化されている。そうしたデータにはさまざまな利用法があるだろう。

しかしそのデータは万人が使えるわけではないし、大量のデータから使い物になる情報を抽出するには、大規模な統計モデル（つまりAI）が必要となる。データにアクセスできて、モデルへの投資能力を持つものは、一部の企業や組織に限られてしまう。

さらに、これらのモデルもデータと資本を大量に使うことで大幅に改善するので、そうした企業や組織を擁する社会は、いわゆる「AI競争」でも優位に立てるため、あらゆる社会でそうした情報権力の集中を可能にすべきだという圧力が生じている(※10)。この圧力のため、空前の監視システムと情報の流れへの中央集権的な統制が当然なのだという気運が生まれている。

・法的な側面：最近のAIの進歩により、民主主義社会の基盤となる重要な権利が侵害されている。そしてそのAIが何をするかについての重要な選択を行うのは、似たような社会的出自を持つ限られたエンジニアたちに委ねられている。

知的財産法などの創作活動保護は、大規模AIモデルがコンテンツを「リミックスして置き換え」てしまえるため、有名無実化している。プライバシー保護は情報の爆発的な拡大に追いつけていない。ブラックボックス化したAIシステムは、具体的に何をしているかはっきりしないため、反差別法も嘆かわしいほどこれに対応できていない。

こうした問題に対応できそうなエンジニアたちは、通常は営利企業や防衛産業で働いており、その多くはきわめて限られた教育および社会的な出自となっている（通常は白人かアジア人で、男性、無神論者、教育水準が高い等）。これでは社会の広範な意志を統治に反映させようという、民主的な法レジームの中核的な信条は脅かされかねない(※11)。

・経済的な側面：AIやITは1980年代半ば以来、（特に教育水準の低い人々の）人間労働を補うのではなく、むしろ人間労働をAIやITに置き換える傾向が広く見られる。このため過去数十年で、労働の所得シェアは下がり、資本に蓄積する所得シェアが劇的に上昇する中心的な要因となっているという。これは先進国における所得格差増大の主な原因とされる(※12)。

世界中で見られる市場支配力、利ざやの増大、そして（あまり一貫してはいないが）産業集中も、この労働の所得シェア低下に伴って生じている。これはIT化の最も進んだ国や産業部門で顕著なのだ(※13)。

・（地）政治学的な側面：こうした力は専制主義諸国や、反民主主義的な政治運動を強化した。人工知能などの大規模データ処理ツールは、大量監視を可能にするし、それが可能だからこそ各種政府は大量監視をしたくなってしまう。おかげでこうしたツールは、政府による検閲と社会統制を維持しやすくする。

またITは経済の力と社会統制のレバーを少数の（通常は企業の）チョークポイントに集中させてしまい、それにより資本所得と市場支配力が高まると同時に、権力が少数のエンジニアに集中してしまう。おかげで間接的にせよ、専制主義レジームが、好きなときに経済と社会の「要衝」を操作または掌握しやすくなってしまう(※14)。

さらに、この2つの脅威は交差している。専制主義勢圏はますますSNSや暗号資産の「カオス」を利用して、民主国内部の分断や紛争を煽る。

中央集権化されたSNSプラットフォームは、AIを使って自社サービスへの利用者エンゲージメントを最適化し、誤情報と意見のクラスタリングを煽る結果となっている。

もちろん両者が積極的に補完し合っているわけではなく、多くの点で正反対の動機を持つことさえある。だが、どちらの力も民主主義社会に圧力をかけてそれに対する信頼を引き下げる点で同じであり、おかげで先進民主主義社会のほとんどで、人々の民主主義への信頼は計測開始以来の最低水準となっている(※15)。

しかし、本書ではこんな悲劇的な対立は必要ないものだと示す。ITと民主主義をきちんと理解すれば、この両者は天性の強力な同志になれる。

[注釈]

※1：Daron Acemoglu, and James A Robinson, The Narrow Corridor: States, Societies, and the Fateof Liberty. (New York: Penguin Books, 2020)〔 『自由の命運　国家、社会、そして狭い回廊』ダロン・アセモグル, ジェイムズ・A・ロビンソン著, 櫻井祐子訳, 早川書房, 2020〕

※2：Alexis De Tocqueville, Democracy in America, (Lexington, Ky: Createspace, 2013), https://www.gutenberg.org/files/815/815-h/815-h.htm〔 『アメリカの民主主義』アレキス・ド・トクヴィル著, 杉木謙三訳, 朋文社, 1957〕

※3：こうした関係は, 市場で作られるものとは違う. 市場での関係は,「普遍的」な通貨に基づく双方向的な取引的交換に基づいている. そうした通貨は, 局所的な価値と信頼に基づく単位による価値を表すものだ.

※4：Mary Gray, Out in the Country: Youth, Media, and Queer Visibility in Rural America (NewYork: NYU Press, 2009). また O’Day, Emily B., and Richard G. Heimberg, “Social MediaUse, Social Anxiety, and Loneliness: A Systematic Review,” Computers in Human BehaviorReports 3, no. 100070 (January 2021), https://doi.org/10.1016/j.chbr.2021.100070; さらにまた Hunt Allcott, Luca Braghieri, Sarah Eichmeyer, and Matthew Gentzkow, “The WelfareEffects of Social Media,” American Economic Review 110, no. 3 (March 1, 2020): 629–76. https://doi.org/10.1257/aer.20190658 も参照.

※5：Siddharth Suri, and Mary L Gray, Ghost Work: How to Stop Silicon Valley %om Building a NewGlobal Underclass, (Boston: Houghton Mifflin Harcourt, 2019). David H. Autor, “Why AreThere Still So Many Jobs? The History and Future of Workplace Automation”, Journal of Economic Perspectives 29, no. 3 (2015): 3-30, https://www.aeaweb.org/articles?id=10.1257%2Fjep.29.3.3&source=post_page.

※6：Steven Levitsky, and Daniel Ziblatt. How Democracies Die, (New York: Broadway Books,2018).; また Yascha Mounk, The People vs. Democracy: Why Our Freedom Is in Danger andHow to Save It, (Cambridge, Massachusetts: Harvard University Press, 2018); Cass Sunstein,#Republic: Divided Democracy in the Age of Social Media, (Princeton, New Jersey: PrincetonUniversity Press, 2017; Kathleen Jamieson, and Joseph Cappella, Echo Chamber: Rush Limbaugh and the Conservative Media Establishment, (Oxford, New York: Oxford University Press, 2008). Levi Boxell, Matthew Gentzkow and Jesse M. Shapiro, “Greater Internet Use is NotAssociated with Faster Growth in Political Polarization among US Demographic Groups” Proceedings of the National Academy of Sciences 114, no. 40: 10612-10617. Levi Boxell, MatthewGentzkow and Jesse M. Shapiro, “Cross-Country Trends in Affective Polarization” Review ofEconomics and Statistics Forthcoming も参照.

※7: Alp Simsek, “The Macroeconomics of Financial Speculation,” Annual Review of Economics13, no. 1 (May 11, 2021), https://doi.org/10.1146/annurev-economics-092120-050543.

※8：Ben McKenzie, and Jacob Silverman, Easy Money: Cryptocurrency, Casino Capitalism, and theGolden Age of Fraud, (New York: Abrams, 2023); “Financial Stability Board, “Regulation, Supervision and Oversight of Crypto-Asset Activities and Markets Consultative Document,”2022, https://www.fsb.org/wp-content/uploads/P111022-3.pdf; Greg Lacurci, “Cryptocurrency Poses a Significant Risk of Tax Evasion,” CNBC, May 31, 2021, https://www.cnbc.com/2021/05/31/cryptocurrency-poses-a-significant-risk-of-tax-evasion.html; Arianna Trozze, Josh Kamps, Eray Akartuna, Florian Hetzel, Bennett Kleinberg, Toby Davies, and Shane Johnson, “Cryptocurrencies and Future Financial Crime,” Crime Science 11, no. 1 (January 5, 2022), https://doi.org/10.1186/s40163-021-00163-8; Baer, Katherine, Ruud De Mooij, Shafik Hebous, and Michael Keen, “Crypto Poses Significant Tax Problems̶and They Could Get Worse,” IMF, July 5, 2023, https://www.imf.org/en/Blogs/Articles/2023/07/05/crypto-poses-significant-tax-problems-and-they-could-get-worse; and “Crypto-Assets: Implications for Financial Stability, Monetary Policy, and Payments and Market Infrastructures.”ECB Occasional Paper, no. 223 (May 17, 2019), https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3391055.

※9：Tristan Harris, “Ethics for Designers ̶ How Technology Hijacks People’s Minds ̶ from aMagician and Google’s Design Ethicist,” Ethics for Designers, March 4, 2017, https://www.ethicsfordesigners.com/articles/how-technology-hijacks-peoples-minds; https://www.youtube.com/watch?v=7LqaotiGWjQ; および Daniel Schmachtenberger, “Explorations on theFuture of Civilization,” n.d. https://civilizationemerging.com/.

※10：Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at theNew Frontier of Power, (New York, NY: Public Affairs, 2019); Cathy O’neil, Weapons of MathDestruction: How Big Data Increases Inequality and !reatens Democracy, (New York: Crown,2016); Evangelos Simoudis, The Big Data Opportunity in Our Driverless Future. (Menlo Park,Ca: Corporate Innovators, Llc, 2017); Philippe Aghion, Benjamin Jones, and Charles Jones,“Artificial Intelligence and Economic Growth,” 2017, https://web.stanford.edu/~chadj/AI.pdf; Ford, Martin, Rise of the Robots: Technology and the !reat of a Jobless Future, (New York:Basic Books, 2015); Kai-Fu Lee, AI Superpowers China, Silicon Valley, and the New World Order, (Boston: Houghton Mifflin Harcourt, 2018); David Brin, The Transparent Society: WillTechnology Force Us to Choose between Privacy and Freedom? (New York: Basic Books, 1999);Safiya Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York:New York University Press, 2018); および Virginia Eubanks, Automating Inequality: HowHigh-Tech Tools Pro#le, Police, and Punish the Poor, (New York: St. Martin’s Press, 2018).

※11：Meredith Broussard. Arti#cial Unintelligence: (Cambridge, Massachusetts: The MIT Press,2018), https://doi.org/10.7551/mitpress/11022.001.0001; Cathy O’neil, Weapons of MathDestruction: How Big Data Increases Inequality and Threatens Democracy, (New York: Crown,2016); Ruha Benjamin, “Race after Technology: Abolitionist Tools for the New Jim Code,”Social Forces 98, no. 4 (December 23, 2019), https://doi.org/10.1093/sf/soz162; Victor Margolin, The Politics of the Arti#cial: Essays on Design and Design Studies, (Chicago: The University of Chicago Press, 2002).

※12：Daron Acemoglu, and Pascual Restrepo, “The Race between Man and Machine: Implications of Technology for Growth, Factor Shares, and Employment,” American Economic Review 108, no. 6 ( June 2018): 1488–1542. https://doi.org/10.1257/aer.20160696; Jonathan Haskel, and Stian Westlake, “Capitalism without Capital: The Rise of the Intangible Economy (an Excerpt),” Journal of Economic Sociology 22, no. 1 (2021): 61–70, https://doi.org/10.17323/1726-3247-2021-1-61-70; Ajay Agrawal, Joshua Gans, Avi Goldfarb, and Catherine Tucker, The Economics of Arti#cial Intelligence, (Illinois: University of Chicago Press,2024).

※13：Jan De Loecker, Jan Eeckhout, and Gabriel Unger. “The Rise of Market Power and the Macroeconomic Implications,” The 'uarterly Journal of Economics 135, no. 2 (January 23, 2020):561–644, https://doi.org/10.1093/qje/qjz041; John Barrios, Yael V. Hochberg, and Hanyi Yi. “The Cost of Convenience: Ridehailing and Traffic Fatalities,” SSRN Electronic Journal, 2019, https://doi.org/10.2139/ssrn.3361227; and Tali Kristal, “The Capitalist Machine: Computerization, Workers’ Power, and the Decline in Labor’s Share within U.S. Industries,” American Sociological Review 78, no. 3 (May 29, 2013): 361–89. https://doi.org/10.1177/0003122413481351.

※14：Kai-Fu Lee, AI Superpowers China, Silicon Valley, and the New World Order, (Boston Houghton Mifflin Harcourt, 2018); Bruce Dickson, The Dictator’s Dilemma: The Chinese Communist Party’s Strategy for Survival, (Oxford, England, New York: Oxford University Press, 2016);Nick Couldry, and Ulises Mejias, “Data Colonialism: Rethinking Big Data’s Relation to theContemporary Subject,” Television & New Media 20, no. 4 (September 2, 2019): 336–49. Steven Feldstein, The Rise of Digital Repression: How Technology Is Reshaping Power, Politics, andResistance, (New York: Oxford University Press, 2021).

※15：Richard Wike and Jannell Fetterolf, “Global Public Opinion in an Era of Democratic Anxiety” Pew Trust Magazine May 27, 2022. 皮肉なことだが, 国家が技術統制能力をあまり持たない, 脆弱な民主主義国では, カオス( 転覆的な技術を通じた既存秩序の崩壊) は民主主義に味方することもある. 2010 年代に北アフリカを席巻したアラブの春から, 2020 年ナイジェリアの#EndSARS 運動まで, 専制主義国や脆弱な民主主義国は, SNS に明るく, 金融技術( フィンテック) を活用し, 暗号資産に後押しされた若い市民階級が台頭し, そうした技術を使って専制主義国制度に挑んでいる. こうした転覆者たちはIT 企業のアルゴリズムに支援を受けている. ただし, そうした社会運動の目的がそうした企業の商業利益と整合している限りにおいてのことではある. Michael Etter and Oana Albu, “Activists in the Dark: Social Media Algorithms and Collective Action in Two Social Movement Organizations.” Organization 28, no. 1 (September 29, 2020): 135050842096153. https://doi.org/10.1177/1350508420961532. そうした運動は影響力の強い創業者の明示的な肯定と支援により促進されることもある. Jack Dorsey (@Jack) “Donate via #Bitcoin to help #EndSARS NG…,” X, October 14, 2020, 10.05pm, https://twitter.com/jack/status/1316485283777519620? こうした介入は確かに民主主義運動を支援し, そうでなくても抑圧されていた市民たちの声を増幅する. しかしそうした外国からの介入は, 文脈についての乏しい理解に陥りがちで, 分断をもたらしかねないうえ, アフリカ, ひいてはグローバルサウスにおける国家独立主権に対する, グローバル企業などの非国家アクターたちの影響力を改めて示すものでもある.Ohimai Amaize, How Twitter Ampli#ed the Divisions that Derailed Nigeria’s #EndSARS Movement, Slate Magazine, April 20, 2021, https://slate.com/technology/2021/04/endsarsnigeria-twitter-jack-dorsey-feminist-coalition.html.