SNSの利用で、あなたの思想や行動が操作されている可能性

アジアで爆発的に影響力を増すSNS。民間企業が国家を操作する？

筆者は以前、『公開法廷 一億人の陪審員』（2017年10月、原書房）という小説で人工知能とネット世論操作システムを利用して社会が管理される近未来を描いた。その未来はすぐそこまで来ている。

社会からの要請の増大もＳＮＳ企業の社会的影響力増大に一役買っている。これらのプラットフォームを持つＳＮＳ企業はヘイトやフェイクニュースをチェックするよう社会から求められている。

それだけを聞くと当然のことのように思えるが、よく考えるとそれは彼らに差別や事実の判断を委ねるということに他ならない。ＳＮＳ企業に判断を委ねるということは文化的な支配、少なくとも莫大な影響力を与えることにつながる。

2018年9月28日の『フェイスブックがミャンマー、フィリピン、スリランカの市民組織と国際的なフェイクニュース問題について議論するための会議を開催（Facebook Just Met With Reps From Myanmar, The Philippines, And Sri Lanka To Discuss Its Global Misinformation Problem）』（BuzzFeed News）という記事。

ここではフェイスブックが、増大するフェイクニュース問題を解決するため、国ごとの状況に合ったポリシーを定め、それに従った運用を行う方針になったことが伝えられている。

もっともらしく聞こえるが、民間のＳＮＳ企業が各国の倫理基準を設定してよいのかという問題がある。

アジア各国の状況を見る限り、いくつかの国ではフェイスブック（および傘下のWhatsApp）の政治や社会への影響力は巨大だ。国別に対応するということは為政者側の方針への姿勢を明示することになりかねない。

政権が差別を助長、推進している国で、フェイスブックのポリシーがそれを受け入れるのか、受け入れないのかで、その国の状況は大きく変わる。
言葉を換えるとフェイスブックはポリシー設定を操作することでその国の政治や社会をある程度コントロールできることになる。カンボジアやミャンマーで起きたことを見れば、それがすでに現実になっていることがわかる。

地域もＳＮＳ企業と連携するようになってきた。彼らがハイブリッド戦のプレイヤーとして戦争に参加する可能性は高まっている。現段階でも“フェイスブックの悪魔”は世界各地を混乱に陥れており、その延長線上には継続的な影響力の行使と搾取（つまり支配）があると考えるのは筆者だけだろうか？
 

人間関係もAIに管理される日が近づいた

余談であるが、ラストワンマイルの人工知能エージェント（SiriやAlexaなど）のシェアを特定の企業が握った近未来を描いた小説『ウルトラハッピーディストピアジャパン』（星海社）を書いたことがある。

より効率的なコミュニケーションのためエージェント同士が会話してものごとが進められるようになる。たとえば日程調整などは人間がいちいちやらずとも、エージェントに依頼すると相手のエージェントと勝手に連絡を取り合って候補日を決めてくれる。

参加したくない会を断るのに、うまい理由を考える必要もない。エージェントには感情はないから簡単に断ってくれるし、相手には相手のエージェントが軟らかく不参加を伝えてくれる。

ただし、そうなるとエージェントは事実上持ち主の人間関係を管理することになり、持ち主が本当の理由を知らないままエージェントのやりとりだけでものごとが決まってゆく。そしてエージェントをコントロールしているのはＳＮＳ企業なのだ。