世界はもう、同じ形をしていない

BPで検索した二人の女性

2010年の春、メキシコ湾で石油掘削施設「ディープウォーター・ホライズン」が爆発し、史上最悪級の原油流出が続いていた。その頃、ネット活動家のイーライ・パリサーEli Pariser
1980年生まれのアメリカの活動家・作家・起業家。MoveOn.org元事務局長、Avaaz共同創業者、Upworthy共同創業者。2011年の著書『The Filter Bubble』とTED Talkで同名概念を世に出した。は、友人二人に頼んで同じ実験をしてもらった。Google で「BP」(ブリティッシュ・ペトロリアム、メキシコ湾で事故を起こした当事者であり、世界的な石油メジャーの一つ)とだけ検索し、最初の1ページ目のスクリーンショットを送ってほしい——ただそれだけのことだった。

二人は年齢も学歴も政治的傾向も似ていた。けれど、返ってきた画面は別物だった。片方のトップには、流出事故と環境被害のニュース。もう片方のトップには、BP株の投資情報が並んでいた。同じ検索窓、同じキーワード、同じ国、同じ日。違うのは、画面を見ている人間の過去のクリック履歴だけだ。

Eli Pariser

Activist · Author

1980年生まれ。政治活動家であり起業家。MoveOn.org元事務局長、Avaaz・Upworthy共同創業者。2011年の著書『The Filter Bubble』と同年3月のTED Talkで同概念を世に出した。現在はNew_ Public共同代表として「民主主義と親和的なデジタル公共空間」の設計に取り組む。Wikipedia →
Photo: Al Diaz / Knight Foundation, CC BY-SA 2.0

パリサーはこれに「フィルターバブル」という名前をつけた。個人化アルゴリズムが、ユーザーの過去の行動履歴から好みを推定し、見せる情報を自動的に絞り込む。ひとりひとりの周りに、目に見えない情報の泡が膨らんでいく。泡の中にいる限り、その壁は感じられない。泡は壁だと気づいたときには、もう外の景色がどうなっていたか思い出せなくなっている。

似た警告は、実はもう少し前からあった。法学者のキャス・サンスティーンCass Sunstein
アメリカの法学者。ハーバード大学教授。行動経済学・法と公共政策の研究で知られ、2001年の著書『Republic.com』でインターネットが「エコーチェンバー」を生むと警告した。Pariserの『The Filter Bubble』(2011)の10年前。は2001年の著書『Republic.com』で、ネット時代の人は自分の好きな意見だけを集めた「共鳴室(echo chamber)」に閉じこもるようになる、と警告していた。ふたつの概念はよく似ていて、実際ほとんど同じ意味で使われている。だが、厳密には指しているものが違う。

フィルターバブルは、自分では壁を作っていない。アルゴリズムアルゴリズム
問題を解くための手順。ここでは、ユーザーの過去のクリックや滞在時間などのデータから、次にどの情報を上位に出すかを決める計算ルールのこと。推薦システムの中核。が過去の選択的接触選択的接触(selective exposure)
社会心理学の用語。自分の既存の意見を支持する情報を優先的に選び、反する情報を避ける傾向のこと。1960年代から研究されている基本的な人間の習性。のパターンから「たぶんこれが好き」と推定し、気づかないうちに壁を建てる。一方エコーチェンバーは、自分で友達を選び、自分でアカウントをフォローし、自分で居心地のいい部屋に入っていく。どちらも結果としては同じ場所に着地する——異論が届かない場所に。

誰がバブルを作っているのか

どうして、そもそも情報の偏りが生まれるのだろう。答えの半分は、人間の古い習性の中にある。社会学では昔から「同質性同質性(homophily)
社会学の概念。人は自分と似た属性・意見・趣味の他者と結びつく傾向がある、という現象。友人関係、結婚、SNSのフォロー関係、どれにも強く見られる。「類は友を呼ぶ」の学術版。」と呼ぶ。人は、自分と似た人と結びつきやすい。似た政治観、似た趣味、似た語彙、似た笑いのつぼ。SNS時代にそれが始まったわけではなく、中学校の教室でもそうだった。変わったのは、好きな人たちだけで閉じた空間を作るコストが、ほぼゼロになったことだ。

同じ意見の人だけで固まっているネットワークでは、誰かが何かを投稿すると、それが同じ色の点の間で何度も拡散する。反対意見は、そもそも到達しない。検索エンジンや推薦システムは、この人間の傾向を「入力データ」として受け取っている。ユーザーが似た色の記事ばかりクリックすれば、アルゴリズムは「この人には似た色を優先的に出そう」と学習する。ここに、技術と習性のフィードバックループが立ち上がる。

ひらたく言えば、アルゴリズムが一方的にバブルを作っているわけではない。アルゴリズムは、自分のクリックを反射して返してきているだけだ。鏡は、覗いた人の顔を映しているにすぎない。けれど、映されたものが次の自分の選択を決め、その選択がまた次の表示を決める。鏡は、やがて自分で像を歪ませ始める。

10ラウンドで、あなたの世界は変わる

ここで、自分の指で泡を膨らませてみてほしい。下のシミュレーターは、9つのニュース記事を並べる。中には中立のもの、やや左寄りのもの、やや右寄りのものが等分に混ざっている。あなたは「読んでみたい」と思うものを、毎ラウンド1つだけクリックする。

クリックされた瞬間、裏側のアルゴリズムは静かに学習する。次のラウンドでは、あなたが前に選んだ種類の記事が、ほんの少しだけ多めに出る。もう1ラウンド進むと、もう少し多めに。10ラウンド回したとき、フィードは最初の姿とどれほど違っているだろう。

自動で回すボタンを押すと、最初のクリックで選んだ色を毎回選び続けるユーザーの挙動を10ラウンド分一気に再生する。ほとんどの場合、最初はほぼ等分だった分布が、最後には3分の2以上が同じ色に染まっている。ここで注目してほしいのは、アルゴリズムが極端に強い設定をしているわけではないということだ。毎ラウンドほんの少しずつ好みに寄せているだけで、10回重ねれば、景色はここまで変わる。

もうひとつ、試してほしいことがある。リセットしたあと、今度はわざと反対側をクリックし続けてみる。泡は、壊せるだろうか。動かしてみるとわかるが、少しの逆流では足りない。泡を元に戻すには、同じ回数だけ反対を選び続けなければならない。壁の外に出るのは、壁の中に入るより何倍も意志の力が要る。

犯人はアルゴリズムではなかった

2015年、Facebook のデータサイエンティストたちが Science 誌に論文を出した。著者はエイタン・バクシー、ソロモン・メッシング、レイダ・アダミック。自分たちの政治的立場を明示している米国のユーザー 1,010 万人を対象に、友人が共有したニュース、Facebook のニュースフィードが実際に表示したニュース、そして本人がクリックしたニュースの3段階を調べた。目的はひとつ——フィルターバブルは本当に存在するか。

結果は、技術決定論を信じたい人には不都合なものだった。友人ネットワークが共有したニュースと比べて、Facebook のアルゴリズムは異なるイデオロギーのニュース(cross-cutting content)への露出を約15%減らしていた。確かに、アルゴリズムは泡を作っていた。けれど、その先で起きていることの方がはるかに大きかった——ユーザー本人がクリックする段階で、さらに約70%が消えていた。

この研究は当時、大きな論争を呼んだ。Facebook が自社の問題をうやむやにしているだけだという批判も強かった。実際、論文の著者3人は全員 Facebook の社員であり、利益相反の問題は指摘された。けれど重要なのは、その後 Twitter や YouTube を対象にした独立研究もおおむね似た方向の結果を出していることだ。技術は確かに作用しているが、それ以上に人間の確証バイアス確証バイアス
自分の既存の信念を支持する情報を優先的に探し、反する情報を軽視する傾向。1960年代のウェイソン実験以来、最もよく再現されている認知バイアスのひとつ。Qualia Journalの別記事「確証バイアス」でも詳しく扱っている。が効いている。

情報の壁を巡る30年

鏡の前にいるのは、自分だ

もう一度整理しておく。アルゴリズムは無実ではない。透明な壁を積み重ねているのは確かに機械の側だ。けれど、その壁にいちばん多く煉瓦を足しているのは、自分自身の指先なのかもしれない。サンスティーンが警告したエコーチェンバーと、パリサーが名付けたフィルターバブル——ふたつは別々に語られる概念だったが、実際の世界では互いを強化し合っている。機械がユーザーの好みを学び、ユーザーがその学びをさらに強化し、機械がまたその結果を次の表示に織り込む。鏡と観客の区別が、だんだん曖昧になっていく。

ここで素朴な期待をひとつ潰しておきたい。「自覚すれば防げる」という期待だ。研究の多くは、この期待を支持していない。フィルターバブルの存在を知った人でも、次の10分間に自分のSNSを開くとき、やはり同じ癖で同じ記事をタップしてしまう。知識は、習慣を止めるには小さすぎる力だ。

では、何ができるのか。万能ではないが、いくつかの手がかりはある。自分が「当然」と思う意見に反対している人のアカウントを、いくつか意識的にフォローしておく。検索するとき、ときどき別のブラウザや別のアカウントで同じ語を試してみる。推薦アルゴリズムに対して、時どきあえて反対側をクリックしてノイズを入れる。どれも地味で、どれも一回では効かない。泡を膨らませる速度と同じだけ、しぼませる手間がかかる、というだけのことだ。

参考文献

e. Tamaki