＊ アルゴリズムは公正で信頼できるのか
我々が日常的によく使う検索エンジンやソーシャルメディア、レビューサイト、動画共有サイトといったインターネットのプラットフォームは「アルゴリズム」で動作しているという言い方がよくされます。この「アルゴリズム Algorithm」という言葉はもともとコンピューター用語というわけではなく、その語源は9世紀ごろにバグダッドで活躍した数学者、アル＝フワーリズミーの名前だとされています。アル＝フワーリズミーが著した計算法についての書籍がラテン語に翻訳された際に、その著者名が「アルゴリズム」と表記され、それがそのまま「計算法」を意味するようになったということです。
このようにアルゴリズムとは本来は何らかの問題を解決するための計算手順や処理手順を広く指し示すものであり、その対象は必ずしもコンピューター上で動作するプログラムの処理手順に限定されるわけではなく、計算式や設計図やレシピもアルゴリズムであり、さらには法律や楽譜も広い意味でのアルゴリズムであるといえます。
アルゴリズムは大きく「入力 Input」「処理 Process」「出力 Output」という３つの要素から構成されており、これらの3つの要素はひとまとめに「IPO」と呼ばれます。実際のアルゴリズムの多くは一定のIPOを部品化したモジュールを数多く組み合わせることで構築されていますが、いずれにしても、あるアルゴリズムにおいて同一の入力はすべからく同一に処理されて同一に出力されることになります。すなわち「誰がやっても同じ結論にたどり着く」という属人性の排除がアルゴリズムの本質にあります。
しかしその一方で、その入力に対してその処理と出力が妥当なものかどうかはアルゴリズム自体の「設計」に依存しています。そしてその「設計」という行為自体は誰がやっても同じになるということはなく、むしろそこにはそのアルゴリズムの目的に応じた設計者の主観や価値観、時には政治的な立場までもが含まれていることがあります。端的にいえばアルゴリズムの動作自体は公正で信頼できるものであるといえますが、その設計は必ずしも公正で信頼できるものであるとは限らないということです。
＊ アルゴリズムは誰にとって最適化されているのか
メディア論研究者の宇田川敦史氏は『アルゴリズム・AIを疑う』（2025）においてアルゴリズムが「誰にとって」最適化されているかという視点からアルゴリズムが社会に及ぼす影響を包括的に論じています。
一般的にアルゴリズムはその提供者であるプラットフォーム企業の収益に最適化されています。ここでいうアルゴリズムの最適化とは企業におけるKGI（Key Goal Indicator）と呼ばれる経営上の目標（例えば収益）を達成するためKPI（Key Performance Indicator）と呼ばれる指標（例えばコンバージョン・レート）の計測値を最大化するためにアルゴリズムのロジックやパラメーターを調整することを指しています。
この点、検索エンジンやソーシャルメディア、レビューサイト、動画共有サイトといった多くのプラットフォームはもっぱら広告料から収益を得る広告モデルで運営されています。それゆえにプラットフォームのアルゴリズムはユーザーの便益というよりも広告主の利益、さらにはそれによって得られる広告料に関連するKPIに最適化されています。
こうしたことから経済学者のニック・スルニチェクは21世紀の資本主義の状況を「プラットフォーム資本主義」と表現し、経済活動において「ビッグ・テック」などとも称されるプラットフォーム企業の影響力が強大になっていることを批判的に論じています。ここでいう「プラットフォーム資本主義」とはユーザーがプラットフォーム上で行動した履歴などのデータを「原材料」として、アルゴリズムによって加工・流通させることが中心化した資本主義のことをいいます。
その「原材料」となるデータの収集・取得プロセスはプラットフォーム企業のアルゴリズムによって自動化され、集められたデータは大規模なデータベースとして蓄積されることになります。そしてこれらのデータは、また別のアルゴリズムによって広告などの商品へと変換され、プラットフォーム企業の収益となります。まさにアルゴリズムはこれらの収益を最大化するために最適化され、ユーザーの行動履歴などのデータは、その商品化の手段として扱われているということです。
＊ 情報オーバーロードとアテンション・エコノミー
このようにプラットフォームにおけるアルゴリズムのほとんどはユーザーの利便性や満足を直接的に追求したものとは限らず、そのアルゴリズムの提供者の収益を目標として最適化され、その結果として、一定のユーザー体験をもたらしているに過ぎません。そしてこのような「最適化」は時に一般のユーザーや社会にとって望ましくない結果をもたらすこともあります。
ソーシャルメディアをはじめとした一般ユーザーが容易に表現・発信を可能とするプラットフォームの普及によりインターネットにおける流通情報量が指数関数的に増大したことで、現代の情報環境は適切な情報選択に基づく意思決定が困難になる「情報オーバーロード」と呼ばれる状況が常態化しているといえます。
メディア研究者のアレクサンダー・ハラヴェはこのような情報環境における検索エンジンの役割を「探す」技術であると同時に「無視する」技術であると論じています。これはインターネット上で利用可能な情報量がいくら増加しても人間の身体が情報を処理できる量は増えない、というある意味で当たり前の事実からくる帰結といえます。このような人間の情報処理の容量は「認知資源」と呼ばれますが、いまやほとんど無限に供給される情報に対して人間は限られた「認知資源」を特定の情報に振り分ける必要に迫られているということです。
この点、情報科学者のハーバート・サイモンはまだコンピューターやネットワークが一般に普及する以前の1970年代にこれからの経済においては人々の「アテンション（注目）」が取引対象として重要になると予言的に論じています。認知資源の制約により、人間は単位時間あたりの「アテンション」を複数の対象に同時に振り向けることが困難であり、このことは特定の対象に選択的に「アテンション」を振り向けることは他の対象を無視することを意味します。つまり、流通する情報が過剰であればあるほど、そこに振り向けられる「アテンション」自体が稀少な資源となり、情報提供者からすればいかにして稀少な「アテンション」を獲得するかこそが主要な競争原理となるということです。
そして、社会学者であるマイケル・ゴールドハーバーはインターネットが普及し始めた1997年にサイモンの予言が現実化し、認知資源という制約のもとで稀少になった人々の「アテンション」が実際に競争の対象になった状況を「アテンション・エコノミー（注目経済）」という概念で指し示しています。インターネットの「プラットフォーム化」が進行し、さらに情報流通量が増大した現代の情報環境においては、この「アテンション・エコノミー」の原理はますます強まっているといえるでしょう。
＊ アルゴリズムと認知バイアスの相互作用
このようなアテンションに対する最適化は人間が持つ心理特性と重なり合うことで時により複雑で厄介な問題につながってきます。この点、心理学者・行動経済学者のダニエル・カーネマンは人間の思考過程を「速い思考」と「遅い思考」に分類し「速い思考」を実現する脳のシステムを「システム1」と呼び「遅い思考」を実現する脳のシステムを「システム2」と呼んで区別する「二重過程理論」を提唱しています。
ここでいうシステム1が司る「速い思考」とはある外的刺激（例：窓の外で音がする）に対して素早く反応（例：窓の方を振り向く）するような無意識的な思考モードを指しています。これに対してシステム2が司る「遅い思考」とはある外的刺激（例：窓の外で音がする）に対して論理的な推論（例：どのように対処すべきか）などを行う意識的な思考モードを指しています。人は通常、このシステム1（速い思考）とシステム2（遅い思考）の連携によって情報を処理しています。
そしてシステム1（速い思考）のような認知資源の節約につながる情報処理方略は「ヒューリスティック」と呼ばれます。この「ヒューリスティック」は直感や経験則に基づく素早い判断を行う思考様式で、例えば「（ちゃんとした根拠はないが）パッとみた目が外国人に見えるから日本語が通じないだろうと判断する」といった「短絡的な」判断のことを指しています。
このようなヒューリスティックなどによって判断に偏見が入ったり論理的でなくなったりするような心理的な傾向性は「認知バイアス」と総称され、この「認知バイアス」のうちよく知られているものの一つに「確証バイアス」というものがあります。これは自分の信念に合致する情報を過大に評価し、合致しない情報を過小評価するという心的傾向のことをいいます。端的にいえば人間は「信じたいものを信じ、信じたくないものを信じない」という判断をしやすいということです。
そうした人間の心理的傾向に対してソーシャルメディアをはじめとしたプラットフォームはアルゴリズムによってユーザーのCTR（Click Through Rate：クリック率）や滞在時間が最大化するような情報を提示します。ここではユーザーが「信じたい」と思う情報の方がよりCTRが高ければ、アルゴリズムはそのような情報を（たとえ真実であろうとなかろうと）頻繁に表示するように勝手に最適化してしまいます。こうしてアルゴリズムと認知バイアスの相互作用により、たとえ真偽が不明であってもユーザーにとって「心地よい」情報だけが選別されたメディア環境が構築されることになります。
＊ アテンション・エコノミーとアルゴリズムの病理
このように情報オーバーロード環境においては認知資源の節約が可能なシステム1による「速い思考」で情報を処理することが効率的である一方、システム2による「遅い思考」を積極的に働かせて情報の真偽を吟味したり論理的に熟考したりすることは「コスパ」が悪いことになってしまいます。いってみればアルゴリズムが選別してくれた情報をそのまま「深く考えずに」直観的に受け入れることが脳にとっても情報処理の負荷を小さくできるということです。けれども現代のアテンション・エコノミーの下では、まさにこうしたアルゴリズムによって最適化されたメディア環境から諸々の弊害が生じてくることになります。
インターネットが普及期に入った2000年代、法学者のキャス・サンスティーンはインターネット事業者のアルゴリズムが過剰な情報を調整しようとした結果、個々のユーザーが自分と似たような意見の人々とだけ交流しがちになる「エコーチェンバー」が起きることを指摘しています。こうしたエコーチェンバーはユーザーの選択とアルゴリズムが相互作用することでユーザーの確証バイアスを強化してしまう事になります。
またインターネットの環境活動家であるイーライ・パリサーは情報オーバーロードに適応するためのフィルタリングは個々のユーザーにとって必要な情報だけをプラットフォームのアルゴリズムが選別して表示するパーソナライゼーションによって加速していることを指摘し「フィルターバブル」という概念を提示しました。このプラットフォームのフィルタリングに基づく「フィルターバブル」は個々のユーザーの反応に基づく「エコーチェンバー」と相互に重なり合い、アテンション・エコノミーにおける「快適な」ユーザー体験とプラットフォームの収益向上の両立を可能とします。
さらにアテンション・エコノミーとそれに最適化されたアルゴリズムが大きく関係する社会問題として偽情報・誤情報の流通増加が挙げられます。ここでいう偽情報・誤情報は一般的に「フェイクニュース」とも呼ばれたりしますが、この言葉は定義が曖昧なまま多義的に濫用される傾向があることや、問題となる情報には「ニュース」以外も含まれることから現在は研究者レベルではあまり積極的に使われていないようです。
この点、欧州評議会では「フェイクニュース」の代わりに問題のある情報を総称して「情報障害 Information Disorder」と呼び「誤情報（害を与えること意図していないが不正確な誤った情報）」「偽情報（害を与える意図のある捏造や意識的な虚偽情報）」「悪意ある情報（害を与える意図をもって共有される事実）」の三つに分類しています。このうち「フェイクニュース」の範疇にほぼ重なっているものが誤情報と偽情報です。
そしてこれらの偽情報・誤情報の中には「陰謀論」と呼ばれるものが含まれます。「陰謀論」とは政治的・社会的な出来事や、事件や事故などの何らかの出来事についてその背後に強大かつ強力な集団・組織による力が働いていると理解し、説明しようとする考え方、あるいはその強大かつ強力な組織に対する異議をいいます。この陰謀論の特徴は客観的にみれば荒唐無稽な物語であってもエコーチェンバーとフィルターバブルによってその物語を信じる仲間同士で団結し論理的に疑うことができなくなってしまうところにあります。これは程度の差はあれ、現代の情報環境においては誰にでも起こりうる事態であるといえます。
＊ ブラックボックス化とインフラとしてのアルゴリズム
その一方、我々ユーザーが日常的なメディア利用においてこうしたアルゴリズムの介在を意識することは基本的にあまりないでしょう。これは我々がアルゴリズムを「ブラックボックス」として扱っていることを意味しています。
この点、コンピューター科学における本来の意味の「ブラックボックス」とはIPO（入力→処理→出力）のI（入力）とO（出力）の一貫性が保証されていれば、その間にあるP（処理）がどのようになっているかをいちいち確認しなくても済むことを指します。つまりPを「ボックス（箱）」のように見立てて、そのボックスに何かを入れたら自動的に求めるものが出てくるというイメージです。
そして哲学者のブルーノ・ラトゥールは科学的な知識や技術一般における「ブラックボックス化」について「科学的および技術的な成果が、その成功自体によって不可視化されること、機械が効率的に動作している限り、もしくは科学的な事実が確立している限り、人々はそのインプットとアウトプットのみに注目することにより、内的な複雑さは無視されることになる」と定義します。
こうした「ブラックボックス化」は技術に対して認知資源を割かずになるべくラクをしたいという社会的な欲望によって構築されるものです。すなわち、アルゴリズムがブラックボックス化するのはプラットフォームが何かを隠蔽しようとした結果というよりも、情報オーバーロード環境において技術的な仕組みを意識しないで済ませたいというユーザー側の社会的な要請の結果であるということです。
このことは同時にインターネットやスマートフォン、プラットフォームなどといったメディアがもはや社会的な「インフラ」として機能していることを示しています。社会学者のスーザン・リー・スターと情報科学者のカレン・ルーレダーは「インフラ infrastructure」という概念をそれが安定的に稼働しているときには「透明」で不可視なものとして扱われている事物の状態であると定式化しています。つまり何らかのシステムがインフラであるとは、それが「あたりまえ」であるがゆえにその存在を無視できるということです。
しかしそのようなシステムをインフラと見做せるかどうかは文化的・社会的な文脈、あるいは立場に依存します。とりわけ普段問題なく稼働しているインフラが何らかの不具合を起こした際にはその透明化されていたはずのシステムが突然認識の対象物になるでしょう。科学技術社会論ではこうした何らかの変化をきっかけとしてインフラが可視化される現象を「インフラ的反転」と呼んでいます。これはインフラを固定的なモノではなく関係論的・認識論的概念として捉える見方であるといえます。
こうしたことから宇田川氏は「プラットフォーム資本主義」のはらむ問題点を踏まえつつも、その上で、ユーザー自身が（個々人が意図せざる社会的な相互作用の結果として）プラットフォームやインターネットの技術をインフラ化し、そこで動作するアルゴリズムをブラックボックス化して、それらの詳細を意識しないで済む社会を望んで構築してきたという事実に気づくことは単にプラットフォーム企業を悪者扱いするよりも重要な視点であるといい、こうしたインフラを可視化しブラックボックスを少しでも理解するため、従来のメディア・リテラシー（いわゆる情報モラル教育）とは異なる水準でのメディア・リテラシーを、すなわち、アリゴリズムを疑い、そのあるべき姿を構想する「メディア・インフラ・リテラシー」を提唱します。
＊ アルゴリズム・庭・批評、あるいはメディア・インフラ・リテラシーについて
こうしたメディア論における「メディア・インフラ・リテラシー」という考え方からは現代の情報社会論における新たな論点を得ることができるように思えます。
例えば宇野常寛氏は『遅いインターネット』（2020）や『砂漠と異人たち』（2022）や『庭の話』（2024）において、フェイクニュース（偽情報・誤情報）や陰謀論が蔓延し、時に正義の名のもとに安全圏から他の誰かに石を投げつける投石機にもなるプラットフォームの病理を論じ、今や「相互評価のゲーム」と化した「速いインターネット」の時間的な外部を開くための「遅いインターネット」と、その具体的な実践として事物とのコミュニケーションによる「制作」を可能とする「庭」を構想します。
また三宅香帆氏は『なぜ働いていると本が読めなくなるのか』（2024）や『考察する若者たち』（2025）において「読書」が「ノイズ」となる一方で、まさにアルゴリズムによって最適化され「ノイズ」を徹底して排除した「情報」が氾濫する現代における「批評」の復権を訴えています。
ここで宇野氏の用いる「速い/遅い」という比喩はダニエル・カーネマンの「二重課程理論」におけるシステム1が司る「速い思考」とシステム2が司る「遅い思考」に対応しているといえます。そして宇野氏のいう「庭」の構想や、三宅氏のいう「批評」の復権も「速い思考」が優位になった現代における「遅い思考」の再導入の試みとして捉えることができるでしょう。
そうであれば「速い思考」を生み出すプラットフォームのアルゴリズムの仕組みを理解し批判的に検討する「メディア・インフラ・リテラシー」は「速い思考」を相対化する「遅い思考」を行動レベルで実践したり、あるいはシステムレベルで実装する上で多角的かつ戦略的な知見を与えてくれるのではないでしょうか。
