かぐらかのん

本や映画の感想などを書き記していくブログです。

加速主義とAIアラインメント

* 加速主義の系譜

 
近年、テクノロジー関連の言説、現代思想の領域、さらには政治的な議論において「加速主義 Accelerationism」という言葉がよく見受けられるようになりました。この「加速主義」を大まかに定義するとすれば「現存する社会システム、特に資本主義が持つ内在的な傾向やダイナミズムを、意図的に『加速』させることによって、現在の社会システムそのものの質的変容、あるいはそれを超えた新しい社会システムの到来を目指す」というものです。
 
この大まかな定義からもわかるように加速主義は単一の教義やイデオロギーを指すわけではなく、その「加速」の対象、目的、方法論、そして倫理的評価は論者や文脈によって大きく変わってきます。ある人にとってそれは人間の解放へと向かうユートピアへの道であったり、別の人にとってそれは人間の終焉へと向かうディストピアへの道であったりもします。
加速主義の思想的萌芽は案外と古く、それは19世紀のカール・マルクスの著作にまで遡ることができます。マルクスは『共産党宣言』(1848)や『資本論』(1867〜)といった主著の中で資本主義がそれ以前のあらゆる社会システムを凌駕する驚異的な生産力を解き放ち、絶え間ない技術革新と市場拡大を通じて世界を変容させていくダイナミックなシステムであることを詳細に分析し、この資本主義の矛盾が極限に達したその先に、より高度な社会形態である共産主義が到来すると考えました。
 
そして20世紀後半、特に1968年の五月革命以降のフランス現代思想において加速主義的なアイデアは新たな形で展開されることになります。ポスト構造主義を代表する哲学者ジル・ドゥルーズと精神分析家フェリックス・ガタリはその共著である『アンチ・オイディプス』(1972)や『千のプラトー』(1980)において資本主義を人間の欲望を解き放ち自己増殖していく「リゾーム的」な機械として捉え、こうした資本主義の「加速」の中に既存の権力構造や抑圧的システムからの解放を見出そうとしました。
 
ところが1990年代において加速主義の思想は、これまでとはまったく異なるダークで過激な方向へと向かうことになります。この転換の中心人物となったのがイギリスのウォーリック大学に拠点を置いていた哲学者ニック・ランドと、彼が関わった「CCRU Cybernetic Culture Research Unit 」と呼ばれる研究ユニットです。
 

* ニック・ランドとCCRU

 
ニック・ランドは資本主義をテクノロジーと結びつくことで自己増殖しあらゆる人間的価値や制御を振り切って加速していく「テクノキャピタル」と呼び、人間の知能や意識がAIによって凌駕され「シンギュラリティ(技術的特異点)」へと到達する未来を、資本の自己実現プロセスが最終段階に至る必然的な帰結としてある種のニヒリスティックな興奮とともに肯定しました。
 
このランドの思想は極端な反人間中心主義を特徴とし、理性、啓蒙、進歩といった近代的な価値観を徹底的に解体しようとするものです。彼にとっての「加速」とは人間的な制御や意味づけから解放された純粋なテクノロジーと資本の自己運動の暴走そのものを意味しています。
 
そして、このランドを思想的リーダーとして戴くCCRUは哲学、文学、サイエンスフィクション、音楽、オカルトなどが混淆する極めて学際的かつ実験的な集団であり、彼らはドゥルーズ=ガタリの思想、ウィリアム・ギブスンなどのサイバーパンク文学、テクノミュージック、そして勃興しつつあったインターネットカルチャーなどから多大な影響を受け、資本主義とテクノロジーが融合し、人間を置き去りにして暴走していく未来像を時に熱狂的に、時に冷徹に描き出しました。
 
さらに2000代後半以降になるとランドの思想はインターネット上で「暗黒啓蒙 Dark Enlightenment」あるいは「新反動主義 Neoreactionism」と呼ばれ、極右的・反動的な思想潮流の教祖的存在として再評価されることになります。新反動主義者は民主主義、平等主義、社会正義といった現代の支配的価値観を「大聖堂 The Cathedral」と呼んで敵視し、それらを破壊してより階層的で権威主義的な社会秩序(例えば、君主制や企業による統治など)を復活させるべきだと主張します。
彼らはランドの加速主義的な洞察、特にテクノキャピタルの非人間的な力への着目を自らの反動的アジェンダと結びつけ、テクノロジーの発展は一部の優れたエリート(技術的選民)によって主導されるべきであり、大衆による民主的統制はむしろその進歩を妨げるものと見做しました。このような排外主義的で選民主義的な「右派加速主義」とも呼ばれる潮流はそのSF的で終末論的な雰囲気と既存の価値観へのラディカルな挑戦によって一部でカルト的な影響力を持つに至ります。
 

* 加速主義の現代的展開

 
その一方で2008年の金融危機以降、資本主義の将来に対する不確実性が高まる中で「左派加速主義」と呼ばれる動きが登場します。その代表的な論客がイギリスの思想家アレックス・ウィリアムズとニック・スルニチェクです。彼らは2013年に発表した「加速派政治宣言」やその後の著書『未来を発明する--ポスト資本主義と労働なき世界』において、現代の左翼が陥っている「フォーク政治(地域限定的、一時的、直接行動主義的で大規模な構造改革を目指さない政治)」を批判して、資本主義が生み出した最新のテクノロジー(自動化、情報技術、AIなど)を積極的に活用し、労働の抜本的な削減(労働時間の短縮やベーシックインカムの導入など)、普遍的な社会保障の確立、そして最終的には資本主義を超えたポスト資本主義社会への移行を目指すべきだと主張します。
 
彼らにとってテクノロジーはそれ自体が善でも悪でもなく、それをどのような社会的目的のために、どのような政治的ヘゲモニーの下で用いるかが問題になります。彼らはテクノロジーの潜勢力を最大限に引き出すことで、より自由で平等な社会を構築するための「対抗ヘゲモニー的」なプロジェクトを推進すべきだと訴えます。このように左派加速主義はテクノロジーに対する楽観的な視点とそれを社会変革の戦略的ツールと見做すプラグマティックな姿勢を特徴としています。
 
さらに現代において加速主義はさらに多様なバリエーションや解釈が生まれています。例えば「無条件加速主義 Unconditional Accelerationism:U/Acc」はニック・ランドの思想を最も純粋に継承し、テクノキャピタルのプロセスをいかなる人間的な価値判断や目的からも切り離し、無条件に加速させることを主張します。それは人間の制御や理解を超えた純粋な技術的プロセスへの没入を志向するある種のニヒリズムといえます。
 
また「ジェンダー加速主義 Gender Accelerationism:G/Acc」や「ゼノフェミニズム Xenofeminism:XF」といった潮流はフェミニズムの視点からテクノロジーと加速の概念を捉え直し、既存のジェンダー規範や家父長制的構造を解体し、テクノロジーを用いて新たな身体性やアイデンティティの可能性を追求しようとします。これらは左派加速主義の解放のポテンシャルをジェンダーという特定の領域で先鋭化させようとする試みであるといえます。
 
さらに加速主義的なテーマや感性は現代アート、音楽、文学、映画といった様々なカルチャーの領域でも表現されることになります。こうしたことから加速主義は単なる哲学的な潮流にとどまらず、現代社会の複雑な動態とそれに対する多様な応答の総体として捉えるべきであるといえるでしょう。
 

* 効果的加速主義と効果的利他主義/長期主義

 
こうした加速主義の2020年代における潮流として近年、シリコンバレーを中心とするテクノロジー業界で急速に注目を集め一種のムーブメントになりつつあるのが「効果的加速主義 Effective Accelerationism:e/Acc」です。このe/accはその名が示す通り、ニック・ランド的な加速主義の思想的影響を受けつつも、より「効果的」かつ実践的な形でテクノロジーの進歩を推進し、社会変革を実現しようとする潮流であり、AI技術、特に汎用人工知能(AGI)の急速な発展を背景にそのポテンシャルを最大限に引き出すことを最重要課題として、規制や倫理的懸念に対してはしばしば批判的な立場を取ります。
 
e/accという言葉は2022年ごろからソーシャルメディア上で広がり始め、匿名あるいは半匿名のインフルエンサーたちによって精力的な議論が展開されています。その思想的背景にはシリコンバレーに長らく根付いてきた技術ユートピア主義やトランスヒューマニズムやリバタリアニズムといった要素が複雑に絡み合った特有の精神風土が色濃く反映されています。これらの思想は従来、シリコンバレーの起業家精神やイノベーション文化と結びつき「カルフォルニアン・イデオロギー」とも呼ばれる独特の価値観を形成してきましたが、e/accはこれらの既存の価値観を継承しつつ、特にAI技術の飛躍的進展という新たな文脈の中でそれらをより先鋭化させたものであり、その究極目標は宇宙への進出とシンギュラリティの早期実現にあるとされています。
 
こうしたe/accと対立関係にあるのが「効果的利他主義 Effective Altruism:EA」という立場です。EAは21世紀初頭にピーター・シンガー、トビー・オード、ウィリアム・マッカスキルといった哲学者たちを中心に提唱された思想ないし社会運動であり、その核心的な理念は理性とエビデンスに基づいて、世界を最も効果的に良くする方法を考え抜き、それに則って行動するというものです。その哲学的根源の一つにはジェレミー・ベンサムやジョンスチュアート・ミルによって体系化された功利主義があります。功利主義は行為における道徳性をその行為がもたらす結果(特に幸福の総量や苦痛の軽減)によって判断しようとする考え方ですが、EAはこの功利主義的な発想を現代的課題に応用する試みであるといえます。
 
EAが特に焦点を当てる問題領域は大別して⑴世界の極度の貧困の削減、⑵工場畜産における動物の苦痛の軽減、⑶人類の未来を脅かす実存的リスクの低減という3つです。そしてこの3つ目の柱である人類の未来を脅かす実存的リスクの低減と密接に関連し、近年特にEAコミュニティ内で影響力を増しているのが哲学者ニック・ボストロムやヒラリー・グリーヴスらによって精力的に論じられている「長期主義 Longtermism」という考え方です。長期主義の核心的な主張は未来に存在するであろう膨大な数の人々の幸福や潜在的可能性は、現在生きている我々のそれと同等か、それ以上に道徳的重要性を持つものであり、それゆえに我々の行動は人類の長期的な未来に最も大きなプラスの影響を与えることを優先すべきであるというものです。
 

* AIアラインメント問題をめぐる対立

 
e/accとEAおよび長期主義の対立関係は「AIアラインメント」という問題において先鋭化します。AIアラインメントとは、極めて高度な知能を持つAIを人間の意図や価値観、倫理規範に沿って安全かつ有益に機能するように設計・制御し、それを保証するための一連の研究課題を指しています。
 
AIアラインメントの課題は多岐に渡ります。例えばニック・ボストロムが指摘するように高度なシステムはどのような最終目標を与えられたとしてもその目標を効率的に達成するための中間目標として⑴自己保存、⑵資源獲得、⑶能力向上、⑷目標内容の維持といった「内包的目標」を自律的にもつ可能性(道具的収束)があり、これらの内包的目標が人間の意図しない形であるいは人間にとって有害な形で追求されるリスクがあるといわれます。またAIは与えられた報酬関数を最大化するように学習しますが、人間が意図した真の目標と、それを形式化した報酬関数の間にはしばしばギャップが存在するため、AIが報酬関数を最大化しようとした結果、人間の意図から外れた行動(報酬ハッキング)をとる可能性があります。
 
その他にもAIの行動が人間の価値観に沿っているかを継続的に監視することの困難性、深層学習モデルのようなブラックボックス化したAIの複雑な内部動作を検証することの困難性、複雑な人間の価値観を正確に学習させる困難性、複数のAIがそれぞれ適切に動作していたとしても全体として望ましくない集団行動が生じる可能性といった技術的な課題のほか、多様な文化や価値観が存在する人間社会においてAIを「誰の」価値観にアラインするのか、人間以上の意識や知覚を持ったAIに対して我々はどのような道徳的配慮をすべきか、AIの有害な行動をいかに抑制するかといった哲学的・倫理学的な課題もあります。こうしたAIアラインメントの重要性は広く認識されつつあり、世界中の研究機関がその解決に取り組んではいるものの、AI開発のスピードに対してアラインメント研究の進捗が追いついていないという懸念も顕在化しています。
 
この点、e/accの支持者たちはAIアラインメントの難しさを認めつつも過度な懸念は技術進歩を遅らせ、結果として人類がAIの恩恵を享受する機会を奪うと主張します。彼らは技術がさらに進歩すれば、アラインメント問題もいずれ解決可能であるという楽観的な見通しを持つか、あるいはAGIがもたらす圧倒的な知能と能力の前ではある程度のリスクは許容すべきだと考えます。AGIが実現すれば病気の根絶、貧困の撲滅、宇宙進出といった壮大な目標が達成可能になるかもしれないという期待がこのようなリスクへの許容度を高めています。これに対してEAおよび長期主義の立場からは人類の未来には現在とは比較にならないほど膨大な数の潜在的な人々が存在しうるため、その未来そのものを消滅させかねない実存的リスクは道徳的に極めて重大であり、AIの制御不能化の可能性は最大限慎重に扱われるべきだという反論がなされることになります。
 

* 加速主義とAIアラインメント

 
こうしたAIアラインメントをめぐる思想的状況においてテクノロジーの可能性と危険性のバランスを重視する立場が「防御的加速主義 Defensive Accelerationism:d/Acc」です。2023年にd/accという概念を提唱した暗号資産イーサリアムの共同創設者ヴィタリック・ブリテンは自身は基本的には「テクノ楽観主義者」であると明言しつつも同時にAI、特にAGIがもたらしうる潜在的なリスクについての懸念を表明し、単なる単なる楽観論でも悲観論でもないより現実的で責任あるテクノロジーとの向き合い方を問い直します。こうしたことからd/accの「d」という文字には「Defence(防御)」「Decentralization(分散化)」「Democracy(民主主義)」「Differential(差異的)」という4つの意味が重ねられています。
 
ブリテンはAIをこれまでのテクノロジーとは異なる特別なものであるとして捉え、その開発には最大限の慎重さと先見性が必要であると強調します。そこでd/accはAIを人間を完全に置き換えるのではなく、むしろ人間の知的能力や創造性を拡張し、より複雑な問題解決を支援するツールないしアシスタントであると捉え、AIアライメント問題の解決をAGI開発の最優先課題と位置づけると同時に、万が一アラインメントが不完全であった場合でも社会全体への被害を最小限に抑えるという「防御的」なアプローチを重視します。
 
またd/accはAIの進化による「人間の飼い猫化」という懸念を挙げています。これは長期主義的な視点からAIのリスクを捉えるものであり、超知能AIが人間社会のあらゆる側面を管理・運営するようになった結果、人間は物質的に満たされた生活を送れるものの実質的にはAIに「飼育」される存在となり、自律性や創造性、さらには生きる意味を失ってしまうという未来像です。d/accはこうした未来を回避すべく、AIを人間の能力を補完・拡張する方向に開発し、人間がAI社会においても主体的な役割を果たし続けることを目指す立場であるといえます。
 
SF作家・コンサルタントの樋口恭介氏は近年の加速主義の動向を概説する『21世紀を動かす思想』(2026)においてd/accの思想は技術進歩の「速度」だけではなく、その「方向性」こそが重要であると訴えるものであるといいます。つまり「どの方向にアクセルを踏むのか?」という問いをまさに我々がいま、もっとも真剣に議論し、選択しなければならない課題であり、それはAIアラインメントを確実に達成し、人類の長期的は繁栄と価値観の維持に貢献できるような技術発展の道筋を選択するということです。
 
それは具体的には「攻撃的なAIよりも防御的なAIを、中央集権的なAIよりも分散型のAIを、人間の判断を代替するAIよりも人間の判断を支援するAIを優先するという、『差異的』な加速を意味」するということであり、こうしたことから同書はe/accの無条件な加速とは異なり、バランス感覚に富み、人間中心的な価値観を重視するd/accのアプローチを「責任あるテクノ楽観主義」と評価します。
 
 
では改めて、AIの何がこれまでのテクノロジーと異なる特別なものといえるのでしょうか?AIもコンピューターの一般的なアルゴリズムと同様に、その基本は「入力(Input)」「処理(Process)」「出力(Output)」という「IPO」の構造になっています。しかしここでの「P」の部分がAIと一般的なアルゴリズムでは全く異なった原理で動作しています。
 
この点、一般的なアルゴリズムはあらかじめ定義された定型のパラメーターによる入力に基づいた処理を行いますが、これに対してAIは事前定義されているとは限らない不定型のパラメーターを入力しても何かしらの処理を行います。このようなAIの処理は何らかの「学習」によって可能となります。
 
ここでいう「学習」とは人間が正解を与える「教師あり学習」と、正解を与えない「教師なし学習」の2種類があります。この後者の「教師なし学習」では「ディープ・ランニング(深層学習)」という手法が用いられ、人間が個々のデータを事前に識別する作業をしなくても、機械が勝手に分類を進め、より大量のデータをまさに機械的に学習します。このような「学習」の結果、AIは厳密には違いがある対象でも「だいたい同じようなもの」をひとかたまりの分類として識別するという人間の認知の特性を模倣することになります。
 
つまり一般的なアルゴリズムは同一の組み合わせの定型パラメーターに対しては常に同じ出力になることが保証されたルールに基づく「決定論モデル」で動作していますが、これに対してAIは不定型の入力の組み合わせに対してこの出力が求められている確率が高いという判断を大量のデータの学習によって実現する「確率論モデル」で動作しているということです。
 
ある意味それは「経験(データ)」に基づく推論であるがゆえに、その判断のプロセスには明文化されたルールのようなものがないという不確定性を持っています。その意味で現在のAIは自我や自己意識を持っているわけではありませんが、機械としての正確性や一貫性ではなく、学習した「経験」に基づく確率論的な判断という意味では「人間的」な曖昧さを持っているといえるかもしれません。
 
つまりその限りでAIには現代思想の用語でいうところの「他者性」を想起させる要素を持っているといえるでしょう。そうであればAIアラインメントの核心にはこのようなAIにおける「他者性」が孕む危うさをいかに制御しつつ、その可能性を開いていくかという視点があるといえるでしょう。こうした意味で加速主義とAIアラインメントをめぐる一連の思想的動向からは、我々がAIなる「他者性」と付き合っていく上での様々な示唆を得ることができるように思えます。