マーク・クーケルバーク『AIの政治哲学』

私たちが日常生活の中でAIを使って行ったり、互いに行ったりすることも政治的である（そして、これまでの章の平等と権力に関する議論が示すように、私たちがその「私たち」をどう定義するかも政治的である）。AIの政治は、家庭や職場で行うことや、友人といっしょに行うことなど、私たちが技術とともに行うことの奥深くにまで及び、それが生成を形成しているのだ。これがAIの本当の力なのかもしれない。(p.216f)

AIを話題に取った政治哲学についての入門書。AIについての哲学的思考は倫理的なものになることが多い。しかし技術哲学で有名な著者から言えば、技術は政治的なものであるというテーゼは現代の技術哲学において基本的なもの。したがってAIでさえ、政治的問題を提起することになる。政治的な問題としてどのようなものがあり、どのような考え方やアプローチがあるのか、政治哲学の基本的な構図を紹介する。そしてそうした問題の構図から、AIという技術がどう見えてくるかを書いている。見通しがよい快著だろう。

まず本書がユースケースとしているAIとロボティクスは、普通は技術的な主題とみなされている。そして技術それ自体は価値中立的であると考えられていることが多い。たとえ政治と何らかの関係が乱見出されるとしても、技術は政治的な操作や管理のための手段だと考えられている。倫理的な問題は積極的に考慮に入れられることが多いが、そうした問題に関連する複雑な政治的・社会的問題には気づかれることがない。しかしAIは単なる技術や知能に関するものではなく、あらゆる点で政治的である(p.4-6)。

例えばAIによるバイアスの問題は、単に特定のAIアルゴリズムが特定のケースでバイアスのある帰結を生んだということにあるのではない。問題は、こうした技術が既存の階層構造やそれらに勢いを与えている概念やイデオロギーと相互作用して、それらを支持していることである。そして技術者やユーザーはアルゴリズムとデータは中立的であると仮定していて、気づいていない。実際はこれらの技術は特定の社会的、政治的、商業的論理を支持している(p.57f, 68, 85-87)。アルゴリズムによるバイアスが単に偏りではなく差別的偏見（両方ともbias）となるのは、社会に存在するそうした差別を成立させる様々な仕組みと一体化するからだ。そしてそうした仕組みに無批判に技術を利用することは、既存の差別の仕組みを強化することである。

こうして本書では自由、平等と正義、民主主義、権力といった王道の話題を扱い、最後に環境・自然・動物といった非人間的なものに対する政治を扱う。自由主義的な考えからマルクス主義的な考えまで、スコープは広く取りながら、自身の思想は抑制的に議論状況を概観している。マルクス主義的な批判理論が多く登場するあたりは、「大陸系」という趣があり、やはりアメリカ的な政治哲学の入門書とは一線を画している。

空港などの国境検問所での認証技術、予測的警察活動などは、バイアスと差別のリスクだけではなく、逮捕や投獄など個人の自由を侵害する介入につながる可能性がある。これはバーリンが述べた有名な積極的／消極的自由の区分のうち、「消極的自由」を脅かす技術である。監視技術は政府機関や企業によってだけではなく、私的な領域にもある。出来事を人々が携帯デバイスで記録するような、逆監視(sousveillance)のことだ。消極的自由は、個人的な領域への干渉からの自由であり、プライバシーを保持する自由である(p.17-19)。また、自律的選択の自由である積極的自由については、AIによるレコメンデーションや様々なナッジは積極的自由の侵害とみられる可能性がある(p.26-28)。

自由については、人は労働によって社会的関係に参画し自己実現する自由をもつという、ヘーゲル、マルクス的な意味での自由も論じられる。この自由に関しては、データを人々が無償で提供していることになっている現状（データ提供という労働に対する交換価値が無い）や、ロボットと協働することで自身も機械の一部のように働く労働者、AIやロボットによる失業といった論点が関係する(p.30-34)。

さらに、これこそ人間らしい活動(action)とアレントが主張した政治参加の自由は、AIに関して以下のような論点に関わる。AIなどの技術導入に市民が関わる自由を欠いていること（これはRRIの問題につながっている）、政治参加における私たちの意見形成がソーシャルメディアのレコメンデーションで阻害されること、自動化されたプログラムによる選択環境の中で私たちの自律的判断が阻害されるなどの問題である(p.38-43)。

平等・正義、民主主義は省が分かれているものの、議論は深く関連している。まずは分配的正義に関して、ロールズ的な公正としての正義が扱われる。マルクス主義理論は、リベラルな哲学は不正義と不平等を作り出している資本主義社会の構造を問わずに、形式的で抽象的な権利の議論に終止している、と批判する。AIは監視資本主義のように、自律的な資本家の権力を象徴するものであり、商品化と搾取をもたらし、資本主義を強化しうる。こうした観点からは、技術だけでなく社会経済システムの変革が正義への道ということになる(p.69-74)。

民主主義については、合意形成を目指すハーバーマスなどの熟慮型民主主義へのヤング、ムフ、ランシエールの批判が取り上げられる。感情など理性以外の役割を無視していること、無知な大衆と明晰で合理的なエリートの区別あたりが批判点であり、簡潔な記述として参考になる(p.105-108)。

エコーチェンバー現象は（特に熟議型）民主主義に必要な公共圏を脅かす。また技術は公的な関心と私的な関心の区別をもたさらないため、多くの人々がかなり私的な思想や感情をソーシャルメディアで共有するようになったら、公と私の区別は薄れてしまう(p.113-117)。アレントの分析によれば、全体主義が社会を壊すのではなく、すでに連帯と信頼が欠け、人々が政治的に孤立した社会の上に全体主義は育つ。フィルターバブルがもたらす認知的バイアスや、シェリー・タークルが言うようなソーシャルメディアがもたらす孤独は、こうした全体主義が育つような社会状況の発現に寄与するのかもしれない(p.128-131)。

権力(power)については、サッタロフによる4つの捉え方を軸にしている。(1)誘惑や強制などの操作によって、ある行為者が他者に行為させるもの。技術はこうした操作を媒介する。AIによるレコメンデーションが典型例で、この技術はバイアスをもたらしたり、個人の自律性を損なったりしうる。(2)能力としての力・権力。個人の能力や潜在力を増大させること。技術は人類のできること（＝権力）を増やしてきた。こうした能力の拡張は、権威主義的には監視能力を高めるし、自然に対する人間の制御能力の向上は地球規模での影響を及ぼす。(3)特定の社会的・政治的制度がもつシステム的特性。社会を成立させ発展させるために使われる技術。テック企業へのデータの集中による資本主義の強化や、監視資本主義の強化につながる。(4)社会的行為者そのものを構成したり産出したりする、フーコー的な権力。私たちはAI技術によって、自分をデータの集まりやネットワーク化したものとして自己認識し、アイデンティティを築くようになるかもしれない(p.141-149)。

フーコー的な権力とAIの関わりは面白く、より詳細な議論を期待したい。AIのような技術は、フーコーが古代ギリシアに見出したような、自己を変容させていく生の技法として捉えることができる。健康管理アプリや瞑想アプリは、自己を数量化し、自己の精神や身体に権力を行使し、ある特定の種類の主体を構成する。こうした技術的な自己配慮の方法によってもたらされる問題は2つ挙げられる。(1)データとして取られたデジタルな自己こそが本当の自己と考えてしまうこと。自分が意識できない粒度でのデータであるし、なんなら寝ている間も取得される。そして数字により客観性を持って迫ってくる。(2)デジタルな自己が非デジタルな自己以上の存在だと示唆してしまうこと。カーツワイルなどのトランスヒューマニストがいうアップローディングによって、いま以上にその人らしいその人が得られるという発想はこうした点に見られる(p.167ff)。

非人間に対する政治的思考は現代の政治学らしいテーマだが、少し理解するのは難しい。なぜなら、政治とは人間の間のこととして捉えられてきたからだ。この点は倫理とは異なる。動物保護に関する法律の法思想のように、多くの動物に道徳的配慮を与えることはできる。しかし、これらの動物のすべてが政治的正義の受益者として適格とは限らない(p.190f)。動物のみならず、川や森など自然などを政治的共同体の一員に入れるのは、いくつか議論は紹介されるものの、いま一つピンと来ない。

人間以外を政治的な対象に含めることに対して、AIが持つ意味は以下のように議論される。(1)AIの利用や開発は、動物や環境への危害を避け、気候変動などの問題解決に積極的に貢献するべきだと主張すること。人間中心主義でない視点を取ることは、人間がAIやデータサイエンスによって地球の問題を解決するという態度を問題視する。それにより、もはやAIはすべての問題に対する解決策ではなく、その限界にもっと注意を払われるようになるだろう。(2)AIそのものも人間以外のものとして、その政治的権利について議論するべきだと主張すること。AIやロボットの政治的地位を議論するには、2つの方針がある。(a)それらの道徳的地位と平行に論じる方針。道徳的地位を持つための性質や関係性を政治的地位に適用したり、道徳的行為者性と道徳的被行為者性の区別を政治的地位においても行うこと。(b)動物や環境の政治的地位に関する議論をAIに適用する方針。例えばAIがある種の動物と同じように、利害関係を持つ、あるいは協力する仲間として行動するとみなされるなら、たとえ意識や感覚がなくても政治的地位が与えられる可能性がある(p.200-209)。

良書なので要再読だし、この著者の他の本も読む必要があるようだ。