ジャン・ガブリエル・ガナシア『虚妄のAI神話』

シンギュラリティ仮説、すなわち人工知能が高度に発展して、人間を超える知能を獲得する段階が到来するという思想を批判する一冊。昨年からのLLMブームのなかで、こうした考えはまた盛り上がりつつある。ChatGPTのヒットを受けてFuture of Life Instituteが出した研究モラトリアム宣言には、イーロン・マスクを始め著名な多くの人が署名している。マスク自身は、2014年のスティーブン・ホーキングの声明文の頃から、人工知能が人間を追いやる実存的危機について訴えている(p.13)。その一方、モラトリアム宣言に署名した裏でGPUを買い集めて、自身の人工知能研究機関の立ち上げに勤しんでいたが。

超知能の出現に対して、人間は新たなステージに至るのだとする人々もいれば、人間に対して危害を及ぼすような存在が生まれ、人類は実存的危機に瀕するのだとする人々もいて、捉え方は様々である。だが、こうした仮説は個人的にはどことなく稚拙に聞こえ、あまり取り合う必要のないものに思われる。主張している人が主に技術者などであって、人文社会系の人々があまり表に出ないこともそうした雰囲気を作る。本書は、シンギュラリティ仮説にまともに向き合い、批判している。ときには藁人形相手に批判しているような向きもある。しかしいったいどこが変なのか、議論化していることはとても貴重だ。

シンギュラリティ仮説を主張し出した人として、先駆者としてのハンス・モラヴェック（1998年から）、ケヴィン・ワーウィック（1998年頃から）、そしてレイ・カーツワイル（2000年頃から）が挙げられる(p.15-17)。この仮説の起源は、UCSDの数学教授でもあったヴァーナー・ヴィンジの1980年代のSF小説に求められている。この初期の段階ではSFであって、科学的な議論の装いをしていない(p.23-28)。

少なくともカーツワイルの議論において、シンギュラリティの到来の根拠として主に出てくるのはムーアの法則である。超知能の出現は、このままムーアの法則が続くことに依拠している。著者は、ムーアの法則が永久に続くという仮定にある4つの問題点を取り出す(p.47)。(1)帰納的な経験則である法則を、無際限に拡大解釈することの論理的問題。(2)プロセッサの小型化についての物理的限界という問題。(3)プロセッサに関する経験則が、カーツワイルが主張するように古代からの種の進化と比較できるかという問題。(4)演算能力の総体とは何を意味するかという問題。この4つの問題点を見ることが、ほとんどシンギュラリティ仮説の奇妙な点を洗い出すことになる。

問題点1について(p.47-52, 127f)。ムーアの法則は経験則であるから、将来に渡って有効であることはまったく断言できない。ムーアの法則は同一条件での実験に付すことができるものではなく、歴史的な法則というべきものである。帰納的推論が成立するには、自然の斉一性が前提される。しかしシンギュラリティという考えは、まさにこの斉一性が成り立たなくなるということであるから、シンギュラリティという考えそのものがムーアの法則の帰納的推論を成り立たなくさせる。斉一性という概念は科学哲学のものだが、機械学習の分野で言うとコンセプトドリフトが起きないことと言えるだろう。

問題点2について(p.53-56)。シリコンでてきた現状の半導体素子は、どんなに小型化しても10ナノメートルを下回ることはできない。グラフェンのような新しい素材が実用化されるかもしれないが、そうした変化は破壊的なものであって、現在から法則的に予測されるものではない。問題点3について(p.56-59)。カーツワイルがムーアの法則と比較する自然の変化として掲げた指標は、恣意的に選ばれている。特に、進化上の大量絶滅が考慮されず、指数的に増大するものと捉えられている。もともと、カーツワイルが出している自然の指数的な進化は、かなり荒唐無稽なのでさほど相手にすべきものでもないだろう。問題点4(p.60-62)。知能には様々な側面があり、コンピュータが計算能力を増大させたからといって、それが知能（特に、超知能）の獲得とどう関係するのか明らかではない。

シンギュラリティ仮説は自律した知能的存在の出現を言う。しかし、現在の技術レベルでは、コンピュータが人間の力によらず進化を続け、自律し、人間を支配するようになるとは考えられない。教師あり学習であれ強化学習であれ、正解や報酬を設計しているのは人間である。学習した機械は外部からの介入なしに意思決定できるという点で自立しているが、自らの意思で目的に達成という点で自律していない(p.73-76, 79)。もちろん、著者はそうした自律した存在が出現しないと主張しているのはない。現状で得られる証拠に基づいて、出現を確実に言えるものは何もないということだ。

この先、著者は仮像(psudomorphose)という概念を用いて批判していく(p.81-88)。この仮像という概念は、化石ができるときのように、構造は保たれたまま中身が置き換わる自然現象を、シュペングラーが文化に適用したもの。超知能のような強い人工知能は、仮像の一例と考えられる。強い人工知能は人工知能と呼ばれるものの、実験的に検証する科学的アプローチだったものが、論証だけによる哲学的アプローチに入れ替わっているし、知能を基本的機能に分解するものが、基本的な機能から精神や意識を再構成するものになっている。よって仮像とする。しかし、あまりこういう概念を使うポイントは無いだろう。単に、同じ名前のもとに異なるアプローチのものが混ざっているだけだ。そもそも、人工知能研究では技術やアプローチが入れ替わっていく特徴がある。ある時、人工知能の名のもとに語られていた技術は、成熟すると普通の技術として人工知能から外されていく性質を持っている。だからなおさら、人工知能の領域で仮像という概念を用いるポイントは薄い。

それでも仮像という概念を用いるポイントは、シンギュラリティ仮説とグノーシス主義の比較だ。ハンス・ヨナスは、グノーシス主義はキリスト教とユダヤ教の仮像だと書いている(p.95f)。たしかにキリスト教として語られるもののなかには、グノーシス主義の影響が強い分派もあるが、仮像という概念で語るべきものなのかは、ヨナスを読んでみないと何とも言えない。シンギュラリティ仮説とグノーシス主義を比較するという試みは、すこし奇抜な印象もある。しかし著者は、グノーシス主義とシンギュラリティの思想が同じだというのではない。両方とも仮像であるという点から比較している。つまり、一神教宗教に対するグノーシス主義の関係から、自然科学に対するシンギュラリティ思想の関係を理解する。

個人的には、シンギュラリティ仮説は現代のグノーシス主義だという話には、なるほどという印象を持つ。グノーシス主義の4つの特徴は、シンギュラリティの提唱者たちの主張にも見られる(p.100-110)。その特徴とは、(1)世界の不完全性、その原因としての偽りの神、そして偽り神に支配力を奪われた真の神という対立。(2)論理よりも物語を重視すること。かつては科学の成果に基づいてSFが作られたのに、最近はSFが科学のモデルになっている。これは研究資金を得るために大衆に分かりやすくする側面もある(p.105f)。(3)精神と物質の二元論。4)時間の断絶を起こす大異変を経て、真の神の世界が到来すること。

この後、なぜか古代ギリシャ、キリスト教、グノーシス主義の時間の捉え方を比較する。円環、無限、断絶する時間として。ここはあまり面白くないし、シンギュラリティ仮説に興味を持って読んできた読者は置いて行かれるだろう。この辺りから筆に力が入るのか、シンギュラリティ仮説はそもそも倫理的に問題があると言う。可能性と蓋然性を示し、人々の選択肢を増やすことが科学者の責任であり、人類の発展を推し進めてきた。シンギュラリティの提唱者たちはこれとは違って、一つの可能性にしか過ぎないシナリオをあたかも不可避のもののように語って、人々の選択肢を狭めている。荒唐無稽なカタストロフィーを信じ込ませようとするものであり、もはや知識人でもない。この点では倫理的な非難に値すると(p.148f 156f)。

最後に、なぜテック系の大企業がシンギュラリティ仮説の信奉者を支援したりするのか、という点について憶測を語っている(p.163-176）。GAFAMを始めとする大企業は情報技術を推し進める一方で、その情報技術こそが人間を破滅に追いやるとする人物や団体を支援している。これはまるで、火を自分でつけておきながら消火の先頭に立って奔走する、放火魔の消防士である。シンギュラリティの宣伝を行う（に関与する）企業の目的は3つに推察されている。(1)未来を先導しようとする、経営者たちの自己陶酔と傲慢。(2)デジタル産業の厳しい競争による将来の不安を、人類全体に拡張し、人類の危機を知らせるため。(3)ハイテク産業が自身の宣伝のために持ち出したストーリー。テクノロジーはムーアの法則のように自律的に発展するものであるとして自らの責任を回避している。また、企業ができることはテクノロジーを人間的なものにすることであるとして、自らが人類愛に基づいて人類を良くすることができる、公共のために正しいことができるというイメージを広めるために、シンギュラリティを宣伝している。

おそらく著者の結論は(3)であって、自分たちが開発し推し進める技術がもたらす悪影響は不可避なのだ、と主張することで責任を回避しているというものだ。責任を回避したいがゆえにシンギュラリティ仮説を支持しているというかはともかく、シンギュラリティ仮説を支持することがそういう効果を生むのは考えられることだろう。

後半はともかくとして、前半は読むに参考になる。ただ、シンギュラリティ仮説といっても、超知能の出現の後、人類に楽観的な事態が訪れるとするものと（カーツワイル）、悲観的な事態が訪れるとするものがある。いつの間にか、後者の話なっている。