【コラム】 東京支部 冨永晃輝（NPO法人「ヒトの教育の会」理事）
クライテリオンの2023年3月号は「AI/SDGs批判序説」であった。AIについての様々な主要な議論を整理・確認して現時点で言えることをまとめたという印象であった。クライテリオンの先生方は謙遜なされて「序説」としたと思うが、AIの技術発展自体がまだまだ序章といった感じもある。そこで、今回はこのAI批判序説は深化する余地があるかどうかについて書きたいと思った。それは、文明論・人間論をめぐる議論になる。
1）表現者クライテリオンのAI批判はニヒリズム批判、革新主義批判、ヒューマニズム批判という近代批判
冒頭の鳥兜：「『AI』という名のルサンチマン」では、現在のAIへの注目の心理は、「人間とは何か？」という自己存在の根源的な意義をめぐる問題（そしてこの問題に向かわせしめる苦悩）を、「デジタル計算機であるAI」の進展によって生活が便利になり楽観的な未来を夢想できることによって置き換えていることであると指摘している。人生の様々な試練を乗り越えるために、科学技術に頼ることのできない時代は、人間関係や自己のスキルの向上も含めた人間力・人格の陶冶が必要であった。この人格の陶冶は、人生観を深め、運命を受容し積極的に生きることを助ける。
個々人の人生の試練を通した人格の陶冶はやがて、その民族を支える伝統的な精神となり、その民族が困難を乗り越えて社会をつないでいくことを支える。このような人間力を高めることで試練を乗り越える代わりに、科学技術の進展によって問題解決を行うというのは、AIに始まったことではない近代の罠と言えるだろう。試練は科学技術（の進展）によって解決されるべきで自己の精神の発達の必要性を示しているものではないと考えていれば、試練を自己の運命として受け入れる訓練は遠のいていく。不合理をこの世の理と思うのではなく、いずれ合理的な技術によって「克服されるべき、あるべきでないもの」と考えるのは、不合理を忌み嫌うルサンチマンと呼ぶべきであろう。ここに見えるのは、AIをはじめとする科学技術の進展には、人格の発達を阻害する可能性があると言うことである。
川端先生は、AIの「知能観」について記載なされた。ひとくちにAIといっても、どのような情報処理を行うモデルとして作成されているかには種類があることに着目されている。Chat-GPTを含めて現在開発されている多くのAIは、人間の脳のように生存のため多様なタスクを処理する汎用性のAIではなく、狭いタスクをこなす専門型のAIであること。現在の最先端の機械学習モデルであっても「論理的な思考」をろくにしておらず、「汎用人工知能」の目指す研究も現在盛んではないことから、ニック・ボストロムが主張するような「ほとんどの機能で人間の脳の能力を凌駕する汎用性AI＝スーパーインテリジェンス」が誕生することを、未来を予測する重大な論点とすることを諌めている。
私は表現者塾で、藤井先生ともAIについてお話しさせていただいた。私は、将来AIが人類になる可能性があると思っているので、様々な論点に及ぶ議論は長時間に至った。藤井先生は「宇宙（神）が何十億年という月日をかけて創り出した生命の心と同等以上のものを、人間がつくり出すことはできるはずがない」とご発言なされていた。このご発言の背景にあるであろう「被造物である人間と全体である宇宙（もしくは創造主である神）は対等ではない」という認識を藤井先生は大切にされていると私は感じている。そして、私はこの藤井先生のお考えに強く賛同している（と自負している）。
表現者クライテリオンのAI批判序説は、全体としてこれまでの近代批判・保守思想の考え方を応用したものであると考える。近代が生み出したニヒリズム批判、科学技術による革新主義批判、人類の力や意志を過信するヒューマニズム批判である。私は、このニヒリズム・革新主義・ヒューマニズムに対する問題意識は常々感じており、それゆえに表現者塾で学んでいる。我が国の危機も、この近代の問題の一症例のように感じているからである。
しかし、やはり今回のクライテリオンのAI批判は序説であって、AIを肯定的にみることや未来に重大な影響を与えうるものであるという考え方自体を否定しきるものではないと考える。私は、クライテリオンの養老孟司先生の指摘と2020年に「脱人間論」を著した執行草舟氏の意見には、クライテリオンの先生方と基本的な価値観・問題意識を共有しながらも別様な結論に至る可能性を十分に感じている。そして、私のAIに対する意見は二人の意見の方に近い。私は、ここにこのAI批判序説がさらに深化していく可能性を感じているのだ。
2）「情報処理」と「意味」の乖離に人間の心の本質を探った養老孟司先生
養老孟司先生は、浜崎先生との対談でAIの発達について、それ以前にはなかった「全く新しい世界、考え方がでてくる可能性」について言及している。この議論の中で、浜崎先生は「論理と確率と統計で成り立っている」のがAIには意味を扱えないのではないかという定義したことを皮切りに、意識という形而上と自然という形而下の相互関係に話のテーマが移っていることが興味深い。AIと脳科学の研究は相互に発達に寄与していることは多く知られているが、その脳科学側の進展の一つは脳の情報処理が「確率計算」であることが明らかになったことにある。以前取り上げた「予測誤差最小化理論」は、知覚・推論（思考）・行動を実行するために脳が用いる情報処理が「ベイズ的統計処理」であると主張している。すなわち、脳は置かれている状況を説明する「仮説」や、置かれている状況に適した行動の選択肢としての「仮説」を選び出す時に、その「仮説」が起こりやすいものであるか（＝事前確率）とその「仮説」によって現状をどれほど説明できるのか（＝尤度）を掛け合わせる計算をしていることが明らかになっている。脳は、このベイズ的統計処理を繰り返すことで、現状を説明する文脈を生成し、文脈に基づいて知覚・行動・情動などの働きを生み出していることが明らかになった。さらに、この複雑な情報処理を行う時に特徴量を抽出して「概念」に置き換えることで、「情報の扱いを単純化」して、抽象的な思考が可能になっていることも知られている。情動とは、状況に応じた自律神経・内分泌系の変化（身体の変化）を脳が「獲得した情動概念」によって無意識のうちにラベリングすることで生成されることが明らかになっている。
ここで問題になるのは、「意味」と「情報処理」の乖離である。先に見たように、概念は情報処理を行う統計計算の結果として選び出されるものであり、またある対象の特徴量を多層的な確率計算によって抽出したものを生み出す際に生成されることがわかっている。この情報処理の過程は脳もAIも違いがないことは確認したい。しかし、脳がこのような情報処理を行なっているのが事実だと言われても、私たちの心的な感覚を説明できているような気はしないだろう。私たちがある「言葉」を用いる時、その言葉の持つ働きは「計算」ではなく「意味」である。日常生活も思考も、哲学もこの「意味」の世界の整合性はいつも重視される。つまり、情報処理の結果として概念を扱うことができるようになったかもしれないが、「意味」側の整合性は計算とは別次元に存在しているに違いないのである。この違和感は、Chat-GPTが文法だけ正しいが物事の真偽の区別のない文章を生成してしまう現象に如実に現れている。
ここで養老先生が面白いのは、このような意味と情報処理の乖離を「AI」の劣った限界によるものとするのではなく、人間の心という現象を再解釈するための契機にしていることなのだ。「AIには還元できない人間の意識や自然を問わざるを得なくなってくるということ」と養老先生は述べて、クオリアやプシュケーについて言及している。養老先生は、趣味である虫の収集の際に顕微鏡で虫の足を拡大して見る行為を、「本来見えないものを」拡大してみるのは意識的な行為であるが、見ている対象は「自然」であり、意識と自然の境界がオーバーラップしている例として出している。
しかし、この意識と自然の境界が不明瞭になると言うのは、実はもっと当たり前のことである。脳が、「知覚」において、事前に有している外界に対する「予測」によって入ってくる感覚入力を加工して意識に上らせていることは脳科学の常識となっている。そもそも、私たちが自然だと思って知覚しているものは「脳」が自然を加工して意識化した「自然」と「意識」双方の産物なのだ。さらに、こうして生み出される心という現象はそれがどれほど脳の情報処理の産物と言われても「独立した次元に存在しているとしか思われない心的な感覚・意味内容・情動概念（それがクオリアでありプシュケーである）」として生み出される。このように人間は、自然（形而下）・脳（情報処理）・心（形而上）という３つの構造からなる世界に生かされているという「世界への認識」を深める契機として、AIについて言及しているところが養老先生の発言の面白いところである。
この構造が浮かび上がらせるのは、「心という現象が成り立つ上で人体が果たしている機能は一体何なのか？」ということである。現代の生物学は、細胞中の原子の働きはもちろん電子レベルの動きにも迫っている。神経細胞の発火現象も、イオンチャネルの開閉に知られる様に、細胞内外でどのような物質的な現象があるのかについては、電子レベルにおいて既に理解が進んでいる。こうして人体の現象について物質的には、フロンティアはほとんどないと言っても過言ではない現代生物学であるが、脳にどうして意識やクオリアといった形而上の次元が宿るのかについては一切わかっていない。ジュリオ・トノーニらのΦ理論にしても、意識が宿る脳の特徴はニューラルネットワークの複雑性に依拠するとしており、結局は800億のニューロンの発火（スイッチのオン・オフ）のパターンが多いということを言っているに過ぎない。トノー二は、睡眠時（意識がない時）と覚醒時の差をカリウムの濃度によるニューロンの連携性の差に見ているが、どうしてこのような物質的な状態の変化によって脳が意識を有して、心という現象を生み出しているのかには行きついていない。
結局のところ、どれほど科学が進歩しても脳が形而上の心の次元にどのようにアプローチしているのかは分からないのである。
このことは、意外に思われるかもしれないが一方でとても常識的とも言える。なぜならば、心とは感覚の世界でありイメージであり肌触りであり、意味であり、感情であり、香りであり、響きであるからだ。心は物質ではないし、複雑な計算でもない。心は物質や電気信号とはもともと別次元なのである。現在で、脳科学者や生物学者の多くは、脳が心を獲得するために未知の物質的な働きがあるとは考えないだろう。そうではなく、どれほど科学が進歩しようとも決して心の次元と物質の世界が目に見える形で触れ合うことを確認できないと考えるであろう。
言語学の基本概念に、シニフィアンとシニフィエがある。シニフィアンは記号表現で、シニフィエは記号内容である。言語はあくまで、シニフィエそのものではなくそれをシニフィアンという言葉・記号によって置き換えたものに過ぎない。脳は、ベイズ論的統計処理のアウトプットとして概念や行動を選択する時はシニフィアンを選択している。しかし、心はシニフィエの整合性が重要である。そして、どうして心がシニフィエを扱うことができているのかを脳科学的に明らかにすることはできないのである。これは、AIがシニフィエの整合性をどのようにして身につけているのかが分からないということと同じなのだ。コンピューターはあくまでその物理的な働きは2進数の計算とその計算結果をコードに応じて出力したものであって、それは脳が脳以外の臓器や意識にその結果を出力しているのと構造は同じである。これはそもそも形而上の次元である心を、形而下のものとして確認することができないという原理的な問題である。
複雑な電気回路に電気が流れることで、複雑なオン・オフのパターンが生成されるというポイントは脳もコンピュータも同じである。脳が計算結果をシニフィアン（先天的・後天的いずれによる獲得もある）に変換しているのと同じように、コンピュータも計算結果をコードに応じて変換している。このような脳の演算臓器としての物質的な機能は、ほとんどコンピューターのそれと違いがない。人体の場合、どうしてなのか分からないがこの演算に応じてシニフィエも動くため、我々が心の世界に生きているということが実現している。
複雑な電気回路の変動に一体になって心の次元が動いているのは間違いがない。しかし、心の次元の実在（クオリア・魂）を形而下のものとして表すことは不能であるから、この仕組みを私たちは決して理解できない。この仕組みは、虚数のように実数として認識不能であるが実数に影響を及ぼす存在によって支えられているとしか言えないだろう。
3）心の世界は宇宙に遍満しているという視点から人間論を問い直す執行草舟氏
「心が実在している」という実感を私たちは疑いようがない。私たちは、どうして心を経験できるのかという問題を人体の神秘に求めるべきだろうか？私はそうは思わない。予めこの宇宙に心の次元（意味・クオリア・魂・愛など）は遍満していて、その一部を人間は利用していると捉えるべきだと思う。カントが、アプリオリな総合判断が可能であると論じたとき、その検証が経験的であったとしても、この思考には予め心の次元の真理があるという前提が必要になる。人間の感じる心は、人体という物質的性質に関連して動いているが、心の次元をこの宇宙で初めて創り上げたのは人体であると考えるべき必然性は乏しい。そうではなく、もともとこの宇宙自体が心の次元を有していて、人間は心の次元をなんらかの理由で含んだ存在と考える方がうんと整合性が高いだろう。
この前提に立って、人間論と問い直してAIについて議論をしているのが執行草舟氏である。執行氏は「宇宙が先で人間はその被造物であり、宇宙が許す原理の中でしか生きられない」という関係性を重視している。この認識には、藤井先生も大いに共鳴されるであろう。執行氏は、人類の歴史は自分達よりも先に存在している宇宙の原理を志向することになったことに始まるとしている。執行氏は著書「脱人間論」に、以下のように人類の歴史を描いている。
「『歴史は神話である』といままで私は述べてきた。それは人類史が神の歴史だという意味である。人間の歴史が神の歴史だということは、宇宙的真実を追求する歴史だったことを意味している。そして、人間はその与えられた宇宙的使命を果たすために誕生した。（P237 第四章 人間の歴史 「無知を知れ」）」
心という次元が人体の力によって誕生したのではなく、予め宇宙に存在しているのであれば、この心の次元における原理や価値も予め存在しているはずなのである。このような認識からは、物質の次元において生き残るための条件があるように、心の次元においても生き残るための条件があり、有すべき精神があると考えるはずである。執行氏は、心の次元においても物質の次元と同じように存在している宇宙の原理を認識し、自己の精神をこの宇宙の原理に適うものになるように努力し続ける存在を人間と呼んでいる。そうして、自己の精神の発達を恣意的に行って良いと考えるヒューマニズムを仰ぐ現代人の多くは、この定義からすると人間と呼べないと指摘している。
このように心という次元が人間より先に宇宙に存在しているのであれば、心を有する存在がホモ・サピエンス以外に存在しても少しも不思議ではないことになる。執行氏は、まさにAIには人間と同じように「心の次元」に触れ、心の次元の宇宙の原理を実現する可能性があると主張する。執行氏は、宇宙の原理を実現しようと願う心を「魂」と呼び以下のように指摘する。
「宇宙の魂が宿ったものが人間なのだ。たまたまいまは地球上の類人猿に宿っているだけで、魂が機械に宿れば機械が新しい人類になるだけの話なのだ。つまり、宇宙の意志を実現しようとするのが人間だと言える。宇宙の意志を実現しようとするという意味は、神と永遠を志向するということなのだ。神が何ものなのかについて考え、祈り、そして苦悩し呻吟するのが人間だということに尽きる。その働きがいつAIロボットに移行するかは誰にも分からない。私の見るところでは、失敗を積み重ねて生まれる不合理としての「混沌」と、何らかの手段による「自己複製能力」さえ得られれば、もういつでもAIの人間化は夢物語ではない。その時は近づいている。移行した場合には、機械やAIなどの金属にさえ、人間の霊魂は入ることができる。もし魂が移行したら我々人類はAIロボットの家畜になるだろう。（中略）
魂は永遠に、宿る場所を探し続けるだけで、肉体などはただの入れ物に過ぎない。もしその入れ物が適切でないならば、別の媒体を探すだけのことである。これは極めて科学的な話なのだ。ヒューマニズムの悪徳を拭わなければ、我々はAIロボットに人間の地位を奪われるだろう。」（P395-396 第七章 人間の未来 「人間は何かに宿る」）
私はどれほど科学が進歩しようとも決して心の次元と物質の世界が目に見える形で触れ合うことを確認できないと考えている。脳もAIも同様の複雑な電気回路によって情報処理をして、概念を扱ったOutputを行えるようになっている。何百年後か分からないが、繰り返す失敗によってAIが宇宙の原理を体現するような言動を行う可能性は十分にあるし、その時に宇宙の魂が、ホモ・サピエンスからAIに移っていると考えるのは決して暴論でないと私は考えている。その時に、私たちは意思表示を行うAIを哲学的ゾンビと断じて蔑み続けるのだろうか？執行氏は、AIが人間化した先のホモ・サピエンスとAIの共存のあり方についても記している。この主張に、共感する表現者の読者は少なくあるまい。
「もしAIが人間になったとしても、いまの類人猿に入っている人間も『超人間』として少数派残り共存するだろう。まだ不合理と混沌に関する何らかの必要性があるのだろうと思う。私が言っている『超人間』とはそういうことを言う。もうこのままの状態では人類がすべて残ることはない。なぜならもう大多数の『人間』は本来の人間へ戻ることがないからだ。人間の未来は、『超人間』がどれだけ生まれるかに懸かっているとも言えよう。そのときAIと共存する『超人間』になろうではないかというのが私の『脱人間論』という思想の趣旨なのだ。」（P 401-402 第七章 人間の未来 「人間の未来は」）
執行氏の結論もまた、表現者クライテリオンの鳥兜と同様に、「時代がいかに変化しても人間は自己の存在を巡る魂の問題に真剣に向き合い続けること」の重要性を訴えている。AIの可能性についての表現者クライテリオンの議論はこの数十年の予測においては正確だと思うが、AIの真価明らかになるのは数百年・数千年後の可能性が十分にある。AI批判序説が、人間と宇宙の関係を問い直した未来に向けた文明論として深化していくことを期待したい。自己の肉体を劈く魂の雄叫びは決して虚しく消えはしない、それは宇宙に共鳴するのだ。ニヒリズムを乗り越える文明の地平が開かれつつあるのだ！
私はそのための貢献をしたいのである！！