なぜ憂うべきなのか ー 西垣通著『AI 人工知能のコンセプト（1988年、講談社現代新書）』再読 ― その6

 当ブログ前回までの一連記事、西垣通著『AI 人工知能のコンセプト（1988年、講談社現代新書）』再読、の結論において、人工知能という用語は意味上の自己矛盾をはらんだ用語であり、現実に即した概念を表現するには人工知能（Artificial Intelligence）よりも集合的知能（Collective Intelligence）の方が適切ではないかという結論に至りました。より具体的かつ正確には「Machine aided collective intelligence（訳例：電算機使用集合知能）」の方が適切ではないか、という結論に至ったわけです。そして、最後の個所では、この『人工知能 AI』あるいは『AI 人工知能』という用語がますます広く、特に産業界、技術界で使用されるようになった傾向について憂うべきであると述べました。そこで、その「憂うべきである」と考える理由について、やや詳細に分析してみたいと思います。

アクロニム（頭字語、略語）による分析

人工知能は、おそらく英語、日本語、共通して英語のアクロニム（頭字語、略語）であるAIで表現されるようになっている。一般にアクロニムによる表現には問題が多いが、同様に大いに問題性が感ぜられる最近の用語PCRと比較してみることは興味深く、参考になる。PCRというのは辞書的に「ポリメラーゼ連鎖反応」の略であることがわかるが、この言葉は最初からPとCとRが何を意味することなど、一切説明することなく新型コロナの感染を診断する試験方法としてマスコミや広報機関やネット空間を含めたジャーナリスト、文化人の報道や発言で紹介され、使われ始めた。その後、もう2年以上にもなるが、いまだにマスコミでPCRが何を意味するかが説明されるのを聞いたことがない。はっきり言って私には、聴き手を馬鹿にした話だと思われたが、視聴者側から「PCRってどういう意味なの？」という疑問が呈されることもほとんどなかったようだ。友人などにそのことを訴えても大抵の場合は「普通の人がそんなことまで知る必要はないさ」といわれるのが落ちである。考えられる一つの理由は、この言葉は「PCR検査」というように「検査」が付いた熟語になっていることだ。「検査」が付いていることで、何らかの検査であることがわかり、新型コロナ感染の文脈で使われる以上、新型コロナ感染を検査する検査方法であると理解され、それより先は素人が知る必要のないことのように思われるからである。別の観点からは、この言葉は固有名詞的に響くともいえる（実際には固有名詞ではないが）。普通、固有名詞の持つ本来の意味などは詮索する必要もないと思われている。しかし略語である以上、本来どのような意味なのかを知る必要を感じるのが、自分の頭でものを考える人というものだろう。という次第で、この例の場合、アクロニムは一部の人に思考停止をさせる効果があるともいえる。

一方の「AI」であるが、この略語が使われ、一般的になった経緯はPCRとはかなり異なっている。AIの場合、マスコミなどで使われる場合は未だに「人工知能」というカッコ内説明付きで語られる場合が多い。この言葉はPCRの場合とは異なり、もともと日本語では人工知能という、明確に一定の概念を表現するとみられる言葉として紹介されてきたのであり、特に頻繁に使用され始めたころから英語のArtificial Intelligenceの略語の「AI」が使われるようになったが、いまだに「（人工知能）」という注釈付きで用いられることが多いのである。その一つの理由として、こちらはPCRとは違い、固有名詞的に響かないことが挙げられる。むしろ、文脈上から固有名詞ではありえないような状況で使われることの方が多い。理由が何であれ、この言葉の発信側も受け取り側も共に言葉の意味、概念にこだわり続けているといえる。

PCRの場合は、端的に言って意味の重要性がはぐらかされているともいえるのだが、AIの場合、意味の重要性はむしろ強調されているように見える。それだけに、その意味自体に問題があるとすれば、これはこれで、大いに不都合な現実であるといえる。「意味自体に問題」というのは、前回までのシリーズ記事で提起したような、意味的に自己矛盾を抱えた用語である、もっと端的に言って、間違った。不適切な用語であるということである。これは結果的に、受け取り側が誤魔化されていると同時に、発信側も自己欺瞞を抱えている可能性が疑われる。とすれば、そのような状況が生産的であるはずがない。発信側も受け取り側も、常に違和感を抱えながら状況に対処して行かなければならないのである。

このような概念をAIという略語で言い換えることは、元のArtificial Intelligence、人工知能の概念を覆い隠しているということにはならない。ただし、略語ではなく人工知能という場合は常にこの言葉の概念、もしくは理念が想起されるのに対して、AIという場合は、すでに普通名詞的に、場合によっては数詞で数えられるような、すでに具体的に存在する個々のシステムを表すという面が強調されるようになっているのである。ひいては、ロボットの場合がそうであるように固有名詞まで与えられる固有システムを指すようになり、人工知能という理念が存在しうるかどうかという疑問が呈されていたことが忘れ去られる一方で、AIというシニフィアンの一人歩きが始まっているといえる。というよりもむしろ、実質的には本来のシニフィエとは異なる別のシニフィエを担いながら、やはり人工知能という看板を引っ提げているという、落ちつかない状況に陥っているように思われるのである。

擬人化、仮想と人工知能

以上のように、AIという略語が一般的に広がってきた現在、すでに、少なくとも日本では、AIという言葉は人工知能の概念（というより理念というべきか）から解き放たれ、PCやネット端末での特定の機能を表現するために使われる場合も多くなっている。わかりやすい例として、対話型の自動対応機能と呼べるようなものがある。例えば商品説明や質問に自動応答で答えるチャット機能である。筆者が使っているあるクラウドサービスでは、そのようなチャット機能に女性の名前が付けられ、女性職員らしいイラスト付きで提供される（例えば「AIの〇〇子さんがお答えします」といったキャプション付きで）。一言でいえばこれは擬人化的機能と呼ぶべきだろう。振り返ってみると、このようなチャット機能は本書で人工知能の代表的な分野とされた「エキスパートシステム」に該当すると思われる。「エキスパート」とは人物について規定する言葉であり、すでのこの時点でこのようなシステムが擬人化的に表現されていたのである。こうしてみると、人工知能という概念は、コンピュータを使う諸々の機能あるいは用途の中でも擬人化されやすいというか、擬人化表現と馴染みやすい機能あるいは用途について一括して分類するために選択されたというか、案出された概念ではないかと思われるのである。西垣氏が人工知能の3つの代表的なカテゴリーとして挙げたところのエキスパートシステム、自動言語処理システム（翻訳）、および知能ロボット、何れも擬人化表現に馴染みやすい分野である。こうしてみると、そのような擬人化される内容を人工知能と表現する感性はわからないでもない。とはいえ、擬人化されるものは人間でも人間に固有の属性でもない。そうであればこそ擬人化されるのである。擬人化されたものはある意味バーチャル、仮想人間と呼ぶことが出来る。これをバーチャルリアリティつまり仮想現実と考えた場合、仮想現実の内容が現実と取り違えられることがいかに危険なことになりうるか、明らかではないだろうか。例えば鏡像、鏡に映った人物が実際にその位置にいると認識されたり、よくできた人形やロボット、あるいは映像や画像でさえ、本物と間違えられた場合を想像するだけでも良い。初めて鏡に映った人物を見て戸惑った幼児の親は、それが現実ではないことを教えなければならない。別に教えなくとも自分で気づくとしても、それに気づかないままでは生きてゆくことはできない。人工知能という言葉はその正体があいまいにされたままになっているといえる。「人工」という概念には結構あいまいなところがあるが、やはり仮想的な対象は「人工○○」というべきではない。例えば、「人工○○」とは○○が生成されるプロセスが人工的ということであって、○○が偽物である、あるいは仮想的であるということとは全く異なるからである。人工ダイヤモンドはあくまでダイヤモンドであって模造ダイヤでも仮想ダイヤでもないのである。

以上のように、「人工知能」という概念に問題がある、さらに言えば危険でさえあるとすれば別の言葉でいえばバーチャル知能、仮想知能と呼ぶのも一つの解決策であり、それでは人工知能ではなく仮想知能と呼べばよいのではないか、という考え方もできる。それはそれで判りやすく、そのために不都合が生じるわけではないが、少なくとも生産的な表現とまでは言えないように思う。それは、バーチャル、仮想という表現は外面、すなわち見せかけの状態を表現するのみであって、本質を表す概念、ひいては構造を明らかにするものではないからである。

人工知能は一つの概念ないしは理念であるが、擬人化は人の認知プロセスまたは言語表現のプロセスであると言える。この辺りは掘り下げて行くときりがないが、簡単に言って擬人化の場合は現実には人でないものについて語っていることが前提である。一方、人工知能の「人工」は、人間が作り出すという意味であり、単なる認識や表現の問題ではない。先のチャット機能を例にとってみれば、〇〇さんと名付けられた女性はイラストレーターによって描かれたイラストで表現されているだけであり、

「集合的知能」あるいはこれに類する概念と用語を用いることの利点

ここでは、人工知能という用語の問題点をさらに、あるいは具体的にこれ以上あげつらうのではなく、すでに提案した「集合知能」という言葉を使うことでどのような利点が得られるかについて考察してみたいと思う。もっとも集合知能という言い方は簡潔に過ぎ、英語でよく使われるMachine aided、あるいはComputer aidedに相当する修飾語を付けたほうが良いと思うし、ほかにも良い表現があるかもしれないけれども、とりあえずここでは集合知能という簡単な用語で考察を進めたいと思う。

一言でいえば、これにより、「人間の研究」こそが、大切であるということが理解できるということであると思う。当面はエーアイと呼ばれる諸々のシステムの研究開発および利用においても人間の研究こそが、その正しい発展、開発において大切であることがわかるのである。具体的には次の二点に要約できようかと思われる。

1. 心理学、集団心理学や人間学などの成果をシステムの設計や解析の方法論に取り入れることが可能になる。
2. 当該分野あるいはカテゴリーの有意義な分類と整理、さらには体系化が可能になる。
   

総括すると、現在エーアイと呼ばれているものの真に人間的な次元での構造化が可能になり、したがって分析と構成が可能になり、真に精神的な意味で生産的な開発と発展の見通しが得られるようになるのではないだろうか。

西垣通著『AI 人工知能のコンセプト（1988年、講談社現代新書）』再読 ― その5 ― 人間と生物、無生物

著者は後半で、バイオコンピュータの可能性について考察を始めるが、私は最初にバイオコンピュータのアイデアが出てきた時点で違和感を持った。それは、一言で表現すれば、生物と無生物を区別する根拠とAIの理念との結びつきに対する違和感というべきかと思う。なぜなら、私はすでにAIの理念そのものが破綻していると考えるものであって、その理由は生物と無生物との違いとは関係がないからであった。バイオコンピュータの可能性について考察している本書のそれ以後の記述については一応、通読はしたが、明確に表現できるような印象と理解を得るに至らなかったものの、上記の違和感あるいは疑念を覆すものではなかった。前回同様、この問題を著者の論旨に沿って考察するには少なくとももう一度、たとえ拾い読みでもする必要があるが、前回記事に書いたように、本書を無くしてしまったのである。ただ、今回はその違和感を掘り下げることで持論を展開してみたいと思う。

上述したように、前回までにAIの理念が破綻していることを述べた根拠は生命現象、生命の概念や生物と無生物の違いなどとは直接関係がなく、むしろ人間性と人間以外の存在との違いまたは関係であるというべきである。最初の根拠は、AIとは、コンピュータその他のハードウェアを「道具として使う」存在である、という著者の一種の定義から、その存在は人間に他ならず、人間以外ではありえないのではないか？という問いかけから得られたものであった。続いて、情報とは何か、情報の本質から、少なくともコンピュータとソフトウェアを使用して処理を行うような種類の情報は人間によってのみ発信および受信されるものであるという観点であり、この場合も普遍的な生命の概念あるいは生物と無生物という対立関係とは直接的な関係はない。何らかの対立関係を想定するのであれば、要するに人間と人間以外という対立関係である。これは基本的には人間は言語を持つということにある。私自身はソフトウェアの本体ともいえるプログラム言語を言語と呼ぶことに何となく抵抗があって、プログラム言語については素人で使うこともできないにも関わらずいろいろ思うところもあったが、プログラム言語が一般の、いわゆる自然言語から派生したといえることは間違いがないし、少なくとも言語を持たない動物がプログラム言語を生み出すということはあり得ないので、言語能力を持つ人間のみがコンピュータ、あるいは人工頭脳、あるいはエー・アイを使い、操作する主体であり得ることは疑いようがないのである。

別の観点から言えば、バイオコンピュータの概念はハードウェアに関するものである。もちろん、そういうハードウェアが実現したとすればソフトウェアもそれに対応した変化を受けることになるとしても、AIの理念の実現をハードウェアに期待することは、ソフトウェアでAIの理念を実現することが無理であることを、すでに認めていることに他ならない。端的に言えば、ソフトウェアでAIの理念を実現することは、それ自体が自己矛盾なのである。

という次第で、バイオであろうがバイオでなかろうが、AIの理念が実現できるとすれば、それはソフトウェアが不要、すなわち人間が設計する一切のソフトウェアから解放されたハードウェアが実現することに他ならない。それは、いわば完全に人間のコントロールから解放された、言語能力を持つ物理的存在ということになる。もちろん、人間とのコミュニケーションが可能でなければならない。そういうものが実現できるかどうかはともかく、これはもう、古典的な人造人間であって、プログラムともプログラミング言語とも関係のないものである。

もちろん現在の、ソフトウェアとハードウェアとの組み合わせによる人工頭脳が、完全に人間によってコントロールされているとは言えない。コンピュータが、関係者の予測できない動作をすることはよく問題になるところである。しかしこれは、ハードウェアがソフトウェアなしで自律的に動作するという訳ではない。これは、ソフトウェア自体も、人間が完全にコントロールできているわけではないことを意味しているともいえる。

以上は多分に、いわゆるエー・アイが、（前回に1つの結論として得られたとおり）人工知能ではなく集合的知能とみなせるということと関係がある。集合的ということは総合的ということでも包括的ということでもない。悪く言えば多くの個人の、それも断片的な知能の、またかなり恣意的な寄せ集めに過ぎない面もあると言わざるを得ない。ただ、機械を、いわば軸的中心として統合されているとは言える。具体的に言えば、プログアミング言語の作成者、オペレーティングシステムの作成者、アプリケーションの作成者、それぞれの使用者、何れについても膨大な人員が、ハードウェアのシステムを軸として関わっている。いわば多様な個々人の断片的な知性の、無秩序ではないが、かなり恣意的な結合体であると言える。そこに何らかの統合原理が機能していることは確かであるが、一方で人知の及ばない要素が入り込んでいる可能性がある。しかしそういうことは何もソフトウェアにおいてのみ生じる現象ではなく、多数の人間が関る共同作業において生じることである。これは個人の言語活動あるいは情報活動、あるいは芸術創作においても生じることである。人は自分自身の発言や作文、あるいは描画や音楽活動においてさえ、自分自身で完全にコントロールできているわけではない。直観や無意識の作用もあれば感情に動かされる面もあり、インスピレーションや天啓も大いにあり得るというべきであり、端的に言って人知の及ばない要素と言わざるを得ない。

バイオコンピュータの理念あるいは構想については原理的な基礎的知識もなく良くわからないが、以上のような文脈で考察するのはどうだろうかと思う。いずれにしても、他の場合と同様、人工知能という概念とは相容れないものである。

以上の考察を通じて、一貫して存在感を示し、輝きを増し続けているように思われるのが、「人間はシンボルを繰る生き物である」という人間の定義に立脚して名著『人間』を書いたカッシーラーの哲学である。その全貌を私はいまだ知らないが、「人間」という存在の本質と特質に着目し、言語を中心とするシンボル形式を中心に据えたその哲学は、コンピュータサイエンスあるいは情報学においても基本的な支えとなってしかるべきではなかろうかと思うのである。例えば、主著である『シンボル形式の哲学』中で有名な個所として、等方空間と異方空間の相違に関する考察がある。等方空間については西垣通氏自身も本書中で一回だけ言及しているところがあるが、カッシーラーの哲学については一度も言及していない。まあ今となってはもう30年以上も前の著作であり、当方も著者のその後の思想については殆ど知るところはないのだが。ただ、社会的にも、専門的にと同様、人工知能という言葉が以前にも増して無反省に使われる頻度が高くなっている現状は憂うべきではないかと思うのである。