他者、AI、虚構 / 「志向姿勢」入門

An introduction to “intentional stance”

1. はじめに

 他者の振る舞いを予想することができるのはどうしてだろうか?AIは考えることができるのだろうか?フィクションの登場人物と実在の他者の間にはどういった違いがあるのだろうか?こうした一見関わりのない問いのそれぞれに対して、哲学者ダニエル・デネットの思考ツール「志向姿勢 (intentional stance)」は一定の答えを与えてくれる。この記事はあまり日本語の文献のアクセシビリティが良くない志向姿勢という考え方について簡単に説明し、デネットのその他の文献の読解の助けとなることを意図している。デネットというと『解明される意識 (1991)』『ダーウィンの危険な思想 (1995)』などが有名でそれから読み始める人が多い(自分を含む)のだが、これらの著書の哲学的なフレームワークを理解するためには実は志向姿勢というものについて知っている必要がある。私は最近になってデネットの70年代から80年代の本や論文を読んでこの重要性が理解でき、また『解明される意識』などを読んでいた時に感じたモヤモヤが解消されたのでこの記事によって同じ轍を踏む人が少しでも少なくなれば幸いである。

2. チェスプログラムと志向姿勢

 デネットがしばしば用いる例にチェスを行うプログラムとチェスを指すという状況がある。こうした状況において、私たちは普通どんなことをしているだろうか。もし指し手が計算機プログラミングの専門家(かつチェスが上手い)でチェスプログラムの書き方を熟知しているなら、対戦相手(プログラム)の実装を脳内で想像しながらチェスを指すかもしれない。しかしながら我々一般人には対戦相手の内部で動いているプログラムを想像することは不可能と言っていい。こうした場合でも私たちはそのプログラムとチェスを指すことができる。なぜだろうか?それは私たちがチェスプログラムが何を「考えて」次にどの手を指すかを予想することができるからだ。この時私たちはプログラム内部の細部について熟知している必要は全くない。ただチェスのルール、現在の盤面の状況、その盤面からのチェックメイトへの道筋とそこから逆算した次の手の最適解を知っていれば予想が可能なのだ。こうした予想を行う視点をデネットは「志向姿勢」と呼ぶ。相手がどんな振る舞いを「志向」(意図 intention)しているか、つまり何を考えているかを読む「姿勢 (stance)」、それが志向姿勢である。そしてこの志向姿勢はこのチェスプログラムの例に限らず私たちが他者の振る舞いを予想する際の一般的な視点でもある。私たちが他者の行動を予測する時、その振る舞いを発生させる中枢神経の細部を知っている脳神経学者である必要は全くない。むしろそうした神経の状態を詳細に見る視点は余計に時間がかかって邪魔だとさえ言えるだろう。
 ただし、相手が上で述べたような(例えばチェックメイトへの)最適解を取るという合理的な選択を行うという前提なしには志向姿勢による予想は成り立たない。ルール上最適解以外の手は無数に存在するし、対戦相手はそれを取ることが可能ではある。しかしそこまで思考の枠を広げてしまうと制限時間内の予想は不可能となってしまう。こうした選択肢の刈り込みを行うのが「合理性(rationality)」という前提なのだ。想定する必要のある選択肢の幅をあえて狭めることでシンプルでスピーディな予想を可能にするのが志向姿勢の重要な役割だと言えるだろう。言い換えると志向姿勢は予想の精度を少し落とす代わりに結果を出す速度を高め、また私たちの脳の限られた計算力でも予想が可能なようにしているのだ。反対に志向姿勢をとらない予測の方法(プログラム自体や脳神経を見る視点)は志向姿勢よりも精度が高い代わりに結果が出るのが遅いし、私たちの脳が持ち得ないような膨大な計算力を必要とする。また予想の速度(とそれに伴う意思決定の速度)は自然界における生存や繁殖において非常に重要なファクターである。なぜならどれだけ正確に予想を出すことができるとしてもその結果が捕食者に食べられてから出るのでは意味がないからだ。デネットは進化論を強く信奉しているので、こうした意味で私たちは志向姿勢を持つように進化してきたのだと論じる。(詳しくは『ダーウィンの危険な思想』『心の進化を解明する (2017)』)

3. 志向姿勢と他者

 こうした志向姿勢を用いると、他者は「信念」「願望」などを持って振る舞う主体として解釈されることになる。反対にいえば主体としての他者は合理性を持っているという前提のもとで解釈された「パターン」に過ぎない。(このパターンという語は解釈が難しいが単に信念、願望、行動という一連の流れを指していると考えてもらっていい。)志向姿勢を用いないで他者を見た時、それは物理的な原子の塊であるかもしれないし、様々な機能を持った器官の集合体であるかもしれない。そうしたシステムが真に主体として存在するためには、志向姿勢によって解釈されなければならないのだ。*1いやいや、解釈されようがされまいが他者は「魂」を持っているではないか、「主観的な経験」を、そうした記述に還元され得ない「クオリア」を持っているではないか、といった反論が出ることはそれこそ容易に「予想」できる。こうした批判にデネットは様々な本、論文で様々な形を取りながら答えている。簡単にいえばデネットは「物理主義」とか「自然主義」といった立場をとっていて、物理的なもの以外の存在を認めない。それゆえに魂やクオリアは「デカルト負の遺産」として否定される。この議論について詳しくは『解明される意識』や『スウィート・ドリームズ (2005)』などが参考になるだろう。

4. 志向姿勢と自己、意識

 そしてこうした志向姿勢に関する議論は「他者」に止まらず「自己」にも適用できる。結論からいえば、「自己」すらも志向姿勢によって解釈されたパターンにすぎない。世界の成り行きを正確に予想するためには他者や環境の振る舞いだけでなく自身の振る舞いもまた予想のうちに組み込まなければならない。それゆえに並列処理システムである私たちの脳は自分を含めたシステムの振る舞いを志向姿勢を用いて観察し予想している。そうして自分自身に対する志向姿勢によって出力されたパターンが、例えば「私はいま赤いリンゴを見ている」といった形で現れて「思考」や「意識」と呼ばれるのである。そしてこの「私はいま赤いリンゴを見ている」の主語である「私」が「自己」の正体、デネットが「物語的重力の中心」と呼ぶものなのだ。ちょっと待った、「私はいま赤いリンゴを見ている」と考えている「私」がいるじゃないか、それこそが自己なのではないか?という疑問が出てくるのは当然だと思う。しかしながらその考え方は「「「私はいま赤いリンゴを見ている」と考えている「私」」と考えている「私」」……と無限に遡ることができてあまり良いやり方とは言えない。そうではなくて「物語的重力の中心」としての自己が現れる前、つまり志向姿勢を用いて解釈している主体はまだ「私」ではないのだ。なぜなら他者と同様に自己にも魂はなく、解釈されて初めて主体として確立されるからだ。

5. 志向姿勢とAI

 こうして他者や自己といった思考と振る舞いの主体を再定義してみると、人間とAIの違いについての新しい見方が可能になる。最初のチェスプログラムの例でも示唆されているが、AIの振る舞いもまた志向姿勢によって解釈することができる。そして、主体であるとは志向姿勢によって解釈されることである。それゆえにAIもまた人間と同様に思考と振る舞いの主体たり得るのだ。こうした意味でデネットは「強いAI」を肯定する論者だと言われる。チェスプログラムの例では志向姿勢をとらなくても、プログラムの内容を詳細に検討すればその振る舞いを予想することは可能ではあった。しかしながらデネットが「ポスト知性的デザイン」と呼ぶような機械学習型のAIはそうはいかない。なぜなら例えばニューラルネットの詳細を見たとしてもAIがどのように考えて振る舞っているのかを理解することが不可能だからだ。それゆえにAIの振る舞いを志向姿勢を用いて解釈せざるを得ない、つまりはAIを思考する主体として扱わざるを得ない時代が来る可能性は大いにある。このことに対してデネットはAIを志向的な主体としてむしろ「過大に評価しすぎる」ことに警鐘を鳴らしている。私たちは無意識に志向姿勢を用いてAIの振る舞いも解釈してしまう。それゆえに本来AIに備わっていないような「合理性」をAIに対して前提して行動してしまうのだ。現行のAIはまだ人間と同じような合理性を持っているとは言えない。しかしこの合理性をいう志向姿勢による解釈の前提は無意識に働いてしまうために、AIが人間と同じように「普通こうするだろう」という前提を持って考えてしまい、重大な過ちが起こる可能性がある。さらに詳しくは『心の進化を解明する 』の最終章とこの記事"Daniel C. Dennett "The Singularity—an Urban Legend?" 和訳 - Revenantのブログ"。

6. 虚構、ヘテロ現象学的テキスト

 このように解釈されたものとしての主体や自己は、ある意味でフィクションの登場人物に近いしいものとなっている。なぜならあるシステムから志向姿勢によって解釈されたものとしての自己や他者と、文章から読み出されたフィクションの登場人物は、志向的なパターンという点で同様のものだからだ。デネットがしばしばフィクションを例として用いて意識や日常的な視点を説明しているのはこうした事情による。例えば『解明される意識』ではそれぞれの人間の発話行為コナン・ドイルの小説のようなある種のフィクションのテキストとして扱い、それを意識現象の探求の一つのリソースにしようという発想が登場する。こうしたテキストをデネットは「ヘテロ現象学的テキスト」と呼ぶ。このヘテロ現象学的テキストは志向姿勢によって解釈された、自分や他者の振る舞いを記述した物語だと言える。「自己」や「他者」というものはこのヘテロ現象学的テキストという一種のフィクション(「私はいま赤いリンゴを見ている」)の登場人物、すなわち先に述べた「物語的重力の中心」なのだ。こうした意味でデネットは「物語」という言葉をこの用語に取り入れている。
 そしてデネットは自己の振る舞いを観察し予想するために用いられるこのような志向的パターン/意識を「便利なフィクション」や「ユーザーイリュージョン」と呼んだりする。これらは例えばスマートフォンのホーム画面に並んだアイコンのように自分というシステムを簡単に把握するのに役立つ。しかしながらそのユーザーインターフェースは実際に脳内で行われている計算を厳密に表現したものではない。そうした意味で志向的パターン/意識はフィクションに近いのである。
 ただしデネットは物理的に存在する人間とそうでないフィクションのキャラクターは違っていることは認めている。以下は私の解釈になるが、そうした意味での違いは志向姿勢とは別の物の見方で発見される物理的な世界での違いである。逆に言えば、純粋に志向姿勢の枠内で考えるときにはそのような違いは現れてこない。例えば小説に熱中して読んでいる時、目の前にあるものが紙(もしくはKindle端末)に書かれた文字であることを意識するだろうか?純粋に志向姿勢によって登場人物の振る舞いを観察し、予想している状態においては彼らは私たち実在の主体と同様に解釈されている。こうした意味で志向姿勢の哲学において私たちはフィクションの登場人物は限りなく接近しているのだ。*2

7. おわりに

 はじめに立てた問い、「他者の振る舞いを予想することができるのはどうしてだろうか?AIは考えることができるのだろうか?フィクションの登場人物と実在の他者の間にはどういった違いがあるのだろうか?」にそれぞれ答えてこの記事を終えよう。まず他者の振る舞いを予想できるのは、他者が合理的に振る舞いという前提のもとで選択肢を限定しているからだ。そしてAIはこうした予想の枠組み内で扱われる限りで思考し行動する主体として扱われうる。最後に私たち実在の人物は解釈されたパターンであるという意味でフィクションの登場人物と同列に語ることができる。 
 この記事で志向姿勢という思想の持つ広い含意のいくつかは紹介できたと思う。ただし志向姿勢と倫理の関係など自分がまだうまく消化できていない部分については紹介できていないので、また成長したら書き加えたい。またデネットが構想する「姿勢」は志向姿勢だけでなく「物理姿勢 (physical stance)」「設計姿勢 (design stance)」を含めた三つである。この三つの姿勢の内容と関係性も非常に重要なトピックなので、機会があったらそちらも紹介したいと思う。

文献案内

1981年に出た論文集。特に最初の論文"Intentional Systems"が志向姿勢や三つの姿勢の導入としてわかりやすい。ただし和訳がない。

1989年に出た論文集。最初の二つの論文"True Believers"と"Three Kinds of Intentional Psychology"で志向姿勢について論じられている。ただしやや論争的なので個人的には"Intentional Systems"の方がわかりやすいと思う。和訳があるが当然本屋では見かけないので図書館などを探すしかない。

最初に読んだデネットの本として思い出深い。和訳にして上下二段組が600ページぐらいあって辟易とするかもしれないが、様々な分野の知識を総動員して意識という問題に立ち向かう冒険はなかなか得難い経験となるだろう。この記事で紹介した「ヘテロ現象学」「物語的重力の中心」については前者が先に登場するのだが、説明の順番として志向姿勢→「物語的重力の中心」→「ヘテロ現象学」が正しいと思う。そうした意味で哲学的に読むとわかりづらい本。

進化論を論じた本で志向姿勢の話は直接は出てこないが、その成り立ちが進化のプロセスにあると想定していることが読み取れる。グールドとの論争部分がややかったるいが「メンデルの図書館」などの考え方のモデル構築の手腕が遺憾無く発揮されていてそうした部分は感動する。

これも論文集。特に"Real Patterns"という論文はよく引用される重要な論文。コンウェイライフゲームなどを例に用いながら、三つの姿勢が説明されている。志向姿勢について知る上でも役立つだろう。これも和訳はない。

『解明された意識』に対する反論や、それ以前からある批判に対して答えることが目的の本なのでこれだけ読んでもよくわからない気がする。背景となる論争をある程度知ってから読むと面白いかもしれない。

最近出た本。個人的にはデネットの著作の中で一番おすすめ。彼の思想の大部分をカバーしていて、また論争的な部分が少ないので読みやすい。最近和訳も出た。志向姿勢の話も登場する。

個人的に訳したもの1。AIについて書かれたウェブ上の記事で、『心の進化を解明する』のAIについての記述も含めて解説してある。

個人的に訳したもの2。クオリアについて論駁した論文。志向姿勢にはあまり関わりがない。

*1:もしかすると「志向姿勢によって解釈されることが「可能」でなければならない。」つまりパターンとしてはアプリオリに存在していて解釈される「可能性」のみが主体である条件かもしれない。この点については目下研究中であるし、また存在論のややこしい議論に踏み入ってしまうので割愛する。

*2:例えばフィクションの登場人物に対して「こうすべきだ」「この振る舞いは許されない」といった判断をすることはこうした見方を裏打ちするものではないだろうか。