帰結主義とフレーム問題

1.帰結主義

ベンサム、J.S.ミルに端を発する功利主義は現在「帰結主義」として倫理学上の主要学説の一つとなっている。
功利主義とはつまり「ある行為が倫理的であること」の定義をその行為が結果として多くの人間を幸福にするかどうかに求める考え方である。
このように倫理性を行為の帰結によって定義する点から、徳倫理学や義務論といった他の倫理学説と区別して「帰結主義」と呼ばれる。

有名な「そのまま進んでいくとm人轢き殺してしまう電車の進路を変更させてn人を轢き殺すべきか?(m>n)」という問いに、帰結主義なら進路を変更してn人を轢き殺すべきだと答える。
これは進路を変更させるという「行為」により、m人を轢き殺すよりn人を轢き殺すことになりより多くの人間を幸福にしているからだ。

しかしここで同じ帰結主義から別の回答が引き出せる。
仮にこの行為にコミットすることで、この考え方が広まって多くの人間を救うために比較的少数の人間を積極的に犠牲にすることが容認される社会が成立したとするとどうだろうか。
そのような社会ではいつなん時自分が多数者が幸福になるための犠牲にされてしまうかわからない。
例えば臓器移植しなければ生きられない多くの人を救うために自分が殺されて臓器を全て売られてしまうかもしれない。
そのような行為も上記の結論から間接的に正当化されてしまうのである。

そこで帰結主義者は「長い目で見て(in a long span)」どのような行為が倫理的なのか決定するべきである、と主張する。
長い目で見るとは、そのような行為を容認するような社会を考えた時結局人々は幸せに生きられるのか考えるということである。
いつ自分が殺されて臓器を売りさばかれてしまうかも分からないような社会では安心して生きられないだろうし、そのような社会で生きても幸福とは言い難いであろう。
つまりここで帰結主義が目指す「多数者の幸福」が損なわれてしまっている。
ゆえに帰結主義ではこのような行為は容認できない、と結論するのである。
すると最初の問いに戻って、電車の進路を変更しないことが倫理的な行動とされる。
しかしながらここには問題がないだろうか。

2.フレーム問題

コンピューター研究における有名な問題に「フレーム問題」というものがある。
コンピューターがある問題について考える際に、その思考範囲をどこまでに設定するか決められないという問題である。
例えば、ロボットに搭載された人工知能がロボットの腕を動かすかどうか決める際に、腕を動かす目的だけ考慮に入れて計算すべきなのか、腕を動かして周りにいる人にぶつかってしまわないよう周りにいる人間の様子も含めて計算すべきなのか、さらにそれらの人間がロボットの腕が動くことで取る反応とそれぞれの人の動きまで考慮に入れるべきなのか、コンピューターは決定できない。
これは計算の対象となる可能性が無限にあり、どの可能性までを思考の枠組みに入れるか決定することが難しいためである。

人間が普段このようなフレーム問題に囚われることはない。
それは無意識的にこの思考フレーム、つまり「どこで考えるのをやめるべきか」を決定できるからだ。
それがどう言ったシステムでどう働いているのかわからないが、我々人間がフレーム問題にぶち当たった人工知能のように考え込んで生存に必要な行動を取れないと言ったことはまずない。
生物は近眼視的に目の前にあるものを高く価値評価するというが、その辺りも関係しているのかもしれない。

3.帰結主義とフレーム問題

先ほどの帰結主義から導かれる「長い目で見て」の結論にはこのフレーム問題で起こるような問題があるのではないだろうか。
「少数者を犠牲にして多数者を救った方が全体の幸福量は多い。」「少数者の犠牲で成り立つ社会ができてしまったら幸福が損なわれる。」という二つの結論は、結局のところ思考のフレームの広さに違いからくるものだ。

ならばもっと思考のフレームを広げてみるとどうだろうか。
多数者のために少数者を犠牲にしない社会が徹底されると、今度は誰かを助けるために何の犠牲も払わない社会が出来上がるかもしれない。
誰かが誰かを助けるとき、助けられた人に生じる幸福の量が助けた人に生じる不幸の量を上回っていても、それはどんな形であれ犠牲なので容認できないとそのような社会に暮らす人は考えるであろう。
そのようにして相互扶助が消失した社会で果たして人間は以前より幸福に生きられるのだろうか。
ここで結局全体の幸福度が下がってしまうと結論付けられたら、最初の問いでの電車の進路は変えるべきだという結論に戻ってしまう。

このように思考のフレームを広げたり縮めたりするだけで帰結主義における「倫理的な行動」が二転三転してしまう。
ここで帰結主義者は無限にある可能性のどこまでを思考の枠組みとして制限して「倫理的行動」を定めるのかというフレーム問題に突き当たるのである。
人工知能研究においてフレーム問題の解決が見られていないように、帰結主義でもこの問題に対処するのは難しいであろう。
これを解決しない限り、帰結主義者は何かの選択肢にぶつかるたびにフレーム問題にぶつかった人工知能のように考え込まなければならないだろうし、そんなことをしている間に電車は通り過ぎてしまう。

4.結論

帰結主義者がフレーム問題を回避できないということは、純粋に行為の帰結のみによって行為の倫理性を決定することができないということだ。
ゆえに、我々は行為決定の際にいくらかの規則を受け入れなければならないだろう。
そのような規則は行為の帰結から正当化されるものではなく、数学の公理のように論証を受け付けない全ての前提となるものである。
それはいわゆる「道徳」として親や先生から教えられたものであったり、宗教的もしくは政治的権威者が定めた「規範」であるだろう。

しかし、功利主義的考え方がすべて間違っているというわけではない。
確かに厳密に帰結を計算して行為することは不可能であるが、規則によってある程度の範囲まで思考のフレームを制限すれば帰結主義の考え方は生き残れる。
そのフレームは家族であったり、地域共同体であったり、国家であったりするだろう。
「家族を大事にせよ」といった規則で定められた行為は家族以外の他人については無視している。
このように規則によって帰結のフレームが制限され、その内部では帰結主義的思考が可能になる。

以上から私は、幾つかの道徳規則を受け入れながらも自分の思考が及ぶ範囲で功利主義的に「それで人々は幸福になるのか?」と考え続ける態度が妥当であると思う。

参考

帰結主義
Consequentialism (Stanford Encyclopedia of Philosophy)
フレーム問題
The Frame Problem (Stanford Encyclopedia of Philosophy)
倫理学全般についてはジェームズ・レイチェルの『現実をみつめる道徳哲学』がわかりやすいと思う。

現実をみつめる道徳哲学―安楽死からフェミニズムまで

現実をみつめる道徳哲学―安楽死からフェミニズムまで

人工知能のフレーム問題は長谷敏司の『BEATLESS』でも登場する。

BEATLESS

BEATLESS