CCI FUTURE IMPACT Forum for SDGs

各専門家からみた現在の状況とこれからの持続可能な社会について、
CCI FUTURE IMPACT Forum座長の大澤真幸氏と
あらゆる分野の専門家からなるメンバーの対談をお届けしてまいります。

今回は、前回、前々回に引き続き、
佐倉 統氏と大澤 真幸氏のスペシャル対談のPart3をお届けします。


【第3回】科学技術と社会の関係値から見る現状と持続可能な社会
佐倉 統氏 × 大澤 真幸氏
Part3(全3回):課題解決におけるAIの方向性とこれからの時代のレベルの在り方


-大澤氏:
時々思うのですが、科学の専門というのは、普通の人たちが普通にものを考えるときの問題とはだいぶ違った形の概念があります。
ですから、我々が一番深刻な問題に直面した際、科学に答えを求めるが、科学には答えがないどころかその概念すらないということもあります。

例えば、「時間」という概念です。我々が考える「時間」と、物理学者が考える「時間」の概念はかなり違います。我々の「時間」というのは、終わったことは取り返しのつかないことになって後で後悔するとか、人は死んでしまうとか、実存的な悩みのようなものなのですが、実は物理学的な意味ではそういう概念はないのですね。
熱力学の第二法則をどう解釈するかによりますが、ある意味で、物理学には、われわれが日常の中で実感しているような意味でき時間の概念は無い、といって差し支えないですね。
少なくとも、物理的な概念に、ある種の解釈をいれない限り、普通の意味でき「時間」の概念には到達できない。

例えば、経済学を例にお話ししましょう。私たちは経済のことが気になるので、経済学に頼るところがあるわけですが、経済学のオーソドックスな理論には、ある意味では「失業」という概念は存在しないに等しい。
失業としての失業といいますか、「非自発的失業」は、理論的に理想化された市場には存在しないことになっている。
それに対し、さすがに経済学者もそれを修正し、変則的な理論をつくりますが――その代表がケインズだったわけですが――一番オーソドックスに経済学の教科書の最初の10ページに書いてある通りにいけば、失業というのは理論上ない。我々は失業問題への対処策の提案こそ経済学の一番の仕事であり、解決すべき問題だと思っているわけですが、しかし、経済学にとっては、失業問題は応用的な末端の概念でしかないわけです。

このように、専門に期待しているものが、全く外れているということが起きるのですね。この現象はよく起きます。言語という現象も、我々のいう言葉と生成文法で扱う言葉というものはあまりに異なると思ったりします。
生きる実存する人間というのは科学では存在しないということになってしまっている。

今回、疫学の専門家の方々には有効なことを言っていただいています。しかし、先日、フォーラムメンバーの熊谷晋一朗さんと対談した際にお話したのですが、疫学モデルでは感染の影響を考えるにあたり、人間をブラウン運動する粒子と同じように扱い、粒子の移動の量を80%に減らすとどうなるかを計算する。
つまり、人間がさまざまな営みをして、家族が生活をして、仕事をしてなどの、そういう具体的なモデルではない。集合する点がブラウン運動しているとして、移動量をどのくらい削減するとどのくらい接触が減少し、感染する率が下がっていくのかという抽象的な数学モデルなのです。
やはり、我々の人間観とブラウン運動する粒子まで還元された人間というのは、あまりに乖離が大きすぎて、それで政治的な意思決定をしていいものかどうかという点に対して疑問に思ってしまいます。

ですから、どのように科学を使えばいいのか。簡単には使えないことを科学者が一番理解している状況です。しかし、科学者はここでアドバイスを求められており、知りませんとはいえない。本当は知らないことを言わなければならないという難しさはありますね。


-佐倉氏:
それこそ、ミシェル・フーコーやイアン・ハッキングは統計学に対して、エドムント・フッサールは70年くらい前に心理学に対して、そういう批判をしたわけですね。
だけど、フッサールは超越論的現象学がそれを救うということを言いましたが、彼が言うようには中々ならないですよね。実際に日常生活において、我々が拠り所としていることは、個性と価値を捨象してしまった「点」で表される数値としての人間だけではない部分が大事なわけです。
「点」として統計で表された全体の動きと、私たち一人ひとりの生活の距離の間を埋めていくのは科学者ではないし、そこを政治家に委ねてしまうのは、冒頭申し上げた理由でしっくりこないのです。
一人ひとりがよく考えないとならない今後の課題ですね。

しかし、科学のほうでは意識の研究なども進んでいるので、ずっと今のままということはないと思います。日常の中での科学というのは、今後とても重要になると思っています。
中々進まないのですが、食とか建物とか、生活の質のようなことを考えること、生活の側から科学をどのように使うかを考える。日常生活は複雑なもの同士が複雑に絡みあう現場なので、そこに単純系の方から始まった科学的な考え方が通用しないところがあります。
では、どこまでだったら使えるのか、あるいは科学の感覚であればどのように変換したら日常生活がもっとうまくいくのかを考えていくことが重要だと思います。

今回の疫学モデルも専門家側からこうあるべきという形になっていますが、生活を維持する上で、どのレベルで折り合うのか、もう少しせめぎ合いがあってもよかったように思います。
そうなると、家政学や看護学、介護をはじめ、熊谷晋一郎さんがやっておられる当事者研究は非常に重要で、もう少し広い枠組みかもしれませんが、日常生活において、普通の人でも当事者であるという前提のもとに、これらが日常生活で使える枠組みなっていくと変わってくるかもしれないと思っています。


-大澤氏:
今回のことを通じて学んだことの一つは、本当に重要なエッセンシャルな仕事というのは大抵広い意味での介護に関係しているということでした。それは一つの考え方のベースになるのだと思いました。

このような意思決定が難しい状況にある中、もう一つ、AIについてお伺いしたいのですが、例えば何かを決める際にAIを利用しようなど、AIに対する期待はとても大きいじゃないですか。
確かに、ある分野ではAIは非常に役立つ。だんだんAI的なアルゴリズムに対する信頼、信仰に近い信頼というものが出てきていると思うのですが、AIについてどのようにお考えかお聞きできますか。
例えば、これから感染症対策、経済対策についてAIで対応するとか、政治的な問題もAIに予想してもらうとか。今後、AIはどのようになっていきますでしょうか?


-佐倉氏:
これから先どうなるというのはさておき、今のAIというのは統計学の世界観の延長にあるものだと思います。
データをたくさん集め、統計からの推論もすごく複雑になり、精緻になっていき、しかも機械学習、深層学習の技術によって状況にあわせてどんどん学習していく能力を持っているという意味では、非常に性能が上がっています。

しかし、基本的に18世紀にはじまった、統計で何かしましょうという話の延長上にあるものなので、先程からの統計的にいくのか、個人の質を重要視するのか、という議論においてはその構造を変えるものではないと思います。
AIが精緻化したときに、任せられる範疇が大きくなるので、どこまで任せるのが良いかという具体的な判断の検討は必要になるでしょうけれども、すべてがAIになるとか、質の部分を判断する部分で人間を超えるという話ではない。
これは、今のAIの原理的な話なのですが、AIを人々がどう使うかというのはまったく別の話です。狂信的にAIがいいと言って使う人もいるかもしれませんが、それは違うと思いますね。


-大澤氏:
よくAIについて議論する際、皆さん、いろいろなことを思考する、リーズニングするというやり方は人間の思考の強化バージョンだと考えているのです。
例えば、将棋なんかは明らかにAIのほうが強いわけじゃないですか。藤井聡太さんが出てきたからというだけではなく、AIが将棋の判定をしてくれるものですから、将棋の人気が益々上がって。対局を見ているとAIの予想が出ているわけですよね。今、先手有利ですなどと予想値が出て、次にどこかに打った瞬間に予想数字が変わって楽しめるようになっている。
みんながAIを基準にして、良い手とか悪い手とか考えている。AIは、人間の将棋の達人よりさらに達人だというイメージで捉えているのです。

しかし、人間のものの考え方や決断するやり方というのは、AIのアルゴリズムのやり方と全く違う様式である気がします。我々が「これがよい」と判断する時と、AIが「これがよい」と判断する時の「よい」全体の背後にある心のメカニズムは全く違う。どう違うのかというのを説明するのは難しいのですが、ある意味、誰も説明できないと思うのです。

だからAIを作った人たちは、「人間の心ってこうでしょ」、「それをバージョンアップしたのはこうですよ」というように出してきてしまうのですが、おそらく人間は自分がどうやって考えているのか、どのように心を働かせているのか、本当は自分でもよくわかっていないのですね。
そういう状態の中で、それをAIに替えた時、ただ機能だけがバージョンアップしているからいい、というわけではなくて、そこにある背景や「クオリア」――AIにクオリアはないかもしれませんが少なくとも私たちの思考はクオリアに彩られています――が全然違うものになると思うのです。AIを使っていいところは勿論いっぱいありますが、基本の部分は、AIへの代替は難しいかなと感じています。


-佐倉氏:
ありきたりですが、やはり身体性みたいなものを思うのです。
思考自体もそうですが身体的な感覚がとても大事で、将棋も手の善し悪しという抽象化された数字の統計の話ですが、パシッと格好よく打ったとか、いい音がしたとかいうのはすごく身体的な話ですよね。
AIでもいい音を立てるまではできるかもしれませんが、恰好よく打つというのは、まだ実現できていないですよ。
将棋の面白さというのはそういうもののトータルとして考えられているわけです。
ここだけが実現できたから、将棋のトータルの面白さが実現できたかというとまだそこまでいっていない。それを実現しようと思うと身体が制約条件になっているところがあるから、結局人間にそっくりなものをどんどんつくるような感じになっていて、それって別に人間がやればいいじゃないかみたいな。
こっちは人間が得意なのだから人間がやって、こっちはAIが得意なのだからAIがやればいいじゃないかって、そういう風になっていくのではないかないと思うのですよね。


-大澤氏:
以前、私たちのフォーラムで、工学博士で特に文理にわたる基礎情報学の構築に取り組んでいらっしゃる西垣通氏にAIの話をしていただきましたね。西垣さんは集合知というのを昔から考えていました。
例えばチェスの場合、世界チャンピオンとAIが対戦するとAIのほうが強い。チェスの場合は、将棋や囲碁よりずっと前からAIが勝っていました。
ところで、西垣さんによると、人間の方を独特の仕方で集合させると、かなり強力な集合知が作られます。もちろん、並の人をただ集めてみんなで多数決か何かで手を決める、とやったところで、たいしたことにはなりません。
では、名人並の人を何人かそろえて皆で相談すればよいものがでるか。もちろん、そうすればそれなりの結果が出るでしょうけど、そんなことは当たり前ですし、天才的な専門家がたくさんいればよい、というつまらない話になります。

まず、人間の集合は、ごく平均的な人たちの集まりでかまわない。チェスの駒の動かし方を知っている程度の人から、少しは心得がある程度の人など、いろいろな人がいる。いずれにせよ、中に名人が混ざっている必要はない。
ただし、そこに、一人、皆から提案される手を比較考量して、交通整理するちょっとしたリーダーというか世話役的な人が必要になる。その世話役的な人は、名人のように突出して有能である必要はありませんが、そこそこできる。将棋でいえば、名人やタイトルホルダーである必要はないけれど、プロの端くれの四段とか、その前の三段リーグにいる人とか、そんなイメージでしょうか。
その人が、皆から提案された手から、取捨選択したり、集計したりしながら、最終的な手を決定します。
そのようにした集合知は、人間の集団としてはおおむね平均的な人の集まりにすぎないのに、かなり優れた判断をし、名人並に強いということです。集合の中に、一人も名人などいないのに、集合知としては、名人に匹敵するものになるわけです。

これは改造版の民主主義のようなものですよね。普通、民主主義は、衆愚的なものになったりして誤った判断をするので、専門家だけに決定権を与えるテクノクラート的なシステムの方が、よいとかいわれる。
しかし、このような改造版の民主主義を使っていくと専門知にも匹敵する、あるいは専門知以上の、意思決定ができるかもしれないという希望を持てます。
そうすれば、専門家集団並の判断の適切性と、民主主義的な平等性との両方を確保できるかもしれない。もちろん、チェスと違って具体的な制度設計するのは難しいですけれどね。
チェスは誰が得意というのは特定できますが、政治は誰が得意というのは正直わからない。だから、交通整理をするリーダー的な人というのを作ることができません。
たとえば、僕の目から見ると、トランプほど政治に不向きな人はいないと思いますが、トランプ本人とその支持者には、彼が優れた政治的判断ができる人に見えるらしいので、政治の場合、交通整理役の決定自体が、最も難しい政治的判断ということになってしまいますからね。


-佐倉氏:
今のお話は面白いですね。
完全にリーダー的な人がいない集団では集合したといえど結果は出ず、モデレーターがいないといい方向にはならない。
そういう人がいれば、単独の能力をはるかに超えたパフォーマンスを出すことができる。それは面白いですね。


-大澤氏:
ケネス・アローの不可能性定理というのがありますね。
この定理のことを考えると、一番理想的な民主主義というのは、「全ての人が対等」というモデルと「独裁」の中間をとったモデルなのだろう,と推測されます。
アローの定理によると、個人の意見(選好)は完全に無制約で自由だという前提のもとで、「全員一致の優先」「無関係選択肢からの独立」「独裁の不在」という、民主主義だったと当然満たしてほしい最小限の必要条件を全部充足する、意見(選好)の集約の方法は存在しない。

要するに、全ての人は完全に対等にしたうえで、それらの人々の意見を公平に集約する合理的な方法は存在しないのです。
かといって、もちろん、独裁はもっと問題です。「独裁」というと語弊がありますが、一部の人の意見に制限付きのプライオリティ(優先性)を与えたシステムと完全平等のシステムの中間に、何か最も生産的なクリエイティビティの高い、意思決定のシステムがある可能性があり、それをどのように引き出して、政治的に実現していくかということを考えること。
それが、人類的な課題で、おそらくSDGsのような問題に対応できる民主主義を作るとするならば、そういうことになるのではないかという感じがしますね。


-佐倉氏:
なるほど。先日、アメリカの進化生物学者のデイビット・スローン・ウィルソン氏が同じことを言っている本を読みました。
彼は進化論者なのですが、リチャード・ドーキンスのように遺伝子だけが進化の単位だという考えかたではなく、集団の構造が進化に大きな影響を与えるという階層構造を重視しています。
そういう、集団レベルからの作用があるから生物の進化がうまくいくという考え方を人間の社会問題の解決に適用するという取り組みを20年程やっているんですね。それで人間の社会に適用する際、やはり烏合の衆のボトムアップだけでは組織は良い方向にいかず、階層の中間的なものが必要で、そこはあらかじめうまくデザインしておかなければならないということを書いていました。
この考えを適用し、地域コミュニティの構築や荒廃した学校を立て直すという取り組みをやっていて、その規模であればうまくいくことがわかってきた、と。
しかし、小さな集団に対してはノウハウがたまってきているが、もっと大きな国家というレベルになるとどうしていいかわからないと彼も言っている。独裁と完全なボトムアップの中間が必要だということは多分そうなのだと思うのですが、となると、日本は国の規模が大きすぎるのですかね。
もっと単位を小さく分けたほうがいいのですかね?


-大澤氏:
今回の感染症を見ていると、両面のことを思いました。こういう問題は国全体で対応できるものではないなと。やはりコミュニティごとにやらなければならない。

今回、地域の長が比較的目立ったと思うのですが、世界的にみてもコミュニティのリーダー、ニューヨークの州知事が素晴らしいぞ、となる傾向がある。この種の問題はある程度コミュニティで対応を行うことが重要ですね。
しかし逆もあって、70億人全体にパンデミックが襲ってきているので、神奈川県だけ完全に解決しましたとなっても、神奈川県にとってすらもハッピーではない。最終的な解決は、地球レベルの意思決定と結びついたものでないともたらされそうもない。
逆にいうと、国くらいのレベルが一番不要な感じになってしまっているのですね。本当は人類レベルと、コミュニティレベルがあって、その間をうまく繋げることができなくなっているのです。この間をうまく繋ぐことができるようになると問題の生産的な解決に繋がってくるような感じがします。


-佐倉氏:
今回、大澤さんはかなり早い段階からパンデミックは世界的な問題だから、今こそ世界で国どうしが協力することが大事で、そうしないとやばいぞとおっしゃっていて、なるほどと思いつつ、アメリカにしても、日本にしても世の中が逆の方向に行っているような感じがしていまして。
理想としてはそうだが、現実としてはどうなのだろうと。


-大澤氏:
実際に、国が足を引っ張っているということが起きています。国益を追求し優先させるから、CO2問題の解決より国益が重要だとか、他国を含む国際的な格差よりも自国の失業者の問題が重要だと考える。すると、CO2の問題はかえって深刻化し、国際的な格差や差別はさらに拡大する。国益を追求することが問題解決の足を引っ張っているということがある。

今起きていることは、パンデミック以前からあった葛藤がさらにひどくなっている状況ですね。明らかに米中は以前よりも関係性が悪化している。リアリティとしては、誰が見てもそういう状況ではありますが、しかし、僕としては、あえてわざと逆を言っておく必要があると思ったのです。

私は東日本大震災が起こったとき、後出しジャンケンのように、「前から言っていた」と言っていてもしょうがないと思いつつ、他方で思ったのは、この原発の危険性という問題を指摘してきた人がいたわけです。
それでも我々は警告を聞かずに原発をたくさん開発してきたのです。かつて警告していた人々がいたにもかかわらず、しかし警告に従わなかったということを思うと、より一層これからのことに対して、強い覚悟がでてくるのです。

我々は様々な警告に対し、より真摯にならないといけないと。今、本当は世界の連帯が必要だと言っておかなければならない。
これが2年後、3年後に現実になるとは思いません。しかし、我々がみんな死んでしまった後、僕らよりもずっと後の世代が2020年を振り返った時、満たされなかった願望というものがあったことを知ることになります。
そうなって初めて、その後の世代は、この願望に対して真摯になれるのです。今、とうてい現実味がないからと何も言わずにいると、将来も現実にはなりません。

今、一見楽天的な願望を言うと、学者としては貧乏くじを引くようなことだと思ってはいます。絶対当たらない予想をしているのだから。しかし、過去は客観的分析をするしかないわけですが、未来についてはありそうもないけどあり得ることというのを言っておかなければならないと思っているのです。

最後に、我々のCCI FUTURE IMPACT Forumですが、今日も専門家の話をしましたが、一つの専門で問題が解決することはなく、様々な専門家というものがどのように相互作用するかということが大変重要だというように思います。このフォーラムもなお一層重要な存在になるかなと思うようになったのですが、佐倉さんとして、これからこういうことをやったほうがいいなど何かお考えがあればお聞かせください。


-佐倉氏:
全体として今までの活動を通じてインプットは非常に進み、これからのアウトプットフェーズに向けて、先程来お話している国家の話にも関係するのですが、今、特にメッセージを発信していくとなると、世界とどう向き合うのかということが大事になっていると思います。
今はどこの国とも繋がれるわけですから、外国の人たちとどのようにこの場を共有していくかを考えていきたいですね。
その時には、私はアジアに力点を置きたい。これから何かをやっていくとき、日本という国の単位だけではなく、アジア、特に中国、韓国、台湾とどういう関係を持ってやっていくのかという枠組みが一番大事になるはずです。
科学でも他のトピックスにおいても、この枠組みの中で、どのように位置づけるかということが重要だと思っていて、アジアの人たちとネットワークをつくっていける場になるといいなと思っています。


-大澤氏:
おっしゃる通り、これからの社会への影響を考えますと東アジアとの連携を考えていく機会も作っていけるといいと思います。本日はどうもありがとうございました。





【対談者 プロフィール】


大澤 真幸氏
社会学者
CCI FUTURE IMPACT Forum座長

千葉大学文学部助教授、京都大学大学院人間・環境学研究科教授を歴任。
1990年代より、理論社会学の立場から現代社会の変容を総合的に分析し、論じてきた。著書に『ナショナリズムの由来』(講談社、毎日出版文化賞)、『不可能性の時代』(岩波新書)、『量子の社会哲学』(講談社)、『ふしぎなキリスト教』(橋爪大三郎との共著、中央公論新書大賞)、『自由という牢獄』(岩波書店、河合隼雄学芸賞)、『日本史のなぞ』(朝日新書)など著書多数。個人思想誌『大澤真幸THINKING「O」』(左右社)主宰。現在、『群像」(講談社)誌上では、世界史の論理構造を解明する評論「〈世界史〉の哲学」を、『本』(講談社)誌上では、動物社会との比較の中で「人間」の本質を考察する「社会性の起原」を、それぞれ連載中。


佐倉 修氏
理学博士
CCI FUTURE IMPACT Forumメンバー

東京大学大学院情報学環教授 理化学研究所 革新知能統合研究センターチームリーダー 京都大学大学院理学研究科博士課程修了。理学博士。三菱化成生命科学研究所、 横浜国立大学経営学部、フライブルク大学情報社会研究所を経て、現職。 専攻は進化生物学だが、その後、科学技術と社会の関係についての研究考察に専門を移し、人類進化の観点から人間の科学技術を定位する作業を模索継続中。 著書に、『おはようからおやすみまでの科学』(ちくまプリマー新書)、『進化論という考えかた』(講談社現代新書)、『わたしたちはどこから来てどこに行くのか?』(中公文庫)、『現代思想としての環境問題』『科学の横道』(ともに中公新書)、『進化論の挑戦』(角川書店)、『「便利」は人を不幸にする』(新潮選書)、『人と「機械」をつなぐデザイン』(東京大学出版会)など。