CCI FUTURE IMPACT Forum for SDGs

各専門家からみた現在の状況とこれからの持続可能な社会について、
CCI FUTURE IMPACT Forum座長の大澤真幸氏と
あらゆる分野の専門家からなるメンバーの対談をお届けしてまいります。

今回は、Part1に引き続き、
江間 有沙氏と大澤 真幸氏のスペシャル対談のPart2をお届けします。



【第7回】コロナ禍における人工知能と社会の関係からみた現状と持続可能な社会とは
江間 有沙氏 × 大澤 真幸氏

Part2(全4回)
情報収集と管理そしてAIの答えは?


-大澤氏:
コロナ禍で思うのは、データはある程度共有されないと意味がないということです。データは沢山あるが、いろいろなところに分散しているというのではまったく役に立たない。国家が持っているだけでは足りず、いろいろな所のデータが共有されなくては有効に活用できません。今は大量のデータがいろいろな所に個別にあるわけですが、それが全体として利用できる形でなくてはいけないということなのです。そうすると、強力なデータ収集する場所が必要になってきます。例えば中国は国家が一括して持っているケースですし、アメリカはどちらかというと、GAFAのような巨大企業が持っている。

個人情報データを取得される場合に企業と政府のどちらがいいのかとよく考えるのですが、どっちもどっちだなと。いざとなったら例えばAmazonとアメリカ政府がちゃんと繋がっていれば、結局GAFAに取られようが政府に取られようが同じになってしまう。結局データを集約するためには、最終的には信頼できる委ね手みたいなものが必要になってくると思うのです。GtoGということになると国家でさえも足りず、どこかの国際機関でデータを集約できるような権限を持つ事になってくる。そうすると国益と反するという問題がでてくる可能性があります。個人の利益に反する場合だけではなく、国益とも反する場合がある。しかしそれを認めないと、GtoGの実現は難しいわけです。

最終的にデータというのは誰が、あるいはどのような機関が管理するのが最も望ましいのでしょうか。


-江間氏:
それはすごく難しい問題ですね。少し論点がずれてしまいますが、今はただデータを集めればいいというのではなく、質の良いデータでなければ意味がないというフェーズに入っています。

企業の開発担当者と話をしていると「うちの会社にはこんなに沢山のデータがあるので、何かいいシステムを作ってください」といわれて困るという話をよく聞きます。データがあるから何か作るではなく、こういうシステムを作りたいから、こういうデータを取りに行く、作りに行くというやり方にならなければならない。

理化学研究所の杉山将先生は少ないデータでも精度よく働くアルゴリズムを作ることができるという研究をされています。特に防災関係や気象疾患というインシデント数が少ないアンケートや元々ビッグデータがない領域に対して、いかにデータをうまく使っていくかを、まるでビッグデータに異論を唱えるかのように、わずかなデータで作り上げています。

また、敵対的学習(GAN)はディープフェイクを作れる技術ですが、あのような技術を使うことによって、存在しない人のデータを作るとか、それらしいデータでちょっとだけ違うものが生産できるようになりました。

ある人をプロファイルする場合に、その人に関するあらゆるデータ、しかも質の良いデータを取ることができたとしても、コストが莫大になるだけです。ピンポイントで絞って、この人のこのデータというように「この情報が必要」であると特定し、どのようなデータを教師データとするのかという目の付け所、いわば目利き力のようなことが問われてくると思います。

今は技術もデータも移行期だと思います。今回のCOVID-19で興味深かったのは政府がLINE上で行った調査です。LINEを使っている人々を対象とした調査ですが、LINEはアンケートの場としてプラットフォームを提供するだけです。LINEが持っている個人データと、このアンケートの調査データは紐づけないという契約で行っているわけです。

この例からも、プラットフォーマーとしていろいろな人に使われているということは、それだけで一つのメリットになります。この事例を見て、多くの人が「使っている」・「知っている」ことを活かし、様々な連携による目的にかなったデータ収集を可能とするというのは巨大プラットフォームの今後の役割になっていくのではないかと思いました。

LINE調査に比べ、HER-SYS (ハーシス)(厚労省が開発した「新型コロナウイルス感染者等情報把握・管理支援システム」)があまりうまく動いていなかったことを見ると、ゼロからシステムをつくっていくよりはインターフェースデザインとして使い易く、普段から皆が使っているシステムを利用したほうが有効だったと思います。データを集める時だけ、あるいはデータの情報発信を行う時だけのものは使いづらいのでしょう。

今回のCOVID-19では、政府が企業と相互連携していく仕組みを経産省などが中心となり作り、民間と政府がいかにデータ共有できるか、プラットフォームという基盤を使わせてもらえば何がどのようにできるのかを試行錯誤する機会になったと思います。これは一歩進んだ面白いBtoB、BtoGの展開だったのではないかと思います。


-大澤氏:
伺っていると色々勉強になり、なるほどと思いました。
常々思っていたことですが、先程のお話と関連して、データ収集は役に立つ必要なデータを絞り、きっちりターゲットを決めていくことが重要だということで、それは非常に納得のいくことです。
しかし、ビックデータのことやディープラーニングのことなどが話題になった時に思うのですが、例えば自分が必要な情報なら提供してもいいが、必要でないものは提供したくないという気持がありますよね。では、その時に「必要な情報とは何なのか」ということです。それを決めるのは結構難しいと思っているのです。
つまり、ディープラーニングさせているAIにいろいろなことやらせると、人間がどうでもいいと思った情報が実は重要だったということがあります。

質問のために少し例を出しますが、結婚相談所で相性の合う相手を探すという場合があったとします。Aさんは音楽が趣味で、こちらの人も音楽が趣味だとか、こちらはモーツァルトが好きだしあちらもモーツァルトが好きだ、ということで相性が良さそうだと思う人なら候補として考えます。
でも、なかなかそんなことやったからといって、上手くいくかどうかは分からない。
そこで今度は二人の個人情報を、ビッグデータで深層学習しているAIに読ませて相性を見ると、結果的にどんなものが相性としてレリバントかというと、趣味が合っていることなどではなく、意外にも申請書に記している文章の語尾の使い方が重要という結果が出たりする。文章の語尾の使い方に、こういう癖のある人とは相性が良い、または悪いというように、自分たちでは思いもよらなかったものが重要なデータだったということになります。

この例は結婚相手の相性というパーソナルな問題ですが、これからある国で感染症がどのように広がるかを予測する際に当てはめた場合、どのようなデータが必要か人間には分からないということになります。そうなると、「何でもかんでも提供してください」とデータを収集した結果、人間は気づかなかったけれど、これとこれが相関関係にあって感染の広がりがこのように規定されていることが分かりました、という答えが出てくる。このようなことがあり得る気がするのです。

これからは「必要なデータが何であるか」自体もなかなか定義しにくい時代がやってくるのではないかと思うのですが、それについてはどんな議論がされているのでしょうか。


-江間氏:
今のお話はすごく面白いと思います。何が変数になるか分からないから、取り敢えず全部入れてみたら意外に精度の良い結果が出てきた場合、「それで良い」と思える分野と、「それはダメだ」と言われる分野があると思います。

例えば医療など、説明可能なAIが必要だと言われている分野にはそぐわないと思います。患者さんはとにかく説明を聞いて納得したいわけです。やはり人間は理由が欲しい生きものなので、先程の文章の語尾が云々と言われても「はてな?」となってしまう。
結婚相談のベテランらしき人に「あなたとあなたは相性がいいと思ったのです。長年の直感です」などと言われると意外に信じてしまう。鰯の頭も・・・ではないですが、自分自身が納得できるかどうかが、次のステップに進めるかどうかというところだと思うのです。
また、出てきた結果について“解釈する人”であるお医者さんなり、結婚相談のベテランなりがその結果に対して納得ができるのかも必要です。もしその結果が、これまでプロとして対応するときに自分たちが行ってきた意図と反するものであれば、納得できないかもしれません。
さらにその結果について患者や顧客に説明をする場合、さらに患者や顧客が納得するにはどうすれば良いのかも考えなければなりません。嘘も方便のような人間的なテクニックを使う必要があるかもしれません。
これが医療AIという形になって、AIがお医者さんの役割を担った場合には、生身のお医者さんが患者に合わせて工夫をしながら説明するというクッションがなくなるわけです。そうなると更に患者に説明や説得をし、患者が納得できるレベルを可能にするAIを作れるのかということが技術的な課題だけではなくインタフェースの課題となります。

社会と技術の関係性において興味深いことは、過去の例を見ても、技術的に優れているからといって受け入れられてきた訳ではないというのがこの分野の面白いところです。
コストも良い、精度も良い。でも何故か市場の勝負ではコストも精度も劣っているけれどパッケージが可愛いライバルの方が勝った、見やすい画面のほうが受けた、というようにインタフェースのデザインが効いた、などということもある訳です。
また、重要なデータの結果だけを鵜呑みにしていたら、それは人間の思考停止や機械に支配される世界になることと同じだと思うのです。お告げというか神託のように、全知全能のスーパーAIが考えたことをそのまま受け入れていく社会を、それで幸せな社会になるのなら「それで良い」という選択をするのも人類の一つの手かもしれないですが、あまりに危ういと言わざるを得ません。

少し脇にそれるかもしれませんが、AlphaGo(アルファ碁 Google DeepMindによって開発されたコンピュータ囲碁プログラム)は、あらゆる棋譜を読み込んで、さらにAI同士で数千年、数万年分の対局・学習をさせることで、新しい定石などを生み出しています。
一方、人間の場合は、様々な棋譜や状況を研究して、それを自分たちで言語化し、解釈するわけです。そして勝負に臨んでは、「こういう場合はこういう解釈ができるからこういう風にいける」「あの勝負の応用化ではないか」「昔もこういう打ち手があったのをうまく進化させた手ではないか」というように考えるわけです。AIは人間が使うものとして、人間のようにカスタマイズされなければ、人間の手に余る使えない道具になるか、オラクルになるかのどちらかだと思います。
どちらの設計を目指すかということになりますね。もしオラクルでいいというのであれば、データを何もかも入れて何だかよく分からないけれど、従ったら結構精度が良いし、それでいいじゃない、ということになってしまいます。


-大澤氏:
面白い問題ですね。COVID-19に限らず一般的な問題だと思います。


次回 Part3は、
「AIの予想と判断 ―人は人間をどこまで信じるのか、AIをどこまで信じるのか―」
についてお届けします。


【対談者 プロフィール】


大澤 真幸氏
社会学者
CCI FUTURE IMPACT Forum座長

千葉大学文学部助教授、京都大学大学院人間・環境学研究科教授を歴任。
1990年代より、理論社会学の立場から現代社会の変容を総合的に分析し、論じてきた。著書に『ナショナリズムの由来』(講談社、毎日出版文化賞)、『不可能性の時代』(岩波新書)、『量子の社会哲学』(講談社)、『ふしぎなキリスト教』(橋爪大三郎との共著、中央公論新書大賞)、『自由という牢獄』(岩波書店、河合隼雄学芸賞)、『日本史のなぞ』(朝日新書)など著書多数。個人思想誌『大澤真幸THINKING「O」』(左右社)主宰。現在、『群像』(講談社)誌上では、世界史の論理構造を解明する評論「〈世界史〉の哲学」を、『本』(講談社)誌上では、動物社会との比較の中で「人間」の本質を考察する「社会性の起原」を、それぞれ連載中。


江間 有沙氏
東京大学未来ビジョン研究センター特任講師
東京大学大学院総合文化研究科博士課程修了。博士(学術)。
CCI FUTURE IMPACT Forumメンバー

京都大学白眉センター特定助教、東京大学教養学部附属教養教育高度化機構科学技術インタープリター養成部門特任講師を経て、2018年4月より東京大学政策ビジョン研究センター特任講師。2017年1月より国立研究開発法人理化学研究所革新知能統合研究センター客員研究員。専門は科学技術社会論(STS)。人工知能学会倫理委員会委員。
人工知能と社会の関係について考えるAIR ( Acceptable Intelligence with Responsibility) の発足メンバーの一人として社会と技術の垣根を越えた議論を行っている。