AIをどう見るか　“Edge Question”から探るAIイメージ

はじめに

　近年、人工知能（AI）で「ディープラーニング（深層学習）」と呼ばれる手法が開発され、その技術がさまざまな形で実用化されれば社会に革新的な変化をもたらすとして大きな期待が寄せられている。他方、AIに知的労働を代替されるという危機感や、近い将来、人知を圧倒的に凌駕する知能を持つ機械が出現するとされる「シンギュラリティ（技術進歩の特異点）」への懸念など、AIが引き起こしうる事態を案ずる論者も存在する。昨年、テスラモーターズCEOのElon Musk氏や、イギリス人理論物理学者であるStephen Hawking氏が科学諮問委員を務める非営利団体の“Future of Life Institute（FLI）”が、公開書簡を通じて、AIシステムの堅牢性と社会的便益を兼備させたうえで研究開発に臨むことが重要であると主張したことがマスコミでも大きく取り上げられた。同団体は、AIが搭載された自律型兵器の開発が行われないよう同兵器の開発禁止を訴えており、今後、こうした議論が本格化するであろう。

　こうした中、日本は技術立国でありながらも、グローバルなイニシアチブを取ろうという機運に欠けているように思われてならない。日本も欧米の議論が決着していくのを傍観しているのではなく、自ら積極的に議論に参加していく必要があるのではないだろうか。

　そこで、本稿では、世界的に著名な科学技術ウェブサイト“Edge.org”の寄稿誌である“Edge Question（エッジ・クエスチョン）”を取り上げ、そこで掲載されている192名の人々の人工知能についての論稿を分析し、世界におけるAIの議論の動向を把握し、今後日本においても議論すべき論点を明らかにする。

1. Edge.orgとは

　“Edge.org”は、著作権エージェントであるJohn Brockman氏によって開設されたウェブサイトである。その原点は、1981年から1996年の間に主にニューヨークで行われた知識人による非公式会合、“The Reality Club”にある。知の交換というクラブのモットーを引き継いだまま、その会合の場をウェブ上へと移し、オンライン・サイエンス・サロンとなった。サイトでは、そのモットーのとおり、科学者、哲学者や起業家など各界のフロンティアとして活躍するオピニオンリーダーが、主に対談を通じて、テクノロジーから文化に至る幅広い分野の最先端の情報を発信・交換している。

　同サイトで、毎年話題性のあるテーマに関して200人近い知識人の寄稿文を紹介する企画が、“Edge Annual Question”である。寄稿する知識人には各界で影響力のある人物も多く含まれるため、Annual Questionが発表される時期になると、その内容に注目が集まる。実際、同企画については、本国アメリカのウォールストリートジャーナルやニューヨークタイムズ紙は当然のこと、世界中の新聞や雑誌で取り上げられている

　2015年のテーマは、“WHAT DO YOU THINK ABOUT MACHINES THAT THINK?”（考える機械についてあなたはどう思うのか？）であった。研究者、ジャーナリスト、小説家など多分野で活躍している192名の人々が寄稿しており、ウェブ上で多様な意見が紹介されている。

2. 調査概要

　本研究では、ウェブサイトに公開されている上記2015年テーマに寄稿した識者の意見を分析し、識者のAIについての見解について、以下の条件で指標化を行った。それぞれの識者の見解は、後述（4.（1））のグループ別に分類した上で、巻末に付表として掲載している。

（1）識者の専門分野

　識者の専門分野については、図表1のように整理される。もっとも多かったのは、自然科学者の76名であり、ついで人文・社会科学者の68名となる。AI専門家は23名と全体の1割ほどである。

図表1　専門分野の分類

（注）識者の合計は192名だが、複数の専門分野を兼ねている者については、それぞれの専門分野に分けて統計をとった。

（2）意見を指標化するための分析軸

　図表2に示したとおり、4つの分析軸と軸ごとに4つの分類項目を設定した。それぞれの意味は、図表2のとおりである。
　
　この指標にそって、まずは、研究メンバーで192名の論考を分担し、ひとりひとりの論文を読み、各自で4軸について1~4の分類を行い、その件数と傾向を把握した。その後、分類について、複数回の研究会で議論をしながら確定を行った。ただし、分類結果については実際に論考を書いた識者に確認していない点にご留意いただきたい。

図表2　分析軸と分類項目

（注1）識者が複数の意見を持っている場合には、それぞれの分類項目に分けて統計をとった。
（注2）分類項目の「その他」には、項目に該当する記述がないケースや、項目に該当するもの以外の記述があったケースを含む。

3. 4軸でみた識者の意見

　図表2の4つの分析軸に関して、識者全体の意見の割合は以下のとおりとなった。

（1）AIのイメージ

　AIイメージについては、「強」と想定する識者がもっとも多く37%だった。次いで、「弱」(26%)、「その他」(23%)となり、「超」は15%でもっとも少なかった。

図表3　AIのイメージに関する意見の割合（のべ219名）

（注）括弧の中は、各項目の代表的な意見を示したものである。

（2）実現性

　実現性については、肯定派がもっとも多く56%だった。次いで、「否定」（17%）、「中立」（16%）となった。

図表4　実現性に関する意見の割合（のべ219名）

（3）評価

　AIが社会に与える影響の評価については、楽観派がもっとも多く35%だった。次いで、中立（24%）、悲観（13%）となった。

　また、AIイメージ別に評価をみると、AIイメージを「弱」とする意見の中では、「楽観」が42%で多数派であった。「強」でも、楽観派が39%ともっとも多かったが、中立派も26%いた。「超」では、中立派が38%でもっとも多かった。

図表5　評価に関する意見の割合（のべ219名）

（4）対処

　対処については、推進派が34%でもっとも多く、次いで31%が慎重派であり、推進と慎重の2つに分かれることが明らかとなった。

　AIイメージ別に推進か慎重かをみると、AIイメージを「弱」とする意見の中では、推進派が37%であったが、慎重派も同割合程度存在し、意見が分かれた。「強」では、35%が推進派であり、「超」では、44%が慎重派と多数を占めた。AIイメージに関わらず、推進派と慎重派が存在することが明らかとなった。

図表6　対処に関する意見の割合（のべ219名）

（5）まとめ

　AIイメージについては、「強」のAIを想定する識者が多数派であった。また、実現については、過半数が「肯定」を支持していることから、ほとんどの識者がAIは実現すると思っていることが前提となっている可能性が高いと言える。「弱」のAIおよび「強」のAIがもたらす影響については、楽観的な見通しを持つ識者が多い一方、対処については、「推進」と「慎重」が拮抗する結果となった。推進派は「弱」のAIと「強」のAIを想定する識者に支持され、慎重派は「超」のAIを想定する識者に支持されていた。AIイメージが「強い」方が「慎重」になる傾向が強いと考えられる。

4. 意見の傾向

（1）全体の傾向:意見を決定づけるのは、評価と対処

　上述の意見の割合は、4つの分析軸ごとに全体のシェアを分類したものである。その結果、個別の分析軸ごとの多数派をまとめると「強-肯定-楽観-推進」がもっとも多い多数派となった。

　しかし、4つの軸はお互いに関連性が高く、本来であれば、4つの軸をセットで考えるべきである。各自で4つの軸が整合的に把握されていると考えるのであれば、それぞれを分けて多数を選んだ結果と、セットで考えて多数を選んだ結果とは異なっている可能性はある。

　そこで、ここでは、4軸をセットで考えて人数をカウントしたところ、上位6つの意見の傾向は図表7のようになった。もっとも多い組み合わせは、「弱-肯定-楽観-推進」であり、先ほどの4軸を個別にみたものとは異なる結果となったことは、興味深い。

図表7　上位6つの意見の傾向

　また、上位6番目までの意見は、大きく「楽観-推進」派と「中立-慎重」派に分かれており、「評価」および「対処」に関する見解が、識者の意見や立場の傾向をよく表していることがわかる。AIに対する評価が楽観的な人は推進すべきと考えている人が多く、他方、AIの両面性をみているような中立的な評価の人は対処については慎重なスタンスをとっているということである。

　一方、AIイメージについては、大きなばらつきがある。「楽観-推進」派のAIに対するイメージは弱~超まで幅広く分散し、また、「中立-慎重」派は強~超に分かれている。つまり、評価や対処の側面と比べて、AIに対するイメージは専門家の間でも意見が分かれていることがわかる。

（2）AI専門家とIT経営者はポジティブな見方

　識者の専門分野と意見との間にはどのような関係があるのだろうか。統計的分析を行ったところ、AI専門家とIT関連の経営者もしくは評論家が、他専門分野と比べて、より強いAIをイメージしており、また、「評価」および「対処」についてポジティブに捉えている傾向があるという結論も得られた。これにより、AIがビジネスにつながる関係者は期待感を持って受け止めており、推進の立場をとる傾向にあると言えそうだ。

　一方、「実現」について、「技術関連グループ」（図表1の1、2、4）は「人文・社会科学グループ」（図表1の3）と比較して、AIは現実のものとなると考える傾向が強いということがわかった。また、自然科学者は人文・社会科学者と比べて、より強いAIをイメージする識者が多い。すなわち、人工知能に関する技術的知識を多少なりとも有する識者は、何かしらのAIは実現し、今後さらに発展すると考える傾向にあるようだ。

（3）各グループの代表的な意見

第1番目のグループ「弱-肯定-楽観-推進」:
人間の生活がより効率的になるよう弱いAIをうまく活用すべき

　主に、AIは統計的推論を人間の指示のもと行うもので、既に実現しているとの意見があった。さらに、AIは人間の生活を潤すものであるため、ツールとしてより活用していくべきとの意見があった。一方、社会に及ぼす影響については、使用する側の人間次第という特徴的な意見もあった。

　なかでも、コンピューターサイエンティストであり、Googleで研究本部長を務めるPeter Norvig氏は、AIは既存の機械やシステムの延長にすぎず、使う側の人間によって良くも悪くもなり、人間の問題だと主張する。一方、懸念事項として、労働が機械に代替されることで失業が増加し、所得格差が拡大することを挙げている。

第2番目のグループ「強-肯定-楽観-推進」:
強いAIを人間のパートナーとして好意的に受け止め開発を推進すべき

　主に、人間と相互補完関係にあるAIは人間のパートナーとなりえ、制御が可能であるため、懸念を抱くのではなく開発を進めていくべきだという意見があった。

　なかでも、物理学や機械学習が専門のアメリカ人科学者Steve Omohundro氏は、機械学習のような人工知能技術は今や普通に使われており、AIは物理学や数学の法則に従うものであるためコントロール不能なほど強力になることはないと述べている。また、AIのポジティブな行為を推奨するため人間の価値観をAIの目的システムに組み入れる必要があると主張する。

第3番目のグループ「強-肯定-中立-慎重」:
強いAIによる影響は未知であり人間の対応次第

　主に、AIは人間らしさを反映し、よい影響をもたらすかどうかは未知であり、人間の対応次第で変わるという意見がみられた。

　なかでも、ミシガン大学心理学部教授であるRichard Nisbett氏は、機械が全ての仕事を人間よりうまくできるようになると人間の意欲が荒廃するという悲観的な可能性と、人間が生産的で有意義な労働をせずとも楽しめるような文化へ向かうという楽観的な可能性を指摘する。またピュリツァー賞を受賞したニューヨークタイムズ紙記者であり“Machines of Loving Grace”の著者のJohn Markoff氏は、AIが人間の支配者になることも、奴隷になることも歓迎していない。彼によれば、この問題は私たち人類の問題、あるいは私たちが創造する世界の問題であり、機械がどう賢くなろうと彼らの問題ではないという。

第4番目のグループ「超-肯定-楽観-推進」:
人間を超えるAIの実現は、われわれの社会をよりよく変えていく可能性を秘めている

　自己意識や探求心により成長を持続するAI、人間とは異なる方法で思考するAIが発展し、人間を超えていくというイメージが多く見られる。こうしたAIと人間の融合(ハイブリッド)や、サイバーブレインへのアップロードといった、SF小説が描くような社会が到来し、人間の生活をより豊かにしていくといった意見があった。

　物理学者のAlexander Wissner-Gross氏は、知的人間と同様に、「自由」がAIの原動力となり、人間との知能格差が生じるようになるだろうと述べている。さらにAIとの知能格差が問題となるならば、知能に課税をすればよいのだ、とより踏み込んだ提案を行っている。

第5番目のグループ「超-肯定-中立-慎重」:
人類を凌駕する超のAIが誕生する前に準備を整えるべき

　AIを人間の知能を超えるものととらえ、既に存在するという意見がある一方、いつかは実現するという対照的な意見もみられた。また、AIは制御不能で人間の望む行動をとるとは限らないなど、影響については不安視する意見がみられた。さらに、「超」のAIが実現する前に、人間は準備を進めておくべきとの意見が多数あった。

　なかでも、哲学者であるNick Bostrom氏は、いつか人間を超える「超」のAIが誕生すると主張する。同氏は、“Superintelligence : Paths, Dangers, Strategies.”の著者であるが、SI（Superintelligence）の誕生は、人類史上、最良のものか最悪のものになるという。現時点では、Super intelligence control problem（どうやって人間の価値観をソフトウエアに移動させるか）に取り組むべきと考える。

第6番目のグループ「強-中立-中立-慎重」:
強いAIの実現はまだ先だが出現前に多角的に考えるべき

　主に、自己意識を持ち、自ら考えるAIのイメージが多くみられた。実現については、まだ時間がかかるとし、実現した際の影響を懸念する一方、人間は機械によって代替された時間を有効活用するようになるという前向きな意見もあった。さらに、人間は今こそAIについて真剣に議論をするべきとする意見がみられた。

　なかでも、心理学者で、ニューヨーク大学幼児認知コミュニケーション研究室准教授であるAthena Vouloumanos氏は、2歳児や生後2日の新生児がいかにして思考するかが解明できなければ、AIの実現はだいぶ先になると述べている。人間並みのAIが実現すれば、人間の仕事の代替のみならず、芸術などのクリエーティブな役割も担うことになるという。今後の見通しとして、人間は、機械が管理する世界でゾンビのような消費者になるという悲観的な可能性と、空いた時間やエネルギーを趣味等に費やせるという楽観的な可能性を示す。さらに、どうすれば後者の可能性を実現できるかを真剣に考えるべきと主張する。

5. まとめ

　最後に、これまでの分析を振り返ってみよう。AIの議論ははじまったばかりであるため、識者の考えについて一定の方向性を示すのは時期尚早であろう。ここでは、AIの議論を今後さまざまな場面を通じて深めていくための方法論について、私たちが何を学んだのかについてまとめておきたい。

（1）少数派の意見の尊重

　AIの研究開発に警鐘を鳴らすFLIの主張をリードするJaanTallinn氏、MaxTegmark氏、AnthonyAguirre氏のほか、同財団の科学諮問委員会のNick Bostrom氏やMartin Rees氏も、今回分析した寄稿者に含まれる。彼らの意見については、評価のカテゴリーは、中立か悲観に分類され、対処のカテゴリーでは慎重か抵抗に分類され、両方のグループを合計しても、今回の寄稿者全体からみれば少数派となる。

　多数決で考えれば、明らかに「楽観-推進」路線を取ることになるものの、AIが人類全体に与える影響は大きく、不可逆的なものであることを考えれば、少数意見だからといって無視することは避けなければならない。つまり、数の論理を優先し、対処方針を多数決で決めることには限界があるのではないか、ということである。

（2）AIの「イメージ」や「実現性」が議論の前提

　AIについての議論を深めるうえで、そのイメージや実現性について議論を深める必要があるということだ。前述したように、“Edge Question”に掲載された意見は、大きくは「楽観-推進」派と「中立-慎重」派に分かれるが、どういう点を評価し、どのように対応していくべきと考えているかは、人によって大きく異なり、大きな幅がある。同じ「楽観-推進」派に属する人々の間でもAIに対するイメージや実現可能性についての見方を異にする人々が存在する。「中立-慎重」派も同じである。すなわち、仮に推進することで意見が一致するとしても、AIイメージが違えば、対処の具体的な内容は大きく異なっているはずであり、議論の前提となるAIのイメージについての丁寧な整理が必要である。

（3）整合性のある意見の集約

　さらに、今回の分析で明らかになった点は、4つの項目を別々にみたときの結果と、人ごとに着目して4項目をセットでみたときの結果が異なるという点である。すなわち、

個別項目での多数:強-肯定-楽観-推進
人ごとでの多数:弱-肯定-楽観-推進

という結果になった。したがって、「楽観-推進」であっても、それを支持しているのは、AIイメージが「弱」の人が多いということに配慮する必要があるということだ。とかく、政策などを選択するときには、前者のように個別での判断を優先してしまうことが多く、項目ごとに判断する結果、集約すると最終的に整合性のないものができあがってしまうこともある。政策の整合性を重視するのであれば、個々人が整合的な考えをもっているように、全体としても整合的な政策のセットを提示していくことが重要ではないだろうか。これは、多数決の落とし穴とも言えるだろう。

　今後AIがさらに発展し、これまでの社会のあり方を変えるようなインパクトを与える可能性は高い。AIの仕組みを理解することは、なかなか困難なことではあるが、AIに関する議論は、AIの専門家に任せるのではなく、さまざまな分野の人々が分野を超えて積極的に議論を尽くすことが求められる。日々各所でAIの開発が進められる中、議論を後回しにする猶予はない。議論を深化させるうえで、本稿が役に立てば幸いである。

引用を行う際には、以下を参考に出典の明記をお願いいたします。​
（出典）公文俊平・羽木千晴（2016）「AIをどう見るか―“Edge Question”から探るAIイメージ―」NIRAモノグラフシリーズNo.39

脚注
* 本論文の内容や意見は、執筆者個人に属し、NIRA総研の公式見解を示すものではありません。“Edge Question”の翻訳及び分析は、山内康英氏多摩大学情報社会学研究所教授の監修のもと、田中貴大氏東京大学大学院工学系研究科（当時）、宮内佑也氏一橋大学大学院経済学研究科（当時）、吉田健一氏一橋大学社会学部（当時）にご協力いただいた。また、統計処理には、山内氏のほか、小松正氏小松研究事務所代表にご協力いただいた。深く感謝申し上げる。なお、本文中の誤りはすべて筆者に帰するものである。

• シェア
• Tweet