- M.R.（3年）
司会を務めさせていただく、３年のM.R.です。今回は、美馬のゆり先生の著書『AIの時代を生きる：未来をデザインする創造力と共感力』（岩波ジュニア新書）を読んで、私たちが感じた疑問や感想などについてお話ししていきたいと思います。

- T.M.（3年）
同じく、３年のT.M.です。AI活用による性格診断や適職診断、オンラインショップのお勧め商品など、今後の私たちの生活はAI に主導権を握られていくと予測できます。私たちはこうしたAI情報を鵜呑みにせず、批判的思考力を持つ必要があると考えましたが、美馬先生は AI に操られる世界で人間はどのようにあるべきとお考えですか？

- 美馬のゆり
私が一番恐れているのは、自分で考えなくなることです。AIによるお勧め情報は確かに便利だけれど、そこだけに頼っていると自分で考えなくなってしまいます。そういう情報は知らず知らずのうちに私たちの生活に入ってきています。まずはAIの仕組みを知って、便利だと思っても一歩立ち止まって考える習慣を身につけることが、すごく重要だと思います。だって考えることは人間にしかできないですから。

- W.M.（2年）
人間は発表したり疲れた時、心臓がバクバクしたりするので、私は人間には心があると思うのですが、美馬先生は、AI に心はあるとお考えですか？

- 美馬
まず、「心の定義」をどう考えるかが大切です。英語では心をマインドともいいますが、それは考えるという意味も含んでいます。心はどこにあるのか？　脳にあるのか、心臓にあるのか。皮膚の中にも心はあると言う研究者もいます。だから、AI が心を持つかどうかは、何をもって心というのかによりますね。AIの画像解析である程度、喜怒哀楽の判別はできますが、それは、AI が人の感情を理解しているとも取れるし、一定の形に当てはめているだけ、とも言えます。その問いを突き詰めていくと、あなたは哲学者になるか人工知能の研究者になれるかもしれません。

- M.Y.（1年）
僕はいろいろな職業が将来、 AI にとって変わられるのが嫌だと感じたので、AI を使うのは必要最低限でいいと思ったのですが、美馬先生は AI は将来も必要であるとお考えですか？

- 美馬
人間が発明してきた技術が悪用されるからといって使わないのではなく、AI のより良い使い方を考えるべきというのが、私の立場です。私たちは日常的に電気をいっぱい使っているけれど、それが地球温暖化に繋がっているからといって電気のない生活には戻れません。ならば、二酸化炭素の排出量を減らすためにどうしたらいいのかを考え、研究して克服していくのが、人間ができることです。AI が怖いから技術を封印するというのは、人間の進歩を止めてしまうことになると思います。

- M.R.
先ほどのT.M.さんの質問の続きになるのですが、私たちはAIからの情報に対する批判的思考力が必要だと考えますが、一方で、それを鵜呑みにする人は一定数いると思います。そういう人たちに対しては、どのような教育をするべきでしょうか？

- 美馬
今、SNSでもフェイクニュースってあるでしょ？　この頃はフェイク画像どころか、例えばアメリカのトランプ前大統領やオバマ元大統領が本当に喋っているようなフェイク動画もAIで作れてしまいます。そういう情報に接した時に、すぐにリツイートせず、ニュースソースや情報源を調べて確認することがすごく重要だと思います。そうでないと、自分が意図しなくても偽情報を拡散する立場になってしまいます。

- A.R.（3年）
僕は創造的な仕事をするアーティストや芸術家、研究者やスポーツ選手などの仕事は、人間にしかできないと思ったのですが、美馬先生は、人間にしかできない仕事はどういうものがあると思いますか？

- 美馬
今あなたが言っていた中でも、多分無くなる仕事はありますね。この頃は、AI が絵を描いたり音楽も作ったり、小説も書いています。では、AI に負けない人間の強みは何か。それは共感性だと思います。他の人の立場に立って考えることは、今後もAIでは難しいでしょう。私たちの社会で起きている問題を解決するにはどうすればいいか。それをAIを活用しつつ解決していくのが、人間だと思います。

- T.M.
もし、ハンドルもないような完全な AI の自動運転車が事故を起こした場合は、AI を作った会社側が悪いことになりますか？

- 美馬
未来社会を見据えた法律をどう作っていくかは、各国で議論になっています。自動運転車の場合、責任は運転者にあるのか、車を製造したメーカーなのか、ソフトウェア設計者なのか。あるいはそれを許可している国の問題なのか。いろいろなレベルで法律を作る作業を、法学者たちが行っています。こうした法整備の問題はAI だけではありません。例えば卵子や精子を提供されて生まれた赤ちゃんは誰の子どもとするのか。iPS 細胞で病気治療が進んでいるけれど、一方でiPS 細胞によって精子や卵子の細胞も作れるようになると、自分の遺伝子を複製した人間を作ることもでき、社会的、法律的、倫理的な問題も起こってきます。技術の進歩は素晴らしいことである一方、ドローンに爆弾を積んで無人兵器として使われてしまう。そういう問題を想定して議論していくのは人間にしかできないと、今喋りながら思いました。

- M.R.
さっきW.M.さんが話していた人間と AI の心に関連するのですが、「不気味の谷」（ヒト型ロボットの造形が人間に近づきすぎると、ある段階で急激に違和感や嫌悪感などが起きる現象のこと）を超えることができたら、AI は人間に近づくことができると思うのですが、それについてはどうお考えですか？

- 美馬
例えば子どもを亡くした親が子どもとそっくりなロボットを作るとか、ペットでも同様なことがありますね。技術として可能なことと、それが実際の社会にどう影響するか（社会実装）については、みんなで議論していく必要があると思います。専門家だけに任せておくのではなく、みんなもある程度知識を持ったうえで議論していくこと（科学コミュニケーション）が大事です。生死に関わること、死の概念などは、国ごとに文化ごとに宗教によっても考え方が違うのです。海外のドラマや小説、映画でもそうしたことを先取りした作品が出ています。それらを見て、自分でも考えるのがいいかもしれないですね。

- M.R.
ありがとうございます。「アシロマ AI 原則」（2017年にAIが人類全体の利益となるよう、倫理的問題や安全管理対策、研究の透明性などについて23の原則としてまとめたもの）についても調べたのですが、科学技術が軍事転用されてきた歴史が少なからずありました。それについてのお考えはありますか？

- 美馬
私が在籍していたカリフォルニア大学バークレー校人工知能研究所のスチュワート・ラッセル教授はAI の決定版教科書を書いた研究者ですが、彼は国連などでAIを使った兵器についてルールを決めようと訴えています。しかし、すごく難しいですね。例えば、トラクターにGPS を積んで農作業を効率化する技術も、戦車に応用できるわけです。ウクライナ戦争では、ドローンに爆弾を積んでピンポイント攻撃をしています。ルール化が必要だという動きはあるけれど、抜け駆けする国も出てくるからそう簡単にはいきません。では、私たちは何もできないのかと言えば、そうじゃないと思う。今ここにいるあなたたち若い人達がいろいろな国の人たちと交流して、異なる宗教や文化、考え方の違いを理解していくことが重要です。国際交流は肌の色や話す言葉は違っても、同じ人間で仲間であることを知る、とても大切な機会です。未来は、みんなの手にかかっているのです。

- T.M.
今日は美馬先生の貴重なお話をお聞きすることができて、AI と私たちは共存しなくてはならないということがわかりました。本日はありがとうございました。

- 美馬
私からも最後に一言。今日話したことを、お友達と話したりお家でも議論をしたり、考えてみるといいと思います。自分の意見を持ち、他の考え方を聞いてまた考えて、情報収集や議論をして、さらに考えを深めることがとても大事です。みなさんにはそういう力がついてきていると思います。