紙の本
脳科学者の茂木氏が人工知能について語る、新書にしては内容充実の1冊
2021/12/02 18:24
0人中、0人の方がこのレビューが役に立ったと投票しています。
投稿者：YK - この投稿者のレビュー一覧を見る
人工知能が発達した先に、いつの日にか人間を超える能力を獲得し(シンギュラリティ)さらに自我が芽生える瞬間が来るのではないかと考えられる程に人工知能の開発は進んできました。本書は脳科学者の茂木氏が、人工知能研究の最前線で議論されている概念について、様々な思考実験の例を挙げつつ述べられている1冊です。
「人工知能が将棋などで圧倒的に強化されていくのは、人間と違ってそのことだけに1日24時間没頭し続けることができるからで、(気分転換を必要としないような)バランスを考慮しない尖り方は反生命的といえる」、「与えられた状況判断で生命は絶滅の可能性を避けるために敢えて80％程度の正答率に抑えることで想定外、予想外の事態に対応する余裕を持たせている」、「人間とスムーズに会話を交わす人工知能は、統計的に単語や動詞がどう続くかを処理しているに過ぎず、文章の意味自体を理解しているわけではない”言語ゾンビ”といえる」、「川端康成の”雪国”冒頭の一節を与えれば、現在の人工知能はそれに続く自然なフレーズを生成することができるが、その最初のフレーズを発話することは意識のある人間にしか不可能」、「眠る前の”私”と目覚めた後の”私”が同じであるという事は、(眠る前と目覚めた時の風景など)様々な状況から脳が推定して”同じ”と判断している」、「ある人の脳を完全に計算機でシミュレーションできたとしても、そこにその人の意識が存在するわけではない。なぜなら、計算機で完全に地球の気候をシミュレーションできたとしても、計算機の中に実態のある地球の気候が存在しないのと同じことだから」、「自動運転を司る人工知能の評価関数(もし事故が想定される状況で何を優先するか。子供と大人、男性と女性、有名人と一般人など)がブラックボックスのままでは不安だが、それを全てオープンにすると人間関係に深刻な問題が発生する(この車の人工知能は”乗員の安全を優先します”と謳われた場合、歩行者の安全をないがしろにしても良いという印象を持たれてしまう)ため、自動運転への人工知能の実装は難しい」等々、様々な切り口から実例を挙げつつ議論が展開されています。
400ページ弱という新書にしては多い目のボリュームに「人口知能と人工意識」、「知性とは何か」、「意識とは何か」、「私と自己意識の連続性」など興味深い視点で述べられており、内容の半分以上は科学と言うよりは哲学に近い印象です。私自身は本書で茂木氏が述べられている議論の半分ぐらいはあまりに哲学的、抽象的過ぎて理解やイメージが追い付かない印象でした。しかし、簡略化し過ぎれば茂木氏の伝えたい事が十分に表現できなかっただろうし、難解になり過ぎないように茂木氏なりに”攻めた”結果が本書ではないかと思います。理解できた(ような気がする)半分だけでも、何かとんでもなく深淵な世界の一端を見せてもらったような、不思議な読後感が得られました。
投稿元：
レビューを見る
著者の16年振りの書下ろし。人工知能、意識、知性、人工意識、身体性、クオリア、自由意志。それぞれの関連を議論する。人工意識には身体性が不可欠となる。身体性とはクオリアか？でも、意識を捉えようとすると、いつまでたってもその実体は掴めないのではないだろうか？
投稿元：
レビューを見る
読みづらい…。思考の過程が丁寧にかかれているのだが、いろんな例を引き合いに出しつつ、話があっちへいったりこっちへいったりしており、「結局なにが言いたいんだろ？」と感じた。
投稿元：
レビューを見る
茂木さんの研究ど真ん中の話だけあって、人工知能の話とクオリアの話が重なり合って、重厚な文章になっている。
人工知能研究の動向については読みやすいが、肝心のクオリアや意識のパートは一度読んだだけではわからなかった。
繰り返し読んで理解を深めたいと思わせてくれる本。
投稿元：
レビューを見る
最新の人工知能の研究を題材にその理論と人間の脳と対比しつつ「意識」についての考察を深めます。やや難解ながらも人工知能の理論と脳科学による考察を合わせた説明によりとても興味深く読み進めることができた。人間の「意識」のコピーあるいはアップロードに関して、以前からモヤモヤしていたところがとてもスッキリした。
投稿元：
レビューを見る
難しかった。結局よくわからなかった。
AIについては言葉を知っている人は多いと思うが、その実態について知っている人はどのぐらいいるのだろうか？
クオリアは尚更である。
トロッコ問題、人工意識が生まれて自動制御の場合どうなるのだろうか。命の重さ5対1で？そもそも人間は両方を瞬時に識別することができないような気がするし、車についも最初に視覚にとらえたものを避けようとするのではないだろうか？人工意識は自己学習でどう判断するのであろう。42かな
記憶はシナプスの配列
毎日シナプスが増えているのだろうか？死んでも繋げるモニターが開発されれば再現されるのだろうか
投稿元：
レビューを見る
人工知能ではなく人工意識だ。そもそも意識とは何か。寝ている間はふつう意識がない。酔っ払って意識がなくなることもある。いや、それは記憶が飛んでいるということか。いま意識ははっきりしている。死ぬ間際の人間はどうか。母はいったんほぼ意識がない状態で１日を過ごし、その後１ヶ月ほど持ち直した。もうここまでかと思ったときに、感謝の気持ちを伝えた。目には涙が浮かんでいた、と思う。後日、意識がもどったときにたずねても、まったく記憶にないようだった。父も最後はほとんど意識がなかった。けれど、母が亡くなったことを伝えると、目に涙を浮かべていた。分かっていたのだと思う。ＡＩに意識はあるのか。あるいは、今後、人工的な意識をつくることは可能なのか。あるいは人工知能自身が自分自身を進化させ、意識を獲得することはあるのか。それは、意識の定義の仕方によるのだと思う。本書には取り上げられていなかったと思うが、他の動物に意識はあるのか。植物はどうか。菌類はどうか。養老先生が確か睡眠との関係で意識の話をしていたと思う。眠る生き物には意識があると言っていいのかもしれない。宇宙には電子が１つしかないとか、この世界に意識は１つしかないとか、何だかよく分からなくて頭の中がモヤモヤしているけれど、久しぶりにいろいろ考えながら読むことができた。このモヤモヤ感も、そうレベルは高くないが、意識がある証拠なのだと思う。
投稿元：
レビューを見る
人工知能と意識の関係性をテーマにした筆者十数年振りの著書となり、読みごたえのあるボリューム。身体性を軽視し、ビックデータに基づく統計的な学習で知性を高めて行こうとする現在の人工知能研究の方向性に、危うさと警鐘を鳴らしている。
幻想である意識や自由意思の産み出し方を解明できないと人工意識は作れず人工知能に心を宿すことはできないという主張は納得。人工知能分野における最先端の課題と認識が理解できた。そのメカニズムも含め意識とは何なのか、この未解明の謎に答えが出るのが待ち遠しい。
投稿元：
レビューを見る
難解な内容だったが、なんとか読破。
人工知能が発達しても
人間の脳になるととは限らないと、基本的なことやっと理解。
「脳とクオリア」も読んでみたい。
投稿元：
レビューを見る
率直に言って難しい。赤を赤たらしめているもの、クオリア。
人工知能と人工意識の違い、どこまでいっても自分の意識をコンピュータ上に移植はできないように思った。０を１にするという意識がコンピュータに備わることはないような（意思を持つことはないような）気がしてしまう。そういう意味ではシンギュラリティなんて来ないのかもしれない。希望的観測にすぎるかもしれないけれども。
投稿元：
レビューを見る
ウィノグラード-スキーマ-チャレンジはビッグデータには不得手だけれども、人間は常識でわかってしまう問題文である。これは人工知能と人間では学習法が違うことを表している。
Gpt-2は短文を入力すると、続きを書くことができる人工知能。しかし、入力がないと、何も書けない。これも人工知能と人間の違いをうまく言っている。
独我論者として永井均さんが登場。
いきいき = ライプニッツ原理
ベイズ推定 = カント原理
永井均さんの『私 今 そして神』
に対応している。
永井均さんがベルクソンに興味を持っていた記憶がある。マクダガートの時間論からの入口として。
パーフィットの火星旅行についても、『転校生とブラックジャック』で永井均さんが扱っていた。
興味のある方は永井均さんの本を読むことをオススメする。
投稿元：
レビューを見る
結局よくわからなかった…隔靴掻痒的な読み応え…
ほとんどが知っているつもりであることが書かれていた。
各章のタイトルは興味深いものばかりですが
議論の深さがちょっと残念でした
これといった新しく、説得力もある知見を
本を閉じてから思い浮かべない
議論の範囲が広いから入門書としてはいいかもしれないが。
面白かったところ：
人類最後の発明、ロコのバジリスク問題、など
投稿元：
レビューを見る
論理の組み立てや説明順序に改善の余地が多々ある構成ではあったが、中々に読み応えのある内容だった。
現在のAI研究について、その有用性は疑わないものの、一方で統計的アプローチ万歳の傾向に警鐘を鳴らす。意識やクオリアは統計的アプローチでは解析できず、「今ここ」の身体性に立脚した新たな数学的アプローチの開発を待つべきと主張するが、本書ではその数学的アプローチの概略の提示もないのが残念ではあった。
人間は倫理を敢えて突き詰めずに身体性を前提とする直感で判断することにより自我の崩壊を防いでいるという説や、覚醒時は心理的な「今」がオーバーラップすることで意識の連続性が担保されているのに対して睡眠前後では連続性が途切れるために状況や記憶の同一性から統計的に同一の「私」であることを推定しているだけに過ぎないという考え方、コンピュータへの精神のアップロードは自然現象たる意識を情報の同一性だけを頼りに本来的には写像に過ぎないコンピュータ素子の特定の状態によって再現できるとする粗雑な議論であるという考え方などが斬新であった。
最大の物足りなさは、「意識」や「クオリア」が果たして本当に存在するのかどうかの徹底的な探求をせずに、これらが「ある」という前提で議論が展開されていたこと。
投稿元：
レビューを見る
人工知能という言葉は聞き馴染んでいたけれど、意識という概念はあんまり深く考えたことがなかった。
意識なくして、知能、知性は扱えないとする考えもあり、それもよく理解できた。
小説を書くAIがあっても、最初の1文を与えないと、続きが書けないなど、答えのないものに対して意思決定をして進めていくことは意識によるものなのだろう。
そう考えるとAIがいくら発達しても、カーツワイルの言うシンギュラリティに達する日が来るとは思えなくなってきた。
ガブリエルさんの言っていた、意識に関しては科学で証明することが極めて困難というのも、茂木先生のこの本を読んで理解できた。
意識はまだまだ未知の領域があり、それこそ人間らしさなのかもしれない。
投稿元：
レビューを見る
意識と脳の関係については、意識は脳と独立した非物理的な存在であるとする二元論と、意識は脳内の物理法則と生化学ですべて説明できるという一元論の2つの考え方がある。
現代の科学者の殆どが一元論の立場を取り、茂木氏も意識は科学的に説明できるという立場を取っている。
しかし、茂木氏は、現在の人工知能研究などのアプローチで意識やクオリアを解明するのは無理だと言いつつ、それに代わる具体的な方法を示しておらず、実質的には二元論に非常に近い。
結局、意識やクオリアは、現代の科学で説明することは難しいと言っているに過ぎないように見える。
