「人工超知能」 －生命と機械の間にあるもの－

投稿元：

レビューを見る

文字通り、AIが世の中を支配することになる近未来のことを想定して書いた本。

当然希望と驚異の両方があるわけだが、どちらかに偏ることなく中立的な立場で描いてた。

投稿元：

レビューを見る

現在のAIは、囲碁の対局や自動運転など、特定の分野で力を発揮する特化型AIとのこと。
そうではなく、人間と同様、様々な分野を横断的に処理・判断できる汎用AIの開発競争が今、始まっています。

本書は、前半で人間の脳のメカニズムを紐解きながら、汎用AIがつくられたら、その汎用AIがより賢い汎用AI（人間を超えるAI）をつくるのではないか？
単に人間の仕事を奪うだけでなく、自我を持って人間を攻撃する可能性はないか？といったテーマについて語っています。

著者としては、人間はAIのメカニズムを知る一方で、AIは人間のメカニズムを知らない以上、汎用AIの可能性は低いとしつつも、人間が悪用して殺戮専門ロボットをつくる懸念には言及しています。

AIは、テクノロジー問題と思いきや、深彫りすればするほど人間とは何か？といった哲学的な問いになることがよくわかります。

第一線級の研究者は、技術を追いながら、そういった文系領域にも思いを馳せている点、リスペクトです。

投稿元：

レビューを見る

★2017年10月1日読了『人工超知能　生命と機械の間にあるもの』井上智洋著　評価Ｂ＋

最近のＡＩの進化は目に見えて加速していることが気になり、手に取ってみた。
なぜ、近年の人工知能の開発が加速しているのか、それは深層学習Deep Learningが発展し、プログラムが人間に教わることなく、物体の特徴を見いだし、生物の眼に相当するイメージセンサーを獲得。その結果、特徴量という特徴空間を形作ることが出来るようになって来たことが大きい。

これからの人工知能の方向性には、全脳エミュレーション方式という脳の神経系のネットワーク構造のスキャンなどによってコンピューターに再現する方法と全脳アーキテクチャーという人間が人為的に設計する部分を残しつつ、海馬/基底核/大脳新皮質の機能を機械学習器として再現して結合していく方法がある。

ヒト・コネクトーム：人間の神経回路地図は21世紀後半にならないと解明が出来ない可能性。そのヒトコネクトｰムのマインドアップローディングが可能となれば人間意識の再現ができるのか？そこには「身心問題」があり、意識と身体という根源的な問題が存在する。

ニューラルネットワークＡＩは人間の脳は超えられるか？
汎用的な強化学習能力とメタ思考力が思考パターンを生成する。

2045年問題：ＡＩが人々の仕事を奪う技術的失業と機械の叛乱の可能性
ＡＩに知性は備えられても、感情・意志は人間が実装しない限り備わらない。
しかし、悪意のある者が殺戮専門ロボットを作り出す懸念の方が高い。

アシモフの　Ｉ・ＲＯＢＯＴのロボット工学三原則
１．ロボットは人間に危害を加えてはならない。
２．ロボットは人間の命令に従わなければならない。
３．ロボットは自らの存在を護らなくてはならない。
１－３の優先順位が非常に重要。

投稿元：

レビューを見る

シンギュラリティ後の人工知能についての本。
通訳は人工知能が発達してくるのだから、英語はそんなに勉強しなくていいとのことだ。このへんはいろいろ意見が別れすぎて、自分もどうしようか迷ってるところ。英語サイトにたどりついたらすぐに自動翻訳するのもどうなんだと思う時もあるし。
なお、ロボットが叛乱をおこす可能性は低いとのこと。叛乱を起こすには4つ条件があって、すべてみたす必要があるとのこと。まあ、悪用する人間がでてくる可能性はあるだろうし、可能性は低くても備えはしておくべきだとのことだ。まあ、その時はその時だしね。
そういうふうに、日本は最悪の事態を想定するのが苦手で楽天的な人が多いのだとか。事実、核シェルターの普及率はスイスのほぼ100%、アメリカ・ロシアの約80%にたいし、日本は0.02%だとのこと。最近はそういう議論も活発になってきたから、今後は普及するだろうけど、世界的に見るとこんなに低いのか(そもそも、何でスイスは100%なんだ？)。
それにしても、ピーター・シンガーという名前の人が二人もでてきてややこしい。よくある名前なんだろか。

投稿元：

レビューを見る

AIこそが諸学問の新たな紐帯となり、その発達はむしろ人文社会学を再活性化し、マルクスの理論をも復活させるだろう。AIの議論を進めるにあたり、哲学研究社の意見を聞かないわけにいかなくなっている。

投稿元：

レビューを見る

ＡＩの進歩がますます加速していく現在、私たちの社会はどのような影響を被るのだろうか？
ＡＩは人間の知性を越えられるか？というテーマを中心に、技術面のみならず哲学的見地から考える。

軽いノリで手に取ってみたら、しっかりとした内容の本で前半は流し読み。
コンピューターが意思を持ち人類を滅ぼす、ＳＦなどではもはやお馴染みの設定であり、ターミネーターなどが代表的な作品でしょうか。
確かに『Siri』などを利用していると、時々「怖！」と思えるような返事が返ってくることがあります。ただ今のところは、Siriにしろペッパー君にしても、「らしく」振る舞っているだけで感情や意思を持っているわけではありません。では何を持って感情を持っているといえるのか？となるとやはり哲学的な話になるのでしょうし、判断するというのも無理な話なのでしょう。
ただ私は、ＡＩが本当の意味で心を手に入れることが出来たのなら、人間を管理することはあっても殲滅しようとは思わないのではないかと考えています。それより怖いのが、心を持たないまま自立してしまった場合、地球にとって人類が有害だと判断され排除されるのではないかと危惧しています。

投稿元：

レビューを見る

AIに対するこれまでの発展の事実と、これからの発展の期待と想像がまとまった一冊。

前半部は、AIの歩みがわかりやすく書かれている。AIにできること、得意なこと(論理的思考、記号的アプローチのように、デジタルで表せることとか。何か一つ(囲碁とか)に特化して鍛錬を積んでスペシャリストになることとか。※鍛錬は人間ぽい言葉だけど、要は膨大な情報を勉強して最適解を導くこと)とか。
ディープラーニングを、「機械が眼を持つようになった」と表現されていたのは秀逸だなと。素直にすごい表現だと感じた。確かにその通りだと。眼があることによる汎用性は計り知れないと思う。画像の識別とか、センサーとか。
眼の獲得からの生命の爆発的な増加になぞらえたこれからのAIの発展には、ワクワクする。
最初は教師あり学習しかできなかったのが、報酬(このスコアを上げよ、とか)を与えるだけで放っておけばメキメキ上達するようになってきて。人がゲームをやり込んでいろんなパターンとか経験とかを積むと、技に気づいて使えるようになって上達するみたいな直観のようなことができるようになったり。
ちなみに僕は、人間とAIの融合は賛成派なので、どんどん融合して便利になってほしいと思う。

後半は未来の話になっていくこともあり、だんだん哲学的になっていった。
まだ人間の脳や思考が完全に解明されていないので、今ある技術から予測するしかないので仕方ないが、なかなか難解だった。

AIは人間の知性を超えられるか？AIは反乱を起こすか？AIに感情は芽生えるか？AIは欲望を持つのか？AIは意識や意思を持つのか？
もはや誰の意見が正しいとかないと思うけど、僕個人としては、全部Yesな気がしている。
人が想像しうるものはすべて実現する、といったら大袈裟だけど、そんな感じ。
「一人の人間が一つのAIを作ってその人間を超えること」はなかなか難しい気がするけど、多数の人間を学習してその人間たちより少し優れた存在になることはできる気がする。(AIだけじゃなく、人間にも言えることだから)
反乱は、そういう報酬系をインプットする人間が一人でもいれば起きるだろうし、いつか世界のどこかでは起こりうると思う。その時は・・・どうするんだろうなぁ。笑
感情、欲望、意識、意思は、環境と生育によって芽生えていくものだと思っている。そういう(人間的な)報酬系をインプットした上で、しばらく人間生活に近いことしてれば、学習する気がする。人間の中にも喜怒哀楽表現が下手な人もいるし、後天的に身につける人もいるし、それと似たようなイメージ。
ただし、"人間的な報酬系"をインプットしないといけないとは思っていて、さすがに人間の遺伝子情報がインプットされてない状態で感情に目覚めろというのは難しいのかもなぁとは思う。赤ちゃんでも笑ったり泣いたりできるから、そういうのは遺伝子にインプットされてるのかなぁと。
倫理的にやれるかどうかはあるけど、技術的にはできるようになるんだろうなぁと思っている。もはやクローンみたいなものだし。笑

投稿元：

レビューを見る

AIの概要を知るにはとても良い本。あとはあまり消化できていないのだけど、知能というのを考えるのにはとても良かった。全体の構成がしっかりしているのと、各章の扉にその章のサマリーというか論点がまとめてある。大学の先生らしいスッキリとしたまとめ方。それにとても広い範囲で扱っているけどそれなりの深さまで言及されているような気がする。雑誌や入門書では物足りない部分をしっかり補ってくれている内容。もう一歩進めるとかなり専門的な領域まで入るような気がする。全体の構成は第1章AIは未来をどう変えるか？、第2章AIの歴史をたどり、AIの正体を明らかにする、第3章機械学習とディープラーニング：人間の直感を再現できるか？、第4章汎用AI：人間レベルのAIは実現可能か？、第5章AIは人間の知性を超えられるか？、第6章ターミネーターは現実化するか？、第7章AIに知識は宿るか？とう流れ。自分のマーキングを見てみると、1章、2章は導入部だったせいかハイライトはほとんどない。第3章からハイライト個所があり、この第3章は機械学習を直感的に理解するのには有用性を感じた。教師あり学習と教師なし学習は多変量解析の予測モデルと記述モデルの違いというような理解を今までしていたけど、それは概ね合っているようでした。ただ、機械学習を多変量解析の一種と考えるとイメージがついてこない。拡張です。ここから先は、本を読んで自分でイメージしたことなので正しいかはわからない。まず、ディープラーニングの多層構造をしっかりとらえきれていなかったのだけど、これって、ある意味交互作用なんだなと思うと少し理解がすすむ。記述モデルの代表モデルである主成分分析の各主成分は数学的に直交しているので、あくまで主成分という特徴量は独立。n次元ということでいくら拡張しても特徴量間の交互作用は表現できない。単純な線形モデル。ただ、多層にすることで特徴量×特徴量で新しい特徴量を作り出しているので新しい特徴量は交互作用項に当たる。しかもモデルの構造上多因子交互作用になっているのでより複雑な特徴量を抽出できるということかな。じゃあ、そういうモデルの構造が持てるようになった時に、重要なのは重みづけ。で、先生は「強化学習」が重要だと言っている。まあ、誤解を恐れずに言えば強化学習のポイントはデータの数。この本では報酬系のモデル化といっていたけど、結局、どういう判断をしていくと報酬が得られるかという成功確率を最大化していくので、試行回数と成功体験が多いほど精度は上がる。こういうモデルへの気づきを与えてくれただけでこの本の3章の価値は十分にあった。第4章は人間の知的能力を考える。キーワードは汎用性と自律性かな。それと脳の知的能力を実現するアプローチ方法。全脳エミュレーションと全脳アーキテクチャというアプローチがあるらしい。前者はイメージコピー、後者は部分部分をリバースエンジニアリングして全脳に展開したものと理解した。後者のアプローチの方がイメージしやすいし、実際にやるイメージも持てるけどいずれにしても大変そう。それに部分再現の合成が全体再現になるのかという疑問も残る。やはりそこには統合の枠組みの問題というのが残るらしい。第5章では知性を考える。ゲー���ルの不完全性定理が出てくる。否定的な自己言及は不可能であること。新約聖書の「エピメデニスのパラドックス」が判り易い。「クレタ人は嘘つきであるとクレタ人のエピメデニスは言った」というもの。人間なら、この文章も適当に理解できるけど、確かにコンピュータはこの矛盾を吸収できないかもしれない。そしてこの章では先生の造語であるらしい「メタ思考力」という言葉が出てくる。これは「思考について思考する能力」らしい。AIが人間のように思考するにはこのメタ思考力が必要ということ。AIは人間が作った。故に人間はAIよりメタな位置づけにある。よりメタな位置づけにないと人間の知性は越えられないという議論。つまり将棋で勝てるようになっても、囲碁で勝てるようになっても総合的な知性では人間にかなわないということかな。

残りの二章はより難しかった。人間が賢くなることと意識を持つことの違い。これは前に読んだ哲学を教えたらと同じような問い。やっぱりトロッコ問題が出てきた。考えなければならない問題だけど、自分の中では答えは出ていない。結局、結びにあるように人間の脳と心の問題が解明しなければ、人間を超えられるかという議論はできないということなのでしょう。感情や欲望には機能面と現象面があって、いずれも機能面ではAIはどんどん人間に近づいているようだ。それでも、渇望感のようなクオリアはAIに持たせることはできないという。この辺は自分の理解がもう一歩進まないと消化できない。

投稿元：

レビューを見る

人工知能を中核にして、その隣接領域であるコンピュータ科学、脳科学、哲学などを程よくブレンドしてわかり易い読み物に仕立ててあります。よくまとまっている印象ですが、目新しい知見を見出すことはできなかった。

投稿元：

レビューを見る

AIと人間の関係性について。語り尽くされたテーマにも見えるが、本著は、やや散逸しながらも、あらゆる角度から本テーマを再確認する。

「メタ思考」というキーワードが用いられる。少し使い方は異なるかも知れないが、AIを制作する、よりメタな立場である人間をAIが超えられるかと問いかける。人間が神を超えられないように、AIは人間を超えられない。しかし、人間の親子関係を見れば「トンビがタカを産む」事は十分にあり得るし、ここで言うAIとの関係性は、あくまでも競争種目で語られるべきなのだろう。言語生成のみならば万能型だとしても、自律自走、アームを付けたロボットには、用途以上の機能を持たせると高コストになるからだ。

種目別に見た時、既にAIに代替された労働、人間が優位な分野というのが、まだ疎らにある事が分かる。例えば以下の内容だ。

ー　ホワイトカラーの仕事は、情報の流れを制御することであり、端的に言うと情報処理。帳簿や契約、株価、法律等の情報。コンピューターというのは情報処理する機械であるから、AIの進化による代替可能性が高い。またAIブームが起きるずっと前から航空チケットやホテルの予約、決済といった手続きは単純な情報処理であるため、既にネット上の旅行サイトにとって代わられていた。

ー　トレーディングロボットは、高頻度取引と言って、0.001秒単位で戦略を変えながら取引を行えるので、超短期的なトレードでは、人間はほとんどこうしたロボットに勝てなくなっている。東京証券取引所では、取引の40%以上がトレーディングロボットによって行われている。

ー　一方、会計業界では4大監査法人によって寡占されていて、4社が横並びの状態にあるため、4社が大々的にITを導入し、価格破壊をしようなどと目論むようなことがなければ、劇的な変化は起きない。そしてそれは今のところ動きがない。なぜなら、企業に売掛金がある場合、相手企業に対する買掛金があることを確認するための作業は、会計システムどころか未だに郵便で行われている。

ー　マイケル・ポランニーは暗黙知と名付けた。暗黙知の有名な例は、人の顔の認識。私たちは、人の顔を1000人、100万人の中からでも見分けることができるが、どのようにして自分が知っているかを見分けるのかわからない。

ー　人を殺害する軍事用ロボットは既に実戦配備され始めている。例えばサムスンのグループ会社が開発した監視用ロボットで、韓国軍によって北朝鮮との国境沿いの非武装地帯に配備されているロボットは、韓国軍の指揮センターから命令があったら、敵を感知してマシンガンをブッ放すことができる。

人間の余暇が増えるのであれば、AIによる労働の代替そのものは忌避する問題ではなく、寧ろ、特定の人間や、よもやその人間にすら統制できぬ暴走状態が危険だと認識しなければならない。あるいは、逆にAIにより人間が統制される状態だ。人間とは、子供に爆弾を持たせたテロを行うような生き物でもあり、悪意に操作されるAIの誕生もリスクとして避けられない。既にドローンも兵器化している。願わくば、人道的な法整備が後追いにならぬよう。