ＡＩは人類を駆逐するのか？ 自律世界の到来 みんなのレビュー

投稿元：

レビューを見る

前半の大半はAIに関する情報のまとめという感じで、タイトルの内容に入るのは終盤に差し掛かってから、です。

投稿元：

レビューを見る

自律と自動の違いから始まり、自律的なAIによって世界がどう変わっていくかを示唆している本です。
単純に便利になるだけではなく、人間の側も変わっていかざるを得ない。
なぜなら、AIを教育するのは人間だから。
自律的なAIとの共存に向けて、人間社会の在り方を考えさせられる有意義な一冊。
ただ、本書のタイトルである「AIは人類を駆逐するのか？」という問いに対しては、明確な答えは書かれていなかったのが残念。

投稿元：

レビューを見る

シンギュラリティは来ないと思っていたが、それは勝手にAIが人間を支配しないだけで、支配するように機械学習をすれば起こりうる。逆を言えば、そのような学習をさせなければ起こらないとも言える。
AIが一度下火になった事は知っていたが、再度注目を集めたのが確率と統計を重視した事は知らなかった。確かに100%正しい答えを求めるのは困難だが、事柄の傾向を把握して学習していけば更に正確な判断ができるようになる。そして倫理的な目標を与えなければシンギュラリティは起こりうる、と。見方が変わると色々な解釈が出来るなと感じた。

投稿元：

レビューを見る

自動から自律へと進んでいくAIにつての概念的な解説書
分かりやすく書かれている
特に最終章は今後を概念的に理解するに於いての基本になるか。

投稿元：

レビューを見る

このテーマに関して手頃な入門書をあまり見かけなかったが、まさにこれがそれ。わかりやすくまとまっている。
AIは定義が人によってまちまち。一つ明確なのは自律するAIはまだないということ。ポナンザにしても、人間を超越した規模とスピードで計算し過去の事例を検証しているだけで、限定的な空間やルールなどのもとでの自動はあくまで人間が道具を支配している。しかし自律は人が道具に支配される可能性をもたらす。自律はミッションの設計自体を自ら行うこと。そこにトロッコ問題、価値判断が生じる。強いAI=汎用型AI=脳幹など人間の脳の古い層と同じことをするもの。
Amazonの採用やヘイトスピーチの例など、データに偏りがあってもそれを判断する価値観を有していないため、人の主観も入り込むし、AIの出した答えが中立であるわけではない。そして機械学習が高度化するとなぜAIがその判断をくだしたのかということはわからなくなる。今AIが強化学習により獲得しようとしている自律は生存を維持するという目的関数、それに付随する報酬関数や価値関数を最大化させるように動くこと。
第4章で描く未来はマルクスが思い描いた未来のように思う。大切なことはAIの発展により人類がどうなるかではなく、人類をどうしたいかという問いにある。

投稿元：

レビューを見る

判断が難しい…
ほんとか？ほんとか？ってずっと思ってた読んでた
aiには生存本能がない、だから人類を滅亡させる
かも
って、正直そこまでの賢いaiができるとは…
自動化は進んでいくだろうが

投稿元：

レビューを見る

近未来はAIがすべての采配を振るう。自律してAIが動き、もはやどうしてシステムがそう動くのかすらわからない世界。判断要素が複雑に絡み合い、自動で判断される。
飛行機は、ほとんどの時間はオートパイロットで飛んでいる。離陸時のみ手動。
自動と自律は違う。自動化は飛行機のように今でも可能。ロジックを人間が構築したもの。
自律は、ロジックも自ら学習するもの。
機械学習も、本来の自律とは違う。自動の量的延長上に自律があるわけではない。
答えが明確ではない目標設定ができることが自律。
システム全体の自律は、汎用AIならできるか、できないか。人工知能研究の最先端。
判断には倫理や道徳が絡む。トロッコ問題。
AI＝アーティフィシャルインテリジェンス。
ベイズ統計の応用が機械学習を可能にした。機械学習をより深化させたものが深層学習＝人間の脳の神経ネットワークを模したもの。
強いAI＝人間と同等の知能や意識を持つもの＝汎用型
弱いAI＝人間の知能の一部に特化したもの＝特化型＝ディープラーニングなどもこれ。
AIが、人間の判断を参考にすると、男性に高い得点を与えてしまう。黒人の投稿を有害とみなしやすい。＝人間の深層心理を暴き出す。＝人間の行動を学習した機械学習の注意点と限界。
AIは騙される。データの与え方で簡単に騙せる。しかも判断の仕方はブラックボックス。
人間の選択は、時に不合理。それを学習すると違うルールが出来上がる。
自律には価値判断が伴う。
強化学習が、機械学習に目標設定の道を拓いた。目的関数、報酬関数、価値関数などを設定できれば、あとは自律的にルールを作ることができる。
人を守る、を価値と設定すると、そのうちAI自身を守るという結論になるかもしれない。
逆強化学習＝現象のふるまいから、報酬を学習させる。

音楽書籍衛星画像の旅行などが、ほとんどコストがかからなくなる。
食料はロボットが向上で作る。
3Ðプリンターで工場が不要になる。
モノに満たされれば平和になる。
物質のシンギュラリティが起きる。
AIがパンデミックを未然に防ぐ。

投稿元：

レビューを見る

図書館で見かけて、挑戦的なタイトルに「ま～たこんな挑戦的なこと言って興味を引こうとしてるよ」と思いながらまんまと読んだ。父もこういうジャンルの本は好きだと記憶しているので、自分は小さいころからテクノロジーへの関心を醸成されていた筋金入りのテクノロジャー（適当）なのだと改めて思った。
この本の感想は、本の内容から触発された自分の妄想が主になっているので本の評価という意味では塵ほども参考にならないことをご容赦いただきたい。

本書の内容はよく言われるような、「AI時代になくなる仕事とは」や「人間にしかできないことはなにか」や「AIの生命倫理」についてなどの大筋を著者の意見をもとに述べられていた。特に興味をそそられたのは、AIがどれだけ進化しても人間にはなれないという話だ。この点で著者の意見の基になっているのは人間の根幹にある生存本能がAIには持ちえないということだった。確かにAIは身体（部品）がなくなっても死ぬことはないし、データさえ移せば細胞の劣化など考えずに「生き続ける」ことができるだろう。その点では人間と全く同じ倫理感や感情はいくら機械学習で習得して真似しても本質的には違うものである。
ここで私が感じたのは、1000年後にはAIが主体となった生活が地球で営まれているのではないかと思う。人間が人間の形に固執すべきなのだろうかという元も子もないような疑問だ。私たちはもちろん「人間」というアイデンティティのうえで暮らしているが、例えば類人猿にあまり親近感がわかない人もいるのではないだろうか、まして魚や単細胞生物など、自分たちの進化の原点として「血がつながっていても」そこに同類だと思うことは少ないと思う。大切なのは血のつながりではなく自分たちの手で作り上げたもの（子供であれ技術であれ）であるように思われる。なぜなら今の高齢化社会における政治で問題視されるように、人は数百年後の世界なんかは正直なところどうでもいいと思っている人がほとんどだと感じられるからだ。
自らのデータ（教育）をもとにして学習（機械学習）をさせ、そうして育てた「自分の考えをもとにしたAI」に人類が愛着を持って「家を継がせる」ことができたらその時がAIが覇権を握るときだと思う。そしてそんな日が遠くない将来に起こる気がした。

投稿元：

レビューを見る

「自律的に動くロボット」とは我々のことではないだろうか？　競争というルールの下（もと）で勝ち上がった者が選良（エリート）のメダルを手に入れる。資本主義社会で行われるのはマネー獲得ゲームである（「我々は意識を持つ自動人形である」）。
https://sessendo.blogspot.com/2021/09/ai.html

投稿元：

レビューを見る

シンプルで面白い。専門的な知識が得られるわけではないが、何が伝えたいかが明確になっていて納得しながらすぐに読み通せる良書。
自動とは人間が設定した目的のための最適解を探索するものであり、自律とは自ら目的を生成できる存在である。
人間や動物は自然選択の結果保有することとなった不可解で複雑なしくみに支えられた本能や情動によって自律的な意思決定を行うが、コンピューターが本能と同等のものを備えることは期待できない。そうした生物の生得的な特性のメカニズムがほとんど解明されていないために再現不可能であるからである。
一方で、人間とは全く異質の存在として強化学習により自律的AIを実現するアプローチもある。強化学習にあたっての目的関数と報酬関数をどう設定するかによって、人間社会に破滅をもたらすか、強力な人間の補助者としてあらゆる生産的活動と社会行動の最適化をもたらすかが決まるのであり、開発にあたっての倫理と道徳が極めて重要になる。
そして首尾良く自律型AIが社会を支えることに成功すれば、人間は生産から解放され、人口減少は脅威ではなくなり、社会的合意は構成員全員の価値基準から最適解が導きだされ、教育はスキル不要で倫理と道徳になり、脳は贅肉のように余剰資源となる。パンデミックも抑止できる社会が到来する。しかし、開発の方向性のコントロールに失敗すると、人類は破滅的な結末を迎える。

投稿元：

レビューを見る

…
壮大な抽象論と論理の飛躍と、ラストは宗教論ですか？みたいな本。一言で言えば、駄文。それ以上でもそれ以下でもない。

投稿元：

レビューを見る

自動から自律へ　とても興味深い内容でした。
ロボットを利用する世界から共存する世界に移りかわるそんな時代がくることに喜びを覚えつつ、恐怖の面も感じました。
あとAIの到来によって個人で勝負する時代がくる
と思います。

投稿元：

レビューを見る

読みやすい。
AIについて考えることは、人間とは？を考えることだと思った。
人間はなんと複雑な生き物なのだろうか。