ＡＩは人類を駆逐するのか？ 自律世界の到来

投稿元：

レビューを見る

AIによる自動から自律への転換期。何を目指して自律のシステムを構築するのか。目標を間違えれば，人類は駆逐させる。

投稿元：

レビューを見る

このテーマに関して手頃な入門書をあまり見かけなかったが、まさにこれがそれ。わかりやすくまとまっている。
AIは定義が人によってまちまち。一つ明確なのは自律するAIはまだないということ。ポナンザにしても、人間を超越した規模とスピードで計算し過去の事例を検証しているだけで、限定的な空間やルールなどのもとでの自動はあくまで人間が道具を支配している。しかし自律は人が道具に支配される可能性をもたらす。自律はミッションの設計自体を自ら行うこと。そこにトロッコ問題、価値判断が生じる。強いAI=汎用型AI=脳幹など人間の脳の古い層と同じことをするもの。
Amazonの採用やヘイトスピーチの例など、データに偏りがあってもそれを判断する価値観を有していないため、人の主観も入り込むし、AIの出した答えが中立であるわけではない。そして機械学習が高度化するとなぜAIがその判断をくだしたのかということはわからなくなる。今AIが強化学習により獲得しようとしている自律は生存を維持するという目的関数、それに付随する報酬関数や価値関数を最大化させるように動くこと。
第4章で描く未来はマルクスが思い描いた未来のように思う。大切なことはAIの発展により人類がどうなるかではなく、人類をどうしたいかという問いにある。

投稿元：

レビューを見る

「自律的に動くロボット」とは我々のことではないだろうか？　競争というルールの下（もと）で勝ち上がった者が選良（エリート）のメダルを手に入れる。資本主義社会で行われるのはマネー獲得ゲームである（「我々は意識を持つ自動人形である」）。
https://sessendo.blogspot.com/2021/09/ai.html

投稿元：

レビューを見る

近未来はAIがすべての采配を振るう。自律してAIが動き、もはやどうしてシステムがそう動くのかすらわからない世界。判断要素が複雑に絡み合い、自動で判断される。
飛行機は、ほとんどの時間はオートパイロットで飛んでいる。離陸時のみ手動。
自動と自律は違う。自動化は飛行機のように今でも可能。ロジックを人間が構築したもの。
自律は、ロジックも自ら学習するもの。
機械学習も、本来の自律とは違う。自動の量的延長上に自律があるわけではない。
答えが明確ではない目標設定ができることが自律。
システム全体の自律は、汎用AIならできるか、できないか。人工知能研究の最先端。
判断には倫理や道徳が絡む。トロッコ問題。
AI＝アーティフィシャルインテリジェンス。
ベイズ統計の応用が機械学習を可能にした。機械学習をより深化させたものが深層学習＝人間の脳の神経ネットワークを模したもの。
強いAI＝人間と同等の知能や意識を持つもの＝汎用型
弱いAI＝人間の知能の一部に特化したもの＝特化型＝ディープラーニングなどもこれ。
AIが、人間の判断を参考にすると、男性に高い得点を与えてしまう。黒人の投稿を有害とみなしやすい。＝人間の深層心理を暴き出す。＝人間の行動を学習した機械学習の注意点と限界。
AIは騙される。データの与え方で簡単に騙せる。しかも判断の仕方はブラックボックス。
人間の選択は、時に不合理。それを学習すると違うルールが出来上がる。
自律には価値判断が伴う。
強化学習が、機械学習に目標設定の道を拓いた。目的関数、報酬関数、価値関数などを設定できれば、あとは自律的にルールを作ることができる。
人を守る、を価値と設定すると、そのうちAI自身を守るという結論になるかもしれない。
逆強化学習＝現象のふるまいから、報酬を学習させる。

音楽書籍衛星画像の旅行などが、ほとんどコストがかからなくなる。
食料はロボットが向上で作る。
3Ðプリンターで工場が不要になる。
モノに満たされれば平和になる。
物質のシンギュラリティが起きる。
AIがパンデミックを未然に防ぐ。

投稿元：

レビューを見る

読みやすい。
AIについて考えることは、人間とは？を考えることだと思った。
人間はなんと複雑な生き物なのだろうか。

投稿元：

レビューを見る

人工知能(AI）が巷では騒がれていますが、私の理解は近い将来に、AIを駆使した主に若い世代が、それを使えこなせていない世代にとって代わられるものと考えていました。

ところがこの本を読む限り、進化したAI（この本ではそれを自律したAIと定義しています）は、全ての人類の叡智を超えて、それまでAIを櫛した人もそうでない人も支配下に置くことになるという驚愕の世界が来ることになると思いました。

長い歴史を振り返ると、筋力的や身体能力では人間よりも優れた動物がいますが、それらを「ヒト」が支配下に置くことができたのは、彼らを抑え込む知恵や知識の伝承があったからだと思います。進化したAIが地球環境を考えて「人間を排除すべき」と考えたら、この本にあるように、少なくとも今の考え方をしている人類（地球人）はAIに駆逐される可能性も否定できないなと思いました。

コロナが明けてそれまで覆い隠されてきた現実が徐々に見え始めました、これからの人類はAIにダメ出しされないような生き方をしていかなければならないな、と感じました。

以下は気になったポイントです。

・未来は必ずしも「世の中がますます便利になってありがたい」と手放しで喜べるものとは限らない、「便利で助かる」などと気楽に構えているわけにはいかない。なぜなら高度に自律的なAIを脳にもつロボットは、新たな知的生物にすらなり得る。私たち人類は今、史上初めて自分たちを上回る性能と可能性を秘めた知的生物と共存する時代を迎えようとしている（p７）

・近未来、それはAIが全てに采配を振る世界である。社会も人も自律して動くシステムに編み込まれ、あたかも一個の巨大な機械のように動いている（p２１）自動化とは、あらかじめ決められた環境の下で、自然科学や工学に基づいて機械的な機構、動作手順などを設計士、一連の動作を人が手を下さなくても良いようにしたものと言える（p３１）

・コンピュータは休みはいらないが、冷却が必要なので電力は使う。現在コンピュータは世界中で作られている電力の１０％を消費しているという試算がある、人間がエネルギーの２０％を脳に使っていることを考えれば人並みになってきたと言えるかもしれない（p３８）

・トヨタ自動車は2020年に入って、スマート都市を作ると宣言した、既存の社会に自動運転を普及させるより、街を丸ごと自動化した方が早いという見立てなのだろう（p５７）

・自動はあくまでも「言った通りになる世界」「人の想定内で起きる世界」だが、自律は「人が言った通りにならない」という可能性を持った世界であり「人が道具に支配されるかもしれない世界」であり全く異なる（p６０）

・人間は、ホモサピエンスが中位者出会った時の臆病心や飢えの記憶を消し去ることができずに「残忍で危険な存在となった」とされる（p１０３）このような部分はコンピュータへの置き換えが簡単にはできない（p１０４）

・現代の３Dプリンターはまだ玩具のような存在ですが、精度が向上し複数の素材が扱えるようになれば非常に大きな存在になるでしょう、設計のデータを入手すれば、自宅の３Dプリンターで、あるいは街の３Dプリントセンターで、カスタマイズされた１台を手に入れることができる。製造ラインを作る、人が集まる、梱包、小売、配達することがすべてなくなる。これもものの価格を破壊する（p１６３）

・唯一の人類として勢力を拡大してきたホモ・サピエンスの武器になったのは、彼らだけが持っていた「高い言語能力」であった、これがあったから意見を交換し、保存し、学習の蓄積に繋がっていった（p１８５）

・農業は、未来という時間概念を創造するものであった、狩猟採集生活は、今あるものを獲り消費するだけ。農業は種をまき、育て、そして将来のある時点で収穫する。未来を想定して、計画的に行動するという時間の概念を新たにもたらすものであった。人が集まって暮らせば、一人で全ての生活用品を賄う必要はない。集住、分業、交換、貨幣、そして未来という概念、農耕生活への転換は、現代社会の骨格となるもの全てを用意した（p１８６）

2023年7月7日読了
2023年7月17日作成

投稿元：

レビューを見る

自律と自動の違いから始まり、自律的なAIによって世界がどう変わっていくかを示唆している本です。
単純に便利になるだけではなく、人間の側も変わっていかざるを得ない。
なぜなら、AIを教育するのは人間だから。
自律的なAIとの共存に向けて、人間社会の在り方を考えさせられる有意義な一冊。
ただ、本書のタイトルである「AIは人類を駆逐するのか？」という問いに対しては、明確な答えは書かれていなかったのが残念。

投稿元：

レビューを見る

…
壮大な抽象論と論理の飛躍と、ラストは宗教論ですか？みたいな本。一言で言えば、駄文。それ以上でもそれ以下でもない。

投稿元：

レビューを見る

前半の大半はAIに関する情報のまとめという感じで、タイトルの内容に入るのは終盤に差し掛かってから、です。

投稿元：

レビューを見る

図書館で見かけて、挑戦的なタイトルに「ま～たこんな挑戦的なこと言って興味を引こうとしてるよ」と思いながらまんまと読んだ。父もこういうジャンルの本は好きだと記憶しているので、自分は小さいころからテクノロジーへの関心を醸成されていた筋金入りのテクノロジャー（適当）なのだと改めて思った。
この本の感想は、本の内容から触発された自分の妄想が主になっているので本の評価という意味では塵ほども参考にならないことをご容赦いただきたい。

本書の内容はよく言われるような、「AI時代になくなる仕事とは」や「人間にしかできないことはなにか」や「AIの生命倫理」についてなどの大筋を著者の意見をもとに述べられていた。特に興味をそそられたのは、AIがどれだけ進化しても人間にはなれないという話だ。この点で著者の意見の基になっているのは人間の根幹にある生存本能がAIには持ちえないということだった。確かにAIは身体（部品）がなくなっても死ぬことはないし、データさえ移せば細胞の劣化など考えずに「生き続ける」ことができるだろう。その点では人間と全く同じ倫理感や感情はいくら機械学習で習得して真似しても本質的には違うものである。
ここで私が感じたのは、1000年後にはAIが主体となった生活が地球で営まれているのではないかと思う。人間が人間の形に固執すべきなのだろうかという元も子もないような疑問だ。私たちはもちろん「人間」というアイデンティティのうえで暮らしているが、例えば類人猿にあまり親近感がわかない人もいるのではないだろうか、まして魚や単細胞生物など、自分たちの進化の原点として「血がつながっていても」そこに同類だと思うことは少ないと思う。大切なのは血のつながりではなく自分たちの手で作り上げたもの（子供であれ技術であれ）であるように思われる。なぜなら今の高齢化社会における政治で問題視されるように、人は数百年後の世界なんかは正直なところどうでもいいと思っている人がほとんどだと感じられるからだ。
自らのデータ（教育）をもとにして学習（機械学習）をさせ、そうして育てた「自分の考えをもとにしたAI」に人類が愛着を持って「家を継がせる」ことができたらその時がAIが覇権を握るときだと思う。そしてそんな日が遠くない将来に起こる気がした。

投稿元：

レビューを見る

自動から自律へと進んでいくAIにつての概念的な解説書
分かりやすく書かれている
特に最終章は今後を概念的に理解するに於いての基本になるか。

投稿元：

レビューを見る

シンプルで面白い。専門的な知識が得られるわけではないが、何が伝えたいかが明確になっていて納得しながらすぐに読み通せる良書。
自動とは人間が設定した目的のための最適解を探索するものであり、自律とは自ら目的を生成できる存在である。
人間や動物は自然選択の結果保有することとなった不可解で複雑なしくみに支えられた本能や情動によって自律的な意思決定を行うが、コンピューターが本能と同等のものを備えることは期待できない。そうした生物の生得的な特性のメカニズムがほとんど解明されていないために再現不可能であるからである。
一方で、人間とは全く異質の存在として強化学習により自律的AIを実現するアプローチもある。強化学習にあたっての目的関数と報酬関数をどう設定するかによって、人間社会に破滅をもたらすか、強力な人間の補助者としてあらゆる生産的活動と社会行動の最適化をもたらすかが決まるのであり、開発にあたっての倫理と道徳が極めて重要になる。
そして首尾良く自律型AIが社会を支えることに成功すれば、人間は生産から解放され、人口減少は脅威ではなくなり、社会的合意は構成員全員の価値基準から最適解が導きだされ、教育はスキル不要で倫理と道徳になり、脳は贅肉のように余剰資源となる。パンデミックも抑止できる社会が到来する。しかし、開発の方向性のコントロールに失敗すると、人類は破滅的な結末を迎える。

投稿元：

レビューを見る

シンギュラリティは来ないと思っていたが、それは勝手にAIが人間を支配しないだけで、支配するように機械学習をすれば起こりうる。逆を言えば、そのような学習をさせなければ起こらないとも言える。
AIが一度下火になった事は知っていたが、再度注目を集めたのが確率と統計を重視した事は知らなかった。確かに100%正しい答えを求めるのは困難だが、事柄の傾向を把握して学習していけば更に正確な判断ができるようになる。そして倫理的な目標を与えなければシンギュラリティは起こりうる、と。見方が変わると色々な解釈が出来るなと感じた。