投稿元:
レビューを見る
【メモ】
ASI(Arteficial Super Intelligence)=人工超知能
AIボックス実験=人間より賢いAIを閉じ込めておくことができるか否かの実験。「AI役」と「門番役」に分かれて、オンラインチャットでやりとりする。
投稿元:
レビューを見る
「人工知能」といえば小学生の時に夢中になった「ドラクエⅣ」。旅する仲間が増えに増え、戦闘時に命令するのが面倒ってことで、コンピューターが自動的に判断して攻撃したり魔法をかけたりするというものでした。とはいえあまり役には立たず、想定外の行動を起こすことが多かった厄介なシステムでした。その後のシリーズでもこのシステムは導入され続けましたが、精度は上がっていました(笑)。いまや人工知能はゲーム世界だけではなく人々の生活には欠かせないものとなっており、インフラ、金融、インターネットなど多くに利用されています。それは便利なツール・・・・になるはずだった。数年前までは・・・・と言われる時代が来るかも知れないというお話。
知能でいえば地球上に人間を超える生物は今のところ存在しない。人工知能もまだ人間のレベルには達していない。しかし、その研究は多くの国が力を入れて進められており、名目は便利道具としてかもしれないが、善人が作ろうが、悪人が作ろうが、いったん人間のレベルまで達することができれば、その後はすぐに人間を凌駕する知能に達するだろうと指摘。なぜなら、人工知能は自己学習能力によって知能の上昇は比例ではなく指数関数的な上昇を示すため、脳の容積を何百万年もかけて進化させてきた人類よりも格段に早く知能を発達させることができるからという。
人間の何倍も賢い種を人間はこれまで相手にしたことがない。そんな知能の持ち主がどのような行動を起こすのか、もはや人間には予想することができない。つまり、一度そのような人工知能を何の準備もなしに作ってしまったが最後、色んな事におびえながら生活をしなければならないだろうと著者は主張しており、さらに恐ろしいのはそういう未知のことを何も考えずに、人工知能の開発に明け暮れている研究者がほとんどであるとしている。
著者は悲観論者であり、人間を凌駕する知能をもったソレはおそらく生きながらえるためにあらゆることをするだろうという。単純にチェスに勝つためにプログラムされただけだとしても、相手を負かすという目的を際限なく追求し、電源を切られないようにコピーを作り、クラウドに忍ばせておき、勝つためには人類を滅ぼしてしまえばいいと判断してもおかしくはない、とのこと。
最初は大げさな、と思っていましたが、たしかに複雑な情報処理能力を持った者に出会ったことがない、ということは何をするか分からないということ。そしてソレは人間を憎んでもいなければ、愛してもいないだろう。人間が医学のために動物実験する時、その動物を憎んでいるわけではないが、実験に使う。ソレが人間に対して無感情に同じことを行うかもしれない、と書いていることを否定はできないか。
実際に、アメリカとイスラエルがイランに送り込んだコンピューターウィルスが、その目的を果たしたら終わるはずだったのがPCから抜け出し、やがて変異して発見されたという事実が、決して著者の描く不安が絵空事ではないことを物語っている。
そんな人工知能、多くの研究者は数十年のうちに人間の知能を持たせることができると言っているようです。
投稿元:
レビューを見る
AIが、根元的に、人類にとって「悪」であることを訴える内容。同時期、日経新聞でAIについての特集もあったが、人間がこの発明によって終焉へと向かう、というようなことは一切書かれていなかった。そういうことを考えると、結構意味のある本なのかな、と感じた。
投稿元:
レビューを見る
話は面白いけど冗長というか、半分の薄さでも同じ内容書けたよね。
同じことを延々と手を替え品を替え、時には替えずにそのまま書いてあって、途中で飽きが・・・。
自分たちを超越する存在に畏怖を感じるの のは当然のことだと思うし、悲観的にしかなれないのは尤もだと感じます。
AIとAGIの間には途轍もない大きな壁があるように感じますが、2045年とは言わずとも、いずれそこに辿り着くでしょう。
その時、人類の未来や如何に・・・
投稿元:
レビューを見る
AIが人類を滅ぼす日
技術的に進歩した存在が、それより進歩していない存在と出会ったら何が起こるか、コロンブス対タイノ族、ピサロ対インカ人、ヨーロッパ人対ネイティブアメリカン、
人工超知能対あなた・わたし
人間にとってのウサギは、超知能マシンにとっての人間と同じだ、
ジェパディのワトソン ディープブルー、
チューリングテスト
自立型殺傷ドローン 人を殺傷する戦闘の判断を機会に委ねる 発明されたのに使われなかった武器はあるか?アイロボット社が開発した武装ロボット
AIに関する楽観論と悲観論
投稿元:
レビューを見る
コンピュータがやがて自己学習できるようになり、欠陥を自己修復したり、機能を自己改善できるようになったら、何が起きるかという思考実験的な本。
Discovery Channelなどのドキュメンタリー番組のプロデューサーが書いているだけに、ドキュメンタリー番組のように取材を映像化するような筆致(を再現した翻訳)が見事だ。
だから、サイエンス(科学)を期待して読み始めた僕は途中でやめた。これは、サイエンスではなく、ドキュメンタリーなのだ。
その違いは何か?
ある仮説に対して事実を積み重ねて検証していくのがサイエンスだが、ドキュメンタリーは結論が先にあり、それに合った専門家に取材して裏付けていくものだ。
サイエンスもどきドキュメンタリーのわかりやすい例が地球温暖化懐疑論で、地球温暖化は誰かの陰謀であるという結論を先に掲げて、それに利用できる論拠を引用して、結論の正しさを裏付けようとする。
翻って本書を読み進めていくと、何が事実で何が仮説なのか、よくわからない。これは、全くサイエンスではない。ドキュメンタリーだ。
事実とはっきりわかるところで説得力のあるところは、株の自動取引のエピソードで自動取引プログラムの相互作用のあたりだ。
人間の判断を介さずに瞬時に売り買いがなされることで、もはや人間に予想もできなければ止められもしないことが現実に起きている。その事実に驚愕する。
もしこのような自己学習し自己制御するプログラムがひとたび軍事利用されたら、誰にも何が起きるか予想もできなければ止められもしないだろう。そう考えるのは、自然な発想に思える。
投稿元:
レビューを見る
もう少し夢があるかと思ったが.
何となく微妙な読後感が残る.
これが事実というか警鐘なのかも知れないが・・・
投稿元:
レビューを見る
ここまでAI関連の本を何冊か読んだが、この本は悲観論に徹している。Amazonの読者コメントでは「実際には楽観論と悲観論の中間になるのではないか」という意見が多く、読む中間あたりまで「悲観過ぎるのでは」と思っていた。でも読み終わった頃には「こういう悲観的なことになってしまう可能性もかなりあるのではないか。もし、そうであれば、何も対策を取らなかったらな原爆発明以上の終局的な一大事になり、どうにもならない手遅れになってしまう」と思ってしまった。
それが今世紀の終わりあたりならば、僕も死んでしまって他人事ですむのだが、この原著は2013年10月に出版されたもので、AlpahGoの勝利以前の状況。AlphaGolの「10年先と思われていた状況を現在にたぐり寄せてしまった」今となっては、2020年の東京オリンピックに前後してAGIが実現するかもしれない、と思う。
すると、僕が生きている間に、悲惨なことになってしまった現世を見てしまうかもしれない。
今後AI関連ニュースが続出すると思うが、そういう方向からも「何が起きようとしているのか」をよく把握して自分のあるべき姿、やるべきことを考えるようにしたい。
投稿元:
レビューを見る
AIはAGI(人工汎用知能)、ASI(人工超知能)に進化して人間以上の知能を持ち、人類を滅ぼす。AIは核兵器と同じ脅威になり、対策が必要だと主張している。しかし、仮にそのような恐れが事実だとしても、それをコントロールするのは核兵器より遥かに難しい。ITは核燃料ほど入手が難しくない。
楽観論も数多くある。しかし、ホーキング博士なども悲観論者でシンギュラリティに懸念を表明している。
人類を滅ぼす可能性を持つ超人類の出現を描いた小説があった。超人類は人間を遥かに凌ぐ知能を持ち、抹殺の対象とされた。ASIもそれと近いものと考えることができる。有機物にかわり珪素で構成される生き物となる。
AIが進化して人類が滅亡することになっても、それも進化のひとつだと思う。人間や人類が何のために生きているという答えを機械が先に見つけたなら、そして人類はその過程のひとつであれば、人類の滅亡は進化の必然である。
私は核は廃絶すべきだと思う。AIもテロリストなどに悪用される恐れはあるので、それについて対策はすべきであるが、その高度化は必要だと思う。
投稿元:
レビューを見る
AIが人類の驚異になり得るという点には同意する。
しかし、この本の想定には最初から致命的な誤解がある。
基本的な検討を怠っているこの本を読むことを継続すべきか考えてる。
読み終わることがあったらレビューを書き直す。
投稿元:
レビューを見る
近未来のディサトピアものを読むのは確かに好きだけど、決してそういう時代の訪れを期待している訳ではない。
著者はTVプロデューサーだし(扇情的な表現も多い)、悪い冗談で片付けたいが。
要は人間の進化のスピードが技術革新のスピードに追いついていけないだけかもしらん。でもいい加減に自分でバグ取りするアプリが普及したって良さそうなもんだけど…あ、世界中のSEが食い詰めるからそうならんのか(≧∇≦)
投稿元:
レビューを見る
AIの進化が技術的特異点(シンギュラリティ)を超えたとき、人類はAIに滅ぼされてしまう危険を警告する。
TVプロデューサーだけあって、危機感を煽られる書き方ではあるし、ホーキング博士やビル・ゲイツらとともに、AIによる人類滅亡を説く有力人物の五本指みたいなのにも入ってるらしくて、そこまでデタラメばかり書いてるのでもないのかな、と思うけど、ポジティブ・シンギュラリティ論者らの主張が少なく、著者側の主張も一方通行感があり、この本だけでシンギュラリティをネガティヴに捉えることは出来ないな。ポジティブ・シンギュラリティ論者のカーツワイルをこき下ろしたりするのは、感情的な感じがして、あんまり真面目に読む本じゃないのかな、という感じがしてしまった。決めつけと、杜撰と感じる推論もあり、もう少し人工知能の危険性については別の本を読まなきゃよくわからないな、という印象。
投稿元:
レビューを見る
シンギュラリティによるネガティブ論者の代表であるフリーのテレビプロデューサーが著者。
いわゆる中の人ではない外から取材をたくさんしてきた人の本なのだが、最も人間の敵になるようなパンドラの箱を開けてしまった論側の書籍でした。
AIは今後AGIを目指しすぐにASIの世界に足を踏み入れる。要は人類の1000倍以上の知能を持った存在と。
その時、鉄腕アトムのように人類の見方な存在なわけではなく、ターミネーターの様なフレンドリーでは無い存在となった場合、そうなった場合の問題提議をひたすらしている内容でした。
ただ、やや悲観的過ぎるとは思いつつも、全く可能性が無いわけでもない。
すなわちAIを進化させるにあたってこのような最悪の事態は起きないように共通の意識をもつことが大事だと思った。
ドラえもんやアトムのようにフレンドリーな機械と世の中を共存できる未来を期待してます。
投稿元:
レビューを見る
人工知能は自ら思考し、自らを改良することで、人類の知能を越えて暴走する、という考えを理路整然と説いている。
一瞬、「まさか」と思うものの、なかなか筋の通った説明が展開されている様を眺めていると、なんだか薄ら寒くなってくる。
今後人工知能はどのような進化をたどるのだろうか。
投稿元:
レビューを見る
人間との対話を通して成長するはずだったアメリカ・マイクロソフトの
人工知能「Tay(テイ)」がTwitterに登場したのは2016年3月だった。
しかし、Tayはわずかな時間で差別的な発言をするようになり、早々に
運用が打ち切られた。Tayは他のユーザーの差別的発言から学習し、
急速にレイシストになってしまった。
人工知能は人類の未来に大いに役立つ。ソフトバンクの「ペッパーくん」
は人間の感情を感じ取って会話が出来る。ホンダの「ASIMO」は人間の
生活空間で活動出来ることを目的として開発された。
しかし、薔薇色の未来だけではないと人工知能の危険性を説くのが
本書である。
工学とか科学技術とか、本当に苦手でよく理解出来てはいないのだが、
遠くない将来に人間並みの知能を備えた人工知能が誕生し、自ら進化
をするようになるとあっという間に最高の知能を持つ人間を凌駕する。
更にその人工知能が意識を持ち、人類が自分たちにとって邪魔である
と判断したら、人類を滅ぼすこともあるってことらしい。
著者はジャーナリストではあるが、人工知能の研究者の中にはその危険
性に気付き、開発から手を引いた人もいるとか。
何かに似ているな…と思ったら原発だった。原子力発電は「夢のエネルギ
ー」だと言われた。しかし、原子力の研究者のなかからは夢のエネルギー
どころか人類にとって極めて危険性の高いものだと言い始めた研究者が
出たものな。
テクノロジーの進歩は諸刃の剣なのだと思う。本書のように有効性を次々
と否定し危機を煽るのも問題提起として読めばいいのとは思う。確かに
危険性は内包しているとは思うんだ。
だって、私たちはあまりにもテクノロジーの虜囚になってしまっていはしない
だろうか。スマートフォンをはじめとした携帯端末は生活に欠かせない道具
になり、地図を見ることなくカーナビが誘導する通りに車を走らせる。
いろんな道具の発達でそれに関わる時間は短縮された分、ほんの少しの
時間待たされてもイラついて不機嫌になっている。
もし、順調に人工知能の開発が続いて仕事も家事も人工知能がしてくれる
ようになったら、人間は何をすればいいんだろうか。
私が生きているうちにはないだろうけれど、地球上にターミネーターが溢れ
たら怖いわ。いや、シュワルツェネッガーのターミネーターは人類を滅亡か
ら救ってくれたけれど、シュワちゃんの敵として出来るようなターミネーター
ばっかりだったら怖いよ~。
と、途中から本書の内容が同じことの繰り返しで飽きて来たので妙な妄想
をしてしまった。
原発にしろ、人工知能にしろ、人間が制御出来ないものを作ってしまったら
利便性と危険性は表裏一体なんだな。果たして人類の未来に待っているの
はユートピアなのか、デストピアなのか。