そろそろ、人工知能の真実を話そう みんなのレビュー

投稿元：

レビューを見る

人工知能によるシンギュラリティは訪れるのかと企業などが躍起になって危険性を喧伝する動機について迫った書物。人工知能とは何かや人工知能を考察する上で必要な文化的知識を得るにはお勧め。

本文の考察は難しいが、訳者のあとがきが大変わかりやすいので、こちらを一読して、読むかを判断されると良いと思う。

投稿元：

レビューを見る

レイ・カーツワイルを筆頭にビル・ジョイやスティーブ・ホーキンスなどが主張するシンギュラリティをその源流となったＳＦなどを振り返るともにその成り立ちを考察、ムーアの法則には斉一性が無い、汎用人工知能は実証的アプローチが無いまま仮像と化しているなど、論理的な批判を展開し、更にはキリスト教・ユダヤ教などの一神教の宗教観にも言及し、現代のグノーシス（現世の否定、二元論）と看破する。世界のトップＩＴ企業がその支配力を強めるための隠れ蓑としてシンギュラリティを利用しているというのが著者の主張です。アングロサクソン（最近腰砕けですがｗ）が主導するグローバル資本主義に否定的なフランス人らしい思想がとても興味深く読めました。日本人的にはシンギュラリティは面白いからネタにするけど誰も本気にしていないと思うのですが、こんな本がわざわざ書かれるという事は、一神教の人たちは本気で心配している人が多いのでしょうか、とても気になります。

投稿元：

レビューを見る

最近読んだ本に、３Dプリンター・AI・ドローン技術等により、人間の仕事が奪われマシーン（非人間）の世の中となる「シンギュラリティ」がやってくる等、不安が高まってきた中、心のどこかにそれを打ち消してくれる本が無いかなと期待していました。

私にとっては、これが待望の一冊目となります。ただし、私がこの本から私が受け取ったメッセージは、以前、誰もが宇宙旅行に行けるようになる、便利な機器に囲まれて仕事をする時間が大幅に減る、と言われてきて現在を迎えているように、機械が人間にとってかわることはなくとも、最近読んだ本にあったように、近未来になくなる仕事（機械に取って代わられる仕事）が増えていくのは事実だと思いました。

これからは私の両親が仕事をしてきた、そして引退後に年金ももらって生活している状況は、そのまま引き継げないのだろうと思います。価値を生み出す仕事はどうあるべきか、自分の問題に置き換えて、自分を見つめなおす良い機会を与えてくれたこの本に感謝しました。

以下は気になったポイントです。

・技術的特異点（シンギュラリティ）とは、ごく自然に日々確実に数を増やす機械によってもたらされる、事態はだんだんと加速して、ある時突然、暴走が起こる。世が変わり、人間が変わる、全くの別ものになることをいう（ｐ１８）

・近年の様々な兆候を見ていると、増加速度は停滞する傾向をみせている、そうなればムーアの法則はまもなく有効性を失うことになる（ｐ２２）

・シンギュラリティが訪れる時期は、異なる原則に基づいて時期を推定する、1993年の時点では2023年であったが、2010になり、さらに30年ほどの猶予を申し出たが、具体的な年を明言を避けた。中世に黙示録の実現が先延ばしされたように（ｐ２６）

・シンギュラリティとは、加速化の到達tンを説明するために数学の分野で用いられた概念であった（ｐ２７）

・地球の壮大な歴史を６つの時代に分類した場合、１）ビックバンに始まり、数億年かけて有機物が作られるまで、２）生命の誕生、DNA、細胞、組織を有する生物の出現、３）高度な脳と知能を有する生物誕生、人類の誕生含む、４）人類が生み出したテクノロジーが驚くべき規模と速度で完成、現代はこの末期、５）人間の生み出したテクノロジーが自立性を持ち、自ら進化する、６）精神性が開花、テクノロジーに基づく知性によって宇宙が満たされる（ｐ３８）

・2016年にインテルは、プロセッサの小型化については開発を抑制すると発表した、この結果、ムーアの法則から外れることとなった（ｐ４６）

・進化はいつも偶発的、複雑化に向けて連続的に進んでいるわけでもない、種の進化と、生物がその発展の過程で潜在能力を徐々に発揮していくことを関連付けようとしても無駄（ｐ５１）

・コンピュータの演算能力と、コンピュータが知能を再現する能力には直接的な関係はない、従って、仮にムーアの法則が通用するとしても（通用しないことは明らかとなったが）、それによりスーパーインテリジェントマシンが誕生すると論ずることはできない（ｐ５３）

・機械学習のアルゴ��ズムは３つのタイプしかない、１）教師あり学習、２）教師なし学習、３）強化学習：機械の一連の行動に対して、一定の報酬や罰を与えて最適な行動を学習させる、この場合、人間が最適な選択を行う基準を設定し、機械はこれを変更できないようになっている（ｐ６４、６６）

・現在の人工知能開発における技術レベルを見る限りは、コンピュータが人間の力を借りずに際限なく進化し続け、ついに暴走し、自律し、我々を支配することは考えられない（ｐ６８）

・未来予測が難しい理由は、複数の要因が絡み合っているためだが、その最も大きな理由は、我々が予測しようとしている自然現象や社会現象が複雑だから（ｐ１０５）

・未来はもう人間を必要としなくなるかもしれないという予言は、時間は根源的には不均質であるという仮定から出発している（ｐ１１２）

・AI技術自体を否定しているのではなく、本来のAI技術が、シンギュラリティという怪しげな神話によって変質してしまうことを批判している（ｐ１７３）

2017年9月3日作成

投稿元：

レビューを見る

著者はシンギュラリティを科学ではなく哲学だと述べるが、著者の主張こそが、哲学的思想とこじつけられているように思える。

投稿元：

レビューを見る

AIによるシンギュラリティ
グノーシス主義が興味深い
言葉ではなく物語が世界を創り出すがたしかに今の世界かもしれない
理性ではなく空想に惹かれる時代

投稿元：

レビューを見る

「自立」と「自律」の違いについて明確にしておこう。自立とは、下層d際離任ソフトウェアであるとこｒのエージェントが自ら動き、誰の力も借りずに意思決定できることを言う。例えば、道順を選択しながら走る自動運転車や、あらかじめ教えられた条件に一致する標的や動くものなら何でも撃つロボット兵器などの類だ。つまり、エージェントの自立とは、技術的な意味であり、情報を取得していから意思決定し実行に移すまでの間に物理的な因果関係があり、しかもそれを人間など外部からの介入なしにできることを指す。一方、自律というのは哲学的な意味であり、しかもそれを人間など外部からの介入なしにできることを指す。自ら規範を作り出すことができることを言う。自律の対義語は他律で、これは自らの意志によらず他者からの命令に従って行動することだ。自律したロボット兵器は、与えられた色や形などの条件に合う標的を探し出して攻撃する、といったことはしない。自ら掲げた目的を果たすのにふさわしい標的を、自ら決定するのである。無人電車やドローンなど、人間は長年にわたり、自ら動く自立した機械をてきた。そして何も問題は起こっていない。それどころか機械学習技術のおかげで、こうした機械の開発がより効率的に行えるようになった。今、世の中で懸念されているのは、自立ではなくて自律の方だが、学習能力を与えられ、自らのプログラムを改善できるようになっても、機械が自律することは考えられない。なぜなら、機械は結局、人間に教えられた理論やルールにのっとって行動することになるからである。それならば、強化学習が、人間と同じく自然界から受ける報酬（生きることや満足感）と罰（死や苦痛）によってのみ行われた場合はどうなるだろう。この時、行動選択の基準はどこからくるのだろうか？個の成熟、種の進化、生物圏の保存など、目的によって最適な基準も異なるように、選択の基準というのは自発的に生まれるものではない。結局、強化学習も教師あり学習も自律性はないのだ。実際、強化学習アルゴリズムを使用する際には、人間が最適な選択を行う基準を設定し、機械はこれを変更できないようになっている。よって、教師あり学習も強化学習も、機械を自律させることはない。つまり、ホーキング、イーロン・マスク、ビル・ゲイツ、スチュワート・ラッセルらが次々と公にした懸念を裏付けるものは何もないのである。確かに、これまでの経験上、機械学習のように短時間で目覚ましい発展を遂げた手法は、何等かの不具合が生じる危険性を孕んでいるものだ。だからといって、我々が機関不能地点に達し、以降は機械に支配されるというころまでは言えないだろう。

投稿元：

レビューを見る

「未来予測」なんだから、ワクワクドキドキしながら追っかければいいんじゃないかとか思う。

あと、７～8ページ目が特にひどくないかなぁ。
ホーキング博士の声明は、どの部分が引用なのか、それとも筆者の要約なのかもわからないし、その後に続く以下に至っては、出典も注釈もない。

『どうやらこの声明文は、その少し前にイギリスで公開された、米英合作の超大作映画「トランセンデンス」に反応したものらしい』（P8）

どうやら～らしい。
果たして真実は、どこにあるのだろう？　そんな一冊。

投稿元：

レビューを見る

・コンピューターは、結局人間が与えたルールの中でしか学習することができないた、自律して動き出すことはない。
・企業がシンギュラリティについて盛んに広告している背景は、以下の理由による。
└今後はITがPublicな一面も担っていくことになる。つまりはインフラ化する。そのため、政府に対して影響力を持つようになってくる。
└そのために、まずは公共的なイメージを世間に与えるため。

投稿元：

レビューを見る

目次は以下のとおり。
・状況は切迫している（らしい）
・シンギュラリティ
・指数関数的な爆発
・コンピュータは自律できるか？
・現代のグノーシス
・来たるべき未来
・シンギュラリティと終末論
・偽りの人類愛

原題のフランス語をグーグル翻訳にかけると、「特異性の神話 人工知能を恐れるべきか？」なので、邦題とはおもむきが異なるイメージ。

読んでみると、この本には、マシンラーニングやディープラーニングなどの技術的、学術的、事例の類は書かれていないので、邦題からのイメージだけで買った人はなんじゃこりゃ？と思うかもしれない。

本の流れとしては、シンギュラリティブームの火付け役のレイカーツァイルが言ってることって信用に足るものなのか？という点を論破していきながら、このブームに乗ってる米国企業は、悲観論を前面に出しつつ、自分達は悪くないという防御線をはり、更に、国が持つ特権を密かに侵害しとるという警告の書。

これまでいくつかの人工知能本を読んでいたので、この本の仕立てについて、自分は好意的な印象。

著者が哲学者って言うのもいいし、フランス人って言うのも良い。個人的には、フランスって過去の人工知能ブームで先導していたイメージがあるので、その国からこういう警鐘が出つつも、自国ではいろいろやってるんだろうなぁと思わせる感じは好き。

「トーマス・クーンが「パラダイムシフト」と称した既成概念の変化は、既存の概念が確立されるよりも、はるかにゆっくりと偶発的に進むものである。ひるがえって、今日の機械学習の手法は、既知のデータから経験的法則を求めることは得意だが、新たな概念を創造するまでには至っていない。教師なし学習では、期待されるものの、新たな概念を創造創造するどころか、概念装置すら想像できていないのが現状。」

ジョン・サールが、1980年代に「中国語の部屋」論文の前書きで、強い人工知能と弱い人工知能という言葉を作ったのは知らなかった。 この強い人工知能、弱い人工知能というのも、弱いイコール専門機能、強いイコール汎用機能という整理になって、今でも使われたりするので、認識の整理という点では、使い勝手が良さそう。

グノーシス主義との関連性については、ちと難しかった。

シンギュラリティと終末論の章では、「円環としての時間」と「無限の直線」という、人類のもつ概念から、特に一神教がもつ終末論的発想からシンギュラリティが導き出されていると論じ、更に、これはヒューマニズムの名の下に進歩を限りなく続けていこうという理想を持つ啓蒙主義とも違うと。

この本を翻訳したチームは凄い。だって、この一般受けしなさそうな骨のある本を翻訳してくれたんだもの。日本語で読める事に感謝。そして、後書きには、東大名誉教授の西垣通先生の気合の入った論説。

この本は、かみごたえがあり、前提のいくつかの本を読んでおくとより楽しめるのではないかと思う。自分は、レイ・カーツァイルの『シンギュラリティはちかい』はもちろんのこと、佐藤優氏の『牙をとげ』の第2章あたりを読��でいたので、この本が楽しく読めました。

じっくり読んで考えて楽しむという本。

投稿元：

レビューを見る

AI技術そのものではなく、「シンギュラリティ」という言葉の構造が露わにされている本です。
著者は哲学者でありながらCS教授としてフランスの人工知能研究チームのトップを務めている人のようで、表紙の雰囲気の割にはポピュラーサイエンス本のような内容では無く、哲学の知識を幾分か持ち合わせていないと難しい内容かもしれません。

投稿元：

レビューを見る

【由来】
・

【期待したもの】
・
※「それは何か」を意識する、つまり、とりあえずの速読用か、テーマに関連していて、何を掴みたいのか、などを明確にする習慣を身につける訓練。

【要約】
・

【ノート】
・途中（P79）までで時間切れだが、何か、否定しているロジックがダメダメな気がする。自分のことを頭がいいと信じてて、その自分が言ってるからダメなのは明らかだろ、という感じがする。が、それは自分の読み込みが浅いからかも知れないので、もう少し丁寧に読んでみないと。

【目次】

投稿元：

レビューを見る

１．この本を一言で表すと？
・シンギュラリティという概念を否定した本
２．よかった点を 3〜5 つ
・シンギュラリティがムーアの法則に依存しているのは確かにおかしいと感じる (p20)
２．参考にならなかった所（つっこみ所）
・現在の技術レベルが低いことを理由に、自律するコンピュータが起こりえないとするのは論理に無理がある(p68)
・第五章 現代のグノーシス は主張がよくわからない。シンギュラリティとグノーシスが似ているから…どうなの？
・第八章 ネット企業のシンギュラリティに対する姿勢を批判しても、シンギュラリティは起こらないとは言えない
し、シンギュラリティそのものを否定することには論理的につながらないのではないか？
4．全体の感想・その他
・シンギュラリティを否定するのには全体的に根拠が弱い。
・技術的な側面については、あまり得るものはない。

投稿元：

レビューを見る

シンギュラリティとは神話であり、説得性に欠ける代物。

GAFAMにより喧伝されているが、裏には巨大IT企業の陰謀を見ざるを得ない、との主張。

技術論より主に哲学の視点から述べており、邦題はミスリーディングかもしれない。