紙の本
人工知能の功罪を考えるとき、まず読むべき1冊
2019/08/31 21:12
0人中、0人の方がこのレビューが役に立ったと投票しています。
投稿者:YK - この投稿者のレビュー一覧を見る
NHKスペシャル「人工知能 天使か悪魔か2017」の取材班による番組取材を通じて番組では紹介できなかった事実などをまとめた本。
人工知能の技術的な解説ではなく、番組放送時点でAIがどのような分野に応用されつつあるのかを紹介し、それによって人間がどのような影響を受けるかを紹介しています。
お客さんの需要予測に利用するタクシー業界、株取引や資金運用に利用する金融業界、この辺までは「便利になるかも」という印象。
アメリカの裁判所が刑務所から保釈する被告人を選び出す際の判定に利用、AIによる面接項目処理で退職リスクの高低を判別して人事に利用、世論調査やニュースなど各種データを処理して政策決定に活かすAI政治家(開発中だが実用を目指している)、このあたりに来ると「えっ?そこまでAIに判定されるの?」という違和感を感じます。
人間が判断しない方がミスもなく、合理的というのが肯定的にとらえている人達の意見。一方でAIの導入に警鐘を鳴らしている人達は、AIを学習させるデータ自体に偏りがあると、偏見を助長したり固定化する危険性や(アメリカの裁判所の例では黒人への再犯リスクを高く評価してしまうなど)、そもそも司法で「正義とコストを天秤にかけるべきではない」と主張しています。また人間の判断とAIの判断が異なる時、どう対応するかという点も非常に重要です。
もっと先の将来、コストと合理化の下に裁判官もAI、政策決定もAI、官僚もAIなどということになったら、三権分立はどう担保するのか、などという議論も出てくるかもしれません。
一方的に「AI=悪」あるいは「AI=万能」と決めつけるのではなく、問題を提起するスタンスで書かれている点が非常に良かったと思います。本書の出版から約2年。最前線はもっと進んでいるはず。本書の続編が出るなら、是非読みたいです。
投稿元:
レビューを見る
ディープラーニングは過去人間が思いつかなかった最適解を導き出してくれる。今まで人間が考えられなかったものを生み出したということかもしれない。
人工知能が判断の基にする教師データに人種差別的な偏向が紛れ込んでいる。
投稿元:
レビューを見る
本著は人工知能が導く結果が最適解か改めて問い直している。必ずしもそうではないと誰もが予想できる。
ところが、人間の判断は最適解を導き出せるのかというとどうだろうか。政治を例に挙げれば、一様にそうとは限らないと答えるはずだ。
内容があるのかどうか分からない経済政策、本当に必要とされている人のところに分配されているの分からない社会保障、地方政治ではイジメの問題を文科省に指摘されないと対処できない教育問題といい例を挙げれば枚挙にいとまがない。
そういう意味でAIに期待しない人は私だけではないと思う。
投稿元:
レビューを見る
本の出版は、2017-10 。このタイミングで起きている人工知能の研究、というより、実際に使われている状況を取材してまとめている。
将棋、タクシー、株、犯罪再犯対策、裁判、運転技術の向上、人材派遣における離職対策、政治家、汎用人工知能への取り組みなど。
ソノマの裁判所では、2009年から使われてたり…フロリダでも2010年に再犯リスクをだしていたが、この頃のリスク算定は、ブラックボックスという批判にあっていたそうな。なるほど、2015,6年にブレークしたIBM Watsonの売り文句に、なぜその判断をしたのかが提示されるというものがあったが、こういう批判に耐えられるようにしていたのか。
人工知能が現場で使われることが顕在化したのが、2015年中頃からという指摘もあったが、個人的にも、これまで人が判断していた処理を機械にやらせることが、この辺りから日本で数多く出てきたと思う。
この本を読む前に、中野信子氏の『サイコパス』を読んでいたので、アメリカの再犯の疑いをかけられた人が、「書類に書かれていることと、実際の自分は違う」と主張して、保釈を勝ち取った経験があったという件に、サイコパスってプレゼンが上手くて人を騙せるんだよな… と、ちとうがった見方をしてしまった。NHK取材班には、数年後に彼を追いかけて欲しい。
面白かったワーディングとしては、ベン・ゲーツェル博士の「弱い人工知能」と「強い人工知能」、将棋に勝ったり自動運転などを弱い人工知能、汎用人工知能を強い人工知能いう位置付けで使ってた。そして、このベン・ゲーツェル博士と、彼が作ったソフィアが一緒写った写真も印象的。「人類を破滅させる」って言ったのソフィアでしょ…
博士とソフィアのツーショットは、不気味の谷ど真ん中って感じ、歴史に残る写真と思う…
本の全体は、人工知能は人をサポートするテクノロジーという仕立てになっているし、読みやすかった。五年のくらいに読むと、どれだけ世の中が進歩したのか分かるんじゃないかな。
投稿元:
レビューを見る
今や新聞やテレビ、ネットニュースで見ない日はないほど、人口に膾炙した人工知能(AI)。
その最前線を追ったノンフィクションです。
先日の道新「本」欄で、最上葉月さんが紹介していたので、慌てて図書館に注文しました。
別に慌てる必要はないのだけれど。
どこに乗車したい人がいるか、過去の膨大なデータから的確に予測する「AIタクシー」。
退職しそうな人は誰かを面談シートの文章から順位付けして炙り出す「AI面談」。
1000分の1秒単位の値動きから法則性を見つけ、5分後の株価を予測する「AIトレーダー」。
これらは全て、我が国で既に導入されている事例です。
私は、韓国で計画されている「AI政治家」に特に興味を持ちました。
我が国もそうですが、政治の世界ではしばしば特定の層への利益誘導や便宜供与が見られます。
昨年は、「忖度」という言葉が流行語になりました。
その点、AIには「しがらみ」というものが一切ありません。
しかも、政策に必要なデータを瞬時に分析し(世論調査まで一瞬で行うそう)、本書のタイトルにもなっている「最適解」を弾き出します。
「最適な形で予算を配分し、効果的な政策を実現することができるのです。人工知能を使えば、国会議員が一年かかる仕事をわずか一日で達成できていしまいます」
韓国で人工知能プロジェクトを進める大学教授は、こう語ります。
もろ手を挙げて「賛成!」と叫びたくなりましたが、ふと思い止まりました。
血も涙もないAIがデータだけで判断したとしたら、非効率な地方から真っ先に切り捨てられるのではないかと不安に思ったからです。
全米で使われている「再犯予測システム」の事例は、背筋が寒くなりました。
容疑者の過去の犯罪歴、仕事や収入、教育歴、年齢、性別、育った環境といった項目を入力すると、再び犯すかもしれない罪の内容とその可能性を示すものです。
既に裁判でも使われていますが、ある調査報道機関によると、容疑者が白人か黒人かによって予測が異なることが分かったそうです。
簡単に言うと、黒人の方が白人より厳しく判定されたのですが、実際に検証してみると、そんな事実はないどころか真逆の結果さえ出たそうです。
AIに人生を左右されるとしたら、これほど恐ろしいことはありません。
ただし、闇雲に恐れる必要はないですし、恐れたところでAIが私たちの社会に浸透していくのは止められません。
大切なのは、AIの強みも怖さも正しく理解したうえで、使いこなしていくことでしょう。
AIの強みと言えば、人工知能に2度完敗した将棋の佐藤天彦名人の発言が示唆に富み、とても印象に残りました。
最後に、その言葉を紹介してレビューを終えたいと思います。
読んでくれてありがとう。
「対局中、自分の眠っていた能力が目覚めるのを感じ、とても楽しかった。将棋にはまだまだ自分の知らない宇宙が広がっていることを知った」
投稿元:
レビューを見る
NHKスペシャルで2017年に放送された「人工知能 天使か悪魔か」で放送された内容や放送では深く語れなかった取材時のエピソードや背景などが紹介されている。
将棋の佐藤名人とAIが将棋勝負が話の中心になっており、文字からも勝負の臨場感が伝わってきた。
実はこの放送は見ていなかったが、見ていなかったことを後悔してしまうくらい面白かった。
投稿元:
レビューを見る
本文と直接関係ないが、最近センスとは「特徴量を捉える力」だと定義できるのではと思い始めた。
名人が機械との対局中でも「なんでこの手を打ってきたんだ?」と考えてるのがまさにそれかと。解を出すための試行回数はもはや勝てる訳がなく、なんでそうなるのか?その言葉の定義は何か?って子供みたいな探求心を忘れずにいたいと思った本。
投稿元:
レビューを見る
人工知能の進化のひとつの姿として「AI政治家」が示されていた。瞬時に世論を集約して最適な政策を実行するというが、ここでの「最適」とは何か?最適というからには、何らかの基準があるのだろう。それは最大多数なのか、それとも別の価値基準に基づく最適なのか?その基軸は誰が定めるのか?それも人工知能が自己学習するのか・・・。やはり、人工知能が支配する世界は、“不条理”で“不気味”な世界に違いないだろう。
投稿元:
レビューを見る
「A.I」と言えば、
「アントニオ猪木」の頭文字でしょくらいに思っていた。
人工知能について、
僕のようなアナログ人間でも
ざっくり読めるような本だった。
出版が2017年なのだが、
それでも僕には新しすぎる話がいっぱいだ。
プロの将棋棋士と人工知能の対戦を軸に、
これからも進化を続ける人工知能との共存、
人間の存在価値について考えさせられる作品だった。
投稿元:
レビューを見る
人工知能の急激な進化によって、失業などの直接の悪影響を受ける人がいる一方で、今以上に便利さや豊かさを享受できつつあることも事実で、私個人は期待値の方が不安を上回る。しかし、人工知能があまりに優秀で、人工知能が仕事でもなんでも人にやらせるより早いしうまいし安心だということになってしまったら、人間の生きがいや存在意義はどうなってしまうのだろうというところにはとても引っかかる。
この本では実際に業務に人工知能を取り入れている企業の話が出てきておもしろい。多くはまだおっかなびっくりレベルなので、完全に人工知能だけに頼るのではなく、最終的に人間がチェックする、人間のカンや経験値と併用させる、計算は人工知能に任せ顧客とのコミュニケーションは人間がする等の分業制、などの段階のようだ。
その中でもこの本の最初と最後に登場する、将棋における人間と人工知能の対決の話は一番興味深い。普通の人が直接人工知能と対峙する場面は滅多にないかもしれない。職や居場所を奪われることはあっても、戦って破れる人はそういない。人が人工知能に敗れた時、何を思ったのか。
一度目の敗戦では、人間では思い付かない手を打って勝利する人工知能に、まだ将棋の世界に無限の宇宙が広がっていることを感じたと言う。また、二度目の敗戦では、人工知能と人間の軸の違い、人間が将棋を打つ価値について、あらためて考える機会となった。佐藤名人本人が言うように、この対決は未来を生きる人全てにとっても、貴重な経験だと思う。負けて相当なショックがあったろうにもかかわらず、清々しいコメントで感動した。
結局、何のために仕事をするのか、何のために生きるのか、毎日何を思って過ごすのかを、自問自答していくしかないのではないかと思う。
投稿元:
レビューを見る
〇退職者の面談シートをテキストマイニングし、分析。退職につながりそうな社員をリストアップし、ケアする。
投稿元:
レビューを見る
NHKスペシャル「人工知能 天使か悪魔か2017」の取材班による番組取材を通じて番組では紹介できなかった事実などをまとめた本。
人工知能の技術的な解説ではなく、番組放送時点でAIがどのような分野に応用されつつあるのかを紹介し、それによって人間がどのような影響を受けるかを紹介しています。
お客さんの需要予測に利用するタクシー業界、株取引や資金運用に利用する金融業界、この辺までは「便利になるかも」という印象。
アメリカの裁判所が刑務所から保釈する被告人を選び出す際の判定に利用、AIによる面接項目処理で退職リスクの高低を判別して人事に利用、世論調査やニュースなど各種データを処理して政策決定に活かすAI政治家(開発中だが実用を目指している)、このあたりに来ると「えっ?そこまでAIに判定されるの?」という違和感を感じます。
人間が判断しない方がミスもなく、合理的というのが肯定的にとらえている人達の意見。一方でAIの導入に警鐘を鳴らしている人達は、AIを学習させるデータ自体に偏りがあると、偏見を助長したり固定化する危険性や(アメリカの裁判所の例では黒人への再犯リスクを高く評価してしまうなど)、そもそも司法で「正義とコストを天秤にかけるべきではない」と主張しています。また人間の判断とAIの判断が異なる時、どう対応するかという点も非常に重要です。
もっと先の将来、コストと合理化の下に裁判官もAI、政策決定もAI、官僚もAIなどということになったら、三権分立はどう担保するのか、などという議論も出てくるかもしれません。
一方的に「AI=悪」あるいは「AI=万能」と決めつけるのではなく、問題を提起するスタンスで書かれている点が非常に良かったと思います。本書の出版から約2年。最前線はもっと進んでいるはず。本書の続編が出るなら、是非読みたいです。
投稿元:
レビューを見る
これから人工知能が実社会で活用されていくことになるが、はっきりしているのは人工知能を使いこなす人と使われる人とで格差が大きく広がるということだ。
投稿元:
レビューを見る
人工知能がはじき出す「最適解」は、一体、誰にとって「最適」なのか?
人工知能を活用できる立場にある、社会や組織の「強者」?
AIが日本や海外において実社会に浸透したことが実感され始めたのが2017年だと本書は言う。証券取引、再犯や退職リスクの判定から政治まで。さまざまな分野の事例と当事者へのインタビューから、AIの「最適解」に否応なしに巻き込まれていく社会の姿が見えてくる。
おそらく、受け身になってしまうことが最も危険なのだろう。判断を人任せ(いずれはAI任せになるのか?)にしていては、強者の最適解の餌食になる一方だ。なぜそう判断するのかを問う必要のない場面以外は、常に責任の所在を問いただす態度で臨まなくてはならない。
とはいえ、人間はナマケモノだから、きっと考えることをさぼって楽をしてしまう。私もきっとサボる。そのことを含みおきながら、どこまでならAIの浸透を認められるのか、できるだけ裾野の広い合意形成をしていかなければならない。
投稿元:
レビューを見る
「最適解」は人間の幸福の解として最適なのか。
最適な「幸福」とは?
そもそも「幸福」の定義は?
幸福かどうか。感じるのは一瞬で明確なのに、人工的に作り出すことの難しさを考えさせられる一冊だった。