あなたを支配し、社会を破壊する、ＡＩ・ビッグデータの罠

投稿元：

レビューを見る

＜目次＞
はじめに　AI・ビッグデータは破壊兵器になる
第１章　　＜モデル＞良いモデル、悪いモデル
第２章　　＜内幕＞データビジネスの恐るべき真実
第３章　　＜教育＞大学ランキング評価が多様性を奪う
第４章　　＜宣伝＞弱みにつけこむオンライン広告
第５章　　＜正義＞「公平」が「効率」の犠牲になる
第６章　　＜就職＞ふさわしい求職者でも落とされる
第７章　　＜仕事＞職場を支配する最悪のプログラム
第８章　　＜信用＞どこまでもついて回る格付け評価
第９章　　＜身体＞行動や健康のデータも利用される
第10章　　＜政治＞民主主義の土台を壊す
おわりに　人間だけが未来を創造できる

＜内容＞
もともと数学者で、ヘッジファッドで金融工学の専門家として働き、データサイエンティストとして独立、e-コマースのスタートアップ事業に参加し、AI・ビッグ―出データの恐ろしさを伝えるべく執筆活動をしている著者の本。彼女に言わせると、AI・ビッグデータの元であるアルゴリズム（コンピュータを動かす数式）の前提が間違っている上に、企業がその内容を秘密にしているため、アルゴリズムの欠点に気づいても、否定できないし、訂正もできない。この本では、「教育」から「政治」までもうあらゆる分野に入り込んでいるAI・ビッグデータの弊害を実例を多々挙げて紹介している。アメリカの話が主なので、日本は大丈夫と思うかもしれないが、GoogleもAmazonもFacebookも世界企業なので、日本も手遅れと考えていい。パソコンで何かを調べると、もうすぐにそこの業界のCMが画面に出てくる状況なのだから…。
解決策は、アルゴリズムの訂正しかないらしい。AI・ビッグデータとも、使い方によっては人類に幸福をもたらす可能性があるが、現在ではそれを悪用している企業に「降伏」するしかないのかもしれない。特に「政治」の世界に悪用されると、人類は破滅？　　

投稿元：

レビューを見る

AI・ビッグデータは人類を幸せにすべきものですが、数学破壊兵器となって多くの犠牲者を生み出す恐れがあるとしてその数学破壊兵器を例を挙げて検証する。
多くの実例で説明されていますが、前提となるデータが不適切、本人の資質とは関係なく特定のグループに分類される、偶然の作用がデータ化される、プライベートな問題を暴きだされるの四つに大別されます。
最後に上げた件は、米国では採用に当たって健康診断をすることは禁止されていて、そこを適性検査と称する質問で暴き出すのが問題とされています。零細企業の経営者としては、入社して研修等のコストを掛けてから売り上げにならないまま退職されると大きな痛手なので、そこはむしろやりたいところですが。。。

投稿元：

レビューを見る

ＡＩやビッグデータを全否定するのではなく、あくまでもツールの一つとして利用せよという意味。

内容は米国についてだが、いずれ日本でも起こり得ることばかりで興味深く読めた。

投稿元：

レビューを見る

原題「weapon of math destruction (数学破壊兵器)」

著者は基礎数学分野の教授を経て金融民間企業でクォンツ　として従事し，リーマンショックの体験から結局独立(？)データサイエンスの負の部分を警告するブログの運営しているという．

今日ますます進歩いくと思われるデータサイエンスは
不透明かつ大規模に運用されるとディストピアをもたらすだろうという警告．以下のような恐ろしいことが既に起こっているという．

教育：2次的データを用いた大学ランキングはいい加減である．
宣伝：貧困層を食い物にするターゲット広告は貧富の差を増長する
正義：公平性より効率性を重視する法の執行は貧困層にきついが富裕層の知能犯には甘い傾向がある
就職：個人ではなく集団を管理する不透明な適性検査による犠牲になる人は文句をいう相手もいない（機械には文句をいってもしょうがない）
仕事：利潤だけを追求した無茶な労働スケジューリングは人をモノあつかいしている
信用：クレジット情報と不透明なｅスコアの格付けが濫用されている
身体：個人の健康情報が今後おかしな使われ方をするかも．みんなで不幸な一人を救うという保険のありかたも本質的に変わってしまう
政治：中立と思われているインターネット・SNSも操作されている

一読の価値あり．

投稿元：

レビューを見る

「数学破壊兵器」
　ブラックボックス、中身は複雑
　高い代金を生み出す設計

FB
　15億人のユーザー
　アメリカ成人の2/3が登録
　一日あたり平均39分の閲覧、対面でのつながりは43分
　友達の行動で自分の行動が変化　
　

投稿元：

レビューを見る

昨今のAI至上主義、効率至上主義に一石を投じる良書です。AIやその使い手を鵜呑みにしてはだめだとつくづく思いました。

投稿元：

レビューを見る

AI/ビッグデータを誤って活用することによるリスクを示し、警鐘を鳴らす本。
知見として参考になりそう。

投稿元：

レビューを見る

ビッグデータを使う上での落とし穴（数学的破壊兵器）を弱者の視点から論じている。公平が効率の犠牲になるのをいかに防ぐか？
効率を考えれば　犯罪が多い貧困地区で職質を多くすれば良いというデータは簡単にできるが、相関や因果があるからといって、個の権利、尊厳を踏みにじって良いわけではない。類は友を呼ぶは事実だが、だからといって貧困地区にいる黒人だから職質を受けるのを我慢するというのはおかしい。アニメのサイコパスで犯罪係数が大きい人が拘束される世界を是とするのか？確率（一般解）と個別の話は分けて考えなければいけない事象にビッグデータが侵犯してきている。　という話。

目的を効率化に置いたときが危ないことを心すること。
正しい入力変数がいれられないシステムは特にあやしい。
良い教師に対する評点はテストで生徒の点数を上げた人だが、もともと点数の良い生徒や　前回の点数が下駄をはいていた生徒を受け持つと評点は悪くなる。正しくは、もともとの生徒の資質を入力変数とするべきだが、それができないから前回の点数を代理変数にしてビッグデータ解析をすることになる。ここには間違いが入り込むことを留意して　政策に反映すること。間違ってもこの評点だけで教師のリストラをしてはならない。

投稿元：

レビューを見る

ーーAIに英知はない。「何が正しいのか」は、AIが決して触れられない領域なのだ。(blog.livedoor.jp2019/11/07著者インタビューより)

ハラリさんや鷲田清一先生の著作からの芋づる読書。具体的な事実と当事者だから言える様々な指摘が盛り込まれている。ビジネス、教育、政治、あらゆる分野で読まれるべき本。
訳がこなれていないせいなのか、ちょっと読みにくさはあるけれど(私がビジネス用語に不慣れなせいもある)。
本屋であまり見かけないから、日本ではさほど読まれていないのかな？『1984年』や『すばらしい新世界』と一緒に、『サピエンス全史』の横に並べて置くべき本だと思うのだけれど。もったいない。

アメリカ南部では、かつて、奴隷制度を正当化するのに聖書を持ち出していたらしい(『西洋美術とレイシズム』p.53)。現代ではそれが数字にとってかわった、ということだと理解した。
数字はいかにも客観性があるかに見えて、そんなことはない。数字だって所詮言葉なわけだから、言葉にした瞬間に、大量の取りこぼしが発生していることは明らか。また、全ての科学や知識、機械がそうであるように、それを扱う人間の主観が必ず入り込む。なぜなら、人間は「目的」をもって数字や機械、知識、情報を扱うから。「正しい科学」「万人に利益のみをもたらす機械」「偏向のない報道」は、残念ながら人間には作れない。私たちの価値観は、必ず、「今・ここ」の足場に括り付けられてしまう。偏りは必然なのだ。
にも関わらず、突如、「公正・公平」を謳うシステムや機械が登場してきたなら、要注意だ。多分、誰かが誰かを騙そうとしている。あるいは、「効率」「合理性」を追求するべきではない場面にそれを捻じ込んで、得しようとする誰かの意図が働いている。親切面をしたポップアップ広告がその手先になっている。かつて船に乗ってやってきた宣教師は、今やスマホ画面やパソコン画面でのオンライン布教にご執心のようだ。1クリック、1ハレルヤ。あなたにGAFAの祝福を。

人間が自分の行為の正当性を、行為それ自体ではなく外部に依存する時は、大抵、その不当性に薄々気づいているにも関わらず、怠惰からか強欲からかは知らないが、不当性の直視を避けて既得権の延命を図りたがっている時だ。神や数といった「絶対解」や「普遍性」に身を預けたいという欲望に、人間は非常に弱い。「デジタル化したい！」という現代人のはちきれんばかりの欲望に未だブレーキがかかる兆しは無さそうだけれど(そして私もこんなものをオンラインで書き殴ってしまっているけれど)、一神教のもたらす底無し沼にどれほどの小石を投げ込めるものか、地べたレベルで抵抗することぐらいはしていかなきゃな。

投稿元：

レビューを見る

池上先生の東工大の読書会で取り上げていた本だったので一読しました。

米国をはじめ海外での数学破壊兵器(AIやビッグデータの数理モデル)の使われ方、大まかな内情について学びました。
身近な暮らしではイマイチ実感がないお話が多かったですが、海外では数学破壊兵器はとんでも無く人々の生活に大きな影響を与えはじめてるのだと思いました。
企業が利益を追求すると、公平性を犠牲にしてしまうとのことですが、数学破壊兵器に限らず、私たちの世界に存在する大きな矛盾なのではないかと思います。
この相反する事を成し遂げていかなければならない資本主義社会で、自分の生き方をよく考えていきたいと思います。

投稿元：

レビューを見る

原題は『Weapons of Math Destruction : How Big Data Increases Inequality and Threatens Democracy：数学破壊兵器　ビッグデータがどのように不平等を拡大し、民主主義を脅かすか』。著者は数学者でハーバード大学で博士号を取得し、コロンビア大学の終身在職付き教授となる。その後、クオンツ（金融工学の専門家）に転身し大手ヘッジファンドで働く。リーマンショックを経て、「ウォール街を占拠せよ」運動にコミットした。
https://sessendo.blogspot.com/2021/10/ai.html

投稿元：

レビューを見る

読み切るまでにとても時間がかかった。翻訳本としての性格もあるが、全般的に同じ話題が複数の章で繰り返して引用されていて冗長感が非常にある。「数学破壊兵器」は分かるが解説にあるようにAI・ビッグデータの活用を著者が本当に否定していないのならば、もう少しバランスの取り方があったと思われる。

投稿元：

レビューを見る

　原題が「Weapon of Math destruction」直訳すれば数学破壊兵器。機械学習、AIのアルゴリズムやモデルを皆さん盲目的に信じすぎやしてませんか？そこにはこれだけのリスクがありますよ、と警告する内容でオモシロかった。2年ほどデータアナリストの端くれとして小売業のビッグデータ解析に基づく最適化みたいな仕事をしていたので著者の主張に納得する点が多かった。当然データをあげた分、ポイント等で見返りはあるのだけど、そのデータと見合っているか？みたいなことはよく考えてしまう。本文にもあるが「*プライバシーの保護は裕福な人にだけに許される贅沢になっていく*」のだろう。(まさか政府まで似た手口で個人情報を入手しようとする時代が来るとは思わなかったけど)全く情報を出さないで生活するのは不可能だから、ときにこういった本を読み立ち止まって考えたいと思う。
　本著は啓発というよりはビッグデータ解析にまつわる現状の解説になっている。彼女自身がデータアナリストで金融業界で見た手口の話から始まり、その手口が教育、就職、仕事、身体、政治など身の回りに侵食してきている。そして、それを正のフィードバックループが機能することなく公平性を欠いて効率だけを追い求めた数学破壊兵器と本著では呼んでいた。大量の過去のデータから傾向を読み取って機械的に判断しているので人間よりも公平なのでは？と思うものの、その入力データがどういったものかですべては変わってくる。目的が志の高いものであれば良いが「人件費削減のために優秀ではない教師を手早くリストラしたい」のように「優秀ではない」の定義が非常に曖昧で定量評価できないものにAIというブラックボックスをかまして公平のような顔で選別する。公平よりも効率（＝利益）を優先する社会全体の空気はこういったテクノロジーの発展と無縁ではないのかもしれない。
　さらにこういったモデルによる評価は富裕層に適用されるケースは少なく貧困層に適用されることが多く、アルゴリズムによって貧富の差が広がっていくことの解説もあり、その視点は持っていなかった。結局どんなツールも使う側の目的が一番大事だけど使われる側もリテラシー発揮していかないとテクノロジーユートピアな現代では生き残れないだろう。過去のデータからは未来は生まれないことを肝に銘じたい。

投稿元：

レビューを見る

筆者が数学破壊兵器と呼ぶ、データ解析のためのアルゴリズムに関する著作。ビッグデータ解析に用いられるアルゴリズム（ソフトウェア）は無機的であるが故に人間の価値判断が入らないと考えるのは間違っている。あくまでソフトウェアを書いた開発者や開発を担当した企業などの思惑が含まれている。アルゴリズムの差別性は特に社会的弱者に与える負の影響が大きい。加えて、こうした負の評価はこれを評価データとして使う別のアルゴリズムにおいても負の評価を呼び、負の連鎖によって不公平性の拡大に繋がる。後半ではプリンストン大学などの取り組みも紹介しているが、アルゴリズムの監査制度をしっかりと確立してい具ことが重要だろう。これからのスマートコントラクトなどでも留意が必要なことだろう。