アルゴリズム・ＡＩを疑う　誰がブラックボックスをつくるのか

投稿元：

レビューを見る

◆出版社紹介文 https://shinsho.shueisha.co.jp/kikan/1263-g/

投稿元：

レビューを見る

アルゴリズムの本質は誰がやっても同じ答えにたどりつくこと

アテンションエコノミー

社会的ブラックボックス
→AIは技術的にもブラックボックス

インフラ的反転

情報的健康

インターネットメディアを作ってきた身からすると、身近な内容ではあるが、改めてわかりやすくよく整理されていた

投稿元：

レビューを見る

アルゴリズム体操の持つ「カラクリ性」
一定の動作を実現するために複数の部品の機械的な仕掛けの組み合わせ。その仕掛けの複雑さ故の全体動作が魔法のような不思議さをまとう

AIは教師あり学習と教師なし学習。
ディープラーニングとかGPTとか今のAIは教師なし学習。
確率論的推論。

google検索のアルゴリズムは
他のサイトでリンク付けられているか
リンクをつけてくれたサイトが他のサイトからどれくらいリンクされているか。評価の連鎖。これからスタートして今は200個位のアルゴリズムでランキングされている。
その多くは専門家によって予測されて公開されている。

アテンションエコノミー
→人々のアテンションが競争の対象になった状況

SNSの悪い面(誤情報の拡散・ヘイト・エコチャンバー)も含むSNS運用システムのブラックボックス化は提供する企業側の利益追求のみが原因ではなく、利用する側の認知資源の削減の要求に応えられたものでもある。

※ブラックボックス化→利用する際に中身のアルゴリズムを考えず無条件に内容を信頼してしまうこと


メディアリテラシーの教育において重要なのは、メディアとの接触を規制して保護することではなく、むしろ積極的に触れつつ背景のアルゴリズムや提供側の論理を想像しながら情報を摂取する方法を身につけること。
遠ざけることはメディア内部で働くアルゴリズムのブラックボックス化を余計に進めてしまうことになる。

ものの進化の過程の話。まずは遊具として存在し、その後どうに進化していく。生まれて間もない遊具としては、エラーを含めそれ自体がコンテンツとして「対象」になり意識される。WEBの聡明期、様々な検索エンジンの中から何を選ぶかを楽しんだり、ネットでつながること自体を楽しんでいた状態から、googleが覇権を握り検索ツールはあくまで道具になりインフラになり意識の対象ではなくなった。ブラックボックス化され内部で働くシステムは考える必要のないものになった。AIでもこれから同じことが起きるだろう。

アルゴリズムは物事の良し悪しを判断しない。
設計に従い入力を受け付け分岐させループさせ出力を出すだけ。エコチェンバーなどの問題も利用する人間に起因する。

ネットで起こる悪いことは特定の「悪意」や「過失」によるものではなく、アテンションエコノミーに代表される複雑な生態系の中で発生している。単純化して理解したくなる誘惑に負けないように。問題を複雑なまま理解しようとする覚悟が試されている。情報流通の背後にあるアルゴリズムやプラットフォームの仕組みを理解しようとする姿勢が大事だ。

投稿元：

レビューを見る

とても面白く勉強になりました。しきりに言われてはいたのでエコチェンバーやフィルターバブルなどの単語は何となく知っていましたがこの本を読んでまた再認識しなくてはと思いました。テック企業がアルゴリズムを公開しない理由など（テック企業の利益優先というだけではない事情）も書いてありなるほどとも思いました。普段何気なく使用してるすべてのメディアのアルゴリズムや出来方など知るのは無理ではありますが少しでも理解する事が大切だなと思いました。アルゴリズムと違いAIは本当にブラックボックスという事をまた改めて気付かせてくれました。そしてこのブクログも何らかのアルゴリズムがあると肝に銘じなければとも(^o^;)

投稿元：

レビューを見る

この分野に対して、あまり知識はなかったが、かなり勉強になった。
アルゴリズムやAIの利活用について、ブラックボックス化する前に、そのプロセスについて把握する意識は大事。
「複雑なものを複雑なまま理解する」という姿勢は現代に欠かせないなと思った。

投稿元：

レビューを見る

SNSのタイムラインは、ユーザの関心や操作履歴をもとに表示される情報が自動的に取捨選択されている。その選別はアルゴリズム（一定の計算手順）によって行われており、ユーザの注目（アテンション）を最大化することを目的としている。このような仕組みはアテンションエコノミー（人々の注意や関心を価値として扱う経済）と呼ばれ、SNSの収益構造と密接に結びついている。その結果として、ユーザが「信じたい」と感じる情報や感情を刺激する投稿ばかりが目に入りやすくなる。情報の選別が収益を目的とした計算によって行われ、さらに認知バイアス（思い込みや先入観）やエコーチェンバー（同じ意見ばかりが表示される現象）と結びつくことで、誤情報と正確な情報を見分ける力が鈍り、社会的な出来事や他者の意見を冷静かつ客観的に判断する力が失われる。
それを踏まえ、一般ユーザは自分がどのような情報を受け取っているのか、その詳細を意識しなくて済む社会を望みながら構築してきたという事実に気づくべきである。そしてそのうえで、エコーチェンバーがもたらす情報の偏りや分断の弊害を共有認識する必要がある。難しいけど面白かった。能登地震の時のインプレゾンビも酷かった。

投稿元：

レビューを見る

アテンションに最適化したアルゴリズムと人間のシステムⅠによる速い思考が相性がいい＝情報処理のコスパがいいと判断される。遅い思考はコスパが悪い。
そこに見を任せることは弊害が多い。
インプレッション稼ぎ＝アルゴリズムがアテンションに最適化されているために起きる。
エコーチェンバー＝自分の意見だけを信じる仕組み。
フィルターバブル＝フィルタリングされた情報だけしか得られず、ユーザーがそのことを意識しにくい状態。
アルゴリズム＝システムⅠには最適解に見える。

ステマはプラットフォーム側でも対処しているが、しょせんこれもアルゴリズムによるもの＝原理的な問題は残る。
ユーザーを商品化するアルゴリズム＝行動履歴が蓄積されることで個々のユーザーに向けた広告が出せる。
Xのアルゴリズムが２０２３年に公開されたが、マーケッター向けのもので、一般人の対処法ではない。ユーザーにとってはブラックボックスのまま。
Xのタイムラインは、行動履歴によって選別されていることを認識すること。

投稿元：

レビューを見る

アルゴリズムを作るテックはもともとはオープンソースから始まっているが、今は商業主義がドライバーであるためユーザーを囲い込む方向に向かっている。メディアリテラシーとは仕組みを詳細に理解することではなく、テック特に王らっとフォーマーの行動原理を想像し、それに基づいて情報を解釈することを行う能力、方向性を持つことである。

投稿元：

レビューを見る

『Google SEOのメディア論 検索エンジン・アルゴリズムの変容を追う』がことのほか面白かったので、たまたま縁のある大学のメディア論の先生に伝えたら「宇田川先生は、この本もオススメですよ」と教えてもらった本です。前著では「メディア・リテラシー」から一歩進んだ「メディア・インフラ・リテラシー」の必要性を訴えていましたが、確かにこの新書は「メディア・リテラシー」とは何か？そして「メディア・インフラ・リテラシー」とは何か？を丁寧に教えてくれています。先ずはすべてのベースにあるアルゴリズムをGoogle、Amazon、食べログ、Xなどの仕組みを解き明かしながら語ります。この件だけで不可視のブラックボックスを意識する、という「メディア・リテラシー」の入り口に立てる気がします。それがデータを資源とするプラットフォーム資本主義の時代の意味に繋がり、そしてついつい「メディア」と「コンテンツ」を混同してしまう「メディア・リテラシー」を整理し「メディア・インフラ・リテラシー」に繋げてくれます。著者が大学生に行なっているワークショップを含め、この本で書かれていることは社会全体で学ばなければならない気になりました。「情報的健康」、これキーワードです。

投稿元：

レビューを見る

職場の人全員に読んでほしい。
検索結果やタイムラインなど、自然の結果のように誤認しがち。
実際には、あるアルゴリズムによって生成されている。
聞くと当たり前と言うかもしれないが、理解している人がどのくらいいるか。理解していても、自分のSNSのタイムラインを前にすると、それが世界の大半だあると錯覚しはしないか。
認知負荷を自然に避けるという性質上、それが当然でもある。
常々感じているのが、プログラミング教育が必須なのではなく、アルゴリズム教育こそ必須であり、プログラミングはそれを職業にするのでなければ、アルゴリズムとは何かを理解するための手段でしかないということ。(あくまでも、現時点での学校教育においては)
また、AIのブラックボックスは、従来のブラックボックスと異なり閉じている、という話は興味深い。これも、今後AIを使いこなしていくに際し、不可欠な概念。また、情報リテラシーからメディアリテラシーへ、メタな視点を持つこともとても重要と感じた。

投稿元：

レビューを見る

76世代こそ、遊具→道具→インフラ化の流れを見てきたという指摘に、確かにな、と感じました。

仕組みを完全にではなくても、理解しようとする素養を生むことは、最初から当たり前にあった世代にはかえって難しいのかもな、と思うと、76世代が得てきた知見こそが、道具に「使われる」のではなく、「使う」側に立つために必要であり、遊具としての楽しさを見出し続けることが次のイノベーションのきっかけにもなるんだろうな、と感じました。

投稿元：

レビューを見る

情報オーバーロード時代に、
効率を重視した結果生まれた、エコーチェンバーやフィルターバブル、アテンションエコノミーへの向き合い方を考えさせる良書。といっても、リソースや意識を向ける覚悟も持つという、取り組みにくい解決策しかないが。遊具から道具という発展のとらえ方は面白い。

投稿元：

レビューを見る

ブラックボックス化は、悪意があるないに関わらず必然的に起こっていると感じた。
スマホで買い物する時に、自分の選択を疑うことはした方がいいと勉強になった。

投稿元：

レビューを見る

アルゴリズムの危険性を単純にSNSから離れましょうと警告するのではなく、複雑な生態系の実態から目をそらし、単純化した図式で物事を理解しないようにするため複雑な図式のまま理解する、そのこと自体に限られている認知資源を割く覚悟を持つことの大切さを説いている本です説得力があった。
情報過多で、限られている接触できるコンテンツのなかから、アルゴリズムにしたがって選択していくのではなく、フィルタリングされている選択肢であると自覚して使うようにしたい。

投稿元：

レビューを見る

お店の口コミや、ブラウザの検索結果、ランキング等、その仕組みを知らずに当たり前に使っている。しかし、仕組みの設計段階では設計者の思惑が働いていることは理解しておかないといけないと思った。