生成AI時代の言語論 みんなのレビュー

投稿元：

レビューを見る

池谷裕二から引き続きの生成ＡＩ。自分でもGeminiをちょっといじってみた。うーん、もっと上手に使えるようにならないといけない。今のところ、すごさを実感できていない。本書を読んでの結論は「言語の本質」はやはりなんとしても読まなければいけないということだった。自分が購入する前にベストセラーになってしまったがため、へそ曲がりな私は買いそびれていた。まあ、本書でだいたいの内容は知れたわけだが、中公新書もちゃんと読んで、記号接地問題についてはもっと真剣に考えなければいけないということだ。それから、妻を帽子と間違える男性の話。ハミングしながらなら間違えないというところから、考古学的音楽論に入って行く。これはおもしろい。音楽の先生（妻）に話しておかないといけない。そして最後の１０ページほどの論考なのだが、資本主義は終わって封建制に戻っているという話、これまたおもしろい。ＧＡＦＡＭのプラットフォームが荘園で、そのサービス利用者は農奴である。我々は知らず知らずのうちに農民として働いていたわけである。そして、一部の金持ちたちをさらに金持ちにしていた。で、このプラットフォームはコモンズにしなければいけない。それは本当にできるのだろうか。いやあ、大澤先生の論文は一部理解できないところもあったけれど、全体的には充実の内容だった。ところで、「入力」が「人力」になったり、「注目」が「注日」になったりという誤植が見つかったが、こういうのって、いまどきの間違え方なんだろうなあと思ってしまう。

投稿元：

レビューを見る

・AIが有意味に何かを考えているとみなすには、2つの壁をクリアする必要がある。一つはフレーム問題。必要なことだけを考慮に入れて、判断を下すことである。もう一つは記号設置問題。記号を外部の実在とどう結びつけるか。
・生成AI脅威論は二つに分かれる。一つはホモ・デウスの登場。もう一つは、人間の知能をはるかに凌駕するAIが現れる（やがて人類を滅ぼす）というディストピア。
・人間の言語は外化されることで思考となる。そのとき、思考が生成AIに影響され、思考の自立性なるものが脅かされる。
・デジタル封建制とは、プラットフォーマーなる荘園と、プラットフォームを無料で利用するユーザーなる農奴で構成される。筆者は生成AIが私企業（プラットフォーマー）に所有されていることに警鐘を鳴らし、コモンズとすることを提唱している。

投稿元：

レビューを見る

【はじめに】
AI分野の日本の第一人者でもある東京大学の松尾教授、『言語の本質』の共著者の今井むつみさん&秋田喜美さん、との2件の対談とそれに連関する小論をまとめたもの。
「言語論」と銘打つだけあって、今井さん&秋田さんとの対談の方がメインの筋で、大澤さんの小論の方もどちらかというとそちらに寄せているのだけれど、松尾さんとの対談パートと比べてどちらが議論として面白いかというと松尾さんと対談の方が断然面白かった。「生成AI時代の言語論」も興味深いのだが、記号接地問題やオノマトペがうまく個人的関心に引っかかってこなかった。

【松尾-大澤対談】
松尾さんがAIについて、「クリエイティビティはもう達成している」と言い、大澤さんも一般的に人間がやるべきクリエイティブな仕事こそAIがやるものになり、残るのはブルシットジョブになるという議論は興味深い。新しい格差構造を示唆しているようでもあるし、その構造の中では既存の格差を教育というレイヤを通して固着化することになるようにも思える。
また松尾さんが「知能の本質は予測だ」と言い、その観点からは言語の世界においては知能と呼ぶことができる事象がAIにも起こっていると考えているという点は深堀りしてほしい点のひとつ。『脳の本質』(乾、他著)という本でも詳しく説明されているので、このあたり興味がある人は見てほしいのだが、仕組みのレイヤにおいても脳の本質は予測といえるのである。その観点で現在のAIの方向性は思われているよりもかなり人間の知能と同じ仕組みをより高い計算力でもって実行しているのではないかと言える可能性もある。
記号接地問題にしても、松尾さんが「相当推測できてはいる」という分析が興味深く、掘り下げていってほしい方向性のように感じた。学習の過程たにおいて、われわれが言う意味ではまったく接地していないにも関わらず、接地がなされているように見えるということについてもっと驚くべきだと思う。
さらに身体の問題について、知能に身体が必要かどうかという問いに対して、松尾さんは明確にノーだと答える。対談ではこの後その方向では話が広がらなかったが、記号接地問題と深く関連するところであり、知能と身体性は記号接地問題以上に面白い課題だと思う。
また、大澤さんが提示した、AIが広がることによって自由意志が仮象であることが明らかになってしまい、それをもとにした法や社会規範に影響を与えるのではという懸念は興味深い話題だったが、松尾さんに刺さらずにスルーされ、少し残念だった。
AIに支配されるのではという議論においても、もともとは神に支配されていて、(今はヒューマニズムというイデオロギーに支配されているのだから、)AIによってある種の形で支配されるというのはありうるし、それ自体がいけないこととはいえないのでは、という議論もいったんはスルーされた形になったのも残念な点のひとつ。大澤さんには社会学者としての観点で、AIがそういった社会システムにどのような影響を与える可能性があるのかを今後深堀りしてもらいたいところ。実際にAIのモデルがどこまでパーソナライズされて(何がその契機となり、経済的条件はどのようなものか)、そ���パーソナルエージェントとも呼ぶべき存在がどこまで自律的に動くのか(法的観点や社会システム的観点)は今後アクチュアルな課題になるのではないのかと思う。

【まとめ】
それほど長くない松尾さんと大澤さんの対談においてもこれだけ消化不良になるほど興味深いネタがたくさんあったので、大澤さんにはぜひこちらの方向で深堀りしてもらいたい。社会学/哲学的な志向を持った人と技術的かつ実用面でも広く知見と影響力を持った人とが出会うといろいろと面白い話になるんだなと感じた。

投稿元：

レビューを見る

知能の本質は予測

1番の誤解は人間が生産活動に寄与する意味のある仕事をたくさんしていると考えること
生成AIによって、生産と仕事は乖離する

今の教育現場でのばせているのは褒められて嬉しい子たち

教育や政治で生成AIを使って一人ずつに対応できるのは進歩

人間はバイアスを使って推論している面もあり、すべてのバイアスを消すと性能が落ちる

オノマトペ
アブダクション
対称性推論

AIは帰納推論はするがアブダクションはしない
人間はほぼアブダクションかも
そこが大きな違い

生成AIの活用は資本主義の終わりに近づく行為
仕事のブルシット性が高まる？

生成AIが個人の自由や自律性にとって障害となりうる
私企業出る超巨大プラットフォーマーの管理下にある生成AI
いつのまにか誘導されていないか？
それを否定するために人類レベルの民主性が必要だがそんなこと可能なのか

語ることを通じて思考が明晰に整理されることがある

共同注意が発生するのは人間のみ
動物は同時注意（個体間で注意を合わせてる意識はない）

人間の目は他者に視線をよませるように作られている
そんな動物は人間のみ

音楽やダンスは協調や連帯を高めるためのもの

インターネット荘園による封建主義？
それの力を強めるのが生成AI？

投稿元：

レビューを見る

大規模言語モデルに基づくChatGPTなどの言語生成AIの爆発的な普及が、人間の精神や社会に今後どういう影響を及ぼしていくのか。本書は、人間の言語と言語生成AIの言語の、それぞれ何がどう違うのかという切り口で、その思索とそれを踏まえた提言を記している。巷間言われるような、人間がAIの文章をマルぱくりすることで、AIに自分の考えや意思が影響を受け、やがて自由な意思を持た（て）なくなり、それはやがてAIに人間が従属することになるのではないか、というややSF的なストーリーに向かうことが多いと思うのだが、ことはそれほど単純なものではないというのが本書の要諦と思う。自分の考えや意思などは何もAIに限らず、マスコミの情報やネットの流言飛語からも容易に影響を受けてしまうし、現状のAIは自由意思を持たないため、人間を支配して「やろう」とは思わないからだ（むしろ人間がAIを悪用して他者を支配する可能性のほうが圧倒的に高い）。現在の大規模言語モデルは、ネクストワード・プリディクション（次に続く単語の予測）という仕組みで、人間の蓄積した膨大なテキストをサンプルとし、もっともらしい単語の連なり（文章）を予想し「出して見せている」だけで、例えば「富士山」についてほぼ無限に説明する単語を「出して見せる」ことはできても、そのことはつまり実在する富士山という対象自体はなくても生成できる、実在の富士山の認知がなくても説明（表象）が成立しちゃえるいう、いわゆるAIの「記号設置問題」や、人間以外の動物が行わないA→BならＢ→Aではないかという推論（対称性推論）、自分が対象物を表象する時の行為に、他人のそれを巻き込みながら共同行為を経て言語を体系化していく特徴などから、それをもとに行っている人間の言語の習得とそうではないAIの習得の差異などに注目し、人間と人間しか用いない「言語」というものの関係に着目する。例えば人間は言語で物事を考えているのだから、「言語」が先にあってそれを「考え」て説明する順序なのにも関わらす、なぜか「うまく言語にならない考え」というものが「他者的に」先んじて自分の内に存在し、それをようやく言語化した時に初めて「自分の求めていた答えがわかった＝自分の考えていたことがわかった」、というような逆の順序のようなことが起こるし、その際にうまく言語化できたことに快感を覚えるものである。人間が快感を感じるようになっている行為というのは、なんらか生存戦略上の利益につながるものであることが多い。言語生成AIによる言語活動の代替は、人間にとってのその活動の重要な中核の部分を毀損するのではないかという指摘が一つ。そして人類の知の集大成ともいうべき生成AIが人類のコモン（共有物）ではなく、私的な企業の所有物であることを危惧すべきというのが一つ。これらの警鐘はもしかするとまだ時代を先取りし過ぎた考え方なのかも知れないが、少なくともＳＦには感じられないのだった。

投稿元：

レビューを見る

そもそも、2023年夏の対談を2024年秋に出版したのが謎すぎる。生成AIは数ヶ月でがらりと景色が変わる世界なので、認識が古すぎて全く役に立たない。
対談もひたすら大澤氏の押し付けで、特に松尾先生との対談は不毛の極み（こんなに不毛な対談も珍しい）。
今井先生・秋田先生は、言語論においては実績がある方だと思うが、生成AIについてはちょっと理解が浅いように思う。

投稿元：

レビューを見る

生成ＡＩが表現する過程が人間のそれと違うことは理解できるとしても、それでも人間の感情への影響は計り知れないと感じていて、心の準備が必要かなと思う今日この頃。

投稿元：

レビューを見る

　『生成AI時代の言語論』は、ChatGPTに代表される生成AIが社会に浸透しつつある現代において、「言語とは何か」「知性とは何か」を根底から問い直す試みである。本書には、社会学者である大澤真幸氏による小論文に加え、3名の専門家との対談が収録されており、それぞれの立場から生成AI時代の言語と人間の関係性が掘り下げられている。対談の相手は、人工知能研究の第一人者である松尾豊氏、認知科学・言語習得の研究で知られる今井むつみ氏、そして意味論・言語類型論に精通した言語学者の秋田喜美氏である。
　本書の中核には、「記号接地問題（symbol grounding problem）」と呼ばれる哲学的課題が据えられている。これはAIが使用する言語が、現実の世界と結びついているのかを問うものである。生成AIは大量のテキストデータから学習し、言語的なパターンを模倣するが、その言葉が具体的にどのような経験や感覚に基づいているかについての理解は持たない。つまり、「りんご」という単語を自在に使えても、それを見て触れて味わった経験がないために、本質的な意味で「りんごを知っている」とは言えない。このような抽象的な記号操作にとどまるAIの言語使用を前に、大澤氏は、言語が意味を持つためには、記号が何らかの「実在」に接地されていなければならないと主張する。この議論の文脈で、同氏はオリバー・サックスの『妻を帽子と間違えた男』という本を引用する。オリバー・サックスは、神経学者であり作家としても知られ、臨床経験に基づいた独創的な症例報告を多数著している。『レナードの朝』という有名な映画の原作者としても知られており、その著作群は脳神経の障害が人間の意識や経験にどのような影響を与えるかを考察する上で極めて重要な資料となっている。『妻を帽子と間違えた男』に登場する患者は、視覚情報を正確に処理しているようでありながら、意味において世界と接続できなくなっている。つまり、目の前にある対象が何であるかを「わかっている」はずなのに、それが「妻」であるか「帽子」であるかの判断ができないという混乱が生じているのだ。これは、意味が単なる情報処理や記号の操作ではなく、「世界との身体的・情動的な関係性」に基づいていることを示唆している。
　大澤氏は、このような症例と生成AIのあいだにある奇妙な類似性を指摘する。すなわち、表面的な認識が成立しているにもかかわらず、そこに「意味」が欠落しているという点である。このような視座からすると、生成AIの言語運用は、ある種の失語的状態に似ているとも言える。AIは「言っている」ように見えるが、実際には「語っていない」のだ。言語は他者との関係性、文脈、感情、行為などと切り離せないものであり、単なる統計的予測によって代替できるものではない。
　本書は、AIが高度化するほどに、逆説的に「人間とは何か」という問題が先鋭化することを浮き彫りにしている。とはいえ、大澤氏は生成AIを一方的に否定するのではなく、AIが浮かび上がらせる言語と意味の問題を通じて、人間の知性の根源に迫ろうとしている。その意味で本書は、技術批評としてではなく、哲学的な省察として読むべき一冊である。記号の表層を超えて、意味に肉迫するとはどういうことか。『��成AI時代の言語論』は、この問いに対して深い思索を促す著作である。
　最後に、本書に関連するフレーズを記しておく。

「言語(language)が言葉(words)から成るという考え自体がナンセンスだ。...。「ただの言葉」なんてものはないんだから。」
ー 精神の生態学へ(上) / グレゴリー・ベイトソン
　第一篇　フランス人は、なぜ？

投稿元：

レビューを見る

急激な進化を遂げているAIを通じて、我々人間を見直す対談集、論文になっている。
難解なのだが、なんだかおもしろい。
「記号設置」なんて言葉、日常では使ったことはないが、
言わんとするところは分かる。理解できる。
設置するか否か。

人間とAIの違いは身体を持つか持たないか、だったが、
Youtubeだのデータが増えることで、それも乗り越えつつあると。

それでピンときた。
生成AIの急激な進化は、我々が無料で参加しているウェブの世界によるものだと。
彼らが文章を作る際に用いる確率論、この言葉の次には何が来るか、
ありとあらゆるデータを基に算出している。
そのありとあらゆるデータに、我々の投稿が利用されている、ということなのだ。

それを語った論文が最後の「人類的コモンズの提唱」
資本主義はごく一部の富裕層を生む仕組み。
そこに資本主義以前の「封建制」が顔を出す。
荘園でタダ働きする農奴のおかげで封建領主は豊かになった。
現代においてはその農奴は我々無料ユーザーなのだ。
無料ユーザーがプラットフォームという名の荘園を耕し、
そこがビジネスの場になり、ごく一部のプラットフォーマー、
GAFAMが利益を上げるのだ。

なるほどねえ。
そういう仕掛けか。
私も協力してるってわけだ。
少しはAIの餌になってるのかな。

著者は、農奴になってはいけない、コミュニズムを作ろう、と言って締めている。
あら、ここの言及がない。紙面が終わっている。
続きは？

楽しみだ。


第Ⅰ部　対談・鼎談
◆生成AIとはなにか？（松尾豊┼大澤真幸）
◆「記号接地する」とはどういうことか？　AIから考える人間と言語の関係（今井むつみ┼秋田喜美┼大澤真幸）

第Ⅱ部　論文　──大澤真幸
◆ある意味での「資本主義の終焉」
◆生成AIが人間に近づいている? 　いやそうではなく……
◆表象能力の非表象的基礎　記号接地はいかにして可能か
◆人類的コモンズの提唱　生成AIから考える