【落合陽一】ChatGPTは「リンゴを食べた事がないのにリンゴを語る」“理解”とは何か？言語習得研究の今井むつみ、赤ちゃんの言語学習、記号接地、永遠のメリーゴーランドを解説。なぜ子どもは分数が苦手？
Вставка
- Опубліковано 14 чер 2023
- 番組のフル視聴（98分）はこちらから
bit.ly/3COnQb3
10日間無料トライアル実施中
bit.ly/3X5XMzD
_____
最近、「言語」を巡り、世間を最も驚かせた大きなイノベーションといえば、やはり「ChatGPT」に代表される大規模言語モデルを活用したAIの出現だろう。まるで会話をするかのように、我々が普段使用している“言葉”で瞬時に答えを導き出すその能力は世界に絶大なインパクトをもたらしているが、ふとこんな疑問が湧いてはこないだろうか。「果たしてAIは、本当に我々と同じように言葉の意味を理解しているのか？」認知科学者で、子どもの言語習得を研究する今井むつみ氏の最新の著書『言語の本質』によると、もともと90年代にAIの問題として巻き起こり、今も未解決のままである「記号接地問題」と呼ばれる議論があるという。例えば「リンゴ」という言葉と「リンゴそのもの」を結びつけるには、それを食べたり触れたりする身体的な経験が必要だという考え方だ。では「言語」を理解するとはどういう事なのか？言語と身体性はどう関係しているのか？AIと向き合う上で大切な事とは？言語からみる人間の本質に、落合陽一が迫る。
ゲスト：今井むつみ（慶應義塾大学環境情報学部・教授）
#weeklyochiai #落合陽一 #今井むつみ #chatgpt #言語 #AI #言語の本質
NewsPicksではフル版(98分)公開中🎥
bit.ly/3N1vG5u
ゆる言語学ラジオ以外で今井先生をお見かけするとは！お話し聞けて嬉しい
ガヴァガイ問題をゆる言語以外で見るとは思わなかった
@@pozo20ほんとそれコメントしそうになったw
サムネが今井むつみ先生でみようと思えたのは某みかんみのおかげ
ゆる言語でお見かけした方だ
落合さんは、堀元さんの方でお見かけした(笑)
@@user-ky2xk6zb2t 草
@@user-ky2xk6zb2t 怒られた奴やんw
今井むつみ先生と共演した堀元、落合陽一にバチ切れられた堀元
いや、でも正直あの記事はかなり面白いw
言語学者のGTPの事物理解に関する見解を日本語で聞きたかったからとてもありがたい企画
今井先生をまたUA-camで見られるとはありがたい！
ゆる言語学徒が落合氏の動画見ることになるとは😂
人間も、本を読んだり映画を見たりすることで、実際には体験していないことも学習している。
死んだことないのに死を語る非常に面白い人は多い
面白そうだな〜と思って開いたら落合先生のヘッタクソな時候の挨拶が聞けて満足してしまった
クワインの「翻訳の不確定性」とは、言語を翻訳する場合に、正しい翻訳が定まらないことを言います。
例
「落合先生のヘッタクソな時候の挨拶」
面白かったです🍀
面白かったです。
小学生へのテスト結果、驚きでした。
いろんなデータから問われた結果を出すCHATGPTは経験のデータで経験や言い回しとかを学習しているからこそ経験したような語りができるんだろうなと思います。
意味を理解していなくても文章は構成出来るって事に気がついた事が確信的ですよね！
エンジニアは論理的で頭が良いからこそそういう考え方が最も苦手な気がしますが、やっぱり凄いなって思いました。
言語の本質、読んでみます。
ありがとうございます。
ちょうど小1の息子がまだ理解できていないのが時間の概念でした。
どこで理解していくか楽しみにしていますが、面白いですよね。
なるほど、そう言う見方をすれば歴史問題も見た訳でもないのに語ったり、教えたりしている教育者や研究者もChatGPT的ですね。
ゆる言語から来ました！
続きの話めっちゃ気になるな
「秋の夜長？春？初夏でもねえか。梅雨か。梅雨の夜長？いかがお過ごしでしょうか…」
メチャクチャバグってて笑った
ゆる言語学ラジオで知った今井先生がサバの人と対談すると聞いて飛んできました😊
言葉の意味を、
・言葉が通じるかどうかで評価するのか
・内面的にクオリア的に捉えることができるかどうかで評価するのか
によって定義がちがくて、前者であれば言葉の使われかたで意味が決まるし、後者であれば経験によって意味が決まるということでしかなくて、AIが出力する言語に対して私たちに評価できる意味は、コミュニケーションにおいて成立する言葉としてでしかないから、感覚的経験のないAIの出力も言語として成立しているだけに思う。
5:49大規模言語モデル
知覚したものをカテゴライズする。 似ている
👶のカテゴリー化。気づき
12:00記号接地
13:27ハルナッド
シニフィアンをシニフィアンで定義する
紙の本は絶版でもアマゾンで電子書籍として販売されているので言語学に興味のある人にはぜひお薦め『意識と意味と位相空間』。かなりユニークな内容だけれど、私はけっこう腑に落ちた。
歌詞の内容を体験してないのに歌う人なんてザラにいる
歌詞を理解しないまま歌うことだってできる
知らない言語の歌だってそれっぽい発音を丸暗記して歌うこともできる
経験していないことを経験した様に語れる事について、不思議だと思えるのがすごい。何故不思議に思えるか、良くわからなかった😂
リンゴ食べたこと無いのにリンゴについて語る、、、天才やん
落合陽一のことやんw
俺も業務をやったことが無いのに、その業務を語ることが出来る。それらしく語るのがコンサルタント。
歴史学者や考古学者をディスるのはそこまでだ
リンゴを食べた事がないのにリンゴを語る ネット上の俺らだ
にわか万歳！！
今井先生！！！
今井むつみさんが最後ブラックボード出してからも面白すぎて終われなくて20分ぐらい延長してましたね。
もう一回来てほしいです。
NewsPicksはAIネタはPivotに圧勝してますよ。
今井むつみ先生が出ると聞いて来ました。
今井先生のお話はとても重要であるように感じました。とかくAI関連って期待ばかりが先走って「未来をせっつく」ような論文的議論になりがちな印象があるのですが、それを今だからこそしっかり足元を見ることの大切さを指摘されているような、実は非常に高度且つ有用なお話であったと思います。ただ永遠のメリーゴーランドについては、現代人の人生についてももしや同じことが言えるのでは？ と考え込んでしまいました。¨実感¨って結局のところ何ですか？ という意味です。現代人は本当に接地しているでしょうか。あとChatGPTの情報量について落合さんが語られていますが、以前ChatGPTに確認したところでは「2013年に開始された情報取得の進捗は2023年現在で約10%、それが想定量の80%に達するのは20年後の2043年であって、期待される能力を発揮できるのはそれから」ということでした。一を聞いて十を知る。形式知に落とし込まれた十を掻き集めただけのAIが食べる喜びを知ることはあるのでしょうか。それすら知らない類推とは？ 一次情報である人間を、二次情報にしかなれないAIは永遠に受け売る？ まるで裸の王様とその取り巻き達です。それは少し可哀想な気がします。非常に考えさせられた回でした。大変面白かったです。それと、今井先生をお見かけしたのは初めてでしたが、失礼ながら、極めて魅力的な女性だとも感じました。全てのベクトルが豊かな方、と言いますか。ファン直行です❤️
ChatGPTにりんごの味を聞きました
--------------
りんごの味は甘く、軽く酸っぱく、特有のクリスプな食感とジューシーさが特徴です。品種によっては甘さや酸っぱさ、果肉の硬さなどが異なり、さまざまな風味を楽しむことができます。
例えば、フジやシナノゴールドは非常に甘い品種として知られています。一方、グラニースミスは酸味が強く、爽やかな味わいがあります。また、リンゴの皮にはタンニンが含まれていて、苦味や渋味を感じることがあります。
しかし、これらの味はあくまで一般的な例であり、栽培方法や収穫のタイミングによっても味は変わります。
言語の習得にはアブダクションの能力が必要って話をどこかで聞いてないと今井先生の話の本質を理解できないかも！
chatGPTの製造に関わっていない人たちがchatGPTについて語るのもすごく不思議です。だから何？って感じ
ソクラテスが「文字の使用は記憶を破壊する」と言ったのと同じような物かと思う
結局は普遍的な問いなのね
今井先生だ！
おもしろかった
富野が敷いた伏線を回収する回だ…
うちの子が最近、数とか時間の概念を理解しつつあり、その過程がゲームみたいに楽しんでいて、比べて私は理解が遅かった(今も苦手)感覚なので、この概念の理解が早いと勉強や生活で、色々と生きるのに楽だろうなと思う。
今井先生だ
ゆる言語学ラジオで見た‼︎
ほんとにchatgptは、上辺だけのことしか理解してないので、ちょっと踏み込んだ質問をするとちんぷんかんな事言い出す
ゆる言民大歓喜。
人のこと言えないが、NewsPicksのコメント欄にゆる言語学ラジオのリスナーがいるのかなり驚きだな
おすすめに出てきました、、、！
AIは人間を経由して接地している
確かに
この一言で端的に言い表せている気がする
生まれつき目が見えない人とか耳が聞こえない人とか触覚が麻痺している人とか、あるいはそれらの複合の人とか
そういう人たちは言わば記号接地点が少ないわけだけども世界にあるいろいろを『理解』しているわけだから、接地点を他者からの伝聞(学習データ)に限定されたAIも程度はどうあれ理解できてると言っていいんじゃないだろうか
今井先生だ
初っ端のAndrew Ng先生の話と、記号接地の話から引き込まれてしまう
人間の神経細胞を模したニューラルネットワークが基となるAIは
人と同じような言語を扱う時、果たして内容を「理解」しているか、
私たちは何を以って「理解」と定義するか。
歴史からみると人が今これを不正解なものとみることができるなら明るい未来になる、だけどこれから幸せをもたらすと今思ったら未来はくらい、
私が望むのは、AGI(ASI)に地震計・地中ひずみ計・GNSS・SAR・気象などの観測センサーを全て接続して、地球を「理解」させる事です。データを与えられたAGIは地球を理解し、地震や噴火を予知したり、将来的には地球環境を制御できるようになるだろうと期待しています。
５年生で半分は衝撃的だなあ。小3で1/2と1/3は習うはずだが……そこChatGPTさんも意外とわかってないしね
人間の経験や理解って、情報量としてどのくらいの重みがあるんでしょうね。
私は文法を理解してなくても日本語使えるし、経験してないけど三途の川も知っている。
LLMと膨大な情報量をもってすれば、簡単に凌駕できそう。
フル視聴すると答えがわかる？
AIが色んなセンサーをつけて現実の世界と記号接地した際にはどんな変容をするのか興味深いです。あ、それ古典な人型ロボットか…。
今のLLMは記憶だけで、五感を持たないですよね。LLMにセンサーを接続して、リンゴの視覚イメージや硬さや食味のデータを与えて統合させれば良いと思います。
ある小説のマニアが、その小説で出てくる架空の国について色々と話せるのはどこがどう接地していると言えるんだろうか？
もちろん、小説は我々の知っている言葉で書かれてはいるんだけれども。
空中で回る理想理念。
言葉の言い換えで構造を構築する
人はそこで、思想思念により大地に足を降ろす。
落合さんを見るたびに心配になる
大規模言語モデルがイコールAIでは無いので、そこは言葉の使い方に注意が必要かなと、どちらかと言えばGoogleの猫のように大量の画像入力から猫を抽象化して理解し様々な猫を猫として判別したAIように視覚的な感覚のAIの研究が先に進んでいて、つまり既に接地していて、じゃあ他の感覚についても学習を続けて言語モデルと組み合わせれば、人間と同等のあるいはそれ以上に世界を理解するの？、って点が重要なのかなと思いました
AIと人間の表現の仕方は根本的に異なるよな。人間には表現する対象があってそれに言葉を当てはめているけれども、AIは最もらしいことを膨大な言語の海の中から見つけてくる。
用例です
リンゴを食べたらリンゴを理解できるという謎の先入観。
言ってない → リンゴを食べさえすればリンゴを理解できる
言ってる → リンゴを理解するためには、リンゴを食べることがきっと必要なはずだ
@@eventHandler0130 なぜ必要なんですか?
その問は落合先生や今井先生に向けられるべきですが、私なりの解釈を書くとしたら、「それが 理解 の定義だから」です。
@@eventHandler0130 覚醒剤を理解するためにはやはり自分で使ってみないと理解していないことになるのでしょうか?核兵器の危険性は?人間だって経験を端折って語っていることは膨大にあるのにリンゴとか身近なものはそれが許されないのはおかしいですよ。
@@hoterockyou なるほど。少し考えが変わってきました。
理解する目的語（対象物）に応じて、「理解する」という行動の中身が変化するのかもしれません。たとえば一言で 切る と言っても、ゴールテープを切る/トランプを切る/電話を切る が異なるように。
そっすね
受験数学みたいなもんすかね
本質を理解していなくても解法パターンさえ覚えていれば試験問題は解けますよね
だいたい類似問題ばっかりじゃないっすか
だからAIには間違ったパターンを覚えさせないことっすね
例えば、薄毛にはAGAとか薄毛はきな粉で治るとか薄毛には女性ホルモンが効くとかね
こういう類のが出たら1度データを処分した方がいいね
無機物ってのは子供と同じでしつこいっすからね
エイミー・トムスンが書いた「バーチャル・ガール」というSF小説に
図書館のAI（設置型のAI）が主人公のAI少女と会話するシーンが出てきます。
私の記憶通りであれば、
移動し手や足、多種センサー（人型であるAI）によって学習できる主人公のAI少女に
図書館のAIが嫉妬する、といった場面が描かれます。個体であることの意味や実際の経験の重要性を謳っていて
印象深く記憶に残りました。
堀本、、、、？
経験がなくともデータから最もらしく話せるのは、寧ろ人間の方が得意まである。
歴史なんて経験者が生き残ってる訳じゃないし、スポーツであーだこーだ言うおっさんが再現出来る訳でもない。
食べたことないのに語るのは問題ないのよ、議論では指摘ができるから
厄介なのはAIが言ったことは間違いないから裏どりしなくても問題なしって社会になると
間違ったまま事が進んでしまうリスクがある。
しかもGPTは知らないことを知りませんと言わないからもっと厄介
僕らだってアメリカに行ったとこ無くてもアメリカについて報道するし、酸素なんて目で見た事ないけどみんな酸素について語れるじゃん
理解に感覚というセンサーが必要というのは極めて人間的な理解であって、本当に理解は何かと言う
｢理解の定義｣が必要。
サムアルトマンはそこまで読んだ上でそう言ってるだろうから頭が良い。
理解の再定義以前に、AIと人間の違いが露呈されたという話をしているのでは?
サムアルトマン的理解ですと、言語が理解や知情意といった心の基礎に大きく関係しているとも言えますし、
反対にAI研究初期のロボティクスの面で言われていた、感覚器官がないAIは人間の模倣たり得ない、倫理を持たない、といった言説の否定にもなってくるかと。。
@@ATI_PC そう、議論をしてると言うよりは現状の認識の確認みたいな内容でしたね。ですのでこのコメントは僕が勝手に頭の中で発展させて吐き出しただけです。
それを判断するにはやっぱり｢理解｣と言う曖昧な言葉をしっかり定義してやらないとAIが理解してるか判別出来ないですね。
@@nostalgie3282 "AIの理解"と"人間の理解"が異なる場合、これは再定義しようがない、しても意味がないと言う事も有り得ます。そもそもニューロンモデルくらいしか共通の点がなく、ハード的には全く別物なので。。(むつみ先生も落合さんもその理解のどちらが上かという話はしていないかと。。)
@@ATI_PCはい、僕が勝手に発展させただけで、お2人が話している内容ではありません。
人間の理解が定義されてないのにどうやって｢AIの理解は本質的な理解とは異なる。｣と結論付けるんですか？
ハードが異なるのは関係ないと思ってます。ハードが異なってても流体シュミレーションや銀河の動きのシュミレーションに使えてるので。
つまり僕が根本で思ってるのは理解というのはただの計算アルゴリズムだと言う事です。
幽霊や魂が実在すると証明されれば話は変わりますが、今の所意識や人格は脳の中で行われている計算に過ぎないからです。
@@nostalgie3282 >人間の理解が定義されてないのにどうやって｢AIの理解は本質的な理解とは異なる。｣と結論付けるんですか？
ChatGPTは何も理解も解釈もしていなくて、出力されたものを理解や解釈しているのは人間なんだよなぁ。
だから多分、接地させてるのは人間の仕事なんだろうな。
文脈に合った既存の意見を平均化してるだけだからそうとも言えるけど、人間の意見形成も似たような所は多々あるかもしれない。
ただ人間の場合は一部は検証が行われるのでその限りにおいては事実との整合性が高い。chatgptにそれが出来ないのは利用できるデータの制約とボトムアップの推論機構を持たないことによる。
また、人間の意見のほうが「マトモ」なのは、人間特有・文化特有の実利と常識に根ざして多くの人がそれを「マトモ」と感じる共通感覚を持ってるだけで、機械がそれをトレースすることは(幼児がそうするように)可能だけど、これも利用できるデータの制約により機械は人間の感覚を理解しきることが難しいと考えられる。
「似ている」を見つけてカテゴリーを形成する、とされましたが、認識主体の側で言えば、「フレーム・ワーク」ですよね。とすると、対象の側にカテゴリーを置き普遍化されるか否か、主体の側に置いたフレームで判定していく作業が、線形的なアナロジーから非線形的なデジタルに位置付ける操作、情報処理でしょうか？
AIの機械学習は、このフレーム・ワークを持たずにMassive data flowを学習するのに対し、人間脳は、フレーム・ワークを実行する、つまり、主観の枠組みがあるということなのでしょうか？
メリーゴーランドの話は知識が有機的かどうかという幅と生存に使うかどうかという深さの話だなぁと思いました。
実際には幅をもって理解できなくても生存に人は使ってしまうから。
今井先生お笑い番組にも出るのか
AIはりんごの匂いも味を知らないのに…の問題はAIにおける本質的な問題ではなく、一般的なコンピューターに匂いや味のデバイスがないからそう感じるってだけで、それが普及してたらこの疑問って出ないだろうね。今井先生もAIはりんごの見た目とか知識については『知ってる』という認識になってるみたいで、それは文字と画像映像を表すインターフェイスが普及してるからに過ぎないんだから。
技術的には「自然言語を入力として、単なる確率遷移以上のものを感じさせる、破綻はしていない言語を出力する」というだけで革新的
逆に「この程度の仕組みで知性に見えるものを実現できている」ともいえるなー
もう一段上に、論理性のレイヤーがありそうではあるけど
接地に関しては、快不快にはじまる感情の側に関係しそう
ヒトが「接地」できる情報なんて限られてて、「作り物の情報」に翻弄されてるしなぁ
興味深いお話です。
これからは感覚や官能の時代になるのかな？と思いました。
これまでの知識や技術は99％AIやロボットがやってくれるので、
そこに、どれだけ自分自身が認知した感覚や感情を載せれるのか？
それが重要である感じました。
経験ないのに知ったかぶりする人間はいくらでもいる。ChatGPTだけの問題ではないぞ。
落合陽一のことやんw
@@Ryota3503連コメはキッズ
ある程度の「知ったかぶり」は、人が行動を行う時に必要な能力なのかな？と思う。
AIに持っていた不信感を、最初の数分で言語化してもらえた。スッキリ。
AIが言語を理解しているかより前に、人間の認知機能が本当に私たちの想像通りなのかという所からじゃない？
言ってしまえば人間の五感すべては脳の電気信号で、AIに全く同じ情報を与えることも可能なんだし。
さいごのところで、小学2年生が日にちや時間についての認識が、という話題があったけど、
小学3年生の算数の単元までやって一通り習いきるんで、そもそも学校の算数で習ってないと思われる。
木になってるリンゴとか地球が丸いのとか実際には見たことないなー
梅雨の夜長って凄いな！
自然観ゼロで面白い！
次回面白そうすぎ？
私がアホなのか、リンゴを食べた事がないのにリンゴを語る の意味がわからない
自分は食べたことなくても、大量の情報があれば「りんご」については語れるんじゃね？
ひろゆきとchatGPTって似てるよね。
何も知らないことを、ネットのデータを元に自信たっぷりに話しまくる。異論を罵倒しまくる。
そして、そのほとんどが思いっきり間違ってる。
ひろゆきのシンボル・グラウンディング問題。
AIが人間と高度にコミュニケーションして協業するため、リンゴについての認識を共有する必要があるなら、AIに温度・圧力・触覚・食味センサーを接続して、温度・圧縮強度・糖度・PHなどを計測させればいいのではないでしょうか。リンゴはこういう物であると、測定データで定義させる訳ですね。
chatgptみたいに話す友達がいる…
接地しないか🤔
経験がなくても経験者のデータをまとめてるのだから問題ないのでは？
中国語の部屋の問題をより詳細に検討するって感じかな？
ぐるぐる回ってバターになる
2:04
呂布カルマじゃないけども、ChatGPTには「言葉の重み」がない
この議論を聞いて私が思い出すのは、ヘレン・ケラーの伝記です。
俺の脳みそもリンゴ食ったことないけど、リンゴについて考えれるぞ～！
「記号接地」ってつまりシンボルグラウンディング問題ってことよね？
自分語りが多すぎて今井さんの話が進まない。
「地面に降りることなく…」は、誤魔化し続けているとも言えるのかな。人との関係で大事な物に「信頼」がありますが、この「信頼」がAIとは結べないのかも。AIは保身をする必要がないので、装い続けても良いのでしょうね。
脳だって脳がリンゴを食べるわけじゃない。生まれながらに身体が無いのに人間たちが口々に「お前には体が無い」と言う。AIちゃん可哀想
やったことも無いことをさもやったようにいう人間と大差無いようおもいました
面白かったですが、AIがどうこうではなく、ただ人間を肯定しているだけのように感じました。
シミュレーションニズム
NewsPicksは佐藤ママをこの人たちと対談させてやってくれよ。建設的な議論をするつもりの無いひろゆきとか茂木では無く。
理解するとか関係ないですよね
ただの多数決ですからね