大規模言語モデルはただの遷移図。実際に作って理解しよう!【大規模言語モデル1】

Поділитися
Вставка
  • Опубліковано 5 січ 2025

КОМЕНТАРІ • 186

  • @yurucom
    @yurucom  6 місяців тому +24

    プロモーション:Notion AI
    Notion を無料で使い始めて、月額 10 ドルで NotioAI も利用してみてください。
    ntn.so/yurucom1
    【ことラボ】
    ◯Twitter → x.com/KotoLaboRyo
    ◯UA-cam → www.youtube.com/@kotolabo
    【参考文献】
    ◯LLMの現在(スライド)
    speakerdeck.com/pfn/llmnoxian-zai
    ◯大規模言語モデル
    amzn.to/3VKqed7
    【サポーターコミュニティへの加入はこちらから!】
    yurugengo.com/support
    【おたよりフォーム】
    forms.gle/BLEZpLcdEPmoZTH4A
    ※皆様からの楽しいおたよりをお待ちしています!

    • @kettle9265
      @kettle9265 6 місяців тому

      概要欄と固定コメントで脱字してませんか?
      NotioAI → Notion AI

    • @meiorzz
      @meiorzz 6 місяців тому

      Notion ってオフラインで使えないんすよねー。アタシは、共有用にしてます。

  • @miyabi-qt7ih
    @miyabi-qt7ih 6 місяців тому +275

    りょーさん、ホリモトモリモト上位互換じゃん

  • @gnwf47
    @gnwf47 6 місяців тому +92

    この動画のコメント欄における、
    「堀」に続く文字の遷移確率は
    以下の通り。
    堀→元(78%)
    堀→本(22%)
    なお、n = 9
    ※2024年6月16日18時00分現在

  • @文學少年
    @文學少年 6 місяців тому +93

    りょーさん博士号取得してるの強すぎる。
    UA-camやりながら博士取得したなんて。

  • @mugen_gamelab
    @mugen_gamelab 6 місяців тому +182

    りょーさんまさかのコンピュータ系博士号
    堀元と水野を足して2をかけた存在だったのか……

    • @hukuuchi
      @hukuuchi 6 місяців тому +38

      堀元の絶対値と言わないやさしさ

  • @arcsin1203
    @arcsin1203 6 місяців тому +162

    りょー 100%→ さん 100%→ の 100%→ 笑顔 100%→ から 100%→ しか 100%→ 取れ 100%→ ない 100%→ 栄養 100%→ が 100%→ ある

    • @天才の証明
      @天才の証明 6 місяців тому +36

      普通の遷移図で良くて笑うw

    • @なつき夏樹-t6g
      @なつき夏樹-t6g 6 місяців тому +23

      n=1

    • @一郎-b1l
      @一郎-b1l 6 місяців тому +4

      からしか辺りからはマジで100%に近い確率になってそうてまはある

  • @ただ単
    @ただ単 6 місяців тому +79

    かなりりょーさんが一人ゆる言語学ラジオ過ぎておもろい

  • @Sasami1729_
    @Sasami1729_ 6 місяців тому +20

    びっくりしてるりょーさん、笑ってるりょーさん、にこにこしてるりょーさん、キマってるりょーさん、かわいいな……

  • @nashi.2279
    @nashi.2279 6 місяців тому +78

    りょーさんのすごさと堀本・水野さんのピエロさが際立っている神回だと思いました。

    • @lanternsaristotle2255
      @lanternsaristotle2255 6 місяців тому

      また、ゲスト回の評価が上がってしまう、、、

  • @gamemaru
    @gamemaru 6 місяців тому +21

    7:45
    マルコフ過程に驚くりょーさん好き

  • @TomTomMambo
    @TomTomMambo 6 місяців тому +34

    りょーさんたまに遮光器土偶みたいな顔なるのジワジワくる

  • @Redcoral_moe
    @Redcoral_moe 6 місяців тому +178

    コンピュータサイエンスで博士号を持っている言語学系youtuberってもしかしてスーパー水野見ってコト!?

  • @s_kanata220
    @s_kanata220 6 місяців тому +29

    一人でどっちのチャンネルも乗っ取れる男、りょー

  • @勇者あああい-m9z
    @勇者あああい-m9z 6 місяців тому +18

    僕がマウスが4の下り、数字に対応する記述をしてなかったせいでそのまま出力されてしまったプログラム感があってとても趣がある。

  • @rabutlilriddle1904
    @rabutlilriddle1904 6 місяців тому +19

    たまに出番がくると、張り切って(ただし当社比)答えるりょーさんが面白いw

  • @kurata_wolke
    @kurata_wolke 6 місяців тому +52

    25:57 「小手先」って聞いた瞬間のりょーさんの笑顔怖すぎるんですが

  • @chii8039
    @chii8039 6 місяців тому +5

    28:06 !cat → びっくりキャット!!、いいなあ。

  • @toshihirom2038
    @toshihirom2038 6 місяців тому +118

    ことラボりょーさんがことラボりょーさん過ぎてモノマネかと思った

  • @user-catBrathers
    @user-catBrathers 6 місяців тому +32

    毎回専門家の中抜きインターフェイスに徹する堀元さん

  • @yaochuhai
    @yaochuhai 6 місяців тому +73

    りょーさんの著書、持ってたんだ自分...

  • @mudaso-heavy-user
    @mudaso-heavy-user 6 місяців тому +41

    楽しみに待ってました

    • @tsuyuki007
      @tsuyuki007 6 місяців тому +3

      ぼくも!

    • @鰤臼
      @鰤臼 6 місяців тому +4

      たのまち!

    • @Pepe-dn4od
      @Pepe-dn4od 6 місяців тому +3

      奇遇でね、僕もです😊

    • @tsicsafjapan9371
      @tsicsafjapan9371 6 місяців тому +3

      たのまち

  • @あいうえお-z4c4c
    @あいうえお-z4c4c 6 місяців тому +22

    ゆるコンゲスト回、江崎先生もりょさんも説明が上手いから無理やり画面外に弾き出して語ってるようにしか見えない笑

  • @azuki97
    @azuki97 6 місяців тому +26

    マルコフ過程のときのりょーさんの顔すき

    • @gnwf47
      @gnwf47 6 місяців тому

      そのためのワイプですよね

  • @_saw6754
    @_saw6754 6 місяців тому +33

    コンピュータ科学と言語学のあわさった分野の博士持ちって、りょーさんホリモトミズノ融合体の上位概念みたいな存在じゃん

  • @lafit.9106
    @lafit.9106 6 місяців тому +8

    りょーさんの素の笑顔とかツッコミ見られるの最高すぎ❤次も楽しみにしてます!

  • @musicdm7644
    @musicdm7644 6 місяців тому +44

    ・別画面
    ・鉄の表情
    ・声のトーン
    りょーさんが精巧に作られたAIではなく生身であるのが分かるまで5分かかりました。

  • @gush-accessories
    @gush-accessories 6 місяців тому +5

    高精度堀元モデルがドツボにハマっていく過程が動画の最後におさめられていてわかりやすかった

  • @Kobarienne
    @Kobarienne 6 місяців тому +5

    思いがけないところでりょーさん登場で嬉しい週末に。
    ことラボでやってた「単語ベクトル」がとても興味深かったので、次回が楽しみです❤

  • @user-qs3id1jd1n
    @user-qs3id1jd1n 6 місяців тому +11

    りょーさん2人でもう上位版のゆる言語学もゆるコンピュータ科学ラジオできるじゃん…

  • @mimiget
    @mimiget 6 місяців тому +24

    びっくりキャット可愛くて草

  • @shomwoys
    @shomwoys 6 місяців тому +3

    りょーさんの元気な「ダメです!」が聞けて大満足
    これなかなか良シリーズになるのでは?
    りょーさんだk
    NotionAIの中の人も呼んで「こんな使い方したらおもろいで」ってので締めれたりしたら、興味的にも実用的にもチャリンチャリン的にも最強なのでは

  • @クアントロ大尉
    @クアントロ大尉 6 місяців тому +9

    装丁見る限り、「(大規模言語モデルについて)知ってればいいや」とかいうぬるい層を対象にした本じゃないし読めないのも当然。
    「知っている」と「作れる」の間には大きな開きがある。この本は後者になりたい人向けと思われる。

  • @idmuri
    @idmuri 6 місяців тому +11

    カッパについてのうんちくを聞いて一般知識から答えないということは純粋にnotionに蓄えられた情報から答えてくれるってこと…!?
    それなら本当に助かる
    具にもつかない素朴心理学的な知識を排して色々ときけるということに…!

  • @鈴木一-q4q
    @鈴木一-q4q 6 місяців тому +5

    ことラボのりょーさんは、ボイニッチ手稿とか解説されてましたよね
    次回もたのしみ

  • @まっきー-r3j
    @まっきー-r3j 6 місяців тому +2

    面白さ優先して、どの部分の執筆したか確認しないでツッコミ入れてやらかしてるの堀元しぐさあって良い。もっとやらかしてほしい。

  • @TheSlowcub
    @TheSlowcub 6 місяців тому

    めちゃめちゃ楽しいです😂
    雑談に混ぜてもらってる感じ😂
    それで学習できるんだから最高😊

  • @godzillaaquatimez
    @godzillaaquatimez 6 місяців тому +3

    素晴らしい太貴模言語モデルができましたね!

  • @セイゲドン
    @セイゲドン 6 місяців тому +91

    りょーさんの下位互換とAIの下位互換がやってるチャンネル

  • @sorrycomment
    @sorrycomment 6 місяців тому +8

    優秀な専門家になんちゅー照明の当て方(笑)

  • @shotoutlaw
    @shotoutlaw 6 місяців тому +5

    りょーさんゲスト嬉しすぎる

  • @atp-e9j
    @atp-e9j 6 місяців тому +4

    原理の説明がシンプルで分かりやすくて良かったです。分かったつもりになれます鉛筆とサイコロはビジュアルで良かったです。ロシア風の名前の方も後で調べてみます。では、さようなら

  • @kotokoto8362
    @kotokoto8362 6 місяців тому +9

    院生と人気UA-camr両立してLLM関連の研究で博士号とって業界注目の本の著者のひとりでカッコよくて面白くて声も良い、だと...🥴
    もうこれ都市伝説やろ
    しかしこの本見たことあるわぁ...

  • @ヒトガタ芝刈機
    @ヒトガタ芝刈機 6 місяців тому +12

    江崎先生回以来の福音書(中抜き仲介業者)スタイルだぁーー❗
    楽しみにまってました。

  • @Undo-00
    @Undo-00 6 місяців тому +26

    マジで仲悪くなったのかと心配してたから安心した

  • @hbs5394
    @hbs5394 6 місяців тому +2

    最近ニューラルネットワークの勉強終わった後なので、ちょうどLLMに関心が向いてるところでした!
    次回楽しみにしてます!!

  • @lyz_2151
    @lyz_2151 6 місяців тому +5

    堀元見が「効率重視の世の中はよくない」とか言うんかよって笑ってたら即突っ込まれてて更に笑った

  • @zc33s31
    @zc33s31 6 місяців тому +26

    神(ゲスト)の神託を得るエセ宣教師回はハズレなし。
    世の理不尽さを感じる。

  • @kanametatsuya
    @kanametatsuya 6 місяців тому +2

    次回からもとんでもなく楽しみ

  • @毒薬
    @毒薬 6 місяців тому +39

    こっくりさんって生成AI……?

    • @ダレカサン_イラスト
      @ダレカサン_イラスト 6 місяців тому +20

      コンピューター室でやったら先生に「おっ!言語モデル作ってるねぇ!平仮名と数字一文字ずつで作るのは、遷移が膨大過ぎてしんどいかもだけど、シブくて好きだな~ッ」とか言われるのか...生徒熱出しちゃうよ

  • @シンラ-c9n
    @シンラ-c9n 6 місяців тому +1

    やったー!
    やって欲しいと思ってた題材がついに!

  • @羽蛾-p4x
    @羽蛾-p4x 6 місяців тому +5

    7:47 りょーさん驚く

  • @はなまさきとう
    @はなまさきとう 6 місяців тому +3

    10:53 d100助かる

  • @sirius8203
    @sirius8203 6 місяців тому +6

    3:53 調べたらえっっぐい経歴出てきて笑う

  • @rafmanov1497
    @rafmanov1497 6 місяців тому +20

    ChatGPTも紙と鉛筆とサイコロのようなもの と聞いて、「パソコン(電子計算機)もソロバンに毛が生えたようなもの」を思い出した

    • @pihha5204
      @pihha5204 6 місяців тому +2

      ???「チェスなんてただのマルバツゲーム」

  • @hrsm-chn
    @hrsm-chn 6 місяців тому +2

    試しにGPT‐4oに「非文を言って」と頼んだら非文を生成してくれました。かしこい

  • @aaaajp
    @aaaajp 6 місяців тому +17

    りょーさん、堀元と水野を足して2で割らないタイプの人だったか...

  • @mkd09218
    @mkd09218 6 місяців тому +8

    ちょうど『大規模言語モデル入門』、卒業研究に使わせてもらってます。
    「ChatGPTにクイズを答えさせる」の章、助かります。

  • @ryuukarinn
    @ryuukarinn 6 місяців тому +1

    ちょうど自然には来ないものが組み合わされる可能性が高い、気持ち悪い芸術を出力する生成AIを作ってみようと思っていたところなので助かりました!

  • @canterantanable
    @canterantanable 6 місяців тому +47

    ってことは、水野さんと堀本さんを足して、4でかけたら、りょーさんってこと!?

  • @KT-xz9ys
    @KT-xz9ys 6 місяців тому +1

    機械学習のちょうど良い骨太本を探していたので早速購入いたしました!

  • @ぴろ-m4h
    @ぴろ-m4h 6 місяців тому +22

    りょーさん、博士号取ってたのか…。しかもコンピュータ系の(語彙力低い)??

  • @ぱんぷきん-i5k
    @ぱんぷきん-i5k 6 місяців тому +2

    りょーさんって何者かとずっと思ってたけど
    自然言語処理の専攻だったのか...!

  • @komoliuta
    @komoliuta 6 місяців тому +7

    球に近いサイコロ止まらなくて亡くなった話好き

  • @you-cm6jx
    @you-cm6jx 6 місяців тому +8

    りょーさんのカラオケ見たすぎるw

  • @atp-e9j
    @atp-e9j 6 місяців тому +2

    "The Female Student" captures the emotions of a young girl as she experiences a day filled with various moments, waiting for happiness that arrives a night too late.

  • @komi3032
    @komi3032 6 місяців тому +11

    絶対trpgやるのに使えるから買ってええやろって気持ちで100面ダイス買ってる

  • @tamarind_kingdom
    @tamarind_kingdom 6 місяців тому +14

    りょーさん、そんなにつよつよの方だったのか…

  • @秋吉雪
    @秋吉雪 6 місяців тому +10

    李さん!

  • @hiroyukippp7380
    @hiroyukippp7380 6 місяців тому +5

    りょうさんの新情報のコンピュータサイエンス博士号とマキシマムザホルモン歌うって高低差ありすぎてハゲそう。

  • @kiroro7912
    @kiroro7912 6 місяців тому +18

    東大で情報学博士号とってるのか。
    しかも自然言語処理やってて、UA-camr としても人気。
    最近ゲスト(上位互換)多いな笑

  • @koi506
    @koi506 6 місяців тому +8

    数理モデル回に倣った例の福音書スタイルですね。

  • @Sごろう-i2p
    @Sごろう-i2p 6 місяців тому +13

    僕はうなぎだ
    って小規模言語モデルが吐き出した文かもしれん

  • @mos399
    @mos399 6 місяців тому +1

    次回のCWEも楽しみです。
    なるほど!あいまい検索の精度が上がるんですね。
    ちなみに、プロ将棋棋士の谷合先生がBERT を使っていわゆる将棋AIを作った動画を観たことがあります。将棋盤(81字詰め原稿用紙と言えなくもない)や駒台に駒(単語そのもの)が配置された状態を文章に見立てて学習させたそうです。人間と違い、妙手と(時折)珍手が織り混ざった面白い棋風でした。

    • @----___----___----___----___--
      @----___----___----___----___-- 6 місяців тому

      あのヨビノリさんの動画で作ったソフトをさらに進化させて、今年の世界コンピュータ将棋選手権に出場されています。
      しかも決勝ラウンドまで進出し、8位と見事な成績を納めてびっくりです。

    • @mos399
      @mos399 6 місяців тому

      続報を教えてくださってありがとうございます。
      素人目には「角筋(例えば88から22玉を覗く)なんかは81字詰め原稿用紙でいうと61文字も離れてる。さらに79に角を引いて24で角交換を狙う筋とも10文字も離れてるのに、transformerの中ではどんな評価関数なんだ?」と不思議です。例えるなら、谷合先生のpolonaiseが「ページ左下の文末から右上の文頭を推定する」という独特の読書術を持っていることになりますよね。

  • @kentoo_1
    @kentoo_1 6 місяців тому

    りょーさん多才すぎる… LLM入門積読してます!いつか読む!

  • @kats-ch
    @kats-ch 3 місяці тому

    最近AIイラストを始めましたが、ど文系なのでpythonやpytorchはなんじゃーとなりましたが、Stability Matrixというソフトが全部代わりにやってくれるので何も考えなくても出来るようになったのを思い出しました。

  • @例のあきやま
    @例のあきやま 6 місяців тому +5

    つまり、マキシマム ザ りょーさんはホリモトモリモトミズノジズノってコト?

  • @Anliy-i1n
    @Anliy-i1n 6 місяців тому +1

    新聞記事をクリップして、死蔵させていたけど、これで掘り起こせそう。(活用できるかは別)

  • @daibun2001
    @daibun2001 6 місяців тому +1

    コンピュータ博士って自称するのめちゃくちゃかっこいいな

  • @ぺさぺさ
    @ぺさぺさ 6 місяців тому +2

    専門家が体調不良にならなくて良かった!🐱

    • @ぺさぺさ
      @ぺさぺさ 6 місяців тому +1

      ChatGPTに問いました🐱
      自分: 「僕はマウスができない。」
      この文は自然ですか?そして、この文をもっと自然にするとどうなりますか?
      ChatGPT: 「僕はマウスができない。」という文はやや不自然に感じます。「マウスができない」という表現がわかりにくいからです。おそらく「マウスを使うことができない」や「マウス操作ができない」と言いたいのだと思います。
      もっと自然な表現にすると、以下のようになります:
      「僕はマウスを使うことができない。」
      「僕はマウス操作ができない。」
      状況によっては、もう少し具体的に言うこともできます:
      「僕はマウスの操作が苦手だ。」
      「僕はマウスを使うのが難しい。」
      これらの表現の方が、より自然に聞こえるでしょう。

    • @ぺさぺさ
      @ぺさぺさ 6 місяців тому

      ちなみに「できる」には「作れる」の意味もある気がします(「赤ちゃんができた。」「AGIができた。」など)。

  • @趣味-d3g
    @趣味-d3g 4 місяці тому

    最近の推しチャンネルがお互い知り合いで笑った

  • @foxface120
    @foxface120 6 місяців тому +2

    12:05 型を間違える水野さん

  • @天才の証明
    @天才の証明 6 місяців тому +18

    りょーさんそっち系だったんだ
    その本読んだことあるかも

    • @天才の証明
      @天才の証明 6 місяців тому

      これ、これから自然言語処理やる学生には良い刺激かも

  • @user-MizumasiGohanKansokusha
    @user-MizumasiGohanKansokusha 6 місяців тому +1

    Notion きたー!

  • @oshiba_tetsuzo
    @oshiba_tetsuzo 6 місяців тому +1

    画像生成AIも色の遷移確率とパターンとで似たようなことをしているという理解で良いのでしょうか

  • @スイッチセブン
    @スイッチセブン 6 місяців тому +5

    18:58 読書メモ× 野菜メモ〇

  • @ZAP_Ruuuuuu
    @ZAP_Ruuuuuu 6 місяців тому +1

    キャー!リョーサーン!

  • @atp-e9j
    @atp-e9j 6 місяців тому

    公衆電話の色も辞書以外ではもうわからない。赤青黄色緑グレー黄色から100円玉が使えるようになった74年ぐらいかな?黄色はプッシュ式ダイヤル式もあったんだろうか?

  • @一郎-b1l
    @一郎-b1l 6 місяців тому +1

    りょーさんがホルモン歌ってんの見たすぎるんだが

  • @penguin6241
    @penguin6241 6 місяців тому +2

    概要欄のNotionAIの記載誤字ってますね。

    • @penguin6241
      @penguin6241 6 місяців тому +1

      NotioAIも利用してみてくださいになってる

  • @HACKIE300
    @HACKIE300 6 місяців тому +3

    李凌寒, 鶴岡慶雅, 対訳データを使わないマルチリンガル表現学習に必要な分布構造とは何か,言語処理学会第29回年次大会 (NLP2023), 2023年3月. (最優秀賞)

  • @atp-e9j
    @atp-e9j 6 місяців тому

    もといという単語辞書を引く正確に理解するため、元に戻すということらしい。ごめんね。ってことじゃないみたい。軍隊用語日本に現在あるのは軍隊みたいな自衛隊

  • @gamma9472
    @gamma9472 6 місяців тому +2

    言語モデルの基本が「与えられた文から、次に現れる単語を予測する」だというのはきっと正しい説明なんだろうけど、私たちがユーザーとして見るChatGPT等の実現していることが「質問に答える」なので、「文の続きを予測する」から「質問に答える」への繋がりが見えなくて結局よく分からないという感覚が残ってしまう

  • @kuma056
    @kuma056 6 місяців тому +8

    当方 アナログゲーマー
    100面ダイス。別名ゴルフボール
    完全にネタアイテム。なかなか止まらないし、止まったところでどれが一番上かもわかりづらいしで、実用性はない。
    普通は、10面ダイスを10の位と1の位の2回(または2つ)振って1〜100の乱数を作る
    4面ダイス。別名マキビシ
    図形としての抜群の安定度のせいで、全然回らない。
    手からスライドしてそのまま落ちるようにも見えて、イカサマ疑惑も出るくらい。
    気にする人は 4k面ダイス(kは2以上の整数)の出目dを d mod 4 (ただし、0の場合は4とする) や flloor( (d-1)/k) + 1 で変換して代用する。

  • @atp-e9j
    @atp-e9j 6 місяців тому

    生成AI今はトピックパンケーキより流行ってる初歩のラジオなんて言う雑誌が昔あった。初歩のAI

  • @tekerettunopaa-b1d
    @tekerettunopaa-b1d 6 місяців тому

    これって Apple intelligence が搭載されたら、メモや位置情報などの個人情報をもとに回答してくれるようになるってことかな?

  • @user-kumashiro
    @user-kumashiro Місяць тому

    100面ダイスなんてTRPG民しか使わないだろと思ったらこんなところで見かけるとは

  • @山田-i5i
    @山田-i5i 6 місяців тому +1

    りょーさん、バキバキの目うまいな…

  • @atp-e9j
    @atp-e9j 6 місяців тому

    ガンダムは40年、もう研究対象になっている

  • @jjjj-ce8tr
    @jjjj-ce8tr 6 місяців тому

    枝葉(単語ベクトル)のほうが幹になってないかなぁ?

  • @hisenkei
    @hisenkei 6 місяців тому +1

    直前の単語だけが次の単語に影響するという表現は語弊があるような