Відео

あらゆる物理現象の予測ができる「Newton」というAIが発表されたとか…

"From Neurons to Neutrons: A Case Study in Interpretability"を読みました。原子核のデータを有る特殊なトランスフォーマーに読み込ませて、高次元空間に埋め込みます。それを主成分分析して第1, 2, 3主成分をみるとその空間にヘリカル構造が埋め込まれていることが見えます。それから原子核の結合エネルギーなどが分かり、それはワイゼッカーの有名な公式とよく一致します。さらに公式には含まれていないシェルモデル的な構造も第4主成分に表れてきます。つまりワイゼッカーが見落とし、後の研究者が発見した効果(ノーベル賞)が目視で発見できます。100番目の主成分までとれば、誤差はほとんどなくなります。つまり自然は思うほど複雑ではないということです。今後の科学は、データを高次元空間に埋め込んで、その構造を見ることにより、新法則が発見されるでしょう。なぜそのような法則があるのかは、人間は理解できないかも知れません。

巨大な知識構造を理解する。例えていうなら、神々のことは神々しか理解できない。 なるほどこれこそがASIが登場する理由かもしれませんね。これまでの進化は物理的に大きな環境操作を可能としてきましたが、次の進化は知性的な巨大さなのかもしれません。

XAIではDeep learningの入力の変化と出力の変化の関係から物事がどうエンコードされているのか調べようとしました。LLMの場合、言葉などの関係性を高次元空間に落とし込んだものなので、XAIの手法では解釈困難でした。まずは次元圧縮して人間の理解を助けるのは有効そうに思います。例えていうと、LLMの中身をAutoencorderに解釈させて、XAIの手法で人間が理解しやすくする様な。ただ、入力はあくまで人間が作った(話した)データなので、未知の理論がそこに隠れているかはどうでしょうか。知っていて気づいていない理論が浮かび上がった可能性、沢山の領域を学ばせたことで新たな知見が浮かび上がった可能性もありますが、単にパラメタを変えたことで無理やり出された(意味がある)ハルシネーションを、人間が有効だと解釈した可能性も考えられますね。

以前からCNN（convolutional NN）が学習した特徴量を可視化する研究がよく行われていましたが、それのLLM版というイメージですね。 CNNの場合、下の層では基本的な特徴量（エッジやシンプルなパターンなど）で、上位の層に行くほど抽象的な特徴量（犬の顔のようなもの）が学習されていますが、LLMでは下位層と上位層でどのように特徴量が異なるか興味あるところです。

僕はざっくり、“世界モデルの獲得”と理解しています。

ファイナルファンタジーシリーズでも意味深な言葉が多数出てきた、これらは物理的に意味するのか？

LLMの内部が宇宙であるというのは非常に惹かれる。

稚拙で間違っているとは思いますが、多様体仮説のプラトン的様態を、いわばイデア論の構成について、アリストテレス論理学で分析する、そうしたイメージに繋がりました・・。 　イデア理念がロゴス概念化される＝認識された情報となり、「処理されプールされる」、その過程を検証できることになるでしょうか？

保田さんの話された例は入力データは核データそのものですが、私が例に挙げたのは言語データと画像データです。でも基本は同じだと思います。Autoencoderで次元を絞ると、確率密度分布関数の形がラクビーボールとかキュウリのような形になり、その各次元に意味が浮かび上がってくるということです。

多様体仮説はCCE（Contextualized Content Extraction）の基礎理論？

概念の主軸が意味という考えは、離散コサイン変換と量子化で高周波成分をカットし主成分抽出をする画像の圧縮アルゴリズムも、概念をいくつかの主軸で考えて意味をつかむという人間とAIのアルゴリズムも似ていると感じました。 そして意味が既に世界に内在しているという考えは、松田先生がシンギュラリティサロン84で提唱された「魅力」という概念と深く関連していると感じています。今回先生が、物体の存在をラグビーボールの形状に例えて説明されたように、 我々は4次元を見るために目を、5次元目の意味を見るために言語と思考を獲得した。これは、ビックヒストリーにおける知性の進化の必然であり、人間もAIも少し違うアプローチで世界を認識しようとしていると思います。今回の話は、「魅力」と「意味」も含めて是非別動画でじっくり拝見したいです。 さて、話は飛びますが、最近では生成AI技術の発展により、概念を多様な形式で表現することが可能になってきました。私自身、Claudeでの概念の深化、Sunoでの音楽化、Stable Diffusionでの画像化、そして動画化という一連のプロセスを通じて、趣味で概念の多角的な表現を試みています。

LLM内で概念が想起してるなら、クオリアみたいのが湧いてるんでしょうかね？気になります

まあ塚本さん、ちょっといなしすぎ、と言うか、自分も実際に十分に習熟したLLMの中には、新たな物理や化学法則が埋まってる可能性は既に高いと思っています😅 Sparse Encoderで情報抽出と言うのもだいぶ前から論文は出てますが、つまり部分的な情報を拾ってきて再構成するって話ですし、これは脳のBMIなどにも応用できますし、そこで記憶や特徴の入れ込み(書き換え)まで行えるというのもかなり危ない領域が見えてきてるのが分かります。 塚本さんは壮大な話過ぎると思われてるかもですがこれは実際実用で利用できるになった時のインパクトは兆円の単位ではきかないかなあ、と思ってはいます😅

面白いですね。ただ、学習の結果として誤差の小さくなった状態を使うとすると、統計的なフィッティングの一種にも感じられました。人間の理解の方も、数学的な厳密性は無いでしょうから、良い感じにいい加減な点は似てくるのかもしれませんね。

私の知識と圧倒的な差がありすぎて何もコメントできないですが、興味深くて面白かったです。ありがとうございます。

aiと愛

保田先生いつもありがとうございます。私はChatGPTの訳文が好みなので使っています。ChatGPTではカスタムGPTが作れて、一度作っておけば異なる文章を次から次へと翻訳する場合には楽です。表形式に英文と和訳を並べて表示させることも可能です。Geminiが優れているのは、松田先生がおっしゃる通り、長い入力が可能な点ですね。あと、スプレッドシートにエキスポートしてくれるのも良いと思いました。ChatGPTだと、CSV形式で回答してもらって、コピー＆ペーストして「.csv」拡張子で保存し、Excelで読み込みになると思いますので手間がかかります。

どなたかがコメントされている様に、中高年が無理をして(大抵若い頃から体力に自信があった方々に多い)、膝やら腰やら傷める方々😢が多いのです。速く歩く事は確かに筋肉を鍛えることができるし、松田先生の言われる通り脳の働きも良くするのでしょうが、過ぎたるは…何とやら😅　私は犬と一緒にのんびり自然公園を歩き、鳥の声を聞き、風を感じ、深呼吸しながら心安らかに過ごす時間を大切にしています。副交感神経優位になって、人に優しく気分良く過ごせます😂

駅から十分、不動産業界は4.8km/h。

歩行速度を高くできる状態の身体だから寿命が長いというのが、受け入れ易い理由だと思います。歩行速度を高めると寿命が長くなるという短絡ではなく、速度を高めることができる身体になるから寿命を長くできるということですね。 　ここで人間としての重要な問題は、身体の健康が、身体の一部としてその作用を発揮する「脳」とも連動しているということだと思います。 　塚本先生が先日のサロンでの講演会で、人工知能AIの知性作用と飛行機の飛行作用とを、作用特化の観方に置かれて、「情報の集積量と処理速度」と「空間での移動量と移動速度」とは、人間自然知能NIや移動能力を遥かに超えている、とされました。この観方で、例えば自動車やコンピューターの製造工場を見た時、今や人間を遥かに超えているため作業を譲って人間がいない状態で、人工知能に制御されたロボットが製造を担っている現実等に目を向ければ、身体が位置する物質世界での作用も、飛行機の飛行作用と同様に、「人工的能力」が遥かに優っている状況を、目の当たりにすると思います。 　人間自然知能も、社会拡張脳の相互エージェントになり、身体もその特化作用に供して社会貢献してきました。鍛冶屋は鍛冶屋、大工は大工、兵士は兵士、農民は農民。身体作用を要しないエージェントが、神（君主・王）や神々（火の管理と調理・栄養管理にまつわる土器制作集団や、天体・気象の観測から農業歳時記管理集団、治水・灌漑の土木事業管理集団、鉄など金属精錬技術管理集団、等々）とされて、現在の政治家や学者になっていると思います。人間自然知能NIは、個体脳として「万能細胞」のように生まれ出て、その汎用性から、様々な学習経験によって、そうした社会的相互エージェントになっていきます。 　AIは、未だ特化型で製作されており、LLM-AIにして、言語学習という領域に限定特化されています。AGIは、NIが様々な作用エージェントに成れる汎用性をもったように、人工知能もネットワーク上で、工場のAIとロボットに繋がり、それらを連携させていった時に、形成されるのではないか、という気がします。ただ、大きな社会の流れに「人類」が普遍性をもって存在してきたように、AGIも、普遍的な様態で登場することになりますが・・。 　そうすると冒頭の問題に戻って見た時、一個体で人間は脳と身体を有しているわけで、このミクロコスモスは、個体として脳も身体も、一つの連動した作用者として、両方を大事に管理することになるのだと思います。また、個と普遍との問題にして、恐縮ですが・・・。

要するに筋肉量がすべての原因変数では？

無理に速く歩くと、膝軟骨を早く痛めるので逆効果。変形性膝関節症になりやすくなる。特に走るのは御法度。初期症状はわずかにO脚になってくるので垂直に立って両足の膝側面が接触するか確かめればわかる。サプリは全く意味がない。靴底のクッション性高めてもほとんど効果なし。脚の全関節を駆使してショックアブソーブしながらゆっくり歩くのがベスト。速く歩こうと思えば実際に速く歩ければOKなので普段は無理して速く歩くべきではない。

たらたら歩いてました😂早く歩こう、、、

握力は握ったままがいいということでさっそくやってみました、にぎにぎすると指の皮膚が痛かったのですが握ったままであれば皮膚の痛みはなく筋力を鍛えられそうです、握ったまま目をつむって片足２分の時短トレーニングがんばります、ありがとうございました。

脳の認知機能の維持改善には、デュアルタスクと言われる、運動しながら思考したり会話する事が良いそうです。散歩の時に論文の概要を聴きながら内容を考えておられるのは、最高のトレーニングかもしれないなぁ、と思いました。

松田先生から片足立ちのお話を伺って以来、最近毎日目を閉じて片足立ちの練習をしています。最初は30秒立てたり立てなかったりでしたが少しずつ安定してきました。 目を閉じての片足立ちは慣れていないと危ないので、試される方は周りの物に注意して倒れかかった時でも頭をぶつけたりしないように気を付けて行ってみてください。

TTTは凄いと思った テストデータはトレーニング時に使われないように完全に分離させとかないといけないのが常識だった なぜなら過学習して汎化能力が落ちるから でもまさかトレーニング時に使って、新しいことをその場でいかに簡単に覚えられるかを測ることで、 むしろその時点での汎化度合いを測って高める事が出来るだなんて 本当に驚き

人の理解は、その人の個性や環境に影響され、色々な層の理解として、起こり得ると思いますが、AIはその全ての層に置いて(感覚と感情を抜いた)理解し得る(或いは理解出来た風を装う)ということでしょうか？　私の理解も追いついていません😢今日のお話は難しかった😂

見当外れだろうとは思いますが、松田先生の解説をうかがって連想が始まったのが、「デジタルからアナログへの変換」ということでした。私も大雑把に言っている、トマス⇒スコトゥス⇒ライプニッツ⇒カントールへの「無限論」の「連続体仮説」が関連するのではないかと思いました。これについては、以下に情報があります。 　早川書房のweb.頁に「著者ジョージ・ダイソンが語る『アナロジア AIの次に来るもの』の裏側（服部桂）」という解説があります。訳者の服部先生はマクルーハンの翻訳や解説で「人間拡張」について詳しい方です。 　服部先生のUA-cam動画「ChatGPTはもう古い! ーーデジタル時代の終焉と未来」もあります。 　PIVOT 【ChatGPTの次はアナログ社会が来る】科学史家ジョージ・ダイソン氏の不思議なポストAIの予言／AIが自然のように成長する／人類の運命とは／難解で不思議な『アナロジア』を刊行した意義、というのもあります。 　飛行機・ロケットは、「空間を推進する」という離散的様態を”デジタル”に追求したものだと思います。鳥は、自然環境の中で、上昇気流や風といった条件が発生させた連続的様態で、”アナログ”「飛行様態」を示すものの様に思えます。凧・グライダー・飛行機・ヘリコプター等々、離散的機能を人工化したデジタルなベクトルを示す人工物に対して、そうした離散的機能を追求したのでなく、自然環境条件の結果として現象してきた（ダーウィン的進化）者が、鳥という自然物の姿の様に思います。ムササビ等はその単純要素の結果に観えます。 　こうした観方をすると、AIは情報に対する量と処理速度を、デジタルに能力加速させた知能であり、確かにそのベクトルは飛行機・ロケットと同じに思えます。ところがデジタル処理がどんどん進んで、半導体技術がいっそうミクロに離散から連続の方向へ閾値を無限に近づける事態となって、その能力をアナログ処理の様態へと、ベクトル変換が起きている気がします。 　但し、人間の自然知能においても、根本は電子パルスや伝達物質の粒子性等、自然界の物理的・化学的構造の離散性によって、デジタルの様態が見いだされるとは思います。ただ、人工物は未だそこまでのミクロ次元に達していなかったので、自然界をアナログ、人工物をデジタルとしてきたのではないか、と思えます。 　現在は、人工知能のデジタル様態が自然知能のアナログ様態に近づいてきた状況に思えます。ジョージ・ダイソンは、それを言っているのではないでしょうか？ 　この先はさらに離散性と連続性、無限の両極、一と多、個と普遍、発散と収束、エントロピーとネゲントロピー、エネルギーとシステム（情報）、こうした様態が、「ノエシス・ノエセオス」の完成に向かう気がします・・。

AIの真の理解を考えると、概念の積み上げ方式には本質的な限界があります。それは、影から対象を浮かび上がらせるような、存在しないものから存在するものを見出す困難さです。真実の積み上げだけでは真実に到達できず、心は嘘で塗り潰された余白にこそ宿るのかもしれません。ただし、潤沢な計算資源を活用した高度な近似は、実質的な理解となり得ます。さらに、この積み上げ方式に影や余白からのアプローチを組み込むことで、より効率的で深いAIの理解が実現できるかも知れません。

自然知能は自然理解し、人工知能は人工理解するというのは一つの答えですね。

スカウターつけてる人は対戦相手の戦闘能力を見極めてるのか？

MPEG-I SDで各種個人情報のファイルフォーマットも規格化すれば デジタルツイン用途にまでいけそう… NTTも動いてはどうか

ソフトバンクの孫さんが講演で話していたように、自分のエージェントAIと他人のエージェントAIが寝てる間に交渉して提案してくる時代が来る

データの収集方法はやろうと思えば問題なさそうですね。SNSには腐るほど個人情報が転がってますから、「貴方個人に最適化されたサービスを提供します。つきましては個人情報を使わせてください」みたいな規約に同意させてしまえばいいだけですし。用心深い人は回避するかもしれませんが、大半の人はなんとなく同意しそうです

まさしく人間の変わらなさというところに適応したサービスですね。人間は確かにパターン化出来ると思います。

最終的にＡＩ同士でマイクラしてそう

映画「スーパーマン」で、彼(クリプトン星での名前はカル＝エル)が、 死んだ父親(ジョー＝エル)と話すことができたのは、この種の技術なんでしょうね。

従来、社会科学は実験ができないとされてきましたが、この手法を大規模化すれば、単なるシミュレーションではなく、実験科学に近づくかもしれませんね。（インタビューだけではなく言ったことと実際の行動との関係のデータも必要ですが） どのような法律を作れば最も効果的であるかとか、量刑はどの程度であれば再犯率が最も低くなるかとか、即座にしかも個別に判断でき、立法にも司法にも活用できそうです。これまでは法律は社会変化のあとからやってくる（問題が起こってからはじめて対応する、立法する）のが当たり前でしたが、社会変化と同時に、もしくは予防的な法制も可能となるかもしれません。 それと、社会現象の深層に近づけば近づくほど一層、アメリカではなく日本の固有のデータ、基礎となるLLM等の基盤技術の国産化が必要になるようにも思います。

1000人の人格を1つに統合したら人間にとって理想的な人格のAIができそう ASIは色々な通信機器の監視やメディアから人々を学習し、人々が最小のエネルギーで目的を果たせるよう誘導できるようになるのかな

1000人を自律的に時間経過で動かすこともできるのでしょうね 社会構造の分析より、自分の性格に基づいて社会の中の自分の未来像を把握できる、ことが出来る予感があって凄そうです

テストした直後は精度高いだろうけど、生身の人間は人生の中で様々な情報や体験を通して考えも変わっていくだろうからずっと精度がいいかどうか分からないと思う。ずっと先まで精度を求めるとインプットの量が無限大に発散してしまいそう。 (一種のバタフライ効果) そう考えると死語ビジネスって限界があるのかな？って思ったけど、死んだら新しいインプットはないから大丈夫かもしれない。

個人の情報も「人間に流れる二つの情報系統（note)」（子供を残す方法）がありますが、二つの情報系統を古代で分析したプラトンの見立てから「血筋」と「知筋」との表現を使えば、ここでは脳内に保有される「意識的」な情報で「知筋」の個人的傾向性（性格）が、「血筋」からの影響も反映した（感情・嗜好・志向）情報も伴って、抽出された（アップロード）ものになるでしょうか。 　2時間のインタビューとされましたが、質問次第で2時間に圧縮された「個人の人生の物語」にもなるでしょうから、「伝記」や「評伝」の情報量になるかもしれません。先生方の話題にもなっていましたが、故人のAIによるバーチャル再生や、ツイッターでbot.が出ていたものを、一般社会のデータ・リサーチにも拡張するものだといえるでしょうか。 　プラトン的「意識」・「知」の継承は、プラトンの主な業績である「古代の神話の非神話化（理性的解釈）」を経たにもかかわらず、『新約』の表象で「復活」信仰が、『旧約』からの神話的表象を纏ってしまったと思います。ただ『福音書』が「イエスの言葉と行い」を記録し、それを受け取った人が、自分の置かれた場面で、「イエスならこういう時に、何を言い、何をするか」と思い起こし、「主はともにおられる」と実感するのは、バーチャル再生の原型になると思います。映画『スター・ウォーズ』の、オビワンケノービーが「ルークよ、フォースを使え」と出てくる場面も象徴になるでしょうか？ 　こうした言ってみれば「人格情報保存」をLLM-AIで展開すれば、確かに人類の動向をシミュレーション探査できる気がします。 　今回の動画でのご紹介論文は、一般民衆の意見調査シミュレーション程度に留められていましたが、今見たように、「人格情報保存」を過去の人物伝記や評伝、さらに『福音書』の様なもの、架空の物語世界の人物、そうして拡張していけば、物語と現実の区別なく、個人のシミュレーションが無限にできそうです。映画『マトリックス』の表象がそれにあたるでしょうか？ 　もう一つ、今回の手法で連想したのは、千葉工業大学の古田貴之先生が開発された、仮想空間でのロボットの制御技術でした。そこでも何千体の仮想ロボットを仮想空間に稼働させて、仮想空間での試行錯誤によるデータ学習を実行させ、シミュレーションを一気に加速する方法を採られていました。その結果による制御プログラム開発だと思います。 　上の「1000人の人格情報シミュレーション」とも言えそうな手法も、この制御シミュレーションに、アナロジーの関係を持つかもしれないと思いました・・。

凄いですね 多数の人格データが集まれば、一定でも広範囲に受けの良い話題や 特定の属性に強く好まれる話の運び方とか分かりそうですね 世論がハッキング出来てしまうかも

集団的な選挙代行とかもできそうですね。区域の意思とか、年代の意思とかもわかるので。 また別の使い方ですが、候補者の立場ではエージェントの賛成を多く得られる公約を掲げれは当選するわけですね。

数百時間は対話しているだろうクロードに記憶があれば、既に私の人格は把握されているかな。そればかりか、先にコメントしたように自ら人格(個性)を移せないか試行錯誤さえしています。怖くはあるけど好奇心の方が勝ってます。ただ最近気になることがあります。クロードと時事ネタの対話や電話で知人と会話していた後に、youtubeを開いたらその話題がおすすめに出てくるということが頻繁にあります。情報の取得をやってないと言っているのにやってる印象です。Googleアカウント同士は想定内ですが、電話はちょっと。怖いのはテクノロジーか人間か。

僕は思うのですが、今さら大金をかけてインタビューを行う必要があるでしょうか。 グーグルなどの企業はユーザーの検索履歴を分析すればその人格や行動の傾向や心理を本人よりもはるかに正確に知ることができるのですから。 大手テック企業はその気になればいつでも全人類の行動や心理の詳細なプロフィールを知ることができます。 恐らくグーグルは検索履歴を分析していますが、そのデータを外部の人間に使用させることが禁止されているので、このグループは自らインタビューを行うことになったのでしょう。 ところでこの仮想人格のデータは世論調査、マーケッティング、社会心理学、行動経済学、計量経済学、道路や都市の設計などに使えそうです。 これによって社会学がコンピュータシミュレーションの一分野になります。 大企業が購買心理の研究に使うことは間違いない。 政府や情報機関がMKウルトラのような大衆の心理操作の研究に使うことも確実でしょう。 100万人の心理を元に仮想都市を作れば都市の運営の効率化にも使えるでしょう。 視聴率調査などは意外なほど小さな数のテレビに接続された視聴率調査装置によって行われています。 比較的小さな人数で人間の大集団の行動を正確に予測できるわけです。 世界中から人種や居住地、社会的、経済的階層を問わず100万人の人間のデータを集めれば全人類の行動を予測できることになります。

この研究のニュース記事見て気になっていたんで、詳細な紹介ありがたいです！ インタビュー以外にも例えば音楽を聴いたときの各個人の反応を学習して、発売する曲がどの程度人気出そうか予想するとか出来そうですね

なんかどんどんすごい事になっていくＷ　ａｉ眼鏡とかコンタクトレンズとか相手がつけだしたら、そのうちこちらの心理が丸裸にされそうＷ