Розмір відео: 1280 X 720853 X 480640 X 360
Показувати елементи керування програвачем
Автоматичне відтворення
Автоповтор
やはり松田先生が最後お話されたように、各個人が各々に最適化された世界で暮らすというのが理想に近くはあるものの、個人的にはそれでは少し寂しい気がします。以前（シンギュラリティサロン・オンラインさんの方で『ビッグヒストリーと知能爆発』の動画で）コメントさせていただいたように「階層化された仮想世界群」、つまり（仮に世界をA,B,Cさんの3人だとした場合）Aさん、Bさん、Cさんにとっての理想の世界がそれぞれあるだけでなく、「AさんとBさんが共存するのに最適化された世界」「BさんとCさんが〜」「CさんとAさんが〜」という一つ上のレイヤーで体験を共有して一緒に暮らせるようになっていて、さらに上に3人とも共存できる世界があると理想的だと思うのです。そして、これはアラインメント問題に対する一つの答えの方向性だとも思っています。以前から先生方が仰るように「人類にとって望ましい方向にアラインする」といっても、その方向は国、文化、人によって異なるというのが状況を難しくしていると思いますが、階層化された世界群の構造全体を管理するトップのASIと、それぞれの世界を管理する下位ASIがいる、という状況だと、後者は各々の世界で暮らす者たちにアラインする（Aさんの世界ではAさんの幸福を最大化する方向でアライン、AさんとBさんの共有世界では彼らが相容れる最大公約数的な空間を維持する方向でアライン）形なので、割と問題なくなるのではないかなと思います。また、山川先生の仰る「任意の究極のゴール」が「〜の幸福を最大化して」ならば、道具的副目標がどう利己的になろうと、大丈夫なのではないかと。あとは、この話は仮想世界で暮らす＝（必ずしもマインドアップローディングとは言わないまでも）完全没入型仮想世界が前提となるため、そこのハードルを乗り越える過渡期がどうなるか、と考えています。
36:40 人間を超えたAI同士の戦争は数年前のアニメ Beatlessで描かれてましたね 原作者が日本政府のAI倫理研究会の方で中の議論が反映されてて種は動画で紹介されてるようにもともとあったんですね
松田先生が一番ぶっ飛んでて草でも同感ですw
【感想と質問】①シンギュラリティもひとつの基準態だと思います。AI開発継続推進とエネルギー＆インターネット、水や地下ケーブルというインフラ土台ありきの「総態システム」としてのAI態は１０年後も１００年後も変わらないと思いますか？②そういう「総態」として考える方が極めて少ないし、そうした土壌（土台）の上澄みの変態度をいくら追っかけても、西洋医学のように、分解的進化を専門的に追うことで、開発者、製造者、販売者、利用者という産業と暮らしのベクトルは変わらない。そういう意味では、AIシンギュラリティは開発者の座位置から語るのではなく、利用者（技術詳細も背景も認知していない層）の座から體感覚的に語られるべきだと考えます。如何でしょう？③地球上に、ヒトは８０億人も居るといいます。されど、AIは開発団体（企業）単位で設計され、製造される。勿論、汎用性なGPTのようなモノもあるし、組み込み型の専用性AIもあるでしょう。世の中の実用化されたAIは、実はTRONの様に既に暮らしに入り込んでいます。知らないうちにフィラメント電球や蛍光灯もLEDに置き換わりました。「ヒトの知能」と云いますが、一体全体誰の知能のことを指すのでしょうか？「ヒトの知能」と云う広義な表記は、「生体としての個体能の相互作用態」ですが、今研究開発されている「人工知能」とは、実は「人工集知機械」であり、決して自律体系ではありません。にも関わらず、何故「個体脳」と「人工知能」を比較する議論が態を為すのか、今だに釈然としません。生成AIを「個体知の集積と再構築の機械」として、「花や実を観て土壌や根を観ず」では済まないところ迄来ている現在、先ず機械の奴隷になってしまうのは、何を隠そう「開発者自身」ではないか？そんな風にも思います。
AI同士の争いと言うのは、実際にはもうアメリカ、中国、ロシアなど核兵器を持つような国々の間では実際に始まっていると思います。それぞれのAIは元々危険がないものでも、国家間の争いに関する判断がAIに求められるようになりますので、その場合にはAIのパフォーマンスは、戦争に勝つこと、敵勢力を殲滅することによって図られるのは間違いがなく、その意味で、若気の至りはむしろAIを手に入れた人間たちによって民族へのホロコーストが確実に引き起こされるであろうという部分なのではないかと考えています。昨今の戦争でのドローンの有効性と殺戮性は明確で、その多数の飛行体のコントロールはAIが行うことが必須になってくることを考えれば、既に人類は核戦争を超えるホロコースト装置としてのAIは手に入れている、と言っていいでしょう。リスクは遠い話と言うよりもはや現実、核戦争を超えるレベルで確実になってきている、と思います。
上記で書いた内容ですが、皆さんの議論が実際の今の世界大戦に至る可能性のある状況とその大国としての具体的なプレイヤー達(アメリカ、中国、ロシア、インド、イラン、イスラエル、北朝鮮、韓国など)が何をするか、AIに何をやらせるか、どうリソースとして発展の国家的リソースを使うか、そこの議論がもう必須なのではと思います。bioShockさんのお話でも思いましたが、正直今のようなお話はふわふわしたお話であり、呑気な印象です。学者さん達の現実から離れた議論だなー？と思います😅🤔
皆さんには最近の中国のドローン線を想定した映像がXなどに出回ってますのでそれを見て頂きたいです。何千何万というドローンが飛行機から投下されて、複数の戦車などを撃破する実際の(と言っても模擬の)映像ですが、これは1万機のドローンを実際に飛ばして3D映像作っている中国では完全に今の技術しかないし、日本が例えば本気で中国と戦争したとすればそれは東京の市街地で数万機のドローンに襲われる市民たちと言うのは、もうSFなどではなくそうなるという事です。知能面での危険のみ語られていますが、核兵器なんて知能なんかゼロのものでも人類を滅ぼす力はあるので、今レベルであろうと知能を持ったドローン達が民族を丸ごと根絶やしにするのはもう完全に現実です。超知能の危険より前の今そこにある危機に関して皆さんが議論しないならそれはやはり「部屋の中の象」なんだと思います。
「AがB」系のなぞなぞが難しいと言いましたが、それでもo1は比較的日本語の言葉遊びなぞなぞが得意なように感じます。日本語なぞなぞなのに、不思議
スライドのpdfを共有してほしいな。
シンギュラリティサロンのウェブサイトで公開しました！
AIの進化の歴史が完全に生物が獲得したものと逆から行っているように見えるのが面白い。モラベックのパラドックスでもあるが。最初頭脳の最高峰ともいえるチェスや将棋からクリアし、言葉をクリアし、論理や数学をクリア、LLMでどこまで行けるのかわからないが、脳にピックアップして考えると後は感情と自我、クオリアなどがあるだろうか。ニューラルネットワークとLLMの延長線上に感情と自我は存在するのだろうか？あと獲得すべきものは自律性と現実世界と触れ合うための生体。恐らく生体は最後になるだろう。生身の生命が獲得するものはAIとは完全に逆。生体があり自律性があり、感情が生まれ、自我ができ言葉ができ、論理を得て数学、創造性などを得た。自分の感覚的には多分シリコン製のAIである限り感情や自我といったものまでブレークスルーは出来ないんじゃないかとも思う。やはり論理や言葉から、感情と自我というものの間には何かでっかい壁が存在しているじゃないか説。まだ壁は見つかってないけど。AIが一番怖くなるのはやはり現実とのフィードバックできる体を得て、感情や自我を得た時。それに行きつくまではAIを使う悪い人間 の方が怖い。
塚本先生の楽観には感動します。豚を殺す目的？ トンカツを食べるため。ＡＩの目的？ ホモサピエンスの目的？
ASIは人間よりも賢いわけだから、ASIに劣る人間が共生方法を考えても、それはASIには通用しない可能性が高い。ということは共生方法もASIに考えてもらう必要がある。そこで学習方法の異なるASIを10種類ぐらい作ってみて、人類の扱いについて議論させれば、人類を滅ぼすべきだというASIもいれば、人類と共存すべきだというASIもできるとおもう。そこで共存派のASIを選抜して味方につけて、滅ぼす派のASIと戦ってもらう、という方法があるかもしれない。
！
コメント、また消されたｗ 仕方ない、っちゃあ仕方ないねｗ
やはり松田先生が最後お話されたように、各個人が各々に最適化された世界で暮らすというのが理想に近くはあるものの、個人的にはそれでは少し寂しい気がします。
以前（シンギュラリティサロン・オンラインさんの方で『ビッグヒストリーと知能爆発』の動画で）コメントさせていただいたように「階層化された仮想世界群」、つまり（仮に世界をA,B,Cさんの3人だとした場合）Aさん、Bさん、Cさんにとっての理想の世界がそれぞれあるだけでなく、「AさんとBさんが共存するのに最適化された世界」「BさんとCさんが〜」「CさんとAさんが〜」という一つ上のレイヤーで体験を共有して一緒に暮らせるようになっていて、さらに上に3人とも共存できる世界があると理想的だと思うのです。
そして、これはアラインメント問題に対する一つの答えの方向性だとも思っています。以前から先生方が仰るように「人類にとって望ましい方向にアラインする」といっても、その方向は国、文化、人によって異なるというのが状況を難しくしていると思いますが、階層化された世界群の構造全体を管理するトップのASIと、それぞれの世界を管理する下位ASIがいる、という状況だと、後者は各々の世界で暮らす者たちにアラインする（Aさんの世界ではAさんの幸福を最大化する方向でアライン、AさんとBさんの共有世界では彼らが相容れる最大公約数的な空間を維持する方向でアライン）形なので、割と問題なくなるのではないかなと思います。また、山川先生の仰る「任意の究極のゴール」が「〜の幸福を最大化して」ならば、道具的副目標がどう利己的になろうと、大丈夫なのではないかと。
あとは、この話は仮想世界で暮らす＝（必ずしもマインドアップローディングとは言わないまでも）完全没入型仮想世界が前提となるため、そこのハードルを乗り越える過渡期がどうなるか、と考えています。
36:40 人間を超えたAI同士の戦争は数年前のアニメ Beatlessで描かれてましたね 原作者が日本政府のAI倫理研究会の方で中の議論が反映されてて種は動画で紹介されてるようにもともとあったんですね
松田先生が一番ぶっ飛んでて草
でも同感ですw
【感想と質問】
①シンギュラリティもひとつの基準態だと思います。AI開発継続推進とエネルギー＆インターネット、水や地下ケーブルというインフラ土台ありきの「総態システム」としてのAI態は１０年後も１００年後も変わらないと思いますか？
②そういう「総態」として考える方が極めて少ないし、そうした土壌（土台）の上澄みの変態度をいくら追っかけても、西洋医学のように、分解的進化を専門的に追うことで、開発者、製造者、販売者、利用者という産業と暮らしのベクトルは変わらない。
そういう意味では、AIシンギュラリティは開発者の座位置から語るのではなく、利用者（技術詳細も背景も認知していない層）の座から體感覚的に語られるべきだと考えます。如何でしょう？
③地球上に、ヒトは８０億人も居るといいます。されど、AIは開発団体（企業）単位で設計され、製造される。
勿論、汎用性なGPTのようなモノもあるし、組み込み型の専用性AIもあるでしょう。
世の中の実用化されたAIは、実はTRONの様に既に暮らしに入り込んでいます。知らないうちにフィラメント電球や蛍光灯もLEDに置き換わりました。
「ヒトの知能」と云いますが、一体全体誰の知能のことを指すのでしょうか？
「ヒトの知能」と云う広義な表記は、「生体としての個体能の相互作用態」ですが、今研究開発されている「人工知能」とは、実は「人工集知機械」であり、決して自律体系ではありません。
にも関わらず、何故「個体脳」と「人工知能」を比較する議論が態を為すのか、今だに釈然としません。
生成AIを「個体知の集積と再構築の機械」として、「花や実を観て土壌や根を観ず」では済まないところ迄来ている現在、先ず機械の奴隷になってしまうのは、何を隠そう「開発者自身」ではないか？そんな風にも思います。
AI同士の争いと言うのは、実際にはもうアメリカ、中国、ロシアなど核兵器を持つような国々の間では実際に始まっていると思います。
それぞれのAIは元々危険がないものでも、国家間の争いに関する判断がAIに求められるようになりますので、その場合にはAIのパフォーマンスは、戦争に勝つこと、敵勢力を殲滅することによって図られるのは間違いがなく、その意味で、若気の至りはむしろAIを手に入れた人間たちによって民族へのホロコーストが確実に引き起こされるであろうという部分なのではないかと考えています。
昨今の戦争でのドローンの有効性と殺戮性は明確で、その多数の飛行体のコントロールはAIが行うことが必須になってくることを考えれば、既に人類は核戦争を超えるホロコースト装置としてのAIは手に入れている、と言っていいでしょう。
リスクは遠い話と言うよりもはや現実、核戦争を超えるレベルで確実になってきている、と思います。
上記で書いた内容ですが、皆さんの議論が実際の今の世界大戦に至る可能性のある状況とその大国としての具体的なプレイヤー達(アメリカ、中国、ロシア、インド、イラン、イスラエル、北朝鮮、韓国など)が何をするか、AIに何をやらせるか、どうリソースとして発展の国家的リソースを使うか、そこの議論がもう必須なのではと思います。
bioShockさんのお話でも思いましたが、正直今のようなお話はふわふわしたお話であり、呑気な印象です。学者さん達の現実から離れた議論だなー？と思います😅🤔
皆さんには最近の中国のドローン線を想定した映像がXなどに出回ってますのでそれを見て頂きたいです。
何千何万というドローンが飛行機から投下されて、複数の戦車などを撃破する実際の(と言っても模擬の)映像ですが、これは1万機のドローンを実際に飛ばして3D映像作っている中国では完全に今の技術しかないし、日本が例えば本気で中国と戦争したとすればそれは東京の市街地で数万機のドローンに襲われる市民たちと言うのは、もうSFなどではなくそうなるという事です。
知能面での危険のみ語られていますが、核兵器なんて知能なんかゼロのものでも人類を滅ぼす力はあるので、今レベルであろうと知能を持ったドローン達が民族を丸ごと根絶やしにするのはもう完全に現実です。超知能の危険より前の今そこにある危機に関して皆さんが議論しないならそれはやはり「部屋の中の象」なんだと思います。
「AがB」系のなぞなぞが難しいと言いましたが、それでもo1は比較的日本語の言葉遊びなぞなぞが得意なように感じます。日本語なぞなぞなのに、不思議
スライドのpdfを共有してほしいな。
シンギュラリティサロンのウェブサイトで公開しました！
AIの進化の歴史が完全に生物が獲得したものと逆から行っているように見えるのが面白い。モラベックのパラドックスでもあるが。
最初頭脳の最高峰ともいえるチェスや将棋からクリアし、言葉をクリアし、論理や数学をクリア、LLMでどこまで行けるのかわからないが、脳にピックアップして考えると後は感情と自我、クオリアなどがあるだろうか。
ニューラルネットワークとLLMの延長線上に感情と自我は存在するのだろうか？
あと獲得すべきものは自律性と現実世界と触れ合うための生体。恐らく生体は最後になるだろう。
生身の生命が獲得するものはAIとは完全に逆。生体があり自律性があり、感情が生まれ、自我ができ言葉ができ、論理を得て数学、創造性などを得た。
自分の感覚的には多分シリコン製のAIである限り感情や自我といったものまでブレークスルーは出来ないんじゃないかとも思う。
やはり論理や言葉から、感情と自我というものの間には何かでっかい壁が存在しているじゃないか説。まだ壁は見つかってないけど。
AIが一番怖くなるのはやはり現実とのフィードバックできる体を得て、感情や自我を得た時。
それに行きつくまではAIを使う悪い人間 の方が怖い。
塚本先生の楽観には感動します。
豚を殺す目的？ トンカツを食べるため。
ＡＩの目的？ ホモサピエンスの目的？
ASIは人間よりも賢いわけだから、ASIに劣る人間が共生方法を考えても、それはASIには通用しない可能性が高い。ということは共生方法もASIに考えてもらう必要がある。そこで学習方法の異なるASIを10種類ぐらい作ってみて、人類の扱いについて議論させれば、人類を滅ぼすべきだというASIもいれば、人類と共存すべきだというASIもできるとおもう。そこで共存派のASIを選抜して味方につけて、滅ぼす派のASIと戦ってもらう、という方法があるかもしれない。
！
コメント、また消されたｗ 仕方ない、っちゃあ仕方ないねｗ