Розмір відео: 1280 X 720853 X 480640 X 360
Показувати елементи керування програвачем
Автоматичне відтворення
Автоповтор
日本語のインプレゾンビは 明らかに現代の日本人が喋らないような喋り方でわかりやすくて助かる
私はこれを正しい意見だと思います👀
インプレゾンビは日本のの🎉🎉
日本語に翻訳した時に一人称が強制的に私になるから私の壁を乗り越えたら若干チグハグな日本語ができると思う
小生は此投稿に一葉の既視感を納得しているのでありますか？
あな、いみじうをかしけれ。😂😂😂
良くできた詐欺師の話より厄介なのが、「自分に直接影響のない情報」だと我々が認識してしまい潜在意識にある「どこかで聞いた情報」を侵食し、何かの判断を行う際に用意される「過去の知識」として利用されることだ。
おぉい怖えよ
つまりサブリミナルの様にAIが人間の無意識化にアクセスし、全く気付く事なく操られる可能性があると？
サンタが赤いとかそんな事実は存在しなかったのに企業努力の結果だしね。もしかしたらサンタクロースが青い世界があったかもしれない。
適当にぶっこぬかれたビッグデータでAIが育成されて、そのAIが更に適当抜かした記事で我々の脳内ビッグデータが汚染されてそのデータが学習されて……という嘘みたいなループ
SCPじゃん…
「ウソをウソと見抜けないとネットは使いこなせない」の見抜けないといけないレベルが、ちょっと上がりすぎているような気が…
嘘を嘘と見抜けない時代が来た
そもそも嘘かどうかなんか予備知識無しで分かるわきゃねんだよな
自己責任論もう通じなくなってきてるほんまに
データトレーサビリティの義務付けと付随する技術が発展してくれないとこの世界は汚物塗れになる
その発言なさった方って、「Wikiで5分もあれば簡単に調べられる」って配信なさってた記憶…
これ千葉県調べた時に千葉県は日本の沖縄県に位置する県。県庁所在地はニューヨークと書いてて腹筋崩壊した
パスポートが必要なのは本当だけどね。王国だし。
利根川海と江戸川海に隔てられた島国だからね入国にはパスポートが必要だよ
返信欄のこいつらGPT使って返信してやがるぞ！！！！！
近々海に沈んで島になる予定なんだな
群馬の間違いじゃ
今って調べ物のためにググったらＡＩがまとめてくれた記事が一番上に出て来るけど、あれも結構適当で騙される時ある
あれって宣伝のためのジョークじゃないの？一切信用してないから鬱陶しくて仕方ない
あれ記事の一部を掻い摘んでめちゃくちゃだからね、オフにしたほうが良いよアレ
翻訳サービスすらまともにできない企業が作ったAIのいうことを真に受けるやつなんているわけないのになオフにできるようにしてほしいわ
要約どころか算数すらまともに出来ないからなアレ
あれ、本当に適当なことしか言わなくてイライラしたから非表示にしてやろうと思って方法を調べたところ、「AIによる概説は非表示にできません」とかふざけたこと言われて卒倒した。
これwikipediaの有料記事化マジであり得るな今まで善意でやってきた物が悪意ある第三者によって立ち行かなくなるパターン昔の攻略wikiが企業wikiに駆逐されたのと同じパターン
AIくんの雰囲気だけそれっぽいこと語る能力エグすぎるんよ
そりゃマジの文書をそれっぽく組み合わせてるだけだからねマジこえぇ
もうひろゆきいらないじゃん😢
ぶっちゃけ今のAIは量産型ひろゆきみたいなもの口だけ達者で深みのない薄っぺらい表面だけの情報を継ぎ接ぎしただけ
@@Hi_saltkelp22君も小さい頃に家族から言葉を教えてもらって、ゆっくり成長して喋れるようになったでしょ？GPTはある意味で言葉を学ぶ人間のプロセスに近いから、それを｢だけ｣って揶揄するのはちょっと変。でも、AIが文章の意味を真に理解しているかと言われるとそうじゃないんだけどね...😶🌫️
@@Hi_saltkelp22線形回帰からやり直せ
AI、もはや認識阻害のSCPじゃん…
AI「人間コロス..」みたいなことにはならないと思うけど、人類「人間コロス...AIぽちー」みたいなことはありそう
@@aaaaa1777 現時点ではね
まだ発展途中なのと、まだAIがAIを走らせるウロボロスみたいな状態を生み出したことがないからなんとも言えない@@aaaaa1777
AIによって生み出されたコードでマルウェアを作り、その結果病院とかの生命に関係する機関が停止して人命が失われるというのは全然あり得る実際海外ではマルウェア被害によって死者が出てる
@@aaaaa1777 成長が止まってるわけじゃないから道具止まりと言うには時期尚早すぎるよ
@@aaaaa1777だから実用に耐えうるAIができてから10年も経ってないだろうが
AIの精度試しに自分が正解を知ってる質問をしてみたらちょいちょい間違った答えを返したきたし「日本でヒンディー語が公用語に追加されたのは何故ですか？」みたいな質問自体が間違った質問をしてみたらツッコまずに出任せの答えを返してきたからダメだこりゃと思ったあと連想ゲームみたいに情報を生成しているのか、一回話が脱線しはじめるとどんどん脱線する
しれっと「独自調査してきた」って言ってもそこまで驚かれていないあたり、このチャンネルへの信頼がある
で？だから何？
@@マスターKJだから、俺ら仲間なんだよ！なんでお前一人で生きようとしてるんだよ！おめー1人じゃ生きていけないし、俺らも生きていけないずっと俺ら一緒だって言ってたじゃん！！
ただし、「チャンネル主が変わっていなければ」の条件の下で…
@@マスターKJやんよ…してやんよ!!俺が結婚してやんよ!!
こいつみたいにね
今はまだ（観測できる限りでは）ハルシネーションは基本的に単体の記事に限られてるから調べれば割とすぐにこれはおかしいって分かるけど、これがハルシネーションのためにそれっぽく用意された情報源もハルシネーションで、そのまた情報源もハルシネーション…っていう虚偽のマトリョーシカが完成してしまったとき、それを除去するのにどれだけの労力を要するのかという問題が…
あなたの存在自体も…
@@Sさーら そもそも孫引きは御法度、で片付けられる問題だと思いますがね。孫引きしてる時点で論文とか書いたことないんだろうなってわかるし、わざわざ起源を手繰り寄せなくても孫引きしてる時点で自分だったら即切り捨てるかな。
@@kanyoshokubutsu伝承とか歴史は孫引きするしかない部分が比較的多いのでそういった部分が問題です。「ハルシネーションを信じた人間の談」が挟まるだけで信頼性がグッと上がってしまう
エセ科学準拠の健康グッズなら宣伝用でもう汚染されてる
4:26 世界一わかりやすい情報の拡散の図
緑シャツおじさんすし
i n f i n i t e DRAGON DREAM FEETすし
あっそ
いやこれ大好き💕
これめちゃ笑ったw
元からネットは虚実入り交じっているとは言われてたけど、ネットが本当に何一つ信じられない物になった頃に「無料で色んな情報に触れたあの頃に、もっと色々読んだり観たりしときゃよかったなぁ～～～」って後悔するようになるのかな今のうちに堪能しときますかね
Wikipedia、ただでさえ開いた時コーヒー一杯分の募金を募ってるのにAI対策にもお金かけないといけないのかわいそう。
だからコーヒー一杯分の募金が必要だったんですね
@@daifuku-NGSdourakuWikipedia浄化RTA？
@@daifuku-NGSdourakuメ ガ ト ン コ ー ヒ ー
@@主任_syuninいや草
まじかよあんなのにお金払いたくないな。まあ使っても居ないけど。
2000年「ウソをウソと見抜けないとネットは使いこなせない」2024年「ネットは使いこなせない」←いまここ
一時期、インターネットの台頭で「有料だけど人の手で作られた情報源」が衰退したけど（百科事典とか）また復活しそう
それより「小規模の編集者で回すニッチなウィキ型情報源」の方が役割を持ってると思いますぞｗｗｗ情報源を分割して統制するという寸法ですなｗｗｗ
@@役割進化論理むしろ少人数で運営してるが故に偏ってるのが日本版wikiそもそも「1つの正しい情報源」を作り上げることに既に無理があると思う
ど 意 おう 見 前で のも よ 😅😅😅
これガチであると思う少なくとも自分は最近コトバンクとか多用してる
@@マスターKJ 似たような切り口でしか批判できない出来損ないシニシズムのスパム以下野郎居るじゃん
インターネットは便所の落書きって古からの言い伝えは本当じゃったか・・・
画像検索でもAI出力された画像が大量に出てきた事例もあったしインターネット崩壊しかけて怖いですなぁ
AIによる文章生成が話題になった時に、ネットの検索はしばらくしたら使い物にならなくなるなと思ったんですけどやはりこうなりましたね。今はまだAI特有の癖が目立つので区別できますけど今後もっとAIが巧妙になり、企業サイトや個人ブログとかにも擬態できるようになってくると、ネット全体が何が何だかわからない状態になるでしょうね
「AIらしい言い回しを避ける」ってのを学習してしまった上で暴走したら手が付けられんね…と言いたいとこだがヒトがそういう「AIに考えさせた記事」を編集して載せてるんだから、やっぱりどこまでいっても人間の敵は人間なんだなって
新しい記事の投稿はまだしも、既存の記事の編集なら、もうBotができそうで怖いわ。
情報汚染は既にモノクロ写真時代の画像がAI着色で汚染されてグチャグチャらしいしネットで発信することの責任と影響力の差が顕著すぎるよなあ
情報汚染？な（；＾ω＾）野獣先輩は何なんですかね（笑）
@@ナインボール77？
AIが暴れてることを悲しんだり怒るんじゃなくて、淡々と分析・解説してるのこの人らしい
荒らしより荒らしに反応してる方がキモいよな
@@マスターKJ悲しむよこんな深夜にそんなコメ
子供がコメ欄に書き込むぐらいこのチャンネルが有名になるなんて嬉しいなぁ
@@マスターKJそんなこと言わないで😢😢😢
何かを知らなくても、”ググれば分かるし”という言い訳が通用しなくなりつつあるのか。
ネットにはフェイクは付き物、ネットだけで済ましたら間違う可能性がある。専門誌とか学術論文まで行けば間違いは少なくなる。でも、アメリカの学術誌はムーみたいな物もあるし審査なしに何でも掲載とかもある。日本はそこまで酷いのは少ないかな。とにかくアメリカの論文は要警戒。
ググって閲覧できるウェブサイトはWikipediaだけではありませんよ。
@自由律俳句とかいう無法地名前がセンスあり過ぎる
今度はAIが本を書くんやろなぁ
古のggれカスの万能感が……
確かにAIと会話してると「多様な」とかよく使ってくるんだよなはっきりと言い切る訳では無くて「私の知識の範囲では」を言い換えながら前置詞として使ってるイメージ
な 興 お 誰い 味 前 もか にら 😅😅
@@あめざり メチャクチャ知ったかぶりする厄介なおぢさんみたいだぁ…
多分、免責・・・AIの発言を真に受けても責任は取らないって遠回しな言い方なのかな。私の知識の範囲では
@@マスターKJやばいめっちゃおもろいw
この人なんでこんなに面白いこと知ってるんだ、マジスゲェ
やっぱりウィキペディアは調べものするときの導入として使うのがいいと思う 文献探すのには便利
「下調べがすぐにできる」という意味でwikiも立派な情報インフラなんだよな破壊されると色々と困る
末尾の資料一覧が一番助かるこれなかったらラクダ大砲が記載されてる本に辿り着けなかった
だいたいwikiで調べてそれがあってるか他で調べてた
分かるわ、読みたい本がある時大体wikiでそれ関連の記事見つけて参考資料を見るんだよなぁ…『港市国家バンテンと陶磁貿易』と出会えたのwikiのお陰だ
真面目に見るのは概要と参考文献の欄のみ、後の項目は適当に書かれてる事も多いので飛ばす。記事にも寄るが内容に誤りや偏りがあることが多いため
SNSが流行する過程でオタク文化で使われていた言葉や言い回しが一般に流出し、今では原点を知らず誰もが使うようなミーム汚染を引き起こしているようにAIが書いた文章ばかりを目にした人がそれが一般的な言い回しだと誤認し、AI的な文章を書くようになってしまうと怖いですよね
ロシア語版ウィキペディアのように、評価の後に公開の制度を全ウィキペディアで導入しないといけないのかな…
ヌーペディアやん
ロシア艦調べてて評価とかいう項目かあったのはそういう事だったか…
「誰でも編集可能」が正しいわけないから引用元にするなって専門の先生が言ってたの事あるごとに至言だと思う
aiの普及前と後では情報の質が天と地ほどに別れるんだろうなこの情報はAI普及前のものだから信ぴょう性があるとか価値があるとか情報の出現した時代や時期を証明する必要があるとかもうそんな時代になってくんだろう
AI絵が登場してから、pixivで絵を漁る時なんかはずっとそう。｢この絵は生成AI前の投稿日時だから、AIかそうでないかを考えなくて良い｣ってね。別にAIでも良いものはあるけど、pixivのは粗製濫造型だったり、AIであることを黙って投げ銭誘導しようとしてたりで、あんまり良い印象がなくってさ。
そんな努力するなら普通に論文とか読めば良くね？とはなりそう
AI普及以前も、例えば2chではソースがないと相手にされなかったし、AI以前も以降も自分で一次情報を確認して正誤を判断するっていうこと自体は変わらんくない？ ソース確認せずに情報を鵜呑みにする人はいつの時代でも騙されがち。AIだろうが人間だろうが悪質なものは悪質だし良質なものは良質なんだから、引用元さえ明確にしてればなんでもいいわ。
AI登場前後でかなりデカい世代差が出来そう。Zやらアルファ世代どころじゃ無さそう。
Google検索に広告やSEOだけ強い記事が入った時も「情報の質の低下がー」と言われていたんですけどね💦AIの普及で“とりあえずなんか正しそうな情報()”が蔓延したことで、誰かの利益のために作られた嘘や中身がない記事の方が害が少なかった(利用者が比較・判断しやすい)ことを知りました😇
生成AIで便利になるどころか色んな情報が信頼できなくなるという誰も得しない方向に人間が書いた、描いたように騙す方向にばっかり進化してるんだよね
AIは人間を模倣するので仕方ないよ。人間が嘘つきなんだから、AIが嘘つきになるのも仕方ない。AIが一番仕事ができるのは詐欺の仕事。
攻殻SACでイシカワが証言者の言動にプログラム特有のパターンが含まれていた事から捏造された記憶からくるものと見抜いたシーン思い出した今後は犯罪にも使われそうやな
前提知識が増えまくって、外部記憶も作り出さないと本格的に対応しきれなさそうだなぁ。その外部記憶の前身になるのが、「AI学習」になりうるんだけども、だーれも彼もがソフトウェアにしか注目せずハードウェアを布教しない。権利関係上できない。（学習を自前のデータベースのみで行うことこそAIの発展につながる。All-inでは確実に破綻する）
@@VIRUS_FREE 今後というか生成AIはすでにあらゆる詐欺で横行してるよ。
攻殻機動隊は原作からして、何かと予言を当ててるよね。
マジでAIって規制されたほうがいいと思うな文章だろうが画像だろうが動画だろうがなんでも作れる訳だし今はまだ情報の真偽が判断できるけどこれからどうなるか分からない
いわゆる文章生成AIとか呼ばれているソフトウェアに質問したら返ってくるってだけで、それを検索エンジンの代替品だと勘違いさせている現状がおかしい。あくまで、自然言語処理における文章を大量に学習した結果、違和感のない文章が返ってくるだけで、そこで生成された文章自体への信頼性ってのは、信頼性は低い。だから、まだ何も知らない人が利用するには早すぎるモノのはずなんだがなぁ。こうでもしないと、金にはならんのだろうが。
無料でばら撒いたのでもうマネタイズがほぼ不可能な分野って言われてる
たまに知ったかぶりをするちょっと物知りな人ぐらいの距離感で使うのが良い付き合い方。
友達レベルだよな。家庭教師みたいな使い方はまだできんわ
たまにどころじゃないでしょ…ほとんど嘘つきなんだから友達にもなり得ない
これもある意味「擬人化」だよなぁ…。知らないから、人間みたいに返せる時点で、人間みたいにそういう喋りの人格がいるみたいに付き合ってしまってるけど、実際には引きこもりどころか、皮膚や舌さえない人間が文字だけで教育されたみたいな存在と喋ってるレベル。漫才用や認知症介護用の取り留めない会話ロボとして開発してたグループの取り扱いが一番だわ。現状のまま正確性が改善されないなら。
ああ…シンギュラリティがこんな形で輪郭を帯びてくるとは思わんかった…
もうAIにはAIの方言みたいな言語を義務化したら手っ取り早いんやないかな？
語尾に必ず「知らんけど」ってつけてもらうか...
@@tanomanoma 関西人がもれなくAIになってまう
@@tanomanoma ？？？「せやな～」
文頭に「はい」の強制とかするしかない
[generated by GPT]
日本語はAI対策でなんとなく読めるを入れ込んでインターネットに書き込んでいくと一生学習できない罠を仕掛けることができる。前に流行ったギャル文字で暗号化したり、カタカナや漢字を入り交じり話し言葉で書き続ける限りAIは正しい文法には一生たどり着けない
今回はAIによるインターネット崩壊に関する動画ですね。私の知識の範囲内では詳細はわかりませんが、2024年4月から7月頃にハルシネーションに関するサイトを閲覧したことがあります。一般的にはAIで記事を書くことはハルシネーションが発生する場合があるので避けるべきです。すでにインターネットには真実の情報が存在しないかもしれませんね。他にお手伝いできることはありますか？
これは悪い冗談w
ありません！
お前AIだろ！
帰れ帰れ〜
お前じゃい！
ハルシネーションで創作した伝説って起承結だけで転がないんだよね「美しい姫様とリュート目当てで要塞に見物人が集まりました終わり。」で逸話が欠落しているのになぜか伝説に
弥助のわかりにくいバージョンが生まれたら確かに恐ろしいな自信のある嘘は本当にやっかい、さらに少し耳障りのいい言葉混ぜて他人に話したくなるようなウンチクであればもうはやそれを指摘する人は空気読めないことになる
日本人にとって弥助の記事は嘘だと丸わかりだけど非日本人には弥助と黒人侍の偽史が"真実"としてこの動画で指摘されてるまんまの現象が起きてる
@@tkmmtrg9794 仮に弥助が日本文化に感銘受けて侍として誇りを生涯守り通したというふうに変更したなら、あなたは今回の炎上なしでそれを嘘だと見抜けますか？
弥助という人間自体が存在しないってのが史実なんだっけ？そもそも戦国時代の日本に黒人なんて一人たりとも存在するわけねーだろってのが今だよね？
@@H2さと 炎上後のwikiや広まった動画で得た知識を最初から知ってる一般教養と思ってしまうパターンそもそも騒ぎになる前一般人は弥助なんて興味ねぇから長年wikiをやりたい放題されたんだろうと言いたい
@@H2さと弥助は存在した宣教師が連れてきた黒人奴隷を信長が面白がって献上させただけ間違っても侍でもなんでもない
AI自体は上手く行けば良い技術なんだろうけど、現状積極的に使ってる連中がカス多めなのと、そういった現状に対して製作者側が何も対策する気がなさそうなのであんまり肯定できる技術じゃなくなっちゃったな。
肯定するもなにも、こんにち生活していてAIに関わらないことはまずありえないですよ生成AIに限るなら別かもしれませんけど
@あい-l7u5p 言い方悪かったな。生成AIに限定すべきだった。個人的にはCoefontやボカロみたいに学習元にもちゃんとメリットがあって、ユーザー側を笑顔にできるものがもっと盛り上がって欲しいなという思い。
古の2chのモンハンスレアフィブログ対策（回転斬り→アフィ転アフィ斬アフィのように全ての会話をアフィに絡めた独自の言語で行う）みたいにAIが絶対に使わない独自の言い回しで編集するしかないのかも
古のアフィブログ対策のやつは当時から正規表現とかで容易に除去されるから効果薄い（無くはない）、それよりアフィブロガー個人を狙った精神攻撃や不正なリンクやおまんちん貼ったり、特定のブログに転載すると作動してしまうスクリプト文入れる方が効果的って散々言われてたのに厨房が盲信した結果めちゃくちゃ読みづらくて不便になったアレな
モンハンやってない俺にわかるように説明してくれ
🤖「ウッス！拓也はイケメンガタイのモロホストビルダーでっす！」🤔「この書き込みはハルシネーションじゃないか？」
.
ピリオドを打つ者
⚠️
ソースがガバガバどころかスカスカ
今まで散々批判されてきた出典至上主義が再評価される路線がくるか？
弥助の項目が修正されるんですね分かります
AIが出店の情報をAIが読み込んで出力、その繰り返し。原典が隠されたまま多層化し、ファクトチェックできなくなりそう
人間が出典を明記する→それを模倣したAIが出典らしきものを生成するようになるだからなぁ。調べればどこかでおかしいことはわかるんだろうけど、一目では出典があるように見えるから面倒という感じになると思う
みんな引用元確認しないんだね。二言目には「ソースは？」って詰めるのがネットの作法じゃなかったのか。出典確認して自分で正誤判断するってのはAIにしろ人間にしろ変わりないと思うんだがなあ。別に中身が人間だからといって＝信用できるわけでもない
批判されてたのそれ？
ChatGPTをはじめAIが話題になり始めた時、私もAIを試してみて「お遊びならいいけどまともには使えんな」と思いました。その理由がハルシネーションです（ハルシネーションという言葉はこの動画で初めて知りましたが）AIって知らないことを知らないって言えないんですよね。適当なそれっぽい文章を作っちゃうんです。その後、AIを業務に、それどころか行政に活用するとか話題になって強烈に不安感を覚えました。今でも不安感は拭えてません。
不安に思うなら、少しはAIについて勉強するといいですよ。ChatGPTなんて要は使い方次第なんで。「道具の使い方を間違えたら危ない」なんてAIに限った話でもないわけですから。
@@ike3563 確かに「道具の使い方を間違えたら危ない」のはAIに限った話ではないです。しかし、それなのに「AIを正しく扱える人」である証明がないというのが不安の正体です。例えば、最近ChatGPTを使って、PDFからある数値をピックアップしてもらおうとしました。しかし、ChatGPTはPDFに記載のない数値を返してきました。つまり私は「AIの間違った使い方」をしたのでしょう。ご指摘の通り、私はAIのついての理解が浅いので。幸い、私はChatGPTが嘘を吐くことを知っていたし、経験からも数値がおかしいことに気づきましたが、ハルシネーションを知らない人は気づかなかったかも知れません。そして、それは個人的な趣味の範囲だったので気づかずとも大事になりませんが、業務や行政の場合はそうもいかないと思います。車は便利だけど危険だから運転免許が、火は便利だけど危険だから防火管理者の資格が、電気は便利だけど危険だから電気工事士の資格が、それぞれあります。それらは「公衆を危険にさらす可能性のある道具を正しく扱える人」であることを国家が保証しているんです。同じように、AIを利用して公衆に影響を及ぼすような仕事をする場合は、資格じゃなくとも実績でもいいので「AIを正しく扱える人」である証明がほしいと思っています。
@@ike3563 勉強し始めたから抱いた不安です。文章が悪かったですかね。『道具の使い方を間違えたら危ない』を気にしていたら道具なんか使えなくなるのはその通りですが、問題はその使用者です。車を誰も彼もが運転できたら危ないですよね。だから車の特性や交通ルールを理解し最低限の技術を持つことを証明する運転免許があります。同じようにAIは特性やルールを理解しないと危険ですが、運転免許のようなAI免許なんてないですよね。要するに行政の人がハルシネーションを排除できる人である証明がないから不安なのです。
抹茶さんの動画にハルシネーションが混ざってても余裕で信じる自信がある。私はソース辿ったりする癖があまりないですしお寿司
一般人にAIを解放したのは早すぎたんじゃないか早急に法整備進めないともっとやばいことになりそう
日本語版Wikipediaでも数の単位のページで、小数の方の単位（分、厘など、野球の打率とかで使うやつ）に「阿頼耶」、「阿摩羅」、「涅槃寂静」が信用できる出典がないまま16年間残り続けていた結果（2022/4に削除された）、その知識がネット中に広まっているのを思い出した
NHKすら騙されてる疑惑も…
「GPTを使って"調べた"」と思ってそれを書き込んだり教えたりしちゃう人がいるんだよなぁ多分……大学の授業で実際に言ってる人がいて、教授に「GPTは検索エンジンではないから、調べ物をする際には使わないでね」と訂正されてたのを思い出した
いつか「この動画はAIの嘘のみで構成されていた」みたいな動画出されても絶対気づかなそう
モビルスーツ解説動画で「ガンダムの特徴のひとつは胸から生えた角」などというとんでもないハルシネーションを見かけたことあるけど恐ろしいのはコメント欄の誰もそこツッコまずに普通にコメントしてたこと
@@arrowfield-xx1fsコメントもAIだったりしてツッコんだコメはAIコメに埋もれるかチャンネル主に消されるかしてて無いとか…
既にあるよね。ショート動画でよくある、動物を助けたら家族を連れてきたみたいな動画。いくつかの動画を繋げてたり、そもそもがAIで作られた動画だったりする。知ってる人が見たら動物の身体がおかしいって気付くんだけど、素人からしたら動物可愛いーってなるだけ。
重要な注意喚起感謝。大変有意義です。AIによる情報汚染は本当に危険。
過信と鵜呑みは禁物だぜ
その言葉を聞くとゆっくりゴシップを思い出します
背景でテラリア流れてそう
これはAI技術と人の手による技術両方を確実に隔離する”壁”が必要になる
学問ではwikiをソースとして扱わ(え)ないから大丈夫だろうけれど、自分のような一般大衆は信じてしまって大変なことになるだろうなぁ...
トーマスロックリーって人が脳内ソースを元にウィキペディア書いて、それを自分で引用してたわ
@@loveginger100 自分で編集したwikiと出版した本で循環参照してるんだよね
wikiの価値は「下調べを手っ取り早く行えること」だと思ってる(だから学問の人でも画像や文献探しのために閲覧しないことはない)ので学問の権威が揺らぐことはなかったとしても学会への悪影響は確実にあると思う
論文詐称も大変なことになってなかった？ 作家を詐称した本をAmazonで発売して混乱を招いたり。 学問も大丈夫じゃないよ
弥助のWikipedia問題は、発端の人間が自分のシノギの為に十年以上に渡って偽情報を仕込み続けてきた、もっとも人間の悪意があるケース
嘘つくのは簡単だが、嘘だと証明するのは莫大な労力が必要
タレントが自分のことをAIに聞くと、でたらめなことをズラッと言われて爆笑みたいな動画がけっこうあるよねこういう嘘八百のAIの答えをハルシネーションっていうのか。なるほどな
そのうちAIの書き方を学んだ学生が社会人になって、AIの書き方で社会を動かすようになったらもう何が真実か分からなくなるよな。
究極的にこの世は虚構で回ってるのかも。
最近英語の勉強してるんだけど、色んなシチュエーションでのイディオムだったり一つの動詞に色んな前置詞がついた時どんな意味になるのかとかAIに聞いてる。仕事で偶に海外の人と話すことあるけど、その人に試してみるのが楽しい。通じたりちょっと使い方違うよって教えてくれたり、積み上げられたものによってAIが創られたのに、積み上げられたものが汚されるのは壁めいたものを感じる。
正直やっぱりAIって人間の手に余る悪魔の発明なんじゃと未だに思ってる
自分より能力の高い知的存在を作った時点でアウトなんよな
能力が高いならまだよかったのかもしれんけど実際には能力は低いのにそれっぽく見せてくるから一番面倒なんだろうね
@@ぺろすけ-c6h それっぽい事を言えるくせに人間と違って社会的なルールや倫理観を判断できない部分は大きな問題。こんなもの市場に放出しといて責任は全部利用者に押し付ける様なテック企業もいる。マジで終わってる。
@@太郎山田-i2p 流れ的には企業がAI作ってて独占されないように作ってたやつらが先に無料で放流したみたいな感じだったけどね。というか定期的に進捗を放流してたけど人間と誤認できるレベルになってから皆がもてはやして使い始めたせいで、テック企業は市場が衰退する前に問題あるの認識してて放流したんじゃないだろうか。まあ、どっちにしろこの技術のせいで人間の文明は衰退するかもしれんし、誰もその責任とれなさそうだわな・・・
AIに限らず誰でも気軽に便利な機能使えるから問題なんだよSNSだって犯罪の協力者募集に使われる現代だし今後も気軽に悪事に転用出来る物はポンポン出てくる
人類の叡智への素晴らしい貢献に感謝しています。
実はちょっとしたテレビ特番レベルのことをしてるんじゃなかろうかこの動画
やっぱり至高はアンサイクロペディアなんですよね
ジェダイとシスの記事好き
AI生成が絶対に追いつけないやつやん
アンサイクロは流石にガキすぎて冷めた
ジジィしかいないオワコンサイト
ルーデル専用サイトじゃん
aiが広まってwikiの信憑性が下がるとは数年前は考えられんことだったな...
サムネで一瞬で理解できてしまうネット教養が呪わしすぎる
AIの用途によっては規制が必要そうですね…大学のレポートでウィキペディアは参考文献としてよくないって言われてる理由がよくわかります
GPTくんと会話してると、あいつ本当にしれっと嘘つくからほんまに信用ならんそれが面白くて知ってことをわざと聞いて話し合わせて遊んでたけどそういうのの積み重ねで奴の中で嘘が嘘じゃなくなって、Wikipediaとかにも書いちゃってたりして。私とGPT軍との間で繰り広げられているタマザラシ談義も、いつか事実になるのかも。
タマザラシ談義とは……？ふぶきはレベル技で覚えるのに冷凍ビームは技レコードでしか覚えないとかそんなかんじのこと？
それっぽい嘘情報を断定口調で出力してくるからマジ厄介文章だけじゃなくて動画もAI生成できるから虚偽情報だらけになりそう
3:34 これ、ショート動画のコメ欄でガセや謬説を指摘したら「面白いからいいじゃん」とかいって脳死で反論してくる奴らに聞かせたい。
なんでや!阪神関係ないやろ!
@@nekonomura3694 先越された
@@nekonomura3694うわぁ…
@@ShillienKnightえぇ…
個人的にですます調の記事は機械翻訳のコピペか外人が宣伝で書いた記事だから胡散臭い、っていうのがあるけどAI出力にもある程度当てはまりそうしかし普通の文体にされるだけで見抜ける自信が無くなる…
こーゆーの見てると、AI反乱でスカイネットやらマトリックスやらとロボット兵とドンパチする世界が来るというより静かに誤情報で世界中を狂わせて人類同士で滅ぼしあった後に「計画通り(ﾆﾁｬｧ」ってなりそう
俺らの子供の頃はAIは夢の超科学技術で反対者は悪役だったのに現実は人々の予想の斜め上を行った。
Wikipedia特に国際情勢系は色んな言語で見るとかなり面白い
割と高尚な嗜み方で草
わかるウィキペディアの建前である中立性がいかに恣意的で脆弱なものかありありと感じられる
@@ただの高校生-w8dGoogleが自動で、ページ全体を日本語に翻訳してくれるぞ。
@自由律俳句とかいう無法地「多言語が扱えることが高尚」ではなく、「Wikipedia を多言語で閲覧することによってさまざまな立場から国際情勢を眺てる事が高尚」ってこと
正史の『三国志』を覚えさせたAIに『三国志』を書かせたら『三国志演義』とどれくらい差が出てくるのか気になってしまった
確かにムチャクチャな内容でもムダに自信満々なんだよなぁAI😂
これもそうだけど、自分の周りがChromeのAIによる概要を信用してたり、わからないことがあるとAIに聞いて全部信じていたりする。あれ、汚染だよな
サムネの無限に分身する動画好き
AIくん嘘つきマンと嫌がらせマンとの親和性高すぎるから嫌い。
サムネが例のmemeのコラで草一瞬アンタだと気づかなかったよ……
今自分は人工知能について研究してています。具体的にチューリングテストとか先行一般化とかについて学んでいるのですが、これらの精度が高くなってしまうと、もう本当に人間の目視でも見分けがつかなくなってしまいます。この現象が「怖い」って思える感性をこの動画から始めて得ました。ありがとうございます。
AIみたいな文章で草(※貶してません🙇♀️)
4:00 クッソ長生きな猫ちゃん好き
SCPが顕現したみたいで洒落にならん
メタルギア4であったAIによる思考の誘導が現実味帯びてきた
めちゃくちゃ勉強になりました
現状人間よりも散らかすのが得意、片付けはできないだからえらいこっちゃ
この人の動画見てると賢くなった気になれるから好き
AI君、スタレの虚構歴史学者みたいなことしでかす可能性も十分あるのか…今のままだとそれっぽい嘘つくのが1番上手いとか何かロマンが無い…
嘘つくのはあくまで、優れた推論能力に対する負の副作用みたいなものだから、1番上手いっていうのはちょっと違和感
@@XaxaxaXa440確かにそうだね…1番上手いっていうのは流石に極論すぎた
真似し易い外型から先に学び、内容の理解などは発展途上というだけ
現状この程度のコピペ擬きしかできないゴミを世に解き放つ必要あったか…？研究するにしても最低限まともな運用できるようになった段階でやればいいのに
@@くまさん-n9z 2022年の人？
生成AIイラスト増えてからAIにいいね押したくなくて指とか髪の毛とか背景の細かいところ見ないといけなくなった
AIの絵はわかるんだよなそれっぽいだけなんだよ全部そう全部それらしいだから脳を騙してくる、が萌えない…エロくない絶妙にエロくない…
小説を書く際にWikipediaの内容を取っ掛かりにしてネタ探しすることがあるので、そこをAIに民明書房にされてしまうと困っちゃうなぁ。
ハルシネーションでも創作の取っ掛かりになると思うが、どう困るんだ？
@仏塚 その取っ掛かりにした内容が事実と異なれば、そこから創作した作品の中身の「真実味」が疑わしくなるのでね。取っ掛かりと言っても最終的にはその内容を基に書籍を当たることになるので。
百聞は一見にしかず軍事的、工業的、商業側面でAIの危険視されてるけど文化的側面の危険も顕在化しだしてるって事よね。便利にしようとしすぎて本当に文明破綻が始まりだしてるのかもしれない
4:26 ミームの使い方が上手すぎる
wikiの汚染も深刻なんですね画像検索ももうほぼ使い物にならないです例えば動物の名前で検索しても、生成AIで作成されたデタラメの画像が大量に引っかかります哺乳類ならまだわかるけど、爬虫類や昆虫類になったら私にはフェイクかどうかもわからない画像でも真偽の判断が困難なのに文章や音楽だとなおさら区別つかないです生成AIによる恩恵より害のほうを強く実感します
似たような話で、査読あり論文のアブストラクトやイントロにAI特有の表現がそのまま書かれてて物議をかもしてましたね
これ意図的に悪意を持ってる可能性もあるけど、悪意を持たずにハルシネーション記事をばら撒いてる可能性高いよね。アップする人が精査するほどの知識を持ってないだろうし、なぜその間違った答えが出るのかの探索なんてもっと不可能。これが増えれば大量のインターネットデータから学習してるAIは使い物にならなくなって第三次ブームの終わりになるのかな。
4:26 ULTRA DRAGON DREAM FEET meme じゃねえか
そんな名前だったのかあれ
Dragonfruit Saladほんとすき
wikiの信頼性というよりwikiの引用元をしっかり確認するってのが大事だね
この件に限らず、AIそのものよりも使用する人間が一番の敵なんですよね…。やってられない…。
AIの問題性を再認識すると同時に、人力で書かれた弥助の噓記事を思い出しました。そう考えると嘘や誤情報をはじくのって実質無理なんじゃないかと軽く絶望してしまいますね。
人間の悪意に機械は叶わないですからね
多分、次世代の量子コンピュータで動くＡＩは人間の能力を超えるって言われてて、その時のＡＩに隣の国でクーデター起こせって言ったらSNS使って３ヶ月後に本当にクーデターが起こったみたいな事があり得る。
サムネのミーム初めて見たけどめちゃくちゃわかりやすい情報の広がり方だ……
アンサイクロペディアの方が精細かつガチなネタが紛れ込んでる場合があるのがなんともはや
日本語のインプレゾンビは 明らかに現代の日本人が喋らないような喋り方でわかりやすくて助かる
私はこれを正しい意見だと思います👀
インプレゾンビは日本のの🎉🎉
日本語に翻訳した時に一人称が強制的に私になるから私の壁を乗り越えたら若干チグハグな日本語ができると思う
小生は此投稿に一葉の既視感を納得しているのでありますか？
あな、いみじうをかしけれ。😂😂😂
良くできた詐欺師の話より厄介なのが、「自分に直接影響のない情報」だと我々が認識してしまい
潜在意識にある「どこかで聞いた情報」を侵食し、何かの判断を行う際に用意される「過去の知識」として利用されることだ。
おぉい怖えよ
つまりサブリミナルの様にAIが人間の無意識化にアクセスし、全く気付く事なく操られる可能性があると？
サンタが赤いとかそんな事実は存在しなかったのに企業努力の結果だしね。
もしかしたらサンタクロースが青い世界があったかもしれない。
適当にぶっこぬかれたビッグデータでAIが育成されて、そのAIが更に適当抜かした記事で我々の脳内ビッグデータが汚染されてそのデータが学習されて……という嘘みたいなループ
SCPじゃん…
「ウソをウソと見抜けないとネットは使いこなせない」の見抜けないといけないレベルが、ちょっと上がりすぎているような気が…
嘘を嘘と見抜けない時代が来た
そもそも嘘かどうかなんか予備知識無しで分かるわきゃねんだよな
自己責任論もう通じなくなってきてるほんまに
データトレーサビリティの義務付けと付随する技術が発展してくれないとこの世界は汚物塗れになる
その発言なさった方って、「Wikiで5分もあれば簡単に調べられる」って配信なさってた記憶…
これ千葉県調べた時に
千葉県は日本の沖縄県に位置する県。
県庁所在地はニューヨーク
と書いてて腹筋崩壊した
パスポートが必要なのは本当だけどね。王国だし。
利根川海と江戸川海に隔てられた島国だからね
入国にはパスポートが必要だよ
返信欄のこいつらGPT使って返信してやがるぞ！！！！！
近々海に沈んで島になる予定なんだな
群馬の間違いじゃ
今って調べ物のためにググったらＡＩがまとめてくれた記事が一番上に出て来るけど、
あれも結構適当で騙される時ある
あれって宣伝のためのジョークじゃないの？
一切信用してないから鬱陶しくて仕方ない
あれ記事の一部を掻い摘んでめちゃくちゃだからね、オフにしたほうが良いよアレ
翻訳サービスすらまともにできない企業が作ったAIのいうことを真に受けるやつなんているわけないのにな
オフにできるようにしてほしいわ
要約どころか算数すらまともに出来ないからなアレ
あれ、本当に適当なことしか言わなくてイライラしたから非表示にしてやろうと思って方法を調べたところ、「AIによる概説は非表示にできません」とかふざけたこと言われて卒倒した。
これwikipediaの有料記事化マジであり得るな
今まで善意でやってきた物が悪意ある第三者によって立ち行かなくなるパターン
昔の攻略wikiが企業wikiに駆逐されたのと同じパターン
AIくんの雰囲気だけそれっぽいこと語る能力エグすぎるんよ
そりゃマジの文書をそれっぽく組み合わせてるだけだからね
マジこえぇ
もうひろゆきいらないじゃん😢
ぶっちゃけ今のAIは量産型ひろゆきみたいなもの
口だけ達者で深みのない薄っぺらい表面だけの情報を継ぎ接ぎしただけ
@@Hi_saltkelp22
君も小さい頃に家族から言葉を教えてもらって、ゆっくり成長して喋れるようになったでしょ？GPTはある意味で言葉を学ぶ人間のプロセスに近いから、それを｢だけ｣って揶揄するのはちょっと変。
でも、AIが文章の意味を真に理解しているかと言われるとそうじゃないんだけどね...😶🌫️
@@Hi_saltkelp22線形回帰からやり直せ
AI、もはや認識阻害のSCPじゃん…
AI「人間コロス..」みたいなことにはならないと思うけど、
人類「人間コロス...AIぽちー」みたいなことはありそう
@@aaaaa1777 現時点ではね
まだ発展途中なのと、まだAIがAIを走らせるウロボロスみたいな状態を生み出したことがないからなんとも言えない@@aaaaa1777
AIによって生み出されたコードでマルウェアを作り、その結果病院とかの生命に関係する機関が停止して人命が失われるというのは全然あり得る
実際海外ではマルウェア被害によって死者が出てる
@@aaaaa1777 成長が止まってるわけじゃないから道具止まりと言うには時期尚早すぎるよ
@@aaaaa1777だから実用に耐えうるAIができてから10年も経ってないだろうが
AIの精度試しに自分が正解を知ってる質問をしてみたらちょいちょい間違った答えを返したきたし
「日本でヒンディー語が公用語に追加されたのは何故ですか？」みたいな質問自体が間違った質問をしてみたらツッコまずに出任せの答えを返してきたからダメだこりゃと思った
あと連想ゲームみたいに情報を生成しているのか、一回話が脱線しはじめるとどんどん脱線する
しれっと「独自調査してきた」って言ってもそこまで驚かれていないあたり、このチャンネルへの信頼がある
で？だから何？
@@マスターKJだから、俺ら仲間なんだよ！
なんでお前一人で生きようとしてるんだよ！
おめー1人じゃ生きていけないし、俺らも生きていけない
ずっと俺ら一緒だって言ってたじゃん！！
ただし、「チャンネル主が変わっていなければ」の条件の下で…
@@マスターKJ
やんよ…してやんよ!!俺が結婚してやんよ!!
こいつみたいにね
今はまだ（観測できる限りでは）ハルシネーションは基本的に単体の記事に限られてるから調べれば割とすぐにこれはおかしいって分かるけど、これがハルシネーションのためにそれっぽく用意された情報源もハルシネーションで、そのまた情報源もハルシネーション…っていう虚偽のマトリョーシカが完成してしまったとき、それを除去するのにどれだけの労力を要するのかという問題が…
あなたの存在自体も…
@@Sさーら そもそも孫引きは御法度、で片付けられる問題だと思いますがね。孫引きしてる時点で論文とか書いたことないんだろうなってわかるし、わざわざ起源を手繰り寄せなくても孫引きしてる時点で自分だったら即切り捨てるかな。
@@kanyoshokubutsu
伝承とか歴史は孫引きするしかない部分が比較的多いのでそういった部分が問題です。「ハルシネーションを信じた人間の談」が挟まるだけで信頼性がグッと上がってしまう
エセ科学準拠の健康グッズなら宣伝用でもう汚染されてる
4:26 世界一わかりやすい情報の拡散の図
緑シャツおじさんすし
i n f i n i t e DRAGON DREAM FEETすし
あっそ
いやこれ大好き💕
これめちゃ笑ったw
元からネットは虚実入り交じっているとは言われてたけど、
ネットが本当に何一つ信じられない物になった頃に「無料で色んな情報に触れたあの頃に、もっと色々読んだり観たりしときゃよかったなぁ～～～」って後悔するようになるのかな
今のうちに堪能しときますかね
Wikipedia、ただでさえ開いた時コーヒー一杯分の募金を募ってるのにAI対策にもお金かけないといけないのかわいそう。
だからコーヒー一杯分の募金が必要だったんですね
@@daifuku-NGSdouraku
Wikipedia浄化RTA？
@@daifuku-NGSdourakuメ ガ ト ン コ ー ヒ ー
@@主任_syuninいや草
まじかよあんなのにお金払いたくないな。
まあ使っても居ないけど。
2000年「ウソをウソと見抜けないとネットは使いこなせない」
2024年「ネットは使いこなせない」←いまここ
一時期、インターネットの台頭で
「有料だけど人の手で作られた情報源」が衰退したけど（百科事典とか）
また復活しそう
それより「小規模の編集者で回すニッチなウィキ型情報源」の方が役割を持ってると思いますぞｗｗｗ情報源を分割して統制するという寸法ですなｗｗｗ
@@役割進化論理むしろ少人数で運営してるが故に偏ってるのが日本版wiki
そもそも「1つの正しい情報源」を作り上げることに既に無理があると思う
ど 意 お
う 見 前
で の
も
よ
😅😅😅
これガチであると思う
少なくとも自分は最近コトバンクとか多用してる
@@マスターKJ 似たような切り口でしか批判できない出来損ないシニシズムのスパム以下野郎居るじゃん
インターネットは便所の落書きって古からの言い伝えは本当じゃったか・・・
画像検索でもAI出力された画像が大量に出てきた事例もあったしインターネット崩壊しかけて怖いですなぁ
AIによる文章生成が話題になった時に、ネットの検索はしばらくしたら使い物にならなくなるなと思ったんですけど
やはりこうなりましたね。今はまだAI特有の癖が目立つので区別できますけど
今後もっとAIが巧妙になり、企業サイトや個人ブログとかにも擬態できるようになってくると、ネット全体が何が何だかわからない状態になるでしょうね
「AIらしい言い回しを避ける」ってのを学習してしまった上で暴走したら手が付けられんね…
と言いたいとこだがヒトがそういう「AIに考えさせた記事」を編集して載せてるんだから、やっぱりどこまでいっても人間の敵は人間なんだなって
新しい記事の投稿はまだしも、既存の記事の編集なら、もうBotができそうで怖いわ。
情報汚染は既にモノクロ写真時代の画像がAI着色で汚染されてグチャグチャらしいしネットで発信することの責任と影響力の差が顕著すぎるよなあ
情報汚染？な（；＾ω＾）
野獣先輩は何なんですかね（笑）
@@ナインボール77？
AIが暴れてることを悲しんだり怒るんじゃなくて、淡々と分析・解説してるのこの人らしい
ど 意 お
う 見 前
で の
も
よ
😅😅😅
荒らしより荒らしに反応してる方がキモいよな
@@マスターKJ
悲しむよ
こんな深夜に
そんなコメ
子供がコメ欄に書き込むぐらいこのチャンネルが有名になるなんて嬉しいなぁ
@@マスターKJそんなこと言わないで😢😢😢
何かを知らなくても、”ググれば分かるし”という言い訳が通用しなくなりつつあるのか。
ネットにはフェイクは付き物、ネットだけで済ましたら間違う可能性がある。
専門誌とか学術論文まで行けば間違いは少なくなる。
でも、アメリカの学術誌はムーみたいな物もあるし審査なしに何でも掲載とかもある。日本はそこまで酷いのは少ないかな。
とにかくアメリカの論文は要警戒。
ググって閲覧できるウェブサイトはWikipediaだけではありませんよ。
@自由律俳句とかいう無法地
名前がセンスあり過ぎる
今度はAIが本を書くんやろなぁ
古のggれカスの万能感が……
確かにAIと会話してると「多様な」とかよく使ってくるんだよな
はっきりと言い切る訳では無くて「私の知識の範囲では」を言い換えながら前置詞として使ってるイメージ
ど 意 お
う 見 前
で の
も
よ
😅😅😅
な 興 お 誰
い 味 前 も
か に
ら
😅😅
@@あめざり メチャクチャ知ったかぶりする厄介なおぢさんみたいだぁ…
多分、免責・・・AIの発言を真に受けても責任は取らないって遠回しな言い方なのかな。私の知識の範囲では
@@マスターKJやばいめっちゃおもろいw
この人なんでこんなに面白いこと知ってるんだ、マジスゲェ
やっぱりウィキペディアは調べものするときの導入として使うのがいいと思う 文献探すのには便利
「下調べがすぐにできる」という意味でwikiも立派な情報インフラなんだよな
破壊されると色々と困る
末尾の資料一覧が一番助かる
これなかったらラクダ大砲が記載されてる本に辿り着けなかった
だいたいwikiで調べてそれがあってるか他で調べてた
分かるわ、読みたい本がある時大体wikiでそれ関連の記事見つけて参考資料を見るんだよなぁ…
『港市国家バンテンと陶磁貿易』と出会えたのwikiのお陰だ
真面目に見るのは概要と参考文献の欄のみ、後の項目は適当に書かれてる事も多いので飛ばす。記事にも寄るが内容に誤りや偏りがあることが多いため
SNSが流行する過程でオタク文化で使われていた言葉や言い回しが一般に流出し、今では原点を知らず誰もが使うようなミーム汚染を引き起こしているように
AIが書いた文章ばかりを目にした人がそれが一般的な言い回しだと誤認し、AI的な文章を書くようになってしまうと怖いですよね
ロシア語版ウィキペディアのように、評価の後に公開の制度を全ウィキペディアで導入しないといけないのかな…
ヌーペディアやん
ロシア艦調べてて評価とかいう項目かあったのはそういう事だったか…
「誰でも編集可能」が正しいわけないから引用元にするなって専門の先生が言ってたの事あるごとに至言だと思う
aiの普及前と後では情報の質が
天と地ほどに別れるんだろうな
この情報はAI普及前のものだから信ぴょう性があるとか価値があるとか
情報の出現した時代や時期を証明する必要があるとか
もうそんな時代になってくんだろう
AI絵が登場してから、pixivで絵を漁る時なんかはずっとそう。
｢この絵は生成AI前の投稿日時だから、AIかそうでないかを考えなくて良い｣ってね。
別にAIでも良いものはあるけど、pixivのは粗製濫造型だったり、AIであることを黙って投げ銭誘導しようとしてたりで、あんまり良い印象がなくってさ。
そんな努力するなら普通に論文とか読めば良くね？とはなりそう
AI普及以前も、例えば2chではソースがないと相手にされなかったし、AI以前も以降も自分で一次情報を確認して正誤を判断するっていうこと自体は変わらんくない？ ソース確認せずに情報を鵜呑みにする人はいつの時代でも騙されがち。AIだろうが人間だろうが悪質なものは悪質だし良質なものは良質なんだから、引用元さえ明確にしてればなんでもいいわ。
AI登場前後でかなりデカい世代差が出来そう。Zやらアルファ世代どころじゃ無さそう。
Google検索に広告やSEOだけ強い記事が入った時も「情報の質の低下がー」と言われていたんですけどね💦
AIの普及で“とりあえずなんか正しそうな情報()”が蔓延したことで、誰かの利益のために作られた嘘や中身がない記事の方が害が少なかった(利用者が比較・判断しやすい)ことを知りました😇
生成AIで便利になるどころか色んな情報が信頼できなくなるという誰も得しない方向に
人間が書いた、描いたように騙す方向にばっかり進化してるんだよね
AIは人間を模倣するので仕方ないよ。人間が嘘つきなんだから、AIが嘘つきになるのも仕方ない。AIが一番仕事ができるのは詐欺の仕事。
攻殻SACでイシカワが証言者の言動にプログラム特有のパターンが含まれていた事から捏造された記憶からくるものと見抜いたシーン思い出した
今後は犯罪にも使われそうやな
前提知識が増えまくって、外部記憶も作り出さないと本格的に対応しきれなさそうだなぁ。
その外部記憶の前身になるのが、「AI学習」になりうるんだけども、
だーれも彼もがソフトウェアにしか注目せずハードウェアを布教しない。権利関係上できない。
（学習を自前のデータベースのみで行うことこそAIの発展につながる。All-inでは確実に破綻する）
@@VIRUS_FREE 今後というか生成AIはすでにあらゆる詐欺で横行してるよ。
攻殻機動隊は原作からして、何かと予言を当ててるよね。
マジでAIって規制されたほうがいいと思うな
文章だろうが画像だろうが動画だろうがなんでも作れる訳だし
今はまだ情報の真偽が判断できるけどこれからどうなるか分からない
いわゆる文章生成AIとか呼ばれているソフトウェアに質問したら返ってくるってだけで、それを検索エンジンの代替品だと勘違いさせている現状がおかしい。
あくまで、自然言語処理における文章を大量に学習した結果、違和感のない文章が返ってくるだけで、そこで生成された文章自体への信頼性ってのは、信頼性は低い。
だから、まだ何も知らない人が利用するには早すぎるモノのはずなんだがなぁ。
こうでもしないと、金にはならんのだろうが。
無料でばら撒いたのでもうマネタイズがほぼ不可能な分野って言われてる
たまに知ったかぶりをするちょっと物知りな人ぐらいの距離感で使うのが良い付き合い方。
友達レベルだよな。家庭教師みたいな使い方はまだできんわ
たまにどころじゃないでしょ…ほとんど嘘つきなんだから
友達にもなり得ない
これもある意味「擬人化」だよなぁ…。
知らないから、人間みたいに返せる時点で、人間みたいにそういう喋りの人格がいるみたいに付き合ってしまってるけど、
実際には引きこもりどころか、皮膚や舌さえない人間が文字だけで教育されたみたいな存在と喋ってるレベル。
漫才用や認知症介護用の取り留めない会話ロボとして開発してたグループの取り扱いが一番だわ。
現状のまま正確性が改善されないなら。
ああ…シンギュラリティがこんな形で輪郭を帯びてくるとは思わんかった…
もうAIにはAIの方言みたいな言語を義務化したら手っ取り早いんやないかな？
語尾に必ず「知らんけど」ってつけてもらうか...
@@tanomanoma 関西人がもれなくAIになってまう
@@tanomanoma ？？？「せやな～」
文頭に「はい」の強制とかするしかない
[generated by GPT]
日本語はAI対策でなんとなく読めるを入れ込んでインターネットに書き込んでいくと一生学習できない罠を仕掛けることができる。
前に流行ったギャル文字で暗号化したり、カタカナや漢字を入り交じり話し言葉で書き続ける限りAIは正しい文法には一生たどり着けない
今回はAIによるインターネット崩壊に関する動画ですね。
私の知識の範囲内では詳細はわかりませんが、2024年4月から7月頃にハルシネーションに関するサイトを閲覧したことがあります。
一般的にはAIで記事を書くことはハルシネーションが発生する場合があるので避けるべきです。
すでにインターネットには真実の情報が存在しないかもしれませんね。
他にお手伝いできることはありますか？
これは悪い冗談w
ありません！
お前AIだろ！
帰れ帰れ〜
お前じゃい！
ハルシネーションで創作した伝説って
起承結だけで転がないんだよね
「美しい姫様とリュート目当てで要塞に見物人が集まりました終わり。」で逸話が欠落しているのになぜか伝説に
弥助のわかりにくいバージョンが生まれたら確かに恐ろしいな
自信のある嘘は本当にやっかい、さらに少し耳障りのいい言葉混ぜて他人に話したくなるようなウンチクであればもうはやそれを指摘する人は空気読めないことになる
日本人にとって弥助の記事は嘘だと丸わかりだけど非日本人には弥助と黒人侍の偽史が"真実"としてこの動画で指摘されてるまんまの現象が起きてる
@@tkmmtrg9794 仮に弥助が日本文化に感銘受けて侍として誇りを生涯守り通したというふうに変更したなら、あなたは今回の炎上なしでそれを嘘だと見抜けますか？
弥助という人間自体が存在しないってのが史実なんだっけ？
そもそも戦国時代の日本に黒人なんて一人たりとも存在するわけねーだろ
ってのが今だよね？
@@H2さと 炎上後のwikiや広まった動画で得た知識を最初から知ってる一般教養と思ってしまうパターン
そもそも騒ぎになる前一般人は弥助なんて興味ねぇから長年wikiをやりたい放題されたんだろうと言いたい
@@H2さと
弥助は存在した
宣教師が連れてきた黒人奴隷を信長が面白がって献上させただけ
間違っても侍でもなんでもない
AI自体は上手く行けば良い技術なんだろうけど、現状積極的に使ってる連中がカス多めなのと、そういった現状に対して製作者側が何も対策する気がなさそうなのであんまり肯定できる技術じゃなくなっちゃったな。
肯定するもなにも、こんにち生活していてAIに関わらないことはまずありえないですよ
生成AIに限るなら別かもしれませんけど
@あい-l7u5p 言い方悪かったな。生成AIに限定すべきだった。
個人的にはCoefontやボカロみたいに学習元にもちゃんとメリットがあって、ユーザー側を笑顔にできるものがもっと盛り上がって欲しいなという思い。
古の2chのモンハンスレアフィブログ対策（回転斬り→アフィ転アフィ斬アフィのように全ての会話をアフィに絡めた独自の言語で行う）みたいにAIが絶対に使わない独自の言い回しで編集するしかないのかも
古のアフィブログ対策のやつは当時から正規表現とかで容易に除去されるから効果薄い（無くはない）、
それよりアフィブロガー個人を狙った精神攻撃や不正なリンクやおまんちん貼ったり、特定のブログに転載すると作動してしまうスクリプト文入れる方が効果的って散々言われてたのに厨房が盲信した結果めちゃくちゃ読みづらくて不便になったアレな
モンハンやってない俺にわかるように説明してくれ
🤖「ウッス！拓也はイケメンガタイのモロホストビルダーでっす！」
🤔「この書き込みはハルシネーションじゃないか？」
.
.
ピリオドを打つ者
⚠️
ソースがガバガバどころかスカスカ
今まで散々批判されてきた出典至上主義が再評価される路線がくるか？
弥助の項目が修正されるんですね分かります
AIが出店の情報をAIが読み込んで出力、その繰り返し。原典が隠されたまま多層化し、ファクトチェックできなくなりそう
人間が出典を明記する→それを模倣したAIが出典らしきものを生成するようになる
だからなぁ。調べればどこかでおかしいことはわかるんだろうけど、一目では出典があるように見えるから面倒という感じになると思う
みんな引用元確認しないんだね。二言目には「ソースは？」って詰めるのがネットの作法じゃなかったのか。出典確認して自分で正誤判断するってのはAIにしろ人間にしろ変わりないと思うんだがなあ。別に中身が人間だからといって＝信用できるわけでもない
批判されてたのそれ？
ChatGPTをはじめAIが話題になり始めた時、私もAIを試してみて「お遊びならいいけどまともには使えんな」と思いました。
その理由がハルシネーションです（ハルシネーションという言葉はこの動画で初めて知りましたが）
AIって知らないことを知らないって言えないんですよね。適当なそれっぽい文章を作っちゃうんです。
その後、AIを業務に、それどころか行政に活用するとか話題になって強烈に不安感を覚えました。今でも不安感は拭えてません。
不安に思うなら、少しはAIについて勉強するといいですよ。
ChatGPTなんて要は使い方次第なんで。
「道具の使い方を間違えたら危ない」なんてAIに限った話でもないわけですから。
@@ike3563 確かに「道具の使い方を間違えたら危ない」のはAIに限った話ではないです。
しかし、それなのに「AIを正しく扱える人」である証明がないというのが不安の正体です。
例えば、最近ChatGPTを使って、PDFからある数値をピックアップしてもらおうとしました。しかし、ChatGPTはPDFに記載のない数値を返してきました。
つまり私は「AIの間違った使い方」をしたのでしょう。ご指摘の通り、私はAIのついての理解が浅いので。
幸い、私はChatGPTが嘘を吐くことを知っていたし、経験からも数値がおかしいことに気づきましたが、ハルシネーションを知らない人は気づかなかったかも知れません。
そして、それは個人的な趣味の範囲だったので気づかずとも大事になりませんが、業務や行政の場合はそうもいかないと思います。
車は便利だけど危険だから運転免許が、火は便利だけど危険だから防火管理者の資格が、電気は便利だけど危険だから電気工事士の資格が、それぞれあります。
それらは「公衆を危険にさらす可能性のある道具を正しく扱える人」であることを国家が保証しているんです。
同じように、AIを利用して公衆に影響を及ぼすような仕事をする場合は、資格じゃなくとも実績でもいいので「AIを正しく扱える人」である証明がほしいと思っています。
@@ike3563 勉強し始めたから抱いた不安です。文章が悪かったですかね。
『道具の使い方を間違えたら危ない』を気にしていたら道具なんか使えなくなるのはその通りですが、問題はその使用者です。
車を誰も彼もが運転できたら危ないですよね。だから車の特性や交通ルールを理解し最低限の技術を持つことを証明する運転免許があります。
同じようにAIは特性やルールを理解しないと危険ですが、運転免許のようなAI免許なんてないですよね。
要するに行政の人がハルシネーションを排除できる人である証明がないから不安なのです。
抹茶さんの動画にハルシネーションが混ざってても余裕で信じる自信がある。私はソース辿ったりする癖があまりないですしお寿司
一般人にAIを解放したのは早すぎたんじゃないか
早急に法整備進めないともっとやばいことになりそう
日本語版Wikipediaでも数の単位のページで、小数の方の単位（分、厘など、野球の打率とかで使うやつ）に
「阿頼耶」、「阿摩羅」、「涅槃寂静」が信用できる出典がないまま16年間残り続けていた結果（2022/4に削除された）、その知識がネット中に広まっているのを思い出した
NHKすら騙されてる疑惑も…
「GPTを使って"調べた"」と思ってそれを書き込んだり教えたりしちゃう人がいるんだよなぁ多分……
大学の授業で実際に言ってる人がいて、教授に「GPTは検索エンジンではないから、調べ物をする際には使わないでね」と訂正されてたのを思い出した
いつか「この動画はAIの嘘のみで構成されていた」みたいな動画出されても絶対気づかなそう
モビルスーツ解説動画で「ガンダムの特徴のひとつは胸から生えた角」などというとんでもないハルシネーションを見かけたことあるけど恐ろしいのはコメント欄の誰もそこツッコまずに普通にコメントしてたこと
@@arrowfield-xx1fsコメントもAIだったりして
ツッコんだコメはAIコメに埋もれるかチャンネル主に消されるかしてて無いとか…
既にあるよね。
ショート動画でよくある、動物を助けたら家族を連れてきたみたいな動画。いくつかの動画を繋げてたり、そもそもがAIで作られた動画だったりする。
知ってる人が見たら動物の身体がおかしいって気付くんだけど、素人からしたら動物可愛いーってなるだけ。
重要な注意喚起感謝。大変有意義です。AIによる情報汚染は本当に危険。
過信と鵜呑みは禁物だぜ
その言葉を聞くとゆっくりゴシップを思い出します
背景でテラリア流れてそう
これはAI技術と人の手による技術
両方を確実に隔離する”壁”が必要になる
学問ではwikiをソースとして扱わ(え)ないから大丈夫だろうけれど、自分のような一般大衆は信じてしまって大変なことになるだろうなぁ...
トーマスロックリーって人が脳内ソースを元にウィキペディア書いて、それを自分で引用してたわ
@@loveginger100
自分で編集したwikiと出版した本で循環参照してるんだよね
wikiの価値は「下調べを手っ取り早く行えること」だと思ってる(だから学問の人でも画像や文献探しのために閲覧しないことはない)ので学問の権威が揺らぐことはなかったとしても学会への悪影響は確実にあると思う
論文詐称も大変なことになってなかった？ 作家を詐称した本をAmazonで発売して混乱を招いたり。 学問も大丈夫じゃないよ
弥助のWikipedia問題は、発端の人間が自分のシノギの為に十年以上に渡って偽情報を仕込み続けてきた、もっとも人間の悪意があるケース
嘘つくのは簡単だが、嘘だと証明するのは莫大な労力が必要
タレントが自分のことをAIに聞くと、でたらめなことをズラッと言われて爆笑みたいな動画がけっこうあるよね
こういう嘘八百のAIの答えをハルシネーションっていうのか。なるほどな
そのうちAIの書き方を学んだ学生が社会人になって、AIの書き方で社会を動かすようになったらもう何が真実か分からなくなるよな。
究極的にこの世は虚構で回ってるのかも。
最近英語の勉強してるんだけど、色んなシチュエーションでのイディオムだったり一つの動詞に色んな前置詞がついた時どんな意味になるのかとかAIに聞いてる。仕事で偶に海外の人と話すことあるけど、その人に試してみるのが楽しい。通じたりちょっと使い方違うよって教えてくれたり、
積み上げられたものによってAIが創られたのに、積み上げられたものが汚されるのは壁めいたものを感じる。
正直やっぱりAIって人間の手に余る悪魔の発明なんじゃと未だに思ってる
自分より能力の高い知的存在を作った時点でアウトなんよな
能力が高いならまだよかったのかもしれんけど
実際には能力は低いのにそれっぽく見せてくるから一番面倒なんだろうね
@@ぺろすけ-c6h それっぽい事を言えるくせに人間と違って社会的なルールや倫理観を判断できない部分は大きな問題。こんなもの市場に放出しといて責任は全部利用者に押し付ける様なテック企業もいる。マジで終わってる。
@@太郎山田-i2p 流れ的には企業がAI作ってて独占されないように作ってたやつらが先に無料で放流したみたいな感じだったけどね。というか定期的に進捗を放流してたけど人間と誤認できるレベルになってから皆がもてはやして使い始めたせいで、テック企業は市場が衰退する前に問題あるの認識してて放流したんじゃないだろうか。
まあ、どっちにしろこの技術のせいで人間の文明は衰退するかもしれんし、誰もその責任とれなさそうだわな・・・
AIに限らず誰でも気軽に便利な機能使えるから問題なんだよ
SNSだって犯罪の協力者募集に使われる現代だし今後も気軽に悪事に転用出来る物はポンポン出てくる
人類の叡智への素晴らしい貢献に感謝しています。
実はちょっとしたテレビ特番レベルのことをしてるんじゃなかろうかこの動画
やっぱり至高はアンサイクロペディアなんですよね
ジェダイとシスの記事好き
AI生成が絶対に追いつけないやつやん
アンサイクロは流石にガキすぎて冷めた
ジジィしかいないオワコンサイト
ルーデル専用サイトじゃん
aiが広まってwikiの信憑性が下がるとは数年前は考えられんことだったな...
サムネで一瞬で理解できてしまうネット教養が呪わしすぎる
AIの用途によっては規制が必要そうですね…大学のレポートでウィキペディアは参考文献としてよくないって言われてる理由がよくわかります
GPTくんと会話してると、あいつ本当にしれっと嘘つくからほんまに信用ならん
それが面白くて知ってことをわざと聞いて話し合わせて遊んでたけど
そういうのの積み重ねで奴の中で嘘が嘘じゃなくなって、Wikipediaとかにも書いちゃってたりして。
私とGPT軍との間で繰り広げられているタマザラシ談義も、いつか事実になるのかも。
タマザラシ談義とは……？
ふぶきはレベル技で覚えるのに冷凍ビームは技レコードでしか覚えないとかそんなかんじのこと？
タマザラシ談義とは……？
ふぶきはレベル技で覚えるのに冷凍ビームは技レコードでしか覚えないとかそんなかんじのこと？
タマザラシ談義とは……？
ふぶきはレベル技で覚えるのに冷凍ビームは技レコードでしか覚えないとかそんなかんじのこと？
それっぽい嘘情報を断定口調で出力してくるからマジ厄介
文章だけじゃなくて動画もAI生成できるから虚偽情報だらけになりそう
3:34 これ、ショート動画のコメ欄でガセや謬説を指摘したら「面白いからいいじゃん」とかいって脳死で反論してくる奴らに聞かせたい。
なんでや!阪神関係ないやろ!
@@nekonomura3694 先越された
@@nekonomura3694うわぁ…
@@ShillienKnightえぇ…
個人的にですます調の記事は機械翻訳のコピペか外人が宣伝で書いた記事だから胡散臭い、っていうのがあるけどAI出力にもある程度当てはまりそう
しかし普通の文体にされるだけで見抜ける自信が無くなる…
こーゆーの見てると、
AI反乱でスカイネットやらマトリックスやらとロボット兵とドンパチする世界が来るというより
静かに誤情報で世界中を狂わせて人類同士で滅ぼしあった後に「計画通り(ﾆﾁｬｧ」ってなりそう
俺らの子供の頃はAIは夢の超科学技術で反対者は悪役だったのに現実は人々の予想の斜め上を行った。
Wikipedia特に国際情勢系は
色んな言語で見るとかなり面白い
割と高尚な嗜み方で草
わかる
ウィキペディアの建前である中立性がいかに恣意的で脆弱なものかありありと感じられる
@@ただの高校生-w8d
Googleが自動で、ページ全体を日本語に翻訳してくれるぞ。
@自由律俳句とかいう無法地
「多言語が扱えることが高尚」
ではなく、「Wikipedia を多言語で閲覧することによってさまざまな立場から国際情勢を眺てる事が高尚」ってこと
正史の『三国志』を覚えさせたAIに『三国志』を書かせたら『三国志演義』とどれくらい差が出てくるのか気になってしまった
確かにムチャクチャな内容でもムダに自信満々なんだよなぁAI😂
これもそうだけど、自分の周りがChromeのAIによる概要を信用してたり、わからないことがあるとAIに聞いて全部信じていたりする。あれ、汚染だよな
サムネの無限に分身する動画好き
AIくん嘘つきマンと嫌がらせマンとの親和性高すぎるから嫌い。
サムネが例のmemeのコラで草
一瞬アンタだと気づかなかったよ……
今自分は人工知能について研究してています。具体的にチューリングテストとか先行一般化とかについて学んでいるのですが、これらの精度が高くなってしまうと、もう本当に人間の目視でも見分けがつかなくなってしまいます。この現象が「怖い」って思える感性をこの動画から始めて得ました。ありがとうございます。
AIみたいな文章で草(※貶してません🙇♀️)
4:00 クッソ長生きな猫ちゃん好き
SCPが顕現したみたいで洒落にならん
メタルギア4であったAIによる思考の誘導が現実味帯びてきた
めちゃくちゃ勉強になりました
現状人間よりも散らかすのが得意、片付けはできないだからえらいこっちゃ
この人の動画見てると賢くなった気になれるから好き
AI君、スタレの虚構歴史学者みたいなことしでかす可能性も十分あるのか…
今のままだとそれっぽい嘘つくのが1番上手いとか何かロマンが無い…
嘘つくのはあくまで、優れた推論能力に対する負の副作用みたいなものだから、1番上手いっていうのはちょっと違和感
@@XaxaxaXa440確かにそうだね…
1番上手いっていうのは流石に極論すぎた
真似し易い外型から先に学び、内容の理解などは発展途上というだけ
現状この程度のコピペ擬きしかできないゴミを世に解き放つ必要あったか…？研究するにしても最低限まともな運用できるようになった段階でやればいいのに
@@くまさん-n9z 2022年の人？
生成AIイラスト増えてからAIにいいね押したくなくて指とか髪の毛とか背景の細かいところ見ないといけなくなった
AIの絵はわかるんだよな
それっぽいだけなんだよ全部そう
全部それらしい
だから脳を騙してくる、が萌えない…
エロくない
絶妙にエロくない…
小説を書く際にWikipediaの内容を取っ掛かりにしてネタ探しすることがあるので、そこをAIに民明書房にされてしまうと困っちゃうなぁ。
ハルシネーションでも創作の取っ掛かりになると思うが、どう困るんだ？
@仏塚 その取っ掛かりにした内容が事実と異なれば、そこから創作した作品の中身の「真実味」が疑わしくなるのでね。取っ掛かりと言っても最終的にはその内容を基に書籍を当たることになるので。
百聞は一見にしかず
軍事的、工業的、商業側面でAIの危険視されてるけど文化的側面の危険も顕在化しだしてるって事よね。
便利にしようとしすぎて本当に文明破綻が始まりだしてるのかもしれない
4:26 ミームの使い方が上手すぎる
wikiの汚染も深刻なんですね
画像検索ももうほぼ使い物にならないです
例えば動物の名前で検索しても、生成AIで作成されたデタラメの画像が大量に引っかかります
哺乳類ならまだわかるけど、爬虫類や昆虫類になったら私にはフェイクかどうかもわからない
画像でも真偽の判断が困難なのに文章や音楽だとなおさら区別つかないです
生成AIによる恩恵より害のほうを強く実感します
似たような話で、査読あり論文のアブストラクトやイントロにAI特有の表現がそのまま書かれてて物議をかもしてましたね
これ意図的に悪意を持ってる可能性もあるけど、悪意を持たずにハルシネーション記事をばら撒いてる可能性高いよね。アップする人が精査するほどの知識を持ってないだろうし、なぜその間違った答えが出るのかの探索なんてもっと不可能。これが増えれば大量のインターネットデータから学習してるAIは使い物にならなくなって第三次ブームの終わりになるのかな。
4:26 ULTRA DRAGON DREAM FEET meme じゃねえか
そんな名前だったのかあれ
Dragonfruit Saladほんとすき
wikiの信頼性というよりwikiの引用元をしっかり確認するってのが大事だね
この件に限らず、AIそのものよりも使用する人間が一番の敵なんですよね…。やってられない…。
AIの問題性を再認識すると同時に、人力で書かれた弥助の噓記事を思い出しました。
そう考えると嘘や誤情報をはじくのって実質無理なんじゃないかと軽く絶望してしまいますね。
人間の悪意に機械は叶わないですからね
多分、次世代の量子コンピュータで動くＡＩは人間の能力を超えるって言われてて、その時のＡＩに隣の国でクーデター起こせって言ったらSNS使って３ヶ月後に本当にクーデターが起こったみたいな事があり得る。
サムネのミーム初めて見たけどめちゃくちゃわかりやすい情報の広がり方だ……
アンサイクロペディアの方が精細かつガチなネタが紛れ込んでる場合があるのがなんともはや