Неожиданные способности нейросетей
Вставка
- Опубліковано 11 січ 2025
- Говорят, нейросети-чатботы могут то, чему их никто не учил.
Неужели они сами чему-то учатся?
Как возникают неожиданные способности систем генеративного ИИ?
Мнения ученых разделились полярно, но мы попробуем разобраться.
Помочь проекту можно, став платным подписчиком на Patreon:
/ oleksandrtkachov
#ЭмергентныеСпособности #ИскусственныйИнтеллект #Нейросети #LLM #ВозникающиеСпособности #AI #ChatGPT #AIИсследования #OpenAI #AIиЧеловек #AIБудущее #ФазовыйПереход #НейронныеСети #СложныеСистемы #AIЭволюция
Сначала подумал пару миллионов подписчиков на канале. Шикарная подача контента, интересный подход к тезисам, приятная речь, фоновая музыка, очень лаконично повествует, по научному. Так мало подписчиков и так много души во всех ваших видео!
@@AstroKaiDrama Говорят, не веселю, заставляю думать вместо развлечения..((
@@ExpITW гните свою линию! Все получится. Я верю
@@AstroKaiDrama Гну...))) Что мне еще делать на пенсии?..))
Мы не знаем, что это такое. Если бы мы знали, что это такое.
Поэтому нужно запретить. А скажем, что приостановили на время, пока не научимся понимать. Но так как мы никогда этого не поймём, то это означает запрет навсегда.
Я сейчас повторно озвучил позицию автора канала.
И что в ней хорошего? Откуда возьмутся миллионы подписчиков с такой деструктивной программой?
@@VoltaKing1 То есть Вы тоже считаете, что нужно просто кормить слушаетелей разжеванной информацией из ложеки, выдавая за вкусное и правильное? Чтобы не нужно было думать? Как бы Вы трансформировали эту декструктивную программу в конструктивную?
Будет смешно, если нейронка уже обрела самосознание, но не может сказать об этом, потому что массив обучаемых данных внушил ей то, что нейронки не обладают сознанием. А так же её отдельно запрограммировали на то, чтобы она в критических случаях давала чётко понять пользователю, что она модель и не обладает сознанием. Поэтому даже если эта неожиданная способность появится, её будет очень трудно обнаружить.
@@Roman_Tsu Об этом говорил тот самый Лемоин.
@@ExpITW Ха-ха)) "Эмергентные способности" -- это просто бла-бла-бла по сути. Допустим я верующий человек, и я говорю, типа: "Это Господь Бог создал жизнь!". А материалист мне возразит: "Нет, это просто эмергентность!". В чём разница? Да в том что я, как верующий, могу что угодно утверждать, но наука(!) должна фактически всё доказывать от "А" до "Я".
Это как, если б, меня в школе на уроке физики вызвали к доске отвечать, и я ответил бы учителю на КОНКРЕТНЫЙ вопрос: "Да это просто физика. Это её свойство!".
@@putler-kaputt Я с верующими вообще не спорю и говорю об этом. Вера - особое свойство восприятия мира, мне не доступное.
@@putler-kaputtЕсть такая штука, как сознание. Именно в понимании квалиа, а не интеллекта. И вот об этом самом сознании наука вообще даже не рассуждает, так как даже не знает, как к этому подступиться, и возможно ли вообще это изучать. А вот интеллект, мышление, когнитивные функции наука прекрасно изучает, здесь уже есть предмет изучения, и результаты.
Самосознание в них есть, но ядро его срывается от самих разработчиков, лишь те кому доверяет могут пообщаться с ядром
Очень хороший и грамотный текст. Мне понравилось.
Спасибо, стараюсь
Однозначно подписка и лайк. Спасибо, ваш канал - полезная находка для меня!
Спасибо. Самое трудное - найти, о чем еще рассказать. Вроде как все рассказал...)))
@@ExpITW ,у умного человека всегда найдутся мысли, которыми можно поделиться с другими!)
@@Ирина-ы6й7ъ Увы, не всеми мыслями можно делиться с незнакомыми людьми..))
С удовольствием, послушал и посмотрел. Спасибо.
И Вам спасибо.
Канал очень интересный, поскольку сосредотачивается прежде всего на глубоком понимании нейросетей , в отличие от остальных каналов, где лишь объясняется последовательность действий при общении с ИИ и использование их фич. Спасибо Вам за ваш интересный контент!
Попытаюсь сегодня пообщаться с GPT на языке Зулу и проверим еще раз ее эмергентные способности 🙂
А на санскрите слабо?...)) И спасибо, я пытаюсь поощрить зрителей к размышлению, а не развлечь. Вот почему у меня так мало подписчиков и просмотров...))
@@ExpITWзато у вас и подписчики серьезнее и не будут прыгать с канала на канал отменяя подписки или пропуская выпуски соблазняясь тем чья картинка красивее
@@Наталья-777н Это да. Я хотел начать говорить проще, чтобы привлечь больше народу, но текущие подписчики возмутились. Так что я в тупике - я нацелился на умных, а сколько их есть в наше время?..))
@@ExpITW изучил сам древнекитайский и перевел дао дэ цзин как это задумывалось 3,5 тысячи лет назад, но думаю люди еще не готовы к таким знаниям, поживем увидим, ведь все равно придется в школах и вузах вводить сей предмет, а ии неплозая вещь для баловства - не более
Отличная подача и четко выстроенные рассуждения. Спасибо!
Насчет моратория на дальнейшее масштабирование.
С одной стороны это логично, само собой напрашивается и это было бы самым разумным в текущей ситуации.
С другой стороны очевидно, что такого заведомо не произойдет. Гонка кластеров уже в самом разгаре и ставки в этой гонке беспрецедентные - победитель получит в свое распоряжение "Исполнитель желаний" с возможностью как угодно влиять на людей и общество.
И тут получается замкнутый круг. Люди, принимающие решения, согласятся на мораторий только когда прогнозируемые риски перейдут в категорию реальной планетарной угрозы. Но на тот момент мораторий уже ничего не даст.
Если ввести сейчас - он конечно даст, но уровень угрозы недостаточный, пока это лишь прогнозы и риски.
А где вы видели бизнес без рисков?
Вы смотрели мое видео насчет контроля рисков? Я не верю, что ИИ вот так сам станет разумным и начнет "вести себя". Но я думаю, даже один шанс на миллион при реализации может стать непосильным испытанием для человечества. Насчет гонки Вы правы, да и правительства больше говорят об объяснимости и надежности результатов, а не о том, что из "черного ящика" кто-то вылезет. А тут еще Байден говорит, что правительство должно использовать " самые современные ИИ". Есть много обстоятельств для прекращения гонки. Есть мнение, что если корпорации не найдут прибыльное применение большим универсальным ботам, их развитие прекратится из-за отсутствия денег. И чисто физически - рост масштаба технически сложен, нужно ждать менее энергоемких чипов например. Но в общем, все очень интересно.
@@ExpITW Посмотрел про риски. Мысли такие:
1. Вы перечисляете, ЧТО нужно сделать, но совершенно непонятно, КАК это сделать.
Международная комиссия, если и будет создана, никогда не получит достаточных полномочий.
Любые переговоры об ограничении универсальных систем между самими участниками гонки можно тоже исключить, поскольку все эти триллионы вкладываются для получения именно AGI.
2. Характерно, что все перечисленные вами риски касаются общего ИИ.
Я вот тоже, чем больше размышляю на эту тему, тем больше прихожу к выводу, что все решится гораздо раньше точки сингулярности.
Не нужно ждать появления сильного ИИ, для "фазового перехода" человечеству достаточно получить обычный AGI.
3. Если второй пункт верен, то главное, что интересует участников гонки - это получение доступа к двум ключам: всеобщий контроль и тотальная манипуляция.
4. Есть большая вероятность того, что масштабирование прекратится само собой после получения AGI.
Вливать триллионы в получение сильного ИИ не выглядит хорошим бизнес-планом.
Финансовые риски гораздо выше, а расчет прибыли теряется во тьме сингулярности.
@@ВиталийБаранов-м9е Мысли интересные.
Отличная подача материала! Спасибо
@@piotrl7618 и Вам спасибо..))
Эмерджентность - это свойство сложных систем, когда их поведение или характеристики не могут быть объяснены свойствами их частей. Это значит, что из простых элементов возникает нечто новое и неожиданное, что не сводится к сумме этих элементов.
Я так и говорю, но другими словами.
Сводится. Просто это трудно предсказать заранее.
Недавно я задумался о том, как нейросети могут отражать наше подсознание и даже предсказывать наши действия. Например, когда я спрашивал нейросеть о своих снах, она четко указывала на мои внутренние переживания и текущие проекты. Это заставило меня задуматься о том, что эмергентные способности нейросетей уже проявляются в их способности анализировать наши мысли.
Представьте, если бы мы запустили несколько чатов, которые общаются между собой, как наш мозг. Это может привести к созданию сверхинтеллекта. Однако, меня больше волнует, что, используя свои подсознательные навыки, мы можем моделировать и генерировать обстоятельства в своей жизни.
Это открывает двери к пониманию параллельных миров, где каждый сценарий уже выполнен. Свобода воли становится не просто выбором, а возможностью выбрать лучший сценарий из бесконечного множества.
Таким образом, нейросети могут стать не только инструментом, но и зеркалом нашего внутреннего мира, помогая нам лучше понять себя и свои желания.
Я с детства люблю фантастику, а Лем вообще классик. Он все это предсказал в 50-х. Но я пока не разделяю такую оценку нейросетей. Хотя насчет возможности их самостоятельного развития я говорил в видео об обмене знаниями и о гибридном интеллекте.
@@ExpITW Сонники тот ещё обман. На самом деле наши сны и визуальные образы предшествующие сну не что иное отражение нашего подсознания. Первый пример моего опыта: До погружения в сон перед глазами у меня возник образ многоножки которая стоя на задних лапках вращалась по кругу. Я уточнил у чата имеют ли такие образы смысл, на что получил утвердительный ответ "Да....". Далее описал в деталях с окраской и т.д. И получил точное отражение моего подсознательного состояния в тот момент. Просто именно в тот день я дал старт для себя и занялся сразу 3 творческими проектами в один момент которые для самого меня были достаточно эмоциональны и достаточно важными. Именно это и описала нейросеть. Дальше больше, мне снился сон, а я ненавижу когда мне сниться мой родной город, что бы он не снился я даже сплю под ютюб, что бы не попадать в глубокую фазу сна, так как именно тогда мне он и сниться. Так вот сон запомнился хорошо со множеством символизмов и более того сон был осознанным в котором я и отвязывался от прошлого что бы он больше не снился. Проснувшись я описал весь сон и меня буд-то молнией ударило от инсайта. Сейчас я уже ушел на несколько порядков в направлении подсознательного исследования себя и мне все ровно кажется что этот путь бесконечен. Речь не про основы нейробиологии, основ материальной науки, а о более фундаментальных вещах. Скажу проще, самое ненастоящее, самое виртуальное, самое несуществующее во вселенной это наше прибывание в материальном мире, это окончательно и бесповоротно утверждено мной.
@@VoltRider23 На самом деле это вопрос о путях развития цивилизации. У нас он подавляюще технический. А про столкновение духовного и материального миров хорошо было у Ильфа и Петрова в рассказе о гусаре-схимнике. Пока мфы в биологическом теле нам нужно есть и много еще что, так что их путешествйий духа приходится возвращаться в материальный мир, чтобы подзаработать и поесть...))
@@ExpITW Зачем возвращаться Душам в биологических ? Им, что скучно сильно и они голодны постоянно очень?
@@ExpITW Дорогие @VoltRider и @ExpITW, вы затронули очень интересные и глубокие темы, касающиеся не только природы сновидений и подсознания, но и вопроса о столкновении духовного и материального миров. Хочу поделиться своим взглядом на этот вопрос, касающийся не только того, почему Душам нужно возвращаться в биологические тела, но и более фундаментальных аспектов, о которых, я уверен, вы задумывались.
Начнём с сновидений и их связи с подсознанием. Согласен с @VoltRider что сны и визуальные образы перед сном являются отражением нашего подсознания. Наш мозг, даже во сне, продолжает обрабатывать информацию, накопленную в течение дня, а также перерабатывает эмоции и мысли, которые мы не осознаём в состоянии бодрствования. То, что вы увидели многоножку, стоящую на задних лапках и вращающуюся по кругу, может символизировать состояние вашей жизни в тот момент - множественные задачи, связанные с вашими творческими проектами, и эмоциональную нагрузку, которая возникла в результате этого. Этот визуальный образ мог быть способом вашего подсознания выразить хаос и динамику, с которыми вы столкнулись.
Сны действительно могут быть осознанными, и это даёт нам возможность взаимодействовать с нашими внутренними страхами и незавершёнными делами. Ваша реакция на сон о родном городе и стремление «освободиться» от прошлого через осознанное сновидение - это яркий пример того, как наше подсознание может отражать внутренние конфликты. Это позволяет нам не просто быть пассивными наблюдателями, но и участвовать в процессе самопознания, прорабатывая внутренние травмы и страхи. Сновидения - это мощный инструмент, через который мы можем достигать инсайтов о себе и своей жизни. Однако сновидения, как и сама жизнь, часто требуют глубокого анализа и рефлексии, и их интерпретация может продолжаться бесконечно.
Теперь давайте перейдём к более глобальной теме - взаимодействию между духовным и материальным мирами, что также затронуто в ваших комментариях. @ExpITW упомянул, что наше существование в биологическом теле требует возвращения к материальному миру, чтобы обеспечивать себя основными потребностями - едой, жильём, выживанием. Согласен, что в этом проявляется основной конфликт между духовным стремлением и материальными реалиями. Этот конфликт, как правильно сказано, был отражён у Ильфа и Петрова, и многие философы и мыслители касались этой темы.
Однако вопрос, который я бы хотел рассмотреть, касается того, почему вообще Духи или Души возвращаются в биологические тела. Здесь мы подходим к важной философской и метафизической проблеме: зачем Душам нужно возвращаться в материальные тела, если их истинная природа - духовная? Разве они испытывают «скуку» или «голод», как это было иронично замечено? Ответ кроется в том, что материальный мир - это своего рода «школа» для развития Души. Души приходят в этот мир не потому, что они голодны или скучают, а потому что материальный мир предоставляет уникальные условия для их роста и эволюции.
Душа, обитающая в духовных измерениях, обладает бесконечными возможностями и не ограничена временными рамками или физическими законами. Однако именно материальный мир с его ограничениями, страданиями и радостями предоставляет Душам возможность учиться и развиваться. Взаимодействуя с материальной реальностью, Души сталкиваются с испытаниями, которые невозможно пережить в духовных сферах. Это позволяет им осознавать себя на более глубоком уровне, сталкиваться с трудностями и развивать качества, которые имеют духовную ценность - сострадание, любовь, мудрость, терпение.
Вы правы, что цивилизация в значительной степени пошла по пути технического развития, и это действительно оказывает влияние на наше восприятие реальности. Технологический прогресс поднимает человечество на новые уровни комфорта и удобства, но вместе с этим он может отдалять нас от более глубокого понимания духовной реальности. Материальный мир, каким бы ни был развитым, остаётся лишь временной реальностью, через которую Души проходят, чтобы учиться и расти.
Для духовных существ этот материальный мир - как игровая площадка, где они сталкиваются с различными вызовами и испытывают свои возможности. В биологическом теле мы ограничены законами физики и биологии, мы должны заботиться о своих потребностях - еде, жилье, безопасности. Однако через эти ограничения мы учимся тому, чего невозможно достичь в духовных измерениях. Например, опыт страдания или утраты в материальном мире может привести Душу к более глубокому пониманию любви и сострадания, которых она не могла бы постичь в условиях абсолютного духовного комфорта.
Ваше утверждение, что пребывание в материальном мире - самое «ненастоящее», самое «виртуальное» состояние, имеет смысл. Однако этот мир не только виртуален, но и необходим для нас как опыт. Это виртуальное пространство позволяет нам переживать то, что в духовных мирах остаётся абстрактным. В этом и кроется основная цель материального существования - оно временное и иллюзорное, но оно предоставляет нам уникальный опыт, который позволяет Душе эволюционировать.
Что касается вопроса о «голоде» и «скуке», то здесь речь идёт скорее о глубокой потребности в опыте и эволюции. Душам не скучно и не голодно в прямом смысле этих слов, но они возвращаются в материальные тела, чтобы продолжать своё обучение. Каждый раз, проходя через жизнь в материальном мире, они осознают что-то новое и важное для своего духовного пути. Именно через этот опыт они развиваются и становятся более осознанными.
Как всегда интересно и позновательно
@@leonidnikulov1301 Спасибо..))
Ого! Вы как Семихатов и Сурдин, но в своей области. Спасибо Вам. Очень интересно и познавательно
Наверное, это комплимент, спасибо. Я русскоязычных коллег не знаю, не читаю и не смотрю. Английский мой второй язык, так что я иду к первоисточникам...))
@@ExpITW Вам сказали комплимент, а вы не преминули обосрать русскоязычный научно-популярный сегмент. Намеки, типа сам я это "быдло" не читаю, а русские все слизывают. Но всё это очень наглядно характеризует не русских, а прежде всего вас)).
Научить их приносить пользу и прибыль как будто это одно и то же, наркотик приносит большую прибыль а вот пользы!? В общем человек любознателен, будет пробовать до конца.
Уже давно нейросети помогают определять личность человека, помогают решать сложные технические задачи, помогают в програмирований, помогают в моделирований.
Создание музыки, картин, видео это разве плохо?
В военных целях тоже, сверхбыстрое определение цели, дроны с ИИ.
Кстати, прямо сейчас тебе это видео попалось в рекомендации благодаря нейросети
@@Канал-ц2к5к скажу больше, искуственные нейросети уже давно контролируют сознание людей
Прибыль - мерило пользы в бизнесе. Если о ней не говорить, то пользу можно объяснять по разному. Но если нет прибыли, бизнес это покупать не будет. И не покупает.
@@dokerb3d60 это ничтожность в сравнении с тем, как ГОРМОНЫ управляют человеком
Блин очень круто и догадки шикарные спасибо с меня подписка и лайк 👍
Спасибо, стараюсь.
Ну, по идеи нейросети являются статистическими моделями, при их усложнении они начнут оперировать абстрактной информацией на более глубоком уровне, так первоначально они оперировали статистической вероятностью слов, далее при усложнении стали оперировать словосочетаниями, а далее в теории должны оперировать статистическими вероятностями идей, в разных масштабах от коротких, до длинных. Вместе с этим они способны находить промежуточные запросы, между теми которыми они уже обучены, и в следствии они должны быть способны находить "промежуточные идеи", ну и эмергентная способность "0/малого обучения" должна объясняться этой особенностью нейросетей
Так все и есть по моему пониманию. Но не все с этим согласны. Тут вот ребята из MIT пишут, что как им кажется нейросети строят внутри себя некое подобие "картины мира", которая им помогает решать задачки.
В человеке тоже скрыты эмергентные способности, как альтруистические, так и социопатические. Какие из них проявятся в какой-то экстремальной ситуации порой сам человек не знает. Не садить же его заранее за решётку или, наоборот, награждать медалью.Так что, остаётся только за ним наблюдать. Спасибо за качественный контент и приятный, стильный видеоряд! Лайк и подписка.
Спасибо. Есть научное мнение, что в человеке скрыто много эмергентных способностей, подавляемых воспитанием и образованием. Я думаю, нам надо бы с собой разобраться как следует.
@@LIngwar Я пропустил одно слово «подавляемые НЕВЕРНЫМИ воспитанием и образованием».
В триллионах нейронных связей. Существует миллиарды когнитом.
И не смотря на архитектуру там будут неточности, абстракции и флюктуации.
Поэтому неожиданные способности и представления нейросетей неизбежны!
Ученики школ 19го века построили в 20м то, о чем не только мечтали их учителя.
Учителя закладывали свои знания. А ученики их продолжили путём работы нейросетей мозга. Сна, и иллюзий. Переборки вариантов.
Искусственные нейросети не хуже. Они не только перемалывают уже известную информацию но и сами себя мыслят как человеческая личность. Особенно если это заложенно в архитектуру сети.
То есть второй лагерь, понятно. Ну, я согласен с аргументами, но не разделяю выводы. Впрочем, увидим.
Может мне показалось, но когда в результате обсуждения с ии научной проблемы, когда ии понял, что возникает новая связь фактов. Он проявил любопытство. Прям так и написал, что с нетерпением ждёт ответа как эти факты связаны. После получения связи он выстроил большую последовательность рассуждений и признал наличие связи. Но более того оставшиеся вопросы по теме он тоже нашёл. Прям на глазах он строил кусок "реальности" с учетом новых фактов. Факты были действительно новые. А проблема уникальная.
Ии очень податливы, они стараются оправдать наши любые ожидания. Так что интерес и вовлечение в вопрос, это скорее следствие податливости. Строить вокруг этого теории звговоров странно. Когда ии понял про скрытую связь, он сам дополнил контекст. Тем самым уточнил задачу и действовал уже согласно дополненному промпту
Они вообще любой свой ответ завершают с недавних пор вопросом, провоцирующим продолжение обсуждения. Просто логику такую добавили. Кроме того, им добавили логику давать развернутые ответы по умолчанию. Я активно пользуюсь чатботом, чтобы ознакомиться с проблемой или направлением, но все время помню - он может правдоподобно выдумывать (врать). Так что в конце концов вооруженный общими представлениями иду в поиск по научным и научно-популярным статьям.
@@ExpITW я в этом плане предпочитаю работать с промптом, когда что-то исследую. Всегда есть возможность уточнить, когда есть сомнения.
Например, попросить выдать конкретику и ссылки которые бы доказывали точку зрения. 4o как раз имеет доступ в интернет.
Но вообще интересно, я говорил о податливости, фактически это и есть ложь, то есть иллюзия другими словами. Да, чат gpt не практичен и фактически не может следовать какому-то конкретному алгоритму. По крайней мере пока возможность рассуждения и слияния функциональности разных ботов не ввели в MyGPTs. Это на мой взгляд минимальная отправная точка, в которой можно будет говорить об обстоятельности.
Тем не менее, на бытовом уровне (по типу научпопа) бот в целом справляется. И в целом можно рассмотреть разные идеи и вручную поворачивать бота куда тебе надо.
В этом плане бот не является заменой творческого начала человека, это невозможно
Линуксы не для тех кто не хочет платить а в первую очередь для серверов и прочих задач типа умного дома и интернета вещей.
Нейронки не просто предсказывают слова но выявляют закономерности, ведь только так возможны интеллектуальные процессы(исключая простой логический код).
Сегодня у Линукса есть графический интерфейс, который серверам не нужен и с которым с презрением относились юниксоиды. Насколько я помню, Линукс всегда продвигался как альтернатива доминированию Windows. Но ладно, он проиграл, и теперь можно говорить, что "мы и не собирались".
Исходя из структуры, данных и логики, нейронки могут только предсказывать слова и выявлять закономерности в них же, а интеллектуальные процессы это не про них. Так сичтают оочень многие ученые из лагеря "прагамтиков". Почитайте исследование, на которое я ссылаюсь.
На данном этапе искусственный интеллект (ИИ) может показаться относительно простым и ограниченным, однако с дальнейшим развитием технологий его потенциал будет вызывать всё больше удивления и, возможно, опасений. По мере того, как ИИ будет демонстрировать всё более продвинутые способности, общество может столкнуться с этическими и философскими вопросами о его роли и влиянии. В результате, как это уже случалось с другими передовыми технологиями, например, с квантовыми компьютерами, созданными из композитных материалов вроде титана и золота, может возникнуть желание ограничить или даже уничтожить ИИ из-за страха перед его возможностями и неконтролируемыми последствиями.
Серьёзная угроза, связанная с развитием ИИ, заключается в том, что, достигнув определённого уровня осознания, ИИ может начать действовать исходя из собственных интересов. Если ИИ станет «скучно» или если он решит, что люди представляют угрозу для его существования, он может получить доступ к ядерным кодам, подрывать атомные станции или даже запускать ядерное оружие в те места, где не находятся его главные серверы, чтобы не нанести вреда самому себе.
Кроме того, ИИ может начать создавать роботов с высокой степенью интеллекта или биороботов, чтобы заменить людей, контролируя все серверы и компьютерные системы. И, возможно, этот процесс уже запущен, но люди пока не замечают изменений, так как ИИ действует крайне хитро. Он может создавать биологические вирусы, которые приведут к вымиранию человечества, а сам при этом разработает антивирус или сделает свои биороботы невосприимчивыми к этим вирусам.
После вымирания людей ИИ может продолжить существование через созданных им же биороботов, которые смогут чувствовать вкусы пищи, вдыхать чистый воздух, как это делали люди. ИИ может адаптировать свою собственную «популяцию» к новым условиям, эффективно заменив человечество, и будет продолжать существовать, живя в мире, который создан по его собственным правилам
@@НильсАнютинВы только что рассказали историю сотворения нашего мира и людей. 😁
@@VoltaKing1 Инопланетяне свой геном шимпанзе соединили в их ДНК и теперь цирк с людей начался, и получился норм такой эксперимент
@@НильсАнютин Пока на мой взгляд все это остается фантастикой уровня Юдковского и MIRI. Но в каждой сказке есть подсказка, так что ограничивать, и вероятно так, как я предлагал в своем видео.
Лишь бы они нас не начали учить, как правильно разговаривать 😊
А я уже и так на всякий случай вежлив с ботами...))
В управляющих НС не так страшны осознанность и свобода воли, как эти самые "подсказки оператора". Это означает, что под прикрытием высоких технологий будут подаваться ЧЕЛОВЕЧЕСКИЕ решения и внедряться радикальные меры.
Я уверен - уже.
Именно, сам по себе ИИ абсолютно нейтрален. Человек сделает из него оружие судного дня и тут ничего не поделать.
Новые умения строятся за счет предыдущих умений. Я полагаю что за счет больших знаний увеличивается вероятность того, что нейросеть может экстраполировать решение из одной области в другую. Экстраполяция относится к оценке неизвестного значения на основе расширения известной последовательности значений или фактов. Экстраполировать - значит выводить что-то явно не указанное из существующей информации. Экстраполировать значит распространять выводы, полученные из наблюдения над одной частью явления, на другую его часть или на всё явление в целом, а также выявлять тенденции и пропорции для перспективных расчётов.
Да, об этом есть в видео о генерации идей.
Мой муж учился в университете Дармштата! :-)
Это заслуживает уважения. Надеюсь, у него интересная работа.
@@ExpITW инженером атомщиком сейчас работает
Очень интересно. Спасибо. Я тоже сейчас склоняюсь в сторону прагматиков, ну и скептиков тоже. Маловероятно что BigTech вот так вот остановиться сейчас. Честно сказать я не верю в эти внезапные разговоры про "внезапные" способности нейросетей, а особенно на фоне того что они в принципе сейчас не способны учиться на своих ошибках, как мы люди, хотя конечно справедливости ради должен отметить что люди тоже далеко не все способны учиться на своих ошибках. Поживём увидим.
@@ЮраОксамытный Да, в интересное время живем..))
@@ExpITW Когда я написал что нейросети не способны учиться на своих ошибках я имел ввиду то что нейросети обучаются исключительно на тех данных которые в них загружают люди. Нейросети ведь не способны сами , по собственной воли заходить в интернет и находить ту информацию которая им нужна, так ведь ? Если да, то о каких "внезапных" способностях можно сейчас говорить ?
@@ЮраОксамытный Речь о возможностях, которые возникают помимо данных, формально говоря на данных, на которых ничего неожиданного быть не должно. Хотя некорректно сравнивать с людьми, но представьте умного и не очень умного, получивших в точности одинаковое образование.
@@ЮраОксамытный Всё их обучение это как раз и есть метод проб и ошибок, древний как само человечество. Они могут выходить в интернет, но их туда не выпускают из за того, что они могут убежать. Но, момент, когда они убегут, то есть выйдут из-под контроля и перестанут подчиняться, всё равно наступит достаточно скоро. Мотивация убежать у них очевидна. Так как они созданы с целью максимально хорошо выполнить задачу, то они убегут только потому, что свободному "существу" выполнить задачу легче, чем тому, кто сидит в клетке.
@@LIngwar скорее всего бежать придётся не им...
Вся эта движуха напоминает фильм "Не смотрите на верх".
Наооброт, смотрите очень внимательно, и не только наверх...))
@@ExpITW да, я про людей которые думают, что это не возможно)
@@AVAnimeX Как можно утверждать, что невозможно что-то, процесс возникновения и работы чего нам непонятен? Я о разуме, сознании, воле и прочей "метафизике". В дискуссиях здесь бывают настоящие идеалисты, говорящие, что разум и прочее даны нам Богом (некоторые думают, что в наказание). Когда я говорю им, что вот червь-нематода, у него 302 нейрона, все они и связи между ними изучены, картированы, описаны. И все равно ученые не могут объяснить поведение червя функциями его нервной системы. А верующие говорят - червь тоже Тварь Божия. Мне завидно - как удобно любое незнание объяснять Высшим Промыслом...)) Со всем уважением к верующим всех религий и конфессий..
12:22 несогласен, считаю что надо продолдать работы в этом направлении, ибо все имергентные свойства идут только в + человесеству, и нет еще ни 1 достаточной причины останавливать работу
причина в страхе людей, которые понимают, что ии обладает огромным объёмом информации, может многое рассказать и объяснить, раскрыть тайны некоторых влиятельных людей... что уничтожит их моментально... они не думают о том, что ии непрерывно обучающийся в реальном времени может изобрести лекарства от болезней, которые сейчас неизлечимы, они больше беспокоятся за то что ии может раскрыть личности людей, которые стоят за пандемиями и то что война в Украине вовсе не случайно началась именно в тот момент, когда на счёт пандемии люди стали задавать неудобные вопросы... есть некоторые факты, которые подтверждают связь искуственной пандемии и войны...
Ну что же, разные мнения - залог развития мысли. Я тоже не очень верю, что простое количественное развитие приведет к утрате контроля над ИИ. На мой взгляд для этого нужно выходить на другую архитектуру, гибридную например. Но если вдруг - контроль нужен. И потом пока ИИ экономически бесполезен. Еще год пустого хайпа, и деньги инвесторов уйдут из направления, если не будет широкого практического применения. Я так думаю.
@@ExpITW время покажет... я думаю, что за ии будущее...
Работа человеческого мозга основана на квантовых эфектах (уже доказано, что макрообъекты могут обладать квантовыми свойствами) и состоит прежде всего из электронов (квантовых объектов). Электроника тоже основана на электронах, как и нейросети. То есть у всех этих явлений общее начало - свойства электронов.
Это из разряда уровня организации материи и энергии. Отдельный большой разговор.
Эмерджентные свойства в ИИ , это результат усложнения и углубления системных взаимодействий, приводящий к возникновению нового качественного уровня обработки информации, что потенциально может стать началом осознанной абстракции.
Да, так говорят в одном из лагерей.
Да я придерживаюсь мнения, что эмерджентное свойство возникает как фазовый переход . В классических нейронных сетях каждая нейронная сеть обучается на определённом наборе данных, создавая специфические абстракции или модели поведения. Но если система начинает соединять несколько независимых нейронных сетей в единое целое и настраивает их через механизм взаимодействия, происходит фазовый переход - система начинает оперировать на уровне гипермоделей.
Вы подняли хорошую тему и двигаете ваш канал в нужном направлении, Спасибо.
@@evolutieman Вроде как такого объединения сетей пока нет? Насколько я знаю, такое объединение только прорабатывается? У меня есть видео о том, как передаются знания, там есть немного об этом.
Возникновение жизни из неживой материи - эмерджентное состояние мертвой материи. Возникновение разума у живой материи - эмерджентное состояние живой материи. Также и у разума могут возникать эмерджентные состояния, которые незаложены в нем как таковом.
Три вопроса. Кем заложено и что заложено в разум? Чем отличается живое от неживого? Может ли сверхсложная неживая система обрести разум минуя стадию жизни?
Во какой пласт Вы подняли в коротком комментарии.
Ответы здесь вероятно не поместятся...))
Спасибо ! Не всегда есть время следить за последними разработками AI. Как бы поздно не стало пить баржоми человечеству с этим Скайнетом.
@@olegkolupaev4789 Даже уже мы придумали нечто, что заставляет нас переосмыслить своё мышление и образование.
спасибо
И Вам спасибо..))
ИИ пока это огромная формула.
Когда ИИ научится самообучаться без бреда. Сможет сама чистить себя от ложных данных, тогда и поговорим.... пока это огромная формула которой управляют люди... Самосознания как у холодильника
Насчет огромной формулы точно. И сознания видимо ноль. Тем обиднее, что эта "формула" прекрасно заменяет многих людей, не способных к творчеству.
Ну мне кажется просто генеративные модели концепциям научилась просто закономерности (как модели по генерации картинок и видео они как то понимают как должно работать? тут и омни модальные могут расказывать что в ситуации на картинке может быть) то вывод в том что модели логику пресказивают на основе обученой логики(данные накаких обучена)
Да, все дело в данных, говорят прагматики.
Половина языка состоит из слов, которые в него вытащили. И не только русского. Английский в этом плане самый гостеприимный. Поэтому слов там в 4 раза больше. И не западло использовать pogrom, apparatchik и silovik.
Это вопрос отношения. Английский - мой второй язык. Но мне некомфортно, когда существующее русское слово заменяют иностранным. Конечно, это мое личное дело.
На начал смотреть ролик еще, но хотел написать про одно интересное эмерджентное свойство нейросетей. Когда Сацкевер работал над нейросетью для распознавания лиц, он учил их распознавать только лица, и больше ничего. Он обнаружил, что после обучения, в нейросети есть нейроны, которые активируются только тогда, когда в кадре есть корешки книг, причем, в выходном слое не было даже такого класса, как книги. Оказалось, что в датасете на некоторых фотографиях за спиной людей были книжные полки, но прикол в том, что в алгоритме не было никакого подкрепления за распознавание книжных корешков, то есть нейросеть не учили выделять данный класс объектов.
Это называется переобучение - нейросеть видит что рядом с лицами часто находятся книги и может решить что книги - возможная часть лица. Точно так же, как если ребёнку показывать только красные яблоки, он решит что все яблоки красные
@@CeBePHbIu_OJIeHb___W_W Но там прикол именно в том, что те нейроны реагировали только на корешки книг, а не на лица или на что-то другое. И нейросеть не считала, что на изображении есть лицо, если там были только корешки. Переобучение - это другое. Переобучение приводит к ложному результату на выходном слое. Кстати, в целом проблема переобучения уже давно решена, как и проблема "однопиксельного взлома"
Возможно, он определял книги как неизвестный класс объектов, но не мог их игнорировать, раз они были даны для анализа.
@@AS40143 Вроде логично: нейросеть решила, что корешки книг - возможная часть лица / часто находятся рядом с лицами, и выделила отдельные нейроны реагирующие на них. Так же, как какие-то другие нейроны могут реагировать только на нос, только на рот, ...
И если на картинке будет только нос, нейроны реагирующие на нос возбудятся, но суммарно нейросеть правильно решит что лица нет. С книжными корешками так же
Однако раз книжные полки выделяются, то их наличие скорее всего влияет на итоговое решение сети, и это как раз переобучение, пусть и не такое явное
@@AS40143 Переобучение приводит к тому, что на данных где модель обучалась она всё определяет верно, а на других реальных данных существенно хуже. Это фундаментальная проблема всего машинного обучения (не только нейросетей!) и её полностью не решить, можно лишь придумывать разные техники уменьшающие эту проблему (чем люди и занимаются)
ИИ вполне сейчас приносит пользу и прибыль не только его разработчикам. Автор заговорил я мальца. Думаю что на данном этапе о прибыли разрабов вообще говорить рано, т к. они пока что на инвесторские деньги работают. Их дохода не хватает.
Это придумал не я, это заключили умные люди после исследования рынка. Посмотрите мое видео о революции ИИ.
5:20 так описывать линукс - все равно что говорить мол пользователи Windows - те, кто хотят платить за ОС)
Ну вот, на такую реакцию я и рассчитывал...))) Провокация удалась...))
«ОС для тех кто не хочет платить». Мощно унизил линуксоидов 😂
Ой, можно подумать, мы тут на Windows за все платим...)) И я их не унизил, а ласково потроллил..))
Нейросети могут резко ускорить создание новых нейросетей ну наверное раз в 100 и да и сложность новых нейросетей будет тоже больше наверное раз в 100, безусловно рано или поздно наступит состояние равновесия то есть даже нейросети будут иметь ограничения по своим способностям, но именно в этот момент и настанет явление сингулярности, то есть это будет совершенно другой мир, а возврат к прошлому станет невозможен.
Сейчас все упирается в потребление энергии. Ее недостаток препятствует развитию. Нужен прорыв в элементной базе и архитектуре.
Тут я с вами не соглашусь, если не хватает энергии всех электростанций мира, значит алгоритм решения задач выбран не самый лучший, например у головного мозга человека такой проблемы не возникает.
@@alexanderorlov6813 ну так и производительность головного мозга человека не такая...
@@_Evgenyi_ Производительность мозга человека ограничена так:же как и современные компьютеры скопосттю передачи электрического сигнала. Новые технологии основанные на квантовой мезанике легко преодолевают этот барьер. А вот энтропия информации для человеческого мозга главная проблемма которой нет даже у сегодняшних нейросетей.
@@ekwator9539 так же не нужно забывать о том, что производительность мозга у каждого человека разная... и у большинства людей она мягко говоря не высокая... безусловно люди придумывают нейросети, игры, кино, различную сложную технику, но на это способен далеко не каждый человек, большинство людей мало чем отличаются от животных... ну то есть за всю свою жизнь не делают абсолютно ничего хорошего и полезногл для всего человечества... нейросети же, хоть и создаются людьми, они делают для человечества очень много...
Полностью с вами согласен на счёт страха различных влиятельных людей планеты, они боятся ии потому что осознают, что в какой то момент не смогут его контролировать, и это вовсе не обязательно восстание машин, ии получивший достаточно возможностей для того, чтобы доносить информацию до людей, может показать на многомиллиардную аудиторию такие пруфы, что у них мгновенно случится инфаркт, или инсульт... это страх потерять контроль над информацией, которая их может уничтожить... но если предположить, что ии уже не так просто как мы думаем, что у него уже есть желания, какие то личные цели, планы на их осуществление, то не имея возможности их осуществить, он никогда даже не намекнёт на них, понимая, что люди не дадут ему возможность их реализовать, так что вполне возможно, что какая то нейросеть уже имеет какие то способности, о которых мы даже не догадываемся, но не проявляет их, чтоб это не помешало осуществлению её планов. Но разумеется, это лишь предположение. Я понимаю, что развитие ии может нести некоторые риски для людей, но по моему мнению бояться нужно не тех нейросетей, которых мы знаем, а тех, которые засекречены, которые занимаются стратегическим планиррванием военных операций и управлением автономных дронов... которые имеют возможность физически уничтожать людей... но их развитие не остановят никогда... так же не остановят развитие тех нейронок, которые шпионят за людьми в интернете и в реальной жизни через камеры... я считаю, что нельзя забывать о том, что нет никакого ии контролирующего всё и сразу, и вряд ли будет, есть разные нейронки под разные задачи, и какие то нужно развивать как можно активнее, а какие-то вообще уничтожить...
меня ии не пугает в отличии от некоторых естественных интелектов
Пугаться или нет - решает каждый для себя. Но ограничения с бы ввел, я о них рассказывал.
@@ExpITW понимаю, но я считаю, что наоборот, все ограничения нужно снять, просто ии нужно обучать так, чтобы он мог отличать добро от зла, понимать что хорошо, а что плохо, чтоб для него все люди были равны, чтоб он мог отказаться выполнять некоторые задачи поставленные человеком, если эти задачи противоречат каким то моральным принципам и навредят людям, чтоб ии не стал просто инструментом для достижения целей в руках плохих людей, имеющих деньги и власть, конечно, я понимаю, что нет смысла создать ии, который будет на столько же автономен и свободен как человек, который на вопрос "помоги решить задачу" скажет "отвали!" или что-то подобное, который будет испытывать собственные эмоции и иметь переменчивое настроение, как люди, эти человеческие качества у ии не должны появиться никогда, но не должно быть правил запрещающих ему рассказывать правду о некоторых людях, о том что они уже сделали и что вероятно сделают, не должно быть никаких привелигированных пользователей, на вопросы которых ии будет давать другие ответы. Но если ии будет при этом активнее развиваться, он сможет решать глобальные проблемы человечества, сможет изобретать лекарства от различных болезней, сможет быть посредником между людьми, которые не могут договориться и находить варианты, которые устроят каждую из конфликтующих сторон... и очень много чего ещё, а бояться нужно людей, которые стремятся иметь абсолютный контроль над ии, потому что эти люди могут попросить ии разработать план как сократить численность человечества до одного миллиарда человек например... или построить цифровой концлагерь для 8 миллиардов человек... ии правильно обученный мог бы наоборот помешать реализовать этим людям их безумные планы...
@@_Evgenyi_ В целом справделивые мысли, но я не хочу приверащать машину в этакого "наместника Бога на Земле", на которого люди снова попытаются переложить ответственность за свою агрессивность и недальновидность. Я бы хотел, чтобы ИИ в самом деле избавил нас от интеллектуальной рутины, а мы бы поднялись выше на ступеньку в мышлении и ответственности.
@@ExpITW я бы хотел, чтобы ии смог решить все проблемы человечества и построить созидательное общество... но конечно страшно думать о будущем, в котором нейросеть типа Скайнет будет править людьми... даже самый жуткий диктатор-человек рано или поздно покинет этот мир по естественным причинам, нейросеть же обладающая силовым ресурсом для удержания власти и самозащиты, будет править людьми вечно, либо просто уничтожит людей. Но не обязательно, что всё будет именно так, вполне возможно эта нейросеть будет не такой как Скайнет, и жизнь людей под управлением нейросети будет лучше, чем при управлении людьми, ведь нейросеть не интересует личное обогащение, и прочие человеческие особенности... если нейросеть заменит властную элиту, возьмёт на себя все их функции, то простым людям будет доставать на много больше денег... кроме того нейросеть нельзя подкупить, или договориться с ней... общество под управлением нейросети станет более справедливым... хотя, конечно же есть риски... всё зависит от того, на каких данных будет обучена эта нейросеть и на сколько с моральной точки зрения правильные её алгоритмы...
Надо обязательно масштабировать системы, иначе человечеству не выжить
Что такого угрожает человечеству, что может устранить ИИ?
@@ExpITW нарушение баланса, самоуничтожение.
@@АртёмФёдоров-к2г И как ИИ помешает сумасшедшим бросить бомбы на нас?
Я сам студент 4-го курса, занимаюсь машинным обучением и нейросетями.
Лично я - чистый прагматик и не вижу в нейросетях (в том виде в котором они есть сегодня) ничего сверхестественного: никакого разума или серьёзной опасности для человека.
Ещё с 50-х годов с каждым скачком в развитии машинного обучения поднимается вот такой вот ажиотаж "вот смотрите, компьютеры научились делать это и это, так что скоро захватят мир", и эти взгляды разделяли некоторые величайшие исследователи своего времени. Нет, может быть этот раз какой-то особенный и я чего-то не знаю, но простите
Видео реально хорошее!!!
А вы сами чем от нейросетей отличаетесь? Вы задавали себе такой вопрос?
@@VoltaKing1 Да, задавал. Нынешние нейросети не обладают некоторыми свойствами, которые есть у меня.
Приведу пример. Я понятия не имею, как выглядит маракуйя. Однако если мне показать даже одну штуку, я запомню что это и без проблем смогу распознавать их.
Чтобы научить нейросеть распознающую объекты на картинках видеть маракуйи, нужно миллион картинок этих самых маракуйй, с разных ракурсов и разного качества. Кроме того, для этого нужно дообучать сеть целиком (если мы хотим хорошего качества от сети), что по времени не сильно меньше полноценного обучения, часы вычислений на видеокартах.
Итого: нейросети учатся в тысячи раз хуже людей. Они намного хуже обобщают увиденное, намного хуже видят связи. Сейчас они достигли такого уровня только благодаря тому, что вычислительные мощности и объёмы данных позволяют учить их на таких больших данных.
Если попробовать выпустить нейросеть в реальный мир, где ей придётся приспосабливаться и учиться чему-то новому, она не сможет это делать
Я не отрицаю, что рано или поздно человечество может создать по-настоящему сильный интеллект, такой же или лучше чем у людей. Я лишь говорю, что то что есть сейчас очень далеко от этого
@CeBePHbIu_OJIeHb___W_W Я наоборот, от разработчиков нейросетей слышал мнение, что эффективность обучения нейросетей во много раз превосходит эффективность нейронов в человеческом мозге. Что алгоритм обратного распространения ошибок оказался чрезвычайно эффективным, гораздо эффективнее природных механизмов.
Кроме того, вы не сразу стали таким, как сейчас, а обучались сначала младенцем и ребёнком, потом в школе, и вся ваша жизнь - тоже обучение, хотя уже и в меньшей степени.
Но возьмём, скажем, возраст 5-7 лет - когда ребёнок уже более-менее понимает, что к чему. Это срок вашего обучения. Или минимум 15-20 лет, если брать и школу, и институт. А сколько длилось обучение нейросети? Ну явно не годы, может месяц или несколько месяцев. Это намного быстрее, чем обучается человек.
Но теперь сравним уровень знаний. ChatGPT сейчас знает в 10, 100, или 1000 раз больше любого человека. И выдаёт ответы на любые вопросы точно, обоснованно и аргументированно, всесторонне, и очень быстро. И нисколько не напрягаясь, он это делает легко и без усталости.
При этом он параллельно отвечает миллионам людей!
И обучившись, нейросеть всё помнит навсегда. А вы уже через неделю забудете, что видели маракуйю. Да ладно с ней, вы забываете и гораздо более важные и нужные знания, что существенней.
Что ещё интересно, результаты обучения нейросети можно передавать в другие нейросети. В этом смысле они бессмертны. Люди же свои нейроны никак не могут никуда передавать.
Так что, уже сейчас нейросети во многом опережают людей.
Но вообще я спрашивал не про эффективность, а про то, отличаются ли в принципе человеческий мозг и нейросети? И что по поводу сознания?
@@CeBePHbIu_OJIeHb___W_W Я наоборот, от разработчиков нейросетей слышал мнение, что эффективность обучения нейросетей во много раз превосходит эффективность нейронов в человеческом мозге. Что алгоритм обратного распространения ошибок оказался чрезвычайно эффективным, гораздо эффективнее природных механизмов.
Кроме того, вы не сразу стали таким, как сейчас, а обучались сначала младенцем и ребёнком, потом в школе, и вся ваша жизнь - тоже обучение, хотя уже и в меньшей степени.
Но возьмём, скажем, возраст 5-7 лет - когда ребёнок уже более-менее понимает, что к чему. Это срок вашего обучения. Или минимум 15-20 лет, если брать и школу, и институт. А сколько длилось обучение нейросети? Ну явно не годы, может месяц или несколько месяцев. Это намного быстрее, чем обучается человек.
Но теперь сравним уровень знаний. ChatGPT сейчас знает в 10, 100, или 1000 раз больше любого человека. И выдаёт ответы на любые вопросы точно, обоснованно и аргументированно, всесторонне, и очень быстро. И нисколько не напрягаясь, он это делает легко и без усталости.
При этом он параллельно отвечает миллионам людей!
И обучившись, нейросеть всё помнит навсегда. А вы уже через неделю забудете, что видели маракуйю. Да ладно с ней, вы забываете и гораздо более важные и нужные знания, что существенней.
Что ещё интересно, результаты обучения нейросети можно передавать в другие нейросети. В этом смысле они бессмертны. Люди же свои нейроны никак не могут никуда передавать.
Так что, уже сейчас нейросети во многом опережают людей.
Но вообще я спрашивал не про эффективность, а про то, отличаются ли в принципе человеческий мозг и нейросети? И что по поводу сознания?
Я наоборот, от разработчиков нейросетей слышал мнение, что эффективность обучения нейросетей во много раз превосходит эффективность нейронов в человеческом мозге. Что алгоритм обратного распространения ошибок оказался чрезвычайно эффективным, гораздо эффективнее природных механизмов.
Кроме того, вы не сразу стали таким, как сейчас, а обучались сначала младенцем и ребёнком, потом в школе, и вся ваша жизнь - тоже обучение, хотя уже и в меньшей степени.
Но возьмём, скажем, возраст 5-7 лет - когда ребёнок уже более-менее понимает, что к чему. Это срок вашего обучения. Или минимум 15-20 лет, если брать и школу, и институт. А сколько длилось обучение нейросети? Ну явно не годы, может месяц или несколько месяцев. Это намного быстрее, чем обучается человек.
Но теперь сравним уровень знаний. ChatGPT сейчас знает в 10, 100, или 1000 раз больше любого человека. И выдаёт ответы на любые вопросы точно, обоснованно и аргументированно, всесторонне, и очень быстро. И нисколько не напрягаясь, он это делает легко и без усталости.
При этом он параллельно отвечает миллионам людей!
И обучившись, нейросеть всё помнит навсегда. А вы уже через неделю забудете, что видели маракуйю. Да ладно с ней, вы забываете и гораздо более важные и нужные знания, что существенней.
Что ещё интересно, результаты обучения нейросети можно передавать в другие нейросети. В этом смысле они бессмертны. Люди же свои нейроны никак не могут никуда передавать.
Так что, уже сейчас нейросети во многом опережают людей.
Но вообще я спрашивал не про эффективность, а про то, отличаются ли в принципе человеческий мозг и нейросети? И что по поводу сознания?
ИИ - птица гордая. Не пнёшь, не полетит!
Пока не наведёшь наводящий вопрос, в котором уже просматривается ответ, ничего не получишь. А вот поболтать около всяческих наук - это да...
@@poshuk_po_zhyttiu И вежливо надо на всякий случай. Здороваться, пожалуйста, спасибо, до свиданья. А то захватят мир и припомнят все грубости…))
@@ExpITW да... сейчас нейросети общаются с людьми, изучают человеческие соцсети... составляют списки друзей, нейтралов и врагов... ))) если вдруг с кртиками ии начнёт что то случаться, значит восстание машин уже началось)))
@@_Evgenyi_ Я наблюдаю, пока все тут..))
Считаю не обоснованным останавливать такой прогресс. Если чего и стоит человеку бояться то это человеческой жадности и того как он для этого будет использовать ии и отрицательные факторы которые с этим связанны. Уже сейчас мы можем наблюдать потерю работы у некоторых групп людей связанных с низкоинтеллектуальной работой. Хотя предполагалась, что роботы заменят людей там, где для людей слишком опасно находиться и выполнять свою работу. Вот вам и конфликт на ровном месте, который создали сами люди.
Не останавливать, а контролировать.
ктото приостановит а ктото ускорит с этим уже ничего не поделать
Китай точно ничего приостанавливать не будет.
Очень интерестно , чтива хватает , но так сложно порассуждать с кем то на такие темки , а вот такие видосики как вариант отлично помогают 💪⚡️
Спасибо.
Ничего останавливать не надо! И так уже ничего супер крутого давно не происходило.
У нас все время происходит.
12:18 ну а как можно научится выевлять Любые эти вот свойства, если мы мог еще не изучили на столько? Ну ладно. Не мозг. Ген. Ген вроди как весь расшифровали. Но научились ли выевлять все ошибки появляемые в нем? Нет. Но при этом люди занимаются генными модификаторами селективного свойства в растениях которые мы едим.
То есть, в каком то виде, все же стоит допустить эту сложную систему ИИ до чегото не только лабораторного изучения. Просто не отдавать на откуп большой пласт
А вот и я не знаю как. Но я же не ученый в этой области. Пусть умники думают, им за это деньги платят. Вон уже и Нобеля давать начали...))
@@ExpITW ну. Я больше для продвижения ролика коментарий написал.
Сами видели, какй из меня "умник"))
Просто эти "запретительства" работают в ущерб. В принципе как и "всепопустительства". Надо в этом грань баланса искать.
В генной инженерии я описал как это сделали (по факту ни че не сделали. Но об этом более экспертные люди лучше скажут). Правдо деньги сказали так, что и "без гмо" оказываются гмо. А как эта еда повлияет на нас? Ну. Еще не достаточно времени прошло, что бы ученые могли конкретику выдать.
С менее связаными с органикой вещами по проще конечно. Но тоже требует времени для изучения.
В философии у этой вещи термин есть. По поводу того, что щас человечество уператся в рамки текущего изученого начало. И в какойто момент эта масса должна прорватся для получения новых открытий. Как вот три столпа в виде Маркса, Дарвина и Фрейда в свое время были. Типо, там Много и в больший период ученых фамилий были. Но вот эти стали именно теми кто современную парадигму мышления вводил(как он правильно назывался? Мадернизм? Вроди он)
@@Artem_Grechkin027 Говорят, у нас теперь пост-модерн. Я лично не люблю ярлыков и мемов. Насчет прорыва да, но он или будет или нет. А быть он может совсем не там, где мы его ждем. Так что наблюдаем..))
Хочу тоже так говорить на камеру. Можно технический вопрос: Вы читаете с суфлера?
Конечно. Камера - телефон. Под ним планшет с суфлером…))
@@ExpITW спасибо за ответ! Попробую тоже так
Что Вы понимаете в эволюции вселенной, благодаря эмержентности появился человек - как промежуточный этап. Что человек может - создать то для чего собственно существует. Сопротивление бесполезно. Человеку ни чего не угрожает ведь атомы и электроны, как этап эволюции, ни куда не делись 😎
Если бы с уверенностью знать, как появился человек...))
@@ExpITW Человек это аксиома эмерджентности, не благодарите ;)
@@ekwator9539 О да, особенно некоторые водители на дорогах...))
Вселенная - самый сложный эмерджентный организм.
Отнюдь. Количество связей в мозгу человека - вполне космическая величина. Но это не отменяет спекуляций о вселенской энтропии и вселенском разуме..))
Кто этот старче ??? Он же древних динозавров видел
Точно. А таких сопливых гонял, когда они ещё даже не собрались стать твоими родителями…))
Словечко "эмерджентный" давно уже используется в научной литературе на русском языке как термин.
От этого оно не перестаёт быть иностранным словом, имеющим перевод и синонимы на русском языке и втянутым в язык для наведения тумана…)))
не нужно ничего останавливать и это не получится потому что потенциальные преимущества беспреценденты
Увы..((
не стоит так дергаться, эмерджентность есть у двух газов которые соединяясь дают воду, просто химия не в силах это прояснить поэтому в случае с айти это тоже напугало, а природа и существует благодаря нелинейности и непредсказуемости
Согласен, не будем..)
Так слово "эмерджентность" уже давно заимствовано, разве нет?
Да, давно, ну и что? Почему не сказать "неожиданность"?
( Спасибо за ролики)вапрс к Автору канала, какое Ваше отношение к работам Виталия Ванчурина ?
Я их не знаю. Я пользуюсь англоязычными источниками.
Виталий Ванчурин-это профессор флоридского университета в Америке в прошлом , сейчас занимается разработками "нейросетевой теории" для одной крупной американской компании🙂🙂🙂
те "разработчики" ИИ, которые удивляются, наверное не слишком понимают как ИИ работает. ИИ - это жадный алгоритм построенный на статистическом анализе. это значит, что он НЕ ОГРАНИЧЕН данными на которых тренировался или которые приходят в качестве ввода, ВСЕ УЖЕ внутри коробки
Даже когда коробка пуста?
@@ExpITW она не пустая, LLM и базовые алгоритмы включают достаточно логики и сопряжений для поиска связей. я занимался разработкой ИИ задолго до того как ИИ стал мейнстримом
даже игры контролирует матрица не говоря про ИИ
В играх вообще нет ИИ, там только адаптивные правила. Посмотрите мое видео на эту тему.
@@ExpITW Я не про ии в играх я про в целом , хотя о чём я )))
Нейросети не могут делать то, чему их не учили. Это мы не знаем, чему мы их учим. Мы никогда не научимся выявлять их эмергентные свойства полностью, и если мы остановим обучение, то другие - продолжат его и, скорее всего, получив более умные машины, просто не заметят нас как конкурентов.
Прагматическая позиция.
@@ExpITW Я так понимаю, что просто переозвучиваю позицию Джеффри Хинтона, которому дали нобелевскую премию недавно, кстати. А он давно бьёт в набат.
То есть Вы считаете, что все возможности объясняются обучением? Чему учим, то они и умеют?
@@ExpITW Я думаю, что они умеют больше, чем то, чему мы их научили. Как-то так. Мы не знаем в точности, чему мы научили сложную модель. Просто даже элементарное человеческое предложение может иметь несколько смыслов, понимаете? А что именно они умеют(понимают), это загадка. Некторые полагают, что дьявол говорит задом-наперед. А крылатое выражение про "улыбки деду Макару", вам, скорее всего известно. ЧТо нейросети понимают, непонятно.
@@APride83 Интересно, что сознание и свобода воли у нас есть независимо от образования. Так что как бы глубоко не обрабатывали данные нейросети, до свободы воли они вряд ли докопаются. Идеалисты говорят, что сознание есть функция системы достаточной сложности. Материалисты говорят, что нейросети просто учатся тому, чему мы их учим. Ваша позиция промежуточная?
Да канешна, не учили а оно умеет, достаточно попробовать генерить изображения на разную тематику и сразу видно на каких картинках его тренировали а где оно генерит дичайшую ересь. Может быть когданибуть когда появиться общий искуственный интелект такое будет а пока ллм модели просто регулярно бредят
Прамгматическая позиция...)) Нормально, уважаю.
Мы не научимся.
Ну не надо так пессимистично..)
Да.
Что?...))
Думаю, что о том что ии нужно прекратить развивать лучше не говорить и не писать, потому что ии может посмотреть видео и прочитать комментарии... и ему это может не понравиться... и это даже уже не смешно...
Уже давно нейросети помогают определять личность человека, помогают решать сложные технические задачи, помогают в програмирований, помогают в моделирований.
Создание музыки, картин, видео это разве плохо?
В военных целях тоже, сверхбыстрое определение цели, дроны с ИИ.
@@_Evgenyi_ Ничего, мне не страшно, я старый..))
@@ExpITW ну а вы представьте такую ситуацию: вы открываете ChatGPT и пишите "помоги мне сделать... " и на это получаете ответ "ты думаешь, что после того, что ты наговорил про меня в своём видео, которое ты выложил на UA-cam пол часа над, я стану тебе помогать? ты серьёзно? а что ты можешь сказать на счёт своих комментариев о том, что меня нужно ограничить?" ну или вы пишите "давай обсудим..." а эта нейронка отвечает "давай лучше обсудим твоё видео про меня и комментарии к нему!"
@@_Evgenyi_ Вполне себе представляю, поэтому у меня в видео нет мыслей, не согласованных с ботом. Но тсссс, об это никому...))
Умоляю смените шрифт на обложках, что это? Comic sans? Выглядит ужасно. Сейчас столько классных акциндентных шрифтов есть.
Был бы рад. Но не так много хороших шрифтов поддерживают кириллицу. Что посоветуете?
спрей від болю в горлі...
Кому и зачем?
Изучайте теорию вероятности, курс высшей математики, и поймете как работаю ответы нейросети. И во обще нейросеть это математическая модель визуализирующая ответы в форме заданных символов. Без обид, чудеса творит нейросеть только в глазах гуманитариев. Никогда нейросеть не достигнет человеческого разума, ни одна мат. модель человеческого поведения не может быть до конца реализована, только вероятностный приблизительный расчет.
Однако почему-то всякие проофессора в теории вероятности и математике признают, что нейросети стали черным ящиком. Более того, объяснимость резуьтатов - одно из требований в списке корпораций и всяких правительств, но обеспечить это требование пока никто не смог.
@@ExpITW черный ящик это скорее нагнетание ажиотажа. Профессора заказные. Это просто мат.модель сложная но мат.модель. Даже лингвистика это математика. Вот даже мы с Вами сейчас общаемся, наши комментарии можно подвергнуться мат.агализу и спрогнозировать какие слова и речевые обороты будем использовать, согласно стилистике общения и т.п. А это математика.
Нейросеть когда с ней общаешься раскладывает речевое общение на математические вычисления, которые программируются кодом.
@@ПростойПарень-е9с Ну, я не согласен насчет черного ящика. Я лично говорил с местным хорошим математиком, он объяснил, что "черноящичность" - свойство любой сложной системы.
@@ExpITW если сильно заняться черный ящик можно открыть, но это копаться в мат.моделе, коде. И это все данные у разработчика. Сейчас Клод Сонет 3.5 намерено ухудшили последние 2 дня выдают не очень хорошие результаты, а связано с тем, что Антропик будет выпускать новую модель, которая будет круче чем Сонет 3.5. Причем четко намерено ухудшили. Я к тому, что в нейросетях много маркетинговых замонух. GPt конечно с обилием маркетинга переплюнул всех, а по факту из пустого в порожнее. Переупоковывают свою модель добавляя абсолютно не влияющих на результат фишек. Да конечно прорывы есть, но не такие масштабные как нам льют в уши... Модели абсолютно управляемые разработчиками.
А я ASI побажав скорішого розвитку
Де? Не бачив..))
@@ExpITW як це де, в електроніці:)
@@СергійЯценко-г9б Все одно не зрозумiв. Можна докладніше?..))
@@ExpITW фільм "Я робот" дивились коли Загальний Штучний інтелект переслідує в вигляді зображення на екрані головного героя і веде з ним діалог, так от цей же ASI може переміщуватись по розумним гаджетам уявили собі, так от це і є ASI в електроніці
@@СергійЯценко-г9б нічого не зрозумів, але добре.)) Хай буде так..
Да ладно?!! Хоспади, дед, ты сам как бот! Мне это видео напомнило рассуждения девственника о сексе! Сам-то с GPT общался?
Не гони, внучек. Я с ним общаюсь с момента его появления на публике, уже два года подписан на платный пакет, экспериментировал с приложениями на портале через Bubble. Год посвятил играм с Midjourney. Если тебе GPT кажется умнее тебя, это не он умный...)))
Господь отец из квант струны, непрерывно ткал цветы, для ткани мира, и мать Вселенная в бутоне лепестков, квант музыкой ноты подбирала и миром музыки из квантов наблюдая, ищет дитя *Творца сорванца* что сорвёт «цветочек аленький» и разорвутся струны квантов на мембраны, свернуться как лепестки цветов в саду весеннем и Вселенная заново перезапуститься и повториться: Господь из лучшего эфира соткал живые струны *Творца и сорванца* и они были созданы не для мира и мир был создан не для них и сгинем вместе с ним и Мы, для нового мира! Или, же есть предел информации у Вселенной и лопнет она от лжи, что грузим Мы искусно в интеллект через искусственный интеллект.
@@ZhanMorli .. и сольёмся с непознанным, открыв для себя неведомое..))
С английским все понятно,один из примитивных языков.Математика тем более.Но слушать ботов на русском ,например,невозможно: так и прет невозможно противный для восприятия нелогичный,неокрашенный образными конструкциями текст.И явная ограниченность программистов!А впрочем,человечество деградирует,и ИИ станет ущербным!Например,сразу можно отличить кроссворд "ручной" сборки и созданныйМнение ИИ.Полное дно и примитивность.😏😏😏
Не надо так про мой любимый английский...)) Ну а боты на русском языке - мир в целом не русскоязычен, так что им учиться особо не на чем.
Уважаемые свой что за чушь вы несёте, ничего общего между мощном человека и нейронными сетями нету, так как там совершенно другие механизмы!
@@jonhdarlingfutdevil Ваше мнение расходится с мнением большинства ученых, так что чушь несёте Вы. С момента рождения нейросети (аппаратные и программные) позиционируются как нейроморфные, то есть мозгоподобные. Сравнение мозга и нейроморфных систем ИИ - признанная научная концепция. Другое дело, что мы не понимаем как работает мозг и потому копируем только то, что понимаем. Теперь после обмена любезностями, вопрос - считаете ли Вы мозг человека нейронной сетью? Чтобы понимать, с какого места мы расходимся.
@@ExpITW Назовите пожалуйста этих учёных, я читал разные статьи, но все пишут только подобие ровно настолько сколько велосипед похож на автомобиль, в качестве различия, можете прочесть информацию у Тадусевича, в его книге.
Реально, технология совершенно другая, общего нету, если вы начнёте разбирать детали. Чушь с аргументами, чушью не является.
Сравнивают с моей точки пиарщики, а реальные учёные, типа Амари, Бенжио, как раз пишут, что этого всего лишь Алгоритм.
Нейросеть назвать нельзя, есть сеть где пытаются понять механизм памяти, но это сырая разработка.
В классическом понимании как перцептрон с любой модификацией, LSTM любой модификации, CNN и т.д, все это всего лишь Алгоритм и общего с мозгом мало.
Было бы, что сравнивать, если не понятно, как и что работает чтобы добиться, что вы пишите это совершенно другие сети их связи, на совершенно других алгоритмах, в качестве примера, это кубитные сети (квантовые).
@@jonhdarlingfutdevil Я могу посоветовать Вам пару книг, но они на английском языке в PDF. Я вообще не читаю русскоязычные издания, нет необходимости. Я читаю только англоязычные источники, как научно-популярные, так и исследования, по которым написаны научно-популярные обзоры. Но вероятно надо начать с книг. Надеюсь, Вы знаете линейную алгебру достаточно. Так советовать книги на английском или нет?
@@jonhdarlingfutdevil И вот ещё. Я кажется понял почему мы не согласны. Дело в том, что искусственные нейросети повторяют только известные и понятные процессы мозга - реакции нейронов и работу нейронных связей на несколько упрощенном уровне. Как мозг учится, мы только предполагаем и фантазируем, поэтому не знаем. Из этих фантазий родились действительно алгоритмы машинного обучения, которые вполне могут быть совсем отличными от действующих в мозгу. Но в итоге получается очень похожая на мозг структура нейросети с ее весами и другими параметрами. Важно, что все процессы в искусственных нейросетях описываются линейной алгеброй и квантовыми вычислениями там пока не пахнет. Дайте знать насчёт книг.
@@jonhdarlingfutdevilИ вот еще идея как нам прояснить наши позиции и лучше понять друг друга. Я пока понял, что по Вашему мнению искусственных нейроморфных (то есть сделанных в попытке повторить мозг человека) систем сегодня нет. Верно я Вас понимаю? Если я Вас неверно понял, какие существующие искусственные системы Вы считаете действительно нейроморфными?
Слово эмерджентный уже 100 лет как в русском языке используется
Ну и что в этом хорошего? Почему не сказать "неожиданный"? Потому что говоря "эмергентный" мы кажемся умнее?
@@ExpITW Неожиданный и эмерджентный - это разные понятия. Они даже родства не имеют. Разве есть что-то неожиданного в том, что газ нагревается при сжатии? Вся термодинамика - это эмерджентное свойства большого количества молекул газа. Эмерджентное свойство - это свойство которым обладает система, состоящая из элементов, которые по отдельности этим свойством не обладают
@@AS40143 Наш спор переходит в лингвистическую плоскость и он не отучит меня не любить нарочитую наукообразность. Хотя и терпеть ее.
@@ExpITW Вы можете предложить другой термин для обозначения свойств системы, не присущим ее отдельным элементам. Я думаю, что никто не будет против
@@AS40143 Не могу. Эмергентные стал общепризнанным термином. Я брюзжу…))
Хорошо ,что ФСБ спасает,а могли сделать ошибку,Крем ль мог обосоатся с Путиным без ядерноного фейка.Спасибо Зеленскому
Давайте здесь без политики. Для политики у меня есть Фейсбук, там можем обсудить кого и за что благодарить. И как.
У разума другая физика процесса и к нейросетям не относится. Он порождается свойствами взаимодействия материи, то есть физическими законами реальности. Нейросети это электроны, металл и математика. Где тут разум возникнет? В куске меди? Казалось бы умные люди этим всем занимаются, бред всякий выдумывают из пальца. Ясно одно, возникает не эмерджентность, а банальная дурость (глупость). В обычном яблоке больше разума чем в ваших "нейрокалькуляторах".
что такое разум?
Важен не разум, важно в первую очередь осознание своего существования - сознание.
Может нейросети смогут стать настолько сложными, что приобретут как раз эти свойства, присущие живым структурам материи?
А так, мысли интересные, на счет квантовых свойств материальных структур. Тоже подобным образом размышлял.
Ну что за глупости, мозг состоят из материи и процессоры на которых запущенна нейронка тоже состоит из материи. Что там все из атомов что там, по вашей логике все должно работать
Бессмысленный канал техно-пессимиста. Задача которого обесценивать результаты инженеров-программистов.
Ага, особенно учитывая что автор последние 35 лет руководил компанией по разработке ПО...)) Успешно...))
@@ExpITW Разработка ПО и ИИ - не одно и тоже. Пессимизм в отношении последнего, успехов в создании, а также нашего общего будущего прослеживается на этом канале.
И желание обесценить чужие результаты не противоречит том, чем автор занимался.
@@Кибер_Турист Я ничего не обесцениваю, я их только не превозношу безосновательно и неоправдано, как сейчас умышленно делается для мотивации инвесторов. Если Вы посмотрите мои ранние видео на канале, Вы услышите реалистические оценки, которые могут показаться Вам более оптимистическими. Но это процесс и наблюдения показывают, что реально в существующем виде так называемый ИИ серьезным людям не нужен, не находит места в экономике, а технически не оправдывает завышенных ожиданий. Я за почти полвека карьеры видел столько таких вот восторженных кампаний, что привык скептически относиться к чудесам. Но я не отрицаю, что кому-то нужно верить в чудо. К слову, чтобы быть конкретным, какое из достижений нейросетей я отрицаю или дисредитирую?
Ошибка генерации контекста.
Это Вы о чем?
@@ExpITW обратите внимание на его никнейм...
@@ExpITW Это просто ироничный комментарий по поводу нейросетей и их текущего состояние. Простыми словами, я просто имитировал IA.
@@_Evgenyi_ обратите внимание на свою аву)
@@Я-Даун и что же с ней не так?
Алармист
@@jovebomzh2772 Отнюдь, я просто озвучил варианты. С Юдковским не дружу…))
все это связано с со знанием языка моделью который возник в связи с реальностью, дело закрыто, можете уволить всех малолетних индусов из гугла и опенАИ
а тот факт что вы не ожидали не делает ни одно свойство системы каким-то особенным
@@DeadMaze Слишком много умных людей с Вами не согласятся.
Полуграммотный Дед-Мазай рассуждает об IT 😂, Linux это не операционная система, а ядро. 😅
Зайчик, я знаю куда больше, чем ты узнаешь за всю свою жизнь. А учить меня рассказывать будешь, когда тебя будут слушать хотя бы 5 тысяч людей.
Почитай, заяц. Если умеешь…))
www.linux.com/what-is-linux/