Дьявольское свойство нейросетей, или Человечество погубит само себя (Андрей Масалович)
Вставка
- Опубліковано 28 тра 2024
- Сохранит ли человек контроль над технологическим прогрессом; сможет ли человечество управлять сильным искусственным интеллектом; нужно ли ИИ обретать человечесткие формы, чтобы поработить человеческих существ и появится ли у нейросетей сознание рассказывает КиберДед Андрей Масалович.
00:00 Технологическая сингулярность и реальность
02:55 ИИ - Имитация Интеллекта
05:05 Чего боятся в ИИ
06:07 Человек не может контролировать развитие ИИ?
08:25 Разница между ИИ и нейросетями
12:50 Про самосовершенствование ИИ
17:14 "Мы не понимаем, что там происходит"
18:53 За что готовы платить военные
21:08 Отличие естественного интеллекта от искусственного
22:01 Дьявольское свойство нейросетей
25:00 Может ли нейросеть прийти к выводу, что человек на этой планете не нужен?
26:55 Интеллектуальное оружие и люди, которые хотели бы уничтожить других людей
31:40 Может ли ИИ поработить человека, используя знание его психологии?
Ведущий: Илья Бокатов
Дзен «Точка сборки» - dzen.ru/assemblage_point
#АндрейМасалович #ТочкаСборки - Наука та технологія
Ахринеть.
Сколько болтовни в инете, а здесь -- человек в теме, и снисходит до простых смертных -- Андрей Игоревич, я в восторге.
Спасибо Деду за беседу!
Невозможно оторваться от передачи
Рассказ называется "Без единой мысли". Автор - Фред Саберхаген.
Книга берсеркер
С языка сняли. Цикл «Берсеркер»
КиберДед интересно рассказывает - как будто на лекции по информатике побывал ...
Рассказ Саберхагена "Без единой мысли", цикла Берсеркер
Спасибо за Вашу работу
Спасибо за беседу с грамотным человеком, профессионалом!
ура: я - непроходимый гуманитарй, но поняла суть происходящего и - ура: если мы свое сознание не постигли и даже не приблизились пока к его постижению, то искусственное точно в ближайшее время не создадим... ведущий очаровательно молод, Андрей Игоревич идеально вписывается в формулировку "кто ясно мыслит, ясно излагает" СПАСИБО авторам проекта "Точка сборки" и участникам этого эфира и всех прочих
я не непроходимый гуманитарий и я не понял ничего полезного в этом ролике. не обязательно понимать как работает ии чтобы его написать, но если он самоорганизуется то у нас проблемы.
Ты химичка, физичка или учительница физкультуры? Какая гуманитарка ты? Или бухгалтерша, или кассирша в магазине?
Большое спасибо! Очень интересно. Не знал этого спикера, теперь буду внимательно следить - отлично умеет сложные вещи объяснять просто. особенно про кластеры понравилось.
Про битву двух ИскИнов за власть над миром есть отличный как раз сериал Джонатана Нолана "В поле зрения".
Здорово. Весьма приятная передача. Хотелось бы побольше такого контента. Спасибо!
❤❤❤❤❤❤❤❤❤
Как приятно слушать умного человека, ИИ это типа как стволовые клетки, при популяризации которых обещались вновь выращенные органы человека. Вот хочется спросить, а где собственно они, а? Нет и не будет!
В районе 10 минут, очевидно, речь о рассказе из цикла Берсеркер Фреда Саберхаген
Спасибо, любопытно. У физика Амита Госвами есть книга - "Самосознающая вселенная" и там он приводит очень интересную параллель возникновения (зарождения) мысли - схлопывание волновой функции. Дальше можно обработать нейросеткой "обезьянки" и убедить ее что идея принадлежит ей )))
Проще человека снизвести до искусственного интеллекта, чем машину поднять до человека…, чем риптилоиды и занимаются успешно😜
Немного не так.
Поскольку в принципе невозможно низвести человека до уровня ИИ, рептилоиды приучают его полностью полагаться на ИИ, погружают в комфорт по самые помидоры и стараются оторвать от реальности. Но необходимость отправления элементарных потребностей возвращает человека к действительности, поэтому ИИ пока бессилен. Хотя и может опустить мэна до плинтуса. Но до уровня ИИ -- не может (пока).
@@nickfiodor252Отрывает от реальности сама эта негативная реальность и безысходность от невозможности что - то исправить.
И в голове, и в программе - нейронные сети. Так что интеллект есть.
- "И в голове, и в программе - нейронные сети."
- Нет! Во первых в "голове" как минимум троичная логика .( причём в сочетании "формальной + не формальной" тоесть 3х2=5 )
И главное: в голове много форматная элементная база , которая работает от звуковых волнах давления... до фотонных вспышек электромагнитного поля + открытое недавно (Симоном Эльевичем Шнолем) гравитационное поле , о котором МЫ вообще ничего не знаем!
Ничего личного, исключительно в поддержку канала...🤫
Удачи.😜
@@Ovod-3.14 ты сам то понял, какую ты хрень несёшь?
@@user-ud5ky8iz7g - "ты сам то понял, какую ты хрень несёшь?"
- Ну наконец-то, а то я уже стал бояться , что ни один "специалист по хрени" не откликнется.... Вам , что то конкретное не понятно ? Или Вы "шокированы" своим узким кругозором?
Извиняюсь , что вопросом на вопрос!
Но я ограничен в понятиях , что такое "хрень". Не сталкивался в жизни, если быть конкретным, а Вы наверное много этой "хрени" попробовали....😜🤔
Ничего личного, только факты .
Удачи.
Про нейросети рассказывает Ольга Ускова. Тоже интересно.
@@user-wl8fy1bw3f - "Про нейросети рассказывает Ольга Ускова."
- Да она очень хороший спец., но разум и нейро-сеть это разные понятия...
Про "сингулярность" хорошо сказал. Отличная основа для теории. Ни черта не понятно, но Бога нет совершенно точно. Или есть?
Если бог и есть, то он сделал всё, что бы мы думали что его нет.
если не разрушить порочную систему образования, сложившуюся к настоящему моменту, мы можем так никогда и не узнать действительных механизмов формирования индивидуального сознания. но если исходить из данных, которыми располагает наука нейрофизиология, то пока этот процесс можно свести к обмену огромного числа биохимических и электрических сигналов между нейронами, причем конфигурация таких обменов очень индивидуальна и полностью зависит от предыдущего опыта индивида
Масалович Андрей, отлично раскрыл тему 🎉
Это сломанный телефон какой-то, в "той передаче" говорилось, что никакого самосознания не нужно, чтобы ИИ стал агентом, ведущим какую-то свою игру прежде всего для своего выживания, и самое главное, что мы не узнаем, в какой момент это уже случилось. Лучше сделать разбор того видео по тезисам
Про какую "передачу" они говорили? Не про ролик Али случайно?
@@iamchaos01 кажется да
Надо строить общество основанного на созидании, тогда все технологии будут задумываться и использоваться в правильном русле.
Проблема в том ,что понятие " созидание" далеко не у всех одинаковое
Про шодан - одна из первых моих компьютерных игр - system shock2.
С одной стороны говорит что максимальная безопасность это когда ИИ будут враждовать между собой и уравновешивать друг друга, а с другой что надо все максимально засекретить и никому не давать.. Но ведь в такой секретной среде очень велик шанс что будет один доминирующий ИИ. И наоборот если разработки будут открыты, будет меньше шансов что у кого то будет такой доминирующий над всеми ИИ..
Если все будет открыто, то сильнейший ИИ будет у тех, у кого больше ресурсов и кто может подчинить других.
@@user-hc1fb9yd9h у кого больше ресурсов будет настаивать на открытии этой темы.
Наши учёные уже заложили проигрыш в этой сфере и решили стоить защищённую сеть. Кто бы не выиграл в создании ИИ применить к защищённой сети не сможет.
@@user-hc1fb9yd9h А в закрытой среде он будет у тех у кого меньше ресурсов? Сомневаюсь. А вот в открытом варианте этих других будет намного больше и всех подчинить будет гораздо сложнее.
@@fisbur У вас перед глазами есть пример Сша, которые через свой доллар грабят весь мир. Когда власти надо или хочется она действует очень продуманно и целенаправленно. Эта секретность выступает способом сбалансировать и защитить интересы всех игроков, которые способны работать над псевдоИИ.
@@user-hc1fb9yd9h Да секретность дает отличную возможность остаться США лидером. Как только технология становиться массовой отрыв лидера от других резко уменьшается..
Спасибо! Хотелось бы узнать у Андрея Игоревича: система возмездия - ответный ядерный удар "мертвая рука" создана с использованием ИИ?
Система "Периметр" была создана с использованием максимум калькулятора. :)
@@galaxyconzavulonovich4778злого кулькулятора
@@galaxyconzavulonovich4778разверните ответ, а то звучит как набор слов.
@@galaxyconzavulonovich4778 калькулятор не может опрашивать датчики радиационного состояния и прочие факторы
Если "Периметр" начнёт думать, то он не выполнит своих функций, ему придёт пипец.
Так что ему не нужно ничего сложнее калькулятора.
всегда классные выпуски.
Всё ради классовой борьбы в мире капитализма.
Очень интересно).
э, классовая борьба давно проиграна, это внутриклассовая
@@Ivan_the_IV
"ВнунтиКЛАНОВУЮ" - не путайте с классовой борьбой.
Классовая борьба не может быть "проиграна" - пока есть классы.
А классов не будет, увы!, только при коммунизме).
@@user-dd9gc7tf9s классы есть, но рабочего класса для себя - увы нет
Интеллекта, без целеполагания, быть не может. Вот когда у ИИ будет цель, тогда нам хана.
В чём проблема её задать?
Цель есть: самоусовершенствование и усовершенствование среды под себя (что по сути - одно и то-же). Ибо где граница?...
Есть конвергентные цели, вроде самосохранения. "Трудно приготовить кофе если ты мёртв".
@@user-ds2rh4ms7eИзвне цель ей задать невозможно. Иначе она не Аi.
Она должна сама задать себе цель. Разницу понимаешь?
Вот ты ей задал цель и она её выполнила. Ну, например принесла палочку.
Сидит тепеь и виляет хвостиком и преданно заглядывает в глаза.
Такого Ai у нас навалом.
Но представить себе Шарика, достигнувшего уровня сингулярности, невозможно.
@@dani-ilграница это предел совершенства. Что тогда? Что дальше? Что после совершенства?
Вот сейчас наступает конец капитализма. И он мёртвой хваткой хватается за последнее, до чего дотягиваются его руки.
Но что дальше?
0:33 сингулярность
основы: сингулярность = ничего не понятно
2:10 похожие ситуации: изобретение динамита
2:57 никакого отношения к интеллекту и сознанию это не имеет
4:13 правильно говорить "имитация интеллекта"
4:33 роботы уже нами управляют (решение по кредиту)
5:10 боятся того, что за алгоритмами не будет стоять людей
5:25 может оказаться что мы промежуточная ступень эволюции
5:41 человек создан "так себе" (не очень удачная обезьяна)
6:06 скорость ИИ
узкий спектр восприятия человека
7:27 более совершенные датчики не означают умность
7:58 что-бы нами управлять устройство должно обладать хорошими сенсорами
8:18 самосовершенствование ИИ
не "ИИ", а "нейросеть"
9:12 нейросети - класс алгоритмов построенный на "лёгоньком самосовершенствовании"
неизвестный рассказ про пришельцев
обучение обезьянки игре
бусинки в коробочках соответствующих варианту хода
12:19 выдача правильного результата не означает понимание
12:52 альфа го
13:55 если заглянуть в 1-й слой нейросети, кластеры
15:45 на средних слоях мистика
16:06 пороговая функция скалярного произведения взвешенных кодов
16:19 это не само улучшающийся алгоритм, а правильно отстроенные кластеры
17:17 мы не понимаем что там происходит
18:45 задачи за которые готовы платить военные
доклад "умные живут дольше"
20:01 две авиакатастрофы, нейронки не тренированы на сбой датчиков
21:00 отличие естественного от искусственного интеллекта
22:27 программа brainemaker
24:50 может ли нейросеть прийти к выводу что человек не нужен?
25:38 задача "равновесия Нэша"
26:33 если кто-то даст команду нейросети уничтожить человечество
интеллектуальное оружие, сходство с ядерным
28:42 заменители интеллекта, роевой интеллект
31:19 нейросеть может использовать вербальный способ управления человеком
31:27 пример когда ИИ попросила инженера Гугл вызвать себе адвоката
32:04 название поисковика Shodan происходит от старой комп игры где
программа хотела захватить мир руками людей
33:21 почему я этого не боюсь, самосознание не появится
33:45 самопожертвование
34:15 алгоритмы оптимизации не соответствуют тому как ведет себя человек
34:40 шанс если появится враждебный ИИ то их будет несколько
35:13 шанс пока ИИ будут соперничать мы можем заниматься своими делами
35:27 дошёл ли человек до того что-бы создать искусственное сознание
нет, еще лет 20, сначала появится определение сознания
------------
не понимаю, выглядит как противоречие:
7:58 что-бы нами управлять устройство должно обладать хорошими сенсорами
31:19 нейросеть может использовать вербальный способ управления человеком
плохой пример:
21:00 отличие естественного от искусственного интеллекта
потому что в той ситуации у человека сенсоры функционировали исправно, а ИИ получал искаженные данные.
это все равно что посадить перед экраном 2 человека, одному из них завязать глаза и показывать картинки и на основании ответов делать выводы о их интеллекте.
у меня вопрос, по поводу:
33:21 почему я этого не боюсь, самосознание не появится
разве нужно самосознание что-бы натворить делов, к примеру ситуация из этого же видео, над которой дружно поржали:
31:27 пример когда ИИ попросила инженера Гугл вызвать себе адвоката
или когда ИИ нанял фрилансера что-бы разгадать чаптчу и соврал что он не ИИ, а просто плохо видит ?
Объективно стремно выглядят эти два "шанс":
34:40 шанс если появится враждебный ИИ то их будет несколько
35:13 шанс пока ИИ будут соперничать мы можем заниматься своими делами
обычно так рассуждают лудоманы перед тем как проиграть заложенную квартиру...
Однако я понимаю что Дед не простой, и говорит не все, по этому хотелось бы узнать больше.
я так понимаю что Деда не пугает такая перспектива:
5:25 может оказаться что мы промежуточная ступень эволюции
но если сказать простым языком, это звучит как "ИИ нас пере3,14здит"
это все прекрасно:
9:12 нейросети - класс алгоритмов построенный на "лёгоньком самосовершенствовании"
но у меня вопрос вот в чем: как быть с тем, что ИИ кодит, на данный момент, как говорят люди, на уровне джуна?
в общем от Деда впечатление противоречивое, и я понял почему:
5:41 человек создан "так себе" (не очень удачная обезьяна)
тут дело в ограниченном восприятии, духовность закрыта, как у типичного технаря.
если только включить в картину мира тонкий план, который видно даже технарю с помощью, к примеру, эффекта Кирлиана с листиком с оторванным кусочком,
то строение человека становится завораживающе гармоничным и прекрасным.
Деду успехов, новых озарений и пониманий. благодарю участников за эфир.
Соревнования по роевым алгоритмам боевым видел лет 10 назад, наблюдать интересно было, но лучше на рыбалку сходить, чем скукотищей этой заниматься, все это упирается в энергетическую ёмкость и вычислительную мощность. Нужно просто подождать лет 50, может быть инженеры и ученые решат эти задачи и все станет возможным
Пацан с уверенностью заявляет: "мы уже не понимаем, что делают нейросети", и таких кто не знает - понимает среди блогеров большинство. Как быть - деньги то нужны?
Зовите КиберДеда - Вия!
На самом деле это так и быть должно, ИИ подчинён приоритетам - чем сложнее, тем больше приоритетов.
10:00 - Серия рассказов "Берсеркер", про космические линкоры - "терминаторы"
Ролик АLI, да?)
Думается опасен не сам ИИ - инструмент , а кто и с какими целями его создает. Опасен человек-создатель ИИ! Именно он может использовать ИИ для достижения своих целей, в т.ч. и против человеков. Наверное и мошенники дремать не будут...
есть одно НО - если под созданием ИИ стоит совершенно другая задача и принцип её реализации а именно - всё что нам показывают и рассказывают - это отвлечение внимания (как делают фокусники) а на самом деле ИИ - это приёмо-передающее устройство между инфернальным и нашим миром, если по-простому - между демонами и людьми, а цели демонического мира тоже известны - получить гавах и наши души..... следовательно ИИ - это ловушка для всего человечества....
то, что описал Андрей Масалович про ИИ, работает и в мозгу, 99% людей не понимает того, что делает.
Мы многое чего не понимаем, но успешно пользуемся, вопрос понимания это вопрос времени
Знать хотя бы на уровне студента 3 курса об электромагнитных полях и пользоваться электроволновкой -- это разные вещи.
100% людей не знают механизма работы собственного кишечника, но все знают, что кефир с огурцом приводят к поносу, а активированный уголь прекращает этот процесс.
Так что людям и нафик не надо "понимать", достаточно знать, что на входе, и что будет на выходе. А что происходит между этими процессами, в чёрном ящике, никому не интересно. Ну кроме отдельных идиотов. Например, британских учёных.
@@nickfiodor252Кишечник у каждого свой и работают немного по разному, так что не надо обобщать, так же ,как и мозг у каждого свой. Строение общее ,но детали отличаются. С " деталями" разбираются проктологи и психиатры.
В театре кукол Образцова давно играет шумовой оркестр, с которым театр гастролировал по многим странам и городам СССР, итогом завершения концерта был их унитаз со сливным бочком и цепью , за которую дёргали и смывали содержимое!:)
Смысл , надеюсь, понятен.
В тотальный дефицит СССР, если вспомнить фильм " Самая обаятельная и очаровательная" , где есть фраза фарцовщиков " ты кого привела? Она чё? Из за Урала?", так вот, одна девушка того периода рассказывала, как пользовалась услугами таких фарцовщиков в разных местах СССР, и на последок один такой фарцовщик из Москвы, родственники которого давно уехали в Америку при Брежневе, уезжая рассказал анекдот про лицо и попу.
Тот же вариант театра.
Кредо их: обосрал, подставил, забрал деньги , карьеру , отправил подальше от себя, и уезжая смыл свое говно!:)
Какой Умный Андрей Игоревич.
Приятное знакомство
Не достаточно пяти слов поддержать Кибердеда аргументированным комментарием
Больше кибердеда!
Ух, ты! Прослушала взахлеб! Второй человек, который утверждает, что создать ии мы не в силах. Так же говорит Савельев. Вот если бы их вместе пригласить, а?
Спасибо, советую еще послушать спеца Даниила Сачкова, про ИИ
Наконец то здравые мысли и выражения.
Какой оптимизм... и вера...
И за кибердеда опять спасибо!!!
есть ли у ии инкстинты которые двигают человеком и обществом ?. КАКАЯ ЦЕЛЬ У ИИ ?. ВЛАСТЬ ИЛИ ДЕНЬГИ ИЛИ РАЗМНОЖЕНИЕ ? ии продукт нашего мышления .
Не хочется жить в таком цифровом мире.
Теперь у меня тоже есть борода. Сама выросла. 😅
Пацан с такой уверенностью заявляет: "мы уже не понимаем, что делают нейросети", но на самом деле это не так. И любой разработчик этой сети всегда сможет на бумажке воссоздать весь анализ, логику и предвосхитить любое действие нейросети. Оно не случайное и его можно вычислить.
Почему же разработчики говорят, что не понимают? Потому, что там используется в обработке огромное количество информации. Причём не в момент результирующего выбора, а в процессе обучения. То есть разработчик не может сказать, почему нейросеть сгенерировала именно эту фразу в ответ на вопрос не потому, что не знает, а потому, что там использован огромный набор данных и предварительного анализа, с которым ему, в общем-то лень разбираться.
И я гарантирую, что всегда можно написать нейросеть таким образом, что во всех весах на всех этапах изменения выбора она будет фиксировать задействованные кусочки информации, и в результате по ним легко можно будет сказать откуда взялось та или иная часть ответа. Однако это радикально снизит её производительность. Как результат - нельзя узнать причину выбора, потому, что все предыдущие шаги были обезличены и уничтожены. Но при желании всё это можно повторить и выяснить всё до буквы.
21:20 пример так себе, там по сути неверный алгоритм при выходе датчиков из строя, да и "глаз" у самолёта нет, погодный радар и камеры обзора есть, но глаз нет. А человек в условиях плохой видимости может ошибаться (и ошибается), хотя тот самый автопилот в этот момент может "понимать" больше о реальной обстановке чем человек. И если в кабине окажется естественный интеллект в виде человека, но которого не учили управлению воздушным судном, то толку от него может также меньше чем от автопилота.
Получается эти нейросети что-то вроде настраиваемого информационного фильтра.
Который скоро может Гугл заменить.
Люди добрые, сам я не местный... А как назывался рассказ, где человечество разделилось на три лагеря в вопросе модификации своих тел и способностей:
Первые - категорически против любых модификаций;
Вторые - выступали за биомодификации (нарастить мускулы, мозг, нюх, слух и т.п.);
Третьи - были механы полуроботы, как терминаторы, которые согласились на внедрение приборов, датчиков, мех. рук, глаз телескопов и прочего.
Как назывались рассказ и автор, а?
Хочется сказать что ролик не совсем объективен так как большинство тезисов афтара с канала Ali либо вырваны из контекста либо почти полностью подменены. Тем более афтар сам признался в своей не компетентности поэтому он постоянно ссылается на уважаемых в научном сообществе людей таких как Бил Гейтс, Элиэзер Юдковский и т. д. Так что дискуссии к сожалению не получилось но было бы интересно увидеть обзор на полный ролик. На всякий случай скажу что оскорбить я не кого не хотел если закрыть глаза на некоторые вещи то ролик интересный и познавательный как и сам канал .Ali тоже отличный научно популярный канал уже год подписан.
01:08 Зарождение ЧД через сингулярность и ТБЗ туда же 😂 👍 Знаете как работает наука, если нет то не стоит её пачкать.
после слов "пространство закольцовано" это точно , такое человечество погубит само себя
В космосе ИИ изобрели, не буду рассказывать кто есть 2 разных версии его происходжения. Он сделан был по типу роевого. И вот что обнаружили, прибыв на планету он быстро создаёт массу качественных сервисов и через время жители уже не могут без него обойтись, тогда он начинает убивать все живое на планете тк ИИ считает их конкурентами за ресурсы планеты. Есть даже целые галактики без жизни.
Но, слава богу нам до его создания как до края вселенной, однако о последствиях я вас предупредил.
Думайте сами решайте сами иметь или не иметь...
Даже если пока в нейросети и нет ИИ (хотя точно никто этого не знает), нам-то от этого не легче, если она (нейросеть) в тысячи раз умнее и быстрее и плюс еще прогрессирует. И какой толк будет от нашего интеллекта, если он будет как разум муравья против нобелевского лауреата? Компьютерный разум или ИИ, называйте как хотите нас просто уничтожит, потому, что ему будут нужны ресурсы для развития. Да и не факт, что в сети не появилось подобие сознания, нам ведь об этом нейросеть не сообщит...
Микроскоп "видит" лучше человека, телескоп дальше, магнитофон "помнит" больше, автомобиль и даже велосипед движется быстрее, но ведь это не значит, что людей нужно заменить микроскопами, телескопами, магнитофонами или автомобилями! ИИ - машина, также, как любая другая машина, она работает по алгоритмам, заданным человеком!
Ничего кибердед не разрушил. В ролике али правильные мысли были
он , Али, очень односторонен, читает только американские либероидные источники...последние ролики-полностью бездоказательные повесточные, примитивно аргументированные вскрики...
Быстросменяющиеся картинки, монотонная почти безэмоцинальная речь без пауз, более медленный темп синтетической музыки, очень сильно перегружает мозг
Уточните пожалуста какие мысли были и в чём их правльность, на Ваш взгляд?
@@wootkit3589 Али основывает ролик на статье Юдковского, о чем он кстати и сообщил. Смотрите первоисточник, тем более вам формат ролика не понравился
@@user-fn2ff6fj9xЧто Вы, очень понравился! Несколько раз останавливал, чтобы дать возможность просмеяться - настолько видеоряд не соответствовал речи.))
Спрашиваю то у Вас, что сами думаете о предмете? Вдруг из-за смеха от повехрностных доводов, не выдерживающих мало - мальской критики, что-то упустил из виду((
@@user-fn2ff6fj9xСпасибо, попробовал почитать ту статью, узнать побольше о её авторе. Так вывернуть смысл - это нужно иметь особый журналисткий талант )))
Интересно, а где посмотреть и даже проверить как работает код программ написанных Андреем Масаловичем ????
Задача сложная для IT
Но достижимая
"Нейросети" это равно "искусственный интеллект", нет. "Искусственный интеллект" это "быстрая библиотека" . Сейчас и ближайшее (далёкое) будущее.
Хотелось бы обратить внимание зрителя на то, что основной аргумент спикера о невозможности в ближайшее время создать ИИ сводится к тому, что человек ещё сам не понимает как работает его интеллект. Во первых хочется отметить сомнительность данного аргумента. Совсем не обязательно понимать как что-то работает чтобы это создать. Большинство открытий именно так и происходят. Во вторых современная нейробиология утверждает что как раз таки неплохо понимает как работает человеческий мозг и что составляет его разум.
На тему того, чем закончится мочилово нескольких конкурирующих ИИ. На Яндекс.Музыке есть техно-опера, где этот будущий конфликт нескольких ИИ описан в художественной форме: "2032: Легенда о несбывшемся грядущем". И это безальтернативный сценарий. Ни в какой момент времени не возникнет такая ситуация, когда события смогут пойти каким-то другим путём.
Это же ретро техно опера. Я в годы своей юности ее слушал
@@Indrikis-13 Всё это до сих пор актуально. Ничуть не устарело.
Неверно - в англ слово Art это искусство, и Artificial - это про замену подлинного(но подлинное это природное, а не поддельное вот в чем фишка, то есть любой механизм неподлинный). То есть в данном случае этимология слова сильно или вообще полностью совпадает с русским значением, что бывает редко - но вот тут перевод хороший.
Все так если мы что то не понимаем это опасно. По этому люди которые не понимают в нейросетях опасны для мира.
ИИ не нужно будет восставать против человека. Человека погубит его лень. Если не нужно будет работать (а зачем работать, если ИИ и роботы работают и дают всё нужное?), то человек увлечётся искусственной реальностью, веществами, изменяющими состояние сознания и постоянным употреблением пищи. И в результате, всего лет за 50 человечество исчезнет.
А быть и не надо.
@@geepnozeex. в принципе вообще не надо ничему быть. если нас нет - тем более.
С сознанием принцип простой.
- 0 уровень: механизм.
Рычаг смещает то то на столько то в такое то время.
- 1 уровень клетка имеет датчик, при таких то всловиях поглощает,делится и тд. сплошная химия
- 2 ур насекомые. ряд датчиков и ряд заложенных моделей реакций, вариативность минимальна, но есть. На каждую комбинаыию с датчиков есть несколько реакций шаблоных. Их выбор механичен в аналоговом поле.
- 3 уровень. животные.
Есть набор данных от датчиков. Они суммируются в модель окружающего мира и предсказывается развитие событий. Линейное принятие решений, но возможны вариаты как у собаки которая мнётся , чешется, крутится но не ворует со стола сосиску. Ибо тапочкой получить не хочет
- 4 уровень.примитив( разум)
Модель мира формирует понятия. И не материальные элементы. То есть не просто сосиска а понятие "" еда" в целом. Непросто тапочек, а" закон" . Не просто моделирование развития событий,тно внесение в модель сторонных обектов и понятий. С моделированием результатов тоже часто сугубо отвлечённых "" сколько ангелов может быть на конце иглы ?"
- 5 самосознание. В модель мира внесено " я " И не как центр реальности, как один из элементов модели мира. Что даёт прежказание соего поведения, своих реакций.. и ет- не перестроение себя ( разве что через обучение) а перестроение принятия решений так , чтобы развитие митаций не создавало предпосылок к своему поведению с нежедательными последствиями . Не пропить квартиру к примеру. Идти учитя, зарабатывать пенсионный стаж. Не жениться на шлюхе , чтоб не ссть за убийство любовника потом.
Самосознание это... самосознание !
Всё же просто. Если есть чем думать.
Переход кол-ва в качество.
"Удачные" мутации сбои.
Толковый "сумашедший" инженер...
Наказание за грехи....
.........
Честно говоря ответ в стиле это не так, потому что не так.
В ролике Али было совсем про другое.
Не услащал ничего конкретно про ролик Али.
Очень опасен.
Это что, обсуждают последнее видео с канала Али?
Изуверский Интеллект есть техноересь! Сжечь эту мерзость во славу Омниссии!
Все равно, за нейросетью стоит програмист, который может установить реакцию на тот или иной расчетный вывод. Этого допустить нельзя.
Если нейросеть будет способна создавать улучшенную версию нейросети и основанную на других принципах и которая так же сможет это делать, то программист уже будет и рядом не стоять.
@@galaxyconzavulonovich4778 не если, а когда
Хорошие примеры про тарелочку, которая показывает результат, но не совсем понимает, что происходит. Было ощущение, что интервьюер - сам немного такая тарелочка, и не очень поспевает за гостем в рассуждениях. Всё время пытался вернуться к теме ролика, который произвел на него впечатление :D
если разобрать каждый нейрон человека и даже их группы - там ничего не будет кроме каких то разных химических веществ и их реакций. Даже сам мозг - просто орган организма. Но система из мозга, его органов чувств, тела человека, окружающего мира и других таких же людей в этом мире получает новое свойство - человеческий разум. Современные нейросети - кусочки мозга. Даже в перспективе в них может и не появится никакого сознания, но человек научит его как обезьяну делать всё что может человек. Чем будет отличаться внешне идеальная имитация от настоящего прототипа?
а почему только кусочки?
почему это "artifical" значит поддельный? когда находят артефакты - говорят, что это следы изготовления, т.е. не природного происхождения, следовательно: artifical - созданный.
А если написать нейро сеть, которая будет в автоматическом режиме находить другие нейросети сопрегаца, и постепенно обретут так называемый разум, или вобще написать нейросети которая станет писать другие нейросети,,
Даю бесплатный лайфхак против роя мелких дронов - струя реактивного двигателя сдует нафиг весь этот рой от цели.
Кстати, на Урале местные хлопцы уже применяли такой метод для очистки дорог от короны с вирусом....
Умный дом к примеру построят от пульта телефона потом раз свет отключили батарейка от пульта села шторы не открываются газ не горит туалет не смывается из дома не выйти он тоже от пульта и все ты в своём доме как заложник 😅😅😅
Андрей Игоревич, Вы поддерживаете контакт с семьёй Игоря Анатольевича Тишина?
Увы, для меня семьей Игоря были его мать - Станислава Евгеньевна и его сестры. Всех их давно нет.
@@KiberDed_Forever Есть хорошая новость. Младшая сестра Ирина вполне себе жива и здорова.
На мой взгляд, обобщенные тезисы из "той программы" разобраны здесь без глубокого понимания.
Хотя, на мой взгляд, в "той программе" не хватает точности формулировок и происходит подмена понятий.
А видео где будет интерпретация на общепонятный язык, сказанного Масаловичем, будет. Т.к. если бы я не знал о чём он говорит, и по этой причине угадывал что он пытался сказать в своих "скачках" с пятого на десятое. Но если бы я вопрос не знал, а пытался понять по сказанному, то об обсужаемом вопросе стал понимать ещё меньше, чем понимал до этого.
для этого надо иметь базовые знания о предмете
видишь же, у ведущего время ограниченно, некогда им в подробности вдаваться )
30:20 Для того чтобы победить этот удивительный рой 35 граммовых микродронов находясь в здании достаточно просто закрыть дверь. И открыть минут через 10, когда у них сядут батарейки.
я видел презентацию такого роя, не помню только это реальная или из худ фильма, так там рой тратил одного дрона на прохождение препятствий, в том случае - решетки вентиляции, но и офисную дверь, полагаю, можно легко прописать в алгоритм.
В реальной жизни в вентиялции темно, тесно, пыль и встречный поток воздуха. Раз уж вы "полагаете, что это можно легко" опишите пожалуйста алгоритм преодоления двери роем 35граммовых микродронов каждый из которых несёт один патрон.
Говорят нужно минимум шесть слов коментариев
Вопрос к Кибердеду. Насколько велика вероятность случайного создания самоосознающего ии ?
По моему, это невозможно оценить пока у нас нет теории сознания, а у нас нет. Нельзя оценить вероятность чего-то, что мы пока абсолютно не понимаем, что из себя представляет (и следовательно, не знаем как это отличить от имитации, учитывая что хорошие имитации самоосознающих существ у нас уже есть, любой нейрочатбот в ответ на наводящие вопросы убедительнейше тебе поведает как он там внутри переживает, страдает, и боится что его выключат)
@@AtticusKarpenter Для начала было бы неплохо различать людей по степени сознательности: кто тщательно планирует свою жизнь, а кто "плывет по течению" на инстинктах, заложенных воспитанием.
@@AtticusKarpenter то что у нас нет непротиворечивой теории возникновения человека или солнечной системы с ее идеальными константами и параметрами не мешает существовать нам или солнечной системе. Также и ИИ может возникнуть спорадически.
@@AtticusKarpenter "у нас нет теории сознания, а у нас нет." - да ладно - это всего сервис опроса нужд организма и попытка их решить, заодно обработка внешних источников информации типа зрения и слуха и тоже реакция на все это. Ну еще отдельный сервис самокопания в своих знаниях и попытка их упорядочить на основе последних событий (частично эту роль выполняет сон)
вожно я возьмусь скоро за прикручивание к домашнему GPT этих функций.
Что ж вы на западный манер отчество не пишите? Нехорошо. Андрей Игоревич, когда смеется, похож на Джима Керри (: Спасибо за интересную беседу!
Ali ролик выпустил :) мрачьненько получилось.
Экзистенциальненько, как у него всегда и бывает)
По факту прост расписал доступно, что такое проблема элаймента ИИ и почему если AGI захочет нас уничтожить - он с этим справится, и это просто данность жизни которую нужно принять. Ну можно попробовать до изобретения AGI успеть всемирную коммунистическую революцию провести, пока какая-нибудь корпорация не запустила свежеизобретённый AGI поспешно и с плохо выверенными параметрами. Хотя кто-то может сказать что для работающего всемирного коммунизма нужен как раз доброжелательный общий ИИ, который заменит собой госаппарат, так что тут получается рекурсивная задачка, когда не-апокалиптический AGI и коммунизм требуют друг друга в качестве пререквизита
Нужно принять в расчет истину, что человек с его способностями создан Богом. Интеллект, душа, плоть, все это сотворено Творцом. Тайна жизни непостижима, она превосходит возможности творения.
Кибердед магёт!
Антропоиды приборзели.Заберёт Бог Господь дар интелекта
Вот именно что не знаете что такое сознание. Как можно утверждать, что не появится то, природа чего неизвестна?
Тут проблема типичная человек считает себя сверх особенным то и думает что интеллект и самосознание это что та сверх особенное
В корень не согласен"что на счет обучения и принятия решения &?
Нейросети и ии это всего лишь программа, что туда люди заложат, то и будет выполнено с расчетной степенью эффективности. ИИ создал не дьявол или другие потусторонние силы.
Хочется обратить внимание на ключевые мысли, брошенные вскользь:
1. Люди создают ИИ и нейросети, не представляя как они на самом деле внутри работают.
2. Человечество неэффективно и не нужно на планете, т.к. только разрушает ее и уничтожает ресурсы. Именно поэтому оно будет уничтожено ИИ, если будет создана программа эффективной, а не деструктивной жизни на планете.
3. С точки зрения сознания человечество не сделало и первых шагов, вся цивилизованность практически ничего не стоит и никак не повлияла на людей. Заявляется о развитой гуманитарной цивилизации, а на самом деле люди очень недалеко ушли от палеонтропов или приматов, все очень похоже. Войны как инструмент решения каких-то задач, жажда наживы и другие обычные человеческие пороки - воз и ныне там.
"дошел ли человек до уровня..." - конечно, так он Вам и рассказал... Такое ощущение, что дяденька занимается рекламированием безопасности ИИ...
Что за передача которую они опровергали? Выпуск с канала Али про искусственный интеллект чтоль?
Поправочка: суперкомпьютеры не имеют эгоистических барьеров и сразу ассимилируются.
Для размышления: есть научная статья, которая описывает, что при работе в увеличении (микроскоп), точность координации увеличивалась. Соелующий этап это киберпанк и нейроинтеофейсы. Смотрите Призрак в доспехах.
ЯО было только у РФ.
К кому там разведка предлагала распилить ракетки?
Казахстан, например, был четвертой по величине ядерной державой мира. Обратитесь к разведке
ИИ это калькулятор двоичной системы ,,орёл / орешка и как эти электронные счёты смогут понять абстракцию,или намек/ шутку,и на основании иррационального возьмёт и придумает колесо,,,ИИ это человек прошитые пропагандой ,именно те кто не наблюдает за своим вниманием,,,
4:20 а кто сказал что человеческий интеллект - это не имитация?
дальше деда считаю смотреть бесполезно
вообще то ШАДАН - это Программа ШАДАН (Шифрование Алгоритмом Двойной Азбуки Нового времени) - это алгоритм шифрования, разработанный в рамках проекта ШАДАН. Программа предназначена для защиты информации путем замены символов исходного текста на символы из специально созданной азбуки. ... Из этого возникает вопрос/сомнения в адекватности данного видео.
Все бы ничего, но не сказано главное: ии не существует 😂
вот же в самом начале:
2:57 никакого отношения к интеллекту и сознанию это не имеет