Безопасность Искусственного Интеллекта
Вставка
- Опубліковано 2 тра 2023
- Говорим с Арчетом и Павлом Комаровским про безопасность ИИ.
Телеграм-канал Павла: t.me/RationalAnswer
UA-cam Павла: / rationalanswer
Телеграм-канал Арчета: t.me/Archet
Подкаст Арчета. music.yandex.ru/album/18371071
Не будьте такими душными, давайте лучше - проветримся!
Слушайте "Проветримся!", где вам удобно:
ApplePodcasts: apple.co/2Psx8yd
GooglePodcasts: clck.ru/F7BA7
Я.Музыка: clck.ru/JJB8y - Наука та технологія
Крутой выпуск. В таком дружеском споре рождаются интересные вопросы и открываются дверцы в другие области знаний, их связи и вообще...вот это все про религии, сознание, ядерное оружие. Глобально и практично одновременно! Расширяет кругозор и сознание :))) и мотивирует гулять и мыслить. Спасибо!
Спасибо за выпуск! Подписалась на "Проветримся" после того, как увидела ваш доклад на traintech, разделяю ваши ценности, а значит надо держаться вместе). Отслеживаю тему с AIG и как ученый в том числе, но со стороны психоанализа. Моя базовая тема исследования - психология масс в среде интернет. Могла бы добавить, возможно, к вашей дискуссии по теме сознания. На уровне гипотезы. На мой взгляд то, что мы называем AIG - в целом в мире давно существует и психоаналитиками определено как бессознательное. И человечество сейчас через языковые модели разработало интерфейс для непосредственного с ним диалога. По сути gpt - это как "дверь" в ноосферу через техническую оболочку. Мне близка спорная теория, что мы-люди пребываем в этом мире скорее как транзисторы. Сознание каждого человека формируется в поле его речи (устной, письменной, внутреннего диалога). И по жизни выхватывает из общей массы бессознательного только то, с чем "коммуницирует". Бессознательное проникает в сознание только через сны, предчувствия, оговорки и тп. Что в целом позволяет проживать нормальную человеческую жизнь. Сейчас, если дойдет дело до AIG, то есть сетки, которая действительно ныряет в глубину ноосферы, у людей появится возможность выхода в океан бессознательного с его бескрайним эхо. Примерно такое происходит с людьми, которые в классическом мире считаются больными шизофренией. Они и так "общаются" с бессознательным не пользуясь при этом чатом gpt. Они постоянно в диалоге, причем по разным ролям. Но тк это не очевидно для других людей и может принести урон реальному миру, то диагностируется болезнь. Так что основную опасность в концепции AIG на будущее вижу в разрушении человеческой психики. Можно сказать что AIG - это примерно как Вавилонская башня по амбициям человечества. И гораздо больший смысл видится прикладном использовании связок нейросеток, каждую из которых можно разобрать и посмотреть что там внутри. Повторюсь, мои рассуждения на уровне гипотезы) Спасибо за возможность высказать мысль.
Иван, вот честное слово... Никому так не писал и вряд-ли когда-то напишу. СПАСИБО ЧТО ТЫ ЕСТЬ! Мне безумно интересно слушать про всё вообще что ты когда либо говорил. Пойду погуляю сегодня. СПАСИБО!!!
спасибо огромное. Очень ценно, что подкаст помогает людям и просто поднимает настроение.
Подкаст «Проветримся» отличный, разные интересные темы и спикеры. Помогает проветрить голову в прямом смысле. Процветания и успехов 🖖🏽
В этом выпуске удивило, что ребята, переживающие за безопасность ИИ, как будто не стали разбираться как это работает и как мы оказались сегодня там, где оказались. Об этом Иван справедливо подметил в конце встречи. Было интересно, спасибо.
спасибо!
Ответ на вопрос "почему я слушаю подкаст", в моем случае, довольно прост. При всем желании, у меня не часто возникает возможность поговорить с харизматичным иследователем искусственного интеллекта из Вюрцбурга и узнать от него что-то новое и интересное о мире вокруг, однако, благодаря вам я всегда могу включить ваш подкаст и хоть как-то это исправить. Вот поэтому и слушаю каждый выпуск. Спасибо вам за это большое.
спасибо большое за поддержку. Это очень важно и ценно.
Так-то, благодаря человеку популяция коров т криц, значительно-значительно больше, чем могла бы быть в естественных условиях.
спасибо, очень хорошая беседа, я бы послушал и дольше
Иван, молодец! 🎉🎉🎉
Спасибо за выпуск! Тема очень интересная и многогранная. Очень ждем вторую часть.
Кайф! Обязательно нужно поговорить про ии ещё
Если сейчас люди обсуждают как остановить развитие ИИ, то точно также AGI сможет обсуждать как остановить развитие людей (тем более что люди совершают на порядок больше ошибок), он же на опыте людей будет учиться, в том числе.
Иван, мне очень нравится Ваша позиция в этом вопросе. Все Ваши доводы мне были очень понятны, и я удивлен как они мне в голову раньше не приходили! Жаль что Вашим собеседникам сами формулировки были не ясны, и приходилось по нескольку раз объяснять одно и то же. Дискуссия могла быть намного интереснее, если бы они приводили контраргументы, а не пытались ее понять в эфире.
Великолепно!
Отличный выпуск!
Спасибо за видео, пришел от Павла. Кажется, что подкаст вышел очень скомкано, хоть и интересно, имхо это получается из-за того, что уровень компетенции людей слишком разный, было бы интересно посмотреть на обсуждение этого вопроса вами с кем-то с полярной точкой зрения, при этом с таким же уровнем компетенции по вопросу ИИ + человека, который сможет модерировать дискуссию корректно (фасилитатор) + человек, который может оценить ваши рассуждения с точки зрения философской (тут про этику, про определение слова "сознание", в понимании каждого участника, и так далее)
если организуете что-то похожее, я в деле
ИМХО Основная проблема аргумента что "not aligned AI" менее опасен в допущении что 1) он один на всех и 2) никем не контролируется. Но, даже до GPT были десятки (сейчас их сотни) частных LLM моделей , сотни опенсорсных которые никем (=неизвестно кем) не контролируются.
PS Иван отлично формулирует мысли, слушаю подкаст с удовольствием.
Встретились 3 латентных ❤❤❤
Это мы смотрим.
сердечко тебе за такое дело
Иван, спасибо за подкаст! слушаю его из-за желания "быть в теме" что там в околонаучном мире происходит, из-за бодрого голоса ведущего :)) а то лекса фридмана, например, слушать невозможно, такое ощущение, что он засыпает прям в эфире :) ну и конечно из--за технооптимизма , который мне хочется разделять :)
Можно вопрос в тему этого выпуска? Одно дело не с технарями обсуждать безопасность ИИ. А вот мне интересно в чём аллармизм Джоффри Хинтона? Он то получается сам ИИ создал и сам ужаснулся своему творению :) То есть он явно ранжирует угрозу от ИИ как одну из основных. Он знает что-то, что мы не знаем?
Хороший вопрос. Что именно стало с Хинтоном мне трудно сказать, но люди могут разные позиции занимать. Это нормально. С возрастом многие люди становятся осторожнее и начинают переоценивать ряд рисков. Однако, ни Хинтон, ни Бенждио не говорят об этой проблеме так, как о ней говорит, к примеру, Юдковский. Их высказывания куда более адекватные, на мой взгляд, и достаточно разумные.
Бенджио, к примеру, очень фейки беспокоят. Фейки - это проблема. У нас был эпиздо про них в подкасте. К примеру, Британия вступила в первую мировую, среди прочего, из-за фейка про немецких солдат в британских газетах. Всё это было без ИИ :)
Очень много спорных тезисов в ходе дискуссии с обеих сторон, но есть о чем подумать.
Ребятам к подобным дебатам нужно прям на фундаментальном уровне получше готовиться. Я понимаю что они отстаивают свою позицию но иногда прям больно.
0:11 Ютуб премиум в России купить нельзя(
увы, но есть vpn
Мне нравиться позиция Ивана, собеседники сложные конечно попались )
не совсем понимаю откуда у языковой модели возьмётся собственная воля. Она же просто генерирует тексты на основе уже полученных текстов. Как sd и mj генерируют картинки из того, что в них уже загрузили.
ну, это всё обсуждение гипотетических сценариев, вы правы.
Крайне неудачная идея обсуждать выравнивание ценностей с ИИ до ответа на вопрос о сознании ИИ.
Текущий ГПТ отличается от обычного компьютера лишь способностью отвечать на произвольные вопросы на уровне специалиста. То есть сознания нет, и вообще неясно, откуда оно у компьютера может взяться, поэтому проблема ИИ надумана и притянута. ИИ в лучшем случае - лишь наличие плана решения.
Но, к примеру, проблемы экономики гораздо разноплановей, чем просто проблема расчёта плана. И основные проблемы начинаются при реализации плана.
Обсуждать же нужно деградацию образования, при которой специалисты могут вообще исчезнуть. Причём здесь же сразу получаем и решение проблемы образования, и решение проблемы использования ИИ: главной задачей ИИ должно быть образование. Иначе люди реально станут придатками компов, и любой его глюк (обычный или "сознательный") будут воспринимать как откровение и свой смысл жизни.