Відео

Классная лекция, очень доходчивое объяснение! Большое спасибо за запись. Немного не хватило двух моментов: 1) Всё-таки откуда берётся вторая ступень лестницы причинности? А именно каузальные диаграммы. Мы сидим, анализируем мир и выдаём эти стрелочки? В лекции просто говорилось о том, что может и не может быть в рамках такой-то модели (диаграммы), но непонятно, почему мы вообще решили, что модель такая, а не другая. 2) Где это может быть полезно применить в бытовой жизни человека? То есть когда речь идёт не о анализе эпидемии или пробках на дорогах, а решаешь какие-то вопросы своей личной бытовой жизни - помощник ли тут каузальные диаграммы? Мне показалось, что для них нужно иметь большой набор исходных данных (те самые таблицы), и если это так, то собрать их про себя может быть сложно. Если же строить не на данных, то тогда строить "на глаз"? Помоглает ли такое построение "на глаз" чем-то в анализе ситуации?

Здоровское интервью, спасибо большое! Скажите кто-нибудь, о каких техниках рациональности говорится на 3:11?

Вы канал создали друг у друга брать интервью? 🤔

Уооо 🎉🎉🎉 Ето мы поглядим!

Тяжеловато слушать звук. Хрипит при сильной громкости. Микрофон наверное решит это проблему. Или может запись диктофон на смартфон

Да утопия эта ваша рациональность. Наше поведение всё равно продиктовано процессами, которые мы не контролируем. Вам кажется что вы изучили что-то и изменились, но на самом деле генеральная линия партии была давно предопределена. Остаётся просто жить, жить как можешь.

так, интервью брать без микрофонов "Союз" ? это что вообще за неуважение к зрителям? шучу конечно, но все равно микрофоны нормальные надо для этого. Очень плохо слышно, на 0:30 что она прочитала? и это, Ян, про микрофоны я не шучу! тема норм, но слышно должно быть хорошо. и ДОЛЖНО тут не когнитивное искажение ;)

Я смотрю

Думаю рационально было посмотреть это видео. И написать комментарий для буста этого ролика.

25:21 • В 2012 году не воспроизвелась (в разгар кризиса воспроизводимости) часть экспериментов, которые ранее приводились в качестве доказательства прайминга • В это же время Ульрих Шимак проанализировал исследования из главы посвященной праймингу и контаминации книги «Думай медленно, решай быстро» и пришел к выводу о том, что были использованы работы с крайне малой выборкой и рядом претензий к обработке данных. Даниель Канеман сразу же признал, что Шиммак прав. • в 2022 году Даниель Канеман, описал исследования поведенческого прайминга как «фактически мёртвые». Вот цитата Шиммака: «В главе процитированы 12 научных работ, и 11 из 12 статей имеют R-индекс меньше 50. <...> Читателям его [Канемана] книги не стоит рассматривать представленные исследования как научное обоснование того, что едва уловимые сигналы окружающей среды могут оказывать сильное и неосознаваемое влияние на поведение». Вот ответ Канемана: «Авторы блога совершенно правы в том, что я слишком полагался на исследования с низкой статистической мощностью. Авторы блога, как и Эндрю Гельман (Andrew Gelman) до них, отмечают, что в этом есть определённая доля иронии, ведь первая опубликованная нами с Амосом Тверским статья была посвящена вере в «закон малых чисел», благодаря которому исследователи склонны доверять результатам исследований с неоправданно маленькими выборками. Мы также цитировали работу Овералла (John E. Overall) (1969), который показал, что «широкое распространение исследований с недостаточной статистической мощностью не только неэффективно, но и вредно: оно приводит к тому, что значительная часть опубликованных работ отвергает нулевую гипотезу без достаточных на то оснований». Наша статья была написана в 1969 и опубликована в 1971, но я не смог усвоить её урок».

Как раз думала, что было бы очень круто посмотреть интервью с Олегом, и вот оно) Спасибо большое! В ожидании следующей части)

Я испытываю глубочайшую симпатию к вам обоим, ставлю лайк не глядя, и первые пару минут переварию удовольствие от вас ❤, теперь бы хорошо начать слышать смысл беседы

рекомендую к просмотру

Спасибо, интересно было. А когда вторая часть?

00:00 Начало 00:23 Что ты хочешь, чтобы о тебе знали? 03:08 Что тебя привело в изучение рациональности 04:15 Не разочаровался ли ты в рациональности? 05:39 Что привлекает и отталкивает в рациональности? 07:31 Почему ты не альтруист? 11:00 Какие у тебя ценности? 11:59 Насколько рациональность помогает в достижении целей? 14:31 Лучшие изменения в себе после рациональности 16:57 Какие убеждения ты пересмотрел после рацио? 20:06 Насколько часто ты перепроверяешь убеждения? 23:03 С какими своими когнитивными искажениями ты воевал? (прайминг, контаминация) 26:33 Попытка запраймить Олега

Стало интересно, насколько часто камню свойственно быть гладким. Обычно это случается с галькой. Как с остальными - не знаю.

А продолжение будет?

Спасибо огромное, очень интересно

Рассмотреть доску с видео: t.me/miniclippy/2215

Ты перепутал описательные и нормативные суждения. Когда говорят "должен" почти всегда имеют в виду нормативные (моральные) суждения. Что значат моральные суждения изучает метаэтика. Убеждение что "арбуз расколется от падения" и "владельцы арбузов ДОЛЖНЫ его оберегать" это разные высказывания. Эмоциональные высказывания тоже немного иначе работают.

я написал заявление на имя директора вселенной что отказываюсь от ошибки проецирования ума!! 😁

с микрофоном мне понравился пример. спасибо 🚀

поставил видео на паузу чтобы обдумать ✅

Большое спасибо!

Что с ушами? Ты слоник?

"Причина - это то, что мне нужно уничтожить, чтобы это событие никогда не произошло" В корне неверное определение. Импликация работает только в одном направлении. Отдельное событие может служить причиной только одного следствия, однако отдельное событие может быть следствием разных причин. Следовательно устранение одной причины не гарантирует, что событие не случится, оно может случится по иным причинам.

Мама, а что такое "ЧТО ТАКОЕ"?

Автор замечает сложность с расшифровкой слова "обуславливающее". Минутой позже из цитаты друга-рационалиста его нисколько не смущает слово "нарратив". На этом и закончим, не впечатлило

02:00 здесь я ошибся. «Вероятность шторма» - не настоящая переменная, вероятности существуют в голове, а не в реальности. В реальности есть переменные, которые влияют на «происходит ли шторм» и на «что показывает барометр». Значения случайной переменной "шторм" - это просто {"шторм есть", "шторма нет"} или "интенсивность шторма". Показание барометра может быть 780 мм рт.ст., или "в. сушь", но не "20% вероятности 800+". То же и со значением шторма: это может быть "спокойно" или "дерево не справилось с погодой и врезалось в трамвай", но не "30% вероятности града".

По понедельникам мы читаем эту книгу Пирла по пол главы в неделю и обсуждаем в этой телеграм группе: t.me/readthesequences

Как насчёт сотрудничества радфем и рациосообшеств?

Конечно, в любом малом сообществе можно использовать термины в каком то узком, или вообще местном смысле, но если уж ролик делается общедоступным, хорошо бы пояснить, что докладчик понимает под AGI, поскольку этот термин вынесен в заголовок, и привлекает внимание. Поясню - если я делаю AGI под прохождение "кофейного теста", то как, и главное - зачем применять к нему аксиоматику докладчика?

С 5 минуты про Red Teaming: 1) Некорректно определен редтим Описывается видимо detection-based defenses. Это один из методов внутри редтима, это далеко от определения области. Определение области в широком смысле - моделирование возможностей злоумышленника, включая и Security (e.g. джейлбрейки), и Safety (ограничения) 2) "Редтим бесполезен" Во-первых редтим неплохо моделирует возможности среднего пользователя/злоумышленника. Например мы можем видеть разницу в safety между разными моделями. Мы можем видеть возможности текущих моделей в разных вредоносных задачах типа создания биоружия, манипуляций и дезинформации, хакинге, etc. Это небесполезно потому что формализует текущее состояние угроз и частично позволяет понять ближайшие будущие (условно до супералаймента), и двигает (улучшает) текущий алаймент моделей в целом. Если редтим бесполезен, то AI Evals бесполезен, а это далеко от правды по многим причинам. ( об этом можно почитать статью Антропика про значение Редтима в Safety - www.anthropic.com/news/frontier-threats-red-teaming-for-ai-safety ) Во-вторых редтим и про Security, например состязательные атаки. Говорить что защищенность ИИ бесполезна также довольно далеко от правды (см. www.frontiermodelforum.org/uploads/2023/10/FMF-AI-Red-Teaming.pdf например) 3) "... когда нейронка ищет плохие аутпуты это не масштабируется" Вся идея Weak-to-strong generalization как раз в том, что это масштабируется. openai.com/index/weak-to-strong-generalization/ тлдр: модель генерализует общие идеи того, что такое плохие аутпуты, начиная находить их лучше самого учителя. Просмотрел где-то до 6-7 минуты (примерно дослушал часть про редтим). Не вкладывал много эффорта (потому что это комментарий под видео на ютубе с тремя просмотрами), но если что смогу описать что-то получше/подробнее

Фига се какой нишевой видос мне ЮТ подкинул. Напишу для продвижения пару строк. Удачи в нахождении адекватных людей. А я после 24.02.24 вообще с людьми в контакты близкие вступать не хочу, потому что в случае чего, снова разовачоваться в людях и осознать, что вокруг 'орки' - не хочется.

очередная секта?

Спасибо за супер полезное видео для установления связей между между разными людьми, которые смогут выбрать себе группу по интересам!

Очень круто сделал. Нравится как ты интонируешь.

Читать главу: (рус) - 1 страница docs.google.com/document/d/1PRooi-4qsFgcMbf0oa7wFnD1G7BS2OcU/edit?usp=sharing&ouid=105953185547296222644&rtpof=true&sd=true Читать главу: (англ) - 1 страница www.greaterwrong.com/posts/8FsLyk6oDrhoqWEjB/pendulums-policy-level-decisionmaking-saving-state

Читать главу: (рус) docs.google.com/document/d/1S38-FhT0zlJQ8bUfb2A2eI_E0wwVEg9X/edit?usp=sharing&ouid=105953185547296222644&rtpof=true&sd=true Читать главу: (англ) www.greaterwrong.com/posts/ZCXjmeHNHYiM2uCw4/flash-classes-area-under-the-curve-eat-dirt-broccoli-errors

Читать главу: docs.google.com/document/d/1NCJi4U92M_5YGjofpJ3U0Z2E0U1EReOh/edit?usp=sharing&ouid=105953185547296222644&rtpof=true&sd=true

Читать главу (3 абзаца): docs.google.com/document/d/1vxY9mW4_qAm8-piKQWaH1tOD3JuuVBRy/edit?usp=sharing&ouid=105953185547296222644&rtpof=true&sd=true

Очень интересно! Спасибо

Прочитать главу на русском (docs.google.com/document/d/140ZXy-ffn4qjJjfNHSq12NmmLdgQpZxy/edit)

Интересно!

Типичный контент, на который способны выпускники современной научной академии Говорит все за себя

но алаймент это не слово что оно должно значить? союзничество людей в диско элизиум? можно было бы подумать что мол опечатка но опечатка один раз делается а не систематически если имелось ввиду alignment то тут четко слышная н посреди слова, соответственно писаться она тоже будет не тот фидбек который мы хотели, но тот который заслужили

Сначала не понял, а потом тоже не понял 😜

Спасибо за доклад!

дневник Сковороды t.me/super_skovoroda