Статистика ВК сообщества "Less Wrong по-русски"

Написал статью с пересказом основных идей книги Джулии Галеф "Мышление разведчика". С моей точки зрения, короче всего эту книгу можно описать так: это книга о том, как успешно менять своё мнение. Наверное, её можно считать более современной и, вероятно, более практичной версией соответствующего тома "Рациональности: от ИИ до Зомби".

Джулия Галеф когда-то была одним из авторов блога LessWrong. Также она была первым президентом CFAR. Сейчас ведёт подкаст "Rationally speaking".

В связи с обострением политической ситуации объявляю, что любые комментарии и ветки комментариев, не удовлетворяющие стандартам LessWrong'а, могут быть удалены без объяснения причин.

Для минимизации шансов на удаление своих комментариев рекомендую почитать статьи про "Корень разногласия" на сайте, почитать про уличную эпистемологию и прочие подобные техники и следовать советам этих техник.

Кроме того, в связи с тем, что законодательство РФ де факто запрещает высказывать свидетельства в пользу некоторых гипотез, некоторые обсуждения могут быть удалены в связи с тем, что с точки зрения текущего правоприменения они могут быть исключительно односторонними. Вероятно, для обсуждения определённых тем стоит пользоваться площадками, находящимися не в юрисдикции РФ.

Что говорят прогнозисты о возможном развитии событий? Данная статья во многом повторяет статьи Скотта Александра и Zvi Mowshowitz, но тем не менее.

На прошлой неделе вышла книга Джулии Галеф "Настрой разведчика" (Julia Galef, "The Scout Mindset").

Джулия Галеф — одна из основательниц и первая президент Центра прикладной рациональности (CFAR). Сейчас она ведёт подкаст Rationally Speaking, где обсуждает рациональность со многими интересными людьми.

В своей книге Галеф задаётся вопросом, почему у одних людей получается мыслить чётко и ясно, а у других нет. Многие считают, что первые просто умнее, однако, кажется, дело не просто в каких-то знаниях, которые можно просто взять и рассказать.

С точки зрения Галеф одной из важных составляющих в умении рассуждать здраво является "настрой разведчика" — желание разобраться, как всё устроено на самом деле, а не просто отстоять свою точку зрения любой ценой. И книга как раз посвящена тому, как воспитать этот настрой в себе.

Людям постоянно приходится принимать решения в самых разных областях. Сейчас люди к тому же строят создают устройства, про которые тоже можно сказать, что им нужно принимать решения. При этом агенту, который принимает решение, к тому же нужно это делать в среде, в которой есть и другие агенты, которые как-то принимают решения.

Это всё приводит к появлению разных сложных задач. Чтобы как-то формализовать и решать эти задачи люди придумывают теории принятия решений. Попытки решить задачу соответствия действий сильного ИИ целям оператора привели к тому, что в MIRI были придуманы новые теории принятия решений.

На академической встрече рационалистов, прошедшей 8 августа, Слава Меритон сделала доклад под названием "Обзор теорий принятия решений". В нём она описывала, что это вообще такое и почему их получилось много разных. Доклад рассчитан на новичков.

Один из читателей предложил свой перевод эссе Скотта Александера, в котором автор рассматривает оправдания с точки зрения теории игр.

На недавно прошедшем фестивале рационалистов Михаил Лобанов прочитал лекцию про теорему Байеса. Выложена видеозапись этой лекции и последующего обсуждения.

Лекция была рассчитана на людей, которые практически совсем не знакомы с предметом.

"Бывают ли у вас ситуации, когда вы понимаете, что трех дней на подготовку к экзаменам вам никогда не хватало, но вы все равно пытаетесь уложиться? Или когда вы сомневаетесь, что пройдете этот онлайн-курс, но считаете, что нужно хотя бы попробовать? Или когда уверены, что ваш пятый подряд абонемент в спортзал будет лежать без дела, как и все предыдущие, но желание похудеть к лету склоняет вас все-таки попытаться?

Иными словами, бывало ли у вас такое, что вы заранее понимаете (получая четкие сигналы от своего внутреннего симулятора), что ваш план почти наверняка полетит к чертям, но за неимением лучшего вы все равно пытаетесь его реализовать (но, ожидаемо, ничего из этого не выходит)?

У меня бывало многократно, но совсем недавно я выделил это для себя как отдельный класс проблем и нашел хороший подход к его решению (ну или если точнее - я сначала подобрал решение к одной проблеме такого рода, а затем смог обобщить его на более широкий класс задач)".

Видеозапись с академической встречи рационалистов, прошедшей 27 июня — первая часть доклада Александра Гуфана про книгу Джулии Галеф "The Scout Mindset". Вторая часть доклада ожидается на следующей академической встрече, ориентировочно 11 июля.

Анонс к докладу:

"Хорошо было бы уметь замечать ситуации, в которых ты видишь вещи не такими, каковы они есть, а такими, какими хочешь видеть. Еще хорошо было бы знать о своих «слепых зонах» — областях, информацию из которых ты систематически игнорируешь. Еще лучше было бы уметь исправлять это все, изменять свое мнение в связи с новыми данными и контролировать степень уверенности в своих высказываниях. А действительно ли хорошо? И если да, то как получить эти умения?

Джулия Галеф назвала мотивацию и способность видеть вещи такими, каковы они в действительности, «мышлением разведчика» и написала о нем книгу «The Scout Mindset. Why some people see things clearly and others don't»".