В процессе чтения цикла статей Юдковского по рациональности. Этот тот самый автор «Гарри Поттера и Методов Рационального Мышления» и AI Doomer. Продвигаюсь со скоростью 5 строчек в месяц: слишком плотный контент в каждой статье, оставляю много заметок. Канеман со своими когнитивными искажениями, конечно, крутой, но нервно прикуривает в углу.
Вынесу пока несколько идей, которые особенно приглянулись. Контента для обсуждения там на десятки часов. В РФ даже сообщества организовались для обсуждения его эссе.
Это вводная мысль про общую ценность изучения рациональности, когнитивных искажений и работы мозга. Даже если вы читаете много книг, смотрите много лекций и другого полезного контента, вероятно, вгоняете себя в еще большее невежество. Просто из-за того, что у вас кривая призма восприятия реальности. "Shit in, shit out". Это как глубоко изучать историю по пропаганде из телевизора.
Но я же умнее! Наверняка смышленнее диванного пропагандиста. Но это не делает ваш метод познания идеальным. Значит, часть информации, просеянной вашим фильтром восприятии, просто не верна. И вы на этом в будущем обожжетесь. Поэтому полезно изучать и улучшать сам метод познания.
Рациональность по Юдковскому — то, что систематически приводит не только к истинным убеждениям, но и выигрышу в жизни. Рациональные решения «должны оплачивать жилплощадь».
Пропустив через себя этот тезис, можно решить множество лишних споров и пустых обсуждений. Его суть в том, что сила теории проверяется не убедительностью, а своей предсказательной силой.
Давайте посмотрим на конфликт двух продактов, Марселя и Луки. Марсель придумал теорию, как пользователи на самом деле используют продукт. Он даже провел исследование, поэтому его доводы звучат очень убедительно. Лука с ним не согласен и дает свои аргументы, почему Марсель не прав. Но любому контраргументу Луки ловко находится объяснение в теории Марселя. И в этом споре они производят килотонны лишнего текста.
Спорить здесь нужно не про правдивость модели, а про ожидаемые результаты. Если теория работает, то какой эксперимент мы можем провести, чтобы точно убедиться? Провести опрос? Запустить тестовый лендинг? Посмотреть логи пользователей? Любая плохая теория, будет ловко маневрировать, чтобы избежать опровержения:
Почему сын не употребляет алкоголь?
- Ну потому что отец не пил — сын вырос с правильными принципами.
А если отец пил, то тогда:
- Ну потому что батя бухал до полусмерти, и сын решил не быть похожим на него.
Теория «дети выстраивают отношения с алкоголем с оглядкой на опыт родителей» — слишком абстрактная и не имеет смысла. В ней одинаковый результат (сын не употребляет алкоголь), но две абсолютно разные причины (отец пил / отец не пил). Теория не делает ставку на конкретное ожидаемое будущее и объясняет его любым удобным способом.
Поэтому при создании объяснительных моделей, важнее не защитить их от всех корнер-кейсов и критики, а четко определить различия в ожидаемом результате. Что я точно не увижу, как следствие своей теории? Какой опыт она предсказывает? Какие различия в ожидании будущего у меня и моих критиков?
Эта идея взрывает мне мозг. Я до сих пор не понимаю до конца, как рационально функционировать с учетом этого. Как будто наш язык не очень хорошо подходит для различения этих вещей.
Допустим, что в компании Х снизилось количество клиентов. Топы этой фирмы собирают совещание, чтобы обсудить возможные причины. И приходят к единому мнению — виноват кризис. Все логично: в стране тяжелое время, ставку подняли, бизнесу сложнее привлекать деньги и он разоряется. Люди в тяжелое время экономят деньги, меньше покупают продукты фирмы. Директор по маркетингу, удовлетворенный таким выводом, улетает снимать накопленный стресс на Випассану.
Вот только более вероятно, что причина не в кризисе, а в чем-то еще. Представьте себе все возможное множество причин, по которым могло упасть число клиентов:
И так далее. Причин могут быть десятки. А теперь представьте, что вероятность оттока клиентов по причине кризиса — 10%. Все остальные причины менее вероятны, но составляют от 1 до 7%. Но почему-то, когда мы находим САМОЕ логичное объяснение проблеме, то его вероятность в нашем восприятии подскакивает да 80-90%. «Ну мы же нашли причину, все понятно, вопрос закрыт». Только вопрос не закрыт. Просто у нас нет другой, более удачной теории на данный момент. А это значит, что у вас по прежнему есть шанс 9 / 10, чтобы удивиться, обнаружив ошибку на сайте, в креативах или рекламных кампаниях.
Другими словами, более вероятно, что причина не в кризисе, а в чем-либо еще (10% против 90% других причин).
Поэтому в любой ситуации, когда велико пространство возможных объяснений (отток клиентов — такой случай), нам нужно больше свидетельств для доказательства. Для того, чтобы узнать причину шума в коробке, в которую мы посадили крысу, много свидетельств не нужно. Достаточно посмотреть в коробку и убедиться, что крыса по прежнему там одна.
Закрою эту простую мысль с крысами сложной цитатой из статьи: «Чем больше пространство возможностей, или чем сильнее априорная невероятность гипотезы по сравнению с её ближайшими соседями, или чем более уверенным хочется быть, тем больше нужно свидетельств».