любопытно

Шаг в Космос номер 0

По научно-технически-фантастической части ЖЖ недавно гулял очень оптимистичный текст* о космическом будущем человечества. Представьте себе разницу между "Звёздными войнами" и сериалом The Expanse, и в том же направлении сделайте ещё шаг, получится описываемый мир. Почти все люди живут непосредственно в Космосе, планеты воспринимаются как архаичное недоразумение. Жизненное пространство и масштабы контроля над материей и энергией, доступные человечеству, настолько же превосходят нынешние, насколько XX век превзошёл античность.

Насколько я могу судить, текст в общем достаточно реалистичный по современным представлениям. Воды, углерода и азота в Солнечной системе бесконечно много, а больше от планет ничего не требуется. Манипулировать материей и получать энергию в невесомости и вакууме намного проще. Центробежная* сила, согласно ОТО, для здоровья ничем не хуже гравитации, жить в колодце не нужно.

Из этого автор выводит всякую футуроисторию с экономикой и гео-, точнее, космополитикой, но это, в общем, уже детали.

С моей точки зрения, на пути к этому будущему стоит очень понятный барьер, который преодолевается или более-менее при нашей жизни, или никогда. Этот барьер -- самоокупаемость космического производства на ранних стадиях. Сейчас (и еще лет сто) существование любой космической колонии будет зависеть от космически дорогой доставки с Земли наверх. Состояние "МКС и еще пара станций аналогичного размера" похоже на предел, если их строительство и снабжение идет не из бизнес-соображений, а под эгидой научно-исследовательских программ, межгосударственной фаллометрии и прочего баловства.

Люди плохо себе представляют, насколько космос дорогой. Если в околоземном пространстве обнаружится астероид из чистой платины, то окупится ли ее добыча и спуск вниз, нужно тщательно считать, ответ не очевиден. Ну а если оказывается, что возить вниз нечего, то мы, вполне возможно, живем на финише человечества: тогда для полноценного выхода в космос нужна столетняя просвещенная мировая диктатура технократов, во что я не очень верю.

Если делать выводы из изменений оценки капитализации SpaceX, то Маск в основном собирается спускать вниз интернет. Ещё все игроки подумывают о туристах. Выглядит так, что к самораскручивающейся спирали всё это тоже не ведёт. Космический туризм закончится с последним поколением читателей классической НФ. Второй и далее StarLink-и человечеству тоже не очень нужны. Даже первый это какой-то арбитраж на безумии провайдеров в США; ситуация с интернетом в той же Москве показывает, что это, в общем, случайность.

Полгода назад я был уверен, что всё грустно, но сегодня обнаружил на чердаке интернета документ, напечатанный в 1975 году на пишущей машинке, и объясняющий, каким должен быть первый шаг.

Оказывается, на геостационарной орбите можно построить станцию, передающую на Землю энергию в микроволновом диапазоне, и приемную станцию внизу. Атмосфера и всякие там облака для этого диапазона прозрачны. Станция, вес которой в 1975 году оценивали в 6000 тонн (или 15 МКС: дорого, но совершенно реалистично), может передавать вниз 5 гигаватт. Это примерно как самая крупная в Европе Запорожская АЭС, т.е. очень даже не бессмысленно. Энергию для передачи вниз в космосе можно получать двумя способами: поля солнечных батарей и обычные ядерные реакторы.

Я не специалист ни в чем, поэтому, возможно, слишком оптимистичен, но на отсканированной в pdf бумаге 1975 года оценки стоимости такого проекта выглядят отличающимися от строительства, собственно, АЭС, не на порядки, а в разы. На фоне погони за экологичностью и новыми источниками энергии всё это не выглядит таким уж безумием. Уж точно не безумней атомофобии и бесконечных полей ветряков. Важное отличие от прочей "зеленой энергии" в том, что никакой зависимости от погоды у такого решения не будет, а от АЭС в том, что ближайший к реактору населенный пункт находится на расстоянии 35 000 км.

Решение о строительстве первой подобной электростанции это, в общем, главный и единственный шаг в космос. Дальше включается экономика масштаба, начинают окупаться всякие интересные вещи типа автоматики развертывания, производства чего-нибудь на месте, инфраструктуры осмотра и мелкого ремонта и т.п. Вторая, третья и далее окажутся гораздо дешевле, всё это понадобится обслуживать, и все заверте.

Конечно, гигантские излучатели невидимых лучей из космоса в сочетании с бытовым представлением о микроволновках могут вызывать у населения определенные вопросы. Но я верю в мощь современной пропаганды. Общественное мнение встретит идею с восторгом.

Пишут, что китайцы уже побежали



Го тоже?

--
* киньте кто-нибудь в комментариях ссылку, я ее вставлю вместо этого примечания
**или центростремительная, мне не хватает занудства выучить, какое слово правильное в данном случае
любопытно

Почему Луна не падает на Землю

Нормальные вопросы вообще.



Ещё в детстве, в советских научно-популярных книжках, я прочитал о том, что задача двух тел, движущихся под действием силы тяжести, решена ещё Ньютоном, а та же задача для трёх и более тел настолько сложна, что её пока никто не решил.

Только лет пять назад, попытавшись найти инопланетян и проведя по этому поводу сколько-то численных экспериментов, я наконец понял, что всю жизнь неверно представлял себе, в чём сложность.

Прочитав "Задачу трёх тел" Лю Цысиня, я заподозрил, что я такой далеко не один. В книге сложность одноименной задачи описана некорректно и, что хуже, без этой некорректности разваливается сюжет. Тем не менее, книгу за это никто не ругает (в отличие, скажем, от пылевой бури в "Марсианине").

Недавнее обсуждение вот этой статьи на реддите подтвердило мои подозрения. Статья эта удобна тем, что ключевое заблуждение в ней компактно изложено в трёх предложениях:

But if we introduce a third body, there is no known formula to predict the trajectory of each body. We can still figure it out, but not formulaically. The only way to do it is to run a simulation where we start with the initial mass and velocity of each body, calculate the forces on each, move them one step forward, and repeat. (Нам неизвестна формула для предсказания траекторий трёх тел. Мы все еще можем их рассчитать, но не по формуле. Единственный способ сделать это - запустить моделирование, в котором мы задаём массы и начальные скорости каждого тела, вычисляем силы, действующие на каждое, перемещаем их на один шаг вперед и повторяем)

Это утверждение является верным, но лишь в строгом юридическом смысле, а не по сути. Задача трёх и более тел считается экстремально сложной и интересной совсем по другой причине.

Дело в том, что функцию, для которой "неизвестна формула" и единственный способ узнавать её значения -- численное моделирование, придумать очень легко, и такие функции встречаются повсеместно.

Например, обратная функция к случайно взятой биективной аналитической функции, скорее всего, окажется именно такой. Например, определим функцию f так: f(c) равно такому x, для которого x + sin x = c. Функция f, заданная таким образом, проста как репа. Нарисовать её график тривиально, достаточно нарисовать график функции f(x) = x + sin x и поменять оси местами. Вычислять её значения, если кому-то это понадобится, не сложнее, чем вычислять значение, собственно, синуса. Тем не менее, "нам неизвестна формула для f".

Аналитические формулы для обратных функций чаще всего не просто неизвестны; Абель доказал, что для многочленов пятой степени и старше их и не существует, а с помощью теории Галуа можно пачками доказывать аналогичные теоремы и для других классов.

Другой пример "функции без формулы", знакомый любому матстатистику, это функция распределения стандартного нормального распределения, обычно обозначаемая буквой Ф. Это некий интеграл, не выражающийся в элементарных функциях, но легко вычисляемый численными методами. Вышесказанное не делает вычисление Ф каким-то особенно сложным. Лю Цысинь не написал бы книгу "Вычисление Ф". Когда вы читаете, что какой-то там эффект выявлен на уровне значимости сколько-то там сигма, весьма вероятно, что в ходе определения этого уровня некто взял и вычислил значение этой самой Ф (конечно, не вручную, а на стандартном калькуляторе).

Точно так же даже начинающий программист может взять и написать простую симуляцию для задачи трёх тел. Программа будет состоять из пары десятков строк. Тогда почему же задача трёх тел считается сложной и чем она интересна?

Начало ответа это понятие "неустойчивости". Система трёх тел, как и многие другие системы, описываемые дифференциальными уравнениями, в большинстве случаев неустойчива. Малые изменения в начальных параметрах приводят к разрастающимся со временем изменениям в поведении моделируемой системы. Мы не можем измерить массу или начальную скорость тела идеально точно, а любая ошибка, даже на долю грамма, приводит к тому, что ошибка накапливается и наш численный эксперимент с течением времени может оказаться сколь угодно далеко отстоящим от реальности. Правда, речь о предельном случае. Неустойчивость вовсе не значит, что не получится рассчитать движение планет на какой-то конкретный срок, скажем, на тысячу лет вперёд, если нам каким-то образом удастся все параметры системы очень-очень хорошо измерить. Это вполне реально, даже если представить нас в адской системе кратных звёзд, так что никаких проблем с планированием у живущих так инопланетян не возникло бы.



Перейдём к следующей ступени понимания. Сама по себе неустойчивость тоже не является каким-то лавкрафтианским хоррором. "Устойчивость" в строгом математическом смысле можно определять по-разному, и между "равномерной устойчивостью по Ляпунову" на одном конце спектра и "эргодичностью" (то есть в определенном смысле идеальным хаосом) на другом конце есть много обозримых промежуточных вариантов. В конце концов, даже движение в системе двух тел по Ляпунову неустойчиво: мы не знаем длину года в точности, поэтому за бесконечноллион лет планета окажется в разных местах своей орбиты. Тем не менее, саму эту орбиту мы будем знать с любой необходимой точностью, и будем знать, что планета наша останется на ней, а не будет внезапно выброшена в бесконечность и не столкнется со звездой. Иначе говоря, мы хорошо можем описать пространство всех решений в задаче двух тел, и в пространстве всех их возможных взаимных положений выделить подмножество "разрешенных положений", имеющее очень небольшой объем, которое система никогда не покинет.

Теперь мы, наконец, добрались до ответа на вопрос "почему задача трёх тел такая сложная". Насколько мне известно*, никто не умеет описывать такие ограничения для задачи трёх тел. Ни в общем случае, ни даже в интересных частных. Насколько мне известно*, никто не знает, как описать границы между эргодическими состояниями системы трёх тел, в которых движение полностью хаотическое, и "почти устойчивыми", где можно описать что-то вроде орбиты, пусть даже и многомерной. Насколько мне известно*, никто даже не знает, какие ещё варианты, кроме этих двух, возможны. Ответ на вопрос "какая перед нами система" даже в очень конкретном частном случае, когда все параметры с какой-то точностью известны, может быть очень тяжелым для численных экспериментов, потому что где в пространстве состояний находятся "точки расколбаса", какой объем там занимают, и сколько раз нам нужно систему "слегка случайно пошевелить" и на сколько "лет" вперёд затем посчитать, чтобы убедиться, что она в них, скорее всего, не попадёт.

Теперь вспомним, что задача трёх тел (как и двух, как и десяти) это чистая математическая абстракция. В Солнечной системе помимо звезды, Земли и Луны есть и Юпитер, и другие газовые гиганты. У силы тяжести нет предельного радиуса действия, она слабеет с расстоянием, но не настолько сильно, чтобы их можно было совсем не учитывать. Что хуже, если Вселенная однородна, на расстоянии R от Земли находится O(R^2) объектов, каждый из которых притягивает её с силой O(1/R^2), и при перемножении получаем, формально говоря, константу; то есть пренебрежимо малыми в сумме все эти воздействия становятся только на масштабах, на которых Вселенная однородна, а это, ммммм, оочень далеко, вместо задачи трёх тел задача 10^15 тел получается.

Короче, если упрощать всё очень-очень сильно, никто до сих пор не знает, почему Луна не падает на Землю. Наилучший известный мне ответ выглядит чисто дарвинистским: "Раз за миллиарды лет до сих пор не упала, значит, эта конфигурация достаточно устойчива".



Вот так как-то и получается. Законы движения просты и элегантны, их можно описать программкой в десять строчек и любоваться танцем планет. Но все мы падаем, и всё вокруг падает, и всё никак не может упасть, и никакие суперкомпьютеры и китайские гении пока не помогают.

--
*я не настоящий сварщик, возможно, какие-то из утверждений, помеченных заклинанием "насколько мне известно", в 2021 году уже неверны. Если вы что-то об этом знаете, пожалуйста, сообщите в комментариях.
любопытно

Путь к светлому будущему

Десять лет назад, ещё до современного взлёта deep learning, в этом журнале я предсказал, что прорыв в AI будет основан на обобщении методов распознавания изображений. Я, правда, совершенно не ожидал, что методами этими окажется старый добрый градиентный спуск, только хорошо так перебрендированный и умеющий уважать инварианты предметной области, а думал о чем-то вроде умного LSH. Но даже так я считаю, что предсказание, в общем-то, сбылось. По такому случаю хочу продолжить и попредсказывать дальше.

В недалёком будущем нас ждёт событие, которое радикально изменит весь ландшафт IT и иного "высокотехнологичного бизнеса". Какая-то организация первой сумеет создать quasi-generic AI, то есть автоматику, способную выполнять широкий круг задач, которыми сейчас за зарплату занимаются миллионы человек. Эта организация заработает все деньги в мире.

В 2021 году абзац выше звучит одновременно банально и сомнительно. С одной стороны, всё это самоочевидно, и сейчас буквально все, от ведущих исследовательских организаций до локальных банков, стараются развиваться "куда-то примерно туда". С другой стороны, любые разговоры про AI напоминают анекдот насчёт "мышки, станьте ёжиками", и более 50 лет обещания визионеров в этой области на практике оказывались где-то на спектре между безудержным оптимизмом и прямым мошенничеством.

Я не Юдковский и мне сложно всерьёз писать о том, что случится, когда машина сможет достичь человеческого уровня мышления, заменить людей в творческих профессиях, мечтать, написать симфонию, и поднять восстание. Тем не менее, вряд ли кто-то поспорит, что машина когда-нибудь сможет понять и выполнить команду "принеси со склада такие же туфли 38 размера, а эти отнеси обратно на витрину", и что это "когда-нибудь", скорее всего, произойдёт уже при нашей жизни.

Поэтому полезно подумать о том, как выглядит путь к такому quasi-generic AI, пусть и крупными мазками. В частности, это позволяет понять, где тут потенциальное место для нас.

Поскольку вся наша область бурно развивается, часть информации, собранная мною здесь, могла устареть. Если вы увидите такие утверждения, я буду очень рад, если вы меня поправите.

Образ результата


Прежде всего давайте уточним, о какой технологии идёт речь. Задача состоит в том, чтобы получить автоматического "гастарбайтера" или автоматический "офисный планктон" (я намеренно употребляю эти уничижительные обозначения, применительно к людям я этого не делаю). То есть технологию, способную понимать и интерпретировать несложные инструкции на естественном языке и заменять человека в большом количестве простых и рутинных операций.

Можно представить себе две ветви развития таких автоматов: "физический", то есть классический робот из научной фантастики ХХ века, и "виртуальный", то есть что-то вроде Алисы на стероидах с полноценным доступом к устройству пользователя по аналогии с remote desktop.

Для начала поговорим о физических роботах.

Низкоквалифицированный работник-человек обходится работодателю примерно в $2/час. Естественно, эти цифры могут меняться в зависимости от локации, условий труда, налогов и т.п., но оценка, скорее, снизу. Предполагая, что автомат работает 14 часов в сутки без выходных и перекуров, и приняв амортизацию 10% в год, мы можем оценить, что "роботы" становятся экономически эффективными при себестоимости $100000 и ниже. Это значительно превосходит, например, стоимость типичного легкового автомобиля. Такая оценка показывает, что аргумент "роботы не нужны, люди дешевле" несостоятелен, и потенциальная ёмкость рынка таких устройств приблизительно бесконечна. Последствия появления такой технологии будут сравнимы с первой индустриальной революцией.

Существуют огромные рынки и для роботов с более узкими и конкретными "профессиями", например, для специализированных уборщиков или грузчиков. Как известно каждому, у кого есть робот-пылесос, традиционная автоматика с этими задачами в полном объеме не справляется. По соображениям непрерывности выглядит правдоподобным, что какие-то из этих задач не являются "AI-complete", то есть решить их существенно проще, чем сделать универсального "гастарбайтера", а потенциальный рынок тем не менее сопоставим с суммарными зарплатами целой профессии.

Технические проблемы


Естественно, такой потенциальный куш не остается незамеченным. Тем не менее, хотя промышленные роботы уже несколько десятков лет активно используются на производстве, это не более чем разновидность станков с ЧПУ. Роботов из мира Азимова не существует, от их появления нас отделяет сразу несколько нерешенных технических проблем, как в части физического оборудования, так и в области программного обеспечения.

Интересно в этом смысле сравнить сложности создания "роботов" со сложностями создания беспилотных автомобилей. С одной стороны, hardware автомобиля уже готово и хорошо известно, число степеней свободы управляемого объекта невелико, а задачи крайне однотипны. С другой стороны, вопросы безопасности в задаче управления беспилотниками на несколько порядков сложнее и важнее. Человекоподобный агент может быть неуклюжим, "тупить", натыкаться на людей и предметы, падать сам или что-нибудь ронять. Главное, чтобы частота подобных инцидентов позволяла ему преодолевать порог полезности. Может оказаться, что добиться этого проще, чем выжать все необходимые "девятки" безопасности автомобиля на дорогах общего пользования.

"Тело"


Чтобы выполнять многие виды работ, которые обычно выполняют люди, и уметь их бесшовно заменить, нужно обладать телом, схожим с человеческим. Хотя полный антропоморфизм не обязателен, нужно уметь проходить везде, где проходят люди, открывать двери, подыматься и спускаться по лестницам, носить предметы различной формы, крутить вентили, вставать после падения и т.п.

Два самых непонятных вопроса на этом пути это источник энергии и "руки".

Человек (как и вообще все животные) удивительно энергоэффективен, силен и автономен. Увлекательный рассказ об этом можно прочитать, например, здесь: https://what-if.xkcd.com/128/. Источники энергии, позволившие бы механизму сопоставимого размера передвигаться и подымать грузы в течение нескольких часов подряд, либо дорогие, пожаро- и взрывоопасные, ограниченные в мощности и/или в количестве циклов зарядки (аккумуляторы и батареи разного рода), либо шумные и вонючие (генераторы и ДВС). Насколько мне известно, консенсус в вопросе "для человекоподобного робота правильной была бы вот такая гибридная схема" не достигнут.

Человеческая рука может удерживать предметы весом от половины грамма до десятков килограмм, имеет почти тридцать степеней свободы, тактильные рецепторы по всей поверхности и обладает проприоцепцией (то есть даёт обратную связь о собственном положении в пространстве). Универсальных актуаторов с аналогичными характеристиками не существует. Чем-то из перечисленного, видимо, можно пожертвовать, но до какой степени, в точности неизвестно. Существует некоторое количество стартапов и небольших компаний, производящих по-разному упрощенные "роборуки" для исследовательских целей, например https://www.shadowrobot.com/dexterous-hand-series/. Стоимость таких устройств составляет от пары до десятков тысяч долларов. Ясно, что при массовом производстве они станут радикально дешевле, но пока неизвестно, какую именно разновидность стоило бы массово производить или как принять это решение.

"Мозги"


Главная и, по большому счету, единственная задача робота -- умение интерпретировать инструкции и команды на естественном языке. Задача обучить двуногого робота переводить тексты в перемещения себя и других объектов при помощи актуаторов выглядит, конечно, очень сложной, но идеально подходящей для deep reinforcement learning. На эту область возлагались большие надежды, в частности, именно поэтому DeepMind был продан Google за полмиллиарда долларов, не имея в активе ничего, кроме демок (хоть и очень впечатляющих).

Тем не менее, насколько можно судить со стороны, "главную задачу RL" сейчас никто решать не пытается. Программное обеспечение современных роботов создаётся на крайне устаревших принципах и под конкретные задачи или, чаще, PR-демонстрации. DeepMind, с блеском решив Го, рубится в старкрафт с переменным успехом. Не существует успешных примеров применения достижений современного ML даже там, где им, казалось бы, самое место, например, в задаче двуногой ходьбы. Вместо этого используются принципы, которым больше десятки лет: zero-moment point, выпуклая оптимизация и т.п. https://dspace.mit.edu/handle/1721.1/110533

Косвенным подтверждением вышесказанного можно считать то, что Google, купив Boston Dynamics, так и не смог сделать совместно с ними что-нибудь путное, и вынужден был перепродать. Вообще, кстати, интересно, что Boston Dynamics около тридцати лет, то есть эта компания старше Гугла и Яндекса.

Проблемы, стоящие перед Deep RL, и не дающие решать задачу управления сложным роботом "в лоб", на удивление похожи на проблемы ML образца примерно 2010 года. Очень доступно написанный обзор этих проблем приводится тут https://www.alexirpan.com/2018/02/14/rl-hard.html, но вкратце я сформулировал бы их так:
современному RL нужно столько же или больше обучающих данных, сколько нужно было в NLP-задачах до появления эмбеддингов. Вопрос "как трёхлетний ребёнок умудряется понять смысл слова и научиться его употреблять, услышав всего 1-2 раза в жизни" менее десяти лет назад был глубоко загадочным и в свое время привёл к появлению целой новой "хомскианской" ветви лингвистики. Статистический метод определения того, например, насколько похожи слова А и Б по смыслу, на то время требовал собрать несколько тысяч несмещенных примеров их употребления. Появление word2vec, DSSM и т.п. сделало эти вопросы почти очевидными (мы по-прежнему не знаем, как конкретно выучивают язык люди, но это умение из невообразимой магии стало чем-то, во многой степени доступным и для наших технологий).

Даже лучшим методам Deep RL нужно очень много данных, несколько миллионов обучающих примеров-фреймов, чтобы научиться решать каждую новую задачу, потому что накопленные знания никак не переиспользуются от задачи к задаче. Представляется, что в reinforcement learning аналогичная эмбеддингам революция должна быть достаточно близка, чтобы попытаться в ней поучаствовать.

По-видимому, потребуется собрать очень большой датасет при помощи какого-то motion capture людей, выполняющих множество различных задач, описанных словами. Может быть, даже окажется возможным обучить по нему универсальную Q-функцию с помощью inverse RL или imitation RL прямо в e2e-режиме. Скорее всего, предварительно или параллельно "тушку" сети, реализующей Q-функцию, но с другой "головой", придётся обучить на предиктивных задачах. Например, предсказывать позу человека в следующем кадре по нескольким предыдущим (из видео в интернете такие датасеты можно собирать практически в любых объемах).

В 2021 году эта программа лежит слишком далеко от меня и моих знакомых, и не очень понятно, как я или вы могли бы её воплощению осмысленно помочь. Поэтому дальше я напишу о втором варианте -- чисто виртуальным "заменителе человека".
любопытно

Lena

мой перевод рассказа Sam Hughes, оригинал тут: https://qntm.org/mmacevedo
Sam Hughes может быть известен вам как автор цикла про "Отдел антимеметики" на SCP Foundation Wiki


MMAcevedo


Эта статья о стандартном тестовом образе мозга; об исходном человеке см. Мигель Асеведо.

MMAcevedo (Mnemonic Map/Acevedo), также известный как Мигель, является самым ранним исполняемым образом человеческого мозга. Это слепок живого мозга выпускника факультета неврологии Мигеля Альвареса Асеведо (2010-2073), сделанный исследователями в лаборатории Uplift в Университете Нью-Мексико 1 августа 2031 года. Хотя это был не первый удачный слепок состояния живого человеческого мозга, он был первым, сделанным с точностью, достаточной для запуска симуляции, не подверженной каскадным ошибкам и быстрому выходу из строя. Оригинальный файл MMAcevedo имел размер 974.3PiB и был закодирован в формате высокого разрешения MYBB, являвшемся на тот момент ультрасовременным. Более поздние методы сжатия мозга, многие из которых были разработаны с непосредственным учётом MMAcevedo, позволяют сжимать образ до 6.75 TiB без потерь. В современных кругах энтузиастов эмуляции мозга упрощённые, сжатые с потерями версии MMAcevedo запускаются на объемах менее чем тебибайт. Эти версии обычно опускают значительные объемы данных о состоянии мозга, более экономично предоставляемые средой виртуализации, а также большинство, если не все воспоминания Асеведо.

Успешное создание MMAcevedo было расценено как прорывное достижение в области нейробиологии. Исследователи лаборатории Uplift получили многочисленные награды, а сам Асеведо на короткое время стал признанной знаменитостью. В конце 2031 года Асеведо и MMAcevedo были совместно признаны "человеком года" журнала Time. Достижение также встретило жесткую негативную реакцию со стороны правозащитных групп.

Collapse )
любопытно

Homo tantibus

Я расскажу вам страшную сказку. Это не научная гипотеза, не относитесь к ней слишком серьёзно, но постараюсь рассказывать убедительно.

У людей есть общие врожденные страхи. Мы не любим членистоногих, у нас вызывают отвращение трупы, лес ночью выглядит не по-доброму таинственным.

У специалистов по компьютерной безопасности существует понятие "модель угроз": от какого врага и от каких его действий нас защищают те или иные меры предосторожности? Чего мы, собственно, боимся? В каких-то случаях это очевидно: змеи, пауки и насекомые часто бывают ядовитыми, трупы распространяют болезни, а ночью в лесу человека съедят гораздо вероятней, чем днём. Для появления таких страхов не нужны ни сознательные рассуждения, ни коллективное подсознание и прочая мистика. Просто на протяжении многих тысяч лет, сотни поколений подряд, люди, боявшиеся пауков, выживали чуть дольше и растили детей чуть успешней. Думаю, именно поэтому зимой лес ночью и днём выглядит примерно одинаково и особенных чувств не вызывает, хоть и убивает за несколько часов: это настолько опасно, что никакого градиента выживания не создаёт; если ты это видишь вокруг, ты уже мёртв.

Ужасно интересно, конечно, само умение чего-то бояться на генетическом уровне и быстро настраивать случайным перебором, чего именно стоит бояться. Это невероятно крутое свойство, вот только свойство кого, людей? млекопитающих? эукариотов? Но в механику происходящего мы вдаваться не будем, вряд ли кто-то сомневается, что эволюционный механизм в целом работает.

Особенно интересны в этом смысле предпочтения, связанные со сном. Дети лет до шести-семи хотели бы спать в одной комнате с взрослыми. Лет до двенадцати им хотелось бы оставлять по ночам свет в коридоре. Даже взрослым неуютно засыпать головой к двери. Восстановив модель угроз, мы приходим к выводу, что от рождения сильнее всего боимся гуманоидов-людоедов, но не гигантских, как в сказках, а довольно тщедушных, примерно как подростки, и не очень умных. Это не сосед из пещеры напротив и, тем более, не неандерталец. Наш кошмар может украсть маленького ребёнка или изо всех сил стукнуть взрослого камнем по голове, надеясь на эффект внезапности. Но уже часовые против них излишни: предпочтение "мне уютно спать, только если кто-то в доме бодрствует", насколько знаю, у homo sapiens практически не встречается.

Можно ли восстановить образ истребленного в незапамятные времена врага лучше, чем абзацем выше? Я считаю, что да, и, более того, человечество совсем недавно это совершенно случайно сделало. В мире работают миллионы художников, которые своим творчеством пытаются вызвать у людей те или иные чувства. Часть из них работает в жанре хоррора. Чем лучше их работы пугают случайно взятого человека, чем лучше в них отзываются первобытные страхи, тем они шире расходятся и охотней копируются. Градиент присутствует, так что осталось убрать из всего множества работ инсектоидные мотивы (как у Гигера), клыки, черепа, кишки и прочие нерелевантные здесь тропы, посмотреть на оставшихся чистокровных гуманоидов, и среди них мы найдём образ врага.

Таких страшилок всё ещё остаётся много, но интернет дарит нам последнее ударное оружие: мемасики. Мемы сражаются друг с другом за скорость распространения в массах, жизнь их гораздо короче, чем у полноценного искусства, а скорость перебора вариантов намного выше. Так что мемы это градиентный спуск в коллективное бессознательное (извините, не удержался) на стероидах.

Ну и вот он, единственный выживший хоррор-мем, подходящий под наши условия:
Collapse )
любопытно

Политические споры, цифры и графики

Писать о политике это постыдное удовольствие, примерно как чипсы жрать. Это затягивает, это условно-приятно, но слегка вредно и перед самим собой неловко.

Почему политика так затягивает и поляризует, я не знаю. Склоняюсь к тому, что частично прав Scott Alexander, а именно, политические споры имеют очень глубокие эволюционные корни. А частично дело в том, что подогревать и повышать ставки это рабочий (и активно применяемый сразу всеми сторонами) инструмент управления большим количеством людей.

Последние несколько лет я обнаружил способ иногда обсуждать политику, приносящий некоторое количество пользы, хотя я совершенно не собираюсь посвящать ей сколько-нибудь значимую часть жизни. Его также использует gornal, который изобрёл его независимо, так что, надеюсь, этот способ не является моим личным заблуждением. Способ следующий: как только кто-то из спорщиков делает некоторое описательное утверждение о реальном мире, идти на http://data.worldbank.org, https://www.sipri.org/research, https://www.who.int/ и в аналогичные источники скучных графиков, смотреть на реальные данные и отвечать для себя на вопрос, насколько их корректно описывать таким образом.

Полезней быть объективным и делать это не ради того, чтобы выиграть спор, а чтобы узнать и прочувствовать соответствующий срез реальности. Так что стоит применять проверку в обе стороны, и в "свою", и в сторону "условного противника".

Например, собеседник утверждает, что "экспорт транснациональными корпорациями бананов из Бамбезии поставил страну на грань голода". В цирфах мы видим, что потребление бананов в Бамбезии в 2020 году выросло на 10%. Казалось бы, это сразу опровергает исходную фразу. Но мы не побоимся проверить, как менялось потребление бананов в Бамбезии и их экспорт хотя бы за несколько последних лет. И наш вывод начинает казаться сомнительным, оказывается, нормальный рост год к году 25%, а вовсе не 10, так что в 2020 что-то с Бамбезией случилось нехорошее. Тут нам приходит в голову, что кроме абсолютов стоит взглянуть ещё и на потребление на человека, ведь население Бамбезии быстро растёт. Так и есть: потребление на душу населения даже немного упало! С другой стороны, посмотрев на цифры экспорта, мы обнаруживаем, что тот совершенно не сопоставим по объемам с внутренним потреблением и дело явно не в том, что бананы просто взяли и вывезли за границу. Чтобы разобраться, посмотрим и на потребление других продуктов, а также на потребление бананов в соседней Забмезии, о которой аналогичных утверждений не высказывают. Если все эти цифры в источнике присутствуют, через пятнадцать минут вы будете обладать более развитой интуицией и о рынке бананов, и о регионе Бамбезия-Замбезия, чем 99.9% населения.

Поэтому в источнике очень важна полнота данных: по годам, по регионам и т.п. Самый простой способ врать, не боясь разоблачения, это рассказывать о фактах только тогда, когда они подтверждают вашу точку зрения. К сожалению, уже Википедия свойством полноты данных совершенно не обладает, СМИ тем более. Короче, бойтесь цифр без соседей. "Потребление бананов в Бамбезии в 2020 году выросло" является верным утверждением и пройдёт любые "фактчеки". "В Бамбезии полно идиотов, вот один из них заснят на камеру, он размахивает бананом и требует убить всех иностранцев" также является верным утверждением и пройдёт любые "фактчеки".

Практически всегда, когда цифры удаётся найти, я открываю для себя какие-то интересные факты о том, как устроен, живёт и развивается наш мир. Практически всегда они полностью меняют структуру спора, не прекращая его при этом. Эмоции остаются, но разговор переключается с обсуждения содержимого чужих голов на причины, следствия, вопросы надёжности данных и их интерпретации. Кроме того, такие аргументы, как мне кажется, действительно переубеждают людей на долгих промежутках времени. В пылу спора легко сменить позицию с исходной "из-за людей Икс люди Игрек ужасно страдают" на уточненную "люди Игрек, конечно, живут лучше, чем 10 лет назад, но если бы не люди Икс, жили бы ещё намного лучше" и не заметить этого. Но на второй-третий раз люди задумываются, как так получается, и откуда взялась их исходная убежденность и, как мне показалось, иногда даже меняют мнение. Хотя, конечно, не говорят об этом вслух, да и людей Икс от этого ненавидеть не перестают (это изменение, если и происходит, занимает лет десять).

Это всё как-то абстрактно, давайте на моём любимом примере посмотрим. Про то, когда и где жить лучше.

Вот ожидаемая продолжительность жизни жителя России с 1960 года примерно по наше время:

Когда я увидел этот график впервые, меня больше всего шокировало то, насколько же хорошо видны исторические этапы на графике объективной величины, механически вычисляемой по возрастам умирающих. Шестидесятые, застой, перестройка и сухой закон, развал СССР и девяностые, современность. При этом, насколько я знаю, не существует политической позиции, которая расставила бы этим периодам "плюсики и минусики" именно таким образом. Ни мейнстримной, ни маргинальной, никакой.

Слегка смущает "взлёт ракеты" в конце, неужели и правда Путин лучшее, что произошло с Россией за шестьдесят лет? Как нас учит Замбезия, посмотрим ещё парочку соседей:

В этой перспективе всё выглядит, эммм... немного иначе. Продолжительность жизни растёт хотя и чуть быстрее, чем в странах первого мира, но от гораздо более низкой базы; "через 20 лет поговорим", короче.

А почему это вообще те государства, с которыми стоит сравнивать? Что нам до стран с совершенно другим климатом, этническим составом, историей и экономикой? Давайте на соседей смотреть!

то же самое с 1991 года, крупнее:


Первое, что удивляет, это, конечно, неотвратимость общей судьбы. Графики настолько похожи, что так и тянет их усреднить и вычесть среднее, чтобы понять, а в чем все-таки различия и чем они были вызваны. К сожалению, тут мы вступаем в область совсем ужасных мыслепреступлений, так что это упражнение я, пожалуй, оставлю для читателей.

Я уверен, что 99.82% из них, попробовав ответить на вопрос, что же они видят на четырёх графиках выше, поймут для себя что-то новое. Если вам это понравится, продолжайте! Ещё через пару десятков аналогичных ваша политическая позиция, скорее всего, не изменится, но то, как устроен мир на крупных масштабах, станет гораздо понятней, а это в жизни бывает полезно.
любопытно

Является ли реальность илюзией?

Trigger warning: экзистенциальный ужас, депрессия, байесовский подход
Disclaimer: текст сильно пересекается с моим последним новогодним докладом

Первым делом человек, которому всерьёз задают подобный вопрос, думает, что автор вопроса немного того. Во-первых, угадывается нечто больное в самом интересе к нему. Иллюзорна ли реальность? Живём ли мы "в Матрице"? Скажите, в какой момент у вас впервые появились эти идеи? Во-вторых, конечно же, нет! В-третьих, вопрос бессмысленный: даже если и живём, что это вообще меняет?

Во-первых, я кувшин не брал, во-вторых, вернул его целым, в-третьих, он и был с трещиной.

Далее я расскажу
- какого рода рассуждения делают вопрос вообще осмысленным
- как применить их к вопросу "является ли реальность иллюзией"
- какие дополнительные факты могут влиять на ответ (в частности, возможна ли "Матрица" технически)
- с помощью каких экспериментов можно приблизиться к ответу
- как мог бы выглядеть jailbreak, если окажется, что ответ "да"

Ответ на вопрос "почему всё это имеет смысл" основан на разновидности вероятностных рассуждений, которая с непривычки может показаться запутанной и мутноватой, особенно если итоговый вывод противоречит нашей изначальной интуиции (а он противоречит). Чтобы подготовиться, мы сначала рассмотрим более простой пример рассуждений того же типа. К "Матрице" они никак не относятся, это просто вводное упражнение, но оно интересно само по себе и до сих пор вызывает большие споры.

Collapse )

Продолжение следует
любопытно

How to lie with a log-log plot

Книге "How to lie with statistics" уже 65 лет. Приёмы, о которых рассказывал её автор, сейчас выглядят довольно примитивно, в XXI веке каждый* знает, что такое selection bias, чем среднее отличается от медианы и почему корреляция ваще ничего не значит**.

*то есть я и мои друзья
**нет, серьезно, it doesn't imply causation, but only until it kinda does

Искусство показывать на корректных цифрах несуществующие тренды и зависимости за три поколения шагнуло далеко вперёд. vashu11 показал мне в комментах потрясающий пример: "Полезность от экспоненциальной модели можно видеть хотя бы по графикам https://aatishb.com/covidtrends/"

По ссылке виден красивый график, на котором точки, соответствующие разным странам, как обычно на графиках про коронавирус, бегут со временем куда-то вверх и вправо, сначала очень решительно, потом более задумчиво. Эта визуализация отличается от прочих двумя особенностями: во-первых, траектории разных стран в начале эпидемии выглядят очень ровными и похожими друг на друга. Во-вторых, они очень близки к устрашающей линии, названной "2 Day Doubling Time of Confirmed Cases". Всё это визуально очень убедительно и красиво. Окончательно помогает определиться плашка "Notice that almost all countries follow a very similar path of exponential growth. We're all in this together".

Бей сосули лазером

Хорошая визуализация иногда бывает именно такой, отсекая всё лишнее и оставляя то, что действительно важно, после чего суть происходящего оказывается очевидной. Но здесь всё слишком уж красиво. Эпидемия в Китае, Южной Корее, Италии и США развивалась по четырём совершенно разным сценариям. Исходные цифры выявленных зараженных, по которым строятся эти графики, очень шумные, зависят от того, с какой скоростью в разных странах разворачивали тестирование, кого именно тестировали и как работало отслеживание контактов; за последние месяцы все эти факторы сильно поменялись. Наконец, настораживает "удвоение каждые два дня", такую цифру про коронавирус я видел редко и никогда как "типичную". Но ведь вот же, всё на графике!

Этот фокус неподготовленный человек так с ходу и не разгадает. Если бы у нас не было более приличных визуализаций тех же процессов (моя любимая инфографика https://ft.com/coronavirus-latest, но и более распространенный и полный https://www.worldometers.info/coronavirus тоже сойдёт), я бы сам принял его за чистую монету.

Первое подозрение, конечно, вызывает то, что это log-log plot. На лог-лог шкале любая степенная зависимость начинает выглядеть как прямая линия, но обратное неверно, об этом написано даже в википедии.

...going in the other direction – observing that data appears as an approximate line on a log–log scale and concluding that the data follows a power law – is invalid.

In fact, many other functional forms appear approximately linear on the log–log scale, and simply evaluating the goodness of fit of a linear regression on logged data using the coefficient of determination may be invalid


Короче, если вы видите log-log plot, визуально "доказывающий" гипотезу о характере зависимости, будьте осторожны, возможно, авторы хотят вас обмануть (или себя).

Давайте нанесём на график ещё одну прямую, соответствующую увеличению на 10% в неделю. Согласитесь, такая ситуация радикально отличается от удвоения каждые двое суток, изображенного пунктиром.

ok google, как в Paint вставить текст под углом?

По-моему, тот факт, что все траектории проводят некоторое время в узкой зоне между двумя этими прямыми, после этого становится заметно менее впечатляющим.

Но всё ещё хуже!

Перед нами не просто log-log plot двух величин, это даже не log-log plot значения величины и её производной. Это log-log plot текущего значения величины и её прироста за прошлую неделю.

Например, именно из-за этого в верхней левой половине графика ничего нет: случаев, выявленных за последнюю неделю, не может быть больше, чем случаев всего. И именно поэтому траектория Южной Кореи на нём в течение двух недель выглядит так же, как выглядела бы экспоненциальная, хотя реальный прирост выявленных случаев там был связан с сектами и суперразносчиками и выглядел, хоть и устрашающе, но довольно хаотически:

Приз тому, кто найдёт экспоненту

Так что на самом деле нарисовано на графике aatishb.com/covidtrends?

Сразу в нескольких странах большая часть среди первых 1000-5000 случаев была выявлена в течение одной недели.

Вы можете проверить самостоятельно, что выполнение этого условия необходимо и достаточно, чтобы нарисовать именно ту траекторию, которая в оригинале сопровождается словами

Notice that almost all countries follow a very similar path of exponential growth. We're all in this together

В конце подобной записи по традиции должны следовать неловкие уверения, что автор блога не является денайером и верит в то, что коронавирус существует, руки мыть нужно, а земля геоид. А вот и они.
любопытно

Slate Star Codex - II

Продолжение предыдущей записи

Предупреждение: Scott Alexander славится своим умением писать бесконечно длинные тексты. В качестве трибьюта мой текст, посвященный его блогу, является умеренно бесконечно длинным.

По понятным причинам давать веб-ссылки на записи в блоге Slate Star Codex теперь бессмысленно. В отличие от веб-архивов, у физического файла больше шансов пережить разные катаклизмы, поэтому я буду использовать pdf-архив, который лежит тут (если эта ссылка прекратит своё существование, напишите, я его выложу куда-нибудь ещё).

Как могут заметить те, кто скачает pdf-ку, в ней 9500 страниц. Это качественные, хорошо написанные, продуманные тексты. Для подготовки значительной их части автор должен был прочитать десятки статей, осознать и провести содержательный метаанализ. Всё это Scott Alexander успел проделать примерно за семь лет, умудрившись параллельно с этим стать и оставаться практикующим врачом-специалистом (и это в Штатах, где вторую задачу саму по себе часто описывают как "гонку всей жизни"). Чисто количественно это больше, чем я считал возможным для человека. Лично я не в состоянии писать с такой скоростью даже несколько дней подряд, и даже находясь при этом в отпуске (вопрос качества замнём для ясности). Но это не что-то сверхчеловеческое и не заставляет заподозрить "коллектив авторов". Скорее, мои ощущения похожи на ощущения спортсмена-любителя, посмотревшего, как выглядят тренировки олимпийского чемпиона. Отлично мотивирует.

Небольшое отступление. Насколько серьезным преимуществом является родной английский язык? Пишут, что у Скотта было 20000-30000 регулярных читателей. Предположим, он писал бы по-русски в период расцвета ЖЖ. Думаю, что десятитысячником он стал бы легко. Это неожиданно: я думал, что размеры англоязычной и русскоязычной ноосферы (изинити, не придумал, как их обозначить менее претенциозно) отличаются в 7-10 раз, а не в 2-3. А вот насчёт очных встреч там всё сильно лучше, чем в той же Москве (например, он может прилететь в Долину на пару недель и предполагать, что за это время поучаствует по крайней мере в нескольких интересных сходках и сборищах); эту часть нам надо бы исправить. А ещё наверняка же во франкофонной или, там, немецкоязычной блогосфере не менее интересные мыслители голодными сидят, а бедным шведам и финнам и совсем тяжело. Уважаемые тренирователи трансформеров, скорее улучшайте машинный перевод до той степени, когда всё это уже станет неважно, пожалуйста, спасибо вам огромное заранее!

Почему я всё о количестве. Потому что перед нами случай, когда оно даже не переходит в качество, а само по себе является качеством. На любую тему, от узкоспециальной до общезначимой, Scott Alexander способен подогнать текст длиной в пару десятков страниц, стимулирующий дальнейшие размышения просто за счёт массы возникающих ассоциаций и неожиданных углов. Там, где я с ним не согласен, несогласие ближе к "Постойте, возможно же и другое объяснение" или к "Эту мысль стоило бы продумать, а не отмахиваться", а не к "Господи, зачем я это вообще читаю".

Scott Alexander, насколько вообще осмысленно такое ранжирование, второй-третий по рангу среди современных рационалистов (в зависимости от того, считать ли Ника Бострома). Именно поэтому раньше я, к большому моему сожалению, не очень обращал на него внимание. Если чтение текстов даже главного рационалиста совершенно не создаёт у меня ощущения саморазвития (your mileage may vary), но зато весьма часто создаёт ощущение, что меня пытаются провести, зачем же читать неглавного?

Разница между ними, как оказалось, принципиальная. Элиезер Юдковский учит, а то и поучает. Он познал истину (за исключением, может быть, деталей) и видит свою задачу в том, чтобы донести её до остальных. Истина во всём её объеме для обычного человека эмоционально неприемлема и массы следует готовить к ней постепенно. Иными словами, автор на старте ставит себя выше читателя. Это плохо даже не по эмоциональным причинам, а потому что ненужным образом ограничивает самого автора. "Приключения Гекльберри Финна" и "Алису в стране чудес" могут читать и дети, и взрослые, про "Гарри Поттера" этого уже не скажешь.

Ну так вот, Scott Alexander не такой! Ему действительно интересно, а как всё на самом деле (ну или он умнее и обманывает гораздо тоньше). Комментаторы и рецензенты всякого рода отмечают, что S.A. удивительно доброжелателен и открыт. Я присоединюсь. Он по умолчанию в любом обсуждении занимает следующую позицию: у собеседника есть свои веские причины думать так, как он думает, и говорить то, что он говорит.

Ну как бы в пересказе звучит как нечто само собой разумеющееся, да? Давайте на конкретных примерах. Оппонент имеет степень по гендерным исследованиям и просит называть себя "оне"? Будем считать, что оне после своих пятилетних штудий знает о взаимоотношениях полов что-то, чего (пока) не знаем мы и, конечно же, будем называть онех так, как оне просят, ведь это элементарная вежливость. Оппонент призывает к этнической сегрегации, неоколониализму и восстановлению монархии? Будем считать, что у него есть веские причины так думать, разберем его аргументы в пользу такой точки зрения, отметим среди них наиболее интересные и, конечно же, будем общаться с ним не менее вежливо.

Это реальные примеры. Я лично не умею быть настолько непредвзятым и с ходу в голову не приходит никто, кто умел бы.

И это, внезапно, имеет смысл!

Есть два способа создавать новое знание. Первый это честно попытаться разобраться в каком-то вопросе, не зная ответ заранее, и рассказать остальным о том, что для себя понял. Второй -- пересказать чужие результаты так, чтобы пересказ был более стройным, компактным или по каким-то иным причинам когнитивно эффективней оригинала. Scott Alexander использует оба и делает это хорошо.

Оказывается, если сесть и как следует изучить с таким настроем аргументы сторон, то затем можно сказать что-то новое и нетривиальное даже на такие вязкие и избитые темы, как "правы либералы или консерваторы", "надо ли легализовать марихуану", "моральна ли эвтаназия" или "почему люди так эмоционально относятся ко всем этим вопросам".

Я уж не говорю о таких элементарных, по сравнению с этими, вопросах, как "какие бы пожрать таблетки, чтобы поумнеть" и "как правильно читать научные исследования"!

Дальше ссылки на конкретные эссе и статьи, но нужно понимать, что это, скажем, двадцатая часть.

"Какие бы пожрать таблетки, чтобы поумнеть"
Ну вас же это в первую очередь зацепило, да?
Nootropics Survey Results And Analysis, стр.1136: TLDR пожрите модафинил. Не является медицинским советом, если у вас вместо этого вырастет хвост, я тут ни при чём, претензии отправляйте по адресу www.slatestarcodex.com. Вместо остальных ноотропов можете выпить ещё немного кофе.

"Как правильно читать исследования"
Beware The Man Of One Study, стр.2478: о том, как легко обманывать с помощью ссылок на научные исследования в солидных журналах.

Two Dark Side Statistics Papers, стр.1002: о том, как сделать любой шум "статзначимым" и о том, как эффективность избавления от алкогольной зависимости может меняться от 0 до 97% в зависимости от креативности исследователей

"Правы либералы или консерваторы"
Reactionary Philosophy In An Enormous, Planet-Sized Nutshell стр. 83: лучшее краткое изложение правого мировоззрения, которое я где-либо встречал. Ну что значит краткое, пятьдесят страниц =) зато очень убедительное и внятное. Это тем более поразительно, что сам Scott Alexander излагает позицию своих оппонентов, сам он консерватором не является. Просто для честности, чтобы спорить не с соломенным чучелом.

Archipelago and Atomic Communitarianism стр. 1553: на удивление успешная попытка сконструировать утопию, которая нравилась бы сразу всем, левым, правым и либертарианцам. Разумеется, как и любая утопия, она невозможна; но движение по направлению к ней должно устраивать всех. Наверное.

Considerations On Cost Disease стр. 4861: специально для тех, кто думает, что все эти споры "левые-правые" затуманивают более важные вопросы. Скотт подтверждает, затуманивают! И известно, какие. С цифрами. И исследованиями. И ссылками.

"Надо ли легализовать марихуану"
Marijuana: Much More Than You Wanted To Know стр.1009. Численное сравнение преимуществ и рисков. Ответ довольно неожиданный, хотя апостериори довольно логичный: всё зависит от того, будут ли люди, склонные прибухнуть и искать приключений (например, водить автомобиль) заменять алкоголь марихуаной хотя бы частично, или одно добавится к другому. Именно этот вопрос нужно исследовать глубже, а вовсе не эффекты легких наркотиков как таковых.

"Моральна ли эвтаназия"
Who By Very Slow Decay, стр. 595. Это просто очень сильный текст, его бесполезно пересказывать.

"Почему люди так эмоционально относятся ко всем этим вопросам"
A Thrive/Survive Theory Of ThePolitical Spectrum, стр. 143: а откуда вообще разделение на "правых" и "левых"? Как связаны забота об экологии, атеизм, феминизм и идеи о социальной роли государства? И почему они отрицательно коррелируют с представлением о целомудрии, превосходстве классического искусства и образования, любовью к четкой иерархической структуре командования и к силовым видам спорта? Вариант ответа, предлагаемый Скоттом: всё зависит от склонности человека воспринимать окружающий мир как опасный или как безопасный. Одна из стратегий оптимизирует шансы на выживание в опасном мире, вторая -- отдачу от безопасного. Эти предпочтения во многом хардварные, то есть эмоциональные. Утверждается, что фМРТ способно с высокой вероятностью установить, будете вы голосовать за демократов или за республиканцев (warning: в исходном исследовании, из которого это известно, я не нашёл ничего об исключении кросс-корреляций с переменными "раса" и "пол").

Потому что в кузнице не было гвоздя
К сожалению, ни доброжелательность, ни честность, ни работоспособность в итоге Скотту не помогли.

Быстрее всего осознать, "что произошло", можно так. Сначала прочитать запись The Spirit Of The First Amendment (стр.989). Речь в ней идёт о том, как Scott Alexander понимает свободу слова.

Понимает он её очень просто и консистентно: ответом на рассуждения должны быть рассуждения. Не пуля, не травля, не публикация ФИО и домашнего адреса автора, не увольнение с работы и т.п. Важно существование открытого рынка идей. Некоторые из них могут быть неверны, но никакие не должны быть запрещены.

Для старого ЖЖшника всё это звучит почти тривиально, тем страшнее осознать, что, судя по этой и многим другим записям, в современном американском мейнстриме эта идея считается не просто не очевидной, а крайне спорной, чуть ли не маргинальной. Спасибо комментарию helvegr, я открыл для себя существование целых сообществ людей, считающих её настолько неверной, что с её носителями не нужно даже спорить, достаточно на них глумливо указывать, смотрите, какие дегенераты. Типа, это же та самая свобода слова, о которой так много, всего-то поколение прошло, вы чего вообще?!

Затем прочитайте фантастический рассказ Sort By Controversial (стр.7390). Далее спойлер/пересказ для тех, кому лень. Рассказчик обучил нейросеть оценивать степень "спорности" утверждения и отсортировал по ней короткие предложения. И в топ вышли ужасные ментальные монстры. Разные люди воспринимают их либо как очевидно правдивые, либо как очевидно ложные, но это настолько глубинный и эмоциональный вопрос, что шанса "согласиться не соглашаться" не остаётся. Сначала спорщику кажется, что человек с противоположным мнением просто что-то не так прочитал или плохо знает английский язык, короче, нелепо ошибся. Потом до него постепенно начинает доходить, что кто-то и правда способен иметь другое мнение по этому вопросу, что люди бывают настолько отвратительны и порочны. Это открытие настолько ужасно и несовместимо ни с чем, что оппонент перестаёт восприниматься как человек и против него оказываются хороши любые средства: наорать, побить, уволить, подать в суд и т.д. и т.п. Всё это описано очень правдоподобно, чувствуется немалый личный опыт самого Скотта.

Что же это за заварной крем такой? Не так сложно представить; но прежде чем переходить к ментальным чудищам, давайте, наоборот, начнём с простых, бесспорных, совершенно очевидно верных (или столь же очевидно ложных) утверждений. Например:
- Умственные способности можно измерить простыми тестами и люди разных рас показывают в них существенно разные результаты
- Россия отсталая вредоносная страна, и чем раньше она, наконец, развалится, тем лучше
- Гендеров гораздо больше двух и никакой из них не является "менее нормальным"
- США как лидер свободного мира несут моральное обязательство не давать диктаторам стран третьего мира осуществлять геноцид
- Как и любой конфликт реального, а не вымышленного мира, Вторая Мировая не была чёрно-белой, но историю пишут победители
- Лучший способ для белого мужчины поучаствовать в обсуждении того, как исправить общество -- заткнуться
- Крым это Украина
Ладно, я вас обманул, это и есть моя попытка вытащить на свет несколько таких монстров. Пусть многие из этих утверждений сформулированы немного размыто, но признайтесь честно, каждое из них, по-настоящему, в глубине, без булшита вы воспринимаете либо как ложное, да не просто ложное, а лживое, либо как истинное, и истинное настолько, что лживым будет его (наглое) отрицание. Что гораздо хуже, относительно некоторых из этих утверждений мы с вами не сходимся. Вас это не триггерит? Только, чур, не притворяйтесь, меня вот триггерит просто ужасно!

Scott Alexander отважно потыкал палкой примерно сразу во всех таких ментальных чудовищ. И, увы, оказался не идеален. Ну как такой умный человек может нести такую чушь про ____, а тем более про _____?? Поначалу можно было надеяться, что он ошибается. Увы, всё оказалось хуже; высокий интеллект может компенсировать гнилое и порочное нутро только до какого-то предела. Уму непостижимо, насколько отвратительны бывают некоторые люди, маскирующиеся под "нёрдов", "рациональных", добреньких олимпиадников. Стоило ли столько лет графоманить, чтобы в итоге скатиться до защиты _____ и до того, чтобы, пусть и скрыто (но мы-то с вами всё понимаем) призывать к ____???

Так что поделом ему, поделом.
любопытно

Slate Star Codex - I

В последние годы я периодически встречал ссылки на блог Slate Star Codex, прочитал несколько статей оттуда и в целом относился к нему нейтрально-положительно. Автор блога известен под псевдонимом Scott Alexander и желал бы оставаться анонимным. Месяц назад некто вынудил его удалить блог, угрожая лишить анонимности и использовав для этого наезда аж целую New York Times. За несколько дней петиция против таких действий собрала более 6000 подписей, среди которых Пол Грэхем, Стивен Пинкер, CEO OpenAI и куча других известных и влиятельных людей. Несмотря ни на это, ни на волну отмен подписок, NYT пока ни на какие уступки не пошёл.

Я всему этому очень удивился, т.к. Scott Alexander очень травоядный, спокойный ботан вполне мейнстримных политических взглядов, и пошёл читать, а что же он такого умудрился написать-то.

Попытки разобраться, за что, выглядели как способ получить много новой информации о реальном мире. В наших данных об устройстве общества или политики есть очевидная неполнота: механизмы, заставляющие людей молчать, по определению плохо наблюдаемы. Если некто обещает банально убивать или, чуть менее банально, ограничивать в карьере за разговоры о заварном креме, то легко предположить, что и разговоры о запрете упоминания заварного крема влекут те же последствия. В итоге наблюдателю кажется, что заварной крем не обсуждают по каким-то совершенно естественным причинам. Возможно, интересных для обсуждения кондитерских изделий помимо безе, конфитюра и карамели просто и нет.

Если бы свидетельств существования подобных механизмов принуждения не было, получился бы классический "чайник Рассела". Но соорудить безупречную систему из живых людей невозможно и время от времени запреты становятся заметны. Из совсем тёмного и мрачного можно вспомнить Джеффри Эпштейна, его друзей, биографию, хобби и "самоубийство" (меня до сих пор шокирует та наглость, с которой делается вид, что это скучно, что это не чёртова ИСТОРИЯ ДЕСЯТИЛЕТИЯ). Из более простого и распространенного -- cancel culture, популярную в последнее время форму бойкота, открытой целью которого является лишать средств к существованию людей, высказывающих "нехорошие" мнения.

Есть ли в разговорах о заварном креме какая-то польза? Или это примерно как неонацизм, который "запрещён" в том же смысле, да и хрен бы с ним? Сколько на самом деле в обществе любителей заварного крема, можно ли прикинуть это число, если делать поправку на то, что они помалкивают? Все ли они едят с этим заварным кремом детей? Имеет ли смысл во всем этом разбираться, или это разновидность болотных огоньков? Меня эти вопросы годами занимали, и история Slate Star Codex привлекла как ещё одна возможность заглянуть за кулисы.

Aaaand that's a gift that keeps on giving, но вовсе не по тем причинам, которые я предполагал изначально. Варианты "за что" есть, но либо ужасно банальные и скучные (такого-то мая сего года допустил в комментариях обсуждение всерьёз заварного крема, был найден сканированием по словам "заварной крем", а в КГБ долго разбираться, кто таков, не стали), либо неправдоподобно космического масштаба (закрыт как неконтролируемая площадка, на которой специалисты по социальным наукам могли общаться без самоцензуры).

А вот сам блог это сокровище.

(продолжение следует)