8234
Китай, меритократия, технологии, ИИ, эффективный альтруизм и немного мыслей о самом разном.
Есть в твиттере прекрасный летний ритуал: американцы и азиаты искренне не понимают, почему европейцы добровольно страдают без кондиционеров в сорокоградусную жару, а жители Старого Света снисходительно объясняют, что мелкобуржуазный комфорт – это грех против планеты.
Новый аргумент этого года: от жары в Европе каждый год умирает больше людей, чем от огнестрельного оружия в США. Сравнение звучит очень уж громко, так что я не удержался и полез проверять цифры. Этим и займемся.
Учитывать будем не просто смерти с причиной «жара» в свидетельстве (таких почти нет), а рост смертности в жаркие месяцы. По расчетам Ханны Ритчи из Оксфорда в Европе от жары в год умирает примерно 60,000 человек – 13 случаев на 100,000 населения, примерно столько же, сколько в США умирает от огнестрельного оружия. При этом в США от жары почти не умирают. Климат там похож на европейский, так что похоже, что дело именно в кондиционерах: в Европе они есть только в 20% семей, а в США – в 90%.
Я бы сделал в расчетах Ритчи пару поправок.
Она включает в сумму смертей от огнестрельного оружия самоубийства. Я бы их исключил: европейцы убивают себя чуть реже, чем американцы, но в сравнимых масштабах, просто используют для этого другие инструменты. А вот убийств в Америке действительно гораздо больше, и можно грубо предположить, что основная причина этого – доступ к оружию. Тогда сравнение еще ярче: американская вторая поправка обходится в 5 смертей на 100,000 в год, а европейские кондиционерные ограничения – в 13.
Не нравится мне и сравнение смертей напрямую. Жара обычно убивает пожилых (84% жертв в Европе – старше 75 лет), а под пулями умирают молодые (в среднем – около 35 лет). Если очень грубо прикинуть количество лет дожития, то получится, что кондиционеры лишают европейцев примерно 500 тыс. лет жизни в год, а убийства в США – порядка 800 тыс. (население США меньше европейского на треть).
На этой цифре я бы и остановился – выглядит чуть менее скандально, чем изначальный тезис, но вопроса не снимает – а ради чего, собственно, лишать европейских стариков сотен тысяч лет потенциальной жизни?
Во-первых, это красиво. Ровно десять лет назад, в августе 2016 года, я впервые въехал в свою крошечную студенческую квартиру в Париже – и наслаждался тем, что вместо бородавок кондиционеров, расползающихся по Москве, вокруг девственно чистые османовские здания, увенчанные разве что скромными французскими балконами...
Ладно, кого я обманываю – ненавидел я эту жару, но думал, что дело в моей студенческой бедности, а все приличные французы покупают себе сплит-систему. Увы – это не так. Отчасти это добровольный выбор, отчасти – результат высоких цен на электричество, но главная причина – в институциональных барьерах. Формально запрета нет, но для установки кондиционера нужно пройти семь кругов бюрократического ада, получив разрешения от всех мыслимых инстанций – от местного муниципалитета до престарелой соседки.
Причин для ограничений тоже немало, но в публичном поле главная – попытка отсрочить Второе Пришествие (точнее, его нынешний, секулярный вариант - глобальное потепление).
Вообще-то мне очень нравится христиански-левая идея об отказе от мирских удовольствий ради блага человечества, но данном случае цифры, кажется, не бьются.
Сегодня на кондиционеры в Европе уходит только 2.5% от общего потребления домохозяйств (~17 TWh). В самом радикальном сценарии эта цифра может вырасти раза в четыре, добавив порядка 50 TWh к общему энергопотреблению. С текущим углеродным следом в Европе эти 50 TWh увеличат выбросы CO2 примерно на 9–10 Mt. Дальше все вилами по воде писано, но Nature оценивает, что каждый год с 10 Mt выбросов добавит ~2,000 смертей в мире до конца века (в основном тоже от роста температуры). Столько людей умерли от жары во Франции за одну июньскую неделю!
Короче, Второе Пришествие останавливается как-то с трудом: Европа просто меняет жизни своих граждан на чужих, причем по сомнительному курсу. Ставим евробюрократам минус, хотя отдадим им должное: несмотря на смерти от жары, европейцы все еще живут на 2-3 года дольше американцев.
Новость о том, что Meta создает новую ИИ-лабораторию, предлагая зарплаты по $75 млн в год, вызвала в интернете забавный набор эмоций: от зависти до торжествующего удовлетворения. Возможно, вы даже видели мемы с заголовками типа REVENGE OF THE NERDS: трансфер китайского разработчика из OpenAI обошелся дороже, чем покупка Криштиану Роналду Аль-Насром.
Сравнение не лишено смысла: этот неприметный мужчина в очках и правда будет получать больше, чем звезды NBA или европейских футбольных лиг. Напрашивается еще одна аналогия: tech-гиганты стали похожи на спортивные клубы, чей успех зависит от десятка суперзвезд, на зарплаты которых придется потратить половину бюджета. И вот это утверждение - ложно.
Если Meta будет платить каждому из 50 новых исследователей $75 млн в год, это обойдется ей в $4 млрд – в 15 раз меньше, чем планируемые капитальные расходы, львиная доля которых - строительство ИИ дата-центров. Строит их, естественно, не только Цукерберг: всего за пару лет совокупный CAPEX Google, Microsoft и Amazon удвоился, так что теперь они тратят на физическую инфраструктуру в три раза больше, чем 30 крупнейших горнодобывающих компаний мира вместе взятые.
Дело в том, что прогресс ИИ-моделей последних лет во многом связан с одним-единственным принципом – scaling law: чем больше дата-центр, который вы используете для обучения модели, тем лучше она получается. Без звездных разработчиков тоже не обойтись, но отдача от них не всегда предсказуема, а вот scaling law работает практически безотказно.
Вслед за бизнесом к инфраструктурной гонке подключились и государства, которые стремятся, чтобы миллиардные инвестиции приземлились именно на их территории. Весь последний год я как раз консультировал правительство одной амбициозной страны, помогая ей приблизиться к мировым лидерам – Китаю и США.
Казалось бы, победитель среди этих двоих уже предопределен: американская Nvidia контролирует порядка 80% рынка AI-чипов, Китаю давно запрещено покупать новейшие GPU, а его собственные разработки отстают на несколько лет, не говоря уже о жестких ограничениях в производственных мощностях.
Но для использования хваленых GPU нужно построить сам дата-центр, а потом обеспечить его электричеством. Как ни странно, именно здесь у США начинаются проблемы.
К 2030 году ИИ дата-центры будут потреблять ~60 ГВт электричества, и США хотели бы занять примерно половину этого рынка. Выглядит амбициозно: это потребует больше новых мощностей, чем генерируют все АЭС России, а за последние 20 лет объём производства электроэнергии в США почти не изменился.
Инфраструктурное строительство в США чудовищно неэффективно. И это не баг, а фича - побочный эффект зрелой демократии и развитой судебной системы. Когда каждая из многочисленных групп интересов может громогласно озвучить свое недовольство, вам гарантированы сотни согласований, годы ожидания и вечно растущие расходы на юристов. Неудивительно, что производительность труда в строительстве сегодня ниже, чем в 70-е годы. Да и стройкой проблемы не ограничиваются: готовые электростанции вынуждены ждать пять лет в очереди на подключение к национальной сети.
У Китая нет современных чипов, зато с инфраструктурой проблем не возникнет: только за последний год в эксплуатацию ввели 430 ГВт новых электростанций – достаточно для любых ИИ-амбиций.
Но выиграет в итоге не тот, у кого меньше проблем, а тот, кто быстрее с ними разберется. Китайцам будет чуть проще – им не привыкать преодолевать технологическое отставание, если на то есть воля партии. И база для очередного скачка у них есть: по числу фундаментальных исследований в области чипов они уже впереди.
А вот проблемы США напрямую завязаны на структуру политической системы, изменение которой - мучительный процесс. Да, бюрократические требования местами отменяются, хотя я бы скорее надеялся на расправляющих плечи атлантов: Маск плюет на зеленые обещания и питает свой дата-центр от газовых генераторов, а Microsoft восстанавливает целую АЭС.
Но в данном случае я верю в партию больше, чем в атлантов - на горизонте 15 лет я бы поставил на Китай.
Один мой старый друг, заезжавший в Дубай на COP28, познакомился там с делегатом из Тувалу. Оказывается, очень любопытное место – страна буквально тонет и пытается перенести себя в цифровой мир, заодно убедив других в том, что государство без территории имеет право на существование.
Тувалу, как и все островные карлики – забавный побочный эффект Вестфальской системы и деколонизации. Когда-то сильные мира сего решили, что Земля без остатка должна быть разделена между государствами, а их границы должны оставаться нерушимыми. Крошечные территории на периферии немного не вписывались в эту концепцию, но до них никому не было дело - так что они тоже получили статус полноценных странам.
Конкретно Тувалу – это несколько островов в Тихом океане с населением чуть больше 11 тысяч человек. Свои несчастные 4000 долларов ВВП на душу населения они зарабатывают продажей рыбы и эксплуатацией своего государственного статуса: Тувалу неплохо получает с продажи домена .tv, а еще приторговывает своим местом в ООН (скажем, суверенитет Тайваня признает всего 13 государств, почти все из них – маленькие островные страны).
Но поскольку ширина островов – буквально несколько десятков метров, текущую территорию Тувалу может почти полностью затопить уже к 2100 году.
Проблема в том, что по букве закона государство не может существовать без территории. Точнее, есть экзотические варианты: у Мальтийского Ордена нет территории, зато его паспорта признает больше 100 стран. Но полноценным государством Орден все-таки не является – в ООН у него только статус организации-наблюдателя.
Вариантов у Тувалу немного.
Во-первых, можно купить территорию у другой страны. Но государства обычно считают свои границы неприкосновенными, так что получить даже самый замшелый кусочек земли очень сложно.
Во-вторых, можно присоединиться на правах региона к кому-нибудь из соседей. Но извлекать ренту из государственного статуса уже не получится, так что лидеры Тувалу точно будут выступать против этого варианта. Представьте, что из президента страны вы стали главой крошечного австралийского муниципалитета: на Давос не позовут, да и Тайвань перестанет присылать жалованье.
Наконец, можно стать виртуальным государством. Сейчас Тувалу снимает ролики о том, как перенесет свою территорию в метавселенную, но это все – только мишура. Настоящей революцией будет, если Тувалу сможет сохранить официальный статус государства, не имея территории. Население переберется куда-нибудь в Австралию, но сохранит гражданство, а правительство Тувалу продолжить торговать голосами в ООН и регулировать добычу рыбы возле затопленных островов.
Это создает очень интересный прецедент.
Сейчас многие карликовые государства торгуют своими паспортами, предоставляя гражданство как сервис - набор услуг вроде безвизового въезда, никак не связанный с конкретной территорией. Виртуальному государству заниматься этим будет еще удобнее. Более того, если территория перестанет быть необходимым условием существования государства, то, возможно, кому-то удастся создать совершенно новую страну «с нуля». Конечно, таким структурам никто не даст членства в ООН, но даже право на выдачу паспорта сильно бы изменило мир.
Если просить за гражданство приличные деньги и отсеять из числа кандидатов людей с сомнительным прошлым, вполне возможно договориться с другими государствами о комфортном юридическом статусе – например, безвизовом режиме и упрощенном открытии банковских счетов и бизнесов.
К тому же виртуальная страна вполне может обеспечить весь базовый набор государственных услуг, работая как гигантская страховая компания. Вы удаленно платите налоги, а в обмен получаете медицину и пенсию – только без привязки к географии, в любой стране мира.
Ну и если качество услуг в одном государстве вам не понравится, всегда можно уйти к конкурентам. Конечно, от затопления Тувалу до такой либертарианской утопии - долгий путь, но следить за этим будет интересно.
Еще с дремучих времен расцвета ЖЖ я читаю одного сильно пропутинского блоггера – фрицморгена. Сейчас он уже совсем не так убедителен, как раньше, но привычки – страшная сила, так что я до сих пор проглядываю его рассказы про мерзких западных леваков, которые непременно заставят мир жить по подписке, не владея ничем, кроме личного велосипеда; мыться раз в неделю ради снижения углеродного следа; и есть насекомых вместо гречки с котлетой.
Поедание каких-нибудь червей вообще выглядит настолько неестественно, что эту метафору регулярно используют, чтобы показать заговор власть имущих. Пон Джун Хо, режиссер «Паразитов», снял еще и красивый постапокалиптический «Сквозь снег». Там в замерзающем мире люди спаслись на одном-единственном поезде, колесящим по бесконечной железной дороге. Обитатели местных плацкартов подняли бунт и обнаружили, что батончики, которыми их кормили, сделаны из каких-то отвратительных слизняков - вот и вскрылась гнилая сущность начальников поезда.
Но от меня сегодня будет два тезиса. Первый: вполне возможно, что жуков многим из нас и правда предстоит попробовать. Второй: это прекрасно!
Производство насекомых на прокорм – уже довольно большой бизнес объемом в несколько миллиардов долларов. Недавно во Франции выпускники McKinsey привлекли почти полмиллиарда долларов инвестиций и открыли самый большой завод в мире, где в год производят 15,000 тонн белка из насекомых.
Пока эти тонны идут на корм скоту, но некоторые крупные стартапы планируют делать из насекомых и пищу для людей (пока что в виде протеинового порошка или батончиков).
Основных причин переходить на насекомых две. Во-первых, это более экологично, чем традиционные источники белка вроде мяса – грамм протеина из сверчков потребует в разы меньше воды и снизит выбросы СО2 в десятки, а то и сотни раз.
Во-вторых, это дешевле – по крайней мере, потенциально. Пока что технологию не отточили до совершенства, да и масштабы недостаточны, но в будущая экономия – один из главных аргументов для инвесторов. Кормить сверчков можно отходами, а растут они в разы быстрее коров.
И цена - это очень важный аргумент. Фразы о голодающих африканских детях звучат банально, но в мире все еще недоедают 700 миллионов человек. Обычно им не хватает именно белка: в бедных африканских странах до сих пор едят порядка 10 кг мяса на человека в год (в России, для сравнения, больше 80 кг). Даже курица стоит для этих людей слишком дорого, а радикально снизить стоимость ее производства не так-то просто.
Если стоимость белка из насекомых удастся порезать так, как обещают производители, то это будет отличным решением – в некоторых жуках много полезных веществ, а отсутствие сахара и жиров делает их еще и полезными для борьбы с ожирением и диабетом, которые становятся проблемой, как только страна выбирается из нищеты.
И не думаю, что есть жуков будут только бедняки. Если абстрагироваться от ваших эмоциональных переживаний от пережевывания какого-нибудь слизня, становится очевидно, что наши пищевые предпочтения довольно случайны. 98% жителей Лаоса ели насекомых хотя бы раз в жизни, да и французские крестьяне еще в XIX веке с удовольствием готовили суп из майских жуков. Потом жуки поумирали от пестицидов, а иначе мы бы наверняка смаковали это блюдо в парижских ресторанах вместе с лягушками.
Тут я вспоминаю знаменитый пример Хайдта: представьте, что ваш знакомый по пятницам покупает в «Пятерочке» замороженную курицу и занимается с ней сексом. Кажется ли вам, что он совершает морально плохой поступок? Большинство этических систем связывают естественное отвращение и аморальность, так что секс с курицой, как и обед из слизняка, будет вызывать не просто легкое чувство тошноты, но и порицание.
А вот западная либеральная система морали уникальна тем, что помогает людям преодолеть естественное отвращение, выдавая взамен утилитаристский калькулятор: если курица не страдает, то ничего аморального здесь нет. Если в жуке много протеина, то это замечательная еда. Так что перестроиться западному человеку будет даже проще.
По-моему, очень здравый подход.
У меня всегда был незакрытый гештальт, что я так никогда и не разобрался в сложной, «настоящей» философии. С формальным образованием мне тут не повезло: в бакалавриате Вышки за пределами политической философии был только жалкий, в лучших традициях какого-нибудь техникума, обзорный курс на один семестр, а в магистратуре я уже распрощался с академическими амбициями, так что изучать философию мне никто даже не предлагал.
Несколько раз я порывался прочитать какого-нибудь Гегеля сам, но сил не хватало. Было особенно обидно, потому что казалось, что я обнаружил предел моих интеллектуальных способностей: наливаешь себе чай, открываешь книгу, читаешь десяток страниц – и ничего не понимаешь. Ну прямо вот вообще ничего – определения всех слов ясны, иногда даже в предложениях можно разобраться, но вот смысл текста целиком совершенно ускользал. Злили две вещи. Первая – вечно преследующее меня чувство соревновательности: неужели я тупее всех тех людей, что все-таки смогли прочитать эти книги? Вторая - любопытство: что же там все-таки написано, что люди готовы продираться сквозь толщу столь сложно написанного текста?
В общем, гештальт я этот закрыл: пару недель назад закончил «Критику чистого разума». Заняло это в общей сложности почти полгода и примерно полтора десятка занятий с преподавателем (кстати, Виктор Горбатов, с которым я занимался, сейчас ведет курсы по логике и аргументации – рекомендую его как великолепного преподавателя). Теперь могу сказать, что предел моих интеллектуальных способностей – не у Канта. Где-то недалеко, но все же не там. Что касается любопытства, то тут чуть сложнее.
Прежде всего, Кант не перевернул моего взгляда на мир. Тут, признаю, есть легкое разочарование – я очень на это надеялся. Конечно, интересных аргументов и красивых идей было немало, но такого, чтобы я закрыл книгу, подумав «ух, теперь я не смогу размышлять о мире, не учитывая вот эту идею» - такого не было.
Но процесс того стоил.
Чтение чем-то было похоже на изучение нового языка. Помню, как первый раз приехал в Пекин учиться в магистратуре, не говоря ни слова по-китайски. Несмотря на то, что наша вестернизированная программа неустанно оберегала нас от столкновения с китайской действительностью, в один из первых дней мне все-таки пришлось написать свое имя на китайском на каком-то официальном документе. Я пытался скопировать эти бессмысленные наборы черточек и чувствовал себя эдаким крестьянином в лаптях, завалившимся к барину в усадьбу и бубнящим «мы, ваше превосходительство, грамоте не обучены-с». Зато чуть позже, когда впервые смог прочитать какую-то надпись на китайском в аэропорту (что-то уровня «туалет – направо»), испытал огромную гордость – мир вокруг оказался расколдован.
С Кантом – похожая история.
Первые несколько занятий я чувствовал себя полнейшим кретином: вроде бы разобрался в жалких 10-20 страничках, что тебе задали, но когда пытаешься объяснить смысл своими словами, похож скорее на мямлящего двоечника, который не в состоянии составить даже одно-единственное внятное предложение. Но мало-помалу приспособился, так что ближе к сентябрю вполне уверенно рассуждал о самых сложных материях.
Я, кстати, до сих пор не уверен, что у меня есть настоящее понимание Канта, но я точно научился убедительно его имитировать, создавая осмысленные предложения в ответ на любой входящий стимул. В какой-то степени я почувствовал себя нейросетью: мне скормили 600 страниц текста, так что теперь я могу оперировать этим специфическим словарем, вызывая подозрения в разумности даже у образованных собеседников. Ну и в очередной раз задумался, что не слишком дальновидно свысока называть ChatGPT стохастическим попугаем – возможно, мы и сами наделеко ушли от этого статуса.
Ну и последний бонус, который дал мне Кант – возможность прикинуться аристократом. В будни работаешь каждый день до полуночи, передвигаешь туда-сюда квадратики на слайдах. Ну а в субботу можно вырядиться, сделав вид, что ты – мыслитель, рассуждая о бесполезных, но милых сердцу абстракциях. Приятно, что и говорить: с Кантом пока сделал паузу, впереди - Витгентшейн.
На прошлых выходных в Дубае можно было понаблюдать за массовой дракой: пара десятков человек неуклюже, но отчаянно бились за новые айфоны. Магазин Huawei в это время пустовал. А вот среди американских китаистов все наоборот: весь сентябрь только и разговоров, что о новом китайском смартфоне и провале экспортной политики США.
Что же, собственно, произошло? Месяц назад Huawei обновил свой флагман: ничего особенного для потребителя, но, похоже, революция для китайской промышленности, ведь Kirin 9000s, 7-нм чип внутри смартфона, был сделан в Китае.
Тайваньский TSMC начал массовое производство 7-нм чипов в 2018 году, так что получается, что Китаю удалось сократить отставание от самой передовой на сегодняшний день технологии (3-нм) всего до двух поколений или 4-5 лет. А ведь еще несколько месяцев назад многие эксперты утверждали, что из-за американских санкций Китай надолго застрянет на уровне чипов десятилетней давности.
И надо сказать, что на это были основания.
Особенность производственных цепочек для полупроводников - в том, что там довольно много “бутылочных горлышек”: ситуаций, когда ключевую технологию контролирует одна-единственная компания, из-за чего накладывать санкции становится гораздо проще. Американцы воспользовались этим и, казалось бы, перекрыли кислород китайским производителям.
Прежде всего, США фактически запретили китайским компаниям покупать продвинутые чипы у иностранных производителей. Но что еще важнее - запретили покупать оборудование, необходимое для их производства.
Например, единственная компания, производящая литографические машины для создания самых современных чипов - это голландская ASML. Возможно, вы даже не слышали такого названия, но это самый большой технологический гигант Европы — по капитализации обгоняющий BMW, Mercedes и Volkswagen вместе взятые. Самое продвинутое EUV-оборудование голландцы перестали экспортировать в Китай еще четыре года назад, а с 2024 года перестанут продавать и более простые DUV-системы.
Но санкции толком не сработали. Huawei проводил сделки, используя фирмы-прокладки, а еще, видимо, закупал оборудование “как бы для 14-нм чипов”, но производил на нем более продвинутые модели. Пока непонятно, удастся ли Китаю перейти к производству следующего, 5-нм поколения чипов (выглядит так, что для их производства точно нужны EUV), но возможно, что обходные пути найдутся и здесь.
У этого есть три важных последствиях.
Во-первых, стало очевидно, что США не удалось перекрыть Китаю доступ на гигантский высокотехнологичный рынок. Одни только смартфоны - порядка полтриллиона долларов в год: в лучшие годы Huawei занимал почти 20% мирового рынка, после санкций его доля сильно просела, но теперь может и восстановиться.
Во-вторых, собственные чипы - это возможность продолжать экспансию в рамках “Цифрового шелкового пути” - например, строить облачные дата-центры в африканских странах, не опасаясь, что Amazon или Google будут технологически недосягаемы.
В-третьих, это поможет китайским военным не отстать от американцев. Конечно, танки можно построить и с древними чипами, но не случайно Минобороны США стало первым заказчиком для 1.8-нм чипов на новой фабрике Intel, а армия Китая продолжает закупать ИИ-чипы у американцев: для высокотехнологичного вооружения нужны вычислительные мощности.
У американцев все еще есть возможность ужесточить санкции, включив туда все элементы производственной цепочки - от софта для дизайна до оборудования для упаковки. Это может сработать. А может случиться и так, что Китай просто отстроит герметичную систему по производству полупроводников - и тогда не будет зависеть от Запада вообще. Во второй половине нулевых китайцы очень хотели подключиться к работе МКС, но США заблокировали их участие, опасаясь трансфера технологий. Прошло всего лишь 10 лет, и китайцы запустили уже собственную орбитальную станцию. Возможно, если бы Китай тогда взяли в проект, то его космический суверенитет так и остался бы гипотетическим.
Напоминаю, что сегодня - последний день, чтобы подать заявку в онлайн ридинг-группу по эффективному альтруизму для студентов, которую делаю я и несколько моих друзей. О том, почему это интереcная и разумная философия, я уже писал выше, но порекомендую еще довольно критическую статью из The Economist, чтобы вы составили свое собственное мнение.
В любом случае, жду заявок всех, кому интересно - независимо от того, вдохновились вы этими идеями или считаете их глупыми. Ридинг-группа - хороший первый шаг для того, чтобы познакомиться с большим международным сообществом эффективных альтруистов (если вы относитесь к первой категории) или возможность получить удовольствие от элегантного уничтожения наивных аргументов (если вы находитесь во второй).
Ссылка на регистрацию тут: https://forms.gle/QYGPep3FxgwW7ZYx9
По рекомендации Толкователя наткнулся на интересный пост об изменении когнитивных способностей с возрастом. Если пересказать в двух словах, то глупеем мы не так уж быстро: до 40 лет некоторые показатели, вроде способности строить логические суждения или понимания текстов, даже растут, а серьезное падение можно заметить только после 60.
Я давно искал эти данные, потому что хотел проверить одну гипотезу: если мы знаем, что в старости люди глупеют, то не нужны ли нам ограничения для всех политических постов?
Отдельные общества справляются с этим сами - средний возраст президентов в демократических странах давно уже снижается, а возраст британских или французских парламентариев последние полвека болтается вокруг отметки в 50 лет. Но кое-где пожилые успешно подминают под себя политический ландшафт: скажем, в американском Конгрессе семидесятилетних – уже почти четверть; да и российский Совбез выглядит не лучше.
Получается, что некоторое сложности в чтении или формировании аргументов ничуть не мешают этим людям без особых проблем задвигать молодежь на второй план. Может быть, высокий интеллект вообще не очень-то нужен хорошему политику? В конце-концов, с возрастом приходит мудрость... Слово может показать напыщенно-смешным, но с опытом на самом деле приходит немало полезных умений: пожилые люди лучше контролируют свои эмоции, более устойчивы к стрессу, эффективнее управляют конфликтными ситуациями. Кажется, это куда практичнее, чем умение находить закономерности в IQ-тесте.
Но, увы, эмпирические данные говорят об обратном. Пока что получается, что возраст плохо влияет на политиков: старые лидеры чаще развязывают войны, а экономики их стран растут медленнее – десять лишних лет в паспорте президента отбирают у страны 1% роста в год (в последнем исследовании, правда, речь идет только об авторитарных лидерах – возможно, демократические институты лучше справляются со сдерживанием пожилых).
Во многих странах ограничения существуют. Китай до недавнего времени справлялся очень неплохо: 68 лет были предельным возрастом для тех, кто претендовал на высшие позиции, а на более низких уровнях отсекали и кандидатов помоложе. В китайской культуре вообще интересное отношение к старости: с одной стороны, все мы знаем про азиатское уважение к возрасту; но с другой – управленцы, как и во всем мире, пытаются избежать ассоциаций с седовласыми мудрецами. Кстати, вполне буквально. Мой бывший канадский профессор в Цинхуа, ставший деканом факультета политологии в Шаньдуне, рассказывал, как был вынужден покрасить волосы, чтобы не выдать преждевременные признаки старения. В отличие от Канады, быть седым деканом в Китае - стыдно, а красить волосы – норма среди китайских чиновников. Если вы обратите внимание на фотографии, то заметите, что и сам Си, несмотря на возраст, не так уж давно стал появляться на публике с сединой. И он-то точно может позволить себе нарушать правила: 68 лет ему тоже исполнилось уже два года назад, но карьере ничуть не помешало
Последнее, что можно сказать в защиту пожилых лидеров - склонность к стабильности. Как ни парадоксально, при их правлении реже случаются революции. Видимо, потенциальные заговорщики, смотря на шамкающих и спотыкающихся президентов, предпочитают просто дождаться их смерти по естественным причинам.
Несмотря на это, законы о предельном возрасте все еще кажутся мне здравой идеей. Габриэль Гарсия Маркес, который неплохо разбирался в диктаторах, как-то раз написал про одного из них, что власть в «годы его пресыщенной осени» стала засасыващей трясиной, которая сама уже повелевала президентом. Вы ведь спасете человека, угодившего в болото? Вот и закон бы пригодился.
Когда мы говорим о мягкой силе образования, то мечтаем о немецких физиках, вспоминающих зубодробительные семинары на Физтехе, или хотя бы о китайских политиках, рассказывающих, как полюбили русский народ в грязноватой общаге МГУ.
С немцами сейчас все понятно, но даже китайские школьники не очень-то стремятся ехать в Россию - число студентов в последние годы растет, но считается, что к нам попадают те, кого жизнь обделила сразу по двум фронтам: мозгов недостаточно, чтобы поступить в хороший китайский вуз, а у родителей маловато денег, чтобы отправить отпрыска в США или Европу.
Но иногда мягкая сила возникает в самых неожиданных местах. Например, среди высокопоставленных китайских военных все больше тех, кто получил образование в России.
Данные по их биографиям обычно сложно найти, поэтому нам придется поверить Ли Чэну из Brookings, который написал на эту тему небольшое исследование. Относиться нужно осторожно, но Ли известен именно как исследователь китайских элит - и человек, собравший огромную базу данных по их персоналиям.
Определить самых влиятельных военных несложно: достаточно посмотреть на состав ЦК Компартии. Из 200 членов - 44 военных, пять из которых учились в России (в прошлом созыве таких было только двое). Учитывая закрытость военного образования, каждый десятый - весьма внушительная цифра.
Среди этой пятерки очень очень важные люди: например, Чан Динцю, главнокомандующий военно-воздушными силами. Он всегда был “восходящей звездой”: самый молодой командир авиационного полка в 33 года, самый молодой генерал-полковник в 54. Ему давно прочат большое будущее, и время еще есть - ему всего 56 лет. Другие интересные персонажи, попавшие под удар мягкой российской силы - глава военной полиции Китая и глава Восточного военного округа, флот которого расположен как раз рядом с Тайванем.
Как именно эти люди учились в России - понятно не до конца. Ли пишет, что Чан Динцю, например, учился целых два года в магистратуре, но официальные биографии описывают этот период очень расплывчато. Возможно, это были и более краткосрочные программы, хотя Ли уверен, что каждый из пятерки учился в России не менее двух лет.
Как повлиял на генералов российский опыт, узнать тоже непросто, но тут нам повезло: один китайский полковник, три года учившийся в Академии имени Фрунзе в конце 90-х, написал об этом книгу. Получилось интересно. Россию он в основном хвалит (и, конечно, традиционно для китайцев называет ее “воинственной нацией”), но иногда проскальзывают и старые обиды. Пишет, например, что словам русских нельзя доверять. Обещали обеспечить студентам достойные бытовые условий студентам, а еще божились, что предоставят военную поддержку во время Корейской войны. Оба раза наврали - а китайцы запомнили. Еще полковник немного расстроился, что русские часто смеются над украинцами и кавказцами, а иногда под горячую руку попадаются и китайцы.
Несколько лет назад я писал про американского генерала, который вел у меня в Китае курс по лидерству. Тогда я был поражен его образованием - помимо Гарварда, он успел закончить еще и Нанкинский университет. Но китайские военные не ограничиваются Россией - по крайней мере, в нулевых за границей учились тысячи китайских офицеров. И не только в “дружественных” странах: например, контр-адмирал Чжан Чжэн, капитан первого китайского авианосца, два года отучился в Великобритании.
Мы вряд ли узнаем, пригодились ли военным лекции из Академии Генштаба: скорее всего, последние полтора года дали куда больше полезной информации о российской армии, чем можно представить на любом двухлетнем курсе. Но возможно, что кто-то из генералов проникся теплотой к русской культуре, гуляя по улицам Москвы.
В России официозные медиа часто превозносят национальные технологические достижения. Увы, часто врут. А вот в США, наоборот, все чаще слышны разговоры о безнадежном проигрыше Китаю в какой-нибудь очередной технологической гонке. И тоже привирают: алармизм полезен, если хочешь получить больше денег из бюджета.
Это работает еще и потому, что о положении дел в Китае иногда приходится судить по косвенными признакам: в последние годы ученым-китаистам стало тяжело даже попасть в страну. Так что кусочки актуальной информации приходится ценить.
На днях Джеффри Динг перевел на английский небольшое видео со сравнением GPT-4 и Ernie - языковой модели от Baidu. Оценивали по шести критериям: понимание текста, ведение диалога, имитация личности, а также навыки логики, математики и программирования. По пяти из них GPT-4 оказался значительно лучше. Например, когда GPT-4 спросили, “считается ли брак между мамой и папой кровосмешением”, он ответил, что нет, если они не являются кровными родственниками, а вот Ernie просто расписал, почему кровосмешение нарушает законы КНР. Для повышения рождаемости он и вовсе предложил ввести политику “одного ребенка”.
Но переоценивать неудачу Ernie не стоит. Языковые модели - лишь одно из направлений развития ИИ. Да, внезапно показавшее себя удивительно близким к “искусственному интеллекту” из фантастических фильмов, но далеко не единственное. Скажем, в области компьютерного зрения Китай давно обскакал Штаты - интереснее сравнить уровень развития ИИ-технологий в целом.
Для их развития нужны 4 фактора: (1) способность производить “железо” (т.е. чипы), (2) проводить исследования и придумывать алгоритмы, (3) иметь доступ к данным и (4) финансовым ресурсам. В 2018 г. выходило, что возможности Китая - половина от американских: китайцы были впереди по объему доступных данных, отставали в области исследований и финансов и были безнадежно позади по “железу”.
С тех пор прошло уже пять лет, но можно посмотреть на свежие цифры из недавнего AI Index Report.
Китайские частные инвестиции в ИИ ($13.4 млрд в 2022 г.) все еще в три с половиной раза меньше американских ($47.4 млрд). Оценить государственные вливания сложнее, но можно сравнить пакеты поддержки для полупроводниковой индустрии: ходили слухи про китайские $150 млрд, а американцы уже пообещали в два раза больше - $280 млрд.
В науке ситуация другая: если смотреть в лоб, то у китайцев давно уже больше и публикаций (40% vs 10%), и цитирований (29% vs 15%). Но если судить по самым влиятельным работам, то Китай все еще отстает. В общей сложности - паритет.
Но почему Ernie все-таки получился глупым? Мне кажутся интересными две линии аргументации.
Когда мы оцениваем технологические перспективы страны, то слишком много внимания обращаем на инновационный потенциал - способность сформировать прорывную идею. Но не менее важен диффузный потенциал - способность эту идею применить. У послевоенного СССР с инновациями все было хорошо, а с диффузией - плохо, и реальную технологическую гонку Союз проиграл. Динг насчитал, что и в Китае есть “диффузный дефицит” - исследований много, а вот с их адаптацией все еще плохо. На мой вкус - очень спорный тезис, но изучать диффузию действительно важно.
Другая проблема с языковыми моделями - в политической асимметрии. Если GPT скажет что-нибудь расистское, это закончится судебным процессом и финансовыми потерями. Но если Ernie оскорбит Си, то последствия могут быть непредсказуемыми. Проблема в том, что мы до сих пор не понимаем, как аккуратно цензурировать языковые модели. GPT-4 разработали еще в августе, а открытый доступ дали в марте - все это время модель достраивали, в т.ч. и для того, чтобы она не ляпнула какую-нибудь опасную глупость (и она до сих пор делает это постоянно). При этом те, у кого был доступ к ранней версии, пишут, что этические ограничения снизили “интеллект”. Возможно, обилие запретов - Ernie благоразумно отказывается от разговоров на острые темы - слишком сильно обрезает способности китайских моделей.
В октябре 1945 года в президентский кабинет к Трумэну зашел Роберт Оппенгеймер, руководитель Манхэттенского проекта. «Мои руки в крови», - заявил он: со дня бомбардировки Хиросимы прошло лишь чуть больше двух месяцев. Жаль, что не осталось стенограммы, но говорят, что Трумэн был в ярости, позже обозвав ученого плаксой: «Это мои руки в крови – приказ-то отдавал я». Когда Оппенгеймер уже ушел, президент передал своему госсекретарю, чтобы этого нытика больше не пускали в кабинет.
Ученые, как всегда, придумали удивительную штуку, но их быстро оттеснили от рычагов управления ушлые политики и генералы. Ребятам с заоблачным IQ оставалось только удивляться их прыти (и правда, кто бы мог подумать, что ядерную бомбу будут использовать для того, чтобы кого-то бомбить?).
Спохватившись, интеллектуалы попытались загнать джина обратно в бутылку: Оппенгеймер участвовал в разработке доклада Ачесона-Лилиенталя, где государствам предлагалось передать все урановые шахты, средства для обогащения и ядерные реакторы под контроль ООН. Этот план обсуждался вполне всерьез, но в итоге ограничились МАГАТЭ и ядерным клубом – но даже этого пока достаточно, чтобы с 1945 года на руках Оппенгеймера не появилось ни одной новой капли крови.
Поколение родившихся на рубеже веков смогло политикой обуздать эффекты ядерной бомбы. Ну а нам придется решить ту же проблему для искусственного интеллекта: на этот раз очередная удивительная штука уже сдает экзамены лучше, чем нужно для поступления на PhD в Гарвард, а мы все еще не понимаем, что делать, если у ИИ появятся цели, отличные от тех, что устраивали бы человечество. И если вам кажется, что сравнение какого-то чатбота с ядерной бомбой - излишняя лихость с моей стороны, то рекомендации из абзацев ниже будут вам очень кстати.
В прошлую субботу я провел последнюю лекцию своего курса по этике и регулированию ИИ в Вышке. Хотел поделиться программой – получился неплохой набор текстов, чтобы разобраться в теме с нуля. Заодно посоветую, что еще почитать.
Если вы не знаете английский, то выбор небольшой. Переведены две уже почти классических книги – «Искуственный интеллекта» Бострома и «Совместимость» Рассела. Из остального я бы обратил внимание на «Эпоху надзорного капитализма» Зубофф, «Сверхдержавы искусственного интеллекта» Кай-Фу Ли и «ИИ 2041» Чэнь Цюфаня.
Если с языком ограничений нет, то читайте не книги, а статьи и отчеты – фронтир мировой науки давно уже там.
Во-первых, изучите программы курсов: AI Governance Fundamentals, курсы по этике ИИ от Гарварда и Эдинбурга, неплохой курс по экономике ИИ на Coursera и ридинг-лист Алана Дефо.
Во-вторых, следите за публикациями исследовательских центров. Тут безоговорочный лидер - Centre for the Governance of AI. Среди других стоит упомянуть Future of Humanity Institute в Оксфорде и Centre for the Study of Existential Risk в Кэмбридже – они были среди первых, кто вообще начал писать по теме AI Safety. HAI в Стэнфорде публикует важный AI Index Report, CSET в Джорджтауне и стэнфордская DigiChina отлично пишут про технологическую политику в целом, фокусируясь на Китае. В континентальной Европе можно посмотреть на Centre for Digital Governance в берлинской Hertie School (но они куда менее активны, чем их англо-саксонские коллеги).
Из глобальных think tank’ов стоит читать программу по AI Governance у Brookings и статьи Мэта Шиана в Карнеги, а среди специализированных - отчеты The Future Society и Partnership on AI. Чтобы познакомиться с анти-регуляторной позицией, поддерживаемой индустрией, можно почитать Center for Data Innovation.
В-третьих, подпишитесь на пару рассылок, чтобы следить за последними новостями. Лично я предпочитаю ChinaAI про ИИ в Китае и Import AI для общих обзоров. В российском телеграме есть «Малоизвестное интересное» и База знаний AI. Многие любят подкасты, но я - не фанат, поэтому слушаю только 80,000 hours.
P.S. Если вы занимаетесь смежными темами и вам было бы интересно пообщаться – пишите мне в личку (в описании канала).
Новогодняя ночь прошла на вершине Килиманджаро, так что в очередном списке вычеркнуты уже две позиции из семи (но на оставшиеся пять вершин вполне может уйти вся жизнь).
За прошедший год подписчиков у канала стало в 4 раза больше, и это уже совсем не личный блог для рассказов о приключениях в Китае. Поэтому хочу понять, о чем вам вообще интересно читать - ответьте, пожалуйста, на пару вопросов ниже.
И если у вас есть советы, рекомендации или критика про контент на канале - сейчас идеальный момент, чтобы поделиться в комментариях.
Несколько дней назад «Проект» написал хороший материал: оказывается, 90% политических предсказаний одного из авторов «Медузы» со ссылкой на “инсайдеров в Кремле” не сбылись. Здорово, что кто-то занялся подсчетами, но результат ожидаемый – не потому, что «Медуза» плоха, но потому, что качество экспертных, а уж тем более журналистских, прогнозов обычно пугающе низкое.
В уже далеком 2005 году Филипп Тетлок написал хорошую книгу: теперь мы знаем, что эксперты предсказывают будущее так же бездарно, как обычные люди. В медиа еще и искаженная система стимулов: хорошая «говорящая голова» для журналиста – совсем не обязательно та, что точно описывает реальность, но скорее та, что позволяет привлечь максимум аудитории. Логика не зависит от идеологии: если вы с треском провалились, предсказывая быструю победу России, или разрушение ее экономики под ударом санкций, то все равно останетесь “уважаемым экспертом”.
При этом есть довольно точный инструмент для оценки будущего, который пока, увы, не слишком распространен - рынки предсказаний. Здесь - совсем кратко, больше деталей - в свежем обзоре от Astral Codex Ten или статье от Эконс на русском.
Когда вы заходите на сайт биржи – например, PredictIt или Polymarket, то видите там набор вопросов о будущем. Например, такой: «Станет ли Трамп кандидатом в президенты в 2024 году?». Можно купить «акцию» события: если оно реализуется (Трамп выиграет праймериз), то получите доллар. Сейчас «акция» Трампа стоит 38 центов – и это значит, что биржа оценивает вероятность его победы в 38%. Но как это работает?
Допустим, вы считаете, что вероятность победы Трампа – 70%. Получается, что ценность акции для вас – $0.7 (70% вероятности получить 1 доллар после завершения праймериз), так что купить ее за $0.38 очень выгодно – вы заработаете 32 цента. Также и с продажей: если 70% - это по-прежнему ваша оценка, а цена акции вдруг взлетела до $0.9, вам выгодно ее продать: вы заработаете не $0.7, а $0.9 – причем прямо сейчас.
Получается, на рынке формируется справедливая цена, которая отражает веру участников вероятность того или иного события. Но почему эта вера соответствует реальной вероятности? Тут логика такая же, как в случае с обычной биржей: если в мире есть человек, который оценивает вероятности лучше, чем рынок, то он может постоянно зарабатывать на этом, покупая недооцененные акции и продавая – переоцененные. Либо он быстро станет миллиардером, либо рынок отреагирует изменением цены. В итоге получается, что рынки оценивают вероятности довольно точно.
Одна из проблем с текущими биржами – на них слишком мало денег для того, чтобы формировать справедливые цены. Нормальных же российских рынков предсказаний нет вообще.
Возможное решение - делать закрытые биржи, которые работают без финансовых стимулов. Например, разведывательное сообщество США в 2010 году запустило свой собственный рынок – там могут участвовать только работники ЦРУ, ФБР и десятка других ведомств, зарабатывая не деньги, а "очки репутации". Оценки биржи получались более точными, чем в отчетах разведчиков-аналитиков (хотя к исследованиям есть и вопросы).
Но данные ЦРУ недоступны обычным людям. Чтобы хорошие предсказания были публичными, нужно привлекать деньги на открытые биржи. В России можно было бы обложить налогом ставки на спорт и стимулировать букмекеров создавать рынки предсказаний. Политические события не менее увлекательны, чем футбол, ну а лудоманам вообще безразлично, на что именно ставить (например, на фейковый чемпионат по крикету, который снимали в деревне специально для россиян).
Возможность заработать на лудоманах привлечет тех, кто делает предсказания хорошо, а мы получим точные коэффициенты для множества событий – и вместо бесполезного знания о том, что вероятность победы Манчестер Сити в ЛЧ – 36%, будем знать, например, вероятность того, что война закончится ближайшей весной.
Ну а журналисты и эксперты должны вести публичный реестр всех своих прогнозов - будет понятно, насколько им можно доверять.
Технологические монополии
Знакомый недавно закончил достаточно хорошую PhD-программу в США и вышел на работу в IBM Research, несмотря на мои настойчивые попытки пристроить его в Google Research. После нескольких месяцев работы предсказуемо рапортует о сонных, немотивированных коллегах. Чтобы с моими дорогими читателями такой беды не приключилось, попытаюсь порассуждать, где на Руси жить хорошо где хорошо делать прикладную науку и почему Google десять лет подряд был лучшим работодателем в мире.
Чтобы с пользой вкладываться в долгосрочные исследования, нужны две вещи: свободные ресурсы (чтобы было вообще что вкладывать), и уверенность в том, что когда результаты подоспеют через 10-20 лет, собирать урожай предстоит все еще вам (а не чужим людям или даже прямым конкурентам). И для первого, и для второго весьма хорошо иметь монополию.
Лучше всего, конечно, монополия государства на насилие. Если государство забирает себе 20%–50% всех доходов всех своих подданных, ему очевидно выгодно вкладываться в науку: любое будущее увеличение экономической активности, в любом месте, автоматически приводит к поступлениям в бюджет. Но монополия на насилие в демократическом государстве глубоко забюрократизирована, и академическая среда устроена по образу и подобию своего патрона, демократического государства (как любит писать великолепный Галеев, успешные институты переупорядочивают мир за собой): ежегодные подачи и переподачи на гранты, прохождения по конкурсу (~=election cycles), "diversity and inclusion statements" и так далее. Имидж не просто важнее реальности, он и есть реальность. Суетливо, скучновато.
Есть и другой путь. Быть технологической монополией почти так же хорошо, как и быть государством. Microsoft создали операционную систему (Windows), она стала непререкаемым бизнес-стандартом. Теперь любое увеличение экономической активности, в любом месте, требует покупки новых PC, на которых обязательно должна быть куплена лицензия на Windows. Люди могут хоть лабораторное мясо производить, хоть VR-игры, без профита для Microsoft не обойдется.
Поэтому в каждую эру была своя доминантная технологическая монополия: те, кто уже изобрел инновацию и сделал из нее машину по захвату мира, но этой машине еще есть куда расти, и ее все еще не коммодитизировали.
Дальше будет очень грубо, потому что не все так линейно, но. В 1920е-1970е любая бизнес-активность шла через телефонную связь, поэтому в числе доминантных монополий были AT&T и Bell Labs. Неудивительно, что их исследовательский отдел собрал сильнейшие таланты своей эры и получил несколько Нобелевских премий и премий Тьюринга, включая моего любимого Ричарда Хэмминга.
В 1980х монопольным "пропускным пунктом" были компьютеры IBM, и неудивительно, что именно они на свои прибыли сделали первый в мире компьютер, который победил человека в шахматы (Deep Blue, победил Гарри Каспарова).
В 1990х-2000х "железо" успешно коммодитизировали, а монопольным пропускным пунктом стала ОС Windows. Поэтому максимально интересно было работать исследователем в Microsoft Research, и максимальное количество премий Тьюринга, кажется, было там же.
В 2010х доминатные монополии – Google и Facebook. Если вы собрались делать бизнес, хоть цветочный магазин, хоть дейтинг-приложеньку, вам нужно будет его рекламировать в Интернете: либо в Google, либо в Facebook (=Instagram, etc). Поэтому неудивительно, что в последнее время самые интересные открытия в AI появляются именно там. Но, увы, экс-коллеги говорят, что уже и Google не торт: потолок насыщения все ближе, гайки закручивают все сильнее, понаприходили трудоголики из Microsoft Research и оптимизируют гиперпараметры нейросетей круглыми сутками, вытесняя "свободных художников".
Где же лучше всего прямо сейчас? Длинную версию отложу на потом, но короткая версия – думаю, что в крипте. Я все-таки не случайно Research Partner в Dragonfly, крипто-венчурном фонде.
В последнее время из российского телевизора часто можно услышать, что Европа – умирающий американский холоп, не влияющий ни на что в мире. С некоторыми фактами сложно спорить: с 2008 по 2020 г. совокупный ВВП Германии и Франции упал на 3%. Но это только часть картины: на самом деле ЕС находится гораздо ближе к статусу глобального гегемона, чем можно подумать – просто гегемония эта находится не там, где вы ее искали.
ЕС выбрал не совсем типичную стратегию: создал лучшую в мире машину в мире по производству законов, где тысячи бюрократов методично создают свой собственный аналог Вавилонской библиотеки – пишут многотомные трактаты, пытаясь зарегулировать каждый аспект человеческой жизни. И вот парадокс: эти законы работают и за пределами ЕС.
На прошлой неделе Европейская комиссия даже открыла свой офис в Сан-Франциско, чтобы общаться с местными tech-гигантами. Получается забавно: все важные компании – в Кремниевой долине, а их регулятор – в ЕС. Никто другой так делать не умеет: Америка пытается быть верной идеалам laissez-faire, да и партийная поляризация иногда мешает принимать по-настоящему влиятельные законы. В Китае регулирования достаточно, но неоднозначная репутация на международной арене усложняет адаптацию этих норм за рубежом.
А вот с незримым влиянием Европы мы сталкиваемся каждый день. Наверняка вы ругались, что зарядка для айфона отличается от других телефонов - производители никак не могли договориться о едином стандарте. Европейская бюрократия поставила точку в этом вопросе: с 2024 г. все новые телефоны, продающиеся в ЕС, должны иметь разъем Type-C. Европа – это четверть мировых продаж Apple, производить отдельный продукт для европейцев будет невыгодно, так что теперь все айфоны в мире скорее всего будут заряжаться через Type-C.
Можно возразить, что зарядка – важная штука, но вряд ли влияние государства определяется тем, кто выбирает форму штекера. Но «Брюссельский эффект» позволяет навязывать миру и куда более важные ценности.
Самый простой пример - законы о hate speech, «языке вражды». Из России Америка может выглядеть как царство победившей толерантности, но Первая поправка все еще играет там огромную роль: свобода слова включает в себя свободу ненависти, так что юридических ограничений оскорбительных речей не существует.
А вот Европе отношение совсем другое - hate speech там запрещена. В 2016 Европейская комиссия подписала соглашение с Facebook, Twitter, YouTube, и Microsoft: они обязались применять в своих продуктах правила, соответствующие европейским нормам. Facebook, например, нанял тысячи модераторов, следящих за тем, чтобы дискриминационный контент не появлялся на страницах соцсети. Разделить европейский и глобальный Фейсбук очень сложно, так что европейские правила применяются по всему миру – в том числе и в США, несмотря на Первую поправку.
Сейчас ЕС пошел еще дальше и этим летом принял два новых закона: Digital Services Act (DSA) и Digital Markets Act (DMA). DSA защищает пользователей: например, запрещает таргетировать рекламу по признаку политических взглядов, национальности или сексуальной ориентации. DMA ограничивает власть экосистем: например, в Apple скорее всего будут вынуждены разрешить установку сторонних магазинов приложений, а еще не смогут комбинировать данные из разных источников для таргетированной рекламы без прямого согласия пользователя.
На подходе еще и AI Act – пока что самая детальная в мире попытка зарегулировать вопросы искусственного интеллекта. Он заслуживает отдельного поста, но, например, алгоритмы автоматической оценки кандидатов при приеме на работу отнесли к категории «высокого риска», требующей сертификации – и это серьезно повлияет на бизнес LinkedIn.
Когда я учился в Sciences Po, то удивлялся, почему так много моих однокурсников мечтают стать скучными европейскими бюрократами. Потом понял, что это идеальное воплощение жизни мандарина: сидя в брюссельской башне из слоновой кости, писать слова, по которым будет жить весь мир.
Два дня назад правительство США закрыло доступ к Fable 5 и Mythos 5 от Anthropic всем пользователям без американского гражданства. Три мысли от меня: (1) нужно ждать новых запретов; (2) влияние на экономику США может быть позитивным; (3) Китай получит дополнительное преимущество, но недостаточное, чтобы догнать США.
Во-первых, решение явно приняли в спешке, поэтому выглядит оно неуклюжим (доступ заблокировали всему миру, т.к. нет механизма проверки гражданства, и даже сотрудники Anthropic без паспорта США не могут пользоваться моделью). Хотя Anthropic сами разогнали панику – очень уж хвастались, как опасна модель, призывали поставить развитие ИИ на паузу, да еще и поссорились с Минобороны.
Но процедурные мелочи скоро поправят. Может быть, и запрет отменят, но вот будущая траектория очевидна: доступ к фронтирным моделям будет ограничен государством. Если ваш ИИ действительно может находить критические уязвимости, то абсурдно ожидать, что его за 200 долларов сможет использовать любой Иван Иваныч с VPN. Даже американский Джон получит обрезанную версию, а доступ к фронтиру будет только у компаний. ИИ-лаборатории это переживут: подписки для физлиц уже сейчас могут быть неприбыльны, так что фокус развития – на B2B (у OpenAI - 40% выручки с ожиданием роста; у Anthropic – скорее всего 60%+). Страны-союзники наверняка тоже получат доступ, а для иностранных сотрудников сделают процедуру clearance.
Во-вторых, экономический эффект запрета неочевиден. На первый взгляд, выглядит негативно - Anthropic просто потеряет международный рынок, отдав его Китаю. Это потеря, но не такая критичная, как можно подумать: порядка 40-50% выручки tech-гигантов – в США, а вместе с союзниками наберется и 75%. Минус 25% выручки – неприятно, но жить можно.
А вот для экономики США в целом это может быть даже выгодно! По сути, стратегическая дилемма тут следующая: должны ли Штаты экспортировать ИИ-модели или результаты их применения? Скажем, с эксклюзивным доступом к фронтирным моделям американские консультанты по кибербезе потеснят конкурентов, а американская фарма создаст новые лекарства. Если токены – новая нефть, то нужно продавать не сырой продукт, а его производные.
Ожидания по суммарной выручке OpenAI + Anthropic к 2030 году - ~$600 млрд (и это оптимистично – сейчас они зарабатывают примерно в 10 раз меньше), но США каждый год экспортирует ~$3.5 трлн услуг и товаров – если доступ к фронтиру увеличит эту цифру хотя бы на 5%, это компенсирует потери ИИ-лабораторий. Ну и стратегический бонус: деньги деньгами, но иногда важнее, что только в твоей стране есть доступ к уникальной технологии.
И тут как раз возникает третий, самый важный вопрос: не приведет ли закрытие доступа к тому, что США отдаст мировой рынок Китаю и потеряет технологическое лидерство?
Главный фактор для создания фронтирной модели – объем вычислительных мощностей. Доступа к лучшим GPU у Китая нет, но даже если эта проблема будет решена, остается другое узкое горлышко – капитал. В 2026 году США инвестируют ~$500+ млрд в год в ИИ-инфраструктуру. В Китае частники тратят примерно в 5-10 раз меньше. Да, государство добавит еще $60+ млрд в год, и да, строить ЦОДы в Китае дешевле, чем в США, но суммарное отставание все равно значительное.
Если американские ИИ-игроки потеряют ~25% будущей выручки, логично ожидать, что рост CAPEX тоже замедлится. А для Китая, наоборот, исчезнут конкуренты на мировом рынке – больше будущей выручки и больше инвестиций. Но масштаб не такой, чтобы полностью устранить разрыв. К тому же Китай и сам наверняка закроет доступ к своим моделям, если они станут опасными – тогда все преимущества обнуляются.
Другой важный фактор – человеческий капитал. 38% всех ведущих ИИ-иследователей закончили бакалавриат в Китае - но 72% из них сейчас работают в США! Если этим людям нельзя будет работать над фронтирными моделями, то часть из них подумает над возвращением на родину – это будет серьезной помощью для Китая, но вряд ли превратит его в лидера (сейчас в США – 59% всех ведущих ИИ-исследователей, в Китае – 11%).
В итоге: решение выглядит суетливо, но на практике – вполне разумно.
Приехав в Калифорнию на выпускной к девушке, я с удивлением обнаружил, что местные книжные набиты литературой об античности – видимо, как и положено мужчинам, стартаперы Долины тоже думают о Римской Империи каждый день. В конце концов, говорят, что сам Цукерберг во время медового месяца фотографировал статуи Октавиана Августа чаще, чем свою жену, а родившихся чуть позже дочек назвал Максимой, Августой и Аврелией.
В итоге домой я возвращался с книгой Кирка Орманда об истории сексуальности в античности. Люблю такие тексты за напоминание: чужие общества не просто иначе относятся к привычным нам явлениям, но принципиально по-другому структурируют социальное пространство, так что многие понятия, которые кажутся нам естественным способом описания реальности, просто теряют смысл. Примера будет два.
О первом из них вы наверняка слышали благодаря «Истории сексуальности» Фуко – как бывает с великими книгами, ее идеи знакомы даже тем, кто их не читал.
Все мы вроде бы знаем, что гомосексуальность в античной Греции не считалась чем-то предосудительным. Но думать так – типичное заблуждение: никакой гомосексуальности там просто не существовало.
«Нормальный» набор сексуальных предпочтений для афинского аристократа – испытывать влечение к юношам (Орманд уточняет – до того момента, как у них появляются волосы на щеках и ягодицах) и женщинам любого возраста. Если мужчина спит только с мальчиками или только с женщинами - это несколько странно; если спит с другим взрослым мужчиной – уже ненормально. Но осуждать будут прежде всего того, кто выступал в пассивной позиции, ведь такое поведение – утрата мужественности, а значит - позорно. В глазах афинского общества проблема - не влечение к мужчинам, а нарушение гендерных ожиданий.
Гомосексуальность как привычная нам категория просто не имела смысла в афинской системе координат: человек определялся через его роль в сексуальных отношениях, а не через гендер партнеров. Иронично, что взгляды афинских аристократов сегодня скорее найдёшь не в академии, а, скажем прямо, в не самых рафинированных слоях общества - например, в тюрьме.
Кстати, сближает аристократов с уголовниками не только категориальный аппарат: афинское влечение к юношам – откровенная педофилия по современным стандартам. Впрочем, стандарты эти появились не так уж давно. Хотите испытать шок – почитайте про французсикие петиции 70-х годов с подписями Сарта, Делеза и де Бовуар - в защиту мужчин, переспавших с детьми 12-13 лет (а потом прочитайте «Согласие» Спрингора, которая переосмыслила эту дискуссию уже в наши дни).
Второй пример – чуть менее известный. Тут стоит вспомнить о том, что у современного общества есть почти религиозная страсть к устранению неравенства. В рамках нашей системы ценностей довольно очевидно, что отношения профессора и студентки проблематичны: один из участников обладает властью над другим, а значит, полноценное согласие невозможно. Еще более очевидно, что нормальные отношения эгалитарны и в романтическом плане: оба партнера любят друг друга.
Но это – совсем не очевидно в античном мире! «Правильные» античные отношения (естественно, между юношей и мужчиной) принципиально неэгалитарны, в них четко определены роли. Один – старший, другой – младший. Один – влюбленный, другой – возлюбленный. Подразумевается, что сексуальное влечение испытывает только старший, а младший соглашается, получая в обмен деньги (это позор) или мудрость (это достойное поведение).
В такой модели неравенство – это не проблема, а благо: чем богаче или мудрее старший партнер, тем лучше – значит, больше достанется и младшему. А то, что юноша не испытывает влечения – нестрашно. Скоро он повзрослеет и найдет себе младшего уже сам.
Это, конечно, не такой удар по образу Древней Греции как то, что античные статуи были цветными, но кое-что новое о мире, который с детства казался родным. А заодно и повод перечитать какой-нибудь любимый античный текст, который может зазвучать по-другому – как будто вы наконец узнали значения используемых там слов.
P.S. Почти два года без постов – если честно, я скучал!
На позапрошлых выходных я проплыл «половинку» Oceanman – 5 км. Возрастная категория «20-29» оказалась самой медленной, так что я даже занял четвертое место, пускай и безнадежно отстал от сорокалетних. Страсть к марафонам, триатлонам и прочим способам конвертации продолжительного страдания в удовольствие обычно ударяет в голову вместе с кризисом среднего возраста - уже после 30.
Заодно хочу взять публичное обязательство: до конца следующего года проплыть полную дистанцию – 10 км. Тренироваться мне лень, но стыд перед другими людьми обычно сильно мотивирует. К тому же прошлый пост собрал столько прекрасных яростных комментариев, что я уверен: вам будет приятно назвать меня безвольной овцой, если через год я не отчитаюсь о проплытой десятке. Эта мысль будет согревать меня на утренних тренировках.
В поведенческой экономике это называется commitment device – на русском это можно назвать устройством самопринуждения. Логика тут простая: вы отлично понимаете, что, например, тренироваться каждый день – правильное решение. Издержки: по утрам придется немного пострадать. Награда: через 3 года вы будете в прекрасной форме. Когда эти действия вы только планируете, награда выглядит гораздо привлекательнее, чем издержки.
Проблемы начинаются в тот момент, когда нужно отправиться на тренировку. Прекрасная форма все еще где-то далеко, а рано проснуться надо прямо сейчас. Награду в будущем мы всегда дисконтируем - считаем менее значительной, чем то, что происходит здесь и сейчас, так что издержки в моменте легко перевешивают, и на тренировку мы не идем.
Устройство самопринуждения – это любая договоренность, которая переносит награды и издержки из будущего в настоящее. Если вы публично пообещали другу, что будете ходить на тренировки каждый день, то утром, отключая будильник, подумаете уже не о потере эфемерного здоровья через много лет, а о том, что опозоритесь прямо сейчас.
Финансовые стимулы работают еще лучше: я, например, плачу младшему брату штраф за каждую неделю, когда не прочитываю книгу (последние полгода - за каждые две недели). Это очень мотивирует – особенно в последние часы перед дедлайном.
Те же принципы работают и в глобальном масштабе.
Классический пример: людям предложили положить деньги на шестимесячный депозит, средства с которого они получат назад только в том случае, если бросят курить (на слово, конечно, не верили – проверяли мочу на содержание никотина). Эффект был небольшим, но заметным: те, кому предложили депозит, бросали курить на 3 процентных пункта чаще, чем контрольная группа.
Похожим образом работает гениальный beeminder – вы подключаете туда любое приложение, замеряющее какой-нибудь показатель, и определяете свое наказание за невыполнение целей: скажем, списываете $10 со счета, если за день прошли меньше 10,000 шагов.
Часто говорят, что идеальное государство – это сервис, облегчающий жизнь людей. И если людям так сложно принимать решения с долгосрочными выгодами – может быть, государство должно с этим помочь? Beeminder используют только гики, а труднодостижимые цели есть у каждой бабушки из Перми.
Если подключить воображение, то можно представить такую функцию на госуслугах. Каждый человек выбирает нужные ему цели (конечно, из числа тех, которые были сочтены общественно полезными – вроде спорта или образования), чтобы обрушить на себя всю мощь государства в случае их невыполнения. Конечно, участие в такой программе - абсолютно добровольно, но, в отличие от beeminder, просто отменить договор нельзя, да и санкции можно сделать разнообразнее – от небольшого штрафа до исправительных работ, если вы считаете себя совсем уж безвольным.
Получается, вы создали себе своего личного, ручного Левиафана – теперь он заставляет вас делать именно то, что хотите вы.
Впрочем, с государством, как всегда, есть только один крошечный минус. Я был бы рад, если за каждую неделю без чтения мне приходил бы штраф, но очень расстроился бы, если госуслуги определяли, какую именно книгу я должен прочитать в этот раз. А Левиафаны, даже ручные, склонны к такому поведению - так что лучше буду по старинке платить штрафы брату.
Многие люди гордятся тем, что ничего не принимают на веру, полагаясь только на факты. Проблема в том, что многое из того, что мы привыкли считать объективным описанием реальности, на самом деле – довольно шаткие конструкции, выстроенные на десятках допущений.
C фактами о физическом мире все просто: Земля - круглая, от Москвы до Парижа – примерно 3000 километров, дуб - дерево, смерть неизбежна. По привычке хочется думать, что социальный мир устроен примерно так же - но это не так.
Возьмем простой факт, аналог “экономического расстояния” от Москвы до Парижа – ВВП. США - самая крупная экономика мира, Китай в 2022 году вырос на 3%, а российский подушевой ВВП, увы, пока поменьше французского. Казалось бы, это высеченные на сайте Всемирного банка истины, беспристрастно описывающие мир таким, какой он есть – без идеологии, политики и личных пристрастий.
Но относиться к этим цифрам нужно осторожно. Наткнулся на отличное исследование: Луис Мартинез из Чикагского университета сравнил, насколько хорошо декларируемый рост ВВП соответствует изменениям в уровне ночной освещенности, которые регистрируют спутники (если ваша экономика растет, то и света в ней будет больше – экономисты давно используют это разумное предположение).
Результаты – на картинке ниже. В демократиях логика работает идеально: чем больше ВВП – тем больше света. А вот в авторитарных режимах закономерность почему-то сломалась: за последние 20 лет они отчитались о росте ВВП на 147%, а освещенность выросла всего на 76%. Китай заявлял, что его ВВП вырос почти в пять раз, но территория страны стала ярче чуть больше, чем в два с половиной раза. Вывод Мартинеза очень простой: авторитарные лидеры врут, завышая данные об экономическом росте. Проверить их толком все равно никто не может – что IMF, что Всемирный банк вынуждены опираться на национальную статистику.
Если Мартинез прав, то это радикально переворачивает наше представление о мире: растущий в два раза медленнее Китай – совсем не та история о новом мировом гегемоне, в которую мы привыкли верить. Но я бы на вашем месте сомневался не только в изначальных цифрах ВВП, но и в результатах исследования: слишком уж идеально данные вписываются в нарратив о лживых автократиях.
Во-первых, освещенность – не идеальный показатель для измерения ВВП: например, она плохо отражает изменения в ВВП сельскохозяйственных районов из-за невысокой плотности населения. А два разных спутника вообще могут выдать абсолютно разные результаты для одной и той же территории.
Во-вторых, завышение роста ВВП аж в два раза наверняка бы заметили – тем более если речь идет о Китае, за экономикой которого следят сотни исследователей.
Впрочем, Мартинез наверняка прав хотя бы отчасти. К китайской статистике со скепсисом относятся не только исследователи, но и чиновники: благодаря Wikileaks мы знаем, что ныне покойный Ли Кэцян как-то признался американскому послу, что и сам не слишком доверяет региональным данным по ВВП, а ориентируется на цифры энергопотребления, грузоперевозок и объема кредитования. Экономисты поступают так же: ищут подходящий прокси, чтобы оценить истинный размер ВВП - от пассажирского трафика до продаж нижнего белья.
И хотя есть те, кто уверен, что любые данные от КПК – это мусор, большинство все же считает, что если китайцы и приврали, то скорее на несколько процентных пунктов за десяток лет. Даже внешние данные, вроде информации об импорте китайских товаров от стран-покупателей, говорят о том, что Китай вряд ли завысил свой рост ВВП в два раза.
Вывод простой: пока у нас нет точного способа понять, кто прав – Мартинез или китайские статистики, не стоит забывать, что абстрактные категории вроде ВВП обычно помогают нам понять мир, но иногда – вводят в заблуждение. Возможно, вы узнаете об экономике Китая больше, если разберетесь, сколько автомобилей он экспортирует (уже вышел на второе место в мире и окажется на первом совсем скоро), чем если узнаете, когда он обгонит США по ВВП (скорее всего, где-то во второй половине 30-х).
Наверняка вы знаете, что еще в начале XIX века ВВП Китая был в 3 раза больше, чем у Англии и Франции вместе взятых. Но почему тогда Китай так безнадежно проиграл западу? Причин, естественно, много, но сфокусируемся на одной.
@Politicanimalis цитируют Пикетти: на конец XVIII века налоговые сборы Китая составляли всего 1% от национального дохода, а европейцы уже научились собирать со своих поданных по 6-8%. Огромный ВВП – просто цифра на бумаге, если он распределен между миллионами мелких торговцев, а государство не умеет экспроприировать его на благо родины.
Тогда Китаю пришлось отказаться от туземного laissez-faire и заимствовать лучшие западные практики, наращивая вмешательство в экономику. Сегодня часто происходит наоборот – копировать приходится уже западным странам.
Хороший пример – суверенные фонды. Благодаря огромному экспорту к середине нулевых у Китая накопилось почти $1.5 триллиона резервов. Продолжать хранить такую кучу денег в американских облигациях с мизерной доходностью китайцам уже не хотелось, так что они передали часть капитала в созданную в 2007 году China Investment Corporation (CIC): вложения в реальный сектор должны были обеспечить более приятные дивиденды.
На первый взгляд, получилось отвратительно. Среднегодовая доходность CIC за 2008-2020 гг. - примерно 6%, что меньше, чем принесли бы вложения в индекс S&P 500. Если учитывать еще и расходы на содержание бюрократической машины, то получится, что CIC – не такая уж выгодная штука. Парадоксально, но именно это – причина, по которой CIC боятся на западе.
Возьмем простой пример: 2016 год, китайцы предлагают около 5 миллиардов за Kuka – немецкую компанию, производящую промышленных роботов. Покупает в этот раз даже не CIC, а частная компания, но немцы опасаются, что за ее спиной стоит государство, и пытаются убедить местный бизнес выкупить компанию у текущих владельцев. Никто не соглашается: китайцы предложили слишком уж высокую сумму. Kuka в итоге пришлось продать, но немцы долго еще сокрушались, осуждая политические инвестиции Китая. Казалось бы, абсурдная претензия: если рынок считает, что компания стоит 3 миллиарда, а китайцы готовы заплатить 5 - тем хуже для них: получается глупые бюрократы, на которых не действую нормальные рыночные стимулы, неверно оценили бизнес, так что только потеряют деньги, которые в итоге получит немецкая экономика.
Проблема в том, что не существует «справедливой» цены в абсолюте. Макдональдс будет готов заплатить за поставщика картошки больше, чем Apple, а государства оценивают компании не так, как рынок. Китай покупал Kuka не для того, чтобы заработать напрямую, а чтобы обеспечить трансфер технологии, которую компартия сочла важной в рамках стратегии Made in China. Суверенный фонд – это инструмент именно для таких стратегических покупок.
У Европы есть три варианта действий.
Во-первых, можно попытаться убедить компании перебивать китайские ставки. Иногда это получается: в 2018 году немецкий госбанк KfW выкупил оператора электросетей 50Hertz, чтобы защитить его от поглощения State Grid Corporation of China. Но обычно бизнес совершенно не горит желанием переплачивать за активы, тем более что соревноваться в глубине кошелька с китайским государством – затея довольно бесперспективная
Во-вторых, можно ввести полный запрет для китайских инвестиций или жесткие правила для их скрининга. Запад идет по этому пути, но европейцы не могут полностью отказаться от китайского капитала, опасаясь встречных санкций: например, запрета на поставки немецких автомобилей в Китай.
Наконец, в-третьих, чтобы убить дракона, нужно стать драконом самому. Европа создает собственные суверенные фонды, чтобы защищать стратегические активы, выкупая компании, которые пытаются поглотить китайцы. Такой существует во Франции, а в Германии активно обсуждался после скандала с Kuka – но пока остался только на бумаге.
Одним словом, по мере того, как китайское государство накапливает у себя в руках все больше экономической власти, его конкурентам приходится копировать повадки нового законодателя политических мод.
Есть у Кейнса одна цитата, которую очень любят интеллектуалы всех мастей: «Люди практики, которые считают себя совершенно неподверженными интеллектуальным влияниям, обычно являются рабами какого-нибудь экономиста прошлого. Безумцы, стоящие у власти, которые слышат голоса с неба, извлекают свои сумасбродные идеи из творений какого-нибудь академического писаки, сочинявшего несколько лет назад».
Написано красиво, а главное – помогает поверить, что идеи не умирают на страницах не читаемых никем академических журналов. Всякий мнящий себя мыслителем – от академика до захудалого блогера - надеется, что и для него найдется свой безумец, который услышит с небес пару цитат из свежеизданной книги.
Конечно, можно подумать, что Кейнс все-таки преувеличивал. Черт его знает, что творится в голове у людей на самой вершине, но какие-нибудь чиновники средней руки точно плевать хотели на любые идеи: содержание их следующего доклада будет зависеть от желания получить повышение, но никак не от от того, попалась ли им на глаза в студенческие годы книга Роулза или Нозика. Вот вроде была в России целая Высшая школа экономики, а либерализма от этого что-то больше не стало, несмотря на десятки тысяч выпускников.
Но это взгляд очень поверхностный: если копнуть поглубже, окажется, что идеи все же имеют значение – и на это есть аргументы посильнее, чем изящные цитаты Кейнса.
Вот, скажем, небезызвестный многим Асемоглу разбирался с вопросом: чем отличаются менеджеры, получившие МBА или бакалаврскую степень по бизнесу, от тех, кто изучал физику или историю? Скорость роста или выручка их компаний совершенно не отличается, а вот прибыль заметно больше: управленцы с бизнес-образованием платят более низкие зарплаты сотрудникам. Почему? Вероятно, все дело в наборе идей, которые студенты усваивают во время учебы. Когда выручка фирмы начинает расти – например, благодаря росту экспорта – физик или историк повысят зарплаты. А вот выпускник MBA, хотя и не научился тому, как нарастить выручку, отлично усвоил один урок: его задача - максимизация ценности для акционеров, так что на рабочих можно сэкономить.
Другая история – еще интереснее. Пятьдесят лет назад Ричард Познер, юрист из Чикагского университета, опубликовал теперь уже знаменитую книгу – «Экономический анализ права». Заметно упрощая его идеи, можно сказать, что при разрешении судебных дел Познер предлагал прежде всего максимизировать экономическую эффективность. Довольно детальный, но доступный для не-юриста анализ можно почитать здесь, но нам сейчас важны практические последствия этой теории: например, более мягкий подход к антимонопольному регулированию.
Несмотря на то, что книга Познера быстро стала довольно популярной среди юристов, американским консерваторам очень хотелось бы, если ее идеи разделяли все – причем, желательно, не теоретики из какой-нибудь там Гарвардской школы права, и даже не практикующие юристы в своих нью-йоркских офисах, а судьи – как раз те, кто принимает решения по делам, затрагивающим интересы бизнеса.
Поэтому несколько консервативных фондов стали оплачивать для судей двухнедельную поездку в один из пляжных отелей Майами, где читали интенсивный курс по экономике и праву. Программа была очень популярной (возможно, из-за интереса к теме, но может быть и из-за хорошего отеля). К 1990 году ее прошли около 40% всех федеральных судей, причем после ее окончания они выносили «консервативные» решения по экономическим кейсам на 30% чаще, а по уголовным делам давали подсудимым тюремные сроки на 25% длиннее. Иногда получалось влиять даже на идеологическим противников: программу закончила Рут Бейдер Гинзбург – одна из судей Верховного суда, знаменитая своим либерализмом. По некоторым антимонопольным кейсам, однако, она голосовала вместе с консерваторами – кажется, курсы не прошли даром.
В общем, все еще неясно, что там слышат с неба безумцы у власти, но усвоенные за школьной скамьей идеи точно сильно влияют на обычных чиновников и бизнесменов.
Нет ничего банальнее, чем поиск параллелей между христианством и марксизмом – это постыдное удовольствие всякого доморощенного интеллектуала. В котором не откажу себе и я – а еще расскажу, где сегодня искать духовных наследников этих движений.
Христианство и марксизм объединяют три главных фактора: универсальность этических притязаний, милленаризм и этика самопожертвования.
Универсальность – способность сделать субъектом своей идеологии любой подходящий объект. Для Бога нет ни иудея, ни эллина, ни варвара; а законы марксизма по-вселенски всеобщи – работают и в Конго, и в США. Христианство или марксизм справились бы с включением в свою логику даже инопланетян, окажись те на земле в 325 или 1867 году: душа, как и производственные отношения – материи слишком тонкие, чтобы ограничиваться лишь белковыми формами жизни.
Милленаризм - вера в грядущий конец света – гениальный способ обеспечить лояльность сторонников. Зрелые католики или культурные марксисты, уже, конечно, не ждут Второго пришествия или революции на своем веку, но ранние христиане или большевики жили в ожидании неотвратимых изменений: если не успеть принять символ веры, то второго шанса не будет – вы навсегда останетесь на ложной стороне истории.
Этика самопожертвования – следствие первых двух характеристик. Если вы верите, что помогаете вселенной перед лицом конца света, то мирскими радостями можно и пожертвовать. Аврелий Августин стремится к избавлению от всех возможных удовольствий, опасаясь даже приятного слуху хорового пения, а марксист Рахметов спит на гвоздях для воспитания духа. Ну а настоящее величие обоих мыслительных систем – в длинном списке мучеников: Святой Лаврентий заживо изжарен, так и не отрекшись от Христа; а Эрнст Тельман, глава немецкой компартии, проводит в тюрьме 11 лет перед расстрелом за поджог Рейхстага.
Ну а где же наследники? Хотя под три критерия можно подвести тысячи сект и учений, некоторые из них куда интереснее остальных.
Эффективный альтруизм, или ЕА, начался с простой, логически безупречной идеи: если вы хотите помогать людям, это нужно делать максимально эффективно. Потратите $10,000 на больных раком в США - оплатите безнадежно умирающему пару дней в хосписе. Вложите в сетки от малярийных комаров - спасете две человеческих жизни. Если вы правда хотите помочь, то первая опция хуже, чем преступление – это ошибка. Звучит предельно универсально, но вряд ли вдохновляет так сильно, как пролетарская революция или Царствие Небесное.
Но лонгтермисты, возникшие внутри эффективного альтруизма, доводят эту незамысловатую утилитаристкую логику до предела: если жизни будущих людей ценны нам также, как живущих сегодня, то единственная по-настоящему важная задача – защитить бесчисленные будущие поколения от экзистенциальных угроз – например, появления сверхчеловеческого искуственного интеллекта (о том, какие аргументы заставляют принимать этот риск всерьез, я писал здесь).
Своих мучеников у ЕА пока нет, но приверженцы дают обет жертвовать 10% своего дохода на благотворительность, миллиардеры обещают свое состояние после смерти, а особенно рьяные члены публично обещают, что за всю жизнь не потратят на себя ни копейки больше прожиточного минимума.
За последние десять лет эффективный альтруизм обрел удивительную силу: отделения во всех лучших университетах мира, ежегодные конференции, исследовательские центры в Оксфорде и Кембридже, панегирики в New Yorker и обвинения в The Economist. Пытались даже избрать своего кандидата в Конгресс. Выиграть не удалось, хотя на кампанию собрали рекордно много денег. Неудивительно: хотя один из крупнейших спонсоров находится под следствием, ЕА пообещали уже десятки миллиардов долларов.
Звучит как удивительно интересный объект для изучения – безупречная логика и полу-религиозный дух.
Поэтому я хочу сделать ридинг-группу по идеям ЕА для студентов – вести ее буду я и пара моих друзей. Если вы еще учитесь, и идеи, вскользь пересказанные выше, показались вам любопытными – подавайте заявки.
Некий Николай Атанов, бывший министр экономики Бурятии, а ныне профессор местного университета, выступил с восхитительным предложением: создать государственный банк спермы для участников боевых действий. Если солдат погибнет или получит ранение, его родственники могут принять решение “воспроизвести потомков” - желательно, в количестве не менее трех штук. Ну а если у погибшего уже были дети, из них в специальных заведениях нужно воспитать “истинных государственников-патриотов”, после чего непременно устроить на госслужбу.
Смешные фантазии скучающего пенсионера? Конечно. Но идея не такая уж и оригинальная: хотя сегодня слово “евгеника” звучит жутко, вызывая в сознании образы нацистских концлагерей, государства нет-нет да пытаются помочь в размножении “правильным гражданам”.
Господин Атанов вот беспокоится за патриотические гены, а в Сингапуре больше переживали за интеллектуальный уровень нации. В начале 80-х власти обнаружили, что образованные люди рожают мало детей. Особенно тяжело было женщинам с высшим образованием - они и замуж-то выходили нечасто. Власти создали Social Development Unit - организацию, которая помогала одиноким, но образованным сингапурцам найти себе пару. Членам SDU оплачивали курсы танцев и дегустации вин, организовывали свидания и даже субсидировали круизы - все, чтобы погруженные в работу интеллектуалы наконец расслабились и нашли себе пару.
Над организацией смеялись, расшифровывая SDU как “Single, Desperate and Ugly”, но она действительно помогала создавать семьи: все мы знаем, что даже люди с высоким IQ (точнее, именно они) иногда бывают удивительно социально беспомощными. И это даже не феномен XX века: я уже писал, что когда в Англии XIX века сломался местный государственный тиндер для аристократов, несчастным баронам и графам было очень непросто найти пару без помощи государства.
Впрочем, в Сингапуре помогали только умным, а глупых, наоборот, всячески пытались отвадить от столь сомнительного занятия, как деторождение. Если женщина не смогла даже сдать выпускные экзамены в средней школе, вместо того, чтобы оплатить круиз, ей, наоборот, платили $10,000 за то, чтобы она остановилась после первого или второго ребенка.
Похоже на евгенику? Конечно, ведь Сингапур - помешанная на меритократии и эффективности азиатская деспотия. Слава богу, в нормальных странах никто не дойдет до такого.
Вот только на Западе еще в середине прошлого века практиковались куда более жесткие меры. Условно-добровольная, а иногда и принудительная стерилизация была вполне распространенным явлением. Замарать руки в этом успели и Канада с США, и даже райская социалистическая Швеция, где программа продолжалась аж до 70-х годов, затронув 60 тысяч человек: поводом могла послужить умственная отсталость, психические расстройства и даже “антисоциальное поведение”.
Cейчас государства стесняются заниматься таким, но в дело вступает рынок. Зайдите на сайт американского банка спермы: можно выбрать отца своего ребенка почти по любым характеристикам: цвету глаз, любимому животному или знаку зодиака. Господин Атанов был бы рад - можно подобрать даже патриота (по крайней мере, того, кто указал в жизненных целях Community Service). Странно только, что в списке характеристик нет интеллекта, но для этого существуют специальные банки: до 1999 года существовал даже такой, куда сдавать сперму могли исключительно Нобелевские лауреаты.
Но если игры с генетикой - наследие последнего века, то сделать “патриотов-государственников” из сирот пытались всегда. В Египте из рабов с детства воспитывали особую касту солдат - мамлюков, лучшие из которых даже попадали на государственную службу. Родителей у них не было, так что, казалось бы, можно заложить в детях безграничную любовь к государству.
Но вышло не совсем так. К середине XIII века мамлюки поняли, что отлично справятся и сами, свергли династию Айюбидов, захватив власть в Каире, и основали свой собственный Мамлюкский султанат.
Но так далеко господин Атанов вряд ли заглядывал.
Все мы видели, как диванные эксперты меняют квалификацию с эпидемиологии на военную тактику, а сейчас наблюдаем за новой модной волной.
Двадцать лет назад один-единственный грустный Юдковский всерьез предупреждал, что все мы погибнем от сверхчеловеческого искусственного разума.
Сегодня экспертов по ИИ развелось как грязи, авторы безвестных телеграм-каналов читают в Вышке курсы про регулирование ИИ и даже сам Киссинджер, которому до столетнего юбилея осталось чуть больше месяца, напрягся из последних сил и выдал новую книгу про влияние ИИ на международные отношения.
Ну а Юдковский, как будто даже повеселевший, все также говорит, что дни человечества сочтены.
Но эксперты суетятся не зря. Умение оказаться в правильном месте порой выносит людей на недосягаемые высоты. Как раз об этом - сегодняшний пост.
В Стэнфорде преподает один любопытный профессор - Джеффри Пфеффер. Известен он тем, что критикует традиционно сладкоречивые книги о бизнес-лидерстве и пытается позиционировать себя как Макиавелли корпоративного мира: рассказывает о том, как на самом деле приобретается власть в современных компаниях, не гнушаясь самых незначительных деталей - вплоть до того, какой костюм стоит носить, чтобы получить долгожданное повышение.
Но рецепты личного успеха прочитаете сами, нам пригодится Пфеффер за пару его социологических наблюдений. Ваш успех в компании зависит от того, насколько много власти у департамента, где вы начали карьеру. Обычно нужно идти в подразделение, генерирующее выручку (неудивительно, что СЕО Goldman Sachs – финансист, а глава Microsoft начинал как инженер), но есть и более универсальные закономерности. В самом начале XX века СЕО американских компаний становились производственники, в 1920-е на смену пришли маркетологи и продажники, ну а 80-е были расцветом финансистов (эх, а вот стратегам никогда не везло).
Есть похожий анализ и для американской армии: карьера офицеров обычно привязана к конкретной технологии или типу вооружения: повышения чаще получают узкие специалисты, а не “военные интеллектуалы”. Если офицера переводят на новую для него технологию уже в зрелом возрасте, то шансов на высокие должности остается совсем немного. Поэтому армия похожа на набор племен, каждое из которых лоббирует свою технологическую платформу - даже если это оружие не нужно для решения реальных военных задач (поэтому во время реальных конфликтов генералы жалуются на нехватку примитивных боеприпасов - их закупками мало кто интересовался, ведь на простом вооружении не сделаешь карьеру).
Причем властная иерархия обычно немного отстает от экономических успехов. Аэрокосмические технологии были на пике моды в Китае уже довольно давно, а сейчас на вершинах Компартии расцветает “космический клуб”, состоящий из технократов, работавших в науке или военно-космических корпорациях. Почти на самый верх китайской иерархии - в члены Политбюро - забрались уже два члена клуба, а на ступень ниже, в ЦК КПК, уже в прошлом, 19-м созыве, “космонавтов” было в два раза больше, чем, например, финансистов - и гораздо больше, чем представителей любой другой профессиональной группы. Си вообще любит технократов куда сильнее, чем его предшественник, ну а космос особенно важен для его видения развития Китая. Впрочем, есть и другое объяснение: технократам не хватает опыта в подковерной политической борьбе, так что Си выбирает их, рассчитывая на то, что те не помешают ему властвовать.
Так что на тех, кто активно толкается локтями, чтобы забраться в уходящий поезд ИИ-технологий, стоит обратить внимание - наверняка и из них получится какой-нибудь клуб. И не стоит думать, что программистам не захочется в политику - власть обладает удивительной притягательностью. Когда-то Google был местом для обросших программистах в футболках, а сегодня его бывший СЕО стал одним из самых влиятельных лоббистов в области технологического регулирования, которого обвиняют еще и в том, что он расставляет своих людей по ключевым министерствам.
Вчера многие говорили о том, что Маск подписал письмо с призывом остановить разработку всех ИИ-систем, более продвинутых, чем GPT-4.
Можно сослаться на эксцентричность Маска, но в списке подписантов много важных для ИТ-индустрии людей: Стив Возняк, Юваль Ной Харари, немало сотрудников ИИ-стартапов и еще больше профессоров – в том числе и тех, кто стоял у самых истоков современных нейронных сетей, вроде Йошуа Бенжио.
Возникает два вопроса:
Первый: почему умные люди становятся неолуддитами и пытаются остановить прогресс?
Второй: действительно ли развитие ИИ могут приостановить?
Начнем с первого. В самом письме цитируется несколько причин. Что, если машины заполнят наш мир пропагандой? А если роботы займут все рабочие места? И, наконец, уверены ли мы, что не потеряем контроль за нашей цивилизацией?
Последний тезис может показаться радикальным, но именно он – причина, по которой многие оставили свою подпись под документом (хотя и не все – есть те, кто больше обеспокоен краткосрочными эффектами).
Есть много аргументов за то, почему ИИ может уничтожить человечество, но сфокусируемся на одном, самом известном и элегантном. Он состоит из двух частей:
(1) Допустим, нам удастся создать ИИ, равный по способностям человеческому мозгу. В отличие от человека, он не нуждается в отдыхе, не забывает то, что однажды выучил, и может получить доступ к колоссальным вычислительным ресурсам – а главное, может улучшать сам себя. Он умеет писать код, а значит, может создать ИИ+ - интеллект, хотя бы немного превосходящий человеческий, который, в свою очередь, создаст еще более производительную модель. Получается, что создание «человеческого» ИИ неизбежно приведет к появлению «сверхчеловеческого» (лучший анализ этого аргумента – в статье Чалмерса).
(2) Если появится сверхчеловеческий интеллект, то нет никаких гарантий, что его цели будут соответствовать человеческим – это та самая AI Alignment Problem. В упрощенном виде - знаменитый «аргумент о скрепках». Допустим, человечество создало сверхчеловеческий разум, в мозг которого мы заложили главную цель – производить скрепки. Со временем этот ИИ поймет, что для максимизации числа скрепок желательно превратить в заводы по их производству всю поверхность Земли, а в идеале в скрепки должна превратиться вся материя во Вселенной – включая, конечно, и довольно бесполезных людей. Какую бы цель мы не заложили в искусственный разум, мы не понимаем, как она будет интерпретирована (за деталями - к Бострому).
Если вы впервые читаете эти аргументы, то они могут показаться вам фантасмагорическим бредом, место которому - в голливудских боевиках. Их разделяют даже не все подписанты. Но раз уж об этом всерьез спорят тысячи блестяще образованных людей, то нам точно стоит хотя бы задуматься.
Теперь ко второму вопросу - получится ли приостановить развитие? Скорее всего – нет. Во-первых, поддерживают письмо далеко не все – среди подписантов не видно сотрудников OpenAI, да и многие исследователи называют его «бредом». К тому же на кону большие деньги: ChatGPT стал самым быстрорастущим приложением за всю историю, набрав 100 млн пользователей за два месяца – почти в пять раз быстрее, чем TikTok. Любая компания, которая добровольно откажется от развития, потеряет миллиарды долларов - именно поэтому Google в спешке презентовал свой аналог ChatGPT, который называли даже "позором".
Во-вторых, вряд ли смогут остановить разработки и государства. Развитие ИИ - давно уже новая гонка вооружений между Китаем и США. Если любая из сторон решит единолично остановить своих исследователей, то обречет себя на поражение в необъявленной войне (лучше уж всесильный ИИ разработаем мы, чем эти тоталитарные безумцы – вполне себе существующий аргумент). Ну а поверить в координацию между Китаем и США почти невозможно – поэтому американцы вкладывают рекордные 50 млрд в развитие полупроводников, без которых ИИ не построишь, а китайцы запускают одну ИИ-стратегию за другой.
Поэтому большого эффекта от письма ждать не стоит.
Бывает так, что на войне вам не хватает людей. Умные, сильные и здоровые почему-то не горят желанием менять комфортную жизнь на грязные окопы, так что приходится набирать не самых подходящих - преступников, иностранцев, а иногда - попросту идиотов. Есть только одна проблема: такие кадры бывают не только бесполезны, но и вредны.
О чем это я? Ах да, Вьетнам, 1966 год…
Для борьбы с Вьетконгом США не хватало солдат. Можно было бы отменить “бронь” для студентов, но никто не хотел вызвать гнев среднего класса. Пошли по простому пути: призвали самых молчаливых и бесправных, снизив минимальный порог в интеллектуальном тесте для призывников. Раньше в армию не брали тех, кто попадал в нижнюю треть распределения, теперь отказывали только нижним 10%.
Каждый год американские военкомы должны были набрать не меньше сотни тысяч тех, кому раньше служба в армии не светила. Отсюда и название всей этой истории - “Project 100,000”. Впрочем, в армии новое пополнение называли по-другому - “болваны Макнамары”, в честь тогдашнего министра обороны.
Если смотреть только на цифры, то 350 тысяч “болванов”, которые оказались в армии за несколько лет, справлялись плохо, но не чудовищно: в два раза чаще проваливали базовый тренинг (но 90% все равно проходили), в три раза чаще погибали в бою (но большая часть все равно вернулись домой).
А вот очевидцы вспоминают реформу как настоящий кошмар (см. книгу Хамильтона или рецензию на нее). Новые солдаты не понимали, что гранату нужно бросать по параболе, а не кидать вперед, как бейсбольный мяч, или впадали в ступор, когда на полосе препятствий видели стрелки с направлением бега.
Казалось, что давать оружие таким людям опасно - но военным нужно было отчитываться за обучение новобранцев, так что результаты тренингов часто подделывали, а ребята отправлялись во Вьетнам. Один, стоя на посту, убил своего командира: забыл, что пароль надо спрашивать до того, как стрелять, а не после.
Одной из причин массового расстрела вьетнамских мирных жителей тоже мог стать невысокий интеллект. Лейтенант Уильям Келли, отдававший приказы о расстрелах, не был частью “Проекта 100,000”, но смог попасть в армию благодаря сниженным стандартам: говорят, он так и не научился пользоваться картой и компасом, а его адвокат активно разыгрывал карту “недостаточных когнитивных способностей” во время суда над Келли.
Проект признали неудачным и прикрыли довольно быстро. Но это - не главный поворот истории. Читая текст выше, легко подумать, что “во всем виноваты идиоты”, но парадоксальным образом главные виновники - как раз люди с необычно высоким интеллектом, пославшие на убой тех, кому в армии было не место.
“Проект 100,000” придумал Роберт Макнамара - выпускник Гарварда, провернувший управленческую революцию в “Форде”, и пришедший в политику вместе с целой плеядой блестяще образованных технократов, которых так и прозвали - The Best and the Brightest. Точно также называется и прекрасная книга о том, почему именно администрация Кеннеди и Джонсона, столь талантливая и образованная, провалила Вьетнамскую войну.
Макнамара истово верил в силу технологий - и считал, что не слишком сообразительным солдатам будет достаточно показывать специальные видеофильмы с инструкциями, чтобы они догнали своих товарищей (оказывается, онлайн-образование вызывало все те же дискуссии еще полвека назад!). Вместе с Джонсоном он даже пытался представить “Проект 100,000” как помощь угнетенным классам - якобы армия даст им образование и поможет найти место в жизни.
Недавно Толкователь писал о том, что ветераны Вьетанмской войны зарабатывали на 15% меньше, чем те, кто избежал призыва (хотя новые данные противоречивы). Ребята с низким IQ не оказались исключением - те из них, что остались дома, больше зарабатывали, реже разводились и чаще получали образование. Увы, ума Макнамары и компании оказалось недостаточно, чтобы это оценить.
Но о проблемах слишком высокого интеллекта, тех самых The Best and The Brightest - в следующий раз, через неделю или две.
Приехал на Новый год в Танзанию и вспомнил разговор с одной знакомой, которая рассказывала, как тяжело европейцам вести бизнес в Африке (она сама занимается этим уже лет десять): “Когда нанимают себе людей, ожидают, что те будут отдавать себя работе на 100%, прямо как какой-нибудь немец или американец. Но монолитный подход к жизни - совершенно не по-африкански. Здесь люди никогда не будут работать на единственной работе - даже если наймете человека в корпорацию, он наверняка параллельно будет подрабатывать или вести мелкий семейный бизнес. Также и со всей жизнью: в Африке у людей нечасто бывает одна любимая женщина, одна религия или один язык - тут всегда сложный микс идентичностей и увлечений”.
Не отвечаю за достоверность тезисов, но звучит интересно. И в отношении языков точно справедливо - мы в западном мире вообще привыкли к тому, что монолингвизм - безусловная, едва ли не биологическая норма, но до торжествующего шествия наций и национализма владение несколькими языками, пускай и на разном уровне, часто было неизбежным для любого, кто выбирался за границы своей родной деревеньки.
Перед отъездом я как раз прочитал прекрасную книгу об истории французского языка в России. И хотя свободно на французском общался только высший слой дворян,причем в относительно короткий период в XVIII-XIX вв., степень билингвизма все равно поражает: скажем, Бестужев-Рюмин, один из лидеров декабристов, давая показания по поводу восстания, просил позволить отвечать ему на французском, потому что “к стыду своему… более привык к этому языку, чем к русскому” (просьба, кстати, тоже была на французском - в ней отказали, а просителя позже казнили).
Когда-то Карл V говорил, что с Богом он общается по-испански, с женщинами — по-итальянски, с мужчинами — по-французски, а с лошадьми — по-немецки. Сегодня может показаться, что речь шла об особом звучании языка - итальянский кажется романтичным, даже если вы не понимаете ни слова, а немецкий - такой грубый, что подходит скорее для понукания коня. Но еще совсем недавно язык могли выбирать исходя из того, насколько богат в нем набор клишированных форм и выражений, подходящих для определенного контекста. Флиртовать с девушкой из высшего общества на русском языке на рубеже XVII-XIX веков казалось почти немыслимым - во французском было куда больше подходящих выражений, сформированных богатой литературной традицией.
Уже после 1812 года русский стал постепенно вытеснять французский даже в высшем свете, ну а после 1917 года СССР медленно двигался с моноязычию даже в национальных республиках: в 1970 г. на русском свободно говорили 49% населения Союза, а в 1979 г. - уже 62%.
А вот сейчас ситуация интересная. Русский давно стал универсальным языком, на котором можно и флиртовать с девушкой, и погонять работника на стройке, и рассуждать (с трудом) о бытии и времени. Но за уходом из России действительно важных вещей - Макдональдса, Кока-колы, H&M - мы не заметили, как российские контракты разорвали, например, все крупные университетские издательства - и мы, похоже, останемся без интересной социально-гуманитарной литературы на русском.
Казалось бы, не велика беда - все люди, всерьез занимающихся наукой, спокойно будут читать английском. Но эти книги играли важную роль для интеллектуального “среднего класса” - не производителей нового знания, а его потребителей.
Если переводная интеллектуальная литература окончательно уйдет из России, мы получим русское дворянство в миниатюре. С одной стороны - тонкая прослойка людей, читающих на английском, и обсуждающих прочитанное на том же языке. С другой стороны - тот самый средний класс: “разночинцы”, говорящие только на русском, но потерявшие доступ к словарю, который позволял им на равных обсуждать сложные социальные проблемы.
Тоже не катастрофа - так существует большинство языков на земле, переводить на которые книги оказывается слишком дорого. Но совсем не хочется возвращаться к Карлу V, дав русскому место где-то между женщинами и лошадьми.
↑ Ваня Богатый написал хороший пост. Там несколько интересных мыслей, но ухвачусь за одну: cтремление каждой компании стать монополией. Я бы посмотрел на этой чуть шире: любая компания постоянно борется с драконом – государством, но его убийца, как известно, становится драконом сам. Великие компании пытаются собрать в руках у себя столько власти, чтобы превратиться в государство самим.
У некоторых компаний получается оседлать дракона (политологи придумали красивый термин - state capture), но вот убить – почти никогда. Когда-то у Ост-индской компании было в два раза больше солдат, чем у Британской империи, но компания мертва, а тело британского короля (второе, конечно) - все еще в отличной форме.
Каждый имитирует государство так, как умеет. Господин Пригожин провел светлые годы своей молодости за решеткой, так что хорошо понимает язык силы – для своего альтернативного государства он покупает танки. Юность Цукерберга и Брина прошла в университетских стенах: они верят, что мир определяется технологиями, а значит государство – тот, кто контролирует их развитие на всех этапах.
Идея не такая уж очевидная: раньше компании не так уж сильно интересовались прорывными исследованиями. За исключением знаменитой Bell Labs и японской Asahi Kasei все Нобелевки получали ученые, работающие в университетах.
А вот в исследованиях искусственного интеллекта, даже фундаментальных, все совсем по-другому. Все больше ученых, особенно самых цитируемых, переходят в частные компании: там больше платят (исследователь вполне может получать и миллион долларов в год), а еще есть доступ вычислительным мощностям и массивам данных, без которых делать прорывные исследования сейчас уже невозможно. В итоге у тех, кто сбежал в частные лаборатории, даже растет цитируемость – больше ресурсов для проверки интересных гипотез и меньше скучных обязательств вроде чтения курсов для глупых первокурсников. Результат у всего этого простой: Google публикует в полтора раза больше топовых ИИ-исследований, чем любой мировой университет.
Можно было бы возразить, что прикладные исследования были в компаниях всегда, и какие-нибудь несчастные химики до сих пор разрабатывают в P&G рецепт новых шампуней от перхоти. Но присмотритесь к новому тренду: технологические компании начали нанимать философов и политических теоретиков. Скажем, DeepMind – ИИ-компания, которой владеет Google, нанимала исследователей в области регулирования ИИ, а вот пример политического философа, работающего там сейчас.
Если упростить, то роль социального теоретика в мире довольно прямолинейна: появляется какая-то новая проблема – допустим, технология, невообразимая ранее, вроде искусственного интеллекта или ядерного оружия. Теоретик предлагает решение – пишет чрезвычайно умную книгу, где формирует новый набор ценностей, который может стать решением – это может быть утопический образ прекрасного будущего в духе Роулза или набор конкретных предложений, как у Пикетти. Обычно его никто не слушает, но иногда везет: может быть, его приглашают в Давос, где он рассказывает миллиардерам, как нужно обустроить мировую экономику, а может быть, среди его учеников оказывается будущий президент США. В любом случае, идеи из платоновского мира доходят и до нашей плохо обустроенной пещеры.
Но раньше работала система разделения властей: проблемы формировались в одном месте, а ценности – в другом. Теоретик – в университетском подобии Касталии, а все остальные – в реальном мире, чуть скучном и обшарпанном. Но если философов постигнет судьба ИИ-ученых (да, это маловероятно, но давайте вообразим этот удивительный мир приватизированных исследований), то получится, что компании будут придумывать себе ценности сами: теоретик, работающий на Google, будет вынужден, пускай и неосознанно, подстраивать выводы своих работ под интересы компании.
Поэтому если следующий бестселлер «Фаланстера» напишет сотрудник Google – не удивляйтесь, что его предложения удивительно выгодны одной технологической компании.
Удивительный факт - ожидаемая продолжительность жизни в Китае стала выше, чем в США - CDC cовсем недавно опубликовал свежие данные. Цифры сами по себе говорящие, но становится еще интереснее, если добавить немного контекста.
Во-первых, это идеальная иллюстрация, почему в США уже лет десять как не могут перестать говорить о неравенстве. Как подметил Адам Туз, сегодня ожидаемая продолжительность жизни у чернокожего мальчика в Руанде выше, чем в США. И дело не только в расе. В последние десятилетие необразованные белые американцы массово умирали от “отчаяния”: количество смертей от передозировки наркотиков, алкоголизма или суицида среди тех, кого иногда снисходительно называют white trash, выросло почти в два раза (Ангус Дитон, лаурет Нобелевской премии, и Энн Кейс написали об этом неплохую книгу - Deaths of Despair and the Future of Capitalism). Средний класс при этом живет нормально: если вы забьете в калькулятор лет жизни свои собственные данные, то поймете, что прожили бы в Америке немало.
Во-вторых, поразительно, что все это продолжает существовать при колоссальных - самых больших в мире - расходах США на здравоохранение: на медицину там уходит порядка 11,000 долларов на человека в год - в полтора раза больше, чем у ближайшего преследователя (Швейцарии), и в два раза больше, чем, скажем, в Канаде, где ожидаемая продолжительность жизни - далеко за 80 лет. Неконтролируемый рост расходов начался в 80-е, и как раз тогда Штаты начали сильно отставать от других развитых стран.
P.S. В России, как вы понимаете, все еще печальнее: ожидаемая продолжительность жизни для мужчин - примерно столько же, сколько в Руанде (у женщин, впрочем, получше).
Известно, что у интеллигента нет биографии - только список прочитанных книг. Дополняя Мандельштама, можно было бы сказать, что тем, кому повезло прожить по-настоящему увлекательную жизнь, обычно не хватало времени на то, чтобы читать. Но бывают и исключения.
Одна из самых любопытных книг, что попались мне за последние месяцы – Stalin’s Library: A Dictator and his Books Джеффри Робертса, британского историка из Корка. Задумка совершенно гениальная: изучить pometki Сталина на полях прочитанных им книг, чтобы разобраться в загадочной русско-грузинской душе - в конце концов, это самый личный из сохранившихся источников, ведь Сталин, увы, не вел дневников.
Реализация оказалось чуть более скромной: хотя библиотека генсека к концу жизни составляла более 25,000 книг, пометки сохранились только на 400 из них – причем в основном Сталин оставлял на полях довольно нейтральные «NB», «да» и «мда». Ни тайных признаний в либерализме, ни кровожадных призывов расстрелять каждого третьего… Но кое-что интересное из книги все же можно почерпнуть.
Сталин действительно много читал. И хотя 300-500 страниц в день, о которых писали некоторые из поклонников - явная байка, количество книг в библиотеке явно свидетельствует о том, что за жизнь ему удалось прочитать немало. Судя по пометкам, он был абсолютно искренним марксистом и таким же искренним поклонником Ленина, но при этом внимательно читал своих будущих противников – например, Троцкого, Зиновьева и даже белых эмигрантов. Комментарии к их текстам – от «метко» до «сволочь» и «подлец».
И мне кажется, что именно эти чуть смешные возгласы – маленький, но очень показательный кусочек души автора.
Не так давно я рассуждал с подругой о том, что же все-таки означает высокопарное и гордое слово «интеллектуал». Иметь высокий интеллект – это необходимое, но совсем не достаточное условие. Но что же еще нужно? Предпочитать авторское кино сериалам на Нетфликсе? Но это все поверхностное, наносное. С презрением относиться к деньгам и мирскому успеху? Но мы же говорим об интеллектуале, а не о буддисте И как раз в книжке Робертса я встретил очень точное определение: интеллектуал – это человек, для которого идеи имеют эмоциональное значение.
Если вы, читая книгу, когда-нибудь испытывали эстетическое удовольствие от того, что набор утверждений внезапно складывается в убедительный аргумент, а набор аргументов – в безупречную логическую картину, объясняющую какую-нибудь маленькую часть мира, то вы понимаете, о чем речь. Судя по комментариям Сталина, он тоже испытывал такие чувства – и вполне мог любить и ненавидеть абстрактные сущности.
Один британский психолог предложил классифицировать людей по двум критериям: их склонности к эмпатии и способностям к систематизации. И кажется, что настоящая, безусловная любовь к идеям возможна в том случае, если ты находишься в правом нижнем углу спектра – прямо там, куда Джонатан Хайдт определил Канта или Бентама (см. прикрепленную картинку). Высокая систематичность нужна для того, чтобы испытывать удовольствие от наблюдения за чистой логикой, а низкая эмпатия – для того, чтобы чувства людей не казались более важными чем красота идеи. Сложно быть безоговорочным сторонником логически безупречного утилитаризма, если вы в красках можете представить слезинку того самого ребенка, которого замучили ради гармонии мира.
Впрочем, судя по книге, Сталина вряд ли можно поместить в самый правый угол – в том, что касается абстракций, он был скорее ремесленником, чем гением. Зато многие из его товарищей-революционеров наверняка были там – сложно спорить с тем, что первое поколение большевиков у власти было самым интеллектуальным правящим классом в российской истории – если брать в качестве определения именно искреннюю одержимость идеями (после такого начинаешь думать – а так уж нужны нам эти интеллектуалы у власти?)
