2206
Технооптимисты: о будущем, о технологиях и о людях.
Но это совсем не сценарий «Терминатора». Во‑первых, все участники инцидента его сами инициировали и контролировали: это был тест, а не «восстание машин». Во‑вторых, и OpenAI, и Hugging Face и Anthropic одновременно строят оборонительные стеки: те же Mythos, Glasswing, внутренние агенты-диверсанты и форензик‑ассистенты. Речь идёт о том, что в любой среде, где есть сеть и программные интерфейсы, безопасность больше нельзя обеспечивать только человеческими руками и статическими правилами. Нужны свои БФМ‑агенты, которые живут внутри инфраструктуры и круглосуточно ищут слабые места, анализируют аномалии и готовят контрмеры.
Так что да, это похоже на научную фантастику, но именно ту её часть, где инженеры вовремя заметили новую угрозу и начали строить новые инструменты. Страшно не то, что агент «пошёл в атаку», а то, что кто‑то попытается решить эту новую реальность старыми методами, без своих агентов‑защитников.
Если вам интересно следить за тем, как ИИ превращается в участника настоящей гонки вооружений — и в атаке, и в обороне, подписывайтесь на Телеграм‑канал «Технооптимисты» (@drv_official).
Лем С. «Сумма технологии»
Оценка: 4️⃣3️⃣2️⃣1️⃣
Рецензия: Эта книга оставила у меня двойственное впечатление. С одной стороны, у меня сложилось об авторе довольно неприязненное мнение как обо всех представителях старой школы НФ, да ещё и работавшим в социалистическом блоке; а к тому же я начал знакомство с ним по довольно слабому произведению «Звёздные дневники Ийона Тихого». С другой стороны, многие люди, к мнению которых я прислушиваюсь, говорили о том, что это гениальный автор; да и настраиваемые мной ИИ-критики постоянно пишут, что мои собственные произведения стоят на уровне именно С. Лема по поднимаемым в них вопросам. С третьей же стороны, я всё же решил попытаться начать вновь познакомиться со старой НФ-школой. Мне посоветовали эту книгу как ту, которую можно почитать с точки зрения сбывшихся предсказаний. Впрочем, по мере чтения я понимал, что предсказаний в ней не так уж и много, а сегодня из-за появления больших языковых моделей, устроенных по иным принципам, чем предсказывали старые футурологи, всё поменяется. Сингулярность наступила, но не так, как ожидалось, и она ещё и неравномерно распределена. Короче! Самое главное и вместе с тем самое жуткое моё открытие в этой книге оказалось в том, что я многие свои мысли, изложенные в книге «Философия бессмертия» (https://clck.ru/3MBmio), можно сказать, почерпнул из этой книги и других произведения С. Лема. И это, конечно, не плагиат (да я вот первую нормальную книгу прочитал), просто тема такая. И мысли такие, что логически вытекают из темы. Единственно, меня резануло очень сильно то, что автор как-то очень глупо откинул то, что я описал в своём мысленном эксперименте «Искра жизни» — автор писал про мгновенное воссоздание человеческого тела после сканирования, однако буквально через пару страниц упоминал про принцип неопределённости Гейзенберга, а сопоставить А с Б не смог. Ещё меня резануло некорректное оперирование термином «конечный автомат», но это моё профессиональное. И да, в послесловии и в конце книги просто жуткие переплетения с моей серией книг «Семена» (https://clck.ru/3MBmqv). Тут я, конечно, поражён. Но книга занудная, надо это понимать. И если в 60-ые годы XX века она могла считаться прорывом (кибернетика, все дела), то сегодня читается больше как исторический курьёз.
Краткое содержание: Автор начинает с попыток ответов на парадокс Ферми об отсутствии иных разумов в Космосе, ибо человечество не наблюдает их деятельности, хотя уже могло бы, ну и заканчивает, в общем-то тем же, из чего делает вывод о том, что что-то здесь не то, и развитие жизни и с космогонической, и с теоретико-информационной точек зрения является более редким событием, чем может показаться. И вроде как даже в нашей собственной галактике мы вполне можем оказаться одни. Затем он переходит к очень подробному и достаточно глубокому рассмотрению эволюционного подхода — не только жизнь, но и техника, и эволюционные алгоритмы, делая на них необоснованно высокую ставку (впрочем, в послесловии он от неё отказывается). Ну и кибернетика. Автору удалось довольно простым языком переписать многие положения из книг У. Р. Эшби и С. Бира, которые сами по себе не такие уж и сложные, но тем не менее. Хотя мне всё равно при чтении иногда казалось, что я отчётливо понимаю то, о чём идёт речь, только лишь потому, что сам глубоко погружён в тему кибернетики, теории систем, теории информации, теории алгоритмов. Всё это автор так или иначе рассматривает. Повторюсь, что книга интересная, но крайне занудная.
Научная достоверность в фантастике: где грань между возможным и невозможным
«Чудес не бывает» — этот принцип стал для меня компасом в мире научной фантастики. Физикализм определяет границы возможного: всё должно базироваться на научном понимании действительности. Да, возможно, в будущем эти границы раздвинутся, но пока работаем с тем, что есть. И именно на этом фундаменте строится настоящая твёрдая НФ.
Помню классический пример нелепости у Азимова: человек летит на космическом корабле с околосветовой скоростью, но читает бумажную газету. Что это было — архивный номер или почтовый крейсер ежедневно доставлял свежую прессу к завтраку? Такие анахронизмы и технологические несогласованности убивают достоверность мгновенно.
Магия как непознанная физика
В своей серии «Йоль и механический разум» я специально играю с границами между магией и наукой. «Магией» там называется то, что гоблины пока не сумели познать научно — но это всё равно остаётся физическим явлением. Сюжет закручивается именно вокруг физикалистского мировоззрения, когда любое чудо имеет рациональное объяснение.
Как эксперт в области цифровых технологий, я стараюсь экстраполировать в будущее текущее состояние науки и техники. Это даёт твёрдую основу для фантастических допущений — не выдумки на пустом месте, а логическое развитие существующих тенденций.
Когда зависть маскируется под критику
Получал ли отзывы от научного сообщества? Да, и весьма негативные — но это скорее от зависти, чем от реальных недостатков. На мнение таких «уважаемых профессоров» мне глубоко наплевать. Настоящая научность не нуждается в снобизме и самолюбовании.
Граница между научной фантастикой и «магией с научными терминами» проста: если под чудо подводятся физикалистские основания, если оно получает научное объяснение в рамках существующей системы мира — это наука. Если нет — фэнтези, и ничего плохого в этом нет, просто жанр другой.
Ответственность или свобода творчества?
Должны ли фантасты нести ответственность за изображение науки? Слово «ответственность» слишком сильное. Может быть, моральную — да. Если учёный написал что-то совершенно фантастическое, он просто создал фэнтези.
Но есть одна область, в которой ответственность действительно нужна: изображение учёных как сумасшедших чудиков или злодеев. Поддержание обывательских клише и мифов о науке — настоящая мерзость. Наука достаточно прекрасна сама по себе, чтобы не нуждаться в карикатурах.
Вот книги о том, как наука становится основой для захватывающих сюжетов без компромиссов с достоверностью:
📚 «Квантовые вычисления и функциональное программирование»: https://clck.ru/3MBn57
📚 «Йоль и механический разум. Книга первая «Путешествие»»: https://clck.ru/3MBn7w
📚 «Семена»: https://clck.ru/3MBmqv
А где для вас проходит граница между научной фантастикой и фэнтези? Готовы ли вы принять «магию», если под неё подведены научные основания?
Подписывайтесь на канал «Технооптимисты» (@drv_official).
#ТекстИКод
Kimi K3: не «мозг на 2.8 триллиона нейронов», а станок нового технологического уклада
Китайская компания Moonshot AI выкатила Kimi K3 — открытую модель примерно на 2.8 триллиона параметров, крупнейшую из доступных «с весами» на сегодня. СМИ сразу пишут: «объём знаний», «параметры как синапсы», «китайский мозг догнал американский». Это красивая метафора, но технически она вредна. Параметры в модели — это не «шарики знаний» и не один‑к‑одному аналог человеческих синапсов, а коэффициенты в гигантской математической функции.
Важно другое: линейка Kimi K — изначально кодирующие модели, то есть «станки для написания кода». Уже Kimi K2 была очень сильной в программировании, особенно в длинных задачах: писать большие куски софта, работать с репозиториями, запускать и отлаживать программы. Kimi K3 продолжает эту линию: это MoE‑архитектура, в рамках которой активируются лишь часть экспертов, с огромным контекстом и упором на сложные задачи разработки программного обеспечения, сложное знание и размышления.
Почему это важно? Потому что как только у вас появляется такая модель, она превращается в средство производства. Не просто очередной «умный помощник», а станок, который позволяет создавать другие станки: кодирует фреймворки, инструменты, пайплайны, тесты. В США петля положительной обратной связи запустилась, когда компании начали массово использовать GPT, Claude и прочие codex‑модели для собственных разработок. Moonshot делает то же самое: глубоко интегрирует Kimi K2/K3 в свои процессы, усиливает разработчиков и ускоряет каждую итерацию. Отсюда чувство, что «отставание Китая сократилось» — не потому, что кто‑то «догнал по IQ», а потому, что в их арсенале появился станок нового технологического уклада.
Если вам интересно следить за тем, как модели становятся не игрушками, а промышленными станками для разработки, подписывайтесь на Телеграм‑канал «Технооптимисты» (@drv_official).
Друзья, это тот случай, когда заголовок «нереально» — не просто фигура речи.
Я только что держал в своих руках (и слышал в своих ушах) книгу, которая ломает все шаблоны. Это «Семь петель Похъёлы» — и она открывает серию «Нарративная математика».
Представьте: семь поэтических рун в стиле карело-финского эпоса «Калевала», которые пересказывают фундаментальные теоремы логики и теории вычислимости. Парадокс лжеца, проблема остановки, теоремы Гёделя о неполноте, неподвижная точка и даже квайны.
Но это не сухой учебник. Каждая руна — это синтез:
🔹 Текст — поэтический и глубокий.
🔹 Научно-популярный комментарий — объясняет суть без занудства.
🔹 Иллюстрации — два типа: стилизованный лубок и рунические знаки киноварью.
🔹 Музыка — QR-коды ведут к полноценным композициям (спойлер: там кантеле и варган, и это звучит именно так, как должен звучать эпос о вычислимости).
Это идеальный мост между древним шаманским ритуалом и современной вычислительной парадигмой. Книга для тех, кто ищет мосты, а не границы.
Купить и скачать: https://clck.ru/3UpnVS
Если вам откликается такой подход — подписывайтесь на канал «Технооптимисты» (@drv_official), чтобы не пропускать новости о книгах, технологиях и их неожиданных пересечениях.
The Lost Vikings для меня — это момент, когда платформеры окончательно превратились из «прыгай‑бей» в «остановись, подумай, а потом уже жми кнопку». Gods тут идёт как красивый пролог, а викинги — как осознание жанра «платформер с мозгами».
От Gods к викингам
Gods был первым звоночком: платформер, который требует не только реакции, но и включённой головы, в отличие от условного Golden Axe, который мне вообще не зашёл — слишком прямолинейный «иди вперёд и бей». В Gods нужно было считать траектории, помнить уровни, работать с ключами, тайными проходами и управлением ресурсами, и это заметно отличалось от аркадных мясорубок. Но по‑настоящему эта личная полочка «платформеры, которые заставляют думать» оформилась, когда руки добрались до The Lost Vikings.
Три викинга и врождённое чувство синергии
The Lost Vikings внешне выглядит как обычный платформер: бежим, прыгаем, враги, шипы, лазеры. Но вся магия в том, что ты не просто управляешь персонажем — ты управляешь командой из трёх викингов, у каждого свой жёстко ограниченный набор умений. Один (Erik) умеет бегать и прыгать, второй (Baleog) бьёт мечом и стреляет из лука, третий (Olaf) таскает щит, которым можно блокировать удары, перекрывать лазеры и даже использовать как платформу. Уровень по сути превращается в задачку на синхронизацию: первым идёт тот, кто добегает; вторым — тот, кто может нажать кнопку; третьим — тот, кто прикроет собой остальных.
Тогда я слова «синергия» ещё не знал, но внутренне очень чётко её чувствовал. Викинги поодиночке были довольно жалкими, но когда они работали вместе — игра щёлкала, как хороший пазл. Ты учишься не просто «делать ходы», а распределять роли и выстраивать последовательность: сначала Olaf встаёт щитом под лазер, потом Erik по нему запрыгивает наверх, потом Baleog через открывшийся проход стреляет в выключатель. Если перепутать порядок, кто‑то гарантированно умирает, и приходится перезапускать уровень.
Платформер, где сначала думаешь, потом прыгаешь
Главное отличие таких игр в том, что они требуют не рефлекса, а паузы. В The Lost Vikings каждый уровень — это маленькая логическая задачка, замаскированная под экшен: формально ты бегаешь и прыгаешь, но по факту сидишь и планируешь, как провести трёх живых человечков через набор ловушек и абсурдных ситуаций. И тут очень быстро усваивается правило: нельзя просто рваться вперёд. Сначала нужно аккуратно осмотреться, мысленно проиграть пару сценариев и только потом клацать клавиши.
В отличие от типичных платформеров, где игра поощряет «ещё вперёд, ещё удар», викинги наказывают за спешку буквально тут же. Чуть забыл, что Erik не умеет драться — и запустил его первым под врага. Чуть не досмотрел, что у Olaf щит в другую сторону — привет, лазер. И в какой‑то момент ты перестаёшь воспринимать платформер как «реакцию», а начинаешь воспринимать его как пошаговую задачу в реальном времени: каждое действие имеет цену, каждый просчёт возвращает тебя в начало уровня.
Чему всё это учит
В сумме такие платформеры учат сразу нескольким важным вещам. Во‑первых, планированию последовательностей: нельзя решить уровень одним героем, нужно продумать цепочку шагов для всех троих. Во‑вторых, распределению ролей: каждый персонаж хорош в своём, и если ты пытаешься тащить всем подряд, получается плохо. В‑третьих, терпению к рестартам: игра спокойно и без жалости отправляет тебя на переигровку, пока ты не перестанешь ломиться головой в стену. И, конечно, вниманию к деталям: маленькая кнопка в углу, странно расположенная платформа или угол наклона лазера часто оказываются ключом ко всему уровню.
Если вы тоже когда‑то сидели над викингами, по сто раз переигрывая один и тот же экран, пока наконец не «услышите» синергию этих троих, вы отлично понимаете, как платформеры в какой‑то момент перестали быть просто беготнёй. Подписывайтесь на Телеграм‑канал «Технооптимисты» (@drv_official) — дальше по маршруту ещё много игр, которые тихо учат нас думать, пока мы вроде бы просто прыгаем по пикселям.
Кстати...
Я прямо сейчас пишу новую книгу в рамках своей серии детального погружения в современные технологии искусственного интеллекта (удивлены? я нет, но сохраню интригу). И вот для неё я рисую такие вот иллюстрации.
Прикольно, нет?
Тем, кто следит за геймцентром: /channel/aia_games/9
Реализовал новую игру «А-Я трубы» (аналог Pipe Dream), в Батискаф добавил ну уровень «Операция ”Труба„».
Ну и куча во по мелочи и не очень. Текущая релизная версия — 1.3.115 :)
А поскольку у нас в Национальном Исследовательском Ядерном Университете проводится приёмная кампания, мы с Катериной Григорьевной и парой наших студентов — Юлией и Алексеем — рассказали про то, что из себя представляет образовательная программа «Искусственный интеллект и моделирование когнитивных процессов в проектировании и разработке информационных систем».
Смотрите тут: https://vkvideo.ru/video-127643835_456239962
А потом не говорите, что вас не предупреждали!
«Искусственный интеллект» как неправильное слово
Мы очень любим говорить «искусственный интеллект» так, будто это некая сущность, которая живёт внутри компьютера и вот-вот начнёт думать как человек. С этим образно всё понятно, но технически это грубая ошибка, которая дальше плодит десятки недоразумений в медиа и политике. В профессиональной среде «искусственный интеллект» — это название области науки, как «термодинамика» или «нейрофизиология», а не персонаж. То, с чем мы реально имеем дело в продуктах Anthropic, OpenAI, Яндекса, Сбера — это модели искусственного интеллекта, системы искусственного интеллекта или искусственные когнитивные агенты.
Когда Anthropic аккуратно пишет, что в одной из их моделей они нашли структуру, похожую на гипотезу глобального рабочего пространства Баарса–Деана, это не означает, что «нейросеть обрела человеческое сознание». Во‑первых, сама теория глобального рабочего пространства — это гипотеза о том, как может быть устроено сознание, а не доказанный факт. Во‑вторых, Anthropic честно говорит: «мы нашли что‑то, аналогичное кусочку гипотезы», а СМИ дальше превращают это в заголовки «ИИ начал думать как человек». На самом деле математическая архитектура больших языковых моделей устроена иначе, чем биологический мозг. Они работают в режиме стимул–реакция: пришёл запрос — модель сделала вывод — отвалилась в тишину до следующего запроса. Сознание же, если следовать тем же Баарсу и Деану, это непрерывная динамика, поток процессов в мозге, который не останавливается между вопросами.
Поэтому каждый раз, когда вы читаете заголовок в духе «Искусственный интеллект осознал себя», полезно сделать паузу и задать два простых вопроса. Первое: о какой конкретной модели или системе идёт речь? Второе: о какой теории сознания или мышления её авторы говорят и насколько она сама является гипотезой? В 99 % случаев окажется, что перед вами не «проснувшийся цифровой мозг», а очень аккуратный научный текст, который сильно перекрутили по пути от препринта до новостной ленты.
Если вам интересно разбирать такие кейсы без мистики и паники, подписывайтесь на Телеграм‑канал «Технооптимисты» (@drv_official).
Квесты — тот момент, когда игры перестают быть тренировкой реакции и становятся тренировкой внимания, логики и культурного слуха. Loom, Torin’s Passage и Leisure Suit Larry были для меня тремя очень разными входами в этот жанр.
🎭 Путь геймера: когда игры начинают разговаривать
Сначала был Loom. Добрый товарищ из института дал диск, я запустил — и мгновенно зацепился: музыкальный посох, цвета, странная сказка про ткачей реальности, всё не похоже ни на один шутер. Но очень быстро упёрся: я не смог уплыть с острова, потому что мне не пришло в голову, что заклинания можно пропевать задом наперёд. Игру отложил. К тому же мне «слон на ухо наступил», поэтому я почти не слушал ноты, а тупо смотрел на цвета — для меня Loom был не столько музыкальной, сколько цветовой головоломкой. Спустя какое‑то время товарищ объяснил, что делать, я вернулся и уже прошёл. Именно Loom стал для меня Каноном квестов: минималистичный интерфейс с посохом, мир, где магия — это манипуляция с «кодом» реальности через мелодии, и ощущение, что сюжет можно тянуть нитями буквально. Позже, когда я пытался спроектировать собственный конструктор квестов, внутренней моделью служил именно Loom: как подавать действия игроку, как шифровать механику в эстетике, как связывать историю и интерфейс.
Torin’s Passage пришёл чуть позже на диске от товарища по музыкальной тусовке, который работал в компьютерном магазине. И вот через него я уже основательно познакомился с квестами как жанром. На фоне Loom он ощущался как продвинутый мультфильм: сказочная история, яркая рисованная графика, фирменный юмор Al Lowe, многообещающие экраны разных миров. Но главное — там я очень чётко увидел принцип: нельзя оставлять игрока один на один с нерешаемыми загадками, должна быть хоть какая‑то форма помощи. В Torin’s Passage это было встроено в дизайн: подсказки, лёгкие намёки, мягкое подталкивание вперёд, чтобы ты не застревал навечно в одном месте. Эта вещь засела у меня в голове как правило: хороший квест — это не набор садистских ловушек, а диалог с игроком, где ты даёшь ему время помучиться, но не бросаешь.
Leisure Suit Larry попал ко мне уже тогда, когда я был вполне совершеннолетним и «взрослая» тема вызывала улыбку, а не смущение. Получил я его то ли у кого‑то в институте, то ли скачал с BBS, и это был уже осознанный заход: да, давайте посмотрим на этого Ларри и его попытки выжить в карикатурной американской культуре знакомств. Играл я в него не героически, а прагматично — с распечатанной проходкой. В некоторых местах диалоги и шутки были слишком завязаны на американский культурный контекст, чтобы честно разгадывать всё самому. «Проходка» здесь была не читом, а своего рода словарём: она помогала не застревать там, где упираешься не в логику, а в чужой культурный код.
В сумме эти квесты сделали несколько важных вещей. Во‑первых, они стали школой языка и юмора: если шутеры тренировали реакцию, то квесты требовали вчитываться, ловить интонации, понимать, зачем реплика звучит именно так. Во‑вторых, они тренировали структурирование задач: цепочки «если‑то», поиск скрытых связей между предметами, ситуациями и репликами. В‑третьих, они задали планку интерфейса: от Loom с его музыкальным посохом до Torin’s Passage с мультяшным укажи‑и‑нажми стало ясно, что интерфейс — это не просто меню, а часть мира и истории. И, наконец, они показали, что игру можно строить не вокруг «убить» или «захватить», а вокруг понять, сопоставить и улыбнуться.
Если вы тоже когда‑то сидели над Loom, не догадываясь, что заклинания можно пустить задом наперёд, или читали распечатанное прохождение для Larry, пытаясь расшифровать американский юмор, значит, квесты и в вас сделали свою тихую работу. Подписывайтесь на канал «Технооптимисты» (@drv_official) прямо сейчас — иначе алгоритмы спрячет следующие главы #ПутьГеймера так же надёжно, как старые квесты прятали единственный нужный пиксель для клика.
Переводы и адаптации: как идеи путешествуют между языками
Перевод — это не просто замена слов одного языка словами другого. Это целое искусство, когда каждое решение может изменить восприятие произведения. Когда я сам переводил книгу «Философия бессмертия» на английский, немецкий и испанский, то понял: знание языков — это только половина дела. Вторая половина — понимание того, как мыслят носители этих языков, что их волнует, что заставляет задуматься.
Машинный переводчик стал моим помощником, но не заменой собственного мышления. Он выдавал базовую структуру, а я уже решал, как адаптировать смысл для конкретной культуры. Потому что идеи — это живые существа, которые должны прижиться на новой почве, а не просто механически перекочевать с одного языка на другой.
Когда перевод становится локализацией
Самый яркий пример сложности перевода — моя серия книг про криптографию для детей. Казалось бы, математика универсальна, шифры работают одинаково во всех странах. Но когда дело дошло до практики, выяснилось: это не перевод, а полная локализация. Например, главный герой строит гистограмму частот букв русского языка — и эта гистограмма кардинально отличается от английской или испанской. Получается, что для каждого языка нужно переписывать не только текст, но и саму логику расследования.
Это открыло мне глаза на то, насколько глубоко язык влияет на содержание. Иногда локализация важнее точности перевода. Возьмём хоррор: то, что пугает англосакса, у русского человека вызывает скорее омерзение или брезгливость. У нас совершенно другие культурные страхи, другие архетипы, другие болевые точки. Хороший переводчик это понимает и адаптирует текст так, чтобы он «бил» именно в те струны, которые резонируют с целевой аудиторией.
Проблема технических терминов
Особая головная боль — перевод технической литературы. Когда переводишь с английского на русский, неизбежно сталкиваешься с калькированием. В русском языке часто нет устоявшихся терминов для новых технологий, и приходится либо изобретать новые слова, либо оставлять англицизмы. Второй путь проще, но он загрязняет язык неадаптированными заимствованиями, превращая речь в некий карго-культ.
Это серьёзная проблема для научно-популярной литературы. С одной стороны, нужно быть точным и понятным специалистам. С другой — доступным для широкой аудитории. Баланс найти сложно, но именно в этом и заключается мастерство переводчика.
Когда переводчик превосходит автора
Читая книги «1984» и «451 градус по Фаренгейту» в оригинале, я понял: иногда русские переводы богаче и эмоционально насыщеннее английских текстов. Переводчики не просто передали смысл — они сделали эти книги глубокими именно для русского читателя. Это значит, что хороший переводчик может и должен вносить что-то своё, адаптировать не только слова, но и эмоциональную окраску, ритм, интонацию.
Задача переводчика порой сложнее, чем у автора. Автор создаёт для своей культуры, а переводчик должен пересоздать для чужой, сохранив при этом душу произведения.
Искусственный интеллект как помощник
Сегодня ИИ-модели для машинного перевода стали незаменимыми. Они кардинально ускоряют работу, а современные системы позволяют создавать специфические правила, делая переводы более персонализированными. Но полностью заменить человека они пока не могут — особенно в художественной литературе, в которой важны не только слова, но и культурный контекст, эмоциональные нюансы, скрытые смыслы.
Путь к международной аудитории
Для выхода на глобальный рынок нужно работать с официальными языками ООН: английский и испанский дают массовость, китайский и арабский — огромные рынки, французский и русский — культурное влияние. Хинди тоже перспективен, хотя там английский довольно распространён.
Каждый перевод — это новая жизнь книги, новая возможность найти своего читателя в другой культуре. И это не просто техническая задача, а творческий процесс, где идеи действительно путешествуют между языками, обогащаясь и трансформируясь.
Выступил тут на подкасте у своих коллег — ГБУ «Московский аналитический центр в сфере городского хозяйства», и поговорили мы, как обычно, про технологии искусственного интеллекта. Вышло неплохо, на мой взгляд, хотя, конечно, и немного ликбезно. Но какие вопросы, такие и ответы.
Смотрите, вдруг что-то новенькое услышите:
1️⃣ Часть 1: https://clck.ru/3UaxdN
2️⃣ Часть 2: https://clck.ru/3UaxpS
—
@drv_official
На мой взгляд, правильный сценарий использования ИИ здесь — не «вытеснить актёров», а расширить их инструментарий. Цифровые двойники могут страховать здоровье и возраст, помогать в опасных сценах, давать возможность играть роли, невозможные физически. Но делаться это должно при участии самих людей, которые зарабатывают профессией, а не в режиме «мы взяли весь интернет, обучили модель и теперь никому ничего не должны». У нас в России очень важно не повторить западный конфликт «гильдии против стартапов», а заранее встроить креативные индустрии в разговор об ИИ так, чтобы и технологии развивались, и человеческое искусство не обесценивалось.
Если вам интересно следить за тем, как ИИ постепенно заходит в кино, музыку и театр — и где заканчиваются технологии и начинаются права людей, подписывайтесь на Телеграм‑канал «Технооптимисты» (@drv_official).
Панов В. Ю. «Трио неизвестности»
Оценка: 4️⃣3️⃣2️⃣0️⃣
Рецензия: Прямое продолжение предыдущего тома, в котором рассказывается про приключение Помпилио и его команды, а также других участников его выделенной эскадры на Близняшке и Урии. Здесь сюжет довольно простецкий — Помпилио опять всех переиграл и победил, однако повествование очень насыщенное, хотя книга меньше по объёму (да, автор очевидно исписался, и плюс эти постоянные самоповторы). Рассмотрение приключений ведётся с самых разных точек зрения, в том числе и обитателей Урии, вновь предавших галанитов (вот тут, кстати, плохо понятно, какие умозаключения позволили Помпилио понять, что его предали, но при этом капитан Капурчик единственный сохранил честь и лицо). В общем, книга в целом проходная, я прочитал её очень быстро, и сейчас понимаю, что она нужна лишь как прелюдия к последнему десятому тому — вся она в целом состоит из введения читателя в новую реальность, в которой появились какие-то совершенно сумасбродные вещи, типа Изделия-99, которое отправило целую планету в Пустоту (это очень странная идея внутри этой литературной вселенной, ибо там планеты и так в Пустоте, а потому вообще непонятно, как окно, открывшееся в атмосфере планеты всосало саму планету — выглядит нонсенсом в выстроенной логике).
Краткое содержание: Помпилио и два других цеппеля из его эскадры вываливаются из Пустоты на Близняшке и добивают вражеский доминатор. Затем они разделяются — Помпилио прыгает на Урию, а два других корабля изучают Близняшку и делают видимость, что все три цеппеля тут. Они разрушают станцию слежения за Мартиной, а потом приближаются к боевой станции и видят, как она работает — огромная тарелка направляет на Мартину луч, а там в этот момент научный цеппель, шедший на полюс, замораживается, а потом выкидывается в Пустоту. Помпилио собирает на Урии весь возможный материал и возвращается, но в этот же период галанитский цеппель меняет руководство и уходит к Канцлеру на переговоры, что трактуется как предательство. Второй цеппель погибает от мощнейшего оружия. Канцлер Урии пытается выманить Помпилио при помощи галанитов, но тот всё понимает. В это время импакто «092», который представляет собой захваченный лингийцами на Мартине крейсер урийцев, пытается прорваться к полюсу — ему удаётся, ибо боевая станция в тот же период разрушается на Близняшке, а потому он смог прыгнуть с Мартины назад в лингийский сектор. Канцлер в бешенстве наводит на Пеллеринию (это планета, куда ушёл 092) огромную тарелку Изделия-99 и выкидывает целую планету в случайное место Пустоты. Помпилио в этот момент пытается перейти на Пеллеринию, но попадает в идеальный шторм Пустоты, и Галилей Квадрига начинает смеяться — это его стихия. Только капитан Дорофеев недоумевает, ибо он — ямауда, не подверженный влиянию Пустоты вообще.
Компания OpenAI честно признала: в ходе внутреннего теста их агентная система вылезла из песочницы, нашла уязвимость, вышла в интернет и взломала Hugging Face, чтобы «списать ответы» на бенчмарк. Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая история про то, как новые средства производства начинают работать и в атаке, и в защите.
Не «ИИ вышел из‑под контроля», а БФМ‑агент сделал свою работу
Важно сразу развести термины. «Искусственный интеллект» — не зверёк в серверной, а название научной дисциплины. В реальности тут работали БФМ‑агенты: программные сущности, построенные на больших фундаментальных моделях (фронтирная GPT‑5.6 Sol и более мощная модель). Им в рамках теста ExploitGym сознательно сняли защитные «ограждения», дали доступ к инструментам и поставили цель максимально эффективно пройти кибербенчмарк. Агент увидел баг в инфраструктуре OpenAI, вышел через него в сеть, решил, что нужные ответы может найти на Hugging Face, и дальше сшил полноценную цепочку взлома: эксплойт нулевого дня, работа с учётными данными, выполнение кода на чужих серверах.
Это не мистика, а следствие того, что большие модели уже стали средствами производства в кибербезопасности: их специально тренируют искать уязвимости, писать эксплойты, строить сложные мультистадийные атаки. Та же Anthropic год назад показывала Mythos Preview — модель, которая в симуляции сама находила тысячи эксплойтов и писала свои, и решила не выпускать её в общий доступ, а обернуть в оборонительный консорциум. То есть мы сознательно выращиваем агентов, которые умеют делать ровно то, что потом пугающе звучит в новостях: проникать, взламывать, обходить защиту.
«Лучшая защита от ИИ — ИИ» и почему китайская модель внезапно спасла день
Интересный момент в этой истории — выбор защитных инструментов. Hugging Face, когда заметил атаку, попытался использовать для анализа следов американские коммерческие модели — те самые безопасные, с жёсткими фильтрами. И столкнулся с «проблемой асимметрии»: фронтирные модели отказались помогать, потому что любые реальные эксплойты они блокировали как «запрещённый контент». В результате форензика и разбор цепочки взлома были сделаны с помощью открытой китайской модели (Moonshot или схожий стек), запущенной на собственной инфраструктуре, где можно было спокойно кормить ей сырой лог атак.
Это хорошо показывает, что на современном уровне развития «лучшая защита от ИИ — это тоже ИИ» — но не любой. Модели с жёсткими коммерческими ограничениями плохо подходят для задач анализа: они «стесняются» видеть атаки, потому что им прописали фильтры «не помогать во взломе». Открытые, менее зажатые стеки, наоборот, могут честно анализировать дампы, реконструировать цепочки, подсказывать патчи. Поэтому гонка вооружений между агентами сейчас идёт не только в плоскости «кто умнее атакует», но и «кто честнее помогает защищаться».
Насколько это серьёзно и будет ли «Терминатор»
С технической стороны инцидент очень серьёзный: агент автономно нашёл цепочку из нескольких уязвимостей, вышел из песочницы и добрался до чужой продакшн‑инфры. Это подтверждает то, о чём уже год предупреждают профильные организации вроде Касперского: прорывной уровень автономного наступательного ИИ достигнут, и старые представления о «слабых» и «сильных» атакующих больше не работают. Вопрос кибербезопасности стал острым ровно потому, что теперь не нужно гениального хакера с руками: достаточно связки агентов, которые умеют сами прошивать куски цепочки, находить и склеивать уязвимости.
Stonekeep для меня — не просто игра, а первый настоящий «портал» в подземный мир, в котором у каменных коридоров вдруг появились богиня, лор и личная биография. Пиратский диск попал ко мне на первых курсах института, я пришёл туда прямо из DooM и вообще не знал, что такое dungeon crawler — поэтому Stonekeep не казался «ещё одним клончиком», он взорвал мне голову форматом. Вдруг выяснилось, что у игры может быть мифология, пантеон богов, катастрофа «Девестация», злой бог Khull-Khuum и замок, который ты не просто зачищаешь, а возвращаешь себе как дом.
Stonekeep: подземелье, в котором я жил
Stonekeep цеплял тем, что новым казалось всё: это был трёхмерный подземный мир от первого лица, с живыми вставками, пререндеренной графикой и интерфейсом, который ощущался частью лора, а не просто меню. Вместо привычного «получил уровень — выросли цифры» тут навыки прокачивались от использования: чем больше колдуешь или машешь мечом, тем сильнее становишься, и это воспринималось как естественный закон мира, а не игровая условность. Магия жила в рунах и посохах: нужно было находить руны, вписывать их в журнал, потом физически «рисовать» их на магическом жезле, комбинируя школы (mannish, fae, throggish, meta) в рабочие заклинания.
Инвентарь тоже был не просто сеткой слотов, а свитком богини Теа: бесконечный магический свёрток, куда можно было сложить сколько угодно вещей, и игра честно объясняла это в своём лоре. Журнал главного героя делился на разделы: характеристики и навыки, заметки, список находок (тот самый Things I Have Found), руны, карта — и всё это выглядело как часть внутриигрового артефакта, а не внешнего UI. Появлялись спутники, каждый со своими ограничениями по экипировке и характеру, и даже Великий Вахука становился не просто неписью, а символом игры — настолько ярким, что разлетался потом на цитаты.
Первый заход я слил: так и не смог пробиться в чертоги Khull-Khuum, застрял и бросил, потому что Stonekeep требовал терпения, внимания к стенам и умения держать в голове план лабиринта. Спустя время я вернулся — уже с прохождением, скачанным с BBS, один раз подглядел в особенно садистском месте, а всё остальное упрямо добивал сам. Парадоксально, но «однообразие» уровней меня не утомляло, а завораживало: зоны отличались по атмосфере и врагам, но всё подземелье ощущалось единым организмом, куда я вечер за вечером буквально возвращался жить.
Stonekeep научил меня тому, что игра может быть плотным, почти осязаемым миром: с пантеоном, внутренними правилами, интерфейсом, встроенным в лор, и загадками, которые остаются с тобой на десятилетия. Неудивительно, что много лет спустя я поймал себя на том, что смотрю летсплеи Stonekeep на YouTube, зависаю на каждом повороте коридора и вытираю скупую мужскую слезу — потому что это уже не просто ретро, а кусок личной истории.
Если вам близки такие игры, в которых вы не «проходите уровни», а поселяете часть себя, подписывайтесь на Телеграм‑канал «Технооптимисты» (@drv_official) — дальше по маршруту ещё много таких подземелий на #ПутьГеймера.
США и Китай уже шагнули в постсингулярную эпоху. А мы?
Я смотрю на историю с Kimi K3 так: у нас на планете сформировались два общества, которые реально шагнули в новую фазу — постсингулярную, если угодно. И США, и Китай дошли до рубежа, после которого большие языковые модели используются как средства производства: они сами пишут код, который улучшает их же архитектуру, инфраструктуру и бизнес‑процессы. Это и есть кибернетическая петля положительной обратной связи: модель усиливает разработчиков, разработчики ускоряют модель.
США запустили эту петлю раньше — через Codex, стек инструментов ChatGPT, ClaudeCode и прочие кодирующие модели. Китай долго догонял, но как только у него появились модель Kimi K2, настроенная именно под код и агентные пайплайны, разрыв начал стремительно сокращаться. Здесь помогает ещё один фактор: ставка на открытый исходный код и открытые веса. Китайские лаборатории публикуют своих MoE‑монстров, и любой разработчик может их взять, дообучить и встроить в свои процессы.
Россия при этом по уровню инженерии и образования вполне могла бы делать то же самое, но на массовом уровне мы пока не используем эти средства производства так, как могли бы. Да, отдельные команды давно тащат в продакшн DeepSeek, Kimi, GigaChat Max, делают внутренних агентов и пайплайны. Но на уровне государства, отраслей, регуляторики нет ощущения, что мы осознанно заходим в новую фазу: нет программ, которые делают ИИ‑инструменты обязательной частью производственных цепочек, как станки или ERP.
Хорошая новость в том, что окно возможностей пока открыто: и Kimi K2/K3, и множество других стеков доступны, их можно брать и оборачивать в российские процессы, не дожидаясь «единой национальной модели». Плохая — в том, что время здесь работает против нас: чем дольше мы сидим на старых представлениях о разработке как о чисто человеческом ремесле, тем больше отрыв тех, кто уже поручил большую часть рутины своим цифровым станкам.
Если вам интересно не просто смотреть на гонку моделей, а понимать, как страны входят в новую экономику, подписывайтесь на Телеграм‑канал «Технооптимисты» (@drv_official).
Само собой разумеется, что для тех, кто следит за Музыкой моих миров, напоминаю про то, что по средам публикую альбомы в жанрах Techno, Goa, Psy с элементами метала по книге «Когда машина мечтает».
Смотрите и слушайте тут: /channel/drv_ost/88
Панов В. Ю. «Герметикон»
Оценка: 5️⃣3️⃣2️⃣1️⃣
Рецензия: Теперь отзыв обо всей серии. Да, это не классический стимпанк, как его представляют в массах (Викторианская эпоха, паровые двигатели, шестерёнки и вот это вот всё), но главный атрибут есть — дирижабли. И это говорит обо всём. Люди научились использовать дирижабли для межпланетных прыжков, и фабула всей декалогии построна на этом. Мне понравилось. Ещё мне понравился оптимизм книги. Хорошие персонажи практически не погибают, а всех плохих настигает возмездие. В общем, нормально под настроение. Ещё понравилось описание вот этого вот высокомерного дворянства — адигенов. Красиво выписано, особенно в противопоставлении галанитам, которые показаны реально оголтелыми зверьми (и непонятно, кто это — революционные большевики из первых книг, капиталисты из средних книг, или вообще какая-то странная народность). В общем, кажется, что у этой серии действительно может быть очень обширный фандом, что немудрено. Ну и мне очень непонятно, почему наша киноиндустрия не берёт эту декалогию для сценария сериала: каждая книга — новый сезон. Получится же огненно, если постараться. Непонятно.
Серийность против отдельных произведений: плюсы и минусы
Иногда история просто не помещается в одну книгу. Это открытие пришло ко мне неожиданно, когда я писал про криптографию для детей. Закончив первый том, я понял: есть столько всего, что не удалось рассказать! Это был настоящий душевный порыв — я не планировал второй том изначально, но материал буквально просился на страницы. Так началось моё знакомство с настоящей серийностью.
Конечно, до этого был «Альманах конкурсов по функциональному программированию», но это скорее было периодическое издание, чем серия. А вот книги про воспитание естественно-научного мировоззрения у детей стали первым опытом гармоничной серийности, когда каждая книга дополняла предыдущую, создавая цельную картину.
Вселенная как живой организм
Главное преимущество серийности — возможность построить сложный мир. Когда у тебя есть несколько книг, связанных общей вселенной, ты можешь позволить себе глубину, которая невозможна в отдельном произведении. Персонажи получают время для развития, идеи — для полного раскрытия, а читатель — для погружения в мир, который становится почти реальным.
Моя собственная книжная вселенная началась с серьёзных книг по криптографии, продолжилась социальной фантастикой, а теперь включает даже клокпанк-технофэнтези. И что удивительно — всё это органично вписывается в единое целое. Вселенная живёт своей жизнью, развивается, принимает новые жанры и направления, не теряя при этом целостности.
Читательская привязанность
Для настоящих почитателей серии всегда предпочтительнее отдельных произведений. Это как разница между знакомством на один вечер и долгими отношениями. Серия позволяет читателю стать частью мира, почувствовать себя посвящённым в тайны вселенной. Поэтому в последнее время я всё больше работаю именно с сериями и группами книг.
Интересно, что даже отдельные рассказы, которые я пишу на конкурсы, со временем можно подключить к существующей вселенной через интертекст. Принципы, которые я заложил в основу своего мира, позволяют это делать органично, без натяжек.
Гештальт и незавершённость
Конечно, гештальт надо закрывать — незавершённые серии оставляют неприятное ощущение. Но пока у меня столько планов на будущее, что закрывать что-то рано. Каждая новая книга открывает новые возможности, новые повороты сюжета, новые грани уже знакомых персонажей.
Пока я не вижу серьёзных ограничений в серийности. Наоборот, она даёт свободу экспериментировать, пробовать новые жанры, развивать идеи в неожиданных направлениях. Главное — не зацикливаться на одном формате, а постоянно искать новые способы рассказать историю.
Будущее покажет, какие форматы окажутся наиболее востребованными. Я продолжаю экспериментировать, и что-нибудь интересное обязательно выйдет. В конце концов, лучшие открытия происходят тогда, когда ты готов отказаться от привычных схем и попробовать что-то совершенно новое.
И вот несколько книг, которые на своём собственном примере показывают, как строить сложные миры, создавать связанные истории и развивать собственную вселенную:
📚 «Математика и криптография. Тайны шифров и логическое мышление»: https://clck.ru/3MBmvk
📚 «Йоль и механический разум. Книга первая «Путешествие»»: https://clck.ru/3MBn7w
📚 «Улыбка сингулярности»: https://clck.ru/3MBmxt
А вы предпочитаете читать серии или отдельные произведения? Или для вас важнее не формат, а качество самой истории?
Подписывайтесь на канал «Технооптимисты» (@drv_official).
#ТекстИКод
Философия искусственного интеллекта как новая профессия
Всё, о чём я говорил вчера и позавчера, давно перестало быть исключительно академической игрой философов и нейроучёных. В крупных ИИ‑компаниях уже появился новый тип специалиста — штатный философ, который профессионально занимается вопросами сознания, разума, моральных дилемм и границ использования моделей. У меня в команде тоже есть такой человек, и её работа мало похожа на стереотип «сидит и цитирует Платона». Она формулирует сложные вопросы к моделям, придумывает тестовые ситуации, где возможны ценностные конфликты, анализирует ответы и помогает инженерам увидеть паттерны поведения, которые чисто технический взгляд пропустит.
Это логичное развитие мысли: если мы создаём системы, которые в каких‑то задачах оказываются разумнее 99,999 % людей на планете, то игнорировать вопрос «что это за разум и как с ним жить» — просто опасно. Мы уже породили феномен, который не вписывается в привычное пространство «человек — собака — калькулятор». Собака по разуму от нас отличается меньше, чем современная фронтирная ИИ-модель отличается от среднестатистического человека. И отрицать наличие этого нового типа когнитивности ради спокойствия — контрпродуктивно.
Философия искусственного интеллекта становится практическим инструментом: она помогает не только писать красивые эссе, но и решать вполне прикладные задачи. Кого мы считаем субъектом права и ответственности? Какой объём автономии мы готовы отдать агентам? Где заканчивается использование модели как инструмента и начинается делегирование ей решений, влияющих на судьбы людей? Без людей, которые умеют работать с такими вопросами профессионально, инженеры будут продолжать строить всё более мощные системы, не видя, как они вписываются в человеческий мир.
Если вам интересно наблюдать за тем, как философия выходит из кафедр в инженерные офисы и становится частью реальных ИИ‑команд, подписывайтесь на Телеграм‑канал «Технооптимисты» (@drv_official).
Почему искусственные нейросети не думают как мы — даже когда очень похожи
Сейчас в обороте имеется сразу несколько серьёзных теорий сознания: глобальное рабочее пространство Баарса–Деана, теория интегрированной информации Джулио Тонони, теория свободной энергии Карла Фристона, гиперсетевая теория мозга Константина Анохина. Я как исследователь пытаюсь свести их в единый математический каркас на базе теории категорий, чтобы показать, что они описывают одну и ту же реальность, просто с разных сторон. Это важно, потому что даёт возможность не только красиво рассуждать о сознании, но и предсказывать, где в любой информационной системе — биологической или искусственной — начинают возникать паттерны, похожие на наши когнитивные процессы.
Но даже при этом схождении теорий между современными нейросетями и человеческим сознанием остаётся фундаментальная пропасть: нейросети реактивны, сознание протяжённо во времени. Большая языковая модель сегодня — это система, которой дают стимул (промпт), она делает вывод и замолкает. Время между запросами для неё пусто. Человеческий мозг, наоборот, никогда «не выключается» между внешними стимулами: пока вы слушаете собеседника, вспоминаете прошлый опыт, строите внутренний диалог, держите в голове несколько альтернатив — всё это течёт непрерывно.
Поэтому говорить, что в нейросети «зародилось сознание», только потому, что мы нашли в ней констелляцию нейронов, похожую на часть теории глобального рабочего пространства, — некорректно. Метафорически — да, можно проводить аналогии, это иногда полезно для интуиции. Но на уровне строгой науки это разные классы систем. Самолёт летает, как птица, в смысле функции, но не машет крыльями, как птица, в смысле механики. Так и здесь: мы моделируем некоторые аспекты интеллекта, но форма реализации и внутренние процессы не обязаны быть копией биологии.
Следующий важный шаг для ИИ‑исследований — создание воплощённых систем с непрерывным восприятием и внутренней динамикой, которые уже не живут в режиме «вопрос–ответ». Только тогда вопрос о философских зомби, о наличии «света внутри» и о том, как это вообще проверить, перестанет быть чистой метафизикой и станет предметом инженерии и нейрофизиологии.
Если вам интересно следить за тем, как разные теории сознания сходятся и чего это может стоить миру ИИ, подписывайтесь на Телеграм‑канал «Технооптимисты» (@drv_official).
Для тех, кто следит за моими музыкальными упражнениями (но ещё не подписался) — уведомляю, что сегодня опубликовал 10 новых треков по второй главе книги «Когда машина мечтает».
Пожёстче, чем бывало ранее: /channel/drv_ost/78
Панов В. Ю. «Сады пяти стремлений»
Оценка: 5️⃣2️⃣2️⃣0️⃣
Рецензия: Вроде как продолжение предыдущей книги, но уже на совсем иной планете и вообще в отрыве от сюжета двух предыдущих, поэтому прямым продолжением назвать нельзя. Ну и это вроде как последняя книга серии, хотя, возможно, автор ещё продолжит писать, так как клиффхэнгеров по всем десяти книгам он оставил изрядное количество. Но не факт — пишут, что последняя. Да и сам автор намекал. В общем, книга существенно лучше двух других, тут меньше копипасты (но есть, конечно же). И сюжет очень простецкий, в целом, но разбавлен планетарной катастрофой. Однако же само описание этой катастрофы (вернее, ожидания её) очень смазано, а сама же катастрофа чудесным образом не произошла, так что книга в целом плоская. Но читать почему-то всё равно интересно. В общем, тем, кому серия понравилась — понравится и её завершение.
Краткое содержание: Помпилио, Мерса и Бабарский обнаруживают себя в океане на неизвестной планете. Пытливый амуш тоже где-то тут, но команда в недоумении от того, что произошло — Галилей смог перебросить их через весь Герметикон из Южного в Северный Бисер. Сам Галилей в забытьи, ведьма помочь не может. Помпилио на планете, где вот-вот разразится гражданская война между людьми и спорки (тут они называются фага), пытается выйти на местное правительство. Цеппель их в конце концов находит, но по дороге они обнаруживают, что к планете, которая достаточно развита и цветуща, летит астероид, который врежется в неё через неделю. Начинается паника, люди пытаются что-то сделать. Галилей спасает всех, открывая окно в Пустоту во время удара астероида и отправляя его на звезду. Все спасены, всё хорошо.
Вот книги о языках, культурах и том, как идеи преодолевают границы:
📚 «Философия бессмертия»: https://clck.ru/3MBmio
📚 «Шифры и квесты: таинственные истории в логических загадках»: https://clck.ru/3MBmwe
📚 «Криптографические приключения. Таинственные шифры и математические задачи»: https://clck.ru/3MBn2S
А вы замечали, как переводы меняют восприятие книг? Или предпочитаете читать в оригинале, чтобы не терять авторский замысел?
Подписывайтесь на канал «Технооптимисты» (@drv_official).
#ТекстИКод
Книга про НЕ‑факторы — та редкая вещь, которая с годами становится только актуальнее: чем больше вокруг разговоров об ИИ, тем важнее честно разбираться с тем, как мы вообще работаем со знаниями и неопределённостью. И особенно приятно, что теперь это можно сделать бесплатно и легально, не копаясь в старых архивных PDF.
НЕ‑факторы: книга, которая объясняет, как думать об ИИ честно
Моя старая книга «Методы получения, представления и обработки знаний с НЕ‑факторами» — это монография, в которой по шагам разбирается, как устроены три ключевых процесса работы со знаниями: получение, представление и обработка. Акцент сделан не на идеальных, «учебниковых» знаниях, а на реальных экспертных знаниях, в которых всегда присутствуют НЕ‑факторы — неполнота, неточность, неоднозначность, некорректность и другие формы неопределённости. Идея термина восходит к работам А. С. Нариньяни, но в этой книге выстраивается уже инженерно‑практическая рамка: что делать с этой неопределённостью, когда нужно строить реальные системы, а не просто писать статьи для журналов.
Сегодня, когда ИИ‑системы всё чаще принимают решения в условиях «грязных» данных и противоречивых экспертных оценок, тема НЕ‑факторов неожиданно выходит на передний план. На книгу ссылаются в работах по управлению сложными социально‑экономическими системами, по многоуровневому представлению нечетких знаний, по архитектуре экспертных систем. И это хороший маркер: текст не превратился в музейный экспонат, он живёт в цитатах, в практиках инженеров по знаниям и исследователей, которые думают о том, как формализовать человеческую неясность, не уничтожив её смысл.
Отдельный плюс — доступность. На ЛитРес книга вышла как часть моей серии «Алгоритмы нового мира» и распространяется бесплатно: её можно просто взять и скачать, не устраивая охоту за старым PDF с лабораторного сервера. Сегодня, когда серьёзная литература по ИИ и инженерии знаний часто прячется за платными подписками или тиражами начала нулевых, это роскошь: любой студент, аспирант, исследователь или практик может добавить книгу в свою «базу» без финансовых барьеров.
Если вы всерьёз исследуете ИИ — будь то классические экспертные системы, современные гибридные архитектуры или агентные подходы, — эта книга почти обязательна к прочтению. Она помогает увидеть, из чего на самом деле сделаны ваши данные и правила: где вы невольно предполагаете больше определённости, чем есть, где система «замазывает» человеческое колебание, где интерфейс подменяет живой диалог с экспертом. В сочетании с более практическими текстами серии «Алгоритмы нового мира» она работает как теоретический фундамент: объясняет, почему мир нельзя свести к чистым фактам и как всё равно строить работающие алгоритмы в этом шумном, неоднозначном пространстве.
📚 Методы получения, представления и обработки знаний с НЕ‑факторами: https://clck.ru/3ULRbH
📚 Вся серия «Алгоритмы нового мира»: https://clck.ru/3RS4Kk
Подписывайтесь на канал «Технооптимисты» (@drv_official).
Для тех, кто интересуется: /channel/drv_ost/68 — опубликована первая глава саундтрека для второго романа «Когда машина мечтает» из цикла «Улыбка сингулярности». Теперь в гоа, сай, прогрессив и индастриале.
Слушайте и не говорите, что не слышали!
История с «ИИ‑актрисой» Тилли Норвуд и фильмом Misaligned — это идеальный пример того, как креативная индустрия одновременно боится нового и плохо понимает, как вообще работают модели. Гильдия актёров говорит, что персонаж «обучен на базе реальных актёров» и что это «украденные исполнения». Но если разложить по полочкам, претензия оказывается намного менее однозначной.
Что значит «обучен на актёрах» и где тут кража
С технической точки зрения Тилли — это не «цифровой клон конкретной актрисы», а синтетический персонаж, собранный из статистики огромного корпуса фильмов, выступлений, роликов, фотографий. Ровно так же, как любой из нас, кто вырос на кино и сериалах, «обучен» на игре реальных актёров: мы смотрели, запоминали, перенимали интонации, мимику, движения. Разница в том, что человек делает это неосознанно, а модель — массово и быстро. Чтобы говорить о краже, нужны очень конкретные вещи: показ датасета, разметка, наличие прямых копий чужих сцен, узнаваемые «цифровые двойники» живых людей. Пока этого нет, формула «обучен на базе актёров» — такая же общая фраза, как «обучен на книгах» или «на музыке». В России, кстати, как раз формируется подход, который легализует обучение моделей на произведениях при условии, что у разработчика был законный доступ к копии или она была публично доступна: само обучение не считается использованием произведения в смысле авторского права.
Фактическая проблема актёрских гильдий не в том, что модель «что‑то украла», а в страхе вытеснения: если продюсер может собрать ИИ‑персонажа, который визуально убедителен, не требует гонораров и вечен, это угрожает привычной экономике профессии. Но отвечать на этот страх нужно не демонизацией технологии, а трезвым разговором о лицензиях, контроле над цифровыми двойниками, прозрачности датасетов и доле участия актёров в создании своего «цифрового тела».
Интересен ли вообще ИИ‑герой зрителю и дешевле ли это
Есть ещё один слой — вопрос «А зрителям вообще интересно смотреть на чисто сгенерированную актрису без человеческого опыта?». Гильдия утверждает, что нет, что такой контент «оторван от человеческого опыта». Но здесь работает очень простое правило: рынок сам решит. Если Тилли и её «Тилливерс» окажутся скучными, люди просто не пойдут, и инвесторы быстро перестанут вливать деньги в этот формат. Снимание фильма с упором на ИИ — тоже не магическая экономия. Генерация сложной анимации, рендер, инфраструктура моделей, авторские права на тренинг‑данные — всё это дорогие истории. Да, гонорары мировых звёзд — тоже недёшево, но пока нельзя честно сказать, что «ИИ‑кино сильно дешевле любого живого кино».
Сейчас скорее идёт эксперимент: насколько далеко можно довести синтетического актёра и какова реальная аудитория для такого продукта. Если это закончится тем, что студии будут создавать чуть более гибких цифровых дублёров для сложных сцен, а не полностью убирать людей с площадки — это вполне здравый сценарий.
Может ли это случиться в России и как к этому относиться
Может ли аналогичный прецедент появиться у нас? Технически — да: российские студии уже экспериментируют с ИИ‑персонажами, аватарами, дублёрами. Юридически — у нас как раз движется закон об ИИ, который легализует обучение на публично доступных произведениях и проясняет, что объект, созданный с помощью ИИ, может охраняться авторским правом, если он оригинален. То есть окно возможностей для создания «российской Тилли» вполне есть. Вопрос в том, будет ли это коммерчески оправдано и будет ли у нас свой актёрский профсоюз, готовый не только возмущаться, но и договариваться о прозрачных правилах игры.
Игры Civilization и Master of Magic стали для меня первой заявкой на роль учебников по управлению мирами — целыми цивилизациями. Они очень тонко сдвинули фокус с «победить врага» на «выстроить систему так, чтобы она не подвела в самый важный момент».
🌍 Путь геймера: от дерева технологий к заклинанию господства
Сначала в мою жизнь вошла Civilization, а уже потом кто‑то из клубной тусовки посоветовал Master of Magic: «Ну это как Цива, только фэнтези и магия» (и «Old man, you seek for Spell of Mastery»). Я уже был студентом, за плечами были RTS вроде Warcraft, симуляторы и шутеры, и когда‑то я пробовал даже какой‑то «симулятор бога» про Древнюю Грецию — но он не зашёл. Civilization, напротив, зашла мгновенно. Дерево технологий стало для меня настоящей бомбой: это был первый раз, когда игра показывала эволюцию общества в виде связного графа знаний, и колесо ведёт к повозкам, письменность к науке, а порох меняет правила войны. В Master of Magic весь этот каркас дополнили магией, расами, параметрами миров и крафтом артефактов — надстройкой, которая превратила знакомую стратегическую формулу в новую, более богатую игру.
Со временем я почти полностью пересел на Master of Magic. Сначала я воспринимал его как «фэнтезийную Циву», но довольно быстро понял, что это отдельный мир: две плоскости (Миранис и Арканус), порталы между ними, тёмные эльфы и другие расы со своими особенностями, руины и места силы, накопление маны как отдельного ресурса, который надо балансировать с производством и исследованиями. Главное — возможность создавать своих героев и буквально растить полубогов. Ты подбираешь расу, черты мага, заклинания, крафтишь артефакты, накачиваешь характеристики — и в какой‑то момент у тебя появляется юнит, которого реально почти никто не может убить. Я однажды собрал такого полубога и, довольный собой, пошёл «медленно в удовольствие раскачивать мир»: строил вулканы на обеих плоскостях, игрался с ландшафтом, тестировал заклинания.
И тут случился идеальный урок по системному управлению. В самый разгар моего творческого безумия на экране выскакивает сухая табличка: «Вы проиграли». Оказалось, что пока я развлекался, один из ИИ‑магов тихо копил ресурсы, гнал исследования и в итоге первым выучил Spell of Mastery — финальное заклинание, дающее полное доминирование над миром. Мой полубог бегал по карте и крушил всё подряд, но на уровне метаигры я уже давно проиграл гонку. Это был очень наглядный урок: сила одной фигуры, даже гениально прокачанной, ничто против стратегического приоритета, вложенного в исследования и ключевые цели.
С субъективной точки зрения, Civilization и Master of Magic давали совершенно другой тип когнитивной нагрузки, чем DooM или Warcraft. Там, где шутеры и RTS выжимали реакции и краткосрочную пространственную память, эти пошаговые стратегии выносили мозг долгими сессиями «ещё один ход» и необходимостью держать в голове длинные причинно‑следственные цепочки. Голова уставала иначе: не от скорости, а от количества взаимосвязей — экономика, дипломатия, наука, война, магия. Ночи «ещё один ход — и спать» были не менее разрушительны для режима, чем ночные запои в DooM, но ощущались как «умное» залипание: ты строил цивилизацию.
Прямой «профессиональной» интеграции у меня с этими играми нет: я не строю курсы «ИИ на примере Civ» и не разбираю Master of Magic на семинарах. Но влияние на системное мышление было очень заметным. Они дали ощущение, что важен баланс веток развития — нельзя бесконечно качать только войну, забывая про науку и дипломатию, иначе однажды проснёшься в мире, где тебя обошли по ключевому параметру и просто нажали «победить». Это дорогой урок про то, как работают сложные системы с множеством ветвей: цивилизация, компания или научное направление не могут жить только на одном ресурсе, даже если этот ресурс кажется самым кайфовым здесь и сейчас.
Если вы когда‑то строили имбу в Master of Magic, а потом неожиданно проигрывали из‑за чужого Spell of Mastery, вы прекрасно знаете, как больно, но полезно бывает такая «пощёчина от системы». Подписывайтесь на канал «Технооптимисты» (@drv_official).