28083
Будни технического директора @samatg (ex-CTO Meduza, Bookmate, RAWG, Pure) заказать услуги https://fansdev.ru · чатик @ctodailychat · рекламу не продаю
Кстати, Кейти была экспертом при подготовке Вассенаарских договоренностей, которые определяют, какой софт считается оружием и как его контролировать.
Я в этой связи вспоминаю, как правительство США пыталось запретить публичное распространение криптографии, которую они не могли взломать.
Правительство классифицировало стойкие алгоритмы как вооружение и запрещало их экспорт.
Например, в середине 90-х, было две разных версии браузера Netscape: одна с нормальным 128-битным шифрованием, доступная только в США и Канаде, а остальной мир должен был довольствоваться 40-битным шифрованием.
Активисты, которые боролись с этим безумием, в числе прочего, распространяли алгоритмы и даже исходники RSA и PGP в виде книги. Потому что книги защищены первой поправкой к конституции США о свободе слова.
Вот активистская футболка тех времен, с алгоритмом RSA и крупным предупреждением «эта футболка классифицируется как вооружение и не может быть экспортирована из США или показана иностранцу».
Всё новое — это забытое старое.
О, ещё одно предсказание из ai-2030 сбылось: Mythos придумал (стр 107) свой собственный язык, так что становится сложнее следить, что он думает на самом деле.
Читать полностью…
Apple признала серьезные проблемы с софтом. Анонсировали, что новая версия iOS и macOS посвящены исправлению ошибок и ускорению работы. Обещают, что программы начнут открываться на 30% быстрее даже на старых айфонах! Новый CPU scheduler и много других подкапотных улучшений. Может быть, даже поиск в настройках заработает!
Ну слава богу, а то я уже начал подозревать, что это я старею и схожу с ума, а всем остальным ОК.
У Apple уже есть опыт «релизов исправлений», macOS 10.5 Snow Leopard была «версией без единой новой фичи».
В этот раз они не смогли пойти на такой смелый шаг и впихнули новую ИИ-фичу: операционная система будет проактивно давать весь необходимый контекст о наших жизнях нейросети, встроенной в Сири. Честно говоря, все это нам уже обещали в Apple Intelligence год назад, но видимо в этот раз точно :)
Ах да, в Евросоюзе и в Китае вся эта история с нейросетями работать не будет. И жалобам на антимонопольное законодательство Евросоюза Apple посвятила целую отдельную страницу, а про ограничения в Китае написала буквально в самом конце лендинга, мелкой сноской. Потому что не нужно путать, это другое.
P. S. Ещё обещают доделать и дочинить родительский контроль на айфонах. Как родитель подростка: не верю, но все равно надеюсь!
Антропик откатил свою безумную стратегию «будем скрытно мешать другим ИИ-исследованиям» и извинился! Теперь их сервер передает запрос в более глупую модель и информирует пользователя об этом, если считает, что запрос касается ИИ-исследований. Так же, как делает с запросами про биологическое и химическое оружие.
Кстати, смешная штука: авторы компьютерных вирусов используют чувствительность современных моделей именно в вопросах биологического и химического оружия и включают эти темы в свои исходники. Модель видит этот текст и отказывается анализировать код компьютерного вируса, чтобы невзначай не помочь разработать биологическое оружие. Работает, понятно, только на самых простых обвязках, но попытка хорошая!
Ещё одно ограничение (стр 13), которую мы видим среди нейросетей впервые:
При попытках использовать Fable 5 для обучения других моделей, она не будет отказываться, но будет мешать это делать, скрытно от пользователя.
Ощущение, что мы с вами жили в «раннюю эпоху LLM», которая заканчивается.
Когда ещё увидишь полный увод аккаунта из крупной соцсети за полторы минуты?
Читать полностью…
Я люблю садится в самолет по приставной лесенке, а не «по трубе». Потому что тогда я могу заглянуть прямо в турбину двигателя, рассмотреть лопасти.
Современный реактивный двигатель — настоящее произведение искусства, рукотворное чудо нашей цивилизации. Это как пройти мимо Мона-Лизы.
А потом сижу в кресле и чувствую, как эта махина толкает нас вперед с такой силой, что мы взлетаем.
Так вот, современные чипы внутри наших телефонов и компьютеров — похожее чудо. А уж то, что мы, человечество, умеем производить их за такую цену, что их может себе позволить почти каждый — это вообще уму непостижимо.
Разбираемся, как это устроено с идеальной гостьей — Дианой Гришиной! Диана — ученая, которая много лет работала в ASML — единственной в мире компании, которая делает станки для производства самых современных чипов.
Один из зрителей оставил вот такой комментарий: «В Вашем подкасте мне больше всего нравятся гости. Многое из того, что они рассказывают, я и так знаю. Но смотреть и слушать этих людей с горящими глазами, которые взахлеб рассказывают о том, что им интересно - это огромное удовольствие.»
Ради такого и работаем! Новый эпизод на всех платформах и на ютубе: https://youtu.be/yNAeKVG7rIQ
Эпоха дешевой техники заканчивается.
За последний год, оперативная память подорожала в 2,5 раза. В Германии — в 4 раза!
В базовых смартфонах, оперативки составляла 5% стоимости материалов, теперь — 50%.
Маржа у простой техники и раньше была в единицах процентов, так что смартфон, который раньше стоит 50$, теперь продается за 120$.
Многие люди не могут позволить себе такую покупку. Главный производитель телефонов для Африки Transsion, потерял половину выручки, Oppo и Xiaomi отгрузили на 20% телефонов меньше.
Скоро повышение цен почувствуем и мы с вами. Последний флагман Samsung уже поставили с меньшим объемом оперативки, чем планировали; Apple отложил начало продаж новых айфонов и маков.
❧
Почему дорожает оперативка? ИИ-гиганты скупают специальную высокопроизводительную HBM (Hight-Bandwidth Memory) память за любые деньги. Производство каждого гигабайта такой памяти убирает с рынка 3 гигабайта обычной оперативки.
Почему бы производителям памяти просто не расширить производство?
Все компании, которые растили производство чипов памяти, реагируя на «горячий рынок» — обанкротились. И теперь у оставшихся игроков «эволюционная память», что лучше иметь недостаток чипов памяти (и пусть их кому-то не хватит), чем инвестировать лишнего. Построить один такой завод стоит 20 миллиардов долларов.
❦
Горячо рекомендую первоисточник, такой рассказ про оперативку, её историю и индустриальные инсайды о текущих сделках (раньше Apple имела многолетние фиксы, которые недавно истекли, и теперь заводы фиксируют стоимость максимум на квартал, а руководители компаний переезжают в Корею на ПМЖ, чтобы лучше лоббировать поставки), что просто не оторваться.
※
То, что современные сайты сжирают гигабайты (!) оперативной памяти — отдельный разговор, к которому мы пока не готовы…
Каждый третий молодой человек в США хотя бы раз пробовал вести романтическую переписку с ботом. Половина подростков в США регулярно используют нейросети для эмоциональной поддержки. Я пишу про США, потому что про них у нас есть хорошие данные, и я не сомневаюсь, что этот тренд очень скоро докатится до всех.
Как создают ботов, с которыми люди переписываются месяцами на самые откровенные темы? Какой персонаж среди них — звезда? И как работает эта индустрия — разбираемся с основателем сервиса для создания эмпатичных ботов ex-human Артемом Родичевым.
Ура, выпустили эпизод про децентрализованный ИИ и в целом про власть в этой сфере! Гости — братья Либерманы.
Сегодня, право купить самые мощные чипы ИИ распределяется между 5-6 крупными игроками. Доступ к этим ресурсам считается вопросом национальной безопасности. Это ведет к невиданной централизации и падению реальной конкуренции.
Братья разработали способ демократизации этой индустрии: придумали криптовалюту, майнинг которой включает решение реальных ИИ-задач. В результате мы перестаем впустую греть воздух для крипты и создаем экономическую мотивацию для тысяч независимых игроков вложиться в инфраструктуру ИИ.
Оказывается, майнеры криптовалют за всю историю потратили на железо больше 300 миллиардов долларов. Это сравнимо с суммами, которые корпорации и государства вкладывают в ИИ сегодня.
Страшные предсказания, классные истории, шутки и надежда — в новом эпизоде!
Первая запись в студии вместе с гостями офлайн!
Прямо кайф, огромная работа всей команды, спасибо студии либо/либо и всем, кто в этом участвует. Очень надеюсь, что получится стать популярными на ютубе и сможем писать всё вживую.
Мощная энергетика, когда сидишь вместе в комнате. Надеюсь, она передается на экране!
Смотрите на ютубе и слушайте на аудио-платформах!
Мы с Ильей и Егором на выходных на стриме сделали приложение: можно посмотреть список подкастов и эпизодов, подписаться на любимый подкаст и прослушать выпуск, платные эпизоды отображаются с замочком и при нажатии понимают пейвол.
К сожалению, как раз подписку мы доделать не успели — там нужно проходить дополнительный апрув от эпла.
Стрим длился 9 часов, и за это время мы даже не сходили пообедать — оторваться было невозможно. По ощущениям, нам не хватило буквально часа, чтобы опубликовать приложение.
Спасибо большое зрителям за классные советы, был даже пул-реквест с фичей «списка прослушивания» (замержили). Запись доступна на ютубе.
Мы с Егором довольно много времени потратили на логику бэкенда, а вот приложение получилось более-менее чисто на вайбах и огромном упорстве Ильи.
Интересный момент: за 9 часов мы не истратили лимиты 100-долларовой подписки, хотя использовали Extra High модели.
Ещё Егор посоветовал лучшее приложение для голосового ввода текста: VoiceInk. Локальная модель Parakeet v3 и предпоказ текста прямо по мере диктовки. С ним вайбкодить гораздо веселее! Рекомендую!
Очень неприятная история с потерей данных на гитхабе.
Если у вас активная разработка и пул-реквесты конкурируют между собой при мерже в main, то гитхаб предлагает решить это через merge queue, который мержит PR-ы по очереди.
Так вот из-за бага в коде, часть ранее замерженных коммитов пропадала из main в течении четырех с половиной часов начиная с 2026-04-23 16:05 UTC.
Страшно представить, как такое дебагать.
И как вообще вести разработку, если не можешь доверять системе контроля версий, что она не потеряет коммиты? 🤷♂️
Уверен, что по всему миру инженеры думали, что сходят с ума.
Ну а дальше github предлагает исправлять это руками... Sic transit gloria mundi
Схема для тех, кто запутался, какая модель теперь самая мощная
Читать полностью…
Удивительно наблюдать, как гиганты (не)справляются с вайб-кодингом:
Github потерял последнюю девятку в своем SLA. Отдельно замечу, что status page вендоров уже давно нельзя верить и вот люди собрали собственный, народный.
Амазон был вынужден сильно замедлить выкатку фич после падений и теперь требует сениор-ревью перед релизами.
Хотя казалось бы, уж у них-то должны быть и автоматизированные тесты и легион ручных QA-инженеров!
С одной стороны, нужны нормальные процессы, чтобы слоп не лез в продакшен и были хотя бы пара живых людей, которые понимают, что там происходит под капотом в сложной системе.
С другой стороны, мы сейчас во временном переходном периоде, когда ещё есть программисты, которые не умеют ставить задачи (хотя и умеют писать код самостоятельно) и с этим нужно что-то делать.
В общем, быть техдиром опять становится интересно.
Планирую обсудить это сегодня вечером на онлайн-конференции. Начало в 18:00, моё выступление в 20:00 по Москве. Бесплатно и без смс, регистрация тут. До встречи!
Михаил Гельфанд в запуске завтра!
Расспрашиваю профессора про генетику: как мы научились читать и редактировать ДНК, что с помощью этих технологий реально сделать, какие риски «дизайна ДНК человека» и правда ли, что *** передается по наследству.
Слушайте и подписывайтесь!
https://youtu.be/m3VPNaPGLNk
Подъехали подробности про блокировку fable 5.
Крестная мать баг-баунти програм (она запустила bug bounty в Microsoft и в Минобороны США, не баран чихнул), Кейти Муссурис, прочитала технический документ, который послужил основой для блокировки.
Говорит, что когда fable 5 дали на вход программу и попросили найти уязвимости, она отказалась. И тогда исследователь попросил модель исправить ошибки в этой программе. И подготовить тесты, чтобы проверить, исправлены ли они на самом деле.
Всё, это весь «взлом».
Можно конечно такое починить, но тогда модель станет абсолютно бесполезной для разработки софта.
🍿🍿
Неожиданное развитие событий с fable 5: правительство США наложило экспортные ограничения (то, что обычно делают на оружие) — потребовали от Антропика отключить доступ к этой модели для всех иностранцев, включая сотрудников компании - не американцев.
Сделать быстро это Антропик не может, так что выключают доступ для всех.
Правительство утверждает, что обнаружило «джейлбрейк», который позволяет разблокировать возможности модели для кибер-атак. Антропик говорит, что речь о стандартном приеме «исправь ошибку в этом коде», который ровно так же работает и в ChatGPT 5.5. Обещают больше подробностей в течение 24 часов.
Хочется пошутить, что это такая PR-стратегия антропика перед IPO для поддержания хайпа, и что у них в очередной раз не хватает видеокарт, или что это наоборот, козни Сэма Альтмана против конкурента (тоже перед IPO), и что хайп про сверх-возможности в области в кибербезопасности имеет и обратные последствия, но вообще все это исключительно странно, даже для этой администрации. Похоже, кто-то в правительстве всерьез озабочен mythos/fable, ну или просто очередная дурь. 50:50.
🍿
SpaceX станет сегодня одной из самых дорогих компаний на планете, а у нас как раз вышел эпизод о том, зачем нам космос.
Зачем отправлять в космос так много ракет? Какие планы строят самые крупные игроки космической индустрии? И почему это все касается нас, простых людей на земле?
Поговорили с Георгием Тришкиным, аналитиком ракетных пусков и автором телеграм-канала Техасский вестник, чтобы разобраться, для чего нам космос и какого развития индустрии мы ожидаем в ближайшие годы.
Интересно, что эта ситуация касается меня лично: у нас недавно появился необычный клиент. Он разрабатывает суперкрутого голосового ассистента: долина, раунды на десятки млн $, огромная кодовая база на млн строк, написанная целиком нейросетями, под предводительством одного основателя.
Наша задача — привести все это в порядок, стабилизировать, обеспечить развитие и масштабирование.
На текущий момент мы в основном пользуемся моделями от антропика, но как я могу быть уверен, что свежая модель не решит, что мы конкуренты?
Ну что, великий и страшный mythos (миф) от антропика наконец опубликовали, в обрезанном виде, назвали fable (басня).
Доступен по подписке, токены ест как не в себя, но результаты абсолютно чумовые. Берет полноценные задачи и доводит их до конца самостоятельно за условные 9 часов автономной работы. Рекомендую попробовать
Интересно, что антропик обещает отключить доступ к этой модели по подписке с 23 июня. То есть у нас есть 2 недели, чтобы попробовать, какая она классная, а дальше уже принимать решение, готовы ли мы платить тысячи долларов за токены.
Вообще, это интересный аспект всей этой нейросетевой безумии: частные лица покупают подписку за 20/200 долларов в месяц и пользуются условно сколько хотят, а корпоративные тарифные планы учитывают каждый токен по-отдельности по АПИ-тарифам. В сочетании с токен-максингом, когда компании мотивировали программистов жечь побольше токенов в том числе лидербордами (кто сжег побольше), суммы получаются совершенно астрономические, экономически неподъемные даже для крупнейших игроков. Яркий пример — Uber: за четыре месяца сжег ИИ-бюджет на год и теперь ввел лимит в 2000 долларов на токены на разработчика в месяц.
Интересно, не уж то эпоха субсидированных токенов и совсем безлимитного ИИ-программирования заканчивается и для частных лиц?
Оно и понятно, индустрия пытается переключиться из режима «дай ИИ конкретную маленькую подзадачу и сиди смотри, как она ее решает, работая вместе с ней», в режим «модели решают вот эту большую задачу самостоятельно, работая в автоматизированном цикле 24/7, работа инженера — тюнить цикл», и тут нужны хоть какие-то ограничения на то, сколько таких циклов ты запустил одновременно и мотивация на их оптимизацию. Иначе это как бесплатное электричество.
На картинках — два главных графика, какую долю задач модели доводят до конца успешно и сколько токенов при этом тратят.
Чтобы установить любой пароль на любой инстаграм-аккаунт, достаточно было попросить официального ИИ-бота техподдержки.
Прямо как в IoT, в абривеатуре ИИ, буква Б означает безопасность. Уязвимость жила неделями, если не месяцами.
Не знаю, корректно ли называть их хакерами, но люди успели увести сотни аккаунтов с короткими адресами, а еще захватили на время официальные аккаунты Барака Обамы и другие.
—
Очень хорошо перекликается с недавним случаем, когда нейросеть обошла ограничения доступа на компьютере разработчика (docker bind-mount вместо sudo).
—
Понятно, что нейросетям нельзя доверять контроль доступа. Системы нужно строить так, чтобы у моделей физически не было доступа к опасным операциям.
Случай инстаграма граничит с халатностью — мы с вами говорим о краже аккаунтов в крупнейшей социальной сети на планете, но в целом построение систем с ИИ сводится к классической сисадминской задаче: дать пользователю (актору) ровно столько прав, сколько ему нужно для выполнения своих задач и ни капли больше.
—
Да и в целом «агентное программирование» стремится к старой доброй админской задаче построения из готовых блоков пространства, в котором живут и выполняют свои функции «агенты». Раньше это была операционная система и процессы в ней, теперь вот агенты и харнесы, но я вижу много параллелей.
А может просто я просто так и остался сисадмином :)
Наконец-то эпизод про гражданскую авиацию!
Я планировал его с февраля 2022, когда ввели санкции, но архисложно найти эксперта, который:
- знает российскую специфику,
- не слишком ангажирован (всё пропало vs всё замечательно)
- и может при этом говорить достаточно свободно.
С гордостью представляю интервью с Анастасией Дагаевой! Настя фанат авиации, летает сама, много лет писала об авиации в Ведомостях и глубоко разбирается в теме.
Очень интересный и легкий разговор на совсем не простую тему, от технических подробностей до финансовых и юридических схем — в новом видео-эпизоде «запуска завтра».
Как теперь поддерживаются самолеты в России? Сможет ли авиация перейти на «отечественный флот»? Как вообще производят самолеты? Стало ли опаснее летать?
https://www.youtube.com/watch?v=3XFnzqD9GRc
Зачем мы выбираем отношения с машиной и как это на нас влияет? Марина Травкова — терапевт и семейный психолог — разбирает, как искусственный интеллект меняет любовь, одиночество и наше представление о себе. Опасно ли общаться с кем-то, кто не может сказать «нет»? Почему романтические отношения переоценены?
Два разговора на одну и ту же тему, совсем разные — помогают рассмотреть её в объеме. Первый двухсерийный эпизод в нашем подкасте. Горжусь командой! Слушайте на всех платформах, смотрите на ютубе!
Первый эпизод — с технарем-предпринимателем, второй — с практикующим психологом.
Гитхаб в последнее время сильно сбоит.
В дополнение к инциденту с merge queue, за последние дни успели сломаться поиск и показ пул-реквестов.
Техдир сервиса Владимир Федоров в своем покаянном посте пишет, что причина — во взрывном росте активности на платформе из-за нейросетей (см картинку).
Обещает, что теперь они будут работать над стабильностью, масштабируемость и перестанут гнаться за фичами.
Внешние наблюдатели подозревают две причины: 1) плохой вайбкодинг в Microsoft 2) сложный переезд с собственной инфраструктуры на Azure.
И вот уже знаменитый Митчел Хашимото пишет длинный эмоциональный пост, что уносит репозиторий своего проекта ghostty с гитхаба.
❧
Создать git репозиторий можно без всяких сервисов — это просто файлы на диске. Гитхаб выигрывает за счет удобного контроля доступа, интеграции с ci/cd инструментами, удобного веб-интерфейса для комментирования и тысячи мелочей.
Есть десятки конкурентов, но ни один не дотягивает до качества github. Раньше это был «лучший инструмент, который можно купить за деньги», а теперь он становится одним из многих, со своими плюсами и минусами. Прямо падение гиганта.
Конечно, у таких сервисов огромная инерция, но очень интересно, куда побегут «модные ребята», которые задают тренды. Будет ли это новый классический конкурент со взрывным ростом или что-то распределенное и децентрализованное, соответствующее базовой философии гита?
Замечательный скилл (инструкция для LLM) для экономии токенов, Caveman. Нейросеть начинает отвечать как пещерный человек. Мне это напоминает стиль общения нелюдимых инженеров из восточной европы.
Учитывая, что программирование мы заменяем на бесконечным общением с нейросетью, экономия текста сильно экономит время и нагрузку на мозг. Рекомендую!
Пример пересказа этого поста в самом его сжатом стиле ultra: Caveman скилл — LLM говорит как пещерный. Токены экономь. Стиль = угрюмый инженер восточной европы. Чат с нейронкой бесконечный, меньше текст = меньше мозг устал. Бери.
Друзья, начинаем стрим через 10 минут!
https://www.youtube.com/live/mKjCHo7GKko
Все заметили, что в последние недели Клод отупел и жрет токены как не в себя.
Ходили слухи, что это потому что у Антропика не хватает видеокарт.
Теперь они утверждают, что дело в ошибке в их обвязке Claude Code и что «они никогда не отупляют модели специально». Выпустили исправление и сбросили лимиты токенов в этом месяце. Подробное объяснение тут
OpenAI выпустил новую модель, вдогонку к недавнему добавлению computer use в их обвязку Codex. Обещают, что эта штука теперь умеет доводить до конца сложные задачи на компьютере, вроде «возьми отсюда, сделай то, отпишись туда».
Читать полностью…
СМЕРТЕЛЬНЫЙ НОМЕР: МОЖНО ЛИ НАВАЙБКОДИТЬ КЛАССНЫЙ АПП ЗА СУТКИ?
Мы с Ильей Красильщиком в эту субботу проведем 9-часовой стрим, где попытаемся придумать, навайбкодить и запустить мобильное приложение подкастов студии Либо/Либо за один день.
Помогут нам в этом крутой технический директор Егор Хмелев и эксперт по безопасности Омар Ганиев. А ещё на стрим заскочат Лика Кремер и Андрей Борзенко — они заказчики всего этого безобразия.
Хочется не просто плеер для подкастов, каких миллион, а что-то про сообщество, и у нас есть пара интересных идей. Мы не знаем, получится ли сделать приложение за день, но кажется, что попробовать уже можно.
В общем, будет весело! Подключайтесь с 11 утра до 8 вечера по Москве. Если шарите в вайбкодинге — подключайтесь тем более, будем учиться друг у друга.
Ставьте колокольчик на ютубе, чтобы не пропустить!
Zoom пытается стать не просто хорошей программой для видеосвязи, а «единым рабочим пространством», с мессенджером, общими документами, календарями и прочим. Закон эволюции: любая успешная коммерческая программа расширяется, пока не станет неповоротливым и неудобным мусором.
Окно «Zoom workplace» с пустым календарем (ну не пользуюсь я им!) постоянно вылезает и занимает место на экране, закрывает полезную информацию. Убрать его совсем нельзя — это ведь по сути маркетинг, «давай начинай пользоваться». Меня принципиально не устраивает, что мне пихают рекламу в рабочее пространство.
Я знаю, что технически точно можно написать маленькую программку, которая будет мониторить события операционной системы, ловить появление ненавистного окна и закрывать его автоматически. Но между «теоретически возможно» и «вот сделал», много часов разработки (да и не программировал я для macOS я никогда).
А тут с помощью клода я сделал скрипт для hammerspoon, который идеально решает задачу. Как только окошко появляется — оно мгновенно исчезает. Красота!
Правда, для того, чтобы скрипт заработал, мне пришлось приложить довольно много усилий и почти целый час «в моргающем режиме», параллельно с тем, как я делал другие мелкие дела. Нейросеть идеально прогает, но мне пришлось её направлять и помогать отлаживать проблемы руками.
С другой стороны, если бы не клод, то я не стал бы тратить целый час на это копание, а просто смирился.
А потом я попросил нейросеть перевести всю логику скрипта в маленькую программку на Swift, сделал минимальный интерфейс, чтобы можно было включить/выключить при необходимости, возможность добавления в автозапуск и т. д. Пользуйтесь на здоровье! Исходники открыты, но можно и просто скачать готовую программу, она подписана и нотаризована Apple, никаких лишних уведомлений безопасности.