6635
By Alexey Moiseenkov about startups, AI, ML and consumer product building. Opinions are my own. Only about tech.
Еще забавный эвал. Как часто модели читерят, чтобы выполнить задачу даже когда требования и результат четко определены(чем ниже столбик тем лучше). Ну лидерство тут понятно за кем.
Читать полностью…
A wall? Или плато так сказать. Грубо говоря за каждый потраченный на модель ярд баксов все меньше прогресса. Ну и получается скоро начнется процесс конвергенции, но для других игроков он будет стоить очень дорого. Ну пока что дешевле тренить не стало.
Читать полностью…
Короче говоря s1 от Anthropic и их скорое IPO отражает все опасения индустрии. И они, конечно же, не про «аи бабл херня» или «ахахха компания нас дурит там одни убытки».
Прочитал тонну мнений, вставлю свои пять копеек:
1/ заявка очень даже серьезная, все цифры сильные в хорошем смысле. Они действительно прибыльны, они действительно очень хорошо удерживают клиентов (900% ретеншен выручки это нонсенс, у типичного saas требования были около 120%, то есть компании начинают платить намного больше от момента когда начали). Все тонкие моменты отвечены: да инференс супер маржинален, да мы много платим людям очень много, да у нас тонна кэша на счетах и проценты приносят ярд, да мы заказали очень много компьюта на годы вперед. Вот тут следующая глава.
2/ через десять лет они должны продавать на 1T usd. Что выглядит очень серьезно. Эт уровни Walmart/Amazon но с маржой 27.5%, а не 1-2-3-4-5%. Собственно это основной риск если взглянуть честно. Любая ситуация где выручка начинает падать или расти сильно медленнее нужного темпа означает не оправдание прогнозов и акции полетят вниз. Точнее не так. Не будут расти, а значит для розничного инвестора история станет не интересной. А IPO это про розницу. И вот как раз важны заказы на compute. Не держишь выручку - платить нечем. И там все начнет складываться как карточный домик.
3/ сам по себе аи с нами навсегда. Очень много маркетинга. Но он хотя бы чуть более сдержанный в отличие от OpenAI. По сути говоря основная ставка для пиара это то, что аи дает очень много экономического эффекта для GDP и в целом в теории способен заменить людей во многих местах. Эта ставка очень сильная, но она так же зависит сможешь ли продать эти возможности и сможешь ли ты их обеспечить. Даже если аи сильно лучше людей, всем ли нужно это качество и есть ли моменты когда люди выгоднее или быстрее? Ответов пока нет. Но эти вопросы надо держать в голове.
4/ компания стоит хорошо, модели лучшие (ну или почти лучшие), цикл производства налажен, удерживать клиентов умеют, есть дофига времени. Смотрите все контракты очень долгие. Поэтому есть пространство для маневра. Более того касательно моделей, принято много верных решений чтобы снизить конкуренцию из-за дистилляции и прочего. Меньше ставка на науку и маркетинг вокруг чего-то, что сложно понять как продать на бирже. Но тут OpenAI в последнее время больше бьет в розницу. В науку то «престижно» заливать бабки. Осталось начать warp drive продавать в массы. Про джедайские мечи молчу :)
Честная оценка думаю что-то около 1.5T. Что где-то 15-20 годовых выручек. Что примерно на уровне растущих хайп лидеров типа Nvidia. То есть при сохранении роста выручки ожидаем новую топ5 в след году или 28.
Накопилось много всякого, что хотелось бы написать. Там и s1 Anthropic и разные другие кризисы кредитования compute бизнеса. Но начну пожалуй с математики.
Ремарка: я не ученый и тем более не математик. Но пол жизни провел в математике и достаточно плотно интересовался ей, даже в институт Стеклова при РАН ходил. Ну кто знает, тот поймет.
Так вот OpenAI накинули очень сильный результат на прошлой неделе. Это не какие-то там мелочи. Это что-то около премии Филдса (аналог нобелевки но в математике). Очень крутые вещи. Правда предстоит еще ревью. Но тем не менее.
Так вот я считаю что настало очень важное время в математических дисциплинах. Двигаться в некоторых доменах стало легко и осталось понять куда. Я думаю что большая часть математики была настолько далека от прикладной части, что развивалась как теория без понятного ракурса как ее применить. Думаю, что в таких местах AI поможет ой как хорошо. Ученому лишь надо задать вектор и оно само найдет, соединит и докажет. Доказательство ради доказательств начнет исчезать, а это был большой пласт математики.
Но мне думается, самый сок не в таких областях. А в той самой теор физике или областях на стыках нескольких наук или направлений. Самое интересное где AI найдет что-то чего человек в силу величины области просто не мог подобрать и соотнести. Сколько всего можно нового узнать. И тут без «human in the loop» думаю пока никуда. Все-таки с сооружением новых концептов без указки оно пока не едет. Но перебором владеет мастерски.
Поэтому в науку идти станет интереснее. И исчезнут всякие сугубо теор в три уровня подвижки. Ибо намного важнее будет уметь соединять это с экспериментом и реальностью.
Но время покажет.
Кстати можно поиграться в браузере теперь https://uzu.run/
Пока в экспериментальном варианте, но скоро в норм виде до основой ветки доедет. В целом вполне сносно показывает себя. Кстати нужно ли завозить jev-like модели? Мне кажется особенно в браузере может быть прикольно.
Отличный пиар к IPO, все-таки там сидят очень умные люди модели
Оказывается google что-то умеет. Ну или это просто таблица с циферками.
Читать полностью…
Запустили тут небольшой эксперимент модельку, по сути очень хорошая сжатая и довольно бодрая, господа вот тестят сами (портировали даже под движок нужный)
можно глянуть что получается в видео или почитать про эксперименты у ребят /channel/fuckup_files/1049
Новое эссе Дарио главы Антропика. Главная мысль в скриншоте. Остальное полезно прочесть. Дальше полезно подумать про конкуренцию и ipo.
Читать полностью…
Всем особо обеспокоенным напоминаю несколько деталей последних событий:
1/ взлом HuggingFace агентами это блин не «модель такая сидит и думает как бы ей сломать какой-то сервис». Это конкретный набор инструкций из exploitgym который напрямую указывал что делать. Ничего сами агенты пока не ломают (по собственной инициативе). Что за чушь?
2/ ai решает сам задачу тысячелетия! Все нам конец. Нет. Не сам он решил. Взяли ребята огромный пласт готового рисерча и обучались на трейсах и дальше по-умному забрутфорсили (так же как с другими гипотезами). Самостоятельно никакая модель пока ничего не решает. Попробуй сам.
3/ но самое забавно это пост какого-то там чела 27 летнего который поработал в OpenAI и потом в антропике начал качать тему: аи нас всех убьет. Вас скорее убьет что-то типа машины на дорого чем аи. Если в целом кого-то беспокоят такие риски советую не выходить из дома уже сейчас.
Major release от нашей небольшой лабы. Поддержка спекулятивного декодинга в нашем инференс движке.
Для начала Qwen3.6 27B, поддержка Qwen3.8 27B и Muse Glimmer в пути.
Мы сильно превосходим все возможные стеки для Apple Silicon по производительности. Потому что взяли и все сделали как ко-дизайн: кернелы, квантизация и спекуляция. Все с нуля, все свое.
Попробовать можно уже сегодня
M checkpoint - поменьше
L checkpoint (lossless)
Все модели которые мы поддерживаем лежат тут, будем рады если попробуете что-то еще.
Бенчи тут. Можно изучить как и что измерено и насколько лучше.
Подробнее про релиз блог пост
Самое худшее, что может линкануть фаундер стартапа это вайбкоженный дизайн by Claude code design. Не важно дек, сайт, какой-то лендинг небольшой. Первое, что хочется сделать это закрыть.
Не знаю как у вас я узнаю с первого скрола.
Поясню:
- никто не читал контент почти наверняка, там абстрактные фразы, двусмысленные формулировки и так далее
- оооочень много всего и мелким шрифтом
- продуманного повествования почти никогда нет
- но самое важное это то, что в индустрии аллергия на это
- ах да есть люди, которые используют вот такое как плагин в браузере
Сила в своей модели, поверьте. Все кто вырастет должны будут тренировать свое, поэтому сбор данных критическая часть. Вертикализация стэка (чем больше владеешь тем лучше) самое важное, чтобы вам не говорили.
На примере Cursor https://cursor.com/blog/composer
Prove me wrong. Кажись в нормальном мире харнесс и модель идут всегда в связке. rl накатывают и на сам харнесс в том числе. Пробовал я разные там muse wonder, google carbon и прочее и даже на этих достаточно крутых моделях послевкусие не то. Что уж тут говорить про всякие попытки накатать харнесс без модели.
tldr: харнесс в отрыве от модели это такой saas подход из прошлого. И думаю глобально не имеет будущего.
Все, что нужно знать о бенчах и китайских моделях. Господа переименовали файлики в lower case и поменяли пару инструкций не меняя суть задачи.
Читать полностью…
Мысли выходного дня. Достаточно давно пришел к мнению, что современный tech очень другой по сравнению с тем, что было ранее. Давайте поясню.
Большая часть рынка и людей сейчас в tech живут прошлым. Огого можно сделать себе дашборд, софтик для трекинга калорий или планер. Иногда эти мечты выходят за пределы личного софта и начинается игра как раньше. Мол я сделаю людям же надо. Но кажется время ушло.
Мне нравится следующая аналогия. В середине прошлой декады появились хорошие камеры в телефонах чтобы снимать видосы, эффекты всякие и прочее. Это сделало возможным каждому снять норм ролик, ведь теперь видеокамера не нужна. Абсолютно каждый «сам себе режиссер». Вот тоже самое будет с софтом. Надо становится блогером. Быть личностью. Уметь привлекать людей к себе. А это прошлое поколение предпринимателей совсем не умеет.
Все акселераторы, венчура и прочая туса заточена оценивать продукт, трек рекорды и прочее. Но как мы знаем это то, что блогеру совсем не обязательно нужно. И рост который тоже все оценивали теперь надо оценивать иначе. Теперь каждый под запуском из YC пишет как он повторил весь продукт через один промт. И вот это ровно тот же эффект как у блогеров. Выложить похожий ролик проще простого. Но залетают едицницы.
Велкам ту экономика внимания вместо экономика продукта и роста.
А серьезный софт останется там же. Это модели, рисерч, интеграция, железо и прочее. Где порог входа вырастет в сотни раз. Такие дела.
Дорогие читатели, мы активно собираем кейсы для RL для computer use, для локальной модели и чтобы быстро работало и буду очень благодарен если вы уделите минутку и надиктуете свои. Мы хотим для начала сосредоточиться именно на использовании тех приложений и возможностей, которые уже есть на вашем компьютере (встроены в ОС по сути). Самый активный/классный кейс и его автор получит от нас 1к USD на любую нейронку в виде кредитов. Посчитаем через пару недель думаю.
Диктовать можно как на русском так и на англ, перевод встроен. Голосовалка тоже есть 🙂
Пошарьте друзьям и знакомым. Спасибо!
Линка
Hot take: работать в претрен команде в топ лабах самое скучное что может быть. Все сидят там только ради денег. Prove me wrong.
Читать полностью…
В моей рабочей почте каждый день примерно 50 писем с темой: we've built new ai empowered gtm tool. Дальше это обычно что-то из: cold outreach automation, market research, и самое частое конечно же SEO/GEO или как там его про выдачу в чат боты. Сотни писем, большая часть написана через AI, отвечено - ноль.
Почти у всех письмо построено по принципу:
• в заголовке хук (например чел написал Ferrari, оказалось это название их тула)
• внутри аля переработанное описание того, что о твоей компании нашел агент (обычно конечно же нормально оно найти не может, глазами будет в три раза быстрее понять)
• стандартный темплейт про мы найдем вам стопицот сделок, сделаем стопицот результатов
Бывает открываю сайты таких ребят - 100% made by claude
На тему приложений и AI бума. Вообщем приложений много, но ими никто не пользуется. Персональный софт выходит.
Читать полностью…
У меня ко всем этим лабам и компаниям, которые разгоняют тему AI до небес есть один вопрос. Почему из этих топ омега крутых команд уходят люди, не просто люди, а руководители? Если ты видишь что условная твоя лаба на пороге открытия и завоевания всего мира. А ты уходишь делать свой стартап по пост трену. WTF?
Ну то есть допустим кого-то люди и атмосфера не устраивает. Но денег, возможностей там выше крыше внутри. Увольнения? Ахах. Вряд ли. Но может доля есть.
Еще мемов захотелось покидать. OpenAI стопнули новые подписки на 200 баксовый план. A few moments before
Читать полностью…
Ну это солидный результат. Решение навье стокса.
Драма там по пути такая что челы догадались в какую сторону копать, а OpenAI подсмотрели в логи кодекса их и запустили на своем кластере и более мощной моделью :)
Немного подробностей, 300 ярдов токенов на выходе. 100к агентов. Вот это брут форс я понимаю.
Тем не менее топ! Грац!
Типичный цикл AI native компании. Делаем харнесс для какой-то задачи или агрегатор там апишек + промтов. Скейлим платным трафлом (тут умирают 90% потому что это правда сложно). Дальше, когда ты большой уже становится сложно делать фичи ибо зависишь целиком и полностью от модели (ну может она или нет). И пытаешься как Harvey сделать свою или посттрейн хотя бы. Тут ты понимаешь, что стоишь то ты миллиарды, но фичи выпускать уже почти не можешь и в спину дышат лабы. А где найти людей на все такие компании, которые умеют в тренировку моделей и эвалы и все все да и еще и за месяц. А никто не знает.
Вообщем так сейчас у многих;
Самые «классные» бизнес идеи текущего года. Ну типа «норм темки» попробовать с небольшими комментариями:
- вертикальные всякие rl envs, verifiers, прочая муть для упрощения rl. Тут важно перед тем как делать убедиться что есть контакты в лабах, чтобы продавать им это все. В остальном хороший бизнес на оценку 50-100м. Выкупается большими компаниям и лабами часто.
- инфра для роботов, мало шарю, но вроде заезжает норм, говорю про софт. Логика такая же как и в прошлом пункте. Желательно делать со знанием заказчика.
- тяжелые оптимизации на уровне data centers etc. Всякие очень узко заточенные вещи для инференса или тренировки моделей (там где каждый прогон стоит миллионы). Например вы знаете как сделать хорошо тренировку определенной архитектуры или обеспечить более высокий mfu.
- pure research ну потому что даже если вы нихрена не сделаете толком, вас купят как команду. Весь смысл собрать норм состав. Остальное не так важно. Ставка на неолабы у фондов популярна. Потому что возвраты денег почти гарантированы.
- application layer. Но тут важно понимать что актуально скорее не бизнес часть, а UX часть. У лабов и больших компаний есть потребность в реализации определенных фичей (смотрим покупки OpenAI)
Практически все это тяжело валидируется без глубоких доменных знаний. Абсолютно не актуально вне определенных географий и без таланта на борту. Такие дела.
Ну вот уже норм, режиссер настоящий про (вроде Пилу снял), сделал рекламу Nike полностью генеративными инструментами. Как вам? Конечно без согласия Nike, ну да ладно :)
Читать полностью…
Короче есть такая область стартапов: оооо, ща сделаем набор промтов и if then else. Ну так вот у Google регулярно выходят более менее разумные эксперименты(почти уверен их делает небольшая команда чисто чтобы KPI поделать, вдруг зайдет). Пока доступно в US. Вроде нужен именно Google account оттуда чтобы попробовать.
Сервис анализирует ваш веб сайт и предлагает забацать креативы для рекламки (понятно где). Вообщем то топ. В кабинете и везде они доделают интеграцию думаю. Если в целом прикинуть, то практически все такие стартапы будут сделаны внутри корпораций, парочку куплены, наконец-то 1 может сам что-то сможет. Но пока AI сам по себе недостаточно value дает. Нужна связка.
Посмотреть ролик
Потыкать в сша