🦄 Дорогие друзья, с наступающим Новым 2024 Годом и Рождеством!
2023 выдался супер насыщенным на события. Каждый месяц эмоциональные качели и сюжетные повороты похлеще “Игры в кальмара”.
Однако рынок стартапов доказал свою устойчивость. Технологический прогресс неизменно мчит по рельсам, ему все ни по чем!
Хочу сказать большое спасибо каждому из вас, что читаете мои думки и делитесь контентом с друзьями. Надеюсь, это действительно приносит пользу.
Желаю вам в новом году крепкого здоровья, грандиозных планов и колоссальной удачи!
Вернемся с новыми силами в 2024 году и продолжим радовать вас актуальной аналитикой и сочным контентом.
Всегда рядом и с наилучшими пожеланиями, Ваша Венчурная Прожарка!
🦄 Как искать крутые проекты в open-source?
Открытость проекта вовсе не помеха для его монетизации: есть много примеров мультимиллиардных компаний на базе опенсорса — RedHat, MongoDB, Databricks и многие другие
На Гитхабе только за 2023 год появилось 100 млн новых репозиториев — но как отделить зёрна от плевел?
Вот основные бенчмарки, которые позволяют найти самые крутые опенсорс-проекты:
▶️ ROSS Index от Runa Capital. Фонд мониторит самые быстрорастущие опенсорс-стартапы по числу звёзд на Гитхабе. И хотя это не идеальная метрика, она является хорошим сигналом для инвесторов — 40% стартапов, попавших в ROSS Index, привлекли VC раунды
Вот последний ROSS Index за Q3 2023. Неудивительно, что сейчас почти весь топ занимают инструменты для AI-разработчиков
▶️ Redpoint Ventures (одни из главных инвесторов в опенсорс) расширили методологию оценки и скорят проекты по 4 показателям:
1. Адопшен: число звёзд Github, число контрибьюторов, число наблюдателей
2. Динамика: скорость прироста звёзд, контрибьюторов и наблюдателей
3. Использование: количество форков, issues и pull requests
4. Здоровье: % закрытых issues, время простоя, частота релизов
Ребята даже сделали дашборд, который отслеживает вселенную опенсорса по этим показателям
▶️ Bessemer Venture Partners поделились своим подходом к оценке опенсорс-стартапов. Фонд делает упор на комьюнити, как движущую силу открытого софта. И потенциал возможной монетизации
Open-source проекты не только обладают одной из самых успешных бизнес-моделей, но и драйвят инновации на уровне всего общества, привлекая всех желающих к разработке/улучшению своего продукта
🦄 Конец софтверной рецессии?
Последние 2 года всем было не сладко. SaaS бизнесы не исключение.
Несмотря на массовый переход в облако и на модель подписки, темпы роста SaaS бизнесов серьезно замедлились. И это неудивительно. В условиях кризиса все резали бюджеты и откладывали комиты на будущее.
▶️ Аналитики гадали — где же дно спроса? Кажется, оно было в начале 2023 года и уже позади нас.
Именно такой вывод делаю на основе статистики от Jamin Ball. Известного на просторах VC автора пятничного ньюслетера про оценки облачных бизнесов. Ну и партнера Altimeter Capital, конечно же.
▶️ Здесь делюсь ключевым графиком. Он показывает, как меняется динамика ARR (выручки) SaaS бизнесов по кварталам. Больше притока или оттока?
Плинтуса достигли в Q1 2023 (-27%). Уже в след квартале начался отскок, который продолжился этой осенью. Причем SaaS бизнесы сумели (в среднем по больнице) вернуться в положительную территорию. ARR снова прибавляется!
Похоже, оптимизация костов уходит на второй план. B2B спрос возвращается. Как итог, темпы роста SaaS восстанавливаются, а ожидания (гайданс) на грядущие периоды повышаются. Крутые отчеты за Q3 2023 от Snowflake, Crowdstrike, Gitlab, Zscaler, MongoDB…тому в подтверждение.
▶️ Остается лишь дальше наблюдать за динамикой ARR и, что немало важно, оценками SaaS бизнесов! Раз фундаментальные показатели улучшаются, то и оценки должны подтянуться.
🦄 Amazon выходит из тени
Вчера прошла бомбическая конференция AWS re:Invent 2023. Облачного сегмента Amazon, который драйвит прибыльный рост компании последние годы
▶️На сцене звезды индустрии ИИ и не только. Nvidia, Anthropic, Pfizer, BMW…Но блистал в этот вечер Адам Селипски, глава AWS. Именно он стоял у истоков облачного гиганта и вывел AWS в ранг недосягаемого лидера (32% рынка)
Спич был полон объявлений и инсайдов. Что там нового?
1. Amazon Q — умный чатбот для бизнеса, доступен всем клиентам AWS. По сути аналог chatGPT за те же 20$, но с куда более широким охватом и обучавшийся на уникальных данных AWS за 17 лет! Такого GPT и не снилось
По замыслу, Amazon Q не просто генерит прикольные промо, но и сможет коннектить разные источники данных бизнеса. От хранилища S3 и Salesforce до Slack и Gmail. Индексация позволит выстроить смысловые связи между ними и создать автономных агентов, выполняющих задачи в браузере или с доками
Вишенка на торте — чатбот может генерить и проверять код, то есть Amazon будет претендовать на кусок Github Copilot. Посмотрим, как будет на практике. Заинтриговали
2. Апгрейд Amazon Bedrock — платформу для генеративного ИИ Amazon выкатил в октябре 2023. Сначала был просто доступ по API к ведущим LLM моделям, а теперь внедрили поверх фильтры для безопасности B2B клиентов. К тому же добавили собственные LLM модели Titan, но пока что в демо режиме
3. ETL, прощай — упростили мучительный процесс дата инжиниринга с настройкой пайплайнов данных, добавив нативные интеграции с SQL базами данных. Теперь, похоже, все будет летать и можно обойтись без dbt с Fivetran
4. Новое поколение чипов — показали свои последние чипы Graviton4 и Trainium2. Они заточены под нагрузки ML и стали на порядок более энергоэффективными. Anthropic даже закомитился на их использование в обучении своих моделей
▶️Этим набором новинок Amazon дал четко понять, что списывать его со счетов себе дороже. Компания подтвердила свою роль №1 облачного провайдера и на полную включилась в гонку ИИ
🦄 Битва LLM моделей: OPEN vs CLOSED
Наплодилось же LLM моделей за последний год…Дабы не потеряться в них, собрал карту сильнейших, за которыми мы следим в фонде Axevil. Через призму извечного противостояния open-source и закрытых моделей
▶️Всю же палитру из почти 400 тыс! моделей с открытым исходным кодом, как foundational, так и fine-tuned, можно посмотреть и даже потестить на Hugging Face
Ниже поделюсь парой комментариев по содержанию самой карты:
1. Космическая скорость развития моделей на архитектуре трансформер. Доброй половины не было и полгода назад. Чего только стоит Grok от Илона на базе уникальных данных Твиттера real-time. Также ждем на подходе Olympus от Amazon
2. Open-source наступает на пятки GPT-4. Хоть детище OpenAI все еще сильнее открытых Llama и Mistral, гандикап уверенно сокращается. Такими темпами год-полтора и мы увидим доминацию (по бол-ву бенчмарков) open-source
3. Следующая веха — концентрация вокруг топ-5/7 фундаментальных LLM. Скорее всего текущих лидеров. Будут выступать основой, которую можно донастроить на своих данных под узкие задачи бизнеса
4. Феномен LLM имеет не только корни США. Свои центры силы находятся и в Китае, Франции, Израиле, России. Даже (по слухам), скоро могут появиться свои LLM в Индии и Казахстане
5. В Поднебесной свои баталии open VS closed. Похоже, Alibaba подсмотрел за Meta и пошел против закрытых Baidu/Huawei, поддержав на днях новый open-source проект 01.ai от ex-главы Google China по оценке в $1 млрд!
Но самое интересное, что вне зависимости от лагеря (open или closed), все мы соглашаемся с главным — LLM модели зависят от качественных данных!
▶️Решить проблему призван юникорн Scale AI, серый кардинал ИИ революции и лидер рынка маркировки данных, без которой сегодня невозможна ни одна LLM
Благодаря своему софту Scale AI помогает не просто ускорить процесс подготовки данных, но и автоматизировать весь MLOps с донастройкой и интеграцией любой модели для бизнеса. В том числе для OpenAI, Anthropic, Meta, StabilityAI и многих других
🦄 ИИ визионеры: за кем следить в Твиттере?
Твиттер (он же Х) сегодня главный источник информации. И точка. Именно здесь знания и инсайды из первых уст
▶️ Сегодня поделюсь собственной подборкой авторов, за которыми стоит следить, чтобы понимать повестку ИИ и чуть больше разбираться в технологии:
1. Yann LeCunn — главный по ИИ в Meta, трушный сторонник open-source (Llama). Создатель архитектуры сверточных нейронок для распознания изображений (1988 год) и один из 3 крестных отцов ИИ (deep learning)
2. Gary Marcus — голос нейронауки в СМИ, ex-стартапер ML проекта для Uber и главный хейтер OpenAI. Называет вещи своими именами, разграничивая deep learning и утопичный AGI
3. Andrew Ng — со-основатель ведущих ИИ лабораторий мира (Google Brain и Baidu), профессор Stanford по computer science и популяризатор науки (ex-CEO Coursera)
4. Demis Hassabis — со-основал в 2010 году DeepMind, ИИ сердцевины и исследовательского драйвера Google
5. Andrej Karpathy — один из лучших спецов в компьютерном зрении и deep learning. Возглавлял разработку автопилота в Tesla и в начале 2023 вернулся в стан OpenAI
6. Jim Fan — ведущий ИИ ученый в Nvidia, прошедший школу Google, OpenAI, Baidu, сегодня прикладывает руку к созданию роботов на базе мультимодальных моделей
7. Clément Delangue — основатель Hugging Face ($4,5 млрд), главной open-source платформы для коллаборации ML энтузиастов, обмена моделями и датасетами
8. Bindu Reddy — основательница MLOps платформы Abacus.ai, ранее руководила ИИ продуктами в Amazon и Google
9. Joscha Bach — немецкий исследователь на стыке ИИ и нейронаук, отвечает за продуктовые прорывы в AI Foundation
10. Fei-Fei Li — профессор Stanford, под ее руководством вышли десятки топ ученых. Также известна благодаря ImageNet (2009 год), базе маркированных картинок, что стало толчком развития компьютерного зрения
PS: сюда не попали еще СОТНИ умнейших людей. Пишут редко (Илья Суцкевер) или публикуют крайне технические вещи (Руслан Салахутдинов)
Пользуйтесь списком на здоровье, сохраняйте и шерьте с друзьями!
🦄 Figma на свободе: срыв сделки с Adobe
Мир стартапов не перестает удивлять. Рассыпалась сделка, которая казалась всем уже свершившимся фактом.
▶️ Речь идет о несостоявшемся поглощении Figma гигантом Adobe. Напомню, Figma — главная площадка для коллаборации дизайнеров и продукт-менеджеров. А также все еще независимая частная компания!
Далекой осенью 2022 года Adobe подписался на покупку Figma по на тот момент (да и сегодня) космической оценке в $20 млрд. Или мультипликатору к выручке в 50х! Просто нереальная премия на слабом рынке.
Европейскому регулятору потребовалось целых 15 месяцев, чтобы заблочить сделку по антимонопольным соображениям. Непонятно, зачем так было тянуть. Да и в целом странное вмешательство в законы рынка.
Если несогласны, можно же просто ввести ограничения для пользователей в этих странах. Хотя даже так, что мешает включить VPN и пользоваться любимым сервисом без привязки к твоему IP адресу?
▶️ В любом случае у Figma нету причин унывать. Возможно, это пошло даже на пользу стартапу. Посудите сами, за этот период Figma:
1. Нарастила выручку ARR до $600 млн за 2023 год, сохраняя темпы роста более 40% г/г. При этом маржинальность на топ уровне (90%) и держат прибыльность по FCF уже несколько лет! Идеальный микс.
2. Добавили ИИ фичи в FigJam (аля Miro) и более удобный режим для разработчиков.
3. Приобрели ИИ стартап Diagram.
4. Открыли новые хабы в Великобритании и Азии.
5. Так еще и сверху получат $1 млрд неустойки за сорвавшуюся сделку от Adobe. Это, на минуточку, в 3 раза больше венчурных средств, которые они привлекли!
▶️ У компании полнейший порядок. Растут, могут пойти в M&A и спокойно готовиться к IPO своим темпом. Вопрос только по текущей оценке. Учитывая мультипликаторы “аналогов”, реалистичен диапазон $8-10 млрд. То есть последнего раунда 2021 года. Но никак не 20.
Где-то взгрустнул Adobe, потерявший главный потенциал роста. Но комьюнити Figma вздохнуло с облегчением. Стартап продолжит независимое развитие вне стен костенеющей корпорации с прицелом на IPO в 2025 году.
🦄 Мультимодальный ИИ: видит, слышит, говорит
Прошли те времена, когда LLM модели дразнили «жалкими предсказателями следующего токена». Их возможности расширяются с каждым днем:
1. Понимание картинок — ChatGPT анализирует графики, генерирует код по скриншоту, объясняет мемы. Кстати, опенсорс тут обогнал OpenAI: открытая модель LLaVa научилась этому раньше
2. Распознавание и синтез голоса — модель Whisper приближается к человеческому уровню расшифровки речи. А опенсорсная HierSpeech позволяет создать «AI-диктора», неотличимого на слух от человека
3. Целостное представление видео — новая модель Gemini Ultra от Google умеет «смотреть» видео и отвечать по нему на вопросы. Интересно, что одним из главных контрибьюторов был кофаундер Гугла Сергей Брин
Это и есть мультимодальные возможности ИИ. Наш мозг умеет одновременно обрабатывать визуальную, текстовую, тактильную и аудио-информацию — но всё это можно представить набором чисел и скормить компьютеру. ИИ-модели научили имитировать этот процесс, переводя любые типы данных в единое векторное пространство.
▶️ Благодаря мультимодальности, совсем скоро нас ждут настоящие сверхспособности ИИ:
👌 Автономный компьютер: модель просматривает экран и сама решает, куда нужно кликнуть и что ввести для выполнения заданного действия. Adept AI подняли под это дело уже более $400М инвестиций
👌 Самообучающиеся роботы: Nvidia тут навели шуму, когда представили ИИ-систему обучения Eureka. Инструкции от нейронки в 80% случаев превосходят программы, разработанные экспертами в робототехнике
👌 Объединение с VR и нейроинтерфейсами: подобный девайс на днях презентовали OpenBCI. Можно подключить к ИИ-модели данные о сердце, мышцах, глазах и мозге человека — так компьютер становится естественным продолжением тела пользователя
👌 Общие модели мира: следующий шаг в эволюции ИИ, над которым работают Runway. Моделирование нашего мира и предсказание будущего — а там уже и до AGI недалеко?
🦄 Генерация видео — новая прорывная область в ИИ
Pika, один из главных стартапов в сфере text-to-video, на днях представил версию 1.0 и объявил о свежем раунде инвестиций в $55М
Уже сейчас можно генерировать видео из текста или картинок через их Дискорд-сервер. А скоро обещают новые модули, которые позволят редактировать видео нейронками — преобразовать в другой стиль, добавить нового персонажа или поменять одежду
▶️ Конкуренция в этой сфере накаляется. Вот кто ещё сражается за первенство в генерации видео:
1. Runway ML — привлекли суммарно уже $237М инвестиций. Эти ребята и вовсе планируют стать убийцей Нетфликса: недавно запустили бесконечную трансляцию сгенерированых сериалов с неплохим качеством и сюжетом
2. Meta выпустила свою модель Emu Video, которая показывает state-of-the-art результаты
3. Bytedance (материнская компания TikTok) на днях выпустила работу MagicAnimate — можно заставить любую картинку танцевать в заданном стиле. Ждём миллионы виртуальных инфлюэнсеров в Тиктоке
4. Опенсорс тоже не отстаёт: Stability AI релизнули открытую модель для генерации видео
▶️ Все игроки от стартапов до корпораций понимают, что видео — будущее контента. И кто научится генерировать качественные видео в промышленных масштабах, имеет все шансы стать новым OpenAI
🦄 Драма года из OpenAI
Я всегда выступал против закрытости LLM моделей, но не мог даже представить ТАКОГО хаоса
▶️Кажется, Альтман и ко смогли потушить пожар противоречий, но обнажились все проблемы дома OpenAI. По горячему закулисью Долины созрело пару мыслей:
1. Капиталист не может быть альтруистом — конфликт зародился при изменении оргструктуры OpenAI в 2019 году с non-profit (некоммерческой) на capped profit (ограничение прибыли для инвесторов)
Налицо противоречие мотивов — создание безопасной технологии (AGI) для общества или же бизнес жадность на API закрытой GPT-4?
2. Ужасная структура совета директоров — всего 6 человек (обычно 10), 3 основателя и 3 независимых. По сути хватило одного голоса Суцкевера, чтобы кикнуть Альтмана. До сих пор вопрос — почему не было Microsoft (главного инвестора на $11 млрд) и крупных VC фондов?
Сегодня расширили борд до 9 человек. Без Альтмана и Брокмана. Но что там забыл бывший минфин Ларри Саммерс? Плохой звоночек
3. AGI там и не пахнет — думаю, конфликт далеко не про безопасность моделей, а про их ограниченность. Функционал GPT-5 (по слухам) уперся в свой потолок и незначительно сильнее текущей версии. Зачем торопиться с выводом на рынок слабого продукта? Не пик ли это GPT?
4. Microsoft выходит победителем? — гигант готов принять всех 770 сотрудников OpenAI, идущих следом за Альтманом. С гарантиями по з/п, опционам и рабочим визам. Пока что перехода не произошло, но у Microsoft козырь в рукаве с доступом к пулу редких талантов
5. Впереди судебные иски — как против директоров OpenAI (в том числе Альтмана), так и Microsoft за монопольные игры. Как бы Сэм не повторил судьбу своего тезки из крипто “империи” FTX. Там же тоже все начиналось с призыва к госрегулированию…
▶️Развернувшаяся драма в очередной раз подтвердила мой тезис. Обществу необходим open-source — открытое развитие технологий с привлечением всего коммьюнити, а не 6/9 людей со слабо понятными мотивами
🦄Open-source: наш единственный спаситель
Куда ни посмотри, проекты с открытым исходным кодом глубоко проникли в нашу жизнь. Все лучшее, что есть у человечества, создано комьюнити неравнодушных энтузиастов и лежит (код) в общем доступе
▶️Как, например, операционки Linux и Android, браузер Brave, аналитический движок для больших данных Spark, мессенжер Signal, Wikipedia, Bitcoin...
Боюсь, без этих проектов у нашего мира не было бы шанса на спасение от норовящих все зарегулировать государств и вездесущих корпораций. Как итог, мы бы снова оказались в тоталитаризме. С неограниченной властью кучки людей, манипулирующих сознанием общества. О чем предупреждал Фридрих Хайек в “Дорога к рабству”
И риск такого сценария становится все актуальнее. С закрытыми LLM моделями (GPT-4, Claude), лежащими в основе бума генеративного ИИ
▶️Благо у нас есть open-source! Но чем же именно он так ценен и лучше закрытых решений?
1. Прозрачность — в отличие от черных ящиков из OpenAi, здесь код со всеми потрохами (харатеристики, документация) доступен для досконального изучения на предмет уязвимостей и бэкдоров абсолютно каждому
2. Безопасность — сила бдящего сообщества позволяет мгновенно находить и фиксить баги. Улучшенный софт можно развернуть на своих серверах, что снизит риск утечки данных и повысит устойчивость системы
3. Демократизация — технология становится доступнее для общества, стирая рамки между географиями и толщиной кошелька. Принцип равенства/свободы и прельщает разработчиков, а прецеденты защиты кода (по 1-ой поправке Конституции США) только усиливают это движение
4. Кастомизация — можно настроить софт под специфические требования бизнес задач, оптимизировав эффективность системы. Причем в разы дешевле готовых решений
5. Инновации — через открытую коллаборацию всех желающих находятся самые нетривиальные и безопасные пути развития технологии. В этом признается и сам бигтех, который частенько радует релизами в open-source. Все же 100 тыс голов лучше 100 сотрудников закрытой команды
🦄 От каких индустрий ждать ИИ прорывов?
По стопам предыдущего поста. В каких областях уже сегодня происходит ИИ революция и где нас ждут сюрпризы?
▶️ Подсвечу 3 направления, стоящих внимания:
1. Беспилотные авто — мечта об автономном и безопасном транспорте становится с каждым днем все ближе. Команда британского стартапа Wayve (раунд B) создала модель LINGO-1, которая обучалась по инструкциям людей-водителей
Wayve синхронизировали текст (инструкции), визуал с датчиков и действия водителя. Как результат, модель улучшила логику планирования движений, ускорила процесс обучения и даже поддерживает диалог с пассажиром! Так, глядишь, роботакси Waymo и Cruise станут скоро повсеместной нормой. Если регулятор разрешит
2. Медицинский ассистент — LLM и диффузионные модели (аля Midjourney) расширили горизонты исследований молекулярной биологии, что даст толчок в решении ранее неизлечимых болезней
Теперь модели выявляют структуру белка всего лишь на базе последовательности аминокислот (ESM-2 от Meta) и предсказывают патогенные изменения в организме (AlphaMissence от DeepMind)
Но больше всего поразила Med-PaLM M (Google), сдавшая экзамен на лицензию врача США! Кроме текста, она распознает и интерпретирует изображения поверхности тела, снимки МРТ и даже клетки. Прям как супердоктор на все руки
3. Роботы для умного дома — выполнят широкий спектр задач человека по быту, от приготовления обеда до присмотра за порядком. Google снова порадовал, создав мощную мультимодальную модель PaLM-E на 562 млрд параметров
Миниатюрный робот трансформирует поступающие вокруг сенсорные данные в текстовые инструкции. То есть на базе запроса человека он составляет целый план действий по решению. Это уже далеко не игрушечный Amazon Astra, но только где его пределы, как долго он удерживает память и сколько это добро стоит?
▶️ Надеюсь, эти и другие вопросы будут скоро решены в коллаборации науки, инженерии и софта. Мы же, конечные пользователи, только выиграем от технологического прогресса ИИ, обогащающего многие области нашей жизни