vlad kooklev — ai & startups

05 Jul 2023 19:40

🧑‍💻 Три новых AI-тула для разработчиков, которые изменят рынок

Помните я пару месяцев назад писал, что AI заменит разработчиков и это наступит достаточно скоро? За последние недели мы еще сильнее приблизились к этой точке. Сегодня я расскажу про три новые проекта, которые помогают автоматизировать процесс разработки и умеют делать это хорошо.

1. MetaGPT — самый интересный из трех проектов для меня. Это фреймворк, который последовательно эмулирует роли всех членов продуктовой команды в виде агентов. Босс-агент создает бизнес-требования; продакт-агент создает PRD; затем идут такие же агенсткие этапы работы над архитектурой, проектным менеджментом и наконец самой разработкой и QA.

За $0.2 за запросы к модели создается схема с архитектурой системы (закину пример в комменты), а за $2 уже целый запрограмированный проект. Работает классно и именно за такими мультиролевыми связками агентов лежит будущее автономных-агентов.

2. gpt-migrate — этот проект позволяет автоматически мигрировать код проекта с одного фреймворка или языка на другой. Самый базовый пример будет мигрировать чужую библиотеку с Python на JS. В этом проекте уже на всю начинает ощущаться сила gpt-4 с 32k контекстом, в работе рекомендуют использовать как раз его. Миграция среднего проекта обойдется в ~$10+ долларов коста на запросы.

3. aider — проект позвоялет разрабатывать прямо из терминала, используя запросы на человеческом языке. Создаем проект и последовательно пишем какую часть системы мы хотим добавить или отредактировать — change the fibonacci function from recursion to iteration. В этом месте самое время процитировать Andrey Karpathy — “The hottest new programming language is English”. Здесь тоже рекомендуется к использованию gpt-4 и кост будет на уровне предыдудущих двух проектов.

😎 Мои дальнейшие предсказания: 1) будущее AI-агентов за узкими юзкейсами, на которые они заточены. Концепция general-агентов для всего (autogpt) отойдет в сторону, пока мы не получим еще более сильные языковые модели; 2) главным драйвером адопшена ai-агентов и автоматической ai-разработки станет момент, когда прайсинг gpt-4 упадет до уровня gpt3.5 → тогда мы получим огромное количество дешевых экспериментов и найдем новые эффективные способы применения за копеечные косты.

@prod1337

vlad kooklev — ai & startups

01 Jul 2023 10:25

🏎 Скорость — главная метрика стартапов в эпоху AI

Немного отступлю от сторителинга, который я вел последние дни. Наткнулся на свежую статью от венчурного фонда NFX. Главный посыл статьи — во времена генеративного AI стартапы должны двигаться в 10 раз быстрее, чтобы достичь успеха. Давайте разберемся почему:

1. Борьба с big tech: мы уже обсуждали недавно, что есть большой риск, что рынок съедят биг тех компании. В этом месте, скорость — это преимущество стартапов перед крупными компаниями. С ними сложно сравниваться в ресурсах, но стартапы могут оперативно экспериментировать и итерироваться, за счет быть конкурентоспособными..

2. Обходим лимиты человека: с приходом генеративного AI, скорость развития продуктов и технологий значительно возрасла. AI способен выполнять задачи быстрее и точнее, чем человек, без страха ошибок или прокрастинации. Всё это увеличивает темпы развития и внедрения новых продуктов и функций.

3. Чем полезна скорость: она увеличивает производительность команды и привлекает внимание потенциальных клиентов, сотрудников и инвесторов. Более высокая скорость может привести к росту вашей компании и снижению необходимости в дополнительном капитале. Для успеха команды должны таргетиться в 20-100 экспериментов в неделю.

4. Что мешает двигаться быстрее: главное препятствие — это наш собственный майдсет. Многие привыкли к определенному темпу работы, боятся рисковать и ошибаться. Чтобы двигаться быстрее, необходимо переосмыслить подход. Для этого в статье предлагаются шесть принципов мышления.

5. Шесть ментальных принципов для увеличения скорости: разъеденить эго и продукт; будьте готовы к постоянным экспериментам; не стесняйтесь копировать удачные идеи; не бойтесь рисковать и принимать быстрые решения; избавьтесь от самосаботажа и преодалевайте сомнения; работайте не только ради себя, но для команды, инвесторов и пользователей;

😎️️️️AI дал нам с вами невиданный leverage. Это тот самый момент, где важно найти положение этого рычага и достичь скорости, которая раньше была невозможна. Самое время отбросить сомнения, эго и просто пойти эксперементировать и строить продукты.

https://www.nfx.com/post/speed-and-ai

vlad kooklev — ai & startups

28 Jun 2023 19:29

🫡 Почему сейчас плохое время чтобы строить AI-продукт

Вы уже привыкли к потоку bullish-постов по поводу AI и языковых моделей. Но сегодня давайте попробуем посмотреть на этот рынок с другой точки зрения. Мы разберем, почему сейчас плохое время, чтобы запускать AI-продукт.

1. Дистрибуция: еще никогда не было так сложно добиться внимания конечного пользователя с продуктом на стадии MVP. Платные каналы давно уже перегружены и по ним почти невозможно свести экономику. Теперь еще переполнились и нестадартные каналы, которые всегда были отдушиной. Каждый день в Твиттере и на PH я вижу лончи сотен новых AI-продуктов — при всем моем энтузиазме, даже мне это уже надоело и я просто пропускаю их мимо.

Сюда же можно добавить, что большинство таких продуктов построено вокруг подписочной модели. У пользователей постепенно переполняется не только внимание, но и бюджет, который они готовы тратить на «продуктивность» и «прикольные тулы».

2. Технологические риски: релиз GPT языковых моделей открыл огромное пространство для появления новых продуктов. В один момент ML-технологии стали доступны в 10 строк кода всем разработчикам мира. Но демократизация привела и к тому, что AI-фичи больше не считаются конкурентным преиуществом. Другой разработчик точно также быстро напишет промтп и добавит вызов к API OpenAI. Такие решения быстро превращаются в комодити.

Хайп породил за собой и другую волну — техногиганты бросили огромные ресурсы на развитие AI внутри своих продуктов. Каждый разработчик должен считаться с риском, что такой же продукт может стать в ближайшее время часть экосистемы Гугла, Microsoft/OpenAI или Amazon.

🗿 Для меня сейчас это основные блокеры, чтобы взять за какой-то продукт и начать делать его. Но и есть хорошая новость — кажется я нашел решение. Поставьте реакций, если интересно почитать про это решение.

vlad kooklev — ai & startups

20 Jun 2023 22:41

🚀 Новая статья от a16z про «языковую разработку» и архитектуру таких продуктов

Приятно, когда один крупнейших фондов мира описывает тот же самый нарратив, про который я сделал пост три недели назад. Статья получилась хорошая, давайте разберем на какие вещи они обращают внимание при описании архитектуры.

Таких пунктов набролось шесть:

1. In-context learning: все что называется долговременной памятью и умной передачей информации в промпты. В гайде про это можно почитать на странице «векторные эмбединги».

2. Data Preprocessing/Embedding: чтобы передавать информацию в контекст — ее нужно сперва пред-обработать. Этот этап как раз отвечает за разбивку информации на чанки.

3. Промпт-инжиниринг (+промпт-тулинг): сюда они включают составление промпта и склеивание их в цепочку через фреймворки вроде Langchain/LlamaIndex.

4. Инфраструктура: классный рынок, где еще практически нет продуктов. Сейчас все в основном крутится вокруг базовых решений для кэширования и логирования, но дальше мы получим более узконаправленные продукты.

5. Будущее за агентами: тут тоже сходимся во мнении. Технология сильно сырая на текущей стадии, но с огромным потенциалом в будущем. Про агентов тоже есть хорошая страница в гайде — рекомендую.

6. Важность pre-trained моделей: итоговы пункт, где говорят о важности появления моделей, как GPT на рынке и то что это только начало.

🚀️️ Лично от себя отмечу, что я это самая большая легитимизация нашего рынка so far. Я окончательно убедился, что мы находимся в начале пути перед чем-то гиганстким. Также напоминаю, что у нас есть крупнейшее (и крутейшее 😎) сообщество по стэку из статьи — напишите, если тоже хотите попасть.

@prod1337

vlad kooklev — ai & startups

13 Jun 2023 10:01

😒 Почему AI-агенты оказались бесполезны

Я еще несколько месяцев назад я написал, что хайп вокруг автономных AI-агентов преувеличен. А на днях зашел в сабреддит /r/AutoGPT и один из самых залайканных тредов за последний месяц с такой же мыслью — «AutoGPT is sort of useless?». Давайте разберемся как так получилось, что самый быстрорастущий Гитхаб-репозиторий в истории оказался бесполезным.

В посте не буду вдаваться в подробности работы агентов — это все есть в моем гайде.

Главная проблема: AutoGPT просто не справляется с решением сложных задач. Сюда же входит неправильная декомпозиция задач, нехватка памяти, неоптимальное использование запросов в модель и большие расходы. Вместо обещанной автоматизации сложных процессов, пользователям приходится постоянно вмешиваться и уточнять задание — без этого он просто уходит «не туда» и может достаточно долго сжигать на это деньги на запросы.

Откуда тогда такой хайп: не стоит удивляться, что основной хайп пришел от СМИ и Ютуберов в погоне за кликами. Я тоже писал свой обзор, но делал его сдержанным, многие не стеснялись заявлять про наступление AGI. Есть подозрения, что большинство из них делились восторженными отзывами без реального опыта использования.

Светлое будущее: в обратную крайность тоже не стоит впадать. Разработчики знают о текущих проблемах и будут их постепенно решать. Для технологии нормально быть сырой на старте и постепенно улучшаться. Также это не мешает уже сейчас внедрять ИИ для автоматизации конкретных бизнес-процессов. В будущем эти автоматизации сэкономят триллионы долларов для мировой экономики.

😎 Мы с командой уже несколько месяцев активно делаем свой вклад в эти триллионы. Мы успешно автоматизировали бизнес-процессы в продажах и поддержке. Сейчас мы ищем новые сферы для применения ИИ и готовы провести бесплатные консультации. Больше всего интересно пообщаться с бизнесами из двух категорий:
— хотите или уже внедряете ИИ на стороне операционных процессов (продажи, поддержка, etc);
— хотите или уже внедряете ИИ на стороне пользовательского интерфейса;

Напишите мне, если ваши компании относятся к этим категориями 👋

vlad kooklev — ai & startups

08 Jun 2023 10:06

✏️ Зачем я пишу посты

За последнюю неделю несколько разговоров заходили к вопросу «а для чего ты лично ведешь канал?». В результате получились 3 пункта, которыми хочу поделиться.

1. Упаковка мыслей: я могу несколько дней вынашивать классную мысль. Часто все начинается с небольшой идеи на стыке областей. Я ее начинаю продумывать, обсуждать по чатам, искать по ней информацию. В какой-то момент в голове набирается достаточно информации и остается ее упаковать в пост и отправить. После этого — она как будто освобождает моментально место для новых мыслей. Теперь к этой мысли всегда можно обратиться и прислать в виде ссылки на пост.

2. Асинхронный обмен идеями: весь мой круг общения постоянно перемешается. Круто если удается увидеться и пообщаться вживую хотя бы раз в полгода. Если человек все это время читал мой канал, то можно не пересказывать упакованные мысли, а сразу переходить к их расширению через опыт этого человека → найти какие-то новые идеи. Еще круче, когда вы оба ведете каналы и можете в разговоре обсуждать концепции на стыке мыслей из них.

3. Рычаг/leverage: я уже описывал эту концепцию в канале. Мне нравится, когда мои мысли доходят до широкой аудитории. Я бы с удовольствием рассказал те же мысли под пиво в баре, а так имею возможность их доносить до тысяч людей. Также мы живем в мире, где рекламные каналы перегружены, цены растут. Личное медиа — это продукт, который позволяет масштабируемо дистрибуцировать свои идеи и свои продукты. В отличии от рекламы здесь заложены внутри сетевые эффекты и нелинейный рост — невероятно круто, когда это нащупываешь и удается оседлать.

И вот снова пообщался, дополнил и «упаковал мысль» — могу к ней ссылаться. Люди прочитают и мы сможем ее обсудить при встрече. Тамим образом получится расширить эту мысль за счет опыта другого человека — возможно получится другой пост. За счет сетевых эффектов и рычага мысль долетит сразу до многих людей.

vlad kooklev — ai & startups

31 May 2023 13:51

🦄 Мы стоим на пороге новой гигантской индустрии в разработке

Я уже писал, что промпты — это новый язык программирования. Но это только часть новой большой индустрии. При этом у нее до сих пор даже нет четкого названия. Она формируется прямо сейчас на стыке трех направлений:

1. Product Engineering: классическое проектирование продуктов - интерфейсы, логика, система.
2. Prompt Engineering: дизайн промпта, словно проектирование интерфейса. Хороший промпт может дать 10х результат, больше чем другие оптимизации. И мы даже сейчас далеки от понимания, как нужно писать эффективные промпты.
3. NLP (Natural Language Processing): «как прокинуть в языковую модель свои данные релевантные текущему запросу». Работа с данными, эмбединги, токенизация, чанки, оверлапы, long term memory. Интересно, что в этом направлении почти ничего не изменилось 2020-го года.

🆕 Что изменилось?
↓
1. Новые модели GPT под API: Появилась новая умная модель GPT-4, доступная через простое API, и её дешёвый вариант GPT-3.5. Можно в 40 строк кода сделать то, над чем раньше отдельная команда трудилась целый год. Это сильно сократило время на прототипы и эксперименты, мы увидели тысячи новых продуктов.
2. Запуск и хайп вокруг ChatGPT: это привлекает больше разработчиков → мы получили больше инновационных продуктов → это генерирует еще больше хайпа → цикл продолжается.
3. Новый тулинг: появился Langchain; векторные БД стали облачными → появилась возможность не погружаться в NLP часть глубоко и про этом строить продукты.

😲 Почему эта индустрия важна?
↓
1. Языковые интерфейсы: людям удобнее взаимодействовать с системами на естественном языке. Будущие интерфейсы будут ещё более ориентированы на человеческий язык и голос.
2. Ценность для бизнеса: человеческая работа во многом сводится к обработке языка и информации и генерации новой. Мы можем автоматизировать и заменять эти функции, экономя деньги бизнесу. Здесь существует огромное пространство для появления AI-агентов.
3. Мир переполнен информацией: человеческий мозг не в состоянии обработать даже текущие объемы. Потребность в персонализации информации, ее обобщении и отборе будет только расти.
4. Техологии и туллинг продолжат развиваться: если сейчас кажется, что языковая модель решает какую-то задачу плохо, то это не значит, что через полгода она не будет решана.

🚀 Эти факторы приведут к тому, что у бизнеса не останется выбора кроме как интегрировать языковые модели. Причем недостаточно будет просто подключить GPT через API и написать базовый промпт. Это приведет к запросу на экспертов в этой области.

Поэтому я решил запустить чатик-сообщество по «языковой разработке». Сейчас в приоритете набираем людей с реальными опытом запуска AI продуктов или экспериментов — напишите мне, если есть такой опыт и хотите вступить (если опыта нет, но очень хотите вступить, тоже напишите)

vlad kooklev — ai & startups

24 May 2023 17:17

Защита контента от языковых моделей

Сегодня гостевой пост от @vladkooklev на горячую тему.

На прошлой неделе browsing mode стал доступен для всех платных пользователей ChatGPT, теперь у модели есть доступ к любой актуальной информации. Также раскатился режим gpt-4 copilot в поисковике Perplexity.ai, который делает его сопоставимым по мощи с ChatGPT и тоже с доступом к реальным данным.

При этом добыча информации напоминает обычный веб-скраппинг. И если при обычном поиске создатели контента получают свои клики и рекламные показы, то тут практически никто не будет заходить на сайт.

Появляется вопрос — что вообще делать платформам, заточенным на SEO и UGC. Например Stack Overflow и Reddit уже сказали, что планируют чарджить языковые модели за доступ к своей информации на этапе обучения, а тут еще более острый кейс с постоянным скрапингом контента.

На этом рынке уже анонсировал продукт стартап Sphere. Они предлагают решение по защите контента и протокол, по которому языковые модели смогут получать данные с сайта, только если пользователь или сам поисковый сервис оплатил подписку на этот контент.

Намечается большая борьба между поисковиками нового поколения и сайтами, которые генерируют этот контент, когда начнет падать их рекламный доход.

===
Спасибо Владу за интересный тренд, рекомендую подписаться на его канал @prod1337 — там он ежедневно исследует новые технологии, изучает их влияние на жизнь и будущее.

vlad kooklev — ai & startups

23 May 2023 14:23

👾 Сколько на самом деле людей уже пользуется языковыми моделями?

Я нахожусь в информационном пузыре из предпринимателей и разработчиков. Мне может казаться, что все вокруг ежедневно используют ChatGPT, тестируют новые идеи и даже пишут код для этого. Но как все обстоит на самом деле? Для этого обратимся к классическому графику adoption curve.

🤔 Группа инноваторов — это пользователи из англоязычного твиттера. Для него характерны ежедневные запуски новых продуктов, опен-сорс демок, а твиттер-треды про новинки собирают сотни тысячи просмотров. Главная метрика — быть первым, кто попробует что-то новое и рассказать другим.

🌅 Следом идут ранние последователи — это разработчики, маркетологи, продакты с навыком экспериментировать и желанием достигнуть большей эффективности для себя или бизнеса. Метрика здесь — найти полезное решение, и также поделиться им с другими. Для них ценность этого решения превысила transaction cost в какой-то момент.

✅ Правда в том, что это все еще ранний рынок, и языковые модели не проникнут дальше в таком же виде. Я уже писал, что промпты создают слишком высокую когнитивную нагрузку для пользователей — это увеличивает порог входа. Я уверен, что для перехода дальше нам нужно строить интерфейсы. И уже сейчас существует огромное пространство для нишевых продуктов, которые будут давать удобный интерфейс над языковой моделью.

🫧 Вот тут как раз и опасно нахождение в пузыре. Приходится балансировать между «все вокруг меня используют промпты и сложно дать интерфейс лучше из-за его универсальности» И «80% людей не используют промпты и не будут никогда использовать → как я могу дать ценность от использования языковой модели?». Оба эти утверждения правилные.

vlad kooklev — ai & startups

20 May 2023 21:01

📝 Промпты — это новый язык программирования

Год назад люди начали массово использовать промпты для генерации картинок. Тогда же заговорили, что промпт-инженер — это профессия будушего. Затем появились критики такого подхода. Они выступают за то, что у чистых промптов слишком сложный UX и нам нужно строить над ними интерфейсы. Я думаю, что и те, и другие правы.

⚙️ Для примера я возьму промпт в формате JSON для создания персонального учителя. Мне он нравится тем, что он раздвигает границы обычного использования языковой модели. Такой промпт показывает, каких результатов можно достичь, если подробно и четко сформулировать свой запрос. JSON здесь используется не просто так — это структурированный формат для компьютеров. У него есть свои правила и именно поэтому ChatGPT его считывает лучше, чем обычный человеческий язык.

🎨 В то же время большинству пользователей намного привычнее было бы выбрать эти значения в интерфейсе и просто запустить чат. Да, языковые модели уже достаточно умные, чтобы можно было использовать последующие сообщения в чате для настройки. Но таким паттернам обучиться сложно, это точно не подойдет для дальнейшего распространения языковых моделей.

🧪 Еще важно учесть, что разработать и переделать любой интерфейс занимает время. А вот чистые промпты позволяют моментально тестировать гипотезы и менять поведение. Поэтому если мы находимся на стадии экспериментов, то покрывать промпты интерфейсом не лучшая идея. В этом контексте, я предлагаю рассматривать промпты, как язык программирования над языковой моделью. Как и в классической разработке — часто самый быстрый способ проверить техническую гипотезу это голый функциональный код. И только после таких проверок этот код покрывается интерфейсом.

🔮 Поэтому я считаю, что чистые промпты действительно останутся с нами надолго и работа промпт-инженеров будет востребованной. Но нам понадобятся и классные интерфейсы, чтобы снижать когнитивную нагрузку и привлекать новых пользователей в такие продукты.

@prod1337

vlad kooklev — ai & startups

17 May 2023 13:31

🌎 Новые возможности ChatGPT после релиза доступа к интернету

Несколько дней назад я получил доступ к GPT-4 с browsing mode (пока выдают только по подписке Plus). Работает точно также как стандартный режим, но в определенные моменты теперь может делать поисковые запросы, открывать сайты и читать их контент.

😵 Первые впечатления — ждал большего. Для большей части сайтов запросы отваливаются, у браузера не получается прочитать их контент. При этом сам по себе браузинг работает медленно, а из-за сломанных запросов процесс растягивается на ~5 минут. И не похоже, что у этой проблемы есть простое решение. Сервисы вроде Cloudflare фильтруют автоматический бот-трафик. И сложно предсказать, какая политика будет для парсера от OpenAI. Также ничто не мешает владельцам сайта самим написать «защитный фильтр» для своего контента.

👨‍🔬 Но там где работает — работает круто. Раньше приходилось в голове проводить проверку «а эта информация новее 2021 или нет?». И если нет, то придумывать способ передать информацию в промт в ручном режиме. В этом сильно помогало расширение про которое я рассказывал на днях. В любом случае с браузингом открываются совсем новые возможности взаимодействия, расскажу про свои любимые:

1️⃣ Документация и код — раньше регулярно ловил баги при генерации кода, потому что библиотека уже сильно обновилась, а GPT была обучена на сторой версии. Теперь в таком случае можно дать ссылку на страницу свежей доки и попросить использовать информацию оттуда — сработает отлично.

2️⃣ Работа с актуальным контентом сайта — можно в промпте просто дать ссылку на сайт и быть увереным, что получишь ответ из актуального контента на сайте. Браузер даже умеет самостоятельно ходить по остальным страницам сайта, когда это помогает решить задачу. Сценарий: cкармливаем ссылку на сайт компании при подготовке к собесу или продаже — получаем основную информацию в сжатом виде. Pro tip: если модель ответила не запрашивая данные из интернета, то можно просто попросить ее фактчекнуть свой ответ — тогда она запустит режим-браузинг.

3️⃣ Структурирование и парсинг — просим собрать все ссылки с определенной веб-страницы и отправить их в табличном виде. Или ссылки на внешние сайты партнеров, когда собираем информацию о компании. С таким browsing-mode хорошо справляется. Можно зайти и с обратной стороны — попросить собрать эссе с цитированием сайтов и подкрепить ссылками.

🫢 Также попросил ChatGPT саму собрать табличку новых фичей после релиза доступа к интернету. Неплохо справилась — ответ приложу в комменты.

vlad kooklev — ai & startups

15 May 2023 10:15

📺 Как я экономлю часы на просмотре ютуб-видео

В предыдущих постах я уже рассказал, как я эффективно читаю научные пейперы и книги через GPT. Теперь пришло время рассказать, как я подхожу к видео на ютубе.

Подход простой: сначала прочитать краткое содержание с основными мыслями из видео → затем уже решать стоит ли посмотреть его целиком. Я давно уже пытался внедрить такой процесс в ручном режиме. Для популярных видео или курсов я искал сначала саммари с основными мыслями, но такое находилось редко.

🤖 У меня наконец получилось автоматизировать этот процесс (почти) для любого видео при помощи расширения от команды Glasp. Работает так: у каждого видео на ютубе есть автоматическая транскрипция в текст. Расширение берет этот текст, открывает окно с ChatGPT, вставляет туда и просит саммаризировать до основных мыслей. В отличии от предыдущего сервиса — понадобится активный аккаунт OpenAI. Также если есть платный аккаунт, то GPT-4 дает результаты в несколько раз лучше.

👨‍🔬 Выше я написал, что это работает почти для любого видео. Тут вступает в силу вопрос длины контекста. Напомню: в текстовое поле ChatGPT помещается около 4k коротких английских слов или 1k на русском. В пересчете на минуты английского видео — это в районе 10 полных минут разговора. Ребята из Glasp это предусмотрели и написали код, который равномерно берет куски текста из всего транскрипта так, чтобы они гарантировано поместились.

✅ Классные результаты получаются на английских видео длиной до 30 минут. В коментарии к посту закину результат саммаризации видоса от Balaji из вчерашнего поста. Никто не запрещает запустить расширение и на часовом видео, но там большая вероятность потерять важные мысли из видоса. На русском языке не рекомендую запускать — даже на очень коротких видео получал посредственные результаты.

😎 Pro tips: 1) расширение удобнее всего запускать по хоткею Cmd+X+X; 2) Расширение также работает для страниц в интернете, статей, документации — запускается тоже по хоткею.

vlad kooklev — ai & startups

04 May 2023 22:18

🤖 На какие каналы про AI ты подписан?

Как часто я слышу этот вопрос! (уже три раза). В конце поста ответ и ссылка. Но перед этим поделюсь мыслями, за какими категориями каналов я предпочитаю следить.

1. Новости от экспертов: почти каждый день выходят новые технологии, пейперы, демки. Собрать все в пост без воды простым языком, проиллюстрировать видосом — удивительный навык. Я убежден, что в таком формате могут писать люди с достаточной экспертизой, на них я и подписан.

2. Личные блоги про практическое применение AI: обожаю формат «вот такая у меня была задача И вот как я ее решил при помощи AI → забирайте себе как инструмент». В этом же формате я стараюсь вести свой телеграм-канал.

3. Аналитика по AI: рыночная, венчерная, макро. Мне это помогает видеть «лес за деревьями» и учитывать эту информацию при принятии решений.

Главное в таком подходе — баланс и отсутствие информационной перегрузки. Для меня работает идеально.

Никита Рвачев ведет один из каналов, на которые я подписан. Он же собрал подборку AI-каналов, которая соответствуют трем категориям выше — я подписан на все, могу ее порекомендовать:

🔗 /channel/addlist/2PE66_gY2lc0ZDU6 (если ссылка не работает, то нужно обновиь телеграм до последней версии)

Подборка еще в процессе, поэтому если хотите добавить свой канал, то напишите Никите.

vlad kooklev — ai & startups

25 Apr 2023 08:59

По итогам поста хочется написать:

1️⃣ За день так и не услышал весовых аргуемнтов, почему этого не произойдет (честно говоря хотелось бы услышать больше).

2️⃣ Вместо «замены разработчиков» можно для начала обсудить влияние на рынок труда. Последние 10 лет спрос на разработчиков рос из года в год. На этом росли курсы → на рынок поступало еще больше разработчиков → их все равно не хватало. С 2018 по 2022 сложно представить ситуацию в которой фронтендер с хотя 2+ годами опыта искал бы работу больше недели. И давайте скажем честно — часто это была работа уровня двигания и покраски кнопок.

Уже сейчас я знаю опытных ребят-фронтендеров, которые ищут работу месяцами. И это только на одном эффекте сокращений из-за рецессии. Экономика пока и не думает восстанавливаться, и тут уже подъезжает AI-революция с автоновными агентами, которые тоже умеют писать код.

Куда это приведет? Сложно сказать — сейчас наиболее вероятной кажется ситуация, в которой есть 10х разработчики обвешанные AI-тулами, которые заменяют собой целую команду. Будем наблюдать, как скоро это произойдет и сколько еще нас ждет волн сокращения.

3️⃣ Какие разработчики все равно будут нужны? Есть мнение, что на каждый AI потребуется своя команда настройщиков и промт-инженеров — я в это не очень верю. Кажется с таким справится и один человек в роли около-девопса. Я больше верю в то, что останется спрос на продуктовых разработчиков. Продуктовый разработчик работает в парадигме get shit done. Не важно какой стек и какие инструменты, если это помогает достигать цели бизнеса. AI просто один из тулов в наборе такого разработчика. Если у компании есть проблема → я использую свои знания и свой тулкит, чтобы ее решить и начать приносить бизнесу пользу.

vlad kooklev — ai & startups

22 Apr 2023 12:25

🔮 Последние дни в Ванкувере проходил TED 2023

Это такой тип мероприятия, где собираются умнейшие люди планеты, общаются и выступают.

В этом году все ожидаемо крутилось вокруг AI. Пока вышло только два видео: выступление президента OpenAI Грега Брокмана и QA-cессия с CEO Тиктока. Остальные видео будут выходить еще месяцами.

А пока что может почитать пост Андрея Дороничева с краткими итогами. Лично мне отлкинулись несколько мыслей:

1. Цитирует Ленина: бывают десятилетия, когда не происходит ничего, а бывают недели, когда происходят десятилетия. Консенсус такой, что в грядущих неделях нас ждут как раз эти десятилетия.

2. В остальном широкий разброс мнений от AI-оптмистов, которые видят в нем рост ВВП и уровня жизни И пессимистов с другой стороны, которые подводят к уничтожению человечества.

3. Тут процитирую Андрея целиком: «1. AGI возможен, и мы на пути к нему 2. Нужны еще 1-2 больших прорыва типа «трансформеров» 3. Экстенсивным путем улучшать LLMки долго не получится 4. Нам всем придется снова перепридумать как мы работаем»

vlad kooklev — ai & startups

04 Jul 2023 17:24

🔮 Почему AI сегодня и год назад — разные вещи

За последние 7 месяцев, языковые модели совершили большой прорыв. У них нашлось применение практически во всех сферах жизни. При этом многие задачи, которые мы сейчас решаем с помощью языковых моделей, раньше успешно решались классическим машинным обучением. Так что же все-таки изменилось и почему мы говорим о наступлении AI-революции?

1. Демократизация: классические подходы машинного обучения требуют дорогой и долгий процесс обучения моделей. Такие подходы в основном доступны лишь для больших компаний. Там есть достаточно данных и инвестиции в обучение окупаются. Но мы живем теперь в новую AI-эру: про это говорит Andrew Ng, один из отцов deep learning, в своем новом курсе по промпт-инжинирингу. «Задача классификации, которая раньше занимала у опытного МЛщика неделю → теперь требует лишь хорошего промпта. Классический ML устарел.»

2. Быстрые циклы обратной связи: благодаря снижению порога входа, на рынке появились сотни тысяч новых разработчиков. Это привело к волне новых экспериментов и опен-сорс продуктов. В результате каждый день мы обнаруживаем новые методы применения AI, о которых раньше даже не подозревали, индустрия идет вперед.

3. AI в бизнесе: на уровне бизнеса эксперименты и получение обратной связи также стали быстрее. Применение AI там перешло из категории «доступного крупняку» в категорию «бейзлайна». Новые стартапы создаются сразу с использованием языковых моделей внутри, а взрослые компании начинают оптимизировать свои процессы за счет их применения. Это дает невиданную эффективность и в какой-то момент у остального бизнеса не останется выбора, чтобы не использовать AI, если они хотят выжить.

4. Старый AI против нового: старые подходы — про долгие циклы обучения и обратной связи, про дороговизну и кровавый океан на рынке; новые методы — про демократизацию и доступность всем, про быстрые эксперименты и моментальный импакт на экономику. На наших глазах новые подходы сейчас съедают большую часть рынка старых подходов, и дальше будет больше.

🤩 AI-революция происходит на наших глазах. В ее основе лежит доступность и быстрые эксперименты. Для бизнеса, как никогда важно быть быстрым. А самый эффективный и доступный способ быть быстрее — использовать и внедрить языковые модели. Если чувствуете, что ваш бизнес готов к этому или интересно узнать больше, то напишите мне и я расскажу про наши кейсы.

@prod1337

vlad kooklev — ai & startups

29 Jun 2023 19:57

🤯 Почему сейчас отличное время, чтобы строить AI-продукт

Вчерашний пост собрал рекорд по реакциям. Прочитайте сначала его, если еще не успели. Вот что называется высказал непопулярное мнение. Но мы с вами знаем, что мир сложный и многогранный. Там, где есть «плохое время» одновременно есть и «отличное».

Поэтому сегодня разберем тезисы о том, почему все-таки стоит строить AI-продукт:

1. Набить шишки: даже если все риски из предыдущего поста сыграют, то вы получите незаменимый опыт. Можно сколько угодно читать теорию, собирать прототипы и выбрасывать их — это все еще будет далеко от реального мира. Реальный мир начнется, когда вы запустите продукт публично, возьмете за него ответственность и начнете его продавать.

2. Время возможностей: если ретроспективно посмотреть на технологические сдвиги прошлого, как «бум доткомов» или «бум мобилок», то может показаться, что просто нужно было в моменте оказаться с нужными навыками и начать делать. На деле эти ситуации мало отличались от текущей: рынки шатало, FOMO захлестывало людей и мешало действовать. В результате мы можем увидеть, что большинство текущих гигантов вышло на рынок как раз в моменты турбулентности.

3. B2B > B2C: по моему опыту обстановка в B2B сейчас обстоит лучше. Компании очень хотят затащить к себе AI, но большинство не знает как. Да и у AI сейчас такая широкая применимость, что это невозможно закрыть только командами внутри. Это заметно и по воронкам продаж — все в один голос говорят, что никогда не видели таких конверсий и по B2B аутричу и по сейлз-звонкам.

4. Решать проблемы: многие AI продукты можно описать как «решение в поисках проблемы». Разработчики не понимают, кто их пользователи, а это сказывается на сложности интерфейса. Если вы строите продукт от проблем пользователя, а AI используете для срезания углов, то это большое преимущество на таком рынке. Круто, если у продукта есть AI-стратегия, не круто когда есть только AI.

😎 Вот так! Не все так однозначно, придется взвесить и подумать над ответом на «стоит ли строить». Я уже взвесил, своим ответом я поделюсь в следующем посте. А вы пока расскажите в комментах, какие из тезисов для вас больше сейчас перевешивают.

@prod1337

vlad kooklev — ai & startups

22 Jun 2023 18:39

🤔 Как бизнесу внедерить языковые модели (и извлечь выгоду)

За последние недели я пообщался с десятками компаний по теме внедрения LLM. Для каждой я пошэрил свой опыт внедрения и мы нашли места, где они принесут в моменте ценность.

После этого у меня появилась четкая картина в какие места бизнеса сейчас можно уверенно внедрять LLM.

👷 Операционка: повторяемые процессы c учатием людей, коммуникация, особенно когда это складывается в цепочки. В таких местах бизнеса всегда с какой-то вероятностью генерируется брак. Чем больше частей системы между собой взаимодействуют → тем больше вероятность такого брака. Особенные флэшбэки у меня вызывает опыт с операционкой в фудтехе и эдтехе.

За счет LLM удается уменьшить количество подчастей в системе, оптимизировать процесс → снизить издержки и шанс брака. Это дает моментальное влияние на экономику, легко просчитать окупаемость. Тут важно понимать, что код тоже может производить баги. Это особенно валидно на раннем этапе развития языковых моделей — нужно оценивать риск и стоимость ошибки на этапе.

📱 Интерфейсы: это могут быть интерфейсы нового поколения (в том числе голосовые), а может быть просто оптимизация этапов благодаря вызову LLM. СЕО Instacart недавно в подкасте заявила, что видит будущее e-commerce в запросах на человеческом языке вроде «хочу здоровый ужин на троих». На это также накладывается слой голоса, я делал про это отдельный пост. Но и это лишь самый очевидный способ применения в интерфейсе — их намного больше.

Здесь выгоду для бизнеса просчитать сложнее: пользователей нужно будет обучать на новые способы взаимодействия, включится стандартный adoption curve. Но люди постепенно перестроятся за счет снижения когнитивной нагрузки во время выбора.

😎 И это не все: впереди нас ждет еще развитие и адопшен AI-агентов, качественные и удобные опен-сорсные языковые модели, GPT-5. Но уже сейчас можно делать революционные вещи для бизнеса и сейчас самый лучший момент, чтобы начать.

vlad kooklev — ai & startups

16 Jun 2023 18:46

👨‍💻 Разработчики — это двигатель текущей ИИ индустрии

С момента релиза ChatGPT прошло полгода, и за это время был представлен API и поразительно мощная модель GPT-4. Тем не менее, в общем, мы находимся в той же ситуации, что и полгода назад. Несмотря на то, что каждый день выходят новые продукты и языковые модели — мы до сих пор не увидели значительных прорывов почти во всех отраслях. Это все еще эксперименты.

В чем тогда боттлнек: я уверен, что для революции нам не нужно ждать GPT-5 или новый фреймворк над моделями. Текущее узкое место индустрии — это количество разработчков, которые разрабатывают продукты над языковыми моделями И готовы поверить в свою идею настолько, чтобы заниматься ей хотя бы месяц подряд.

Чем мешает FOMO: мы находимся на диком зададе — идей и возможностей вокруг столько, что сложно выбрать что-то одно и начать этим заниматься. Я без труда нагенерирую сотню идей продуктов, которыми мог бы заняться и они имели бы влияние на пользоватей и бизнес. В такой ситуации невероятно сложно выбрать что-то одно и заниматься только этим. В тоже время, еще и легко оказаться в ситуации, когда кажется, что люди вокруг уже реализовали все возможные идеи — не стоит даже браться. Но это не так.

Приведу пример: на днях Фреймер релизнул свой AI-продукт с генерацией страниц сайта по промпту. Почти сразу вытащили информацию, что там внутри GPT-4 и промпт, который генерирует блоки на псевдо-коде, которые затем уже Фреймер на своей стороне превращает в страницу сайта. Со дня релиза GPT-4 не было никаких технических ограничений, чтобы сделать такой продукт — все реализуется за счет промпта в стандартную модель, которая доступна с середины марта. Ограничение было только в интересе и фокусе разработчиков. Команда фреймера поверила в идею и реализовала ее.

😎 Я считаю, что мы далеки от раскрытия потенциала GPT-4 и нам предстоит заниматься этим весь 2023-ий год. Я считаю, что есть сотни миллионы продуктов, которые можно построить даже над текущими языковыми моделями. Я считаю, что это самое интересное, чем можно заниматься прямо сейчас. Поэтому я топлю за бесплатное обучение и строю гайд и поэтому я создал сообщество «языковых» разработчиков (нас уже ~150). Обучайтесь и подключайтесь к сообществу — давайте менять мир вместе.

vlad kooklev — ai & startups

10 Jun 2023 10:36

🤖 Будущее персональных ИИ-ассистентов

На прошлой неделе потестил новые продукты, которые отражают, куда будут двигаться персональные ИИ-ассистенты.

1. Quivr: «второй мозг, который дает ответы». Продукт работает, как облако, куда вы заливаете свои документы, заметки, аудио и видео. После этого можно задавать вопросы и получать ответы из контента ваших документов. Продукт работает над эмбедингами от OpenAI (если до сих пор не знаете, что такое эмбединги — у меня есть гайд, где это одна из тем). Продукт полнолстью опен-сорсный, при желании можно развернуть у себя и не думать про безопасность.

2. LocalAI: «строим продукты над локальными языковыми моделями». Уже несколько месяцев можно запускать языковые модели на М1/М2 чипах мака — в этом помогают проекты llama.cpp и ggml.ai. LocalAI пошли дальше и предложили обернуть эти локальные модели в Chat API от OpenAI. Получается, что весь код, который раньше работал с новыми GPT-моделями теперь легко переключается на локально поднятую модель. Но пока не стоит слишком радоваться — модели ужимаются до ресурсов М-чипов за счет значительной потери качества. Я пока не придумал сценариев, где этим можно пользоваться и при этом не страдать. Но скорость развития радует, так что наблюдаем дальше.

Получается есть два направления: «опора на данные пользователя» и «локальные языковые модели». На их стыке лежит продукт «персональный ИИ-ассистент, который работает с документами на локальном компьюетере». На пути к такому продукту большую роль будут играть именно опен-сорсные продукты. В тоже время они пока далеки от качества, которые могут дать закрытые продукты от больших компаний.

🥷 Вокруг этого и будет строиться большая битва в следующие годы. Открытость, локальность против закрытости и удобства за счет ресурсов большой компании. Про это я сделаю отдельный пост — кидайте реакции, если интересно.

vlad kooklev — ai & startups

06 Jun 2023 12:49

🚀 Как быстро вкатиться в «языковую» разработку

В предыдущем посте я описал то, какой я вижу разработку будущего. Она будет построена вокруг человеческого языка и голоса.

Последние месяцы я только и делал, что искал информацию по кускам в интернете, чтобы разобраться, как это работает. В результате из этого получилось сообщество и вот теперь гайд.

Это все еще сырая версия, я планирую ее дорабатывать в течение нескольких недель. Но уже даже сейчас это самый структурированный и понятный гайд про то, как начать разрабатывать продукты над языковыми моделями. Также я до сих пор не уверен в названии области и продолжаю перебирать варианты — делитесь идеями, если будет.

Гайд полностью бесплатный, таким и останется — взамен только прошу шарить гайд другим и давать фидбэк.

🔗 → Большой гайд по языковой разработке

vlad kooklev — ai & startups

29 May 2023 17:57

🔊 Будущее интерфейсов – за голосовым вводом

Уже неделю активно тестирую приложение ChatGPT, и оно — супер.

💼 Да, и до момента релиза приложения существовали аналоги. Николай Давыдов даже написал, что несколько из них зарабатывали миллионы долларов в месяц. Но у меня всегда были опасения насчет них, потому что неизвестно как они хранят данные. Еще один важный фактор — раньше мне казалось, что для всех моих сценариев в ChatGPT нужна структура и ввод большого количества текста.

🎤 Неожиданно вместо переноса десктопных сценариев, приложение открыло для меня новые — все это благодаря голосовому вводу. Раньше мои попытки пользоваться голосовым вводом в iOS всегда заканчивались состоянием «проще ввести руками». Но тут другое — приложение ChatGPT использует технологию Whisper, и она распознаёт мой голос с точностью 99.9%. В результате можно просто расслабиться и начать наговаривать мысли.

🚶‍♂️Теперь я выхожу на утреннюю прогулку, создаю новый чат и прошу просто слушать мои мысли. После прогулки возвращаюсь домой и прошу структурировать их в четкий список. Также изменился процесс написания постов — я просто последовательно выговариваю все мысли, а в конце прошу их структурировать, использую это как основу.

🔮 Со связкой разпознания речи и больших языковых моделей мы приближаемся к будущему, где мы полноценно можем управляться одним голосом. Вот тут Дима Мацкевич в посте предсказывал, что будущие поколения уже будут обходиться без клавиатур. А я несколько месяцев назад накидал эксперимент, который позволял использовать «промпты» для любого интерфейса — поставьте реакций если интересно.

😎Pro tip: Майк Ян поделился хаком, как включить озвучку ответов от ChatGPT.

@prod1337

vlad kooklev — ai & startups

24 May 2023 17:17

Написал гостевой пост в канал Трендоскопа, с вами тоже поделюсь

Представляю уже себе картину будущего, где оплачиваешь доступ к источнику уникальных данных, и с каждым источником твоя личная языковая моделька становится умнее.

Или выходишь на работу — и весь Ноушен и Конфлюенс становится доступен для модели, сразу получаешь персональный онбординг и задаешь вопросы 🤩

vlad kooklev — ai & startups

22 May 2023 11:13

🔍 Как улучшить поиск в интернете в 10 раз? (заменяем Гугл и ChatGPT)

Продакт-менеджеры знают, как сложно пересадить пользователя с привычного решения на новое. Считается, что для этого нужно сделать 10х продукт по сравнению со старым. Тем не менее, я стал использовать гугл-поиск на 90% меньше с декабря прошлого года. Оказалось, что формулировать вопросы в свободном формате и получать ответы текстом намного удобнее, чем исследовать поисковую выдачу.

🕸 В первом релизе ChatGPT классно закрыл сценарии работы с информацией, для которой не нужна актуальность и достаточно свежести конца 2021 года. А с появлением плагинов и веб-браузинга чат начал закрывать и сценарии, где требуется свежая информация. Неудивительно, что внутри Гугла все последние месяцы бьют тревогу — уже перестроили стратегию, структуру компании и развивают свой Bard.

🌐 Как я уже писал, веб-браузинг в ChatGPT плохо, но к счастью есть решение. В этом нам поможет продукт Perplexity. Это полноценный поиск с встроенным GPT-4 и классным дизайном. На днях они релизнули режим Copilot: теперь можно задать даже абстрактный вопрос вроде «какие есть интересные события в июне в Белграде» или «собери мне план курса по Langchain». Копайлот задаст в ответ уточняющие вопросы и в итоге распишет ответ с ссылками на актуальные сайты-источники. После этого можно продолжить общение в чате и уточнить свой запрос.

🤖 Обычный поиск там работает без регистрации, а для режима копайлота нужно будет авторизоваться через гугл. Также удобно, что результат можно зашарить с другими — вот к примеру результаты моего запроса про курс по Лангчейну. Рекомендую начать пробовать для сценариев, в которых вы бы хотели использовать ChatGPT, но требуется актуальная информация.

🔮 Всё это натолкнуло меня на мысли про будущее контент-маркетинга и SEO. Давайте соберем здесь 30 реакций и я сделаю про это отдельный пост.

@prod1337

vlad kooklev — ai & startups

18 May 2023 12:23

🧘‍♂️ Будущее mental health — за языковыми моделями

Последние месяцы наблюдаю, как крутые предприниматели собирают себе AI-коучей на базе ChatGPT. Дима Мацкевич поделился своим промптом для превращения чата в гранулярного коуча для исследования эмоций. А вот тут Майк Ян поделился своим промтом для T-GROW CEO-коучинга.

🧑‍💻 Я попробовал оба промта на своих запросах: ответы получаются дейсвительно классные. Но в отличие от классических сессий с психологом/коучем здесь сложнее добиться глубокого результат. Легко перейти в соседнюю вкладку и отвлечься; также есть проблемы с эмпатией — не хватает визуального образа за текстом. Порог входа не назвать низким — нужно заранее четко понимать зачем тебе оно нужно. Проблемы можно пробовать решить через виртуальные аватары, распознавание и синтез речи. Все технологии для такого уже доступны, так что интересно будет попробовать демку.

📲 Затем я наткнулся питчдек стартапа YUNG: они строят B2B сервис для поддержки ментального здоровья сотрудников. Там заявлены ежедневные задания, чеклисты для проверки состояния, но основной сценарий лежит именно через чат с языковой моделью. Что я вижу в питчдеке? Они не пытаются заменить человеческие сессии. Наоборот, они выступают за дешевизну, массовость и скейлинг сразу на всю компанию. Все то что не возможно, либо дорого сделать с участием живого человека.

🤔 В обоих случаях я вижу потенциальные проблемы с доверием: c одной стороны: хочу ли я довериться и поделиться личным с моделью от компани OpenAI? С другой стороны, вопрос еще сложнее: большую часть ментальных проблем генерирует сама работа. Хочу ли я поделиться этими проблемами с продуктом, который мне предоставляет сама компания, где я работаю?

🫣 В любом случае хочется верить в демократизацию сферы mental health, и что новые миллионы людей активируются и получать помощь, благодаря новым продуктам. Тем более эта помощь вероятно понадобится, чтобы справляться с последствиями от внедрения AI в нашу жизнь.

vlad kooklev — ai & startups

16 May 2023 12:22

🕺 Задаем вопрос сразу ко всем видео на любимом ютуб-канале

Вы думали я закончил, но меня не остановить. Мы обсудили уже как пообщаться с автором научной статьи, книгой и конкретным видео на ютубе. Теперь покажу как задать вопрос ко всем видео, которые есть на каком-нибудь ютуб-канале.

🚀Для это будем использовать сервис Context. Они дают чат-оболочку над 30+ популярными ютуб-каналами и подкастами. Так можно задать вопрос Эндрю Хуберману, Тиму Фэррису или спикерам YC Startup School. С одной стороны мы получаем обычный текстовый ответ, с другой ссылки на конкретные участки в видео на этом канале, где есть похожая информация (по сути поисковик).

🤔 Но не все так гладко: чуваки пивотнулись из B2C в B2B, не добавляют новые каналы и планируют со временем закрыть даже поиск по этим. Вместо этого они теперь предлагают любому создать своего персонального бота на базе любого ютуб-канала. Там сразу же прайсинг от $20/mo даже за небольшой ютуб-канал — не лучшая опция если это не использовать это как-то для бизнеса.

😌 В тоже время внутри используется достаточно простая технология векторных эмбедингов. Я рассказывал про нее в посте про замену разработчиков при помощи AI. На Гитхабе уже есть открытые чаты с контентом от Лекса Фридмана и Тима Урбана. И я уверен, что на его место обязательно появится другой пользовательский продукт — уж слишком удобно так искать по видео-контенту в мире, где каждую неделю выходят десятки подкастов по 3 часа длиной.

А пока, если есть вопросы по стартапам, здоровью, финансам — задаем их ботам на Context.

vlad kooklev — ai & startups

14 May 2023 11:38

✈️ Эмиграция — это стартап

Несколько месяцев назад у меня промелькнула мысль: текущая волна эмиграции породит большое количество стартап-фаундеров. За этой мыслью лежит простая логика:

1️⃣ Основное препятствие, которое останавливает людей от создания стартапа — это страх перемен. И часто это не конкретные страхи, а абстрактные и неизвестные вещи. Стартап с самого начала ставит основателя в ситуацию неопределённости. В обычной жизни мало механизмов, которые могли бы подготовить к такому вызову.

2️⃣ Научно доказанный лучший способ борьбы со страхами — это терапия погружением (exposure therapy). Простыми словами это можно описать как «закрыть глаза и шагнуть туда, где страшно». Вот почему каждый следующий стартап начинать становится все проще — неопределенность прошлого уровня становится обыденостью. Так что, лучшая подготовка к стартапу — это запуск самого стартапа.

3️⃣ Если перейти на уровень психологии, то такие механизмы и навыки можно описать как «адаптивность» и «толерантность к страху». Адаптивность — это о том, как быстро и эффективно я меняюсь, когда меняется окружающая среда. Толерантность к страху отражает базовый уровень страшного, который человек способен перенести. Применительно к стартапам, с каждым новым проектом планка возрастает, и человек готов вынести больше, а за счет адаптивности это происходит быстрее.

4️⃣ Так вот, эмиграция — это та самая ситуация, когда ты попадаешь в совершенно новые условия, которые ранее казались страшными. Аренда жилья, подготовка документов, взаимодействие с незнакомыми людьми, которые не говорят даже на английском. Это все повышает тот базовый уровень, который ты готов вынести. И снова — каждая следующая эммиграция идет проще предыдущей за счет того, что базовая планка страха поднимается.

5️⃣ После опыта эмиграции стартап уже не покажется насколько страшным. Это просто ещё одна неопределённость, с которой я могу справиться. Ведь если я сумел адаптироваться в новой стране, преодолеть языковой барьер, культурные различия, то запуск стартапа — это просто следующий челлендж, который я в состоянии принять. Эта волна эмиграции приведет к тому, что миллионы людей повысят свою планку, окажутся ближе к запуска стартапа.

6️⃣ Нередко люди после опыта эммиграции возвращаются обратно. Точно так же нередко люди после опыта стартапа возвращаются в найм. Здесь нет универсального верного пути. Но мне кажется крутым сам факт того, что больше людей окажутся дальше по воронке процесса запуска стартапа, и мы неминуемо увидим сотни новых успешных стартапов.

📹 На этот пост меня натолкнуло выстулпение Balaji Srinivasan в YC Startup School 2013. Он там выводит концепцию Exit, которая покрывает и «увольнение из компании, чтобы основать стартап» и «эмиграцию из страны» и раскарывает почему это мощный драйвер изменений и инноваций.

vlad kooklev — ai & startups

26 Apr 2023 17:16

📖 Помните я писал несколько дней назад про будущее образования?

Наткнулся тут на пост Наташи Бабаевой. Она копает последние годы тему образования, делает курсы и рассылки, чтобы лучше в изучать в процессе интересные темы. Да и вообще у меня один из первых постов на канале с описанием концепции с ее курса.

В том посте она рассказывает, что в процессе подготовки последнего курса нашла для себя новый способ обучения — «потянуть за ниточку». Это когда ты начинаешь с интересной теме темы или человека, углубляешься, находишь смежное и изучаешь его тоже. В результате все идет от начального любопытства-интереса, и ты можешь дойти очень далеко расширяя свои знания темы.

Мне это отликается по нескольким причинам:

1️⃣ Это следование принципу (моего любимого) Навала Равиканта о том, что нам следует «pursuing our genuine curiosity». Самые крутые продукты получаются, когда человек следует за любопытством и развивает в процессе specific навык, и делает затем это круче чем 99.9% людей в мире.

2️⃣ Когда я впервые начал пользоваться ChatGPT, то одно из первых применений, которые я придумал — «om-demand graph wikipedia». Ты задаешь вопрос по теме — получаешь ответ и тут же список смежных вопросов, на которые тоже можешь получить ответ → так до бесконечности. Я как раз на днях наткнулся на такой продукт, поэтому не буду слишком углубляться в описание.

Для меня «тянуть за ниточку» выглядит ровно так. Если добавить к этому персонализацию, чтобы ответы генерились с учетом твоего бэкграунда, то получится лучший образовательный продукт, доступный сейчас.

3️⃣ Читаю сейчас книжку Andrew Chan про сетевые эффекты — «The Cold Start Problem». Но делаю это необычно, а с тем же процессом, что я завел для научных пейперов. Заливаю целиком книгу в чат и задаю ей ней вопросы — создается ощущение общения с автором.

Уже спустя день могу сказать, что давно не получал такого кайфа от чтения и давно так не погружался в книгу с головой. И это для меня тот же самый принцип «тянуть за ниточку». В коментарии закину, как выглядит «процесс чтения».


❓Как-то уже успели поменять свой процесс обучения за последние месяцы? Может есть какие-то хаки?

vlad kooklev — ai & startups

24 Apr 2023 10:36

👀 Почему AI заменит разработчиков (и это ближе, чем вы думаете)

Заметил, что разработчиков больше, чем других триггерит от развития AI (в данном случае языковых моделей). И это нормальная реакция: не так легко принять, что привычный уклад жизни меняется — появляется отрицание и гнев. Ровно поэтому я не упустил возможности написать кликбейтный заголовок. И раз это уже привлекло ваше внимание — давайте разбираться в деталях.

Для начала: не поймите меня неправильно, я не утверждаю что это произойдет в один момент. Я исхожу из текущих трендов. Они ведут, к тому что неминуемо начнется процесс замены разработчиков при помощи языковых моделей. Процесс начнется с простых задач и неизвестно как далеко он зайдет.


🤩 Что уже сейчас может GPT-4:
1. Отлично писать код на уровне функции, реже на уровне файла и микро-проекта.
2. Проектировать архитектуру из бизнес-описания.
3. Писать тесты из кода и бизнес описания.
4. Составить для себя список задач, которые потом может выполнить.


😒 Что мешает делать больше:
1. Маленький контекст: можно ввести только 4k токенов (коротких английских слов). Все остальное приходится либо обрезать, либо саммаризировать. Если даже в ChatGPT скормить исходный код двумя сообщениями, то ему придется его сжать → большая вероятность потерять важный контекст.
2. Устаревшая документация: датасет из 2021, многие библиотеки уже прошли несколько мажорных релизов и обновились без поддержки старых версий, код просто не заведется (привет react-router).
3. Ручная работа: все равно приходится много работать руками и головой. Точно ли модель тут все правильно поняла? Не потерял ли важный контекст из примера кода, который я добавил?

Результат: сложно положиться на аутпут модели. Есть шанс свалиться в “да проще руками сделать, чем столько танцев с бубном делать вокруг”.


🚀 Какие тренды я вижу:
Теперь поговорим о самом интересном, из чего я делаю вывод, что отказ от разработчиков скоро все-таки начнется.

1. Увеличение контекста модели: вместе с GPT-4 представили версию на 32k токенов — в 8 раз больше. Уже больше похоже на то, что влезет документация или код среднего проекта. Доступа пока что нет почти ни у кого.
2. Техники оптимизации контекста: мощно растет рынок векторных БД (Pinecone, Chroma) и языковых фреймворков (Langchain). Это решает задачу «как мне передать в контекст только информацию, которая будет сейчас полезна, а не всю разом, чтобы она уместилась в контекст». Работает отлично, текущие решения занимают ~50 строк.
3. Мультимодальный ввод: еще одна вещь которую показали вместе с GPT-4. Заливаем изображение, и общаемся о нем с моделью. На демо был клевый пример, где сайт верстался из прототипа от руки. Здесь снова пока ни у кого нет доступа, но есть уже открытая модель Mini-GPT от комьюнити, в другом посте рассказал уже про нее.


🤖 Самый важный и объединяющий тренд:
AI-агенты: позволяют связываться между собой запросы в языковую модель: cписок задач → архитектура → реализация.

1. Агенты из коробки работают с веткорными хранилищами и умеют оптимизировать контекст даже на 4к моделях. Это позволяет работать с кодом на уровне проекта и с длинной документацией, при этом не терять важную информацию.
2. Агенты дают возможность работать с файловой системой, не только писать код и тесты, но и запускать → решать что делать дальше после анализа результатов выполнения.
3. У агентов есть доступ к интернету, откуда они могут брать свежую документацию.

Таким образ на апрель 2023 мы находимся в точке: агенту можно поставить четкое ТЗ → он его декомпозирует на задачи → найдет актуальную документацию → напишет код и тесты → запустит их → будет это итеративно делать, пока код не заведется, как описано в тз. А теперь вспомните про мульти-модальность. Пока не видел готовых демо, но ничто не помешает передать агенты и макет.


Ну что, какие мысли? Продолжать тему?

vlad kooklev — ai & startups

22 Apr 2023 06:57

Как легко пообщаться с автором научной статьи?

Последние 4 года я хотел начать читать научные пейперы. Я тогда заметил, что все мои любимые книги основаны на научных статьях, которые вышли как минимум 6 лет назад. Вопрос: зачем мне ждать, пока кто-то напишет книгу с обобщением, если я могу иметь доступ к актуальным знаниям.

Я попытался, но столкнулся с трудностями — сложный текст. Оставалось либо углубляться и фундаментально начать разбираться в теме, либо пропускать сложные участки. Во втором случае смысл терялся, знания не приходили, и внедрить привычку не получалось. Тогда я и смирился на какое-то время, что это больше для умных ребят, а пока что стоит подтягивать базу.

До последнего времени это действительно было проблемой, но теперь у меня появились инструменты как справляться со сложностью научных статей:
1) Задаю ChatGPT вопросы в стиле Ричарда Фейнмана — "объясни мне простыми словами", "расскажи из первых принципов", "сделай так, чтобы понял 5-летний ребенок". Очень круто, но неудобный UX — приходится копировать и вставлять фрагменты статьи.

2) Новый продукт ChatPDF — заливаю файл и просто начинаю общаться в интерфейсе чата с текстом этой статьи: прошу раскрыть тему или уточнить непонятное. Это совсем новый подход к обучению, когда исходишь не из текста, а из своих вопросов, любопытства. Как будто беседуешь с автором статьи и не стыдно задавать глупые вопросы.


Постоянно думаю про будущее образования. Это один из примеров того, каким оно будет: персонализированным, адаптирующимся под твой уровень знаний, интересов и любопытства.