4253
❤️☠️🤗 идейная миграция небытия
EditBench - как померять качество редактирования изображения
Начнем с базы: как работает inpainting-image editing - выделяем область, зашумляем, генерируем по тексту что нам нужно, при этом остальные области как бы "заморожены" .
Суть бенчмарка:
- давайте сравним модели по качеству редактирования цвета объекта, формы объекта и материала объекта.
Мерили людьми подсчитывая количество лайков за реалистичность и соответствие тексту.
paper
опять же, спасибо 💃Жене @j_links за то что приносит эти папиры
А ты стал сегодня разочарованием для себя?
Читать полностью…
#чтивонаночь
Petals
Никогда не хотели скинуться с друзьми гпушками на большой вычислительный проект?
Авторы BLOOM вот хотели, поэтому сделали систему распределенного инференса моделек, идея следущая:
Есть большая модель размера порядка 175B параметров, и допустим 100 желающих с маленькими картами, у каждого из них модель не влезет, но вот если разложить по параметру на все GPU подключенные к api на данный момент(чуствуете запах членов pied piper?)
🖥github
🖥paper
за линк спасибо @j_links
- Иваныч, приходи к нам обратно, нам программист нужен.
- Так у вас же обезьяна с Chatgpt есть.
- Обезьяна с Chatgpt уже тимлидом стала, нам опять программист нужен.
Есть две пугающие вещи: араб в синагоге и еврей в мечети
Читать полностью…
Кстати, смартфоны это по сути агументации нулевого поколения, они расширяют твои возможности, но пока не встроенны в тело
Читать полностью…
https://mv.monetka.name/
Чо думаете? Как пересчитать?
Как же сильно отстсали челы которые говорили: сейчас t2i убьёт фотостоки, но появились стоки промптов платные и с закрытой лицензией.
А и пока я не видел успешных примеров быстрых prompt predict сеток, поэтому это прям смешно
Угадайте что из этого ванильный трейн из pl/репы диффузии, а что модифицированный мой.
Читать полностью…
Решил проблему пальцев, а чего добился ты?
Код и текст выпущу если найду раба который починит вае
Самое полезное что есть у трансформера как у архитектры - устойчивость, оч сложно сделать так чтобы градиенты взорвались или на инференсе он разошёлся, поэтому 8бит обучение и инференс, вполне себе рабочая схема(скоро выйдет 4бит инференс, но его пока карты не поддерживают)
Ноутбук сборник всяких хаков
Автор: @kaggling
Нет ничего страшнее 40летних, думающих что знают что нужно 13летним
Читать полностью…
Тут минимум 20пхд ds кого я знаю лично - запилите кто нибудь человеческое объяснение оптимизацию как в chatgpt работает трейнлуп
Читать полностью…
Бесплатная диагностика для тех кто 🐇бался.
За время бакалавриата и моей предпринимательской деятельности я задавался вопросом “а как со всем этим перегрузом справиться и не сдохнуть?”
За последние 2,5 года я выделил пять основных болей с которыми встречался сам и видел в своём окружении.
1️⃣ Когда много энтузиазма и амбиций, но мало понимаю куда идти. Когда распыляюсь. Когда страшно начать действовать. Расфокус. В результате дизориентация в пространстве возможностей и хочух, потерянность, страхи, нерешительность. ⚡️📉
2️⃣ Когда в чужой стае. Когда одиноко и пустовато. Когда отношения изжили себя, а остаться без опор страшно. В итоге убыточное, гнетущее, слабое окружение. Мало отдачи. Болото. 😔
3️⃣ Когда мало наполненности, устал, заебался работать, мало энергии, мало мотивации, потушенность. В итоге кризис состояния. Убыточное, слабое, тревожное состояние, брошенные процессы.0️⃣
4️⃣ Когда насилие над собой. Когда мало экологичных инструментов реализации своего потенциала. Когда воплащаешь чужие идей. В результате пропадает ощущение себя, результаты есть, но роста нет. 🅰️
5️⃣ Денег нет или некуда девать. В постоянном стрессе что не хватит на закрытие базовых потребностей. Каждый месяц переживаешь хватит ли расплатиться по обязательным платежам, сильно тревожишься. Либо деньги есть и страшно заинвестировать их в себя или в своё дело, замираешь.🪙
Если что-то резонирует - ставь ➕ под постом!)
⚠️Сейчас до конца года решил запустить движуху: марафон по диагностикам для ребят, которые хотят навести у себя в жизни порядок и выйти на новый уровень наполненности, энтузиазма, амбиций, заработка и реализации.
Диагностики будут бесплатными, хочу на них разобрать все эти проблемы и больше понять как могу быть тебе полезен.
Что будет на диагностике?
✅ Разберем то, куда ты хочешь прийти и почему пока не получилось
✅ Уберём дешевые страхи и покажу план действий исходя из твоих активов
✅ И если пойму что могу помочь решить твой запрос - предложу тебе формат взаимодействия
В результате ты получишь
➕ План на 2 месяца
➕ Пять прибыльных действия из текущего состояния
➕ Энтузиазм и решимость в подарок!
➕ *Шанс поработать со мной в течении двух месяцев
Если хочешь попасть на диагностику заполняй анкету или ставь + в комментариях.
А если хочешь кому-то помочь решить эти же проблемы отправь ему этот пост.
p.s. По себе знаю что самому с этим можно справиться, но больно, дорого и долго. Сам к этому шёл последние 9 месяцев через боль и страдания.
@iglushenkov
кстати да, по времени все очень хорошо
Читать полностью…
кстати да, лучший менджер задач это рандомтрон
Читать полностью…
а что после тебя останется кроме выплаченной ипотеки и терабайта контента в интернете?
Читать полностью…
вообще, программистов надо готовить в пту, большой необходимости высшее образование для того чтобы набирать скрипты на большинстве ЯП не имеет
Читать полностью…
А найти надо r окружности, 1/4 которой вписана в квадрат, задача детская решается в две строчки
Читать полностью…
Алсо стебель оч специфично тюниться, у него мягко говоря не то поведение которое ждёшь.
Он как бы адекватно выучивает новый домен, но смещается в него очень специфично.
Самый короткий способ сместиться в правильный домен - потюнить CLIP, но качество сильно просядет
Глобальная цель того что я делаю:
полечить стеблю чтобы с таким качеством она генерила по простым промтам качественные картинки с правильным количеством пальцев, но при этом не было необходимости накидывать куча prompt engineering_a.
Чо для этого сделано:
Unbias датасета, взяли сет, нагенерили blip_ом кэпшенов
Чо даёт: мы можем нарезать даты откуда угодно (сейчас нарезается Ева, гилби и куча рандом стафа)
Слегка изменил архитектуру(по другому берём эмбединги из клипа, по другому кормим в unet, unet морозим частями чтобы он не выебывался и сходился.
Некоторое приседания с aspect ratio датасетом чтобы собирать батчи с landscape/portrait картинками что позволяет не обрезать куски картинки.
bpe dropout: изобрели в 2018
люди до: выбрасывают буквы из слов для аугов текстов
ладно, давайте еще раз попробуем, тот самый бот который превращает вас в аниме, только кхм, в моей имплементации.
если у вас прилетает "колейдоскоп" - все хорошо, очередь сломалась, просто переотправьте
@photoVanimebot
Знаете почему отказались от Human feedback?
Потому что трейнлуп включал в себя семь индусских залуп
#чтивонаночь
Обзор статьи Scaling Laws for Reward Model Overoptimization или почему ChatGpt так хороша
“When a measure becomes a target, it ceases to be a good
measure" - cтатья открывается с этой фразы и это прям байт
Авторы используют довольно старую архитектуру - GPT + reward head - доп голова которая возвращает скалярное значение для RL параметров(подробно почитать про TRL можно тут), но важно отметить что авторы увеличили размер RL агента поверх GPT вплоть до 3b параметров.
Best of N sampling by OpenAI, april22
Идея такая - берем наше пространство возможных ответов(генераций), у нас есть некая прокси метрика R которую мы используем как степень "хорошести" ответа, и теперь мы можем ее оптимизировать с помощью KL дивергенции и это позволяет 3b модели работать лучше чем 175b модели!!
AI-Written Critiques Help Humans Notice Flaws OpenAI, june22 dataset
Идея такая - давайте дадим людям выбирать наиболее правильный вариант следующего токена для задачи сумаризации текстов из вики/откуда то еще, а но том что. люди выбрали - мы учим дискриминатор отбирать плохие ответы, оптимизируя составную метрику - Likert(1-7 как сильно понравилось) + Uncritiqueability(отличие от человека) + Win rate(количество правильных ответов дискриминатора)
Теперь вернемся к исходной статье, а.k. сhat gpt
Если в первых эксперементах(summarizing-books ) авторы использовали для разметки reward человека, то тут они пришли к RM(GOLD REWARD MODEL тоже GPT кстати),
Как это работает:
Авторы берут синтетику из InstuctGPT, и учат обычную GPT генерировать синтетику, сравнивая ее с GOLD MODEL(Instruct GPT) при этом они по сути взяли PPO(из оригинальной работы) и добавили дополнительного критика, а за счет того что модель учиться без участия человека - ее можно увеличить до какого угодно размера!!
Кстати да, Larger policies see less benefit from optimization against an RM, but don’t overoptimize more.
Кажется самая оптимальная версия трансформер + RL