4253
❤️☠️🤗 идейная миграция небытия
Отец работает в Амперке. Сегодня срочно вызвали на совещание. Вернулся поздно и ничего не объяснил. Сказал лишь собирать вещи и бежать в магазин за флипперами на две недели. Сейчас едем куда-то далеко за город. Не знаю что происходит, но мне кажется началось...
Читать полностью…
https://github.com/transitive-bullshit/chatgpt-api
Читать полностью…
Apple выложили офицальные скрипты для конвертации sd в coreml
github
Мое выступление в Стенфорде
Глубокое обучение (DL) стало важным инструментом для сейсмологии и мониторинга землетрясений. Мы представляем метод глубокого обучения, который обнаруживает сейсмические фазы и оценивает соответствующие неопределенности времени прихода волны.
Выделение сейсмических фаз - это процесс идентификации времени наступления сейсмической фазы в сейсмограмме. Время наступления сейсмической фазы является одной из наиболее важных частей информации в сейсмологии и используется в широком спектре приложений. К ним относятся локализация землетрясений, определение структуры земли и идентификация ядерных взрывов.
Обнаружение и выделение сейсмических фаз - довольно трудоемкая задача, требующая много времени и усилий при выполнении вручную. Необходимость автоматизации привела к разработке нескольких алгоритмов и нейронных сетей, которые пытаются решить эту проблему.
Было показано, что методы глубокого обучения способны превзойти традиционные методы подбора фаз. Однако в этих методах обычно отсутствует оценка неопределенности модели. Знание неопределенности фазового пикинга помогает повысить точность определения местоположения землетрясений.
В данной работе мы демонстрируем Deep Learning phase picker, который может оценить неопределенность пикировки.
Смотреть тут
Совсем недавно вышла бета версия библиотеки TorchMultimodal (ссылка), в которой авторы постарались собрать все лучшие техники и фичи обучения SoTA мультизадачных мультимодальных (М2) архитектур: • слои, обработчики для разных модальностей, лосс функции (Contrastive Loss, Codebook слои, Shifted-window Attention, Components for CLIP, Multimodal GPT, Multi Head Attention) • SoTA архитектуры (FLAVA, DETR, …) • скрипты обучения и инференса • примеры использования
Всё это позволит ставить быстрые и удобные эксперименты для обучения М2 моделей.
В довесок авторы сделали интересный пост о распределённом обучении (ссылка), где на примере модели FLAVA (мультимодальный late fusion трансформер) показали, как можно её масштабировать с 350M параметров до 10B. Рассмотрели два ключевых подхода:
1. Distributed Data Parallel - нарезка датасета по воркерам, градиенты синхронизируются ДО обновления весов, по сути вся модель «реплицируется»
2. Fully Sharded Data Parallel - параметры, градиенты и состояния оптимизатора нарезаются (шардируются) по воркерам (а-ля ZeRO-3), перед forward и backward propagation шарды объединяются.
Сравнение производительности (среднее число сэмплов в секунду за исключением первых 100 на warmup) можно оценить на графике.
github
статья про TorchMultimodal
статья про Scaling Multimodal Foundation Models
@complete_ai
ChatGPT — чатбот от OpenAI
В основе лежит GPT-3, затюненная аналогичным instructGPT способом.
Сначала люди разметили синтетические данные для обучения ранжировщика ответов, а затем его использовали как reward модель для RL алгоритма PPO.
Поболтать с ChatGPT можно уже сейчас на их сайте, она даже понимает русский язык (см картинку). Надеюсь, скоро будет больше подробностей, а сама модель будет доступна хотя бы через API.
блог, demo
Мой батя ебашит вообще адовые модели
Ну такой вот примерно рецепт усредненный, потому что вариаций масса.
Берется идея, она не обдумывается, думать - это не про моего батю.
Он берет это модель, вываливает ее на кластер и начинает обучать.
Добавляет в него огромное количество датасетов, nsfw фильтров, zero shot tasok и МОДАЛЬНОСТЕЙ!
Для сходимости, adamw сверху. Все это учиться до падения loss_а.
Потом снимается с кластеры и раздрается индусам в дискорд.
Потом батя щедро полив nsfw фильтром начинает постить в твиттер.
При постит черипики, подбирая идеальные примеры. Постить и приговаривает полушепотом ух бля. При этом у него на лбу аж пот выступает. Любезно мне иногда предлагает, но я отказываюсь. Надо ли говорить о том какой дичайший хайп потом? Вонища такая, что обои от стен отклеиваются.
кто бы знал как доставляет лосс при тюне диффузии
кстати тут все хорошо и все сошлось
Моргенштерн пел что он богатый, он стал богатым, Зеленский снимал сериал про то, что он президент, он стал президентом, я снимал про то что я финансовый преступник, я…
Читать полностью…
Kandinsky2.0
Теперь можно попробовать в HF Spaces.
Один запрос - 4 фотки. Бегом пробовать -> тык
@gradientdip
Ты либо школьник делающий sota диффузию, либо пхд не понимающий что такое linformerer. Третьго типажа у меня для вас нет.
Читать полностью…
#nlp #про_nlp #нейроквесты
Еще год назад мы с коллегами SberDevices грезили о AI Dungeon на русском языке.
С появилением генерации хорошего качества это стало более чем возможно:
🔹файнтюн ruGPT-3 Large под капотом
🔹много времени и усилий на создание датасета
🔹генерация изображений в одном пайплайне
🔹сценарный движок
— и вуаля, нейроквесты готовы!
Потестить нейроквесты можно в Салюте: в первой версии мы реализовали жанр фэнтези. Остальные жанры на подходе!
Подробнее опишем в посте на Хабре, а пока в квесты можно поиграть, сказав «Салют, запусти нейрофэнтези»
никто
абсолютно никто
hr huawei в три ночи:
бтв первая версия kandinskiy 2.0 без тюна на эстетичных сетах
вопросы почему авторы stable diffusion так активно выкладывают черепики и адски промпт инженеренные картинки опустим, они не удобные
Вышло все тоже самое в виде блога от hf 🤗
Го тыкать
Кажется в соревновании генераторов картинок побеждает мидджорней
Читать полностью…
нейронки подарили нам нейронку на sql
cпасибо seeall за контент
Чёрное зеркало - самоисполняющееся пророчество?
Читать полностью…
Я шутил про то что пойду на онлифанс, чтож
Читать полностью…
Однажды любители нейротворчества узнают что сетки не умеют генерировать топоры, но не сегодня
Читать полностью…
kinopub это лучшее что есть у человечества
Читать полностью…
Пришёл работать в математическую лабу и знакомишься с коллегами
Читать полностью…
К слову, тут заметили что основного автора Kandinskiy2 оч мало репостили и пришло оч мало подписок короче, сеня крутой подпишитесь плиз
@gradientdip
Может купим кодекс тэтики гевина бэлсона ?
У нас есть дома
Дома: кодекс этики ии
STABLE DIFFUSION 2
Короче, stabliti ai не умеют собирать коллабы ко дню релиза, поэтому это сделаю я.
Чо нового:
- собрали 768*768 чистый сет
- взяли большой CLIP
- Сделали х4 superres
- По непонятным причинам не выложили в diffusers, хотя изменения модели около минимальные (это по сути файнтюн с новым энкодером)
collab
пишите запросы, погенерю
Stable diffusion официально можно выкидывать - вышел KANDINSKY 2.0
Что внутри:
♾Быстрый unet, до двух раз быстрее stable diffusion
🌐T5small + mtclip в качестве энкодеров, действительно диффузия и технологии для всех , а не англоязычного золотого миллиарда 🐧
НОРМАЛЬНАЯ лицензия позволяющая генерить и продавать файнтюны с любым содержимым 😳
Скоро выйдут ноутбуки для finetune и dreamboth, stay tuned
🖥github
🤗 Hf
Habr
Сайт чтобы играться с inpainting и это всё