Love. Death. Transformers.

15 Mar 2023 11:46

Отдельного внимания достойна секция про реализацию архитектуры. Вогнать 32k токенов в трансформер можно супер разными способами. Мы были приятно удивлены свежей и настолько простой идее, которая позволила вычислять атеншен намного эффективнее

Love. Death. Transformers.

14 Mar 2023 22:28

Пойду куплю попкорн, весна будет интересной.

Love. Death. Transformers.

14 Mar 2023 18:59

Короче, прочла я бегло вашу эту статью

Что нового?
- Теперь на вход принимает не только текст, но еще и картинки. На выход дает текст
- Мультиязычный корпус, но существенный прирост скора показал на английском языке
- Они дофайнтюнили ее с RLHF, ChatGPT привет))

А еще они говорят о том, что поделятся техническими подробностями с обладающими экспертнотью третьими лицами, а нам остается довольствоваться лишь системной картой в конце😔

Так вот, краткая выжимка:

Авторы уделили оочень много внимания устранению галлюцинагенности и безопасности модели (дада, именно то самое у ChatGPT: "я всего лишь языковая модель и я не имею права вам советовать"). Короче, выявляли с помощью разметчиков и классификаторов на опасные темки, а дальше пытались бороться с этими опасными темами в процессе обучения. А что касается галлюцинаций, очевидно выявили самой же моделью в zero-shot classification, где врет, а дальше дополнили фактологический сет.

Вобщем вот такая обобщенная статья получилась у OpenAI, радует хоть доступ к GPT-4 владельцам ChatGPT Plus🥰

Love. Death. Transformers.

14 Mar 2023 18:29

Stable diffusion 2.1 видели? Это короче chatgpt 2.1

Love. Death. Transformers.

14 Mar 2023 02:47

Картинка от подписчика, мем для ICQ >130 или <50

Love. Death. Transformers.

13 Mar 2023 22:43

короче, несколько месяцев назад я проходил собеседование в Anthropic, на тот момент про нее как и про rlhf знали в основном никто и описывали качество словами: How rl works? Badly.


Ладно,вот список вопросов:
0) Нулевой кодинг соес закодили kmeans, поговорили как его мерять, как учить.

1) Второй собес.
Как распараллелить генерацию ответов из модели, чтобы они были разными, и как собирать ответы с воркеров и синхронизировать все это? (комбинация сисдиза и мл, ака проблема при обучении рро, тебе надо чтобы модель генерила разнообразные варинты, при этом качественные)

Была небольшая секция с вопросами:
1) Что делать, если модель плохо учится и как один out of distribution sample может все сломать.

Ответ: Зависит от сета, размера модели и параметров. Некоторые модели могут выучить сэмпл с 10 примеров, в то время как другие могут быть чувствительны к одному сэмплу.

2) как выбирать learning rate, почему используется cosine annealing и как лучше решать ту или иную генеративную задачу с какой моделью?

Love. Death. Transformers.

13 Mar 2023 16:26

Писать пост как я собесился в Anthropic?

Love. Death. Transformers.

13 Mar 2023 15:33

Покупать по акции в пятерочке: 💀
Покупать по акции на binance: 💪

Love. Death. Transformers.

12 Mar 2023 20:29

научите мужуса выпускать треки чаще раза в год пожалуйста

Love. Death. Transformers.

11 Mar 2023 21:23

Мы в better data community делаем свой хакатон, если вы сто, lead в компании или у вас есть крутая задача на data science - пишите в личку:
@alexeyderden

Love. Death. Transformers.

11 Mar 2023 14:41

Почему есть BloomZ, но нет BloomV?

Love. Death. Transformers.

11 Mar 2023 11:34

#чтивонаночь
Measuring Goodhart’s law

Закон Гудхарта гласит: "Когда мера становится целью, она перестает быть хорошей мерой".
Хотя этот закон изначально был взят из экономики, Open ai столкнулись с ним , когда решали, как оптимизировать цели, которые трудно или дорого измерить(ебучие диалоги).

Часто приходится вводить какую-то косвенную цель, которую легче или дешевле измерить, но когда мы это делаем, нам нужно быть осторожными, чтобы не оптимизировать ее слишком сильно, тк как мы можем сойтись к такой точке что метрика прокси будет хорошей, а ту которую реально оптимизируем - плохой.

Best Of N sampling
Предположим что мы решаем какую то конченную задачу, например генерацию SVG кода, и нам надо чтобы людям больше нравилось то что мы сгенерировали.

Что мы делаем?

Правильно, генерим больше и по прокси метрике выбираем лучшее!

Ну и да, с точки зрения теории информации - подход эффективный, а с точки зрения вычислений - нет.

Пост написан в рамках просвещения подписчиков которые все еще не ознакомились со всеми статьями вокруг instruct

Love. Death. Transformers.

11 Mar 2023 10:24

ура скидки на крипту

Love. Death. Transformers.

11 Mar 2023 00:02

Привет, я сконвертировал дамп Пикабу от 2020 года в более-менее удобный для обработки текстов формат: https://huggingface.co/datasets/IlyaGusev/pikabu
Описание оригинального дампа: https://pikastat.d3d.info/ (ссылки не работали, единственная живая копия была в файлообменнике).
Всего около 90 Гб данных, в основном тексты постов и полные деревья комментариев, но ссылки на картинки и видео тоже есть, а также рейтинги и теги.
Что можно с ним сделать кроме языковых моделей:
- автоматический теггер
- ранжироващик диалоговых реплик
- генеративный чит-чат
- image captioning
Надеюсь кому-нибудь кроме меня пригодится 🙂
А также напоминаю о других своих похожих датасетах:
- https://huggingface.co/datasets/IlyaGusev/habr
- https://huggingface.co/datasets/IlyaGusev/ru_stackoverflow

Love. Death. Transformers.

10 Mar 2023 23:04

#чтивонаночь
Chain of Hindsight aligns Language Models with Feedback(капитан очевидность)
1) Давайте заставим модель оценивать свои собственные генерации, типа мы заставляем одну модель оценить какой текст лучше, полнее и тд
2) на фидбеке модели делаем итерацию ppo обучения
3) PROFIT!!!
данный метод АЖ на 1.5 пункта обгоняет ванильный RLHF и на 2 sft.

моделей нет, кода нет, ничего нет

arxiv

Love. Death. Transformers.

15 Mar 2023 00:50

Ищу людей связанных с кибер ленинкой, отпишитесь в личку @alexeyderden

Love. Death. Transformers.

14 Mar 2023 19:57

Пришел второй отец из опен АИ, сказал сжечь дгх, взять фольги и пустой ноут, сейчас едем куда то за город

Love. Death. Transformers.

14 Mar 2023 18:40

Лица компаний которые копировали ресерч опен АИ представили?
Украл тут

Love. Death. Transformers.

14 Mar 2023 18:16

Все хорошо, сет объяснения мемов добавили, инфлюнсеры тоже безработные теперь

Love. Death. Transformers.

13 Mar 2023 23:38

на коллабе стали давать 80гб озу pro+ подписчикам!!

Love. Death. Transformers.

13 Mar 2023 21:20

Глубоко интимные отношения с торч молния, заебался в край...

Love. Death. Transformers.

13 Mar 2023 15:55

Девочки, закупаемся по акции на бирже 💅

Love. Death. Transformers.

13 Mar 2023 13:23

Двигаться надо так чтобы от тебя исходило Big Dick Energy, не влезает модель? Я написал свой оптимайзер, чтобы все влезало, а не это ваше: пукпук а что дееелать...

Love. Death. Transformers.

12 Mar 2023 01:21

Mid journey v5 заставляет думать что я чего то не понимаю про диффузии(да)
Украл из тви

Love. Death. Transformers.

11 Mar 2023 17:17

Короче, САМЫЕ правдивые сливы про gpt4, вас админ на острие науки

- gpt4 будет варить ваще адовые супы, обои будут отклеиваться просто при открытии блога
- Фотошоп видел? Развидь, при открытии gpt4 все картинки в интернете буду форматироваться в .gpt4 универсальный нейро SVG , типа как nerf только из одной картинке
- after effects видели? Тоже развидьте, любое видео можно будет генерировать zs в 4k мгновенно
- text2image за 1с сразу с control net, идеальная генерация лиц и пальцев
- 3d сразу в fbx с PBR пайплайном
- генерация аудио и решение tts, stt
- работаешь программистом? Сразу увольняйся и иди на курсы сварщиков, а лучше токарей. Gpt4 перепишет весь программный код и как предсказали - программисты не будут нужны.
- взламывает вибраторы, если нет вибратора взламывает телефон и с помощью рро заставляет вас засунуть ваш вопрос в меня - вопросо ответную систему разработанную опен АИ

Love. Death. Transformers.

11 Mar 2023 11:44

вообще RL мало докидывает объективных метрик, см оригинальную статью openai, за наводку спасибо @nadlskom

Love. Death. Transformers.

11 Mar 2023 10:24

Сезонные акции на доллары

Love. Death. Transformers.

11 Mar 2023 00:46

ставим лайки на хф русскому опенсурсу!!!

Love. Death. Transformers.

10 Mar 2023 23:18

мемная картинка для троллинга сведетелей рро(я почти уверен что лажа в статье)

Love. Death. Transformers.

10 Mar 2023 20:18

Высаживаются первые земляне на Марс. Исследователь смотрит на анализатор воздуха и радостно говорит:
- Тут полно кислорода, вполне хватит для дыхания и горения! Ну-ка!...
Достаёт коробок спичек, вынимает спичку, собирается чиркнуть, и тут из-за валуна выскакивает синий пучеглазый марсианин и кричит: "Неет!"
Космонавт в испуге отбрасывает спичку, абориген скрывается.
- Осторожно! - говорит капитан исследователю. - Может, в атмосфере есть горючие газы?
Исследователь проверяет анализатор.
— Ничего нет, я все же попробую, — говорит он и опять достаёт спичку.
Из-за валунов выскакивает толпа марсиан во главе с вождём, который один одет в длинное белое одеяния, и хором кричат "Нееет!", размахивая руками.
— Может, почва здесь состоит из горючих материалов и они боятся пожара? — говорит капитан.
— Здесь та же самая почва, что была в месте посадки, — возражает исследователь. — Не загорелась же она от двигателей. Он решительно чиркает спичкой. Та горит. Ничего не происходит.
Марсиане поворачиваются и уходят.
— Постойте! — кричит вслед капитан, — а почему нельзя было зажигать спичку?
Вождь, обернувшись, говорит с укоризной:
— Так ведь шаббат, идиоты!