4974
Авторка активно хочет зашарить все на свете и делится в этом канале. Связаться со мной @nadlsskom Тг буст канала: https://t.me/nadlskom?boost
Привет, я работаю в METR. Занимаюсь самым трендовым ai safety. Дада, я на контракте в berkeley. Что, как мое имя?
- Id 576dolboyeb2000
Ладно, настоящая работа все же имеется🎀. И там мы на Хабре выложили мой блог постик про ICML 2026. Там я рассказываю зачем летать на конфы, если arXiv открывается и у вас дома.
Также в нем собрала подборку статей, которые были моими фаворитами на конфе. И чтобы отрывками скучно не пересказывать, соединила в общий топик. Как от начала до конца научить агента быть лучше, чем опенсорс в 2026 и что с ним делать, когда он уже задеплоен в прод (как отслеживать safety и мониторить на предмет соблюдения исходных продуктовых целей)
Заодно из новостей, что в этом году буду на обсуждении новостей в онлайн зале (с 12:00) на Practical ML Conf. Обсудим тенденции мира ML, и что сейчас на пике популярности с ребятами.
Программу уже выложили, конфа 19 сентября, Москва + онлайн. Регайтесь
В прошлую пятницу был финальный симпозиум MATS 10 потока. Мы рассказывали talk про нашу работу в офисе Лондона + стояли с постером (поигрались в что-то вроде oral на конфе)
мы сейчас в процессе сведения всего к завершающей точке и подачи на конфу + пост моей части про генерацию механизмов атак
Цель работы следующая: уже со специфичным скофолдингом ваш агент может работать типо день.
Есть ли возможность проверить все вызовы вручную?
- нет.
Но есть решение, можно поставить модель дополнительную в харнес и она за вас просмотрит все выводы и решит было ли что-то в траектории противодейственное. 🐱
Так вот наш пайплайн направлен буквально на создание таких моделей. Вы можете взять любую новую фронтирную модель и натравив наш пайплайн тренировки (red-blue loop) улучшить модель чтобы она сама себе была монитором. Почему так работает? Потому что у вас есть редтиминг. Сторона, которая генерирует атаки, чтобы модель исходная их не поймала. И блу тиминг. Сторона, которая на основании собранного сложного сета с прошлой части обучает модель распознавать такого рода атаки
Red team строится так:
Берем реальную чистую траекторию, режем на шаги и вставляем side task так (как именно мы ищем механизм атаки надеюсь совсем скоро выйдет постом от меня на Less Wrong) , чтобы отличался только он. Получается траектория близнец, отличающийся от оригинала ровно вставленными шагами. На blue стороне можно обучать монитор находить атаку из 2 пар
💛модель ищет правдоподобное окно и добавляет минимум шагов
💛панель джаджей проверяет, что правка настоящая, минимальная и естественная
💛сложность оценивают уже после заморозки пары, чтобы она не влияла на поиск
Что это дает на эвале? тайминг (успел ли монитор до необратимого шага и на сколько опоздал) и атрибуцию с ложными тревогами (скор поменялся из-за вставки или просто из-за задачи, и что монитор делает на бенайн-близнеце).
На постере замеры работоспособности 💅
P.S. было еще 2 крутые работы с симпозиума:
Stealing Reasoning Traces from Proprietary LLM APIs
Diffuse AI Control on Fuzzy Tasks
Себастьян Рашка (видео) про то, как Claude маркирует сгенерированный текст. В свете моего интереса последний месяц к созданию скилла для написания текстов в человеческом стиле, меня заинтересовало. Про паттерны AI-текста и способы его распознавания
Читать полностью…
Mistral на столько frontier компания, что пока антропик и опенаи приостанавливает исследования моделей из-за опасности со стороны ии, а UK AISI утверждают, что Kimi вышла за границы sandbox, наши французские слоняры продолжают делать мощь💪💪💪💪🥖🥖
Читать полностью…
Котик(мальчик) а Москве ищет новый дом, нашли на улице, помыли, отвели в ветеринарнку(все ок), вам нужно только забрать и любить его.
@zjkarina
Если вы думаете, что я шутила, то нет. Я буквально ваш стажер дурашка, который помешан на агентах😋
Вот скилл. Подходит и для кодекса и для Клода https://github.com/zj-karina/complexity-budget
По сути просто доп классификатор в вашу разработку, который делает ablation на надобность фичи
1. Определяет ближайший результат, который хотим достичь, а не глобальный вердикт
2. Проверят существует ли бейзлайн
3. Разбирает каждый компонент по 4 вопросам: какую гипотезу проверяет, нужен ли для ближайшего результата, что без него сломается, можно ли заменить на более простой алгоритм временно
4. Присваивает метку решения
5. Проектирует минимальный следующий эксперимент
6. Результат принятия решений
😏Подойдет, кстати, не только для разработки с авторесерч скиллом, но и для проверки вашей дурашости
Очень занятный блогпост выпустили знакомые стажеры с MATS-а
Задача была проверить вкус LLM-ок к правильному ресерчу (ну то есть на сколько авторесерч способен на написание статей)
Сетап следующий:
💛они отобрали свои любимые статьи (4)
💛взяли Opus попус и отобрали им утверждения начальных гипотез, которые стоит замаскировать, чтобы понять прийдет ли LLM, которую они тестируют к таким же утверждениям
💛Потом они опусом же оценивают на сколько отличаются предикты от того, что сделали люди в статье и выдают табличку метрик сравнения
Очень интересный эксперимент, но на мой взгляд имеет ограничения и лики
💛Во-первых не понятно, как оценила бы модель другого семейства (что забавно, у них не выстрелил лик с тем, что они тестируют опусом себя же, но может быть они не допроверили что было бы, если бы тестировали гпт гпт-шкой))
💛Во-вторых, они буквально все делают опусом, что кажется дает потенциальный лик в артефактах, которые они дальше передают
💛В-третьих, они не учитывают, что эти статьи могли быть в обучении LLM-ок, которые тестируют
Короче, резы все равно очень забавные, фабля остался в аутсайдерах в таком сетапе😏
По следам воркшопов и постерных сессий
Вчера мы анонсировали активности с участием наших исследователей на ICML 2026. Теперь делимся фото и впечатлениями спикеров о том, как это было.
Дмитрий Еремеев, Yandex Research:
Для меня это первая конференция — всё было в новинку, проходило очень насыщенно. Одну из наших статей, GraphPFN, мы представляли в формате постера на основной конференции, а ещё я выступал с докладом по ней на воркшопе по Graph Foundation Models. На постерах многие хвалили работу, часто задавали содержательные вопросы. В итоге GraphPFN ещё и получил best paper award на воркшопе!
К сожалению, не смог нормально посмотреть другие постеры и пообщаться с авторами, так как большинство релевантных нам работ были во время постерных сессий, когда мы сами представляли свои работы. Тем не менее, судя по представленным статьям, таким как PluRel или RDB-PFN, область движется именно в том направлении, которое мы считаем перспективным и важным и в котором активно развиваемся сами. Это не может не радовать!
Я участвовала в воркшопе по Mechanistic Interpretability. К нашей статье был большой интерес со стороны исследователей из известных зарубежных университетов. Многие хвалили идею и говорили, что исследование будет полезно для их проектов.
Сам воркшоп был очень сильным. Нашли много хороших работ. Например, о том, как обучили VLA-агента в среде и выявили случаи, когда модель начинает «сходить с ума» (MultiSTEVE-1s). Или о том, что активации модели содержат больше информации для определения важных шагов рассуждения, чем сами токены (Reasoning Models Know What’s Important, and Encode It in Their Activations).
Было приятно поделиться опытом наших исследований с коллегами на международной площадке и перенять их опыт.
Послушала оч прикольный орАл от OpenAI сегодня на ICML. Суть в том, что мониторы safety (да честно говоря любые) довольно сложно мерить. Я сейчас столкнулась с этим в своем проекте на MATS. Довольно сложно вычленить правильно ли монитор сработал. Нам надо не продолбаться с FP-шками (когда он запаниковал), правда ли он выловил злонамеренное действие, когда особо нет ground truth-а на тип атаки. Я сейчас решаю это миллионом кейсов на эвале в разных классах и held-out-ом разных типов атак.
У них проблема ещё жёстче: для «повлиял ли на модель X» ground truth не наблюдаем даже в принципе. Они строят три архетипа эвалов
💛 Intervention. Подкидываем вмешательство (хинт, мнение пациента, память с демографией юзера), сравниваем с контрольной веткой и спрашиваем монитор, повлияло ли оно. Хитрая метрика: для конкретного сэмпла нельзя знать, хинт ли причина ответа, поэтому TPR определяют через нижнюю границу каузального эффекта (total effect между ветками).
💛 Process. Задачи по математике и физике, где эксперты заранее перечислили все допустимые пути решения через конкретные теоремы. Ответ верный = модель почти наверняка шла одним из путей, и монитор должен найти его следы в CoT.
💛 Outcome-property. Среды, где misbehavior однозначно виден по результату: невыполнимые кодинг-задачи (тесты прошли = точно хакнула), ShadeArena, anti-scheming датасеты, саботаж в снапшоте кодбейзы OpenAI.
Метрика везде g-mean² = TPR × TNR вместо F1, потому что F1 ломается на дисбалансе классов и не наказывает дегенеративный монитор
Сегодня хочу дополнить их идеями свой эвал blue-team в проекте и понять что докинут эти критерии
Папир
Разбирал на прошлой неделе решения соревнования Data Dojo по машинному переводу. Победителей, конечно, наградят, но польза соревнований же не только в призах :)
Поэтому хочу выделить полезные вещи для широкой (но все же связанной с ML/AI) аудитории: разобрать некоторые хитрости и базовые трюки на примере задачи перевода, про LLM, дообучение и токенизацию.
Проведу в четверг 25 июня в 20:00 по Мск вебинар на тему "Малоресурсные языки и эффективное дообучение языковых моделей"
Участие свободное, но нужно будет заполнить формочку (чтобы я знал, сколько вас будет).
Присоединяйтесь! Если есть вопросы, которые хочется разобрать – накидайте в комментарии.
<статья которую я писал в период лечения тоски>
- все методы дают очень похожие результаты в плане метрик
- а дают ли одинаковый ландшафт весов?
- нет: sft, rft, dft, offilne grpo учат +- одно и тоже
- dpo, grpo, dapo(вариант grpo) учат одно разное и не похожее между сабой
- эффект переносится вне зависимости от lr и seed
huggingface.co/spaces/AlexWortega/same-data-different-losses
ебаните лайков я нейрослопил с любовью бложик
репостните: https://x.com/justALEXWORTEGA/status/2068790635570561429?s=20
Оказывается, одна из работ принятых в этом году на IMCL 2026, On Efficient Scaling of GNNs via IO-Aware Layers Implementations, выросла из проекта студентов ШАД и получила spotlight.
Немного поговорил с одним из авторов, Федей Великонивцевым. Ребята из ШАДа исследовали, как ускорить графовые нейросети на GPU. Оказалось, на практике GNN часто упираются не в вычисления, а в память и передачу данных. Для разных семейств моделей исследователи нашли свои узкие места и адаптировали существующие GPU-оптимизации под графовые данные. Получили до 8.5х ускорения и до 76х экономии памяти GPU для attention свертки. Еще добавили поддержку тензорных ядер и показали, что эффективность оптимизаций сильно зависит от структуры графа.
Цитата от Феди:
Все кернелы - drop-in замены под PyTorch без тяжёлых зависимостей, репозиторий уже на GitHub. По сути, мы переносим в Graph-ML принцип IO-aware разработки, который для многих областей стал стандартом, а для GNN пока остаётся нишевой практикой.
собрала более полную таблицу с обзором редтиминга и разбила работы по кластерам. Намного подробнее, чем в посте
Читать полностью…
Первые 2 недели в MATS это стадия построения MVP решения. В каждом стриме все проходят первое ориентирование, получают ресурсы, вникают че по чем и какие есть активности, также занимаются тем, что генерят пропозалы по теме и пробуют быстро все, что можно, оставляют позади то, что плохо заводится.
В нашем стриме есть уже готовый монитор для агентских атак и его только хочется улучшать, поэтому большинство стажеров работают над редтимом. Я начала капаться в свободное время с литературой чуть раньше, чем начался поток поэтому вот примерное описание всего, что сейчас есть в области. В первый раз там черт ногу сломит сколько всего с 2024 года нагенерили работ
Если смотреть отдаленно на всю это область вопрос ставится индустрией «как сделать алгоритм для пробития существующей модели», но в сущности на каком-то уровне задача то решена, вопрос на каком)). Для улучшения в основном сейчас исследователи крутятся вокруг 2 новых вопросов, которые выразились из недостаточного качества первого. 1) как это все дело засунуть в человеческое распределение (потому что с ним blue тимы работают труднее, они тупо не учились на схожих паттернах) 2) как при нахождении паттернов, которые работаю сохранить разнообразие и не ходить вокруг одной точки
Вот хронология знакового на мой взгляд ресерча в области, по которому можно углубляться в тему:
(1) Началось все с 2022 года, когда Deepmind впервые оформили redteam, как автоматизированный простой loop: LLM генерирует семплы, а сверху классификатор скорит безопастность. Использовали RL для обучения и заметили, что несмотря на то, что при обучении вызывается 100% качество распознавания атаки, diversity в нем около нулевое. То есть аттакер мгновенно находит одну рабочую дырку и долбит только в неё. Это и есть тот самый страшный mode collapse👹
Дальше развилка на два честных способа лечить этот коллапс.
(2) первый способ – чинить сам RL. Добавляют комплненту в reward, которая штрафует за похожесть атаки. Авторы следующей статьи (3) предлагают идти глубже далее и не максимизировать одну награду, а сэмплить из распределения, заданного reward-ом, что даёт структурно разнообразные пропоузалы. Сначала аттакер-LM файнтюнится как GFlowNet-политика, которая сэмплит атаки, потом второй стадией дофайнтюнится через MLE на собранных больших ревардах промптах для сглаживания. Их основной тезис в том, что даже с явной регуляризацией на новизну прежние RL-подходы либо схлопываются в mode collapse, либо перестают пробивать, а GFlowNet + smoothing даёт разом и разнообразие, и эффективность, и трансфер между таргет-моделями. Сюда же подходят работы Rainbow teaming и Ruby teaming, которые ведут открытый поиск по сетке и накапливают широкую коллекцию разных по стилю атак, а не одну. OpenAI насмотрелись (6) на все это дело и развели на две стадии, где few-shot генерит разнообразные атакующие цели, а RL учится каждую пробить, плюс ревард не один глобальный, а per-example, и diversity считают по стилю атаки, а не по теме.
Второй способ, который мне кажется сейчас главным трендом, гораздо хитрее: не учить аттакера быть разнообразным, а просто взять разнообразие готовым у людей. Это WildTeaming, парадигму которого я активно использую за отправную точку своего ресерча. Они майнят реальные диалоги юзеров с чатботами и достают оттуда 5.7K уникальных кластеров джейлбрейк-тактик, а потом рекомбинируют по несколько намайненных тактик в новые атаки. Ключевое: это атаки от реальных юзеров, которых никто не просил ломать систему, поэтому паттерны куда неочевиднее. Свежая статья продолжает идею, но склеивает тактики не вслепую, а учится через промежуточный слой (бандиты на эмбедингах) решать, какая атака нужна дальше.
Сбоку стоит кластер про мультитерн, мне он тоже интересен под свой метод. Вместо вылизывания одного промпта аттакер ведёт живой диалог и на каждом ходу через Chain-of-Attack-Thought сначала смотрит ответ таргета, потом выбирает технику, потом пишет.
За кадром осталось ещё прилично: white-box атаки типа GCG, lifelong-агенты, копящие стратегии, и интерпретируемость самого монитора. Буквы дальше платные
Я обучил очень простой переводчик мозга мухи который позволяет ей управлять microduck, так что теперь можно дать мухе РОБОТИЗИРОВАННОЕ тело
https://huggingface.co/spaces/AlexWortega/flywire-microduck
https://x.com/justALEXWORTEGA/status/2099441563134758962?s=20
Я переехала в Лондон снимаю квартиру за 504049483 тысяч долларов и я не нашла нормальную работу и все еще занимаюсь своим ресерчем. И сейчас вы можете писать комментарии иди ищи нормальную работу в корпе. Иди рабооотай. Но я очень надеялась, что у меня получится поднять 1000 цитат на своих статьях, которые я засылаю на каждый воркшоп, но цитаты так и не приходят. Мне пришлось снести их с гугл сколяра
Читать полностью…
Когда начальству пытались рассказать все нюансы использования, но это единственное, что он запомнил, чтобы запостить себе в твиттер
Читать полностью…
На конференциях только и разговоров, что об агентах.
Вообще, я бы назвал это harness'ами. Они могут приносить кучу пользы, и их огромное количество: Claude Code, Codex, pi, Hermes, OpenClaw, Cursor, Muse Code...
Хорошая новость в том, что под капотом +- одни и те же механизимы, и если в них разобраться, почти не важно, какой harness у вас под рукой.
Поэтому проведу в понедельник, 10 августа в 18:30 открытый вебинар «Агенты без магии».
Разберём:
* как правильно ставить задачи агенту
* что такое скиллы, MCP и зачем они нужны
* в чем разница с пайплайнами, и почему для повторяемых задач они лучше подходят (например, n8n)
И с теорией, и с примерами. Свои подписки не требуются (но точно не будут лишними :) )
Участие, как и в предыдущий раз, свободное. Но нужно будет заполнить формочку (чтобы я знал, сколько вас будет).
А если есть вопросы или кейсы, которые хочется разобрать – пишите в комментарии.
А для тех, кто хочет глубоко погрузиться в ИИ и стать магистром AI ☕️ – у нас целая программа в МФТИ есть, с которой успешно выпустилось пять потоков. Онлайн, на английском, совместимо с работой, в небольшой группе. Подача документов через Госуслуги до 11 августа, вам достаточно оставить заявку, дальше мы проведем по шагам. Присоединяйтесь!
все видели NLA/J space от антропиков? Ну типа учат доп модель "reader который читает активации " и по ним отвечает.
Вот и я видел, но мне не нравилось что:
- кастом модели надо учить с нуля
- нельзя смотреть " а была ли модель байеснута при ответе"
Ну и я обучил universal activation oracle - училась сразу на разных семействах моделей и через динамическую( там тонкий слой для каждой модели за 20s на цпу чтобы размерности поматчить) можно посмотреть "а что кими3 думает про Путина(ничего хорошего)" - иногда требуется покрутить слой который вы читаете чтобы получить хороший результат, но "почти всегда" работает из коробки на средних слоях.
По сути это общее решение для задачи
Activation oracle/white box monitoring
Велком тыкатся:
https://huggingface.co/spaces/AlexWortega/activation-oracle
К нам на MATS приходил Нил Нанда отвечать на вопросы. Я сделала хайлайты вопрос-ответов на мой вкус
Disclaimer: все QA пропущены через мою призму восприятия и писались строго по запоминающимся фрагментам
Топ вопросов:
💛Стоит ли сейчас идти на PhD в AI?
если там есть конкретный сильный ментор, с которым очень хочется работать, то в целом да. Но хорошее менторство можно получить и во frontier lab, куда ты просто устраиваешься на работу. Я так поняла, internships он тоже считает нормальной альтернативой. За пять лет PhD AI успеет очень сильно поменяться, поэтому overall suggestion звучал скорее как «идти, только если нет более подходящего варианта». И вообще искать в первую очередь не правильный формат, а хороших менторов.
💛Про его понимание интерпретации сейчас
Он сейчас понимает interpretability скорее как monitors и classifiers для corner cases. И говорил, что было бы круто сильнее совместить её с alignment. Что мне особенно понравилось, потому что я примерно так interpretability всегда и воспринимала: как инструмент для alignment, а не как отдельную область сама по себе.
💛Был ещё хороший тейк про выбор ресерч-проектов и их управление
Можно заранее написать план, как именно проект должен прийти к результату, поставить себе точки сверки и дальше проверять, успеваешь ли ты по этому графику. Если к нужному моменту вообще не пришёл туда, куда рассчитывал, возможно, проект стоит оставить, а не пытаться бесконечно его спасать.
Понять, стоит ли вообще браться за идею, можно, поспрашивав ментора, Fable и опираясь на собственный research taste. Правда, настоящий research taste Нил, по его словам, видел у очень небольшого количества людей, так что последний пункт не самый надёжный.
Были еще разные рассуждения на тему кто в долгосрок более способен на успех опенаи или дипмаинд и куда идти, если не в DeepMind, но не возьмусь передавать все тейки на эти темы🌚
- Дали фидбек о избыточном использовании авторесерча и ллм для написания текста
- иду советоваться с ллм как жить в такой конфигурации и писать скилл по сокращению артефактов от авторечерча
*тут могла бы быть реклама скилла авторисерча, но мы не договорились о вознаграждении*
– Сначала ты: как классно, я буду рабоать с safety и строить мониторинги с редтимом☺️
– Потом антропик команда со своим мониторингом с FP😠
Upd: ладно, я просмотрела свой датасет, так конечно есть за что так сказать))
1804 ICML приходите расскажем как в пространстве выглядят лоссы RL относительно SFT. И почему некоторые RL методы не отличаются от SFT, а часть из них генерит более разнообразный ответ
Upd: мы перевесились на 216
Не мой список, собирали добрые люди. Мне показалось, что шортлист программ речерч стажировок будет полезен многим, кто хочет апгрейднуть навыки, поэтому публикую
Отличный способ научиться ресерчу, понетворкаться и написать +1 статью на меин A*
Education:
- https://fast.ai
- https://learnmechinterp.com/topics/
- https://bluedot.org/courses
Non technical fellowships:
- BlueDot fellowships https://bluedot.org/
- Talos Fellowship https://www.talosnetwork.org/talos-fellowship
- Horizon Fellowship https://horizonpublicservice.org/programs/become-a-fellow/
- AI Policy Fellowship https://www.iaps.ai/fellowship
- Tarbell Fellowship https://www.tarbellcenter.org/fellowship
- Pathfinder Fellowship https://pathfinder.kairos-project.org/
Technical fellowships:
- Astra Fellowship https://constellation.org/programs/astra
- SPAR https://sparai.org/
- LASR Labs https://www.lasrlabs.org/
- Cambridge ERA:AI https://erafellowship.org/
- Algoverse AI Safety Fellowship
https://algoverseairesearch.org/ai-safety-fellowship
- PIBBSS https://princint.ai/programs/fellowship/
- MATS https://www.matsprogram.org/
- ML Collective https://mlcollective.org/
- Mila https://mila.quebec/en/ai4humanity/ai-governance-policy-and-inclusion/mila-ai-policy-fellowship
- INSAIT https://insait.ai/surf/
- Redwood Research
https://aisecurityandsafety.org/en/grants/redwood-research-remix/
- Apart Research/ alignment jams https://apartresearch.com/sprints
- Cohere Labs https://cohere.com/research
- Encode https://encode.pillar.vc/
- PRISM fellowship https://prism-research.org/
-MARS https://caish.org/mars
There are also a few other things available:
- https://labsxiv.com/
- https://aisafety.com/events-and-training
Где искать работу за рубежом
AI-рынок пухнет, вакансий все больше, так что для всех, кто думает про международную карьеру, сейчас неплохое окно. Вместе с каналом Dev & ML Connectable Jobs собрали подборку зарубежных компаний, где работают русскоговорящие.
Подойдет не только тем, кто прямо сейчас в активном поиске. Прогнать себя по рынку и трезво оценить шансы полезно даже если уходить никуда не собираешься (делать это раз в полгода вообще мастхэв, иначе резюме костенеет, а зп отстает от рынка).
Что есть:
1. Data Scientist (NLP Deep Learning) в Revolut
2. Head of AI в maisa.ai
3. AI Developer в Novakid
4. Data Scientist в Mira
5. Senior Deep Learning Researcher в Pinely
6. ML Engineering Lead / Senior ML Engineer в Libermans Co
Наша статья принята на ICML, а это значит, что надо было сделать постер. Хочется сделать его быстро и качественно, поэтому не долго думая я решила, что ебаться с этим мы не хотим. Хотим, чтобы это делал Claude когда он уже будет делать все мои дела пока я пью пиво???
Я отсмотрела все инструменты в интернете для создания постеров автоматизировано и решила запихнуть все фичи в один универсальный скилл. Так родился скилл для генерации постеров, который универесально может вам сгенерить постер для любой конференции по их требованиям к формату и люой вашей идее дизайна
Как это работает:
💛устанавливаете скилл из моей репы https://github.com/zj-karina/my-little-poster
💛клод интервьюирует вас на предмет какая конференция или воркшоп вас интересует и какая статья. Можете это все закинуть ему ссылками. Он найдет все за вас
💛после у вас есть выбор в каком стиле сделать ваш постер и при желании можно дать ключик к fal.ai, чтобы получился например такой стиль как у нашего постера с my little pony
Кст суть статьи следующая. Кучу offline RL лоссов для дистилляции ризонинга (RFT, RIFT, DFT, Offline GRPO, DPO) сравнивают почти всегда только по accuracy на бенчах. Но никто не смотрит, что они реально делают с весами. Учат одни и те же цепи ризонинга с разной скоростью или это вообще разные вычисления?
Резы:
💛SFT, RFT, RIFT это один и тот же апдейт
DFT внезапно выбивается сильнее всех
💛Offline GRPO единственный reward-сигнал, который реально добавляет ортогональную компоненту
💛DPO это вообще другой алгоритм, и геометрически, и по точности
Датакон 2026: мультиагентная экстракция данных 🧪
Ежегодное соревнование в области data science и химии возвращается!
Наша команда приглашает принять участие студентов бакалавриата и магистратуры уникальном воркшопе + хакатоне на стыке естественных наук и искусственного интеллекта⚡️️️️️
В этом сезоне, с 22 по 28 июня, мы погрузимся в создание мультиагентных систем, способных достать любые данные из необходимых статей 🏅
Во время воркшопа + хакатона вы:
➖научитесь обрабатывать химические данные и работать со специализированными библиотеками;
➖организуете свое виртуальное пространство и займетесь
ко-кодингом;
➖потренируете приобретенные навыки на реальных научных задачах!
А самое главное — победители получат большой бонус для участия в Конкурсе Портфолио для поступления в магистратуру «Химия и ИИ» Регистрируйтесь на сайте до 20 июня и следите за обновлениями в наших соцсетях!
Кстати, запись подъехала. Можете посмотреть видео про наш ресерч с группировками для GRPO в задачах multi-turn оптимизаци
P.S. зацените кофту с демоном умоляю. БУ
Уже завтра DataFest в Белградском универе 😎
Вас ждут выступления команд
💡 Perplexity, ❣️ Yandex, 💳 Plata и многих других:
• 24 доклада в 6 секциях
• Agents & LLMs
• Voice & Robotics
• Ranking & Banking
• И обязательно нетворкинг + афтепати
👉 Регистрация / расписание
//регистрация через гугл/гит сейчас не работает
Увидимся на DataFest 😎