Запрети мне псевдолейблить

09 October 2026 11:40

Премию 2026 года получил Фрэнсис Хальцен — за ключевую роль в создании обсерватории IceCube и открытии нейтрино высоких энергий из космоса.

Нажился на кагглерах, получается

Третье соревнований (второе, которое решал), о котором я вообще писал на этом канале

Запрети мне псевдолейблить

05 October 2026 18:05

Следите за руками:
1. 30 сентября кончается ферма
2. Организаторы меняют версию энва (без балансных правок)
3. Некоторые боты превращаются в тыкву которую не продашь на рынке ехеххе

У нас есть официальный ответ организаторов:

The latest change to the env was a version bump only with no associated code changes. The only change is that your agents will how see kaggle-environments package version as 1.33.0 instead of 1.32.7.

Запрети мне псевдолейблить

01 October 2026 10:57

Без помпы, но кагл рехостнул покемонов. Правила те же: собираем колоду, учим агента играть ей и побеждать другие неизвестные колоды.

Медали не дают, призы- кагл мерч. Я его получал, он выглядит бледно, но очаротвательно (на фото). Я бы сделал мерч, честно говоря, лучшего качества на их месте. Люди тратят на его получение огромные усилия

Из изменений- агенты теперь играют не bo1, а bo3.

Запрети мне псевдолейблить

29 September 2026 17:47

Количество золотых медалей на Kaggle соревновании выглядит примерно так.

Можно сказать, что этой функции много явных неэффективностей для соревнований меньше ста человек. Проблемы на самом деле нет: правило ввели в 2016 году и с тех пор соревнования на менее чем 100 человек можно по пальцам пересчитать.
Изменения правил было явно частью подготовки платформы перед продажей ее Google в 2017.

Более того, с тех пор как Kaggle повернулся лицом к кодинг агентам, количество участников стабильно находится за границей в 2к в любом соревновании и продолжит расти.

Из этого конечно можно сделать вывод, что фармить золото стало сложнее, но не все так просто:
Количество усилий, которое прикладывает в среднем каждый засабмитивший явно снизилось. Теперь можно в два промта залить свое решение (неопределенного качества) на лб, а не качать датасет и сабмитить бейзлайн.

Субъективно, попасть в серебро теперь- вообще плевое дело, хотя раньше надо было потеть. Возможно, правда, я просто чему-то научился, пока вел этот канал.

От числа участников асимптотика такая:
Top 0.2% 🥇
Top 5% 🥈
Top 10% 🥉

Так что, стало золото фармить легче?

Запрети мне псевдолейблить

28 September 2026 17:17

Моего тиммейта по Rogii забанили на каггле


Он участвовал в проекте CayleyPy и развивал математику как Open Source на бесплатных ресурсах. К счастью, его канал остался на плаву и там можно почитать на тему 'как работается в Meta London': @datastorieslanguages

RIP Artgor. Я/Мы Андрей Лукьяненко

Такое регулярно бывает. Кагловская система защиты не совершенна и уже проходилась катком и по мне:
/channel/pseudolabeling/383

Запрети мне псевдолейблить

23 September 2026 21:11

Тем временем, алаймент вышел из под контроля

Запрети мне псевдолейблить

21 September 2026 11:17

Еще раз. Есть ОДНО КОМАНДНОЕ ЗОЛОТО в кармане с прошлых соревнований
Одна золотая медаль в профиле, других золотых нет

Запрети мне псевдолейблить

15 September 2026 09:02

я 10 с лишним лет занимался интерпретациями масс-спеков, дожил до соревы на каггле 😍 хоть где-то не надо долго вникать в доменную область https://www.kaggle.com/competitions/enveda-CASMI26-molecule-id-mass-spectra

Запрети мне псевдолейблить

09 September 2026 19:14

Тем временем в ферме участвует уже 8400 кагглеров. Во истину агенты дали соревнованиям новую жизнь

Запрети мне псевдолейблить

03 September 2026 19:10

Нам пообещали починить Rl соревы на каггле!

Кагл стафф пообещал починить будущие RL соревнования: будут прогонять модель Бредли-Терри после периода 'охлаждения' лб. Это ответ на огромную дисперсию и шатание рейтинга в покемонах. Сейчас используют вариацию на тему Glicko score и уже многие заметили ее нестабильность.

Хочу вставить свои 5 копеек и повыпендриваться своими двумя мастерами в статах объяснить, почему это плохой фикс для Pokemon и даже Orbit Wars

Для начала вспомним, что за Бредли Терри. Подробные выкладки можно почитать тут, а я попробую объяснить на пальцах. Изначально модель придумал Эрнст Цермело для оценки силы игроков в шахматных турнирах. Сам Эрнст известен тем, что отказался приветствовать фюрера перед каждой парой в университете Фрайбурга и ушел с места почетного профессора. А еще придумал аксиому выбора. Потом модель вновь переоткрыли, как это водится, через 20 лет.

Базовая идея модели: хотим по стохастическим парным сравнениям определить ранкинг каких-то предметов. Например выяснить, не только то, кто самый крутой шахматист, а кто второй по силе, третий и тд. У нас есть статистика матчей и нам не слишком важно, чтобы каждый сыграл с каждым. Но нам очень важно, чтобы граф связей (игр/сравнений) был связный. Т.е. шагая от шахматиста к шахматисту по связям (матчам с известным исходом) мы всегда могли достичь любого шахматиста лиги.

Хотим из нашего графа побед/поражений (частично заполненного, но связного) вывести такие theta_i, theta_j, что

P(i победит j) = sigma(theta_i - theta_j).

С точки зрения моделей мы банально учим логрег на одной фиче: разнице one hot энкодингов игроков. Пусть у нас три игрока и мы их кодируем:
A. (1, 0, 0)
B. (0, 1, 0)
C. (0, 0, 1)

Тогда один матч, где A играл с C и выиграл у нас будет представлен так:
Фичи: (1, 0, -1) = (1, 0, 0) - (0, 0, 1) = A - C
Таргет: (1) (A победил)
Учим мы соответственно theta_i. Они собой и представляют 'силу' каждого участника.

Статистические предположения для такой модели следующие:
1. Попарные сравнения независимые (игра каждый раз начинается с начала игры и игры независимые)
2. Латентные качества не меняются (боты не становятся сильнее/слабее между играми)
3. Вероятность победы в паре определяется разностью сил
4. Нет никаких matchup эффектов

Сама модель потом развилась в ELO и Glicko скоры как онлайн-вариант подсчета. И именно последняя используется сейчас на каггле. Если почитаете первую ссылку, то там еще и связь с PageRank можно найти. И даже скоры силы в баскетболе тоже развитие этих идей.

Так вот, почему идея использовать Бредли-Терри для каггла довольно странная: последние RL соревнования нарушают один из асампшенов модели.
Для покемонов нарушаются два последних: у колод есть матчап эффекты и игроки заранее не равны. Т.е. сила определяется и колодой, и пилотирующим алгоритмом. А колоды работают по принципу камень-ножницы-бумага, которые по дизайну не могут быть отражены в модели.
Более того, модель еще и не поддерживает случай игры вчетвером, поэтому починить дисперсию игр в Orbit тоже не выйдет. Придется использовать какое-нибудь расширение в стиле Плакетта-Люса.

Единственный плюс: где первый фикс метрики, там и выбор разных алгоритмов формирования лб для разных соревнований. Логично силу агентов сравнивать разными способами для разных игр. А то представьте, что мы бы все челленджи по классификации меряли только с помощью Roc-Auc.

Запрети мне псевдолейблить

01 September 2026 19:39

А вы на вебинары по нетворкингу в универе не ходите

Запрети мне псевдолейблить

21 August 2026 13:39

Нестеров получил премию Гаусса

Все, кто учился DL по слайдам постсоветской матшколы знают про Nesterov Accelerated Gradient. Статья вышла еще в 1983 году, но оценить ее реальный вклад можно только в последние лет 10-15. Производные от него методы оптимизации, к сожалению, не стали железным стандартом в индустрии, но довольно популярны у знающих людей

Так вот, за свой вклад в математику Юрий Нестеров получил премию Гаусса, с чем я его горячо поздравляю. Это буквально нобелевская премия, но для математиков и высшая форма признания вклада в науку.

О том, как работает метод оптимизации и в чем идея, лучше посмотреть вот в этом посте, а я хотел бы примерно рассказать, как так вышло, что метод с лучшей теоретической оценкой не стал стандартом.

Мои три подписчика с ММП скажут, что у Adan/NAdam не нормируют градиенты и из-за этого менее устойчивы к правильному LR -> хуже проскакивают турбулентные участки гиперповерхности лосса. Кстати, возмущенные неточностью подписчики с ммп ставьте обезьяну, узнаем сколько вас.

Но фатальным ударом для этих методов был таймлайн.
Статья про Nadam появилась в 2016, и в этот момент Attention is all you need (Aiayn) уже находилась в процессе написания, так что в ней использовали проверенный Adam как оптимизатор. После этого многие побежали воспроизводить результаты у себя и следовали рецепту, описанному в статье. У нас есть десятки тысяч статей, которые развивают идеи Aiayn и большая часть использует именно Adam. А значит у ресерчеров больше наблюдений для Adam и его имплементации более оптимизированы под современное железо.

По практике скажу, что Nesterov momentum мне буста в качестве давал ровно ноль раз, так что приглашаю попустить меня в комментах и объяснить, почему нужно всегда учить именно с Adan.

Запрети мне псевдолейблить

18 August 2026 13:41

Наконец-то новый образовательный RL-мем в моем любимом паблике про RL

Создано специально для Азата, который не уйдет на пенсию, пока на каггле не кончится РЛ

Я это к тому, что ждем PvE соревнование с закрытой информацией и неопредленностью на некотором среднесрочном горизонте. Ах да, точно, PvE с закрытой информацией- это же AI Agent Security - Multi-Step Tool Attacks. Буквально задача соревы: сделай что-то, а мы тебе не скажем что и какие условия. Тест и трейн вообще разные, но ты попробуй

Запрети мне псевдолейблить

17 August 2026 22:34

У покемонов прошлой ночью настал дедлайн сабмитов. Через две недели будут зафиксированы финальные места, но по моей оценке вас будет шатать на +-30 вверх и вниз от текущего уровня. Разбор соревнования сделаю в текстовом виде, чтобы закрепить все находки.

Ожидаю, что мы останемся с командой на ~100 месте, так что я видимо подфармил еще одно серебро. Уже восьмое

Что у нас работало:
BC
PSRO
Поиск мата за один ход (внезапно)
Тупо скейлить модель в ширину
AUX-голова на победу в матче (так называемая value-head для бедных)
AUX-голова на взятие приза

Что не работало:
Хитрый анализ колод
PPO
MCTS
AWR (вообще никак)
QWR и прочие производные

Напишите в комментах, какое место ждете и апнули ли вы звание
Еще интересно, будете ли участвовать в спареном хакатоне, или желание прикосаться к игре полностью отбито

По моим ощущениям весь топ лб состоит из японцев, дитера собирающего дань и одного скромного flg. А еще поздравляю Азата с поднятием кгм походу

Запрети мне псевдолейблить

08 August 2026 13:08

Тем временем Мистраль стал первой моделью, которая автономно выиграла соревнование на Kaggle, взяв top-7 в Rogii Wellbore. Французская команда уже опубликова разбор решения модели:

Запрети мне псевдолейблить

06 October 2026 17:55

Умным домам быть, я договорился!

Буквально админ выклянчил в x/имейлах сореву про умные дома для любимых RL-грокеров

По ссылке выше кст видно, что обновили страницу с призовыми и организаторами соревы. Призовой фонд аж 30 тысяч.

На мои вопросы о том, какие будут гпу, какой точно таймлайн и что значит 'The 10x bang-bang baseline runtime limit' конечно мне никто не ответил. Зато приятно быть правым, что у каггла есть мощное желание не проводить сразу два RL в одно время.

Если вы не понимаете, о каких таких умных домах речь и почему я их так жду- есть отдельный пост.

Запрети мне псевдолейблить

02 October 2026 16:19

Kaggle частично стал бенчмарком 'у нас работают умные люди, дайте денег для реализации интеллектуального ресурса'.

Есть три примера:
1. Nvidia- кагл грандмастера на зп, которые потом продаются внешним компаниям как AI-консультанты по решению AI-вопросов. Дайте денег на лучших в мире

Неолабы себе так прямолинейн говорить позволить не могут, так что делают хитрее и пытаются поднять инвестици:

2. Tufa Labs плотно фармит кагл, чтобы показать, что вот у нас самые умные люди, которые остались в европе. Дайте нам денег на компьют, чтобы они построили настоящий европейский (швейцарский) фронтир, а не Mistral

3. Внезапно Mostik в момент выхода из стелса тоже флексил top1 на лб ARC AGI. Сейчас они съехали на лб и красуются аккуратно перед одиноким русским шестнадцатилетним школьником, откуда можем сделать вывод, что инвестиции тоже собраны. Конкретно сегодня 420 место и последний сабмит месяц назад

Есть еще исторический пример, который выбивается: X5. Там скорее можно было бомбить кагл для того, чтобы усилить HR бренд и упростить найм (и пофлексить). Выбивается потому, что формулировка сокрее была 'У нас умные люди, приходите к нам работать'.

По этой схеме работают до сих пор например японцы из Rist и Go Drive. У них тоже кгм- это паровоз HR бренда компании.

Ах да, заботливо обвел вам 'профессиональных киберспротсменов' из топ 10, чтобы было легче их отделить от любителей

Запрети мне псевдолейблить

30 September 2026 09:03

Биохаб кончился и кончился неприятно.

Как бы собрать за день сабмит на голд в ферме...

Запрети мне псевдолейблить

29 September 2026 16:56

Когда моя тима шагает по лб на странной эмпирике- это мы нашли стопроцентную хорошую эмпирику, которая помогает на привате и на паблике, все логично.

Когда другие команды шагают по лб- это они сто процентов оверфитнулись, на привате мы им покажем.

Никакого лицемерия, только честность с собой

Запрети мне псевдолейблить

26 September 2026 11:07

Ферма перевалила за 10к участников!

Это значит две новости для вашего рейтинга:
1. 30+ золотых медалей
2. Очень большой сдвиг рейтинговой таблицы
3. Хорошая возможность поднять себе серебро (топ 501) и бронзу (топ 1003)

Вообще мемно, как за ТОП 1000 можно получить медальку

Запрети мне псевдолейблить

23 September 2026 17:56

Новое соревнование от Google на Kaggle:
Google - The Gemma 4 Developer Agent Competition

Нужно файнтюнить Гемму 4, чтобы она лучше кодила

Запрети мне псевдолейблить

16 September 2026 10:18

🌱 Alfa Connectome ML Competition 🌱

Началось новое соревнование по машинному обучению от Wunder Fund.

Задача: Вы будете изучать исторические торговые данные для двух связанных инструментов. Нужно создать модель, которая предсказывает индикаторы движения цены одного из них по информации об ордербуке, сделках и кое-чем еще.
По сути, классическая работа кванта. Вы будете работать с реальными биржевыми данными.

Когда: 11 сентября — 15 ноября

Призовой фонд: $13,600

Победители получат денежные призы, приглашение побеседовать в Wunder Fund, а главное — большое интеллектуальное удовольствие. Сам Wunder Fund с 2014 года занимается высокочастотным трейдингом с дневным оборотом более $10 млрд.

>> Участвовать

Запрети мне псевдолейблить

13 September 2026 17:54

Тем временем кагл видимо планирует наконец-то обновить парк видекарт для кернелов и скоринга.
P100 переезжают в статус 'пенсионерских'.

На AIMO3 еще в 2025 можно было использовать H100, так что я ожидаю именно их как замену p100. А это прирост по перфомансу в 7 раз

По поводу T4 ничего не известно, но интерполируя прошлый абзац, это должны быть L4 и прирост в 3.7 раза

Вероятно, нас еще ждет ротация TPU, но там все слишком закрыто. Их и так постоянно меняют, но в очереди на TPU модель выбрать нельзя и каждый раз играешь в лоторею. Для меня вся идея выдавать TPU на каггле выглядит как мертворожденный проект:
1. Новые TPU есть только у гугла
2. Старые TPU гугл разбирает и на вторичке их никак не купить

Вывод:
Скилл использования TPU- только для гуглеров и мб нейроагентов.

TLDR:
P100 (2016) -> H100 (2022)
T4 (2018)-> L4 (2023), возможно

Запрети мне псевдолейблить

08 September 2026 14:32

За покемонов раздали медали и я поднялся на 2 места (423 -> 421) в рейтинге соревнований

Дальше для движения по рейтингу видимо надо либо одному/в маленькой команде, либо за золотом. И оба пункта довольно часто друг друга исключают

Запрети мне псевдолейблить

03 September 2026 12:20

Pre-Release of Polars 2.0 (🔥 Score: 152+ in 3 hours)

Link: https://readhacker.news/s/749mt
Comments: https://readhacker.news/c/749mt

Запрети мне псевдолейблить

23 August 2026 14:06

Нашел вам интересный сайт с историческими ценами на компьют на vast.ai

Не смотря на ai бум цены на компьют почти не выросли

Но что произошло в июне? Заканчивался нейрогольф?

Запрети мне псевдолейблить

19 August 2026 14:54

Разбор ROGII - Wellbore Geology Prediction начнем с сетапа соревнования. Мы на нем подфармили еще одно серебро, а часть подписчиков апнула золото, причем в нескольких разных командах. Горжусь и завидую.

Представьте, что Герр Дональд Трамп сказал нам 'drill, baby, drill', а мы и поверили. И вот уже бурим скважину для исследования недр где-то в Техасе: у нас есть идеальный план бурения и наш бур напичкан кучей датчиков. Буром управляет опытный оператор, который знает, что у пласта породы плотность неравномерная: встречаются камни, пустоты и включения других пород. Из-за этого бур немного (или много) поворачивает внутри скважины и отклоняется от модельной траектории. Оператор смотрит на датчики и подруливает буром, чтобы оставаться как можно ближе к модельному плану бурения- его цель как можно корректнее разведать датчиками на буре показания как можно ближе к траектории.

Наша задача- понять, как глубоко в пласте мы находимся, зная предыдущие наблюдения + текущие показатели датчиков. В общем смысле это надо, чтобы бур не выскочил в другой пласт (нам не интересный) и не насобирал ненужной информации. Ну и спланировать, как мы будем качать нефть, сжигать попутный газ и с этой бесплатной энергии майнить битки

И того, у нас есть:
1. Координаты в каждый момент времени для бура для каждой скважины. Доступна информация до тех пор, пока бур спускается в целевой пласт и для часть скважины уже внутри пласта. Это наш train кусочек для авторегрессии. Еще для каждого участка скважины знаем длину пути от поверхности и оценочное расстояние в футах до границ всех нам известных пластов (оценивается по typewell, последний пункт).
2. Значения Gamma Ray (GR) на протяжении всего пути. Работает так: у каждой породы свой уровень гамма-радиоактивности, так что регулярно снимая показатели фоновой радиации с бура, мы можем по изменениям понять, что состав породы меняется. Для каждого пласта мы знаем примерны состав и показатель радиоактивности по typewell (следующий пункт), так что можем довольно неплохо понять, что слишком близко подошли к границе пласта и рулить назад.
3. Знаем те же показатели для ближайшей измерительной скважины (typewell): глубину, значение GR на этой глубине и метку того, в каком пласте находимся. Предполагается, что она пробурена вертикально вниз.

При этом данные реальные и близкие скважины переиспользуют одни и те же typewell и вообще у них направление и траектория бурения похожа, потому что пласты породы расположены друг на друге и это сильно влияет на оптимальную траекторию.

Можно было бы сказать, что в Техасе все данные по скважинам обязательно нужно сдавать правительству, но организаторы об этом позаботились и к каждой скважине и ее координатам добавили индивидуального шума, так что относительное расстояние между скважинами исказилось. И кажется даже немного перемешались ближайшие typewell. Мало того, скважины еще и обрезали, так что матчить их долго и совсем не ясно, какие скважины попали в тест, а какие нет, потому что это Code Comp.

Как решать будете?

#RogiiWGP

Запрети мне псевдолейблить

18 August 2026 07:22

Ого, ну раз пошла такая пьянка, придется ответить. Спасибо кстати, но поздравлять пока рано...
такой вот примерно рецепт усредненный получился:

- имитация на топовых игроках, точность около 85% была на валидации, давало 950-1100 эло за день игры
- ppo с подгрузом чекпоинта из имитации, где-то 400 топовых дек, играют все против всех, но с вероятностью 90% берем и меняем часть карт на рандомные - так учим эмбеды карт которых не было в имитации (а это процентов 80) ну и учимся играть против мусора чтобы не отлетать типам с 450 эло.
- ppo с подгрузом предыдущего шага, все против всех но теперь только 10% что карты будут меняться, плюс фриз эмбедов. дальше чемпионат по итогам которого я удалил 50% дек.
Сабмиты давали 1000-1100, примерно, какие-то лучше имитации, какие-то хуже, хрен поймешь.
- грузим прошлый чекпоинт, берем top 1 деку по итогам чемпионата (flg 55456110) и опять PPO, но один из игроков всегда играет топовую деку, другой одну из оставшихся 200

на хитрые штуки типа кастомных голов и MCTS времени совсем не осталось, фактически первый сабмит последнего шага был за 4 часа до делайна. ну и я нуб в RL, так что решение довольно ванильное, разве что я потырил некоторые штуки у топов orbits

учил на 4090, за неделю до конца снял 8x5090, итоговый пайплайн со всеми шагами двое суток где-то учился.

исходя из логов надеюсь на 3-8 место, из забавного так как по-сути 50% времени я тренировал деку flg и модель училась против него играть, то на играх за сутки винрейт больше 80% против него, лол. и с luca каким-то образом 55%, этого я уже никак не могу объяснить, возможно везет пока

совет молодым кто пойдет ферму решать, если позволите:
не торопитесь идти делать RL
сначала отточите пайплайн на имитации - он должен вас сходу закидывать в золото. если не закидывает - идите ловите ошибки, досыпайте и чистите данные. я что на orbits, что тут потратил 90% времени на это. codex/claude пишут довольно странный код если детально не смотреть, типа ставят LN после GELU, weight decay на эмбеды, при том что за батч 95% карт не будет сыграна и тд. если ваш пайплайн не способен тупо скопировать стратегию, то и все остальное вряд ли поможет. /goal на ночь и оптимизация кода на трейнах по 30 минут аля nanogpt speedrun часто давала фиксы и неожиданно полезные решения.

И помните, у самурая нет цели, только путь

Запрети мне псевдолейблить

09 August 2026 12:44

Абсолют ioai завел свой канал
/channel/artem_to_agi/6

Кажется, он даже подписан на псевдолейблинг

Запрети мне псевдолейблить

07 August 2026 14:06

Кстати медали за Rogii раздали и я позорно не вошел в топ 400 :(

Ставьте хот-доги если нужен разбор Rogii на канале