8433
lingtra.in habr.com/ru/users/averkij/ hfday.ru
Выложил Need for Piter от вокзала до Дворцовой
👉 Играть | код тут
Ребята из Яндекса, знаю, что у многих из вас сейчас авральные дни и нервотрепка с поднятием сервисов. Знайте и вы, что это никому небезразлично.
Спокойствия вам и скорейшего восстановления!
Друзья, а вы знаете, что на этих выходных - фестиваль НАУКА 0+? Я там буду сегодня (суббота 10.10) в МГУ в фундаментальной библиотеке в 13:30 рассказывать про то, как нам жить с агентами. Покажу Алису, Алису про, расскажу про LLM Wiki и простой вайб-кодинг, ну и вообще конечно ещё раз вспомним, что такое агенты, и чем они отличаются от просто-ЖПТ.
Если вы в МГУ на дне науки - приходите поздороваться :) А если вы не в МГУ - то почему?
Ресурсы для ML интервью
Восстанавливаю потихоньку сакральные знания, которые часто спрашивают на собеседованиях по общему ML. Метрики, классические алгоритмы и трюки, ансамбли и т.д. Всё это достаточно быстро забывается, если время от времени не повторять и не использовать, но на собеседовании точно спросят.
Я для себя понял, что чего-то лучше общения с чатгпт для освежения знаний нет, но нравится ещё пара вещей для самопроверки.
Карьерник от Тагира — штука в стиле дуолинго c вопросами и ответами по ML. Разбиение по темам хорошее, изредка встречаются странные формулировки, но в целом прикольно. Есть немного теоретического материала на повторить.
Список общих вопросов для собеседований — документ, который собирали сообществом ещё в 2020-м году, я туда тоже что-то добавлял тогда. По нему надо пройтись, оценить как бы ответили вы.
Сундар Пичаи проанонсировал Gemini 4 Argon. Пишут, что внутри им довольны, используют в исследованиях (есть результаты оптимизации квантовых алгоритмов), в оптимизации ресурсов (освободили 300TB оперативки в датацентрах), переписывают всё, что плохо лежит, на rust и т.д.
Скоро гугл выпустит этот газ, можно будет подышать.
https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-4-argon/
AMD покупает World Labs
Стартап от Фей Фей Ли из области моделей мира (это когда ИИ оперирует пространственными понятиями, строит 3D миры, понимает как и что внутри этого мира взаимодействует и т.д.), покупается за $8.2 миллиарда 😱.
Стартапу всего 2 года, у них есть есть продукт Marble, он публичный с конца 2025-го, в него мы уже обывательски потыкали.
Практическими кейсами у него, является обучение роботов (симуляция помещений, улиц, дорог, складов и т.д., генерация миллионов сцен, где робот будет планировать свои действия и дообучаться) и куча более очевидных применений типа игр, дизайна и т.д.
Для embodient agents (или «воплощенный ИИ» как его ещё переводят) тоже должно быть круто — робоагент строит внутри себя мир по камерам, размышляет, что произойдет при разных взаимодействиях со средой, и затем что-то выполняет в реальности.
Покупают всю RnD лабу Фей Фей Ли, а она сама становится исполнительным вице-президентом и Chief Scientist AMD. Очень круто.
https://ir.amd.com/news-events/press-releases/detail/1299/amd-to-acquire-world-labs-to-advance-the-future-of-ai-compute
Чувак говорит, что при общении с новым чат-ботом от Meta тот скинул ему архив своей файловой системы. Для удобства даже закачал всё на Google Drive.
Вот это я понимаю сервис, не то что ваши вредные клоды.
https://mouse.dev/blog/muse-runtime-export/
🔺 Сделал 23-х язычную Алису в стране чудес
В Алисе очень много словесных игр, абсурдных шуток и стихов, каждый переводчик в своё время по сути перепридумывал их под свой язык, так что очень интересно поразбираться у кого как получилось.
Эта книга была переведена на гораздо большее количество языков (и не один раз), так что в будущем ещё её подрасширим.
Скоро появятся несколько дополнительных редакций на русском, в том числе перевод Владимира Набокова, можно будет сравнивать между собой стили разных переводчиков.
Добавил книгу в нашу читалку вместе с новыми языками. Теперь есть нидерландский, турецкий, шведский, венгерский и другие. Появились даже эсперанто и ложбан 😱.
P.S. Если найдете косяки, то пишите.
👉 https://lingtrain.ru/library/ru/alice-s-adventures-in-wonderland-carroll--f6b939
Мы боялись, что у нас отберет работу ИИ, и совершенно упустили из виду мух-дрозофил 🤩
Читать полностью…
Люблю господина Сергея Николенко. Что в ЧКГ он мне всегда нравился, что книжки классные по ML у него есть, рекомендую для вкатывания.
- Говорит, что математика, кажется, всё, но математики это переживут.
- Обсудили коммунистический подход агентов, ломавших HF.
- Поразмышляли над архитектурами моделей лет через пять.
- Возможно, что следующие топовые архитектуры будут придуманы уже не нами.
Слушайте, а давно клод-код стал сам возобновлять таски, которые умерли по лимиту?
- limit resets 9:40pm
- сontinuing automatically at 9:40pm
Очень хорошая базовая лекция про обучение моделей на кластере (когда на одну карту не влезаем и учим большие модели)
🟢 Рассказывают про основы коммуникаций между gpu (all reduce, all gather, reduce scatter и т.д.), как они используются в разных режимах распараллеливания.
🟢 Как развивалась инженерная мысль от data и pipeline parallel до expert и context parallel (он же ring attention). Что это такое и зачем надо.
🟢 Почти во всех лекциях, кстати, хвалят deepseek за их подробные тех. отчеты и кучу ablation экспериментов. Поддерживаем. 👊
👉 https://www.youtube.com/watch?v=6-cXp-aOmdg
Друзья, полгода назад я ушёл в творческий отпуск, позанимался своими проектами и хобби, очень классно отдохнул и перезарядился. Всем рекомендую, если есть такая возможность.
В ближайшее время подведу итоги, поделюсь опытом того, что можно сделать одному при наличии времени и желания, и буду потихоньку подыскивать новую работу.
Если хотите, чтобы написал про что-то подробней (например, я достал все свои запросы к агентам за полгода, пока делал приложения, запросов больше 7000, можно их поанализировать; или про логотип читалки (руками его рисовал); или про ощущения безработного), то пишите.
Зашёл на днях в музей Атом на ВДНХ. Снаружи выглядит как обычный стеклянный павильон, но внутри он на удивление ну очень крутой, идёт на несколько этажей вглубь.
Экспозиции мощные, очень много исторического про советсткую ядерную программу и современного про мирное использование, энергию, ледоколы и т.д. Пару часов походил, но всё не обошёл.
В середине работы codex'а Касперский пресёк этот злостный троян от дальнейшего вайб-кодинга.
Ругается, на самом деле, не на агенты, а на опциональный демон-оркестратор, который работает в фоне, позволяя работать консолям при закрытии и запуская сторонние процессы (из-за этого и похож на троян).
Он был уже довольно давно, но начиная с недавних версий, стал запускаться по умолчанию. Отключается параметром --no-daemon.
Только что выкладывал здесь свой доклад "Vibemathed", а тут OpenAI подтвердила давние слухи и выложила массу новых результатов в виде препринтов.
Большой пост об этом писать не знаю как, учитывая, что большинство этих результатов я не понимаю даже на уровне формулировки. Но вот что при беглом прочтении кажется самым главным в списке:
— 003: квазигипотеза Римана, ну тут без вопросов, это огромный качественный прорыв;
— 032: гипотезы Ходжа и Тейта для важных случаев; это не вполне закрытая задача на миллион, но тоже очевидны огромные последствия;
— 004: десятая проблема Гильберта над Q; это я выбрал больше ностальгически как большой привет Юрию Владимировичу Матиясевичу, но это и правда была важная задача;
— 034: гипотеза изобилия, которая важна для классификации алгебраических многообразий;
— 002 + 006: гипотеза Бёрча-Свиннертона-Даера и гипотеза Голдфельда, которые в сумме тоже дают большой шаг к ещё одной задаче тысячелетия (но она не закрыта ещё совсем);
— 159: гипотеза Эрдёша об арифметических прогрессиях.
И в информатике, где я всё-таки могу понять, о чём конкретно идёт речь:
— 102: unique games; получены точные пределы приближения, и это сразу даёт массу результатов о (не)приближаемости разных NP-трудных задач;
— 103: L = RL = BPL, полная дерандомизация в классе алгоритмов с логарифмической памятью;
— 107: экспонента в сложности умножения матриц над С сведена до 2.25; новые алгоритмы об умножении матриц регулярно придумывают, в том числе автоматически, но здесь реально огромный скачок.
В целом, если бы это не было частью глобальной AI-революции, текст со скромным названием "OpenAI Research Catalog" стал бы главным математическим текстом тысячелетия, а может, и двух.
Но вопрос уже давно стоит шире любой конкретной задачи, будь она хоть на миллион, хоть на два. Выделю главную заключительную мысль из моего доклада, да и вообще из текущего математического zeitgeist (недавно как раз об этом разговаривал в дружественном канале Валентина Малых).
Главное в том, что сейчас пока не вполне понятно как, но точно радикально меняется понятие "результата" в математике.
Раньше как было: основной результат математика — доказанные теоремы. Если именную гипотезу доказал, над которой люди долго думали и не придумали, ты точно молодец. Это относительно легко проверяемая специалистами вещь (бывают исключения вроде abc-гипотезы, но они редки), и если специалисты проверили, то легко согласиться с тем, что результат есть и он крутой. Даже если надо быть очень узким специалистом, чтобы понять суть твоей работы. Конечно, я упрощаю, конечно, математики бывают разные, и это долгий разговор, но в целом было примерно так.
Сейчас ситуация изменилась радикально. Доказательства теперь не то чтобы ничего не стоят: не любую задачу можно решить, задачи бывают сложнее и проще, а AI-модели не всемогущи. Но человек перестал быть основным средством доказательства теорем, то есть доказательства перестали принадлежать людям. Пока ещё нужно проверять результаты и переписывать более понятно для других людей, но это тоже нужно всё в меньшей степени.
Что такое "результат" для человека теперь, математики пока не согласились, и любое новое определение ведёт к серьёзным институциональным изменениям. Да и вообще непонятно, что такое теперь "быть математиком". И это не думерский прогноз, а реальный вопрос, на который математическому сообществу придётся отвечать прямо сейчас.
Ещё одна важная деталь в том, что это результаты внутренней модели OpenAI. Иначе говоря, новые доказательства теперь не просто не людьми делаются, но и получить их из "чёрного ящика пришельцев" могут только очень специальные люди.
И, как вы понимаете, пока я говорю о математике, потому что там это уже случилось. Но другие науки ждёт то же самое в ближайшем будущем, а там и не только науки. Дивный новый мир становится всё интереснее...
#ai #math #news #blog
Тут сразу N замечательных девушек из канала @n_it_girls, попросили ответить на вопросы про секс, з/п и рок-н-ролл типичного IT'шника.
Девчонки клёвые, познакомился с ними на сентябрьских митапах. Подписываемся на них.
/channel/n_it_girls/1464
Погонял новый Sonnet, сделал сценку Сити с машинками и NPC. Занимает всё около мегабайта, отрисовывается на three.js. Сделано на базе вот этой репы.
Читать полностью…
Опять 5.5
Вышел Sonnet 5.5. В пресс-релизе сумели нарисовать график, где он выше всех. Обожаю такое.
Вообще же пишут, что предыдущая 5-я версия набирала на агентном бенчмарке Terminal Bench 4.0 только 10%, а новая модель аж 70%.
Смотрим её. Либо правда хороша, либо пора собирать Terminal Bench 5.0.
Опа, подарочки. Ждём три ресета от Codex’а.
Читать полностью…
Вышел grok 4.7. Появился в курсоре и в родном консольном клиенте. В консоли можно пока пользоваться бесплатно.
Консоль ставится так:
irm https://x.ai/cli/install.ps1 | iex
Сегодня тусим на Practical ML от Яндекса. Пришло примерно миллиард человек. Все красавцы.
Читать полностью…
Ещё вчера был классный доклад про рекурсивные архитектуры
Есть ряд статей про такие архитектуры — HRM, TRM и URM (гуглим). Суть в том, что небольшая сеть, переиспользуя свои собственные веса, может многократно уточнять решение какой-то задачи, прежде чем выдать ответ.
Оказалось, что это хорошо ложится на логические задачи типа задач с ограничениями (судоку и другие варианты латинских квадратов, какуро и т.п.), лабиринтов, автоматов типа игры в жизнь и в целом задач с абстрактным рассуждением (ARC-AGI бенчмарк).
Из минусов то, что не получается загнать все такие таски в одну сеть, надо обучать под конкретную задачу. Из плюсов то, что одна модель может на своей задаче давать качество лучше любой LLM, быть сильно дешевле, быстрее и т.д.
Ребята собрали свою архитектуру на этой базе — STARM (Single Task Algorithmic Reasoning Models), оптимизировали её, получили SOTA качество. Выложили код.
👉 Хабр | GitHub
Тусим сегодня на AI RnD Day от Сбера, доклады пока отличные, множество знакомых лиц, все красавцы.
Читать полностью…
Тем временем нашу нишевую читалку для изучения языков установили 500 раз за две недели.
👉 качаем тут: ios | android
https://x.com/cocktailpeanut/status/2099518472422109604
Кажется, началось
Добавил в нашу читалку татарский и башкирский языки, подготовил на них несколько рассказов.
Скачать можно тут — ios , android