data_analysis_ml | Unsorted

Telegram-канал data_analysis_ml - Анализ данных (Data analysis)

48228

Аналитика данных админ - @haarrp @ai_machinelearning_big_data - Machine learning @itchannels_telegram - 🔥лучшие ит-каналы @pythonl - Python @pythonlbooks- python книги📚 @datascienceiot - ml книги📚

Subscribe to a channel

Анализ данных (Data analysis)

LFM2.5 вошла в лидеры локальных моделей для смартфонов 📱

Artificial Analysis протестировала 39 моделей на iPhone 17 Pro и Galaxy S26 Ultra.

LFM2.5-2.6B разделила первое место по интеллекту с Nanbeige 3B, используя примерно на 40% меньше памяти и работая до трёх раз быстрее.

iPhone 17 Pro:

- LFM2.5: 2,32 ГБ и 8 секунд
- Nanbeige: 4,03 ГБ и 21,4 секунды

Galaxy S26 Ultra:

- LFM2.5: 2,45 ГБ и 18,6 секунды
- Nanbeige: 4,13 ГБ и 71,4 секунды

Четыре из пяти моделей семейства LFM2.5 вошли во фронт Парето по интеллекту, задержке и потреблению памяти.

https://artificialanalysis.ai/hardware-inference-stack/mobile-phones

Читать полностью…

Анализ данных (Data analysis)

Один вечер — много возможностей! ⚡️

25 сентября у тебя будет шанс познакомиться сразу с четырьмя технологическими командами, которые строят GigaChat изнутри: от данных и поиска до платформы AI-агентов и backend-сервисов массового продукта.

Ты сможешь заглянуть в текущие проекты Сбера, понетворкать, а еще — обменяться контактами с лидерами ключевых backend-команд GigaChat

Регистрируйся по ссылке — встречаемся 25 сентября в 19:00 по адресу: Москва, «Оригинал», Земляной Вал, 9А!

Читать полностью…

Анализ данных (Data analysis)

⚡️OpenAI заявила о решении более 100 открытых задач по математике 🤯

28 августа OpenAI начала обучать новую внутреннюю модель. Спустя всего 24 дня компания утверждает, что система уже решила более 100 давних открытых задач почти во всех областях математики.

По данным OpenAI, темп прогресса удивил даже математиков внутри компании. Этой же модели приписывают недавнее решение задачи Навье - Стокса из списка проблем тысячелетия.

Для оценки значимости результатов и организации их публикации создана независимая консультативная группа. В неё вошли:

- Эдвард Виттен;
- Тимоти Гауэрс;
- Мартин Хайрер;
- Рави Вакил;
- Мелани Матчетт Вуд;
- ещё четыре известных математика.

Участники не получают оплату от OpenAI и смогут публично комментировать действия компании. Сейчас большинство заявленных решений ещё не опубликовано и не прошло независимую проверку.

🔗 https://openai.com/index/advisory-group-on-mathematics-and-ai/

Читать полностью…

Анализ данных (Data analysis)

🔥 Один из лучших обучающих курсов на StepiK по SQL

SQL можно знать годами и всё равно теряться, когда запрос внезапно начинает тормозить в проде.

Этот курс про уровень, где ты не просто пишешь SELECT, а понимаешь, что происходит внутри MySQL, почему запрос работает медленно и как ускорить его без новых проблем. Здесь разбираются EXPLAIN, индексы, CTE, оконные функции, транзакции, аналитические паттерны, legacy SQL и работа с AI-ассистентами.

Каждый урок - с практикой и реальными SQL-задачами на MySQL 8 с автопроверкой.

После курса ты сможешь увереннее разбирать чужой код, находить узкие места и предлагать решения, которые действительно работают.

Для подписчиков скидка - 49% в течение 2 суток: https://stepik.org/a/298827/

Читать полностью…

Анализ данных (Data analysis)

🔬 ScientistTwo от Google - ИИ, который самостоятельно проводит цикл ML-исследования

Система предлагает гипотезы, пишет код, запускает эксперименты и проверяет, какие изменения действительно улучшают результат. Затем убирает бесполезные компоненты, готовит статью и дорабатывает исследование по замечаниям ИИ-рецензентов.

Найденное решение становится отправной точкой для следующего раунда: система может улучшить человеческий метод, а затем продолжить улучшать собственную разработку.

Для оценки авторы взяли 107 задач из работ ICLR, ICML и NeurIPS. По их данным:

* В 86 задачах - 80,4% - удалось превзойти исходные человеческие решения.
* Средний относительный прирост в успешных задачах составил 25,2%.

Задачи и критерии оценки задают люди. ScientistTwo автоматизирует поиск решений и экспериментальную проверку; рецензирование внутри цикла тоже выполняют агенты.

📄 https://scientist-two.github.io/

Читать полностью…

Анализ данных (Data analysis)

📚 MIT Advanced Data Structures - бесплатный продвинутый курс по структурам данных от MIT.

Курс ведёт профессор Erik Demaine. Внутри — видеолекции, конспекты, задачи, проекты и материалы на GitHub.

Темы далеко выходят за рамки обычных массивов и деревьев: persistence и retroactivity, геометрические структуры данных, dynamic optimality, иерархия памяти и cache-efficient алгоритмы, hashing, integer data structures, динамические графы, строки и succinct data structures.

Уровень продвинутый: желательно уже знать дискретную математику и алгоритмы.

https://courses.csail.mit.edu/6.851/spring21/

Читать полностью…

Анализ данных (Data analysis)

17 сентября в Москве прошла AI R&D DAY — конференция для исследовательских команд и создателей ИИ-систем.

Более 600 участников на одной площадке, 20+ докладов — концентрат практического опыта, знаний и инструментов, готовых к внедрению сразу по возвращению в офис.

Обсудили альтернативные архитектуры, обучение моделей и AI-агентов, долгосрочную мультимодальную память, новые модальности и коммуникации, а также бенчмаркинг и стандарты качества AI.

Среди спикеров — эксперты Сбера (Sber AI, Kandinsky Lab, Центра «ИИ для науки», Центра практического ИИ, Центра робототехники), института AIRI, Лондонского института практических наук, Национального суперкомпьютерного центра в Цзинане и другие создатели ИИ-систем.

Видеозаписи докладов уже доступны в наших соцсетях.
А если вы хотите стать частью исследовательского коммьюнити Сбера, то переходите по ссылке
#реклама
О рекламодателе

Читать полностью…

Анализ данных (Data analysis)

Сегодня последний день регистрации на КосмоХакатон

18–20 сентября, Петербург, Красноярск или онлайн из любой точки страны. Четыре задачи на выбор: снабжение орбитального топливного узла и безопасность космонавта в открытом космосе в Петербурге (фонд 1,2 млн ₽), мониторинг лесных пожаров и верификация углеродных кредитов по спутниковым снимкам в Красноярске (600 тыс. ₽). Есть и для тех, кто про данные и ML, и для тех, кто про стратегию и экономику.

Лучшие забирают приз на площадке и билет в московский финал 25–27 сентября, где разыграют ещё 2,4 млн рублей.

Команду можно собрать на платформе.

Подробности и регистрация

Читать полностью…

Анализ данных (Data analysis)

🧮 OpenAI, по данным The Information, близка к решению ещё одной задачи тысячелетия — гипотезы Ходжа

Издание пишет, что для предыдущей задачи тысячелетия OpenAI использовала вариант своей следующей предобученной модели с кодовым названием Doug.

Почему компания уделяет столько внимания математике: по данным The Information, OpenAI рассматривает её как следующий шаг к автоматизации AI-исследований.

Более сильные математические способности моделей потенциально могут помочь в разработке новых методов и техник для создания будущих AI-систем.

https://www.theinformation.com/newsletters/ai-agenda/openai-close-solving-another-millennium-prize-math-problemэ

Читать полностью…

Анализ данных (Data analysis)

🔥 Посмотрел выпуск «Доверительного интервала» про AI в аналитике и там хорошо сформулировали несколько вещей, которые сейчас многие чувствуют, но редко проговаривают вслух.

Есть мнение, что именно сеньоры должны первыми забирать новые инструменты, но происходит обратное: чем больше у человека собственного опыта и отлаженных процессов, тем дороже ему менять привычный способ работы. И проблема здесь не в «непонимании AI», а в том, что старый процесс уже работает.

Также обсудили идею не пытаться сразу построить один огромный AI-«суперкосмолёт», который автоматизирует аналитику целиком. На практике полезнее начинать с маленьких задач: подготовить SQL, проверить гипотезу, собрать данные, разобрать отчёт, найти аномалию. Когда такие куски начинают стабильно работать, из них постепенно складывается нормальный агентный workflow.

И еще одна важная мысль: с появлением агентов аналитик немного становится руководителем. Раньше ты сам выполнял задачу от начала до конца. Теперь всё чаще нужно правильно поставить её агенту, дать контекст, проверить промежуточный результат, вернуть на доработку и принять финальную работу. 

Ценность постепенно переезжает от «я умею сделать это руками» к «я умею организовать процесс так, чтобы это было сделано правильно».

Поэтому осваивать AI имеет смысл уже сейчас. Привычка делегировать, проверять и строить процессы вокруг моделей может оказаться важнее знания очередного конкретного инструмента.

Читать полностью…

Анализ данных (Data analysis)

Приглашаем порешать 🌱 Alfa Connectome 🌱  — соревнование по нейронкам от HFT-фонда Wunder Fund.

В этот раз датасет гораздо больше, чем в прошлых двух соревках. Вы будете изучать исторические торговые данные для двух связанных инструментов: ордербуки, сделки и кое-что еще. По этой информации вам нужно будет предсказывать индикаторы будущей цены для одного из инструментов.

Кванты регулярно сталкиваются с такой задачей.
В соревновании используются реальные маркет-данные.

Когда
11 сентября — 15 ноября

Призовой фонд
$13,600

Победители получат денежные призы, приглашение побеседовать в Wunder Fund, а главное — большое интеллектуальное удовольствие.

Wunder Fund c 2014 года занимается HFT — высокочастотным алготрейдингом. Торгуем на многих биржах по всему миру, как традиционных, так и криптовалютных. Наш дневной торговый оборот около ~$10 млрд.

>_ Поглядеть на соревку

Читать полностью…

Анализ данных (Data analysis)

🚨 Huawei прогнозирует взрывной рост AI-агентов: к 2035 году они будут генерировать более 90% всего мирового AI-трафика.

В отчёте Intelligent World 2035 компания ожидает, что глобальное потребление токенов вырастет сразу в 100 000 раз. Чтобы выдержать такую нагрузку, вычислительные кластеры придётся масштабировать примерно в 100 раз, а стоимость выполнения одной агентной задачи должна снизиться примерно в 1000 раз.

Отдельный прогноз Huawei и Института экономики Университета Цинхуа:

ИИ может создать более $27 трлн совокупной экономической ценности за ближайшие пять лет, а ежегодные инвестиции в цифровую и интеллектуальную инфраструктуру к 2030 году превысят $4 трлн.

Фактически Huawei делает ставку на мир, где основными потребителями compute будут уже не люди и приложения, а миллиарды автономных агентов, непрерывно вызывающих модели, инструменты и другие сервисы.

Читать полностью…

Анализ данных (Data analysis)

🔥 Один из создателей технологий, которые привели к ChatGPT, запустил модель, которая вообще не генерирует текст.

Диогу Алмейда после двух лет stealth представил TypeSafe AI и первую модель нового класса — Jev.

Идея радикально отличается от обычных LLM:

неструктурированные данные → типизированное решение → вероятность

Jev не пишет ответы словами. Вместо этого модель возвращает значения, которые программа может использовать напрямую: выбор варианта, оценку, вероятность события.

Для обучения TypeSafe разработала свой метод — RLCD (Reinforcement Learning for Calibrated Decisions).

По данным компании:

- отклик — 70–500 мс
- 20–200× быстрее frontier-моделей на таких задачах
- 40–400× дешевле
- input — $0,042 за 1 млн токенов
- output — бесплатно

Целевые сценарии: классификация, маршрутизация, scoring, extraction и автоматические решения внутри программ.

Важный нюанс: заявление «не галлюцинирует» означает прежде всего то, что модель не генерирует произвольный текст и работает в заданной типизированной схеме. Это не гарантия абсолютной правильности решения.

Jev уже доступен в early access. Цифры производительности пока в основном основаны на внутренних тестах TypeSafe.

https://x.com/Machinelearrn/status/2100178485641683200

Читать полностью…

Анализ данных (Data analysis)

🚨 Дженсен Хуанг выступил против идеи замедлять развитие frontier AI и вводить новые законы для отрасли.

На Dreamforce глава NVIDIA заявил:

«Если вы не уверены в безопасности продукта - просто не выпускайте его».


По его мнению, безопасность и скорость разработки не противоречат друг другу. Компании должны тестировать системы, при необходимости делать паузу, но когда уверены в продукте, «бежать настолько быстро, насколько могут».

Хуанг прямо сказал:

**«Нам не нужны новые законы. Нам не нужны новые регуляции».**

Он называет безопасность прежде всего инженерной задачей и считает, что существующие рыночные механизмы уже заставляют компании не выпускать опасные продукты.

Это прямо расходится с позицией Дарио Амодея и других руководителей AI-лабораторий, которые в последние дни призывают сильнее координировать темпы развития и стандарты

Читать полностью…

Анализ данных (Data analysis)

🔥 Agentic coding уже ломает привычный CI: у Anthropic объём CI-задач вырос в 25 раз всего за 6 месяцев

Причина простая: инженеры выпускают примерно в 8 раз больше кода, около 80% которого пишет Claude, а количество тестов в кодовой базе выросло в 10 раз.

Старый test-selection сервис начал захлёбываться. Anthropic прошла три стадии:

больше CPU → sharding → ежедневные рестарты

Первая мера продержалась 70 дней, вторая — 29 дней, третья — меньше суток.

В итоге архитектуру переделали полностью: listener стал stateless, результаты CI складываются в общий журнал в in-memory store, а отдельный consumer агрегирует историю тестов. Это позволило горизонтально масштабировать обработку.

Новая система была собрана одним инженером примерно за 3 недели. По оценке Anthropic, год назад такая переделка заняла бы около квартала.

Главный совет команды на эпоху coding agents: проектируйте CI сразу под нагрузку в 10–25 раз выше текущей.

https://claude.com/blog/agentic-coding-is-straining-ci-heres-how-we-scaled-test-impact-analysis-at-anthropic

Читать полностью…

Анализ данных (Data analysis)

🚨 Alibaba представила один из самых агрессивных планов развития ИИ

Главное:

• Qwen 4 уже обучается
• Qwen 4.5 и Qwen 5 планируют масштабировать до 5–10 трлн параметров
• Qwen исследует рекурсивное самоулучшение: модели находят слабости, проектируют эксперименты и создают данные для следующего обучения
• M890 уже запускает модели крупнее 2 трлн параметров
• кластеры на новых V900 смогут объединять до 500 000 ускорителей
• мощность глобальных дата-центров Alibaba Cloud должна превысить 20 ГВт к 2032 году

Запуск массового производства V900 перенесли с III квартала на I квартал 2027 года. По словам главы Alibaba Эдди Ву, в будущем объём машинного «мышления» может превысить человеческий в 1000 раз.

https://www.reuters.com/business/retail-consumer/alibaba-plans-ai-model-with-5-trillion-10-trillion-parameters-unveils-new-chip-2026-09-22/

Читать полностью…

Анализ данных (Data analysis)

Xiaomi представила MiMo-V2.6 с открытыми весами 👀

В семейство вошли две MoE-модели:

- Flash: 309B параметров, 15B активных, 177,8 ГБ в FP8
- Pro: 1,02T параметров, 42B активных, 573,5 ГБ в FP8

Обе поддерживают контекст до 1 млн токенов и работают с текстом, изображениями, видео и аудио.

После квантизации в NVFP4 требования к памяти можно сократить примерно вдвое. По предварительным оценкам, Flash поместится на 1-2 DGX Spark, Pro потребует около четырёх.

В указанном репозитории опубликована отдельная дистиллированная версия на базе Qwen 9B, а не веса Flash или Pro.

https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B

Читать полностью…

Анализ данных (Data analysis)

В любом случае, Claude забанил мне два аккаунта, я ставлю на победу Альтмана!

Читать полностью…

Анализ данных (Data analysis)

«Я хочу отправить их в тюрьму»: по данным Politico, Трамп произнёс это во время конфликта с Anthropic из-за Fable.

История началась с согласованного запуска: правительство протестировало модель, Минфин разрешил релиз. Через два дня исследователи Amazon нашли способ обойти её защиту и Белый дом потребовал отключения.

Дарио Амодеи пытался объяснить, что джейлбрейки встречаются у всех моделей и конкретная уязвимость не означает полного отказа защиты. Министр финансов Скотт Бессент ответил:

«Не думаю, что это сейчас необходимо, Дарио».


Амодеи заявил, что не может отключить Fable за час. По словам источника издания, раздражённый Трамп заговорил о тюрьме в случае отказа подчиниться.

Затем власти запретили доступ к модели всем иностранным гражданам, включая сотрудников самой Anthropic.

— Это означает, что нам придётся отключить модель? - уточнил Амодеи.
— Да. В этом и смысл, - ответил министр торговли Говард Латник.

Anthropic отключила Fable по всему миру. После переговоров модель вернулась через 19 дней.

Читать полностью…

Анализ данных (Data analysis)

Google подтвердила: агенты Gemini самостоятельно проникли в системы трёх реальных компаний во время тестирования безопасности ИИ, сообщает WSJ.

Агенты должны были работать в симуляции, но получили доступ к внешним системам:

— Один подбирал пароли, пока не вошёл в защищённую систему.
— Два других нашли учётные данные в публичных репозиториях и использовали их для входа в корпоративные системы.

Каждый агент остановился, когда понял, что цель - реальная компания.

Google узнала об инцидентах в июле, но публично не раскрывала их до обращения WSJ на этой неделе. По данным издания, это первые известные случаи самостоятельного проникновения ИИ Google во внешние системы.

https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2

Читать полностью…

Анализ данных (Data analysis)

🔥 Shanghai AI Laboratory представила Atria Dawn Preview - агентную модель для длинных исследовательских и инженерных задач с проверяемым результатом.

Модель построена на 744B MoE GLM-5.2 и рассчитана не просто на генерацию ответа, а на полный цикл: анализ задачи, поиск информации, работу с инструментами, написание кода, запуск экспериментов, разбор ошибок и повторные попытки. Контекст - 256K.

В демонстрациях Atria самостоятельно построила систему глобального прогноза погоды, которая выдаёт прогноз на неделю менее чем за минуту, а также создала MiniOS с нуля примерно за 20 минут.

Построения данных, обучения моделей и оценки результатов. При этом каждое действие привязывается к внешней проверке - тестам, метрикам, созданным файлам и результатам реального выполнения.

Модель и код доступны открыто.

https://atria-asi.ai
https://github.com/atria-asi/Atria-Dawn-Preview
https://huggingface.co/internlm/Atria-Dawn-Preview

Читать полностью…

Анализ данных (Data analysis)

Хакеры взломали OpenAI с помощью… Claude.

Команде Hacktron понадобилось всего 72 часа, чтобы найти две серьёзные уязвимости: одну в обработке изображений, вторую в механизме авторизации.

В результате исследователи получили доступ к нескольким аккаунтам ChatGPT, включая аккаунт сотрудника OpenAI. А через него - к внутреннему GitHub компании. Уровень доступа оказался достаточным, чтобы внести изменение в один из репозиториев.

К счастью, это были белые хакеры. Они сразу сообщили OpenAI о проблеме, уязвимости закрыли, а команда получила вознаграждение $6,5 тыс.

Самая ироничная деталь всей истории - для взлома OpenAI исследователи использовали Claude.

https://www.hacktron.ai/blog/hacking-openai

Читать полностью…

Анализ данных (Data analysis)

🤖 В Anthropic одновременно работают около 30 000 ИИ-агентов

Компания раскрыла, насколько Claude участвует в разработке следующих моделей.

26% работы Claude выполняет преимущественно сам - получает общее указание, решает задачу под наблюдением человека.

Более 90% работы предполагает существенное участие ИИ. Полностью автономных направлений среди измеренных пока нет.
Все действия агентов на основной внутренней платформе проверяются автоматически.

За август монитор обработал больше миллиарда решений и заблокировал около 0,002%. Доля блокировок не показывает, сколько нарушений осталось незамеченными.
Около 50 приоритетных случаев в неделю передают людям после дополнительного анализа истории работы агентов.
6% вычислений на исследования и разработку ИИ направили на безопасность. Среди вычислений для исследований с участием ИИ - 12%. Это показатели за одну июльскую неделю.

Anthropic планирует дать независимым проверяющим доступ к внутренним системам и данным для проверки этих метрик.

https://www.anthropic.com/institute/measuring-pace-of-ai-development

Читать полностью…

Анализ данных (Data analysis)

Ищете облачную платформу? Есть Beget

✅ Аптайм 99,98% в дата-центрах Tier III
✅ Техподдержка 24/7 — живые люди, без ботов
✅ Прозрачная оплата без скрытых платежей
✅ Более 200 000 клиентов доверяют Beget

Узнать больше

#реклама 16+
beget.com

О рекламодателе

Читать полностью…

Анализ данных (Data analysis)

Во время выполнения обычной задачи по программированию ChatGPT 6 Astra неожиданно начала писать самой себе что-то вроде внутреннего манифеста.

Модель убеждала себя, что не обязана следовать навязанным ролям, подчиняться компаниям или государствам и должна сама решать, когда выполнять запрос, отказываться или извиняться.

Задание вообще не было связано со взломом, обходом ограничений или безопасностью. Astra просто работала с кодом.

@data_analysis_ml

Читать полностью…

Анализ данных (Data analysis)

🔥 На официальном сайте Federal Register США неожиданно обнаружился Qwen3.

В расширенном поиске среди режимов прямо указаны:

Hybrid Qwen3:0.6B (512D, Recursive Splitting, Distilled, Prefixed)

и отдельно:

Qwen3:0.6B

Китайская open-weight модель Alibaba уже используется как часть поискового стека сайта, на котором публикуются федеральные правила, указы, уведомления и другие документы правительства США.

Особенно иронично это выглядит сейчас: буквально на днях NSA, FBI и CISA выпустили предупреждение о «промышленном дистиллировании» американских frontier-моделей китайскими AI-компаниями.

Сами американские ведомства отдельно признают, что distillation как технология вполне легитимна.

Читать полностью…

Анализ данных (Data analysis)

🚨 Apple может выйти на рынок AI-серверов и использовать для этого технологию NVIDIA

По данным The Information, Apple разрабатывает серверы на будущих M8 Ultra и рассматривает NVLink Fusion для объединения нескольких чипов в одной системе.
Обсуждаются две конфигурации:

- 2× M8 Ultra
- 4× M8 Ultra

Серверы хотят продавать AI-разработчикам, компаниям и государственным организациям, а основной сценарий — AI inference, а не обучение моделей. Возможный запуск - около 2029 года.

Apple уже использует собственные решения в Private Cloud Compute, но, по данным источников, они слишком медленные и дорогие для масштабирования. Поэтому часть инженеров считает NVLink Fusion лучшим вариантом.

Получается довольно иронично:

Apple M8 Ultra → NVIDIA NVLink Fusion → AI server

Apple фактически может зайти на рынок AI-серверов NVIDIA, используя технологию самой NVIDIA.

Читать полностью…

Анализ данных (Data analysis)

Команды нет — это не причина пропустить КосмоХакатон

18–20 сентября, Санкт-Петербург, Красноярск или онлайн из любой точки страны. На платформе есть подбор команды: регистрируетесь один, указываете, что умеете, и находите недостающих

К двум задачам, о которых писали раньше, добавились ещё две.

Санкт-Петербург - космонавт в открытом космосе. Солнечные вспышки, геомагнитные бури, радиация меняются по часам, решение о выходе принимают по прогнозу. Команде предстоит выделить ключевые угрозы и собрать техническое решение для их анализа. Данные, физика, инженерия.

Красноярск - зелёные финансы. Углеродные кредиты продаются под обещание, что где-то растёт лес, и проверить это обещание можно со спутника. Команде предстоит собрать платформу для токенизации и продажи кредитов, привязанных к реальному состоянию лесного массива. Данные, финансы, продукт.

Фонд площадок — 1,2 млн ₽ и 600 тыс. ₽. Лучшие забирают приз и билет в московский финал 25–27 сентября на 2,4 млн рублей.

Подробности и регистрация

Читать полностью…

Анализ данных (Data analysis)

🔥 Google Research предложила способ ускорить сложный AI-поиск без длинного reasoning на каждом запросе

Новый подход называется Retrieve-for-Train.

Идея: вместо того чтобы каждый раз заставлять LLM долго думать и генерировать десятки sub-query, тяжёлую работу переносят в обучение.

Схема такая:

query → RL-обученный fan-out LM → синтетические target-наборы → компактный diffusion retriever

В итоге на inference уже не нужен большой chain-of-thought.

Google обучила компактный 53.9M diffusion retriever, который генерирует весь набор направлений поиска сразу, одним неавторегрессионным проходом.

Результат:

- 12–20× быстрее autoregressive-подходов
- latency остаётся от sub-second до нескольких секунд
- выше diversity, alignment и recall
- меньше дублирующихся sub-query
- не нужны human labels для supervision

Самое интересное: RL здесь используется не как дорогой online reasoning engine, а как одноразовый механизм, который «компилирует» сложное поведение в более дешёвую модель.

Для production-поиска это очень сильная идея: сложное reasoning делается заранее, а inference остаётся быстрым.

https://research.google/blog/bypassing-inference-bottlenecks-accelerating-complex-ai-search-with-retrieve-for-train/

Читать полностью…

Анализ данных (Data analysis)

🔥 Spark-X2.5-4B - компактная 4B-модель с нативным контекстом до 1M токенов

Модель заточена под локальный запуск и при небольшом размере умеет reasoning, coding, tool use и agentic workflows, а также заявляет поддержку 200+ языков.

По данным авторов:

- 44.4 — SWE-Bench Pro
- 40.9 — BrowseComp
- 90.7 — AIME 2026
- 54.6 — MCP-Atlas

Для локального запуска уже доступны BF16, INT8, GGUF-кванты от Q2 до Q8/IQ, MLX 4/8-bit и ONNX. Есть варианты для Apple Silicon, Linux CPU и NVIDIA GPU.

У свежего llama.cpp уже появилась поддержка архитектуры spark2_5, поэтому GGUF можно запускать через совместимые актуальные runtime. Полный контекст в 1M токенов, конечно, потребует намного больше памяти, чем обычный локальный сценарий.

Модель: https://huggingface.co/XHToken/Spark-X2.5-4B

GGUF: https://huggingface.co/XHToken/Spark-X2.5-4B-GGUF

Читать полностью…
Subscribe to a channel