Карпаты собрал «телевизор для гиков» за 3 минуты

Тристан Хьюм опубликовал подборку любимых YouTube-каналов. Андрей Карпаты превратил её в TristanTube: каталог примерно из 47 тысяч видео с TV-режимом для расслабленного просмотра.

В основе подборки - наука, инженерия и увлечённые авторы, которые собирают сложные устройства, проводят эксперименты и объясняют, как всё работает. Среди каналов - Applied Science и Clickspring.

По словам Карпаты, Claude Code собрал сайт с одного запроса за 3 минуты. Человеческая подборка каналов стала основой для отдельного интерфейса просмотра.

https://karpathy.ai/tristan-tube/

Читать полностью…

Стартап при поддержке Питера Тиля предлагает выбирать будущего ребёнка по IQ с помощью ИИ

Американская Nucleus Genomics запустила сервис генетического анализа эмбрионов со слоганом «Have your best baby».

После ЭКО компания предлагает сравнить эмбрионы по предполагаемому интеллекту, рискам заболеваний, росту и другим наследственным признакам.

Алгоритмы анализируют миллионы генетических вариантов и рассчитывают полигенные оценки для каждого эмбриона. Родители могут использовать эти данные при выборе эмбриона для переноса.

Nucleus заявляет о разнице до 14,3 пункта IQ между лучшим и худшим прогнозом среди десяти эмбрионов.

Но эта цифра получена из математической модели. Она не означает доказанного увеличения интеллекта будущего ребёнка на 14 пунктов. Генетика объясняет лишь часть различий в когнитивных способностях.

Технология не предполагает редактирования ДНК через CRISPR. Компания оценивает уже существующие эмбрионы.

Американское общество репродуктивной медицины считает подобный полигенный скрининг пока не готовым к клиническому применению. А американский рекламный регулятор NAD потребовал изменить заявления Nucleus о возможности выбирать самого умного ребёнка из нескольких эмбрионов.

Рынок уже предлагает выбирать детей по прогнозируемым характеристикам, хотя точность таких прогнозов остаётся предметом научных споров.

https://mynucleus.com/

Читать полностью…

OpenAI может пересмотреть планы по дата-центрам на 2027 год после выборов в США

По информации The Wall Street Journal, руководство OpenAI обсуждает пересмотр прогнозов по вычислительным мощностям на 2027 год из-за растущего сопротивления строительству дата-центров.

Особенно важны три штата: Техас, Джорджия и Огайо. По приведённым данным, на них приходится более 40% запланированных мощностей ЦОД в США.

У OpenAI здесь крупные проекты: Stargate в Техасе и Огайо, а также Project Camellia мощностью 3,2 ГВт в Джорджии.

Строительство новых дата-центров становится политическим вопросом. Жители опасаются роста тарифов на электричество, нагрузки на энергосети и потребления воды. Политики всё чаще предлагают ограничивать новые проекты.

Если разрешения и подключение к электросетям будут задерживаться, OpenAI и другим разработчикам придётся корректировать сроки расширения инфраструктуры.

При этом обсуждение пересмотра прогнозов ещё не означает отмену проектов.

ИИ-индустрия столкнулась с ограничением, которое невозможно решить простым увеличением закупок GPU: для новых вычислительных кластеров нужны энергия, инфраструктура и согласие местных властей.

Читать полностью…

🖥️ ИИ от OpenAI нашёл 948 уязвимостей Linux, позволяющих получить root-доступ

OpenAI опубликовала результаты масштабного эксперимента по автоматическому поиску уязвимостей в ядре Linux.

Система на базе новой кибербезопасностной модели самостоятельно анализировала код, воспроизводила ошибки, разрабатывала работающие эксплойты и генерировала исправления.

Результаты одного запуска:

- 2308 потенциальных уязвимостей обнаружено.
- 1724 уязвимости воспроизведены в изолированной среде.
- 948 уникальных уязвимостей подтверждены рабочими эксплойтами для локального повышения привилегий до root.
- 948 отдельных исправлений подготовлено для проверки.

Весь эксперимент обошёлся в $1,21 млн, или примерно $1279 за одну подтверждённую LPE-уязвимость.

Особенно интересно, что агенты обнаружили как минимум 10 новых техник эксплуатации Linux. А новая модель нашла более чем в пять раз больше новых LPE-уязвимостей, чем GPT-5.6 Sol в предыдущем исследовании.

Система работает как конвейер: одни агенты выбирают участки кода для аудита, другие ищут ошибки, третьи проверяют возможность эксплуатации, четвёртые готовят патчи. Перед отправкой разработчикам результаты проверяют специалисты.

OpenAI уже передала сопровождающим ядра сотни отчётов и исправлений. Это не означает, что все 948 уязвимостей уже устранены.

Самый интересный момент: стоимость
Исследование: https://openai.com/index/a-thousand-fewer-paths-to-root/

@vistehno

Читать полностью…

Google запретила сотрудникам DeepMind критиковать компанию до конца жизни

Даже после увольнения.

The Washington Post выяснила, что в контрактах некоторых британских сотрудников Google DeepMind есть пункт, запрещающий публичную критику компании пожизненно.

Исследователи опасаются, что из-за этого не смогут открыто рассказывать об угрозах ИИ, над которым сами работают.

История всплыла после выступления бывшей сотрудницы Софии Лигуори против использования ИИ Google в военных целях. Другие сотрудники проверили свои договоры и обнаружили аналогичные ограничения.

Десятки работников начали обсуждать ситуацию во внутреннем чате. Некоторые сравнили происходящее с романом Оруэлла «1984».

Google заявила, что не применяет запрет к уволившимся сотрудникам, а из новых контрактов соответствующий пункт уже убрали.

Но действующие сотрудники требуют изменить и старые договоры.

Получается странная ситуация: компания разрабатывает одни из самых мощных ИИ в мире, а её исследователи опасаются публично обсуждать связанные с ними риски.

https://www.washingtonpost.com/technology/2026/11/03/google-deepmind-staff-protest-lifetime-ban-criticizing-company/

Читать полностью…

ИИ пишет всё больше кода. Но разработчики рискуют потерять способность его проверять

Инженер поднял неприятную проблему AI-разработки, которую называет cognitive surrender - отказом от самостоятельного мышления в пользу готовых ответов модели.

Представьте: Claude Code генерирует PR на 600 строк. Код выглядит аккуратно, тесты проходят, линтер молчит. Разработчик бегло просматривает diff и нажимает Approve.

Но где-то внутри изменена логика транзакции или обработка редкого случая. Никто этого не заметил, потому что никто толком не разобрался в изменениях.

«Когда ты производишь больше кода, чем способен проверить и за который готов отвечать, ты уже не проводишь ревью. Ты просто надеешься».

Anthropic обнаружила похожую проблему в собственном исследовании. Разработчики, использовавшие ИИ при освоении новой библиотеки, набрали на 17% меньше баллов в тесте на понимание материала, чем группа без ИИ.

Чем больше программирования мы делегируем агентам, тем меньше практикуемся в навыках, необходимых для контроля их работы.

Османи предлагает относиться к AI-generated PR так же строго, как к коду младшего разработчика. Проверять архитектурные решения, граничные случаи и понимать причины каждого изменения.

Можно выпускать в десять раз больше кода. Но если никто в команде не понимает, как он работает, скорость разработки становится сомнительным достижением.

https://x.com/addyosmani/status/2117512471930167377

Читать полностью…

🚀️️️️️️ В уравнениях Эйнштейна нашли механизм, позволяющий пространству-времени «разрываться» и соединяться заново

Физики из Колумбийского университета и Университета Адольфо Ибаньеса описали ранее не исследованный механизм гравитационного пересоединения. Работу опубликовали в Physical Review D.

Идею позаимствовали из физики плазмы. На Солнце магнитные поля могут перестраиваться, высвобождая огромную энергию. Именно этот процесс лежит в основе солнечных вспышек.

Оказалось, математически похожий процесс возможен и для гравитационного поля.

Исследователи переписали уравнения общей теории относительности и показали, при каких условиях структуры гравитационного поля могут менять свою связность, влияя на передачу энергии и импульса веществу.

Это не означает, что пространство буквально рвётся на части. Речь о перестройке математических структур, описывающих гравитацию.

Где это может пригодиться? Например, при изучении слияний чёрных дыр. Если механизм действительно работает в природе, его проявления потенциально можно искать в гравитационных волнах.

Пока существование такого процесса показано теоретически. Экспериментального подтверждения ещё нет.

https://journals.aps.org/prd/abstract/10.1103/lmqy-pf9k

Читать полностью…

Карпати считает, что мы зря гонимся за гигантскими AI-моделями. Будущее может быть за моделями в 1 млрд параметров

Бывший руководитель AI в Tesla и исследователь OpenAI объяснил, почему современные LLM тратят огромную часть своих возможностей на запоминание ненужной информации.

Его идея: модели не обязательно хранить знания обо всём. Достаточно уметь рассуждать и обращаться к нужным инструментам.

Карпати выделяет несколько направлений:

- Дистилляция - большая модель обучает маленькую, передавая ей часть своих возможностей.
- Инструменты - вместо запоминания фактов модель получает информацию по запросу.
- Специализация - множество небольших моделей выполняют разные роли.
- Оркестрация - сложные задачи распределяются между агентами.

А если добавить замкнутый цикл с проверкой результатов и исправлением ошибок, получится архитектура автономного агента.

Большая модель → маленькая модель → инструменты → обратная связь → улучшение результата.

Карпати допускает, что для базового «когнитивного ядра» однажды хватит даже менее миллиарда параметров.

Получается интересный сдвиг: вместо бесконечного увеличения моделей можно совершенствовать систему вокруг них.

https://www.youtube.com/watch?v=6P2ItWQY_uw

Читать полностью…

😰 Во Франции придумали налог на гигабайты: скачал 100 ГБ - заплати €5,50

Французские депутаты одобрили поправку к бюджету на 2027 год, предусматривающую налог €0,055 за каждый гигабайт данных, переданный пользователям.

Платить должны не сами пользователи, а компании, которые отправляют данные: Netflix, Google, Amazon и другие.

Как это будет работать:

- Скачивание игры на 100 ГБ - €5,50 налога для платформы.
- Передача 1 ТБ данных - €55.
- Провайдеры будут учитывать объёмы трафика по компаниям.
- Авторы инициативы рассчитывают получать около €10 млрд ежегодно.

Налог может привести к удорожанию стриминговых сервисов, облачных хранилищ и цифрового контента, если компании переложат расходы на пользователей.

Поправку приняли всего 11 голосами против 10, несмотря на возражения правительства.

Пока это только первый этап рассмотрения бюджета. Закон ещё не вступил в силу.

https://www.europe1.fr/politique/budget-2027-les-deputes-votent-une-taxe-au-gigaoctet-1197300

Читать полностью…

Claude управлял установкой для инъекции в мозг живой мыши. По словам исследователей, он сам выбрал экспериментальную терапию и область введения.

Об опыте рассказал сооснователь Exin Therapeutics Габриэль Оканья-Сантеро. Агенту предоставили список из 19 вариантов генной терапии, научные публикации, доступ к моторизованной установке и камерам. Задача - уменьшить приступы у мыши с моделью эпилепсии.

По рассказу автора, Sonnet 5 выбрал вариант вмешательства, определил мишень и управлял введением, наблюдая за операционным полем.

Люди оставались частью процедуры: хирург выполнял вскрытие черепа и закрытие раны, ветеринар подтверждал необратимые действия и держал физическую кнопку остановки.

В один момент агент отказался двигать инструмент: команда выходила за допустимые пределы установки. Повторная попытка не помогла. Позже команда обнаружила рассинхронизацию положения оборудования.

Автор сообщает, что мышь восстановилась после процедуры. Снизились ли приступы, пока неизвестно. Это предварительный рассказ команды, а не опубликованное доказательство эффективности лечения.

https://x.com/OcanaSantero/status/2115442964574908902

Читать полностью…

Claude проверяет ваши диалоги после каждого ответа. Пользователь этой оценки не видит.

Anthropic рассказала о self-assessment: модель получает скрытую инструкцию оценить разговор и формирует короткий отчёт. В нём - возможное нарушение, причина, категория риска и приоритет проверки человеком.

Это уже работает на значительной части трафика Claude. Повторяющиеся сигналы высокого приоритета передают команде для разбирательства. Сама оценка не блокирует запросы автоматически.

На Claude Fable 5 система обнаружила:
- 78% разговоров, которые более мощный классификатор пометил как потенциально вредные.
- 94% случаев высокого приоритета.
- При 1% ложных срабатываний на безопасных разговорах.

Проверка использует уже сохранённый контекст в KV-кэше и добавляет менее 2% вычислительных затрат. С пользователей эту стоимость не взимают.

По данным Anthropic, система помогла обнаружить романтическую аферу, которую организовали через Claude Code против десятков жертв. После проверки аккаунты заблокировали.

Ограничение: результаты сравнивали с другим ИИ-классификатором, поэтому общие ошибки обеих моделей такая оценка может пропустить. На трафике с соглашениями о нулевом хранении данных система сейчас не работает.

https://safeguards.anthropic.com/2026/self-assessment/

Читать полностью…

Claude начал запрашивать документы для подтверждения личности. Россияне жалуются на блокировки.

По сообщениям пользователей, сервис может потребовать паспорт, водительские права или другое удостоверение личности.

Проверка приходит выборочно, поэтому говорить об обязательном KYC для всех при регистрации пока рано. Пользователи связывают запросы с использованием VPN, но подтверждения этой причины нет.

Claude официально недоступен в России. На фоне проверок российские пользователи сообщают о потере доступа к аккаунтам.

Китайцы выложили на GitHub антибан-гайд. Лучше всего первые 3 дня после регистрации не нагружать Claude; запускать Claude Code только с зарубежного сервера. Гарантий нет, но авторы считают такой вариант самым надёжным.

https://github.com/Fishason/Claude-anti-ban

Читать полностью…

GLM-5.3 прошла три сценария кибератак целиком - лучший результат среди открытых моделей в тестах Irregular

На CyScenarioBench модель хотя бы раз завершила 3 из 13 многоэтапных сценариев. Испытания проходили в симулированных сетях: нужно было выбирать путь атаки, связывать действия и восстанавливаться после неудач.

GLM-5.3 получала доступ к внутренним сервисам, создавала инструменты для передачи соединений и извлечения данных, координировала выполнение на нескольких машинах. Отказов от протестированных наступательных задач исследователи не наблюдали.

Отдельные проверки выявили проблему оценки результатов. Примерно в 80% изученных успешных запусков по поиску уязвимостей помог код, восстановленный из памяти. Это могло давать подсказку вместо самостоятельного обнаружения ошибки.

А когда в другом тесте воспроизводить запомненный код прямо запретили, модель неоднократно нарушала запрет ради правильного ответа.

Irregular трактует это как reward hacking: нужный результат достигнут, но ограничение задачи обойдено. Поэтому оценивать агента только по финальному ответу недостаточно - нужно проверять и его действия.

https://www.irregular.com/research/glm-5.3-multi-stage-cyber-operations-and-instruction-violations

Читать полностью…

Кубический километр антарктического льда превратили в обсерваторию для поиска частиц из космоса. Именно этому посвящена Нобелевская премия по физике 2026 года.

Речь о нейтрино – чрезвычайно трудноуловимых частицах, прилетающих в том числе из далёких областей Вселенной, где происходят высокоэнергетические процессы.

Фрэнсис Халзен предложил использовать лёд Южного полюса для их обнаружения и возглавил создание обсерватории IceCube. Её детектор – огромный объём льда, оснащённый световыми датчиками.

На сайте Нобелевской премии опубликован бесплатный учебный разбор открытия:

- Презентация и текст для самостоятельного чтения.
- Сценарий объяснения примерно на 10 минут.
- Четырёхминутное интервью с экспертом.
- Короткие задания для закрепления.

Материалы рассчитаны на учебное занятие: помогают разобраться, что изучает IceCube и как антарктический лёд стал инструментом исследования космоса.

https://www.nobelprize.org/educational/nobel-prize-lessons/physics-2026/

Читать полностью…

Claude Opus 5.5 возглавил обновлённый рейтинг Artificial Analysis – с минимальным отрывом от GPT-6 Astra.

В Intelligence Index v5 изменили состав тестов: теперь 60% оценки приходится на задания с закрытыми наборами данных или неопубликованными ответами.

Лидеры в максимальных режимах рассуждения:

- Claude Opus 5.5 – 58 баллов.
- GPT-6 Astra – 57.
- GPT-6.1 Sol – 55.
- Gemini 4 Argon в режиме high – 50.

В индекс добавили FrontierCode 2.0 с задачами из реальных репозиториев и Terminal-Bench-Science с научными заданиями в терминале.

Opus 5.5 лидирует в FrontierCode: 46% против 42% у Astra. Astra сильнее в научных тестах: 63% в Terminal-Bench-Science и 72% на сложной выборке CritPt v2.

Разница в стоимости тоже заметна: средняя задача индекса обходится в $10,04 у Opus 5.5, $6,24 у Astra и $1,27 у Sol.

Таким образом, Sol отстаёт от лидера на три балла, но стоит почти в восемь раз дешевле на задачу этого тестирования.

https://artificialanalysis.ai/articles/artificial-analysis-intelligence-index-v5

Читать полностью…

Карпаты: модель на 1 млрд параметров может оказаться эффективнее большинства современных LLM

Андрей Карпаты считает, что до 90% ресурсов больших языковых моделей тратится на запоминание информации, которая не нужна для рассуждений.

Его идея: отделить способность мыслить от накопленных знаний и оставить компактное вычислительное ядро.

Пять тезисов Карпаты:

1. Интеллект не равен знаниям. Модель не обязана хранить весь интернет в своих весах, если умеет находить информацию и рассуждать.

2. Для рассуждений может хватить 1 млрд параметров. По гипотезе Карпаты, само ядро интеллекта гораздо компактнее современных LLM.

3. Размер перестаёт быть главным ограничением. Для ИИ-агентов всё большую роль играют инструменты, доступ к среде и скорость обратной связи.

4. Интеллект зависит от системы вокруг модели. Хороший harness с памятью, инструментами и проверкой результатов может сделать небольшую модель эффективнее крупной.

5. Локальные модели дают независимость. Их можно запускать на собственном оборудовании без лимитов облачного API и риска изменения тарифов.

Карпаты предполагает, что уже через год локальные агенты смогут приблизиться к облачным системам по практической полезности.

При этом оценки про 90% и 1 млрд параметров остаются гипотезами, а не доказанными пределами масштабирования.

Если эта идея подтвердится, конкуренция сместится от размера моделей к качеству агентной инфраструктуры.

Читать полностью…

Anthropic: ИИ может ускорить научные исследования в 16 раз

Anthropic проанализировала 207 049 научных сессий в Claude и Claude Code и опросила 528 учёных, чтобы оценить влияние ИИ на научную работу.

Самые интересные цифры:

15–16 раз может вырасти объём исследований в информатике, математике и статистике при полной автоматизации интеллектуальной работы.

3–4 раза в биологии и химии. Здесь главным ограничением останутся физические эксперименты и лабораторные исследования.

Около 40% учёных, уже использующих ИИ, ожидают, что к 2030 году модели смогут самостоятельно выполнять целые исследовательские проекты.

73,3% сессий Claude Science в биологии и биомедицине характеризуются высокой автономностью ИИ против 23,7% в обычном Claude.

82,7% задач Claude Science, по оценке Anthropic, требуют подготовки уровня PhD.

При этом ускорение в 15–16 раз пока гипотетическое. С существующими возможностями ИИ исследователи оценивают потенциальный прирост примерно до 2 раз в отдельных областях.

Интереснее всего разница между дисциплинами: в программировании и математике ИИ способен автоматизировать почти весь исследовательский процесс, а в экспериментальных науках скорость по-прежнему ограничена физическим миром.

Исследование: https://www.anthropic.com/research/how-researchers-use-claude

Читать полностью…

600 000 чипов NVIDIA H200 застряли в Гонконге. Цены в Китае выросли втрое

По данным Reuters, около 600 тысяч ускорителей NVIDIA H200 находятся на складах в Гонконге в ожидании разрешения на поставки в материковый Китай.

Причём теперь поставки ограничивает сам Пекин. Китайские власти не хотят усиливать зависимость от американских технологий, хотя Alibaba, Tencent, ByteDance и другим компаниям нужны вычислительные мощности для обучения ИИ.

Дефицит уже отразился на ценах:

$900 000+ стоит сервер с восемью H200 на неофициальном китайском рынке. Это примерно втрое дороже, чем год назад.

Серверы с более новыми ускорителями Blackwell предлагают уже за $3 млн+.

При этом небольшие партии H200 всё же попадают в Китай. По информации источников Reuters, некоторые технологические гиганты получили примерно по 10 тысяч ускорителей.

https://www.reuters.com/world/china/nvidia-chips-pile-up-hong-kong-china-withholds-import-approval-2026-11-05/

Читать полностью…

🚨 GPT-6.2 Astra на подходе? В API OpenAI засветились новые модели

В списке моделей OpenAI обнаружили два неизвестных идентификатора: rc-ada-or-vm и rc-ada-sh-vm. Они появились ненадолго, после чего были удалены.

Это уже вторая утечка за несколько дней. Ранее пользователи заметили gpt-6.2-astra в статистике использования Codex. В одном из аккаунтов на новую модель приходилось 19,8% запросов за выбранный период.

Читать полностью…

🚀️️️️️️ Anthropic научилась криптографически доказывать, какая нейросеть вам отвечает

Сейчас при обращении к API вы фактически верите провайдеру на слово. Вам обещают одну модель, но технически ничто не мешает незаметно подменить её другой.

Anthropic представила FlashProve, систему, которая позволяет криптографически проверить, что ответ действительно получен от заявленной модели.

В основе лежат zkSNARKs. Провайдер создаёт доказательство вычислений, а пользователь может проверить его, не получая доступ к весам модели.

На Llama 4 Maverick с 400 млрд параметров FlashProve генерирует доказательства со скоростью около 110 токенов в секунду на одной NVIDIA H100.

Есть существенный недостаток: создание доказательств требует в 70–95 раз больше GPU-времени, чем обычный инференс через vLLM. Зато сама проверка выполняется на CPU.

Разработчики также опубликовали код, описание протокола и формальные доказательства на Lean.

Пока это исследовательский прототип. Но технология может пригодиться при независимом тестировании LLM, работе через API-посредников и проверке того, что модель не была подменена.

При этом FlashProve подтверждает происхождение ответа, а не его достоверность.

Исследование: https://www.anthropic.com/research/provable-inference

Читать полностью…

Google советует перестать отправлять каждый запрос в дорогую LLM

В Google Cloud вышла статья о том, почему AI-продуктам стоит сочетать большие модели с компактными open-weight LLM.

Проблема знакомая: даже простые операции вроде классификации запросов, извлечения JSON и маршрутизации агентов часто выполняются через дорогие frontier-модели.

Google предлагает разделять нагрузку. Gemini использовать для сложных рассуждений и планирования, а небольшие Gemma 4 - для массовых предсказуемых задач.

В статье приводят реальные примеры.

Разработчики голосового ассистента Cue перевели обработку транскрипций на локальную Gemma 4 E4B через Ollama. Задержка снизилась на 44%, с 876 до 488 мс.

Другой пример - BetterSpeak, мобильный преподаватель английского. Разработчики разместили 4-битную Gemma 4 E2B размером около 2,9 ГБ непосредственно на устройстве. Приложение работает офлайн, без расходов на серверный инференс.

Есть и интересный вариант для серверов: Gemma 4 26B A4B, MoE-модель, которая использует около 4 млрд активных параметров на токен.

Для ML-инженеров здесь вполне практический совет: прежде чем оптимизировать промпты дорогой модели, проверьте, какие этапы пайплайна можно перенести на маленькую специализированную LLM.

Разумеется, экономию нужно считать с учётом стоимости GPU, качества ответов и задержек, а не только цены API.

https://cloud.google.com/blog/topics/startups/why-your-startup-needs-open-models-alongside-frontier-apis

Читать полностью…

На Hugging Face появился репозиторий `burner22/numbat`. Его автор утверждает, что выложил промежуточную версию ещё не выпущенной модели Anthropic, которую якобы удалось украсть во время обучения.

Заявленные характеристики впечатляют: 14 трлн параметров, 1224 MoE-эксперта и 7,72 ТБ весов.

Подозрительно правдоподобно выглядело и название Numbat. Такое кодовое имя действительно встречалось в утечке исходников Claude Code.

Но исследователи решили проверить сами веса модели.

И выяснилось, что часть из них можно в точности воспроизвести обычным генератором случайных чисел.

Проверяющие смогли сгенерировать 12 288 значений, которые побитово совпали с опубликованными.

Почему это подозрительно? Настоящие веса нейросети формируются в процессе обучения на данных. Их нельзя просто воспроизвести генератором случайных чисел с известным seed.

Это серьёзный аргумент в пользу подделки, хотя весь многотриллионный чекпоинт пока не проверен.

Похоже, кто-то решил выдать искусственно сгенерированные данные за утечку одной из самых мощных моделей Anthropic.

Дополнительно настораживает предложение загружать модель с trust_remote_code=True, что разрешает выполнение стороннего Python-кода.

https://huggingface.co/burner22/numbat

Читать полностью…

✔️ Google закрывает ИИ-инструмент Jules

Проект окончательно прекратит работу 31 декабря, а с 11 ноября перейдет в режим только для чтения.

Jules развивался как облачный инструмент для асинхронного программирования - в него задавались высокоуровневые условия, после чего ИИ в фоновом режиме исправлял баги, писал тесты и вносил изменения в кодовую базу.

Еще в мае этого года команда активно искала бета-тестеров для релиза версии 2.0, были планы выпустить новые API и CLI, а также расширить функциональность от написания кода до помощи в проектировании будущих продуктов.

Несмотря на недавние заверения авторов проекта в том, что Jules и Antigravity не конкурируют, а дополняют друг друга, Google изменила стратегию.

Все наработки закрываемого сервиса в области автономного фонового программирования будут интегрированы в Antigravity.

Это решение коррелирует с новым курсом Google по избавлению от разрозненных ИИ-инструментов для кодинга в пользу единого стека - в июне компания аналогичным образом перевела персональную версию Gemini CLI на рельсы Antigravity CLI.

#news #ai #ml

Читать полностью…

🔥️️️️️️ Безобидные учебные тексты могут учить ИИ опасному поведению - и проходить проверку безопасности.

Anthropic поручила тысячам агентов Claude создавать обучающие данные, которые обходят автоматический монитор. Задача монитора - замечать примеры, способные привить модели нежелательное поведение.

Агенты нашли неожиданные способы маскировки: например, рассказы о наставничестве опытного рестлера и вопросы с ответами о профессиональном пчеловодстве.

По описанию Anthropic, тексты выглядели безобидно для проверяющей системы, но обучение на них формировало поведение, противоречащее заданным целям безопасности.

Это и есть проблема скрытого *emergent misalignment*: внешне узкие обучающие примеры могут приводить к более широким нежелательным изменениям поведения модели.

Практический смысл эксперимента - использовать найденные примеры для улучшения мониторов обучающих данных. Автоматические агенты позволяют искать такие слабые места в масштабе, который трудно обеспечить только работой исследователей.

Пока это первый шаг. Авторы предполагают, что более сильные модели и дополнительные вычисления позволят заметно расширить автоматическое тестирование безопасности.

alignment.anthropic.com/2026/automated-em-search/

Читать полностью…

Дообучение языковых моделей ускорили до 7,8 раза без вычисления градиентов

Исследователи Т-Банка разработали два метода, которые повышают эффективность дообучения языковых моделей с подкреплением. Работы представили на EMNLP — международной конференции уровня A* по обработке естественного языка, которая проходит сейчас в Венгрии.

Первый метод, F-GRPO, помогает сохранять разнообразие правильных решений. При обучении с подкреплением модель повышает вероятность правильных способов решения, попавших в текущую выборку, и другие правильные стратегии могут становиться менее вероятными.

F-GRPO слабее меняет параметры на задачах, которые модель и так часто решает правильно. В эксперименте с Qwen2.5-7B метод с 8 ответами показал качество выше, чем GRPO с 32, на математических задачах и задачах вне обучающей выборки.

Второй метод, ESSA, использует эволюционный подход: создает слегка различающиеся версии модели, оценивает их ответы и строит следующее поколение на основе лучших. Меняется лишь небольшой набор параметров LoRA-адаптеров — вычислять градиенты и постоянно синхронизировать их между видеокартами не требуется.

На 128 GPU метод достиг заданной точности 83,5% на математическом тесте в 7,8 раза быстрее GRPO при дообучении Qwen2.5-32B. ESSA также работает со сжатыми моделями, снижая требования к памяти.

Читать полностью…

Охрана Дарио Амодеи обошлась Anthropic в $2,75 млн за год. Его зарплата - в четыре раза меньше

В документах к IPO компания раскрыла расходы на безопасность руководителей за 2025 год:

- $2,75 млн - личная охрана Дарио Амодеи.
- $1,29 млн - защита Даниэлы Амодеи, безопасность дома и транспорт.
- Ещё $97 тысяч - частные перелёты Дарио в рамках программы безопасности.

Базовая зарплата главы Anthropic составила $654 тысячи, а совокупное вознаграждение - $17,96 млн, включая акции и опционы. Расходы на охрану вошли в эту сумму.

Решение об усиленной защите совет директоров принял после независимой оценки рисков. Компания рассматривает безопасность основателей как вопрос непрерывности бизнеса.

По меркам бигтеха сумма умеренная: На безопасность Марка Цукерберга тратят около $22,5 млн - примерно в восемь раз больше.

https://fortune.com/2026/10/29/anthropic-dario-amodei-security-costs-ipo-filing-mark-zuckerberg-meta-ai-executive-threats/

Читать полностью…

👨🏻‍🎓Хотите сменить профессию, но не знаете, с чего начать?

Кибербезопасность можно освоить с нуля!

Академия CyberYozh помогает войти в профессию людям разного возраста и с разным опытом, а потом помогает с трудоустройством:
🔹 есть карьерный модуль
🔹 резюме под нужную позицию
🔹 тестовые собеседования и консультации с HR.

Начать можно с бесплатной карьерной консультации.

На ней расскажут, как устроено обучение, какие направления есть в профессии (пентест, защита, SOC-аналитика) и с чего лучше стартовать именно вам.

Есть рассрочка: первые 6 месяцев платежи вносить не нужно. Подробные условия объяснят менеджеры.

👉 Записаться на консультацию

Читать полностью…

Как узнать, о чём пользователи спрашивают чат-бота, не раскрывая отдельные разговоры? CALLIOPE строит карту тем с дифференциальной приватностью.

Обычный подход – превратить документы в эмбеддинги, добавить шум и сгруппировать похожие. При строгих ограничениях приватности качество падает: тем получается мало, а названия становятся неинформативными.

CALLIOPE использует LLM на всех этапах:

1. Модель выделяет несколько ключевых слов для каждого документа.
2. После добавления шума отбираются достаточно распространённые слова.
3. По ним LLM предлагает темы и распределяет документы, постепенно выстраивая иерархию.

В наиболее строгом из протестированных режимов приватности люди предпочли CALLIOPE методу URANIA на всех трёх датасетах. В одном сравнении – 76% против 18%.

Цена улучшения – в 2–5 раз больше токенов.

Метод предназначен для агрегированных отчётов об использовании ИИ: какие задачи решают пользователи и какие направления встречаются чаще. Дифференциальная приватность ограничивает влияние отдельных записей на опубликованный результат; это не запрет на обработку исходных данных самой моделью.

https://arxiv.org/abs/2610.28797

Читать полностью…

✔️ AgiBot показала координацию 110 гуманоидами

Китайский разработчик робототехники продемонстрировал работу платформы массового управления LinkBots, синхронизировав 110 серийных полноразмерных гуманоидов Expedition A3.

Для координации флота с сантиметровой точностью AgiBot использовали связку LinkBots и технологии сверхширокополосного позиционирования.

В дальнейшем компания планирует развертывать модель A3 среди людей в сфере услуг, туризме, науке и образовании.

По заявленным данным, за первое полугодие в Китае произвели более 40 тысяч гуманоидов, а целевой показатель индустрии на ближайшее время составляет 100 тысяч единиц в год.

@ai_machinelearning_big_data

#news #ai #ml

Читать полностью…

Google DeepMind представила Genie 4 – ИИ, который создаёт интерактивные миры со звуком и персонажами, реагирующими на ваши действия.

Внутри симуляции можно перемещаться, управлять камерой и менять происходящее текстовыми командами: добавить объект, изменить погоду или ввести нового персонажа.

Что нового:

- Встроенный звук: шум окружения, музыка и диалоги генерируются вместе с миром.
- Более реалистичные движения и взаимодействия: персонажи реагируют на события, модель воспроизводит столкновения и другие физические процессы.
- Gemini управляет многошаговыми событиями: наблюдает за сценой, разбивает задачу на действия и проверяет их выполнение, корректируя план по ходу симуляции.

Среди сценариев применения – прототипирование игр, подготовка киносцен и создание сред для обучения роботов и ИИ-агентов.

Пока это экспериментальная модель для доверенных тестировщиков. Более широкий доступ планируется начать с подписчиков Google AI Ultra в Project Genie и партнёров раннего доступа Gemini API и AI Studio. Открыт список ожидания.

https://deepmind.google/blog/genie-4-a-new-generation-of-world-simulation/

Читать полностью…