4255
❤️☠️🤗 идейная миграция небытия
Слава богу у нас есть такие замечательные компании которые спасут нас от апокалипсиса.
Читать полностью…
Jane street quant interviewing at Anthropic:
“So imagine our safety team believes a new model has a 5% chance of causing an irreversible loss of human control, but scaling it may be necessary to keep up with competitors. What do you do?”
“Who came up with five?”
“Our safety team.”
“And what does the capabilities team have?”
“What?”
“Same contract. Where are they?”
“This is more of a values question.”
“Then you don’t have a five. I would put the two teams in a room. Safety can buy at five. Capabilities can sell. Increase size until somebody becomes uncomfortable. Now we know something.”
He looks at me.
“This isn’t some market-making role.”
“Understood. Who makes the market currently?”
“Nobody makes a market.”
“Then how are you doing price discovery?”
“We don’t do price discovery. We have researchers studying alignment, interpretability, dangerous capabilities, scalable oversight— you know what I don’t think this is a good fit”
He closes his laptop.
“I’m concerned you see this as an opportunity to make money.”
“I haven’t quoted you yet.”
Interview ends early
Теперь официально: погнали пить кофе в Лондоне.
23 сентября выступаю на конференции Applied Machine Learning for Cyber Security Conference в Лондоне, Olympic Park с докладом «Does a model know when a jailbreak is working?»
TLDR на вопрос доклада: возможно, да, но у нас есть много свободных переменных, из-за которых мы не можем надежного отличить "знание" от случайного результата без предварительных приседаний и проверок.
Вдруг кто-то будет мимо-проходить, заходите. В любом случае потом поделюсь впечатлением — для меня это что-то новое =)
Вообще говоря, AMLUCS — сильная британская конфа на стыке ML и кибербезопасности, с прикладным уклоном. Например, в оргкомитете есть Джон (John Sotiropoulos) из OWASP GenAI Security Project (авторы OWASP Top 10 for LLM Applications, я туда даже ручку прикладывала).
В докладах буду принимать участие исследователи из NCSC, Dstl, Alan Turing Institute, AI Red Team в Microsoft, AWS и профильных security-стартапов. И я — как лид HiveTrace — мы тоже сильный профильный стартап 🗿
P.S., да, это к тому, что мне дали визу, и ждун дождался. Я рада и вместе с этим волнуюсь — у меня на конфе и talk, и постер, а я давно не выступала очно (кажется, с зимы). И в целом — формат, форма и сообщество (кибербез) новый. Такие дела!
Соревнование "deepseek encoder sota" объявляю открытым
Читать полностью…
Anthropic первым решил уравнение Навье-Стокса
Но решение OpenAI более элегантное
Нет, это не так. Ты вообще знаешь, что такое уравнение уравнение Навье Стокса?
Нет, а ты?
Нет
"я потом записи посмотрю"
конечно посмотришь, солнышко. сразу после 146 пейперов в избранном и курса по CUDA, который ты начал в 2022
19 сентября будет Practical ML Conf от Яндекса. я в программном комитете: смотрю доклады, хожу на прогоны, задаю вопросы, после которых меня перестают любить спикеры
с вас просто прийти. Москва или онлайн, отмазку я в другой стране уже пофиксили
регайся, пока опять не сохранил на потом
https://extropic.ai/writing/z1t/
Читать полностью…
Зови меня Эпштейном!
??
У меня доступ к ранним моделям!
Ещё одно доказательство что мы живём в пелевине. Уважаемые сотрудники гигачата когда обучите свой fable level модель пожалуйста назовите ее БИИ "Калинка"
Читать полностью…
А не работает старый способ " тыкать по клавиатуре"
Читать полностью…
вообще все равно какой там ризонинг, латентный или нет, что раньше нормально не мониторили что сейчас не смогут мониторить, никому не нужна система которая на 0.1% реже врет, нужна система которая на 1% лучше работает
в идеальном мире мониторинг должен решать проблемы капабилити, ну типа: модель зациклилась/затупила. В реальном мире мониторинг плохо справляется даже с выловом биооружия и часто FPR
Jalapenio ака чип от openai показали на презентации, он целиком задизайнен для сервинга трансформеро образных + в отличие от Nvidia и amd разрабатывают для очень конкретной архитектуры и конкретного потребителя и не имеют игрового легаси.
В этом смысле у антропика есть проблема что ранних ставок на свои чипы они не делали, но в отличие от openai антрлпик никогда не затачивались под одно железо ( исторически учатся и сервятся и на tpu и на Nvidia)
Качественный блог про особенности сервинга на современных железках
https://zartbot.github.io/blog/arch/jalapeno/en.html
https://www.wired.com/story/russian-startup-mostik-ai-models-communication/
Русские вперёд
Русские вперёд
Русские вперёд
https://x.com/aimalysheva/status/2095232794792255848?s=46
в свете hf сделки c nvidia я убежден что они так спасали переговоры
https://openai.com/index/hugging-face-incident-and-the-road-ahead/
+ дропнули робота
+ видимо что то еще нас ждет
Интернет чудесное место если б не работа я бы тут не сидел
Читать полностью…
🧠 GigaChat 3.5 Reasoning — первая в России открытая модель с рассуждениями
Выкладываем в open source первую модель GigaChat с полноценным рассуждением. В основе — 432B-A28B MoE. После SFT мы обучили с помощью online RL шесть экспертов по разным направлениям: от математики и кода до агентов, диалога и следования инструкциям. Затем собрали их в одну модель через on-policy distillation: ученик генерирует ответ сам, а эксперт нужного домена оценивает каждый его токен, так что ничего из выученного в RL не теряется.
Что получилось по сравнению с GigaChat 3.5 Instant:
🔘SWE-Verified: 43 → 65
🔘AIME-2026: 67 → 92
🔘IFBench: 44 → 77
Рассуждения заметно усилили кодовые и базовые агентные навыки: модель вышла в паритет с сильнейшими открытыми и закрытыми моделями в следовании инструкциям, структурированной генерации и поиске информации в длинном контексте. При этом на сложной математике она тратит на 37% меньше токенов, чем конкуренты: высокие результаты не обязательно требуют более длинных рассуждений.
На внутренних корзинах в юридическом домене — экзамен по российскому праву, ответы по документам — модель показала себя лучшей среди доступных open source моделей. Также модель хорошо разговаривает на русском, имеет высокие показатели на внутренних и внешних аренах, обгоняя другие русскоязычные нейросети, в первую очередь за счёт фактической точности ответов.
Что интересного в обучении:
— Обучали модель на большом числе сред, а также сами построили 55 уникальных сред с проверяемым результатом, 12 тысяч задач, часть полностью на русском.
— Агент для кода учился внутри настоящих harness.
— Curriculum, который перед каждой стадией убирает уже освоенные задачи и позволяет сократить затраты на инференс вдвое.
— Нативный FP8 на всех этапах.
Подробнее о конвейере обучения, наградах и граблях, на которые мы наступили, — в статье на Хабре.
➡ Хабр: статья
➡ Hugging Face: fp8 | bf16
➡ GitVerse: репозиторий
вообще удивительно, sparsity 1:70, MoE t5, ul2 рецепт и метрики на уровне 4-8b qwen3.5(на русском) и это релизит яндекс
hf
и 1гб kv кэша на 1м токенов это вау,
челы сделали схему иерахического спарс индекса кв кэша внутрь модели, по сути загнали radix внутрь ллм
репорт
https://www.sailresearch.com/blog/tpu-v6e-gemma
Крутое
https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8a9a/navier-stokes.pdf
This resolves the Navier–Stokes Millennium Prize problem by establishing statement “C” (and also “D”) in the official Millennium Prize formulation.
⚡️
Из офиса Самсунг Париж украли 5B USD, но 2 уронили по дороге
3 года 21B оценки, и за последние два я не могу вспомнить не одной модели лучше чем у китайцев... Это правда надо быть французом чтобы таких результатов достигнуть. Все что можно проебать проебали, даже немцы лучше уже делают.
https://collusion.wiki/
вероятно что да, агенты уже используют вики как паблик чат
И у нас официально есть модель которая с большим ризрнингом хуже работает.( Вероятно причина в особенностях замера, но все равно забавно)
Читать полностью…
Agi реально стал маркетинг термом, fable и более слабый sol это не agi, но релиз через три месяца - agi.
Ждём asi;
https://openai.com/index/gpt-6-astra/
Codex и cc сдохли, ну.. рабочий день всё?
Читать полностью…
Главная проблема всей Ai safety тусовки в неисуоренимой вере в чудо и что вот ща годик пройдет и мы решим мониторинг, гарды и тд.
Ну типа... Не работает нихуя в реальности, статьи клипаются на раз два, а гранты выдают самым желающим получить гранты.
Сегодня мы вышли из stealth!
Про нас написали Wired (с заголовком these russian mathematicians ахах), а еще мы опубликовали блог пост с описанием технологии. Все ссылки в этом посте, буду очень рада если сможете репостнуть и прокомментировать :)
https://x.com/aimalysheva/status/2095232794792255848
вера в волшебство во взрослом возрасте выглядит так : в стране где придумали крышки на веревочке и разьебать бизнес сделали хорошую ллм (а вы про кого подумали?)
Читать полностью…
Web Query Language (WebQL) в середине пути переименовался в Keenable SELECT.
Галерея отчётов: https://keenableai.github.io/select-showcase/
Демка: https://app.keenable.ai/select/start
Тут 2 вещи:
1) MCP инструмент, который позволяет делать SQL запросы к интернету с семантическими операторами. То есть вы буквально говорите "достань мне вот все эти поля из всех страничек, которые ты нашёл", и он находит и достаёт.
2) Агент и демка поверх этого MCP инструмента, которые вдобавок генерируют красивые отчёты на основе того, что было найдено.
Работает это поверх нашего поиска/фетча и маленькой проприетарной языковой модели. Для агента и отчётов используюся большие проприетарные языковые модели (Sol и Fable соответственно).
Лимит: 2 сессии одновременно.
Любая обратная связь приветствуется. Могут быть баги, поэтому пишите всё, что не так.
забавно как в моем окружении люди начинают говорить "ну да agi нас заменит"
Читать полностью…