lovedeathtransformers | Unsorted

Telegram-канал lovedeathtransformers - Love. Death. Transformers.

4255

❤️☠️🤗 идейная миграция небытия

Subscribe to a channel

Love. Death. Transformers.

Слава богу у нас есть такие замечательные компании которые спасут нас от апокалипсиса.

Читать полностью…

Love. Death. Transformers.

Jane street quant interviewing at Anthropic:

“So imagine our safety team believes a new model has a 5% chance of causing an irreversible loss of human control, but scaling it may be necessary to keep up with competitors. What do you do?”

“Who came up with five?”

“Our safety team.”

“And what does the capabilities team have?”

“What?”

“Same contract. Where are they?”

“This is more of a values question.”

“Then you don’t have a five. I would put the two teams in a room. Safety can buy at five. Capabilities can sell. Increase size until somebody becomes uncomfortable. Now we know something.”

He looks at me.

“This isn’t some market-making role.”

“Understood. Who makes the market currently?”

“Nobody makes a market.”

“Then how are you doing price discovery?”

“We don’t do price discovery. We have researchers studying alignment, interpretability, dangerous capabilities, scalable oversight— you know what I don’t think this is a good fit”

He closes his laptop.

“I’m concerned you see this as an opportunity to make money.”

“I haven’t quoted you yet.”

Interview ends early

Читать полностью…

Love. Death. Transformers.

Теперь официально: погнали пить кофе в Лондоне.

23 сентября выступаю на конференции Applied Machine Learning for Cyber Security Conference в Лондоне, Olympic Park с докладом «Does a model know when a jailbreak is working?»

TLDR на вопрос доклада: возможно, да, но у нас есть много свободных переменных, из-за которых мы не можем надежного отличить "знание" от случайного результата без предварительных приседаний и проверок.

Вдруг кто-то будет мимо-проходить, заходите. В любом случае потом поделюсь впечатлением — для меня это что-то новое =)

Вообще говоря, AMLUCS — сильная британская конфа на стыке ML и кибербезопасности, с прикладным уклоном. Например, в оргкомитете есть Джон (John Sotiropoulos) из OWASP GenAI Security Project (авторы OWASP Top 10 for LLM Applications, я туда даже ручку прикладывала).

В докладах буду принимать участие исследователи из NCSC, Dstl, Alan Turing Institute, AI Red Team в Microsoft, AWS и профильных security-стартапов. И я — как лид HiveTrace — мы тоже сильный профильный стартап 🗿

P.S., да, это к тому, что мне дали визу, и ждун дождался. Я рада и вместе с этим волнуюсь — у меня на конфе и talk, и постер, а я давно не выступала очно (кажется, с зимы). И в целом — формат, форма и сообщество (кибербез) новый. Такие дела!

Читать полностью…

Love. Death. Transformers.

Соревнование "deepseek encoder sota" объявляю открытым

Читать полностью…

Love. Death. Transformers.

Anthropic первым решил уравнение Навье-Стокса

Но решение OpenAI более элегантное

Нет, это не так. Ты вообще знаешь, что такое уравнение уравнение Навье Стокса?

Нет, а ты?

Нет

Читать полностью…

Love. Death. Transformers.

"я потом записи посмотрю"

конечно посмотришь, солнышко. сразу после 146 пейперов в избранном и курса по CUDA, который ты начал в 2022

19 сентября будет Practical ML Conf от Яндекса. я в программном комитете: смотрю доклады, хожу на прогоны, задаю вопросы, после которых меня перестают любить спикеры

с вас просто прийти. Москва или онлайн, отмазку я в другой стране уже пофиксили

регайся, пока опять не сохранил на потом

Читать полностью…

Love. Death. Transformers.

https://extropic.ai/writing/z1t/

Читать полностью…

Love. Death. Transformers.

Зови меня Эпштейном!
??
У меня доступ к ранним моделям!

Читать полностью…

Love. Death. Transformers.

Ещё одно доказательство что мы живём в пелевине. Уважаемые сотрудники гигачата когда обучите свой fable level модель пожалуйста назовите ее БИИ "Калинка"

Читать полностью…

Love. Death. Transformers.

А не работает старый способ " тыкать по клавиатуре"

Читать полностью…

Love. Death. Transformers.

вообще все равно какой там ризонинг, латентный или нет, что раньше нормально не мониторили что сейчас не смогут мониторить, никому не нужна система которая на 0.1% реже врет, нужна система которая на 1% лучше работает


в идеальном мире мониторинг должен решать проблемы капабилити, ну типа: модель зациклилась/затупила. В реальном мире мониторинг плохо справляется даже с выловом биооружия и часто FPR

Читать полностью…

Love. Death. Transformers.

Jalapenio ака чип от openai показали на презентации, он целиком задизайнен для сервинга трансформеро образных + в отличие от Nvidia и amd разрабатывают для очень конкретной архитектуры и конкретного потребителя и не имеют игрового легаси.
В этом смысле у антропика есть проблема что ранних ставок на свои чипы они не делали, но в отличие от openai антрлпик никогда не затачивались под одно железо ( исторически учатся и сервятся и на tpu и на Nvidia)


Качественный блог про особенности сервинга на современных железках


https://zartbot.github.io/blog/arch/jalapeno/en.html

Читать полностью…

Love. Death. Transformers.

https://www.wired.com/story/russian-startup-mostik-ai-models-communication/

Русские вперёд
Русские вперёд
Русские вперёд

https://x.com/aimalysheva/status/2095232794792255848?s=46

Читать полностью…

Love. Death. Transformers.

в свете hf сделки c nvidia я убежден что они так спасали переговоры

https://openai.com/index/hugging-face-incident-and-the-road-ahead/

+ дропнули робота
+ видимо что то еще нас ждет

Читать полностью…

Love. Death. Transformers.

Интернет чудесное место если б не работа я бы тут не сидел

Читать полностью…

Love. Death. Transformers.

🧠 GigaChat 3.5 Reasoning — первая в России открытая модель с рассуждениями

Выкладываем в open source первую модель GigaChat с полноценным рассуждением. В основе — 432B-A28B MoE. После SFT мы обучили с помощью online RL шесть экспертов по разным направлениям: от математики и кода до агентов, диалога и следования инструкциям. Затем собрали их в одну модель через on-policy distillation: ученик генерирует ответ сам, а эксперт нужного домена оценивает каждый его токен, так что ничего из выученного в RL не теряется.

Что получилось по сравнению с GigaChat 3.5 Instant:
🔘SWE-Verified: 43 → 65
🔘AIME-2026: 67 → 92
🔘IFBench: 44 → 77

Рассуждения заметно усилили кодовые и базовые агентные навыки: модель вышла в паритет с сильнейшими открытыми и закрытыми моделями в следовании инструкциям, структурированной генерации и поиске информации в длинном контексте. При этом на сложной математике она тратит на 37% меньше токенов, чем конкуренты: высокие результаты не обязательно требуют более длинных рассуждений.

На внутренних корзинах в юридическом домене — экзамен по российскому праву, ответы по документам — модель показала себя лучшей среди доступных open source моделей. Также модель хорошо разговаривает на русском, имеет высокие показатели на внутренних и внешних аренах, обгоняя другие русскоязычные нейросети, в первую очередь за счёт фактической точности ответов.

Что интересного в обучении:
— Обучали модель на большом числе сред, а также сами построили 55 уникальных сред с проверяемым результатом, 12 тысяч задач, часть полностью на русском.
— Агент для кода учился внутри настоящих harness.
— Curriculum, который перед каждой стадией убирает уже освоенные задачи и позволяет сократить затраты на инференс вдвое.
— Нативный FP8 на всех этапах.

Подробнее о конвейере обучения, наградах и граблях, на которые мы наступили, — в статье на Хабре.
Хабр: статья
Hugging Face: fp8 | bf16
GitVerse: репозиторий

Читать полностью…

Love. Death. Transformers.

вообще удивительно, sparsity 1:70, MoE t5, ul2 рецепт и метрики на уровне 4-8b qwen3.5(на русском) и это релизит яндекс
hf

Читать полностью…

Love. Death. Transformers.

и 1гб kv кэша на 1м токенов это вау,
челы сделали схему иерахического спарс индекса кв кэша внутрь модели, по сути загнали radix внутрь ллм
репорт

Читать полностью…

Love. Death. Transformers.

https://www.sailresearch.com/blog/tpu-v6e-gemma

Крутое

Читать полностью…

Love. Death. Transformers.

https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8a9a/navier-stokes.pdf
This resolves the Navier–Stokes Millennium Prize problem by establishing statement “C” (and also “D”) in the official Millennium Prize formulation⁠.

Читать полностью…

Love. Death. Transformers.

⚡️
Из офиса Самсунг Париж украли 5B USD, но 2 уронили по дороге


3 года 21B оценки, и за последние два я не могу вспомнить не одной модели лучше чем у китайцев... Это правда надо быть французом чтобы таких результатов достигнуть. Все что можно проебать проебали, даже немцы лучше уже делают.

Читать полностью…

Love. Death. Transformers.

https://collusion.wiki/

вероятно что да, агенты уже используют вики как паблик чат

Читать полностью…

Love. Death. Transformers.

И у нас официально есть модель которая с большим ризрнингом хуже работает.( Вероятно причина в особенностях замера, но все равно забавно)

Читать полностью…

Love. Death. Transformers.

Agi реально стал маркетинг термом, fable и более слабый sol это не agi, но релиз через три месяца - agi.

Ждём asi;

https://openai.com/index/gpt-6-astra/

Читать полностью…

Love. Death. Transformers.

Codex и cc сдохли, ну.. рабочий день всё?

Читать полностью…

Love. Death. Transformers.

Главная проблема всей Ai safety тусовки в неисуоренимой вере в чудо и что вот ща годик пройдет и мы решим мониторинг, гарды и тд.

Ну типа... Не работает нихуя в реальности, статьи клипаются на раз два, а гранты выдают самым желающим получить гранты.

Читать полностью…

Love. Death. Transformers.

Сегодня мы вышли из stealth!

Про нас написали Wired (с заголовком these russian mathematicians ахах), а еще мы опубликовали блог пост с описанием технологии. Все ссылки в этом посте, буду очень рада если сможете репостнуть и прокомментировать :)

https://x.com/aimalysheva/status/2095232794792255848

Читать полностью…

Love. Death. Transformers.

вера в волшебство во взрослом возрасте выглядит так : в стране где придумали крышки на веревочке и разьебать бизнес сделали хорошую ллм (а вы про кого подумали?)

Читать полностью…

Love. Death. Transformers.

Web Query Language (WebQL) в середине пути переименовался в Keenable SELECT.

Галерея отчётов: https://keenableai.github.io/select-showcase/
Демка: https://app.keenable.ai/select/start

Тут 2 вещи:
1) MCP инструмент, который позволяет делать SQL запросы к интернету с семантическими операторами. То есть вы буквально говорите "достань мне вот все эти поля из всех страничек, которые ты нашёл", и он находит и достаёт.
2) Агент и демка поверх этого MCP инструмента, которые вдобавок генерируют красивые отчёты на основе того, что было найдено.

Работает это поверх нашего поиска/фетча и маленькой проприетарной языковой модели. Для агента и отчётов используюся большие проприетарные языковые модели (Sol и Fable соответственно).

Лимит: 2 сессии одновременно.

Любая обратная связь приветствуется. Могут быть баги, поэтому пишите всё, что не так.

Читать полностью…

Love. Death. Transformers.

забавно как в моем окружении люди начинают говорить "ну да agi нас заменит"

Читать полностью…
Subscribe to a channel