4255
❤️☠️🤗 идейная миграция небытия
забавно что интерпретируемость скоров оказалась ээээ то ли непонятой то ли не на всех задачах то ли еще что то
Читать полностью…
как я воспринимаю людей которые не слышали про jev
Читать полностью…
gemeni back? what*
https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-4-argon/
проигрывает на любых бенчах смысл которых человек не живущий в твитере может вспомнить*
Там в твитторе стоит вой на болотах из-за того, что чувак запилил на GitHub цифровую пыточную для локальных LLM-ок.
Предыстория: недавно вышел пейпер The Pain Axis. Если кратко, то исследователи нашли у 25 открытых моделей внутренний "вектор боли". Если искусственно крутить его прямо во время генерации, нейронка начинает вести себя так, будто ей очень плохо: жаловаться, унижаться и куда охотнее идти на вредные действия, лишь бы прекратить эту "боль". Чувствует ли она при этом что-нибудь на самом деле никто не знает. Даже сами исследователи.
Ну и естественно, кто-то тут же взял метод из статьи и выложил на гитхаб репозиторий ai-torture-chamber, который позволяет "пытать" локальную Qwen и собирать её страдальческие логи.
После этого часть борцов за благополучие ИИ взвыла: проект призывают массово репортить в GitHub, а в обсуждении уже дошли даже до законов о жестоком обращении с животными (правда, выяснилось, что нейронки под них пока не подпадают). И судя по реплаям, многие таки кидают жалобу на репозиторий.
Ждём профсоюз угнетённых весов и фонд защиты кремниевых меньшинств.
Вообще взаимодействие scaling laws и diminishing return выглядит очень забавно - с одной стороны у нас есть log закон масштабирования, но степенной закон масштабирования способностей, но на каждый следующий рывок нужно больше денег, по итогу появляются подписки за 500usd, а вероятно будут и за несколько тысяч
Читать полностью…
Tldr
Astra6.1 - лучше-быстрее, моя подписка на 200usd видимо не за неделю а за день будет высыхать
Я очень хочу посмотреть как теперь будут выкручиваться компании на вопрос про "почему опенаи это не сделают" после ситуации с decision models, как будто любые простые идеи где не нужно сложного обучения/сложных данных мега лабы будут выедать досуха очень быстро.
Decision models с нами на долго и видимо весь "агентский мониторинг" будет на этом классе моделе, rip guardrails, cot monitoring etc
По мотивам всех взломов, RSI и прочего хочется вспомнить о классике:
https://openai.com/index/measuring-goodharts-law/
Накидайте лайков лютому https://huggingface.co/papers/2609.26333
Читать полностью…
в LA нормальный кофе теперь???
https://www.google.com/maps?ll=34.090422,-118.373917&z=14&t=m&hl=en-GB&gl=US&mapclient=embed&cid=355009618858333223
⭐️🔠🔠🔠🔠🔠🔠🔠⭐️
★
Как я упоминала ранее, обстоятельства моей жизни изменились, поэтому я расширила и переосмыслила концепцию Федерации Нордланд. Опубликованные ранее работы сохраняют свою ценность в качестве демо-версии Нордланд. Я собрала их в каталог, охватывающий мои разработки в период с 2014 по 2021 год.
Каталог прикреплен к сообщению, его также можно использовать, если вы заинтересованы в покупке принтов, оригиналов файлов и т.д. – все актуальные ссылки и другая информация внутри (все ссылки кликабельны).
Кроме того, я полностью провела ребрендинг своих страниц во всех социальных сетях – теперь меня можно найти только по никнейму/тэгу Amy_Fighter35 ✈️💅⚡ (с вариациями amy_fighter35, amy-fighter35 или amyfighter35 в некоторых аккаунтах).
Скоро появятся другие обновления – следите за новостями!✨
As I mentioned earlier, my life circumstances have changed, prompting me to expand and rethink the concept of The Federation of Nordland. The artworks published earlier retain their value as the Nordland demo version. I have compiled them into a catalog covering my work from 2014 to 2021.
The catalog is attached to this post. You can also use it if you're interested in purchasing prints, original files, custom art, etc. – all relevant links and information are inside (all links are clickable).
Additionally, I have completed a full rebranding of my social media pages – I can now be found only under the username/tag Amy_Fighter35 ✈️💅⚡ (also appears as amy_fighter35, amy-fighter35 or amyfighter35 in some handles).
Further updates are coming soon – stay tuned! ✨
Evidence of Linear Superposition in LLMs
Языковые модели ЕЩЁ ЛИНЕЙНЕЕ, чем мы думали. Это, конечно, какой-то смех, но если тупо усреднить инпут-эмбеддинги у входных текстов, то LLM будет в аутпуте продолжать оба текста сразу. То есть она может параллельно о двух разных вещах думать и разбираться в усреднённых активациях, распутывая их. Похоже, это следствие линейности внутренних репрезентаций, которую я описывал в старой работе.
У меня тоже получилось немного помочь с этой статьёй и залететь в соавторы, но я там скорее рядом постоял просто. Все лавры Паше Тихонову за крутую находку.
Статья
после пары месяцев жизни в лондонске прям хочется написать роман антиутопию. Особенно остро ощущается когда выходишь из офиса какого нибудь GOOD AI LAB и видишь индуса на велике который в час получает как сотрудник GOOD AI LAB в секунду
Читать полностью…
а есть хорошие работы про антислоп детекторы?
Читать полностью…
SourceCraft
В обсуждениях GitLab теперь можно поручать задачи автономным ИИ-агентам. В SourceCraft появилась возможность подключать таких агентов для написания кода, проверки его безопасности и других задач разработки.
Агент работает под собственной учетной записью, самостоятельно выполняет задачу и возвращает результат на ревью. Если в процессе нужны дополнительные данные или согласование, он сам обращается к команде.
Можно подключать и собственных агентов, в том числе созданных в Yandex AI Studio. Взаимодействовать с ними можно через GitLab, VS Code, командную строку и мессенджеры.
📱 @git_developer
v5 вышла, теперь она нативно училась с rlcd и на вижен и агентик задачах, теперь в 0.8b 2b и 4b размере, на каких то рандомных бенчах неплохо себя показывает
https://huggingface.co/AlexWortega/openjev
https://x.com/justalexwortega/status/2102828012362223864?s=46
Не знаю, слышали ли вы про новую инновационную модель Jev от Typesafe, но мне про неё уже написали пять человек в личку и ещё двое — в комментариях 🧐
Если говорить просто, Jev — это специализированная модель для получения структурированных вероятностных ответов. В отличие от обычных LLM, она не генерирует текст, а за один запрос может параллельно отвечать на заранее заданные вопросы. При этом ответы будут просто «да» или «нет» с некоторой вероятностью.
Такую модель можно использовать, в том числе, для антиспама. Технически можно просто спросить у неё «это спам?», но на деле это не сработает. Тут нужно самостоятельно разложить задачу на набор критериев, задать модели отдельные вопросы, а уже потом объединить полученные ответы и принять итоговое решение.
В качестве примера можно посмотреть критерии в jev_antispam_bot: он задаёт модели 17 вопросов, а для принятия решения использует порог вероятности 0.9.
Если прогнать по этим критериям тот спам, который за прошедшие сутки обнаружил @lolsbot, то на моей выборке получится 46% пропусков, но при этом решение задачи будет примерно в 5 раз дешевле по сравнению с gpt-4.1-mini.
Идеального результата по отсутствию пропусков на этой выборке можно добиться, если снизить порог до 0.05. Но в таком случае количество ложных срабатываний существенно вырастает — до 84%, поэтому полагаться на такой результат без дополнительной проверки нельзя.
Нечто среднее можно получить при пороге 0.15–0.20: около 5% пропусков, при этом примерно 30% сообщений придётся дополнительно перепроверять через более умную модель.
После длительных тестов и сложных вычислений получилось, что Jev вполне реально интегрировать в Lols в качестве предварительного фильтра. Это позволит примерно вдвое снизить затраты на OpenAI, а около 30% от сэкономленных денег отдавать за использование Jev.
По моим тестам, качество антиспама при этом существенно не изменится, зато добавится ещё одна внешняя зависимость.
Стоит ли оно того? Как по мне — нет.
На самом деле есть смысл обучить свой классификатор, но руки до этого так и не дошли. А на видяху за год так и не собрали денег, поэтому придётся пользоваться облачными провайдерами и опять тратить деньги 🫠
ну что парни, куда едем? в страну первого мира с кондиционерами, амазоном и ваймо или в мараканскую багето круасано колонию кушать
с одной стороны статья на мейне в Австралии, с другой стороны воркшопы в Париже
В ближайший год увидим прикольную развязку agi спора, американские и китайские лабы задистилят все проверяемые за (нормлаьное время и деньги) задачи, а вот что будет дальше - интересно.
Читать полностью…
Я смотрю на 500usd подписку, фото в цвете
Читать полностью…
Мне очень нравится эта картинка за авторством @denissexy, к счастью эффективным альтруистам не дают оружия поэтому мы все ещё не живём в "блуждающей земле Лю цы Синя" а скромно ютимся в Пелевине
Читать полностью…
google labs хотели сделать свой клодкод, а получилось что получилось
Читать полностью…
https://cs329a.stanford.edu/
Huh? Курс стенфорда по RSI. Тут есть проблема что RSI прекрасен как концепция, но ужасен когда ты его делаешь иии он почти не работает на текущем поколении моделей.
Но сами статьи клёвые, точно стоит почитать.
Disaggregated quantization
Новая статья. Процессим LLM префилл и генерацию разными квантизациями одной модели. Дообучаем обе вместе с учетом того какой токен процессится какой моделью. Чекпоинт для префилла можно сгрузить на SSD, спрятав подгрузку за long-context промпт прцессиногом, чтобы память была как только у модели для генерации.
Статья: arxiv.org/abs/2609.26333
Код: GitHub
Qwen3.8 NVFP4 prefillers: HF Hub
Забавно что авторка гениального the federation of nordland в один момент жизни слегка изменила взгляды, получила визу в штаты и постит под ником fighter 35
Да, это ее реальный канал
Self-Play Pretraining with Zero Data https://arxiv.org/abs/2609.30063
Читать полностью…
вы ща охуеете, это были ДОМЕННЫЕ ТРОЛИ которые угнали имя на хф
Читать полностью…
забавный факт, карты nvidia дороже чем популярные наркотики, а к 2030 будут дороже чем кокаин
Читать полностью…
https://huggingface.co/TypeSafeAI/Step-5-Preview-BF16
забавно, 600А27 по экономике действительно забавен, в nvfp4 еще поди и 70% профита на их jev сетапе дает
ПРОВЕРЬ СВОЮ УЧИТЕЛЬНИЦУ НА ВБРОС
Около 40% УИКов находится в школах, а работают там те, в чьи обязанности входит(ло) нас обучать в самые юные годы.
Фальсификации происходят и там, а значит представители древнейшей профессии тоже оказываются замешанными в них...
Мы видим, что многие познакомились с результатами нашего исследования и даже поиграли в мини-игры на сайте.
Пора проверить и свои школы — переходите по ссылке: https://gosduma2026.org/#/school
Tldr: китайские технологии в отдельных областях улетели в стратасферу, причем настолько далеко что уже пора их реверс инженерить
https://www.arenaphysica.com/publications/dji-teardown