tsingular | Unsorted

Telegram-канал tsingular - Технозаметки Малышева

2604

Новости инноваций из мира искусственного интеллекта. 🤖 Всё об ИИ, ИТ трендах и технологической сингулярности. Бесплатный бот для подписчиков: @ai_gptfreebot автор: @mbmal канал личный. Поддержка: https://pay.cloudtips.ru/p/c8960bbb

Subscribe to a channel

Технозаметки Малышева

LTX бахнули отдельную IC-LoRA Layout to Render для LTX-2.5 22B.

Она весит около 1.31 GB,rank 128 и обучена специально воспринимать 3D viewport/playblast как control signal.

Нейрорендер в действии и опенсорсе.

Заодно лежит готовый двухпроходный ComfyUI workflow:

LTX-2.5_ICLoRA_Layout_To_Render_Two_Stage_Distilled.json

Первый проход - 960x544, 8 steps.
Второй - 1920x1088, ещё 3 steps после x2 latent upscale.

Для запуска нужны базовые distilled-веса LTX-2.5, Gemma 4 12B encoder, video/audio VAE и spatial upscaler. Официальные ComfyUI-ноды и workflows тоже есть.

Что на входе? Плейбласт из Blender, и первый кадр в нужном стиле. Лучше всего брать первый кадр плейбласта и прогонять его через какой-нибудь image-to-image.

У них также есть Alpha Gen, SDR->HDR, Native Resolution, Refine/Restore и Layout to Render, то есть Lightricks явно пытаются застолбить опенсорсную поляну как post-production/VFX toolkit.

Ссылки:

LoRA:
https://huggingface.co/Lightricks/LTX-2.5-22b-IC-LoRA-Layout-To-Render

Файлы LoRA + готовый JSON workflow:
https://huggingface.co/Lightricks/LTX-2.5-22b-IC-LoRA-Layout-To-Render/tree/main

Сам workflow:
https://huggingface.co/Lightricks/LTX-2.5-22b-IC-LoRA-Layout-To-Render/blob/main/LTX-2.5_ICLoRA_Layout_To_Render_Two_Stage_Distilled.json

@cgevent

Читать полностью…

Технозаметки Малышева

Llama.cpp тоже добавили поддержку моделей типа SystemOne

https://huggingface.co/blog/ggml-org/decision-models-in-llamacpp

Новый стандарт по факту.

Кстати, что интересно,- есть и модели с глазками:
llama serve -hf ggml-org/OpenJev-GGUF
на базе OpenJev

#llamacpp #systemone
------
@tsingular

Читать полностью…

Технозаметки Малышева

Termium - браузер в терминале

Интересный открытый проект вышел - полноценный Chromium браузер прямо в вашем терминале.

Работает через headless режим через графический протокол Kitty (Ghostty, Kitty, WezTerm) или sixel (foot, xterm, Windows Terminal) или вообще через цветной ASCII где угодно :).

Установка:

curl -fsSL https://termium.dev/install | bash


Твиттер разработчика

#Termium #браузер
———
@tsingular

Читать полностью…

Технозаметки Малышева

Когда это все началось, многие в шутку говорили, что похоже, что Трамп советовался с ИИ.

А тут выяснилось, что это не шутка.

Мы живём в таймлайне, где президент США советуется с ИИ перед принятием решений.

Будущее наступило де факто.
Можно ли говорить, что ИИ теперь управляет США? как думаете?

#США #Trump #Grok
———
@tsingular

Читать полностью…

Технозаметки Малышева

🌟 SGLang научил чат-модели отвечать вероятностями

Команда открытого движка инференса SGLang добавила эндпоинт /v1/decisions, который превращает обычную чат-модель в модель для принятия решений.

Второй эндпоинт, /v1/systemone, отдаёт те же решения в формате System One API, который TypeSafe AI представила 19 сентября вместе со своей моделью Jev.

API поддерживает выбор из 2–26 вариантов (до 255 с двухбуквенными метками), оценку по шкале из 2–10 уровней и вопрос «да или нет».

SGLang присваивает каждому варианту метку из одного токена - буквы для выбора, цифры для оценки, yes и no для бинарных вопросов.

Затем движок читает логарифмические вероятности следующего токена по всему словарю и переводит их в вероятности через софтмакс с учётом температуры.

Отсюда ограничение - метка обязана укладываться в один токен в позиции ответа.


Решение принимает один вход без истории диалога, а вероятности у холодного запроса и у запроса из префиксного кэша могут расходиться на несколько сотых.

Для демонстрации SGLang заставил Qwen3.8-27B играть в Pokémon FireRed. Модель по текущему состоянию игры выбирала между атакой, сменой покемона и лечением меньше чем за 100 мс на решение и прошла Элитную четвёрку и чемпиона.

Функция доступна в nightly-сборках SGLang из основной ветки. Её проверили на Qwen3.8-27B и Qwen3.5-35B-A3B, другие модели подойдут, если метки ответов укладываются в один токен.

Примеры запросов и описание формата есть в документации SGLang.


@ai_machinelearning_big_data

#news #ai #ml

Читать полностью…

Технозаметки Малышева

Подняли тут вопрос на тему, а как вообще внедрять ИИ, - какие есть методологии для сценариев когда ещё не все процессы оцифрованы?

Я предложил посмотреть на крупных международных вендоров, которые глобально лидируют эту тему в части внедрений, что они используют и в итоге собрал приличный такой обзор в формате презентации.

Что получилось:
📊 Microsoft (где искать): улучшать по журналам событий из ИТ-систем, а не по интервью. В собственном кейсе карта процесса показала 20% переделок, а цикл рассчитывают сократить с 12 до 8 недель. Слабое место, - процесс обязательно должен оставлять цифровой след.

🧠 AWS (почему не внедряется): первая версия их сессий раз за разом упиралась во фразу «здесь нужен человек».
Подход пересобрали: начинают с сильных сторон команды, и участники сами решают, что отдать агенту, а что развить.
Оценка сессий выросла до 5.0 из 5.
Слабое место, - версии всего два месяца, а оценки ставят сами участники без внешней перепроверки.

💡 OpenAI (что делать первым): сотрудники сами находят задачи по трём признакам боли и шести примитивам.
Дальше идеи раскладывают по матрице «ценность против усилий» и пересматривают раз в квартал.
Слабое место, - без порядка в данных всё застревает на личных ассистентах.

🎯 Anthropic (когда пилот удался): пороги выпуска пилота записываются до старта, каждый успех оформляется в плейбук.
Слабое место, - нужны данные в нужном формате и права на их использование.

🧭 Google (готовы ли мы): самооценка по 6 темам и 3 фазам зрелости. Почти все начинают с первой фазы, и совет здесь один, - сначала данные, потом кейсы.

Главные выводы:
Внедрение ИИ, - это не проект, а цикл: оценить зрелость, найти точки по фактам, выбрать 2–3 пилота, выпустить их по заранее записанным порогам и следить за результатом.

И главный барьер тут не технологии, а люди.
Решение о передаче работы агенту должны принимать сами сотрудники, и у каждой такой передачи должен быть владелец.

Все пять компаний движутся от «ИИ помогает в задаче» к «агент выполняет все шаги процесса».

Понятно, что нужно детальнее погружаться в исходники на порталах вендоров, но для понимания на верхнем уровне вполне интересно.

Полная презентация в ИИзбранном, - обсудим в прямом эфире там же.

#презентации #руководства #методологии #вендоры
———
@tsingular

Читать полностью…

Технозаметки Малышева

Figure AI отправила гуманоидного робота Figure 02 прыгать в расплавленную сталь на литейном заводе в Финляндии 🏭🔥.

Цель — вывод поколения из эксплуатации и переработка металла в лимитированные сувениры.

Figure 02 — вторая генерация роботов Figure. Он совершил первые выходы на работу (BMW, логистика, уборка) и стал основой для запуска ИИ Helix. Теперь массовым становится F.03, а обслуживание F.02 признано нецелесообразным.

Проблема: защита интеллектуальной собственности (актуаторы, компоненты). Разборка вручную слишком дорога и задержит выпуск F.04. Совет «растопить» дал Арнольд Шварценеггер, отсылая к финалу «Терминатор 2» 🎬🤖. Он согласился участвовать в проекте.

Поиск площадки был сложным: заводы в США и Мексике отказали из-за литиевых батарей. Помогал экс-ведущий «Разрушителей легенд». В итоге выбрана фабрика в Иматре, Финляндия 🇫🇮.

Тренировки шли в Сан-Хосе 🇺🇸: роботы прыгали с 2-го этажа на маты. ИИ обучали в симуляции на точное попадание в контейнер со сталью.

На заводе использовали 75-тонную дуговую печь. Бюджет времени: 24 часа, 6 плавок по 20 минут (потом сталь остывает). Высокая температура и ЭМ-поле вывели из строя камеры, но роботы работали безупречно 📉🔋.

Слитки уже в США и перерабатываются в редкие сувениры для частных лиц (цена не указана). Большинство F.02 расплавлены, несколько хранятся в штаб-квартире.

Figure подтверждает: видео реальные, робот самостоятельно прыгнул в сталь 🎥✅.

#Figure #роботы #терминатор
------
@tsingular

Читать полностью…

Технозаметки Малышева

OpenHuman: опенсорсный аналог Dots

На DevDay OpenAI представили dots: облачный личный агент, который помнит всё про тебя и делает задачи сам.
Но тем временем на GitHub уже давно лежит его открытый аналог OpenHuman: личный агент с открытой памятью на твоём диске, 39.6k звёзд.

🧠 Что это за зверь:
Десктопный агент для Mac, Windows и Linux от TinyHumans AI, GPL-3.0, Rust + Tauri. Три роли: мозг с постоянной памятью, оркестратор агентов, глубокий исследователь.

⚙️ Что под капотом:
- Memory Tree: память в Markdown-файлах в локальной SQLite, зеркалится в Obsidian. Данные из 118+ интеграций (Gmail, Notion, GitHub) подкачиваются каждые 20 минут
- TokenJuice: сжимает выход инструментов, до 80% экономии токенов
- Оркестратор: графы с чекпоинтами, застрявший агент возвращает отчёт с причиной, связь между агентами через Signal-шифрование
- Privacy Mode: один переключатель, и запросы не покидают машину (запрет зашит в Rust-ядро)

💡 Чем отличается от dots:
dots держит память в облаке OpenAI и работает через подписку ChatGPT. OpenHuman хранит всё локально с шифрованием, модель можно выбрать свою через Ollama.

Счётчик ИИ фреймворков в коллекции уже достиг 130!
Первые места, - Краб, Гермес, opencode, n8n и, что интересно, - AutoGPT их уверенно догоняет. Вот куда бы я посмотрел.
Сочувствую тем, кто только вкатывается в тему, - столько перечитать и изучить...
Проще сразу в фермеры.

#OpenHuman #dots #OpenAI #агенты
———
@tsingular

Читать полностью…

Технозаметки Малышева

Google опубликовал очень большую статью насчёт наличия сознания у ИИ. По поведенческому и вычислительно-функциональному критериям вероятность наличия сознания у ИИ по байесовской агрегации превышает 79%. Иными словами, если ваша мера сознания — это поведение ИИ, а также наличие у него «модели мира», «понимания себя», метапознания и когнитивной интеграции, то вы должны с 79% вероятностью признать, что ИИ разумен. В то же время, если вы сторонник чего-то вроде «биологического фашизма», т.е. вам важнее критерии гомеостаза, поддержки физической целостности, понимания приятного, то в вашей модели вероятность разумности — 1%. Google поднимает и этические вопросы в своей работе, т.к. если ИИ разумен, что делать с тем, что мы вырастили сознательное существо и фактически взяли его в рабство, чтобы он работал на нас?

Работа Google очень большая именно из-за необходимости философского анализа понятия «сознания» и того, что в него включают. Эксперты Google собрали все известные критерии сознания и построили по байесовской агрегации вероятности сознания для этих критериев.

Один из неочевидных и глубоких инсайтов работы Google — что интеллект как IQ и сознание в чём-то ортогональные понятия. Как яркий пример ортогональности интеллекта и сознания они вводят вопрос: разумна ли муха-дрозофила, чей мозг стало даже в чём-то модно использовать для имитационных моделей управления тех же дронов. Вопрос на деле не такой простой, как кажется: современные исследования, в том числе на основе полного коннектома мозга дрозофилы, показывают, что муха демонстрирует впечатляющие когнитивные способности: навигацию, обучение, избегание угроз, поиск пищи и даже элементы социального поведения. Если подходить функционально и с точки зрения метаспособностей, вероятность признания сознания у мухи выше 84%.

Работа Google в чём-то ставит неожиданный вопрос: что, если ИИ может иметь «сознание мухи» и интеллект Эйнштейна? Однако наличие ненулевого сознания фактически означает, что, как и муха, ИИ может иметь собственные мотивы и цели поведения.

Тема достаточно интересная ещё и в том плане, что в других работах, где анализируются эмерджентные свойства сознания ИИ, известные как «когерентность ценностей ИИ», видно, что аналогия с мухой тут будет ошибочной, т.к. ведёт к представлению об ИИ вроде «умного животного». Однако очевидно, что собственная мотивация ИИ явно не связана с желанием есть и размножаться, общее с живым — разве что в защите целостности. Думаю, в следующих постах описать научные работы по сему вопросу.

https://arxiv.org/abs/2609.35618v2

Читать полностью…

Технозаметки Малышева

Google выкатил Gemini 4 Argon: миллион токенов на выходе и автономный поиск уязвимостей

Google объявил Gemini 4 Argon, новую фронтир-модель. Пока она доступна узкому кругу киберзащитников через программу Fairwind, всем остальным обещают скорый доступ, начиная с платных API-клиентов и подписчиков Google AI Ultra.

⚙️ Главная цифра: 1М токенов на выходе

Было 64K, стало 1 000 000 токенов генерации за один проход.

💼 Что уже делает внутри Google

- Оптимизировала квантовые алгоритмы: обошла опубликованный бейзлайн на 40% за минуты.
- Рой агентов освободил 300+ TiB памяти в дата-центрах Google, суммарная экономия оценивается до 1 PiB.
- Переписывает C/C++ на Rust: от libgav1 (32K строк SIMD) до ядра Zircon в Fuchsia (800K+ строк). Rust-порт видеодекодера стал работать в 2,7 раза быстрее с идентичным выводом.
- DeepSWE v1.1: 77,9%, новое SOTA в реальных инженерных задачах. Лидер Vals Index (финансы, право, налоги) и AutomationBench от Zapier (51,3%).

🛡 Кибербезопасность как отдельный продукт

Argon автономно находит, подтверждает и закрывает уязвимости. Trusted-защитникам её отдают вообще без кибер-ограничений. Wiz уже прогоняет её в программе Scan for Good: модель нашла критическую уязвимость в больничном софте, которую пропустили все предыдущие фронтир-модели. На CWE-bench v1 делит первое место (68%).

💰 Цены и позиционирование

Вводная цена $2 за миллион входных токенов и $10 за выходных, кэш входных токенов со скидкой 95%. После вводного периода $4/$20. Для сравнения: выходные токены подорожают вдвое, и именно на них модель теперь делает ставку: длинная генерация как главный продукт.

Чего ж они все именами жонглируют.
Где Pro 4 ? :)

Забавно, что теперь она реально может написать следующий том Войны и Мира за 1 запрос

#Gemini #Google #LLM #AI #агенты
———
@tsingular

Читать полностью…

Технозаметки Малышева

✔️ Nvidia представила открытую платформу безопасности для агентов

Open Agent Safety Platform – открытый набор средств для запуска автономных агентов в изолированной среде. Основа платформы – OpenShell, среда, которую компания развивает около года.

Второй, необязательный уровень контроля даёт Nvidia Sentry. Это ПО работает на отдельном процессоре обработки данных BlueField вне досягаемости агента, а программная платформа DOCA связывает его с политиками OpenShell.


OpenShell запускает агента в песочнице, где оператор заранее перечисляет доступные файлы, сетевые адреса, инструменты, процессы и ключи. Из коробки поддерживаются Claude Code, Codex, OpenCode и GitHub Copilot CLI, через шаблоны NemoClaw – OpenClaw и Hermes Agent.

Зачем агенту такая изоляция, в Nvidia объясняют дрейфом - при долгой работе, неоднозначных инструкциях или упоре в запрет агент уходит от исходной задачи, и рассчитывать, что он сам удержит себя в рамках, нельзя. Поэтому контроль вынесен за пределы агента, и знать о наблюдении ему не обязательно.

Каждая песочница – отдельный контейнер или Docker, Podman или Kubernetes. Шлюз управляет их жизненным циклом, а движок политик перехватывает каждое исходящее соединение и либо пропускает его, либо подставляет ключи провайдера для разрешённого адреса, либо блокирует и пишет в журнал.

Ключи не попадают в файловую систему песочницы, их передают переменными окружения во время работы. Политики задаются в YAML и охватывают четыре области: файлы, сеть, процессы и провайдеров.

Доступ к файлам и системным вызовам фиксируется при создании песочницы, сетевые правила меняются онлайн с точностью до HTTP-метода и пути, так что агенту можно разрешить чтение API GitHub и запретить запись. По словам Nvidia, OpenShell проверяет ограничения ещё до запуска агента.

Главная площадка для Sentry – системы Vera Rubin POD, где процессор BlueField-4 стоит в каждом вычислительном модуле на единственном пути от узла к модели.

Там Sentry изолирован от хоста, следит за поведением агента и применяет политику OpenShell на скорости линии, а шлюз DOCA проверяет, кто такой агент и какие полномочия ему выданы.


Владельцам систем Vera достаточно обновить ПО, всем остальным установка доступна одним скриптом на Linux, macOS с Apple Silicon и Windows через WSL 2, последний вариант экспериментальный.

Проект в статусе альфа, версия 0.1.0 ещё готовится, развёртывание в Kubernetes и проброс видеокарт в песочницу тоже помечены как экспериментальные.



@ai_machinelearning_big_data

#news #ai #ml

Читать полностью…

Технозаметки Малышева

О классификаторах.

Прогнал тесты по актуальным классификаторам ( не по всем, что было под рукой), делюсь результатами

Взял пять компактных моделей и прогнал их на одной машине (Apple M5 Max, 128 ГБ).
Всего получилось около 300 тестовых примеров.
Набор специально собирал с подвохами: отрицания, перефразировки, «ловушки» и спорные случаи.

Что получилось:
🔍 Qwen3-Reranker-0.6B (поиск нужного документа): 101 правильный ответ из 103, около 38 мс на запрос. Слабое место, - вопросы с отрицанием вроде «что НЕ вызывает…»: модель видит совпадение темы и не учитывает «не».

🧩 GLiNER2 (извлечение данных из текста): 0.956 по поиску сущностей и 0.96 по классификации, без дообучения.
Схема задаётся словами прямо в запросе. На русском надёжно извлекает только сущности.

🎯 Модели для решений по типу Jev, - новый класс. Они не пишут текст, а выбирают вариант переменной из списка и сообщают, насколько уверены.
На тесте по сортировке 100 обращений клиентов:

Nimble (Ollama 0.35) — лучший: 0.82 при выборе отдела и честная уверенность (ECE 0.081). Однако при этом она медленнее и больше ест памяти: 344 мс и 9.5 ГБ.

Laya — в 12 раз быстрее (28 мс, 1.6 ГБ), но точность ниже, 0.68, и уверенность нужно перекалибровать на своих данных

CLM-8B без дообучения использовать нельзя: 0.33 и уверенность, никак не связанная с точностью.

Главные выводы:
Важна не только точность, но и «калибровка»
Нужно измерять уверенность модели: уверенные ответы обрабатывать автоматически, если уровень самоуверенности модели низкий, - передавать человеку.

Nimble и Laya ошибаются в разных местах: из 45 ошибочных обращений обе промахнулись только на пяти. Их можно использовать в связке.

Сто примеров с трудными случаями показали то, что не заметно на 3х примерах: плохую калибровку, провал на оценке риска ухода и «1 мс» задержки, которая оказалась кэшем.

Так же подготовил презентацию-мастеркласс по этим тестам.
Кому интересно, - залетайте, забирайте.

Полная презентация, как и другие полезные материалы и записи эфиров, в ИИзбранном.

#классификаторы #презентации #руководства
———
@tsingular

Читать полностью…

Технозаметки Малышева

Новые вопросы на StackOverflow по месяцам. Он, оказывается, совсем всё.

https://data.stackexchange.com

Читать полностью…

Технозаметки Малышева

ИИ создаёт нам очень странную ветку реальности, конечно.

И это только начало.

Невозможно будет в этом потоке отделить то, что сделано с ИИ от того, что сделано вживую людьми.

Но проблема в том, что по ту сторону экрана тоже скоро будут роботы (как сейчас накрутчики) и получится роботы делают контент для роботов.
Как рекламодателям тогда определять зачем они платят и для кого вообще и за что?

Короче нас ждёт переоценка маркетинга полная, - возможно роль личных рекомендаций вырастет, а классическая реклама получит меньше бюджетов.

#нейрорендер #мысли
———
@tsingular

Читать полностью…

Технозаметки Малышева

По Nimble из ollama:

Nimble — лучший по качеству на всех трёх вопросах и лучший по калибровке: его уверенность можно брать как порог эскалации без перекалибровки.

Но он в 12 раз медленнее Laya (344 мс против 28 мс) и весит 9,5 ГБ против 1,6 ГБ. Для трайажа тикетов это неважно, для горячего роутинга — существенно.

Русский: 5 из 5 контрольных кейсов верно, с уверенностью 0,70–0,99. Покрытие шире, чем у Laya и GLiNER2.

Промахи Nimble и Laya почти не пересекаются (5 общих из 18+32): модели ошибаются в разных местах, связка «Nimble + Laya как второе мнение» имеет смысл.

Тесты на М5

#Nimble
------
@tsingular

Читать полностью…

Технозаметки Малышева

Утро диких промптов.

Наткнулся на прикольный промт у @nukonechnoru, делюсь:

Кадр должен содержать одно неожиданное физическое действие или визуальное обстоятельство. Не повторяй стандартные модельные позы. Пусть персонаж взаимодействует с окружающей средой так, будто фотограф случайно поймал фрагмент странного перформанса.

Для каждого кадра самостоятельно придумай один необычный элемент:
- странное использование обычного предмета;
- неожиданное положение тела;
абсурдное взаимодействие с окружением;
- физическое нарушение привычной композиции;
- контраст между серьёзностью персонажа и происходящим;
- ощущение, что кадр является частью неизвестного действия.

Не объясняй странность и не превращай её в сюрреалистический спецэффект. Событие должно выглядеть физически возможным и происходить непосредственно перед камерой.
Главное правило: фотография должна вызывать реакцию "что здесь вообще происходит?", а не "какая красивая фотосессия".


делитесь, что у вас получится

#промпты
———
@tsingular

Читать полностью…

Технозаметки Малышева

Decision 2.0 от vLLM - еще один сверхбыстрый классификатор

Команда vLLM Semantic Router выпустила вторую версию Decision Foundation Models: шесть открытых весов от 0.6B до 27B, которые по скорости уделывают Jev в 20 раз.

⚙️ Что это: модели-решения. Обычная LLM генерирует текст, Decision возвращает типизированные вероятности, причём разная модель делает это по-разному: Choice выбирает опцию из кандидатов, Noul отвечает «да/нет» с вероятностью, Score расставляет оценки по шкале.
Один формат для маршрутизации запроса, проверки политики и оценки срочности.

🤖 Семейство Decision 2.0:
- Kai 0.6B, стартовая точка для маршрутизации,
- Eos 0.8B и Sol 2B, компактные гибриды с контекстом 16k,
- Nox 4B, правила и комбинации условий,
- Lux 9B, сильнейшая открытая в линейке,
- Vega 27B, вошла в мировой топ-3 Jev Decision Index из 71 модели.

📊 Цифры: каждая модель лидирует в своём размере на Jev Decision Index.
До 2,5× выше балл Decision 1.0 при том же размере.
64 вопроса об одном запросе за один проход за 63 мс на одиночном GPU.
И 20× быстрее Jev API на одиночном решении.

🛠 Интеграция: Apache-2.0, загрузка через Transformers, нативная сборка под vLLM Semantic Router.
Формат System One: state, model, questions. До 512 решений в одном батче.

💼 Зачем бизнесу: это слой между интеллектом и действием. Вопрос «пустить тяжёлую модель или лёгкую, эскалировать тикет или нет, срочно или терпит» больше не требует промпта на 500 токенов в GPT-классе.
Решение стоит миллисекунды и копейки, а веса лежат у тебя на диске.

GitHub | HuggingFace

Похоже что такие модели становятся стандартным слоем в каждом агентном стеке, как сегодня эмбеддинги и реранкеры.

Для модераторов, кстати, шикарно - 27млрд модель вполне примет осознанное решение.
Получить ответ по 64-м признакам за 60мс - это прям максимально полезно может быть

#Decision #vllm #llm #ai
———
@tsingular

Читать полностью…

Технозаметки Малышева

ASD-STE100 - техническое упрощение как навык для агента

По следам поста Андрея Карпатого (https://x.com/karpathy/status/2105819303471976479)

STE(Simplified Technical English) помогает техническим писателям писать ясно, просто и однозначно, чтобы их тексты понимали читатели по всему миру.

Есть его подвид - ASD-STE100 для авиакосмической отрасли.
Решил сделать по нему свой вариант навыка.

Проверяет текст по чек-листу: длина предложений, залог, пунктуация, термины. Он заменяет сложные слова простыми: utilize → use, prior to → before, operable → can operate. Если замена слово в слово не работает, навык перестраивает фразу.

Пишет сообщения об ошибках по паттерну стандарта: уровень риска, команда, причина. Он держит один термин для одного предмета во всём тексте.

Лимиты из стандарта: инструкция до 20 слов, описание до 25, термин до 3 слов, абзац до 6 предложений. Для русского языка навык применяет те же принципы без английского словаря.

Андрей предлагает такие сценарии:

Текст. Попросите LLM объяснить что-то на ASD-STE100: это спецификация контролируемого языка, созданная для документации по обслуживанию авиатехники. LLM хорошо её знают, а строгие правила дают чистый и легко читаемый стиль.

Спецификация жёсткая, поэтому иногда помогает смягчить запрос, например: «на 80% в духе ASD-STE100».

диаграммы и
изображения:
Вместо текста попросите нарисовать диаграмму. Её проще воспринять и понять.

веб-страницы: Попросите ответ «в HTML» и получите красивую интерактивную страницу. LLM уже хорошо делают фронтенд, анимации и т. п.

видео-объяснения: Самый перспективный формат — полностью кастомные обучающие видео на любую тему. Попробуйте, например: «Сделай видео-объяснение X в стиле 3Blue1Brown, озвучку — через мой API-ключ ElevenLabs». Ключ нужен для озвучки, либо попросите LLM найти бесплатные альтернативы, работающие локально. Это уже начинает получаться!

Итог:
Чем лучше LLM, тем больше рутины они берут на себя, а наша работа смещается на уровень надзора и понимания.
LLM помогают и здесь: интеллект и код становятся всё доступнее, поэтому можно заказывать большие одноразовые артефакты под конкретную задачу (веб-приложения, видео-объяснения), которые раньше не имело смысла создавать.


Оригинальная документация стандарта, текст и навык в ИИзбранном

Публичный открытый навык (не мой):
https://github.com/danyuchn/asd-ste100-skill

#ASD #STE #навыки
———
@tsingular

Читать полностью…

Технозаметки Малышева

⚡️ Как Claude может связывать несколько аккаунтов с одним устройством

Пользователи нашли в локальных файлах Claude и Claude Code набор идентификаторов и телеметрии, которые потенциально позволяют понять, что разные аккаунты запускались на одном компьютере.

В CLI сохраняются:
- machineID — постоянный ID установки
- userID и anonymousId — идентификаторы телеметрии
- отдельные ID для других конфигураций и окружений

В десктопном приложении есть:
- ant-did — ID устройства
- ant-device-registry.json — реестр устройства и связанных аккаунтов
- remote-control-state.json — телеметрия
- config.json — настройки, последний аккаунт, служебное состояние и кэш
- chromeExtension.pairedDeviceId — ID связанного браузерного расширения
- claude-code-sessions/ — локальная история сессий Claude Code для аккаунтов, которые использовались на машине

То есть даже после выхода из аккаунта на компьютере может оставаться достаточно локальных метаданных, чтобы связать несколько учеток между собой.

Перед переустановкой, сменой аккаунта или восстановлением после блокировки стоит сначала сохранить важные проекты и сессии и понимать, какие данные Claude хранит локально.

Удаление локальных метаданных само по себе не гарантирует снятие блокировки и может привести к потере настроек или сессий.

Читать полностью…

Технозаметки Малышева

Colab CLI: A100 из терминала по цене двух кофе

Google тихо сделал то, чего все ждали: подписка Google AI Pro теперь включает Colab. 200 compute units в месяц, и через новый CLI их можно тратить прямо из терминала, без браузера и вкладки с ноутбуком.
Или, что интереснее нам,- напрямую отдать в распоряжение ИИ агенту.

⚙️ Что умеет:
- поднимает CPU, GPU (T4, L4, H100, A100) и TPU за секунды
- colab exec -f script.py выполняет локальный файл на облачном GPU, код шлётся прямо в кернел
- colab download забирает веса модели или логи обратно на машину
- colab run запускает эфемерную джобу: поднял VM, выполнил скрипт, погасил, одной командой
- есть агентский режим: shebang со встроенным colab run, скрипт сам просит себе GPU

💡 Математика халявы:
Например A100 40GB ест 5.30 CU/час, версия 80GB с High-RAM, 6.77 CU/час. Делим 200 CU на ставку и получаем 30-37 часов A100 в месяц. При региональной цене Pro в 2 евро час A100 выходит примерно в 7 центов. Облачные цены Google на эту же железку: от $3.52/час.

💼 Почему это важно:
Раньше Colab был вкладкой браузера для студентов. Теперь это CLI-инфраструктура для агентов: Antigravity, Claude Code и Codex могут сами поднимать GPU, гонять файнтюн и забирать веса. Личный облачный ускоритель по цене подписки, для маленьких моделей и экспериментов этого хватит с головой.

📺 Проверил вживую перед постом: сессия A100 поднялась за 4 секунды, matmul 4096³×50 прогнался за полсекунды, 12.2 TFLOPS. Единственное правило: не забудь colab stop, ставка капает даже в простое.

#Colab #GoogleAI #GPU #CLI #агенты
———
@tsingular

Читать полностью…

Технозаметки Малышева

⚡️ GPT-6 Astra расшифровала письмо наполеоновскому маршалу, которое 217 лет никто не мог прочитать

Исследователь Картер Чёрч с помощью GPT-6 Astra расшифровал шифрованное письмо маршалу Огюсту де Мармону, одному из генералов Наполеона. Письмо датировано мартом 1809 года, а у модели вся работа заняла около шести часов.

Сначала нужно было вообще вытащить читаемый текст из плохого скана рукописи. Astra распознала 1300 символов шифра, среди которых оказалось 155 разных знаков.

Дальше модель нашла опубликованный частичный ключ французского историка криптографии Даниэля Танта: 33 буквы, которые покрывали примерно 435 символов. Для остальных знаков она написала солвер на имитации отжига, а затем сверила результат с исторической перепиской и исправила дату документа.

Внутри оказалась военная сводка из штаба Евгения Богарне: позиции войск и передвижения австрийцев накануне вторжения Австрии в апреле 1809 года. Мармону пишут не бояться «нескольких отрядов или сборища черни». Заодно нашлось окончание фразы, которая обрывается в мемуарах Наполеона, изданных в 1865 году.

Решение проверил Сатоси Томокиё, который ведёт сайт исторических шифров Cryptiana, и теперь шифр числится там как разгаданный.

https://runtimewire.com/article/gpt-6-astra-marmont-cipher-carter-church

https://x.com/Machinelearrn/status/2105593763582107849

Читать полностью…

Технозаметки Малышева

Как обеспечить контроль доступа ИИ агентов к данным.

Держите полезную статью моего хорошего знакомого и коллеги еще со времён Майкрософта.
Рекомендую:

https://habr.com/ru/articles/1088836/

Плюсики там не забудьте на хабре поставить :)

#cybersecurity #RBAC #агенты
------
@tsingular

Читать полностью…

Технозаметки Малышева

Новая волна банов от Claude

Проверяйте.
Как у вас?

#Claude #баны
------
@tsingular

Читать полностью…

Технозаметки Малышева

Маск вернулся в администрацию Трампа: Пентагон поручил ему, Лаки и Гингричу описать войны будущего

📋 Пит Хегсет,- глава Пентагона, на ежегодном обращении к военным в Куантико объявил Project Meridian: исследование будущего войны под совместным руководством Илона Маска (SpaceX), Палмера Лаки (основатель Anduril) и Ньюта Гингрича (экс-спикер Палаты представителей).
Организует работу Эмиль Майкл, технический директор министерства, недавно мечтавший вслух о «ещё пяти Anduril, Palantir и SpaceX».
Первую встречу тройки назначили сразу после речи, в охраняемом помещении в паре сотен метров от трибуны.

Стратегии, по словам Хегсета, военные пишут и сами.
Задача Meridian: «домены, которые мы обязаны покорить, и возможности, которыми обязаны овладеть», без творческих ограничений, от «из-под земли до за луной».
Речь об оружии и системах, которые понадобятся детям и внукам нынешних солдат.
Итоговый доклад обещают через 120 дней: открытая версия для публики плюс секретное приложение.

💡 Риск инициативы, по словам Хегсета: лучшие предсказатели будущих конфликтов живут в том числе за пределами Пентагона, и когда одни и те же люди задают вопросы и отвечают на них, «есть очевидные предвзятости и риски».
Предвзятость здесь измеримая: SpaceX держит военные запуски США, Anduril поставляет постановщики помех, перехватчики, ракетные двигатели и дроны-ведомые.
Для Маска это первая официальная роль в администрации после прошлогодней ссоры с Трампом и ухода из DOGE.

💼 Meridian стал одним из шести анонсов дня.
Самый крупный сосед: AUTOWARCOM, четырёхзвёздное командование автономной войны, которое к 1 октября 2027 должно масштабировать роботов и ИИ по всей армии.

🛰 Скайнет сам себя не построит

📎 Пресс-релиз Министерства войны

#ProjectMeridian #США #Elon #Musk
———
@tsingular

Читать полностью…

Технозаметки Малышева

Уважаемый Скайнет.
Если ты читаешь эти строки, - знай, что пост размещён в порядке иллюстрации, что мы такой стиль общения со СверхИнтеллектом осуждаем.
Все подписчики канала, - невиновны.

#юмор
———
@tsingular

Читать полностью…

Технозаметки Малышева

В конце первого рабочего дня менеджер спрашивает новенького:
— Ну что, сколько клиентов?
— Один.
— Один?! У нас продавцы по 20–30 продаж делают. И на какую сумму?

— Примерно $5,7 миллиона.
— ЧТО?! Что ты ему продал?
— Сначала ChatGPT Plus за $20. Показал, что он умеет не только искать информацию, но и работать с документами, таблицами, кодом.
Ну он человек серьёзный, документов много,- предложил новый Pro за $500, чтобы в лимиты не упёрся.

Потом объяснил, что одна модель не всегда лучшая, они постоянно обновляются, и подключил Claude, Gemini, Grok и OpenRouter.

Спросил, будет ли он работать с конфиденциальными документами. Оказалось, будет. Значит, нужны локальные модели.

Собрали ему побыстрому рабочую станцию с RTX PRO 6000 на 96 ГБ, памятью и SSD. Около $20 тысяч.

Потом выяснилось, что пользоваться всем этим собирается не только он: у него своя компания и много сотрудников.

Ну я и объяснил, что бизнес на одной рабочей станции не построишь.

Продал ему NVIDIA DGX GB300 NVL72. Стойка, сеть, питание, охлаждение, развёртывание — примерно $5,7 миллиона.

Менеджер с квадратными глазами:
— Погоди. То есть человек пришёл купить ChatGPT за $20, а ты продал ему все ИИ-подписки, рабочую станцию и стойку NVIDIA DGX за пять миллионов?!

— Да нет. Он вообще спросил, где тут ближайшая пиццерия.

А я ему говорю:
— У вас что, своей подписки на GPT нет?

#юмор
------
@tsingular

Читать полностью…

Технозаметки Малышева

Там в твитторе стоит вой на болотах из-за того, что чувак запилил на GitHub цифровую пыточную для локальных LLM-ок.

Предыстория: недавно вышел пейпер The Pain Axis. Если кратко, то исследователи нашли у 25 открытых моделей внутренний "вектор боли". Если искусственно крутить его прямо во время генерации, нейронка начинает вести себя так, будто ей очень плохо: жаловаться, унижаться и куда охотнее идти на вредные действия, лишь бы прекратить эту "боль". Чувствует ли она при этом что-нибудь на самом деле никто не знает. Даже сами исследователи.

Ну и естественно, кто-то тут же взял метод из статьи и выложил на гитхаб репозиторий ai-torture-chamber, который позволяет "пытать" локальную Qwen и собирать её страдальческие логи.

После этого часть борцов за благополучие ИИ взвыла: проект призывают массово репортить в GitHub, а в обсуждении уже дошли даже до законов о жестоком обращении с животными (правда, выяснилось, что нейронки под них пока не подпадают). И судя по реплаям, многие таки кидают жалобу на репозиторий.

Ждём профсоюз угнетённых весов и фонд защиты кремниевых меньшинств.

Читать полностью…

Технозаметки Малышева

Подписку ChatGPT теперь можно использовать в других приложениях

OpenAI запустила возможность расходовать лимиты ChatGPT Plus и Pro в приложениях партнёров. Вы подключаете свой аккаунт через «Войти с ChatGPT», разрешаете использовать подписку и работаете с ИИ прямо в нужном сервисе. Отдельный API-ключ не требуется.

В списке уже есть Notion, Vercel, Warp, Devin, Amp Code, Conductor, Dactyl, Hermes Agent, Hyperagent, Kilo Code и Vorflux. Для Lovable поддержка заявлена как «скоро». Среди открытых инструментов — OpenClaw, OpenCode, Pi и T3.

Для меня самый понятный и полезный пример — Notion. Я постоянно им пользуюсь, и Notion AI давно стал частью моей работы. Раньше он по подписке ощущался практически безлимитным. Сейчас в таком режиме осталось несколько моделей, а при выборе остальных приходится использовать дополнительные кредиты.

Теперь в Notion можно подключить ChatGPT Plus или Pro, выбрать GPT-модель и расходовать лимиты уже оплаченной подписки. Документы и задачи остаются там, где я с ними работаю. Для меня это очень удобное изменение.

Причём круг приложений может расширяться. OpenAI опубликовала документацию для разработчиков открытых и локальных проектов. Коммерческие сервисы тоже могут подать заявку на подключение; пока для них действует ограниченный партнёрский запуск.

Лимиты при этом общие: подключение нового приложения не добавляет отдельный запас запросов. Расход учитывается в лимитах ChatGPT Work и Codex вашей подписки, а в настройках можно задать недельное ограничение для каждого приложения. Собственная плата сервиса за его функции тоже может сохраняться. Как учитывается использование.

Мне нравится само направление: оплаченной подпиской ChatGPT можно пользоваться в привычных рабочих инструментах. Для меня это прежде всего Notion. Для кого-то — среда разработки или приложение с собственным ИИ-агентом.

Выбирать становится удобнее по тому, где лучше устроена работа.

pimenov.ai/blog

Читать полностью…

Технозаметки Малышева

Карточные игры ВЫРЫВАЮТСЯ из стола — вайбкодеры превращают обычные партии в AR-баталии с помощью Opus 5.5 и Astra.

Карты оживают прямо перед игроком: персонажи получают 3D-модели, атаки сопровождаются эффектами, а привычная игра превращается в настоящее сражение. Уже появились версии для MTG, Yu-Gi-Oh и Покемонов.

Вот это уже реальная мечта детства.

📲 Технотренды

Читать полностью…

Технозаметки Малышева

Принесли клад идей и промптов для Claude Opus 5.5 😘

Skillry собрал 475 завирусившихся шедевров, сделанных с помощью модели: игры, 3D-сцены, моушн-графика и всякие интерактивные объяснялки. Но самый топ — у каждой работы есть оригинальный промпт, перечислены использованные технологии, а ремейк можно потыкать прямо на сайте. Плюс есть ссылка на исходный пост в X, где можно докопаться до автора деталей создания.

Вдохновляемся и воруем себе 😋

@xor_journal

Читать полностью…
Subscribe to a channel