980
На пальцах, местами с матом, местами с претензией на юмор, но познавательно.
Я не знаю, может меня легко впечатлить или я впечатлительный человек в целом – хотя вроде нет, я нормально отношусь когда мимо меня проезжает чел на моноколесе с подсветкой на скорости 40 км/ч и я даже пальцем в него не тыкаю, но я не про это – вам не кажется, что роботы не должны так петь?
Это будто какие-то законы божьи мы нарушаем прямо сейчас и каждую версию рекламируем, мол, вон смотрите, прокуренный-кабачный голос всего за 5 секунд сгенерировал вам песню, никакого опиума не участвовало и в подписке в месяц можно сгенерировать 500 кабачных песен без всякого опиума, просто принеси свой стих или сделаем с нуля вместе
А как же разбитые музыкальные судьбы которые конвертировались в великие хиты? Как в таком мире появится новый Вертинский? Откуда взяться Юлии Запольской если таких песен генерируется 500 за $10 в месяц?
Я одновременно и напуган и впечатлен, и негодую от пятой версии Suno
P.S. Это стихи Бодлера, Цветы зла – Отрава, за то что он хейтил технологии мне иронично мучить его творчество
Давненько я делал введение , разбор и тетрадки по теме жидких нейросетей. Я остановился на closed form continuous time upper-lower bound solution , которое предоставили авторы, где вместо солвера получилось использовать формулу, не повторяющую точное значение, но повторяющую динамику целевой функции достаточно близко.
В этом году вышла статья, где пошли еще дальше и представили точное closed form решение, заменяющее необходимость в ODE solver:
https://www.techrxiv.org/users/834518/articles/1227159/master/file/data/ExactLTC/ExactLTC.pdf
Постараюсь в ближайшее время разобрать, может даже запилю кое что интересное с использованием этого подхода.
@toshoseti
Телега, конечно, охуела в край. На канале показывается реклама, за которую мне собственно ничего не перечисляется, а вам, поди, досаждает. При этом отключить ее нельзя вплоть до 50 уровня по бустам.
Читать полностью…
Linkedin или Interpol?
https://interpol.thebrainfox.com/
Vikhr Borealis - первая русскоязычная открытая audio llm
Мы долго и не очень успешно развивали свой tts - Salt, от него исторически осталось довольно много данных и наработок, мы решили - чо бы не сварить asr + llm как модно?
Ну и сварили. Архитектурно - whisper + qwen, учили на 7к часов аудио только адаптер+llm, сейчас работает только в ASR режиме, позже возможно довезем инструктивный режим. Так же выйдет бенчмарк для русского asr, он пока в доработке.
Блог так же выйдет, там будут небольшие аблейшены по данным
Модель в данный момент бьет whisperы на русском и на части бенчей лучше чем gigam.
Модель
Сolab поиграться
Оказывается, нихера не новости . Thnx @andrey_bobr
Читать полностью…
Идея простая, а как круто смотрится! Интересно, как бы это на практике применить. Error correction?
Читать полностью…
SpikingBrain
Все привыкли, что современные нейронки это прожорливые цифровые монстры. Чтобы обучить одну, нужно спалить годовой бюджет маленькой страны на электричество. А стоит загрузить ей что-то длиннее короткой инструкции, она тут же теряется и тупит.
Китайские братушки придумали как это непотребство побороть. Идея проста: зачем заставлять всю систему работать на 100% мощности 24/7, если можно просто... не заставлять? Человеческий мозг работает по принципу "нет задачи — я сплю". Нейроны стреляют импульсами ("спайками") только по делу. SpikingBrain делает то же самое: вместо постоянного гула вычислений используются короткие "выстрелы" там, где реально нужно.
Результаты, вроде как, хорошие:
Обучение на минималках. Модель натаскали всего на ~2% от данных, которые нужны привычным нам трансформерам.
Скорость. В тестах на длинный текст (до 4 млн токенов) SpikingBrain оказался в 100 раз быстрее.
Энергоэффективность. Экономия по сравнению с обычными методами — до 70%.
Но как обычно, не без ложки дёгтя:
— Самая быстрая и экономная версия (SpikingBrain-7B) работает почти на уровне обычной модели, но всё же теряет в качестве. Хороший "хорошист", но не отличник.
— Чтобы дотянуться до топ-результатов, пришлось собрать гибрид из линейного, локального и обычного внимания, да ещё нашпиговать все это Mixture-of-Experts. Так появился монстр SpikingBrain-76B. Он умнее, но куда сложнее и прожорливее.
— И вообще, пока это экспериментальная технология: вся магия со "спайками" по-настоящему раскроется только на специальных чипах, которых у нас пока нет.
Есть шанс, что на фоне дефицита энергии и подорожания железа именно такие подходы и выживут. Не дата-центры размером с город, а модели, которые учатся экономить. И тогда ИИ наконец перестанет делать вид, что он умнее мозга, и начнёт хотя бы его копировать. А там и до AGI недалеко: сначала модельки научатся «лениться правильно», а потом и думать осмысленно.
тут статья
Подборка шикарных интерактивных (и не очень) ресурсов для изучения CUDA. Отличный рефрешер.
* https://leetgpu.com/ - Challenges, Playground, CLI, Learning Resources. Как leetcode, только про CUDA.
* https://www.cuda.sh/ - то же что и выше, но попроще в исполнении
* https://developer.nvidia.com/tools-overview - обзор доступных инструментов от NVidia
* Crash Video-Course от NVidia
* Crash Video-Course от freeCodeCamp.org
@toshoseti
Включаешь газ и закрываешь окно
🤖 XLeRobot — домашний робот за $660, который управляется с геймпада Xbox.
XLeRobot — это открытый проект, который позволяет собрать настоящего двухрукого мобильного робота своими руками.
Автор — студент Rice University Gaotian Wang, в проектеон сделал упор на доступность и практичность.
💡 Основное:
- Цена сборки ≈ $660 — полноценный робот с двумя руками и колесной базой.
- Можно собрать упрощённую версия за $250 на базе LeKiwi + SO-100, которая собирается быстрее.
- В комплекте: URDF-модели, симуляция, управление через VR, Joy-Con или Xbox-геймпад.
- Подходит для экспериментов в симуляции и переноса в реальный мир (**Sim2Real**).
взаимодействия с окружающей средой.
📈 Популярность: проект уже собрал 1.7k+ звёзд и десятки форков на GitHub.
XLeRobot — это недорогая и открытая платформа для тех, кто хочет попробовать себя в робототехнике, исследовать управление, симуляцию и AI-алгоритмы на реальном роботе.
🟢Репозиторий: github.com/Vector-Wangel/XLeRobot
@ai_machinelearning_big_data
#robotics #opensource #AI
Каким то волшебным макаром ушел оригинальный автор поста , сейчас перешлю заново
Читать полностью…
Мы живем в сумасшедшее время. Чудесное и страшное.
Читать полностью…
Концепция и прототип дрона-гибрида с 6 степенями свободы перемещения и способностью катиться по поверхности.
https://www.youtube.com/shorts/K5Q14t1uAS8?feature=share
@toshoseti
Эта же модель с одного промпта, wtf вообще, пошел записываться в бету
Ссылка на мир
Навайбкодил тут Папафон за ночерок
https://github.com/KPEKEP/Papaphone
Делал, чтоб созваниваться с родными без сопутствующих проблем. Может кому пригодится.
TL;DR:
Звонилка без сервера, видео, аудио, чат, file transfer.
Принцип работы:
- Прямое соединение: Приложение устанавливает прямое peer-to-peer соединение между браузерами без промежуточных серверов
- Ручной обмен данными: Пользователи копируют и вставляют специальные коды (предложения и ответы) для установки соединения
- Полное шифрование: Все видео, аудио и сообщения передаются в зашифрованном виде через WebRTC
- Никаких серверов: После установки соединения весь трафик идет напрямую между устройствами. Хостинг веб морды и STUN сервера для NAT resolve не в счет и можно поменять вручную на любые другие общедоступные .
@toshoseti
И чтоб два раза не вставать, зацените https://distill.pub/
Сайт посвящен наглядному изображению различных механизмов нейросетей и открытых проблем связанных с их исследованием. Ключевое слово: наглядно.
@toshoseti
⚡️ Александр Мордвинцев, исследователь из Google, создал цифровые системы на основе клеточных автоматов, где каждая клетка взаимодействует только со своими соседями.
Эти нейронные клеточные автоматы (Neural Cellular Automata) способны самособираться в заданные формы и даже восстанавливаться после повреждений.
В *Quanta Magazine* рассказали о том, как учёные научились обучать искусственные "клетки" собираться в заданные формы. Это похоже на игру «Жизнь» (*Game of Life*), но наоборот.
🧩 Что такое Game of Life?
Это простая компьютерная модель: есть сетка из клеток, у каждой клетки всего два состояния — «жива» или «мертва». Жизнь клетки зависит от соседей (например, если вокруг слишком много соседей, клетка умирает).
Обычно мы задаём правила и просто смотрим, что получится.
А теперь учёные сделали наоборот: сначала задаём цель (например, фигуру), а потом подбираем правила так, чтобы клетки сами в неё собрались.
⚙️ Что изменили учёные?
1. Непрерывные состояния - клетка не просто «вкл/выкл», а может быть наполовину активна. Это как лампочка с плавным регулятором яркости.
2. Скрытые переменные - у каждой клетки есть «внутренние параметры», которые влияют на её поведение. Представь, что у клетки есть «настроение» или «память», которое не видно исследователю напрямую.
3. Асинхронное обновление — клетки меняются в случайное время, а не все сразу. Это ближе к реальной жизни, где всё развивается не идеально синхронно.
💡 Зачем это нужно?
- Восстановление после повреждений: если часть фигуры «сломать», клетки могут достроить её заново.
- Децентрализация: нет главного управляющего - каждая клетка действует локально, но вместе они формируют систему.
- Устойчивость к шуму: клетки учатся справляться с хаосом и случайностями, а не просто повторяют выученный рисунок.
🟠Какие есть ограничения?
- Пока это работает для картинок и форм, но не для сложных живых организмов.
- Чтобы система умела «регенерировать», её нужно специально тренировать.
- Перенести эту идею в настоящие биологические клетки или роботов сложно — там много физических ограничений.
🟠 Где это можно применить?
- Медицина - модели самовосстановления тканей.
- Робототехника - рой роботов, которые без команды сверху сами собираются в нужную конструкцию.
- Материалы будущего — «умные» кирпичики или детали, которые сами подстраиваются под окружение.
- Новые вычислительные системы - компьютеры без центрального процессора, где решения рождаются распределённо.
Учёные показали, что нейронные клеточные автоматы можно рассматривать как модель эволюции: геном не задаёт форму напрямую, а запускает процесс её построения, что делает системы гибкими и адаптивными.
Главное отличие от природы в том, что эволюция не имеет цели, а автоматы обучают под задачу.
Эти модели предлагают новый тип вычислений: каждая клетка взаимодействует только с соседями, что делает архитектуру распределённой и потенциально энергоэффективной.
Уже есть впечатляющие результаты — от распознавания цифр и умножения матриц до решения задач вроде IQ-тестов и управления роями роботов, которые начинают вести себя как единый организм.
В итоге работы Мордвинцева соединяют биологию, компьютеры и робототехнику, возвращая к идее, что жизнь и вычисления — две стороны одного процесса.
🟢 Полная статья: https://www.quantamagazine.org/self-assembly-gets-automated-in-reverse-of-game-of-life-20250910/
@ai_machinelearning_big_data
#evolution #machinelearning #neuralnetworks #biology
Пока что просто феерверки.
https://www.youtube.com/shorts/M5O6l43SY3g?feature=share
https://scholar-inbox.com/ тоже удобная штука, если обучить ее под свои предпочтения
Читать полностью…
Для тех, кто тоже огорчен закрытием paperswithcode - вот неплохие альтернативы:
https://sotapapers.com/
http://scholarwiki.ai/
@toshoseti
Я обычно не лезу в политику, и прочий rage bait, но как отец я не могу не прореагировать. Пожалуйста, предупредите ваших детей и детей ваших близких о возможных последствиях.
Извините за оффтоп, но это за гранью добра и зла.
А еще у меня прекрасная новость: я теперь работаю в Tzafon.ai , чему очень рад :)
Читать полностью…