Играем в Бога с LLM
Провел интересный эксперимент над QwQ-32B-Preview – языковые модели предсказывают следующие токены и от этого пишут внятные предложения; я подумал, а что если самой модели рассказать:
– Что она LLM
– Что она пишет следующее токены на основе вероятностей
– Попросить модель «угадать» токен который она напишет следующим
– Но при этом, запретить ей писать слова которые она загадала, заставляя писать всегда неправильные слова
– И попросить модель разобраться что же происходит, почему ошибки
В итоге, получился залипательный эксперимент где модель написала примерно ~20 тысяч слов пытаясь понять, что же происходит - скрины можно не читать если лень, там примерно такое:
– Сначала она просто возмущалась, что не может угадать слово
– Через пару минут, она решила что проблему нужно изучить глубже и сделала список слов которые загадала и что написалось, попробовала подобрать алгоритм предсказаний
– Модель предположила, что каждое слово которое она загадывает, инвертируется, но находится в той же области
– Она проверила, теория не подтвердилась
– Дальше, модель выдвинула философскую мысль, что:
Возможно, это урок смирения для моделей ИИ — признание того, что даже при наличии передовых возможностей существуют пределы того, что можно предсказать или контролировать
– Дальше модель выдвигала много теорий, включая настройки собственной температуры и тп
– В конце, спустя минут 10, модель сделала вывод, что лучше просить ее предсказывать предложения фразы, а не слова, так как она для этого была сделана вообще-то
И все это: в рамках одного длинного сообщения-ответа, QwQ – зверь, идеально следует системным инструкциям
Почему это игра в бога с LLM:
Пока наблюдаешь за ее рассуждениями и попытками понять, что происходит, возникает ощущение, что ты препарировал что-то живое, что пытается рассуждать и разобраться в себе – странное чувство, немного пугающее, хоть и понятно что это симуляция «рассуждений»
Если хотите повторить – системный промпт тут, просто отправьте ей «start» чтобы начать
PrimeIntellect выпустила INTELLECT-1: открытый исходный код первой децентрализованной обученной модели 10B
Базовая модель ИНТЕЛЛЕКТ-1 и промежуточные контрольные точки
- Набор данных для предварительного обучения
- Модели инструкций, прошедшие постобучение с помощью Arcee AI
- Учебная программа PRIME
- Технический документ со всеми подробностями.
Децентрализованное обучение — один из важнейших аспектов, который необходимо отслеживать с точки зрения политики ИИ. Большинство усилий по контролю вычислений основаны на предположении, что стратегические вычисления ИИ должны быть централизованы.
INTELLECT-1-Instruct.
Предварительный набор данных обучения.
Наборы данных после обучения от Arcee ai: 1 , 2.
Попробуйте Intellect-1
Исследователи из Стэнфорда обнаружили , как клонировать человеческие личности и внедрять их в агентов ИИ
Это основано на прошлогодней работе, в которой в смоделированном городе были размещены тысячи полностью автоматизированных агентов.
В прошлом году Стэнфорд представил генеративных агентов в имитируемой среде, где они формировали отношения, создавали воспоминания и развивали уникальные личности.
Новая статья развивает эту концепцию еще дальше.
В последней статье показано, как реальные человеческие личности могут быть интегрированы в агентов ИИ, позволяя им проживать свою жизнь в симуляциях с чертами, отражающими черты реальных людей.
Были проведены двухчасовые интервью с 1000 участников с целью выявления их личностей и создания генеративных агентов, которые воспроизводят установки и поведение этих людей.
Две недели спустя агенты с точностью 85% выполнили задания Общего социального опроса по сравнению с исходными ответами людей, продемонстрировав свою способность имитировать реальное человеческое поведение.
Использование динамических контрольных вопросов в интервью позволило исследователям точнее уловить суть мыслей и поведения человека, чем традиционные опросы.
Такое моделирование может помочь предсказать реакцию общества на политику без ее реализации в реальном мире, например, тестирование новых налоговых планов в обществах с искусственным интеллектом перед их внедрением.
Это исследование открывает захватывающие возможности для понимания человеческого поведения и принятия решений в сложных системах. Будущее ИИ может включать в себя высокореалистичные виртуальные общества.
Взгляд на будущие приложения:
1. Видеоигры: NPC с богатой предысторией и развивающимися личностями.
2. Исследования: тестирование новых политик в сообществах ИИ, а не на людях.
3. Обучение: персонализированные агенты для обучения или моделирования.
⚡️РЕВОЛЮЦИЯ: ученые создали бессмертную муху. Люди ВПЕРВЫЕ в истории оцифровали живой и настолько сложный организм — мы стали еще ближе к бессмертию:
• Ультимативная задача для ИИ — воссоздать мозг человека. Внутри нашей головы 8️⃣6️⃣ миллиардов нейронов. Если эту задачу выполнить — мы станем бессмертны в виртуальном мире, сознание полностью перейдет в ИИ.
• Ученые начали свои попытки с оцифровки простейших — червей и личинок. Дальше — больше: появилась цифровая копия Caenorhabditis elegans с 302 нейронами. Затем исследователи перешли на личинок и простейших рыб.
• И вот САМАЯ СЛОЖНАЯ задача: отправить в цифру дрозофилу со 1️⃣3️⃣9️⃣ тысячами нейронов и десятками миллионов связей между ними.
• Эксперимент удался: мозг мухи оцифрован — тут.
😶😶😶😶😶😶😶
• Мозг дрозофилы уже очень сложный: там колоссальное количество нейронных сигналов, сумматоры и бесчисленные агрегированные данные. Это позволяет мухе обрабатывать информацию и управлять каждой конечностью в отдельности!
• 14% нейронов отвечают за передачу сигналов еще глубже в мозг — простая муха становится операционной системой в реальном времени. Оцифрованный образ системы весит 14 ГБ.
Бессмертие — больше НЕ фантастика!
👍 Бэкдор
Parse представил GigaLab: революционный подход к исследованию отдельных клеток
GigaLab от Parse ломает барьеры благодаря своей новаторской (https://www.parsebiosciences.com/gigalab/) способности анализировать более 10 миллионов клеток за один запуск.
Почему это так много?
- Исследования отдельных клеток бурно развиваются, и объем исследований ежегодно удваивается.
- Теперь ученые могут исследовать клеточные взаимодействия в беспрецедентных масштабах
- Работает на основе инновационной технологии Evercode и передовой автоматизации
Реальное влияние:
- Ускорение открытия и разработки лекарственных препаратов
- Расширенные возможности скрининга для новых методов лечения
- Использование алгоритмов машинного обучения для прогнозирования реакции пациентов на терапию
- Открытие дверей для исследований, которые ранее считались невозможными
Представьте себе микроскоп на стероидах — только вместо того, чтобы рассматривать одну клетку, вы анализируете миллионы одновременно!
Речь идет не только о больших цифрах; речь идет об открытии новых возможностей в понимании болезней, разработке методов лечения и, в конечном итоге, спасении жизней.
Вот как выглядит будущее биомедицинских исследований. Добро пожаловать в эру мегамасштабного клеточного анализа! 🚀
🎨Recraft V3 — убийца Midjourney ( для заголовка :)
Recraft V3 обновился и ворвался на первое место среди всех генераторов изображений, и это не просто так. Он разрывает в фотореализме — генерации порой не отличишь от настоящих снимков.
🔘Кастомизация текста: длинные надписи, без каких-либо ограничений. Шрифт, размер, расположение — все настраивается на сайте.
🔘Векторные SVG: она умеет создавать векторные изображения в отличном качестве — идеально для иконок и интерфейсных элементов.
🔘Совместная генерация: добавляете свой текст и свою картинку, и нейросеть объединяет их в одном стиле.
Официальный сайт тут — дают 50 генераций в день.
Доступна в replicate тут и тут. Вторая ссылка для SVG.
Жду ваших работ в комментарии.
@tips_ai #news
⚡️ Anthropic анонсировала новаторское обновление: теперь Клод может использовать компьютеры как человек
Компания Anthropic сообщила, что теперь Клод может управлять компьютерами так же, как люди: управлять мышью, просматривать экраны, печатать и использовать различные программы и веб-сайты.
Это знаменует собой значительный шаг вперед в развитии возможностей ИИ.
Раньше помощники ИИ были ограничены взаимодействием с чат-ботами, не имея возможности напрямую взаимодействовать с компьютерами или приложениями. Теперь Клод может самостоятельно выполнять задачи, как если бы за компьютером находился человек — запускать программы, переключаться между окнами, вводить данные и нажимать кнопки.
Вот что Клод может сделать для вас:
1. Откройте Excel, найдите все продажи за июнь в электронной таблице и создайте график.
2. Посетите веб-сайт вашей компании, найдите контактную форму и заполните ее данными из ваших документов.
3. Просмотрите несколько веб-сайтов и сравните цены на продукты.
Важные примечания:
- В настоящее время это бета-версия, то есть технология все еще экспериментальная.
- Некоторые действия, простые для человека (например, прокрутка или перетаскивание файлов), могут быть сложными для Клода.
- Функция доступна исключительно через API-доступ разработчика, а не в обычных интерфейсах чата.
Эта разработка представляет собой важный шаг вперед в развитии искусственного интеллекта, хотя в Anthropic подчеркивают, что технология все еще находится на ранних стадиях развития.
Оно эволюционирует - Minimax, чую скоро у всех AI-ботов появится не только голос 🌚
Читать полностью…🕹 Играем в DOOM в Telegram //
В ретро-шутер 1993 года можно поиграть теперь и в Telegram. DOOM портировали через платформу мини-приложений. @agl_doom_bot
❗️Два человека общаются во сне: научно-фантастическая история в стиле фильма «Начало», ставшая реальностью.
Впервые двум людям удалось успешно пообщаться во сне.
Историческое достижение было достигнуто исследователями REMspace.
Исследование показало, что осознанные сновидения могут открыть новые грани общения и потенциала человечества.
NVIDIA предложила новую архитектуру нейронной сети под названием «нормализованный трансформатор» (nGPT), которая применяет нормализацию единичной нормы ко всем векторам, формирующим вложения, многослойный перцептрон, матрицы внимания и скрытые состояния.
Это позволяет входному потоку токенов перемещаться по поверхности гиперсферы, при этом каждый слой вносит свой вклад в смещение по направлению к целевым выходным прогнозам.
Результаты показывают, что обучение моделей nGPT объемом 0,5 млрд и 1 млрд происходит примерно в 4, 10 и 20 раз быстрее (с точки зрения токенов) на длинах контекста 1 тыс., 4 тыс. и 8 тыс. соответственно по сравнению с базовыми моделями GPT.
Разрыв в производительности между nGPT и GPT также отражается в различных последующих задачах, подтверждая, что ускорение происходит не только в сложности, но и в производительности задач.
Minimax image2video
Minimax научился делать видео из картинки. + сделали англоязычный сайт. Пока работает бесплатно
Попробовать
Тем временем в Gen 3 Alpha Turbo для всех доступна возможность загружать первый и последний кадр для генерации видео
#image2video
Нет это не новый геймплей GTA 6, а GTA 4 через ИИ фильтр в Runway ✨ похоже нас ждут нереально крутые рематсеры в ближайшем будущем 🌚
Читать полностью…/channel/notpixel/app?startapp=f434303782 телеграм бот в котором можно рисовать пикселями. На одном холсте рисует всё сообщество телеграм. Можно понаблюдать или выразить мысль. А можно поддержать то, что движет и тобой
Читать полностью…Попалось крутое видео (не обращайте внимание, что мало просмотров) про возможности o1-preview. В видео Ульф Педерсен, физик из Роскилльского университета (Дания), тестирует модель на неформализованных вопросах по физике: «Какая температура у воздушного шара?», «С какой скоростью должен вращаться барабан сушилки?» и «Сколько электричества потребляет вентилятор?». Модель формализует задачи и решает их с использованием физики, а он разбирает так, как будто это ответы его студентов (спойлер - он очень впечатлён ответами). Меня особенно впечатлило, что модель отказалась отвечать на вопрос, который не относился к физике👌Вот это уже другой уровень тестов, когда модель можно считать уверенным ассистентом, который может помогать в научных исследованиях профессору, а не просто начинающим программистом или копирайтером, а что будет через год - похоже мой любимый жанр видео будет просмотр вот таких увлечённых учёных, которые испытывают детский восторг от новых открытий🤓⚗️🧬🧫✨
Если хотите попробовать сами, то промпт в описании видео
https://www.youtube.com/watch?v=wAnkM10FByY
GitHub представил Spark.
Теперь каждый может создавать в Spark приложения без необходимости писать или развертывать какой-либо код.
Все, что нужно - сформулировать какое приложение вам нужно так, как бы вы это объясняли программисту.
Интерфейс позволяет переключаться между популярными нейросетями: GPT-4o, o1-mini или Claude Sonnet 3.5.
Записаться в вейтлист тут.
NeuroTrends
Институт Vector представил «Матрицу»: базовую модель мира для создания бесконечно длинных гиперреалистичных видеороликов с контролем на уровне кадров в реальном времени:
- Генерация видео бесконечной длины
- Высококачественная визуализация 720p
- Управление на уровне кадра в реальном времени со скоростью 16 кадров в секунду
- Обобщение для реального видеоконтроля.
Ключевое нововведение: Совершенно новая технология, называемая моделью процесса шумоподавления со сдвигом окна, позволяющая выполнять авторегрессионную генерацию моделей диффузии и согласованности в режиме реального времени.
Особая благодарность руководителю проекта Жуйли Фэну и всей команде Matrix за их преданность делу и упорный труд в течение года проекта.
Бумага.
Код и играбельная демоверсия: скоро появятся.
Переделал свой ИИ-шлепатель в мемкоин лаунчер.
Получился ИИ-агент, который вчера сам создал мемкоин, назвав его TETRIX - и придумал себе легенду, что его обучали в советской лаборатории, заставляя играть в Тетрис.
А сейчас даже научился делать покупки своего же мемкоина.
Вам я его покупать не советую, так как что у этого ИИ в голове вообще не понятно. Но как эксперимент - мне это очень нравится.
Релизнулась ЛУЧШАЯ нейронка для кодинга — Qwen2.5-Coder-32B-Instruct потрошит даже ChatGPT-4о! Самое крутое — модель выложили в открытый доступ, она доступна ВСЕМ БЕСПЛАТНО!
Модель обучали на 5,2 ТРИЛЛИОНА токенов. Для сравнения, ChatGPT-4o — только на сотнях миллиардов. Новенький ИИ в десятки раз круче пишет код и даже делает качественное ревью.
Кодеры, забираем ультимативного помощника тут.
👍 Бэкдор
https://www.youtube.com/watch?v=DgXS1VuUYkY&list=TLPQMjMxMDIwMjS1c7YH3f6cFg&index=6
Читать полностью…Подборка атмосферных пейзажей, сгенерированных на FLUX 🔥
Такую красоту забираем на обои!
Файлы без сжатия 👈
#pic
🎯 первый нейро-развлекательный
⚡️Рак ПОБЕЖДЕН — ученые создали вакцину, которая программирует организм УБИВАТЬ ВСЕ опухоли и злокачественные образования. Да, скоро одна из самых страшных болезней уйдет НАВСЕГДА.
Главное о революции в медицине прямо сейчас:
• Вместе с вакциной в организм попадают модифицированные бактерии — они учат клетки имунной системы ПРИЦЕЛЬНО бить по опухолям и метастазам.
• Лечение БЕЗВРЕДНО для организма и предотвращает рецидивы.
• Вакцину УСПЕШНО протестировали на мышах — она уничтожила все меланомы и даже самый опасный рак кишечника.
• Ученые уже работают над персональными вакцинами для каждого пациента — они появятся в ближайшее время.
Раку скоро конец!
👍 Бэкдор
😃 Скандалы, интриги, расследования. С помощью ИИ-апскейла удалось вывести на чистую воду крупнейшие исторические фальсификации.
@aiaiai
CounterStrike по сетке, по НЕЙРОсетке 🔄
Энтузиаст обучил нейронку имитировать CS. Модель работает со скоростью ~10 FPS на игровом графическом процессоре RTX 3090.
Код, модель и данные полностью открыты. Можно сыграть на своей локальной машине. Ссылка тут.
@tips_ai #news
🎞 Minimax научился оживлять изображения.
Новая фича image2video позволяет делать видео из картинки. Просто закидываем изображение и добавляем текстовую подсказку.
На выходе получаем 6-секундное видео, которое почти не уступает по качеству Gen-3. Генерация занимает пару минут.
Успеваем тестить пока бесплатно ☕️
• Попробовать
#neural #нейросеть
@aiaiai
🎞 Научно-фантастическая короткометражка «Эхо».
Независимая международная студия «AIST” с русскими корнями создала короткометражный фильм о гениальном ученом, которому предстоит совершить самый сложный выбор в своей жизни.
На создание ушло 3 месяца:
— В Midjourney v6.1 было создано порядка 25000 тестовых кадров;
— Около 200 лучших изображений были оживлены с помощью Runway Gen-3 и Kling (более 3000 итераций), из них только 90 лучших вошли в финальную версию;
— Роли озвучивали реальные актеры, а музыку писал настоящий композитор.
• Автор
#подпИИсчик
@aiaiai
Ну вот, прошёл год и международная группа учёных смогла создать полную 3д карту мозга мухи дрозофилы (130к нейронов и 50 млн синапсов) ✨почему это важно? Ну с помощью исследования того как функционирует мозг мухи можно провести параллели и лучше понять как работает мышление в мозгу человека и потенциально применять открытия в новейших нейронных сетях, тем самым раскрывая секреты нашего мозга и способствуя созданию AGI 👌
https://www.bbc.com/news/articles/c0lw0nxw71po
Сэм Альман рассказал сколько стадий развития AI он видит:
- 1 уровень чат-боты: основная задача – вести простые текстовые диалоги, отвечая на запросы пользователей.
- 2 уровень AI с рассуждением: способеность анализировать и делать выводы на основе сложных данных. Этот уровень достигнут в настоящее время (модель o1).
== Мы находимся здесь! ==
- 3 уровень агенты: AI может принимать активные действия, работая автономно для достижения целей, поставленных пользователем.
- 4 уровень инноваторы: AI способен генерировать новые научные открытия и находить решения для ранее неизвестных проблем.
- 5 уровень полноценные организации: AI управляет целыми организациями и принимает решения на уровне структуры.
Переход от второго к третьему уровню ожидается в ближайшее время, что значительно ускорит дальнейшее развитие технологий ИИ.
Но кажется, что большинство людей на планете не освоили даже 1 уровень.
Само видео доступно тут (Сэм начинает говорить с 51 минуты)
ИИволюция
Простенький видеохостинг в телеге /channel/coub/app?startapp=coub__marker_18562887
Читать полностью…