Машинное обучение RU

29 January 2025 16:18

⚡️ Hailuo AI выпустили новую версию своего генератора видео T2V 01 Director, в которой упор сделан на контроль камеры!

Модель управления и движения камеры работает просто великолепно.

✨ Что нового:
- Уменьшена хаотичность движений генераций.
- Повышена точность управления.
- Улучшена эстетика движения камеры.

📌 Попробовать

@ai_machinelearning_big_data


#video #ai #videogenerator #Hailuo

Машинное обучение RU

28 January 2025 12:00

🔥 Agent Service Toolkit — полный набор инструментов для создания и управления сервисом AI-агентов!

🌟 Построенный на базе LangGraph, FastAPI и Streamlit, он включает сервер для обслуживания агентов, интерфейс для взаимодействия с ними и чат-приложение с пользовательским интерфейсом. Проект предоставляет готовый шаблон для быстрой разработки проектов на основе LangGraph.

💡 Основные функции включают поддержку потоковой передачи токенов и сообщений, модерацию контента с использованием LlamaGuard, асинхронный дизайн для эффективной обработки запросов, а также интеграцию с LangSmith для обратной связи.

🔐 Лицензия: MIT

🖥 Github

@machinelearning_ru

Машинное обучение RU

27 January 2025 06:50

🖥Offline альтернативы ChatGPT

https://github.com/janhq/jan

Машинное обучение RU

26 January 2025 16:22

⭐️ Загружается Новый Qwen

Версия Qwen2.5-VL.

https://huggingface.co/collections/Qwen/qwen25-vl-6795ffac22b334a837c0f9a5

@machinelearning_ru

Машинное обучение RU

25 January 2025 18:29

🖤 Open R1

Разработчики с Hugging Face повторил полный цикл разработки DeepSeek - от сбора данных до обучения! 🔥

Цель этого репозитория - объяснить все части конвейера создания R1 таким образом, чтобы каждый мог повторить его или построить поверх него свой проект.

Из чего состоит проект:
- src/open_r1 содержит скрипты для обучения и оценки моделей, а также для генерации синтетических данных:
- grpo.py : обучение модели с помощью GRPO
- sft.py: простой SFT
- evaluate.py: оценка модели на основе тестов R1.
- generate.py: генерация синтетических данных с помощью Distilabel.
- Makefile содержит простую в выполнении команду для каждого шага конвейера R1.

▪ Github

@ai_machinelearning_big_data


#opensource #DeepSeekR1 #huggingface #OpenR1

Машинное обучение RU

25 January 2025 12:15

🔥 Kimi-k1.5 — это модель для генерации текста с открытым исходным кодом, разработанная MoonshotAI!

🌟 Она основана на современных архитектурах трансформеров и ориентирована на задачи создания контента, таких как написание текста, обработка языка и создание диалогов. Модель также обгоняет ChatGPT и Claude в бенчмарках.

🖥 Github

@machinelearning_ru

Машинное обучение RU

24 January 2025 18:14

🔥 Minima — это open source решение для RAG в контейнерах для развертывания на любых мощностях (клауд или локал), с возможностью интеграции с ChatGPT и MCP.

Minima также может использоваться как RAG на вашей машине.

Minima поддерживает три режима работы:
1. Изолированная установка — Работа в контейнерах без внешних зависимостей, таких как ChatGPT или Claude. Все нейронные сети (LLM, ранкер, эмбеддинг) и векторный сторедж запускаются на вашем сервере или ПК, обеспечивая безопасность ваших данных.
2. Кастомный GPT — Запросы к вашим локальным документам через приложение или веб-версию ChatGPT с использованием кастомных GPT. Индексатор работает на вашем сервере или локальном ПК, а основная LLM остаётся ChatGPT.
3. Anthropic Claude — Использование приложения Anthropic Claude для запросов к вашим локальным документам. Индексатор работает на вашем локальном ПК, а основная LLM — это Anthropic Claude.

В данный момент, Minima решает задачу RAG on-premises и призывает всех поставить звезду и форкнуть репозиторий, а так же не стесняться и принять участие в разработке.

📌 Лицензия MPL-2.0

▪ Github

@machinelearning_ru

Машинное обучение RU

24 January 2025 05:06

⭐️ This New Free AI Is History In The Making!

https://www.youtube.com/watch?v=btvB56PkvwE

@machinelearning_ru

Машинное обучение RU

22 January 2025 13:40

🔥 DeepSeek Engineer — это мощный помощник для разработки кода, интегрированный с API DeepSeek для обработки пользовательских запросов и генерации структурированных JSON-ответов!

🌟 Через интуитивно понятный интерфейс командной строки он может считывать содержимое локальных файлов, создавать новые файлы и в реальном времени применять изменения к существующим файлам.

💡 Основные возможности DeepSeek Engineer включают автоматическую настройку клиента для использования сервиса DeepSeek с действительным ключом API, поддержку различных моделей данных для безопасной обработки файловых операций и использование системных подсказок для обеспечения строгого соответствия ответов JSON-формату. Кроме того, он предоставляет функции для чтения локальных файлов, создания новых файлов и применения изменений, а также поддерживает команду "/add" для быстрого добавления содержимого файла в разговор.

🖥 Github

@machinelearning_ru

Машинное обучение RU

20 January 2025 17:38

NVIDIA’s New AI: Huge Game Changer!

https://www.youtube.com/watch?v=4TpwfbUjCYs

@machinelearning_ru

Машинное обучение RU

20 January 2025 07:56

🚨Только что были выпущены веса для новой ризонинг моделей DeepSeek-R Zero.

Модель 685B основана на 3V.

Размер: 720GB 🤯

Ждем официального анонса, который с высокой степенью вероятности состоится сегодня или завтра.



https://huggingface.co/deepseek-ai/DeepSeek-R1

Машинное обучение RU

19 January 2025 12:04

⚡️Легкий способ получать свежие обновления и следить за трендами в разработке на вашем языке. Находите свой стек и подписывайтесь:

МАШИННОЕ ОБУЧЕНИЕ: t.me/ai_machinelearning_big_data
C++ t.me/cpluspluc
Python: t.me/pythonl
Linux: t.me/linuxacademiya
Хакинг: t.me/linuxkalii
Devops: t.me/DevOPSitsec
Data Science: t.me/data_analysis_ml
Javascript: t.me/javascriptv
C#: t.me/csharp_ci
Java: t.me/javatg
Базы данных: t.me/sqlhub
Python собеседования: t.me/python_job_interview
Мобильная разработка: t.me/mobdevelop
Docker: t.me/DevopsDocker
Golang: t.me/Golang_google
React: t.me/react_tg
Rust: t.me/rust_code
ИИ: t.me/vistehno
PHP: t.me/phpshka
Android: t.me/android_its
Frontend: t.me/front
Big Data: t.me/bigdatai
Собеседования МЛ: t.me/machinelearning_interview
МАТЕМАТИКА: t.me/data_math
Kubernets: t.me/kubernetc
Разработка игр: /channel/gamedev
Haskell: t.me/haskell_tg
Физика: t.me/fizmat

💼 Папка с вакансиями: t.me/addlist/_zyy_jQ_QUsyM2Vi
Папка Go разработчика: t.me/addlist/MUtJEeJSxeY2YTFi
Папка Python разработчика: t.me/addlist/eEPya-HF6mkxMGIy
Папка ML: /channel/addlist/2Ls-snqEeytkMDgy
Папка FRONTEND: /channel/addlist/mzMMG3RPZhY2M2Iy

😆ИТ-Мемы: t.me/memes_prog
🇬🇧Английский: t.me/english_forprogrammers
🧠ИИ: t.me/vistehno

🎓954ГБ ОПЕНСОРС КУРСОВ: @courses
📕Ит-книги бесплатно: /channel/addlist/BkskQciUW_FhNjEy

Машинное обучение RU

17 January 2025 13:18

how it feels watching a training run as loss falls

Машинное обучение RU

17 January 2025 09:06

🥥 Training Large Language Models to Reason in a Continuous Latent Space

Только что был выпущен код для нового подхода в обучении LLM ризонингу - "Coconut"(Chain of Continuous Thought).

Coconut позволяет LLM рассуждать более эффективно и результативно, особенно при комплексных задачах планирования.

Основная идея алгоритма - это улучшения рассуждений моделей с использованием латентного пространства, вместо выходных лексем

При таком подходе - цепочка мыслей генерирует не в виде текстовых токенов, а в виде эмбеддингов, а затем циклично подаются обратно в LLM.

В «Coconut» у LLM есть два режима. Языковой режим работает как обычная языковая модель, генерируя текст и латентный режим, который использует скрытые состояния в качестве следующего входного сигнала, обозначенного специальными токенами <bot> и <eot>.

Скрытые состояния Coconut работают как дерево поиска, а не как линейная цепочка рассуждений, что позволяет модели исследовать несколько потенциальных путей одновременно.

На каждом шаге модель отдает приоритет перспективным узлам, отсекая менее релевантные.

Это помогает эффективнее справляться с задачами планирования и логики, по сравнению с традиционным методом работы CoT.

Как это работает:
1️⃣ Сначала модели подается промпт, за которым следует специальный токен <bot>, чтобы инициировать скрытое рассуждение.
2️⃣ Последнее скрытое состояние LLM после обработки <bot> используется в качестве первой "непрерывной мысли"
3️⃣ Непрерывная мысль подается обратно в модель как новый вход, генерируя новое скрытое состояние (новую мысль). Это повторяется в течение K итераций → цепочка непрерывных мыслей.
4️⃣ Далее добавляется маркер <eot> после последней непрерывной мысли, чтобы завершить скрытое рассуждение.
5️⃣ Последняя непрерывная мысль и <eot> затем используются для генерации ответа.
Такой подход, разумеется, требует большого количества ресурсов при обучении модели.

Плюсы такого подхода:
🏅 Превосходит CoT в задачах, где требуется планирования и сложные рассуждения, таких как ProntoQA и ProsQA
📉 Генерирует значительно меньше лексем во время размышлений по сравнению с CoT
🔀 Может выполнять поиск с широким охватом (BFS), кодируя одновременно несколько альтернативных следующих шагов

git clone git@github.com:facebookresearch/coconut.git
cd coconut

▪Github
▪Paper

@ai_machinelearning_big_data


#deeplearning #nlp #reasoning #llm #ml

Машинное обучение RU

15 January 2025 15:22

🥁🎷JASCO 🎶🪇 training & inference code + model weights are out!

JASCO состоит из модели для токенизации звука и модели согласования потоков, основанной на архитектуре transformer для музыкального моделирования.

Модель представлена в 2х размерах: 400 м и 1B; и в настоящее время имеет два варианта управления: text-to-music + {аккорды, ударные} и text-to-music + {аккорды, ударные, мелодия}.

▪Сатья📜: https://arxiv.org/abs/2406.10970
▪Примеры🔊: https://pages.cs.huji.ac.il/adiyoss-lab/JASCO/
▪Код🐍: https://github.com/facebookresearch/audiocraft/blob/main/docs/JASCO.md
▪Модели🤗: https://huggingface.co/facebook/jasco-chords-drums-melody-1B

@machinelearning_ru

Машинное обучение RU

28 January 2025 13:07

⚡️NVIDIA выпустили Eagle 2 — 1B, 2B и 9B VLM.

Eagle 2 - это обновление семейство мощных vision language моделей.

Модель 9B превосходит GPT4o ChartQA, OCRBench и MathVista, а также Llama 3.2 Vision 90B и llava 70B 🔥

Может работать с длинным контекстом, поддерживает 4K, HD.

> Eagle2-9B превосходит InternVL2-8B и MiniCPM-v2.6 по всем 14 тестам
> Он превосходит Qwen2-VL-7B в 9 из 14 тестов и превосходит его в OpenCompass
> Конкурирует с более крупными моделями, такими как InternVL2-26B, LLaVa-OneVision-72B и LLaMa-3.2-90B-Vision
> Eagle2-9B превосходит GPT-4o на ChartQA, OCRBench и MathVista и близок к GPT-4o на DocVQA, MMStar, AI2D и OpenCompass
> В открытом доступе выложены модель и чекпоинты

🤗Hf: https://huggingface.co/collections/nvidia/eagle-2-6764ba887fa1ef387f7df067

@ai_machinelearning_big_data


#eagle #nvidia #vision #ml #ai

Машинное обучение RU

27 January 2025 18:34

🐋 DeepSeek только что выпустила еще одну модель ИИ с открытым исходным кодом, Janus-Pro-7B.

Она мультимодальная и выигрывает у OpenAI DALL-E 3 и Stable Diffusion на бенчмарках GenEval и DPG-Bench.

▪Модели: https://huggingface.co/deepseek-ai/Janus-Pro-7B
https://huggingface.co/deepseek-ai/Janus-Pro-1B
▪Quickstart: https://github.com/deepseek-ai/Janus?tab=readme-ov-file#3-quick-start 📖
▪Tech report: https://github.com/deepseek-ai/Janus/blob/main/janus_pro_tech_report.pdf

@ai_machinelearning_big_data


#ai #deepseek #opensource #Janus

Машинное обучение RU

27 January 2025 05:33

💰 Банк Китая выделит 1 триллион юаней (137 миллиардов долларов) в течение 5 лет для противостояния США в гонке искусственного интеллекта.

Это прямой ответ на проект «Звездные врата».

Евросоюз: максимум, что мы можем сделать, — это выделить 10 миллиардов на ИИ регулирование.

#ai #news #stargate #llm

Машинное обучение RU

26 January 2025 12:03

🔥 Ultravox — мультимодальная LLM, которая может работать как с текстом, так и с аудио в реальном времени!

🌟 В отличие от традиционных систем, Ultravox не требует отдельного этапа распознавания речи (ASR) — аудио напрямую преобразуется в высокоразмерное пространство, используемое языковой моделью. Это обеспечивает высокую скорость обработки и позволяет модели учитывать такие аспекты речи, как эмоции и тайминг.

💡 Ultravox был обучен с использованием моделей, таких как Llama 3, Mistral и Gemma, и достигает впечатляющих показателей производительности, например, время до первого токена (TTFT) составляет около 150 мс. Модель поддерживает потоковую обработку аудио в текст, а в будущем планируется реализация обратного преобразования текста в аудио. Ultravox доступен для тестирования через локальные Gradio-демоверсии и может быть развернут для более сложных случаев использования, таких как работа в реальном времени.

🔐 Лицензия: MIT

🖥 Github

@machinelearning_ru

Машинное обучение RU

25 January 2025 16:23

👩🍳🍽️ Pic2Cook

Мгновенно превращайте любую картинку с едой в подробный рецепт и список покупок.

Приложение написано на базе
MistralAI Pixtral 12B.

git clone https://github.com/sophiamyang/pic2cook.git
cd pic2cook

▪ Github

Машинное обучение RU

25 January 2025 09:00

🔥 Llama 3.2 с ультрареалистичным звуком

> поддерживает клонирование голоса на английском и китайском языках
> обучен на 250 тысяч часов аудио
> модели 1B, 3B (скоро будет 8B)
> эмоциональная речь (счастье, сердитая речь, грустная, шепот)

> открытые весы и работа с трансформерами/ vllm

https://huggingface.co/HKUSTAudio/Llasa-3B

Машинное обучение RU

24 January 2025 14:01

📖 Эта статья посвящена задаче токенизации, которая в данном контексте рассматривается как задача сжатия набора данных до определенного числа символов!

🌟 Исследователи доказали NP-полноту двух вариантов токенизации: первый — это прямая токенизация, при которой создается словарь для представления данных, второй — токенизация снизу вверх, где используется последовательность операций объединения элементов. Оба этих метода могут быть использованы для сжатия данных и определения минимального количества символов для представления данных в сокращенной форме.

🔗 Читать: *клик*

@machinelearning_ru

Машинное обучение RU

23 January 2025 19:11

🖥 ChatGPT получил новую функцию под названием Operator, которая позволяет ему управлять вашим компьютером.

Эта впечатляющая возможность была недавно продемонстрирована, и она способна взять на себя множество рутинных задач, таких как обработка электронной почты, заказ еды и работа с таблицами в Excel.

Тестировщики начнут получать доступ к этой функции уже сегодня.

https://openai.com/index/introducing-operator/

Машинное обучение RU

22 January 2025 07:05

🌟 Google только что выпустили новую модель Gemini 2.0 Flash Thinking

✅ Контекст с 1 миллионом токенов (5-х больше, чем o1 Pro)

#1 на арене чат-ботов 👑

Модель показала наивысший результат, обогнав Gemini-Exp-1206

+ 17 очков прироста по сравнению с предыдущей контрольной точкой 1219

- №1 по всем направлениям (генерации кода), за исключением управления стилем.

• AIME: 73.3%
• GPQA: 74.2%
• MMMU: 75.4%

Модель доступна в ai-gradio

pip install --upgrade "ai-gradio[gemini]"

Они так же выпустили Gemini2.0 Pro.

https://aistudio.google.com/prompts/new_chat?model=gemini-2.0-flash-thinking-exp-01-21

#google #gemini

Машинное обучение RU

20 January 2025 13:00

🔥 Cherry Studio — приложение для работы с разными моделями ИИ, такими как OpenAI, Anthropic, Gemini и другими!

🌟 Оно предназначено для использования на Windows, Mac и Linux, и включает в себя функции для работы с текстами, изображениями, PDF и другими форматами. Пользователи могут создавать кастомных ассистентов, а также управлять данными через WebDAV и интегрировать визуализацию с помощью Mermaid. Приложение поддерживает темы, синхронизацию данных и возможность работы с несколькими моделями ИИ одновременно.

🔐 Лицензия: Apache-2.0

🖥 Github

@machinelearning_ru

Машинное обучение RU

19 January 2025 14:05

🔥 AI Engineering Hub — это коллекция обучающих материалов и примеров приложений для работы с LLM и RAG!

🌟 Этот репозиторий включает проекты по созданию чат-ботов, автоматизации анализа данных, генерации текстов и работы с мультимодальными данными. Репозиторий полезен для разработчиков, исследователей и инженеров, желающих освоить современные методы применения ИИ.

🔐 Лицензия: MIT

🖥 Github

@machinelearning_ru

Машинное обучение RU

18 January 2025 06:00

🤖 Отличная, иллюстрированная статья, чтобы разобраться в устройстве трансформеров.

https://jalammar.github.io/illustrated-transformer/

@machinelearning_ru

Машинное обучение RU

17 January 2025 10:04

🔥 Это видео объясняет проблемы понимания больших языковых моделей и инновационный подход разреженных автоэнкодеров к извлечению понятных человеку признаков, проливая свет на скрытые сложности моделей ИИ!

🕞 Продолжительность: 24:08

🔗 Ссылка: *клик*

@machinelearning_ru

Машинное обучение RU

16 January 2025 15:20

🔥 Agentarium — это мощный фреймворк на Python для создания и управления симуляциями с ИИ-агентами!

🌟 Он предоставляет интуитивную платформу для разработки сложных и интерактивных сред, где агенты могут действовать, обучаться и развиваться.

🌟 Фреймворк поддерживает управление агентами, взаимодействие между ними, создание синтетических данных через их действия и сохранение состояния с помощью контрольных точек. Agentarium оптимизирован для производительности и масштабируемости, а также предлагает гибкую конфигурацию окружения через YAML.

🔐 Лицензия: Apache-2.0

🖥 Github

@machinelearning_ru

Машинное обучение RU

15 January 2025 11:02

🔥 Cline — автономный помощник по программированию, интегрированный непосредственно в вашу среду разработки (IDE)!

💡 Cline способен создавать и редактировать файлы, выполнять команды в терминале, использовать браузер и многое другое, получая ваше разрешение на каждом этапе.

🌟 Интегрируясь с моделями OpenAI, Google и Anthropic, Cline может пошагово выполнять сложные задачи разработки ПО. Он анализирует структуру файлов и абстрактные синтаксические деревья (AST) вашего проекта, выполняет регулярные выражения и читает соответствующие файлы, чтобы эффективно интегрироваться в существующие проекты.

🔐 Лицензия: Apache-2.0

🖥 Github

@machinelearning_ru