19745
Все о Data Science, машинном обучении и искусственном интеллекте: от базовой теории до cutting-edge исследований и LLM. MAX - https://max.ru/devsp Личный блог - @just_genych По вопросам рекламы или разработки - @g_abashkin РКН: https://vk.cc/cJPGXD
🌟Lazy Diffusion — трансформер для редактирования изображений практически в реалтайме
LazyDiffusion — это диффузионный трансформер, который очень быстро генерирует объекты по промпту в области, заданной маской.
Генерируются только пиксели под маской, и время выполнения зависит больше от размера маски, чем от размера изображения.
🟡Страничка Lazy Diffusion
🟡Arxiv
@Devsp — Подписаться
🤖ML-алгоритмы против хакеров: как поведенческая аналитика меняет правила игры в кибербезопасности
В этой статье я расскажу, что делает модуль BAD не просто новым инструментом, а полноценным игроком в вашей команде кибербезопасности.
Читать...
⚡️ InternLM представила XComposer-2.5 - мультимодальную 7B VLM с увеличенным контекстом для ввода и вывода
InternLM-XComposer-2.5 отлично справляется с различными приложениями для понимания и композиции текста и изображений, достигая возможностей уровня GPT-4V с всего лишь 7B LLM-бэкэндом.
IXC-2.5 обучается с 24K перемежающихся контекстов изображения и текста, он может легко расширяться до 96K длинных контекстов с помощью экстраполяции RoPE.
Эта возможность длинных контекстов позволяет IXC-2.5 исключительно хорошо выполнять задачи, требующие обширных входных и выходных контекстов.
🖥GitHub
🟡Arxiv
🟡Model
🟡Demo
📺 Demo video
@Devsp — Подписаться
👾Как быстро растут нейросети: прогресс Stable Diffusion за все время
В этой статье на примере множества картинок сравним локальные «чистые» модели SD и «закрытые» сервисы с Stable Diffusion 3, а также выясним, стоит ли платить за новую модель.
Читать...
🧠 На пороге AGI: эксперты прогнозируют появление ИИ, способного выполнять любую интеллектуальную задачу, с которой справится человек
И это будет game-changer!
Сегодня нейросети это:
▪️ $13 триллионов к глобальному ВВП к 2030 году
▪️ Убийца творческих профессий (услуги SMM сократились на 13%)
▪️ Прорыв в медицине (ИИ редактирует ген человека)
▪️ Бизнес ассистент
▪️ Инструмент манипуляции общественным мнением (читающий Кровосток дипфейк Барака Обамы)
▪️ Управление силой мысли (гейминг без применения конечностей)
▪️ Интимный партнер (да-да)
▪️ Кандидат в парламент (ИИ прирнимает участие в выборах)
▪️ Спасатель
Список можно продолжать до бесконечности! За последние несколько лет ИИ уже успел перевернуть правила игры во многих отраслях нашей жизни. Но с приходом AGI все это покажется нам цветочками.
Биг Дата рассказывает о том, как технологии меняют окружающий мир, и осмысливает роль человека в его взаимоотношениях с машиной. Мы уверены, что наше взаимодействие с ИИ станет определяющим фактором дальнейшего развития общества!
💪🏼 Подписывайтесь и качайте нейроскилы с Биг Дата!
🔥ESPNet XEUS - новая SoTA распознавания речи
Мультиязычная модель распознавания речи и перевода от Университета Карнеги-Меллона, которая обучена более чем 4000 языкам!
Он предварительно обучен на более чем 1 миллионе часов общедоступных наборов речевых данных.
Его скрытые состояния также могут использоваться с k-средними для семантической речевой токенизации.
▪️ HF: https://huggingface.co/espnet/xeus
▪️ Dataset: https://huggingface.co/datasets/espnet/mms_ulab_v2
@Devsp — Подписаться
🧠Непреодолимая легкость повышения утилизации GPU
В этой статье вы узнаете, как перенести лучшие практики из мира производства в сферу машинного обучения, подобрать конфигурацию вычислительной инфраструктуры под ML-нагрузки и максимально эффективно ее использовать.
Читать...
Deep Learning — суперсила, работающая подобно человеческому мозгу.
Специалисты в этой области разрабатывают нейросети, объединяя анализ данных и программирование. Рекомендации фильмов, переводчики или генерация ответов на вопросы как от Siri - это все их работа.
Deep Learning Инженеров нанимают крупные компании, а начальная зарплата в среднем 120 000 рублей в месяц.
Создавать и обучать такие нейросети вы научитесь в онлайн-школе Data Science KARPOV.COURSES.
Учиться вы будете у практикующих специалистов — поэтому за 4 месяца вы получите все знания и навыки, которые пригодятся в реальной работе. Школа поможет вам с трудоустройством — 89% студентов находят работу в первые 3 месяца благодаря карьерному сопровождению.
Присоединяйтесь к курсу со скидкой 5% по промокоду DEVVSP : https://clc.to/erid_LjN8KHkv3
🌟SPPO — инструмент оптимизации предпочтений языковой моделью
SPPO может значительно повысить производительность LLM без сильных внешних сигналов, таких как ответы или предпочтения от GPT-4.
Он может превзойти модель, обученную с помощью итеративной прямой оптимизации предпочтений (DPO), среди прочих методов.
🖥GitHub
🤗 Hugging Face
🟡Arxiv
@Devsp — Подписаться
🖥 Самые интересные публикации за последние дни:
• Unstructured — библиотека Python для предобработки сырых данных
• EAGLE — метод, позволяющий ускорить генерацию ответов от LLM
• «Midjourney на коленке, но теперь с S3». Как хранить генерации с промптами в объектном хранилище
🦾 EAGLE — метод, позволяющий ускорить генерацию ответов от LLM
EAGLE позволяет экстраполировать вектора контекстных признаков второго верхнего слоя LLM, что значительно повышает эффективность генерации.
EAGLE в 2 раза быстрее Lookahead (13B), и в 1.6 раз быстрее, чем Medusa (13B).
🤗 Hugging Face
🖥GitHub
@Devsp — Подписаться
🐍 Scikit-LLM — библиотека Python, призванная упростить разработку сложных и готовых к продакшену конвейеров NLP
Scikit-LLM может взаимодействовать с различными провайдерами LLM, независимо от того, работают ли они локально (например, GPT4All) или в облаке (включая Azure, OpenAI и Vertex AI).
Scikit-LLM поддерживает широкий спектр задач анализа текста, включая классификацию, анализ эмоциональной составляющей и т.д.
🖥GitHub
🟡Доки
@Devsp — Подписаться
Митап для DS и ML-разработчиков от МТС
4 июля | 18:30
Офлайн в Москве | Онлайн
Что будет в программе:
— Эксперты из RnD расскажут, как как адаптировать Open Source-модели генеративного ИИ, чтобы с минимальными ресурсами получить приемлемое качество дообучения.
— Обсудим, что такое персональные ИИ-решения и как в МТС создавали персональных Аватара и Ассистента.
— Узнаем про LLM от экспертов MTS AI.
Очных участников ждут нетворкинг и ламповый вечер в пространстве летнего кинотеатра в парке «Музеон». Все желающие смогут присоединиться онлайн.
Регистрируйтесь по ссылке.
🌟 Простой способ переводить экраны приложений на русский по одному двойному тапу
В этой статье вы узнаете, как настроить перевод экрана любых приложений с незнакомых языков на русский на айфоне.
Читать…
@Devsp — Подписаться
🌟MG-LLaVA — мультимодальная LLM с продвинутыми возможностями работы с визуальной информацией
MG-LLaVA, инновационная MLLM, которая расширяет возможности визуальной обработки модели за счет включения многоуровневого потока визуализации, который включает в себя функции низкого разрешения, высокого разрешения и объектно-ориентированные функции.
Обучаясь исключительно на общедоступных мультимодальных данных посредством настройки инструкций, MG-LLaVA демонстрирует исключительные навыки восприятия.
🟡Страничка MG-LLaVA
🖥GitHub
@Devsp — Подписаться
Как прокачать свои знания в ИТ и стать уверенным специалистом по машинному обучению и ИИ?
Магистратура Университета ИТМО Проектирование и разработка систем искусственного интеллекта
Вы научитесь создавать законченный программный продукт и станете программистом сложных многокомпонентных систем со знаниями в области искусственного интеллекта. На программе 22 бюджетных места, а поступить можно дистанционно.
На программе вы научитесь:
• собирать бизнес-требования к системам;
• понимать особенности использования методов и технологий машинного обучения и их встраивания в продуктовые системы;
• проектировать архитектуры систем машинного обучения (ML system design), включая инференс модели;
• строить системы мониторинга и сопровождать модели машинного обучения;
• работать с инструментами MLFlow, AirFlow, DVC, Tensorboard, ClearML и др.
Большинство преподавателей сотрудники крупных ИТ-компаний. Партнеры программы компании MTS, VK Education, Nexign.
После выпуска вы сможете работать архитектором систем искусственного интеллекта (AI Architect), руководителем команды разработки ML-систем (ML TeamLead или ML Project Manager).
Полное описание программы и подача документов по ссылке.
Реклама. Университет ИТМО ИНН:7813045547 erid:2VfnxxkNTfe
🌟 Как устроен рекомендательный сервис, который выдерживает 700 тысяч запросов в секунду. Доклад Яндекса
В этой статье автор подробно рассказал о том, какие нестандартные решения приняли разработчики для оптимизации “Баннерной крутилки”, как устроены стадии отбора документов и какое участие принимает ML в процессе работы.
Читать…
Курс “Основы нейронных сетей: создание и настройка". Получите самые востребованные в 2024 году скиллы. Запись до 11 июля
Что вы освоите на курсе?
- разработку продвинутых архитектур нейронных сетей и их применение в Data Science и решение типичных проблем при обучении сетей
Курс будет полезен, если вы:
- Аналитик данных и хотите освоить продвинутые инструменты, чтобы выйти на новый уровень
- Разработчик с опытом программирования и хотите применить свои знания в новой области
- Руководитель IT-проектов и хотите лидировать современные бизнес-процессы
Пишите нам @Codeby_Academy
Подробнее о курсе
🌟CriticGPT — модель на основе GPT-4, которая помогает увидеть ошибки в ответах ChatGPT
CriticGPT, модель на основе GPT-4, пишет критические замечания по ответам ChatGPT, чтобы помочь тренерам-людям заметить ошибки во время RLHF.
Ключевой частью RLHF является сбор сравнений, в которых люди, называемые тренерами ИИ, оценивают различные ответы ChatGPT по отношению друг к другу.
🟡Блог-пост OpenAI
🟡Статья
@Devsp — Подписаться
🖥 Самые интересные публикации за последние дни:
• ESPNet XEUS - новая SoTA распознавания речи
• Непреодолимая легкость повышения утилизации GPU
• Pyramid Attention Broadcast — подход, позволяющий генерировать видео в режиме реального времени
• SPPO — инструмент оптимизации предпочтений языковой моделью
Станьте профессионалом в области Data Science и машинного обучения в магистратуре от Центрального университета!
Центральный университет — современный вуз, созданный при поддержке ведущих компаний России: Т-Банка, Авито и других.
Получите диплом магистра в области математики и компьютерных наук и обучайтесь на основе реальных кейсов ведущих ИТ-компаний у профессоров из МГУ, МФТИ, РЭШ и практиков из индустрии. Хорошая новость для тех, кто уже имеет опыт в Data Science и машинном обучении — вы можете пропустить базовое обучение и закончить магистратуру за 3 семестра.
У каждого студента будет:
- личный ментор по траектории обучения;
- доступ к карьерному центру с коучами и консультантами;
- опыт работы в проектах партнеров уже во время обучения.
Участвуйте в онлайн-отборе, чтобы выиграть грант на обучение до 1,2 млн рублей. Больше подробностей про университет и конкурс грантов по ссылке!
erid:2VtzqwQc6QY
Реклама, АНО ВО «Центральный университет», ИНН 7743418023
🗣 MARS 5 TTS: новая модель от компании Camb AI для генерации голоса и преобразования текста в речь с открытым исходным кодом
Модель следует двухэтапному конвейеру AR-NAR с принципиально новым компонентом NAR.
Всего с 5 секундами аудио и фрагментом текста MARS5 может генерировать речь даже для сложных и разнообразных просодических сценариев, таких как спортивные комментарии, аниме и многое другое.
Идентификация говорящего определяется с помощью файла аудиоссылки длительностью от 2 до 12 секунд, при этом длина около 6 секунд дает оптимальные результаты.
▪️Github: https://github.com/Camb-ai/MARS5-TTS
▪️Demo: https://www.camb.ai/
▪️HF: https://huggingface.co/CAMB-AI/MARS5-TTS
▪️Colab: https://colab.research.google.com/github/Camb-ai/mars5-tts/blob/master/mars5_demo.ipynb
@Devsp — Подписаться
🤩 Pyramid Attention Broadcast — подход, позволяющий генерировать видео в режиме реального времени
PAB — это первый подход к созданию видео на основе диффузионных трансформеров в реальном времени, обеспечивающий качество без потерь и не требующий обучения.
PAB оптимизирует работу с механизмом внимания, что позволяет достичь 21.6 FPS с 10.6-кратным ускорением для популярных моделей генерации видео на основе DiT, включая Open-Sora, Open-Sora-Plan и Latte.
🟡Страничка Pyramid Attention Broadcast
🖥GitHub
@Devsp — Подписаться
🔥В OTUS стартует курс "Machine Learning. Professional", обучение на котором позволит последовательно освоить современные инструменты анализа данных и на профессиональном уровне создавать модели машинного обучения.
Студенты курса выбирают самостоятельно темы выпускных работ, поэтому все выпускные проекты на курсе–это ценные исследования для ML.
⚡08 июля в 18.00 мск приглашаем на открытый урок курса "Дерево решений - простой и интерпретируемый ML-алгоритм", на котором мы:
- разберем алгоритм решающего дерева (дерева решений), который широко применяется для решения задач машинного обучения;
- применим полученные знания на практике для решения задачи классификации.
👉Регистрация https://otus.pw/xxhZ/?erid=LjN8Juyf4
🖥Unstructured — библиотека Python для предобработки сырых данных
Библиотека unstructured предоставляет компоненты с открытым исходным кодом для приема и предварительной обработки изображений и текстовых документов, таких как PDF-файлы, HTML, документы Word и многие другие.
Unstructured модульные функции и соединители образуют целостную систему, которая упрощает прием и предварительную обработку данных, делая ее адаптируемой к различным платформам и эффективной в преобразовании неструктурированных данных в структурированные выходные данные.
🖥GitHub
🟡Доки
@Devsp — Подписаться
💫«Midjourney на коленке, но теперь с S3». Как хранить генерации с промптами в объектном хранилище
В этой статье автор расскажет как использовать S3 для хранения и управления большими объемами данных, а также настроить его с виртуальной машиной для анализа данных (DAVM).
Читать...
🌟Cambrian-1 — семейство мультимодальных LLM, ориентированных на CV-задачи
Cambrian-1, семейство мультимодальных LLM (MLLM), разработанных с использованием подхода, ориентированного на зрение.
🟡Страничка Cambrian-1
🖥GitHub
🤗 Hugging Face
@Devsp — Подписаться
👏Text-Animator — метод генерации видео с текстом в кадрах
С текстом у генеративных моделей до недавнего времени были большие проблемы, как и с пальцами.
Сейчас уже ситуация улучшилась, но только для моделей, создающих изображения.
Text-Animator содержит модуль внедрения текста для точного отображения структур визуального текста в сгенерированных видео.
🟡Страничка Text-Animator
🟡Arxiv
@Devsp — Подписаться
🖥 Самые интересные публикации за последние дни:
• EvTexture — новый метод апскейлинга видео
• SEE-2-SOUND — метод генерации сложного пространственного звука на основе изображений и видео
• MG-LLaVA — мультимодальная LLM с продвинутыми возможностями работы с визуальной информацией
ИТ-апдейт твоего будущего
Вокруг только и говорят об ИТ: как много полезного делают в этой индустрии и сколько зарабатывают. Но зачем слушать, если можно попробовать?
Со «Школой 21» от Сбера ты получишь сильные базовые навыки, станешь частью ИТ-комьюнити и сделаешь проекты, из которых сложится внушительное портфолио.
Участие в школе бесплатное и не требует опыта в ИТ! Если хочешь попробовать, переходи на сайт и подавай заявку.
Реклама. Заказчик АНО "Школа 21" ИНН 7736316133