⚡️ Анонсируем новую большую конференцию от Яндекса по прикладному ML — Practical ML Conf 2023
Пока вы наслаждаетесь тёплым летом, мы готовим для вас большую конференцию по прикладному Machine Learning — чтобы обсудить все изменения, которые постоянно происходят в ML-отрасли, и то, как их можно внедрить в свои проекты.
7 сентября вас ждут 500 экспертов, 8 профильных направлений и опытные ML-инженеры, которые меняют сферу уже сейчас. Поговорим о ключевых вопросах индустрии: генеративных моделях, Research, NLP, Hardware, CV, RecSys, MLOps и Ecomm.
Если вы хотите прочитать доклад о прикладном ML, то заполняйте форму до 17 июля. А если нет — save the date и ждите новые подробности: скоро мы начнём рассказывать о программе Practical ML Conf 2023.
До встречи 7 сентября на Practical ML Conf в Москве или онлайн!
Как оптимизировать обучение ML-моделей с помощью Kubeflow Pipelines
Инженер по машинному обучению в ML-команде проектов для бизнесов и покупателей ВКонтакте рассказывает, чем Kubeflow Pipelines может быть полезен ML-специалисту и как в нём без потери существующей кодовой базы можно запускать готовые пайплайны.
В статье описывается, как с помощью библиотеки kfp и нескольких функций интегрировать существующий код для запуска ML-пайплайнов в инструмент Kubeflow Pipelines с удобным интерфейсом.
🔗 Хабр: https://habr.com/ru/companies/vk/articles/745874/
ai_machinelearning_big_data
Хотите узнать, как у Сбера получается создавать такие точные персональные рекомендации? Приходите на RecSys Meetup by Sber — он состоится 20 июля в Питере 💚
На митапе топовые спикеры расскажут:
• Как рекомендации на базе AI помогают бизнесу в разных индустриях.
• На какие тренды в области AI, машинного обучения и рекомендательных систем стоит обратить внимание
• Какие существуют особенности при построении рекомендательных сценариев в видео-стримингах
В перерывах между докладами вас будут ждать интересные знакомства, обсуждения и нетворкинг.
Регистрируйтесь по ссылке — встречаемся 20 июля в 19:00 по адресу: Art-Muse, Зал «Галерея Ц», 13-я линия Васильевского острова, 70 📍
🦙 Focused Transformer: Contrastive Training for Context Scaling
LongLLaMA, a large language model capable of handling long contexts of 256k tokens or even more.
LongLLaMA - это большая языковая модель, способная обрабатывать очень длинные тексты (размером 256k токенов и даже больше). Модель основана на OpenLLaMA и доработана с помощью метода фокусированного преобразования (FoT).
🖥 Github: https://github.com/cstankonrad/long_llama
📕 Paper: https://arxiv.org/abs/2307.03170v1
🖥 Colab: https://colab.research.google.com/github/CStanKonrad/long_llama/blob/main/long_llama_colab.ipynb
🔗 Dataset: https://paperswithcode.com/dataset/pg-19
ai_machinelearning_big_data
🎨 Making ML-powered web games with Transformers.js
The goal of this tutorial is to show you how easy it is to make your own ML-powered web game.
Инструкция с кодом по созданию веб-игры с поддержкой ML в реальном времени, которая запускается полностью в вашем браузере (благодаря Transformers.js).
🖥 Github: https://github.com/xenova/doodle-dash
🤗 Hugging face: https://huggingface.co/blog/ml-web-games
⭐️ Code: https://github.com/xenova/doodle-dash
🔗Demo: https://huggingface.co/spaces/Xenova/doodle-dash
🔗 Dataset: https://huggingface.co/datasets/Xenova/quickdraw-small
ai_machinelearning_big_data
🚀 Hierarchical Open-vocabulary Universal Image Segmentation
Decoupled text-image fusion mechanism and representation learning modules for both "things" and "stuff".
HIPIE - новая модель сегментации и обнаружения изображений, которая способна выполнять задачи сегментации на различных уровнях (объектов, частей объектов и подчастей) и задач в рамках единой структуры, управляемой ествественным языком.
🖥 Github: https://github.com/berkeley-hipie/hipie
📕 Paper: https://arxiv.org/abs/2307.00764v1
🔗Project: http://people.eecs.berkeley.edu/~xdwang/projects/HIPIE/
🔗 Dataset: https://paperswithcode.com/dataset/pascal-panoptic-parts
ai_machinelearning_big_data
🪄 Making a web app generator with open ML models
В этом руководстве показан подход к созданию приложения по генерации веб-контента на основе искусственного интеллекта (модель WizardCoder) путем потоковой передачи и рендеринга контента за один раз.
🖥 Github: https://github.com/huggingface/blog/blob/main/text-to-webapp.md
📕 HuggingFace: https://huggingface.co/blog/text-to-webapp
🔗Demo: https://huggingface.co/spaces/jbilcke-hf/webapp-factory-wizardcoder
ai_machinelearning_big_data
🏌️ GlOttal-flow LPC Filter (GOLF)
A DDSP-based neural vocoder.
Новый метод синтеза поющего голоса (SVS), использующий физические характеристики человеческого голоса с помощью дифференцируемой цифровой обработки сигнала
🖥 Github: https://github.com/yoyololicon/golf
⭐️ Demo:https://huggingface.co/spaces/An-619/FastSAM
📕 Paper: https://arxiv.org/abs/2306.17252v1
🔗Demo: https://yoyololicon.github.io/golf-demo/
ai_machinelearning_big_data
🚀 NAUTILUS: boosting Bayesian importance nested sampling with deep learning
A novel approach to boost the efficiency of the importance nested sampling (INS) technique for Bayesian posterior and evidence estimation using deep learning.
Nautilus - это проект от MIT на Python для оценки байесовской апостериорной вероятности. Nautilus обладает высокой точностью, по сравнению с традиционными методами оценки МСМС и Nested Sampling.
Пример:pip install nautilus-sampler
import corner
import numpy as np
from nautilus import Prior, Sampler
from scipy.stats import multivariate_normal
prior = Prior()
for key in 'abc':
prior.add_parameter(key)
def likelihood(param_dict):
x = [param_dict[key] for key in 'abc']
return multivariate_normal.logpdf(x, mean=[0.4, 0.5, 0.6], cov=0.01)
sampler = Sampler(prior, likelihood)
sampler.run(verbose=True)
points, log_w, log_l = sampler.posterior()
corner.corner(points, weights=np.exp(log_w), labels='abc')
🖥 Github: https://github.com/johannesulf/nautilus
⭐️ Docs: https://nautilus-sampler.readthedocs.io/
📕 Paper: https://arxiv.org/abs/2306.16923v1
ai_machinelearning_big_data
⭐️ ManimML: Communicating Machine Learning Architectures with Animation
An open-source Python library for easily generating animations of ML algorithms directly from code.
ManimML - это фреймворк для создания красочной, интерактивной анимации и визуализации различных концепций и алгоритмов машинного обучения.
Пример:from manim_ml.neural_network import NeuralNetwork, Convolutional2DLayer, FeedForwardLayer
# Make nn
nn = NeuralNetwork([
Convolutional2DLayer(1, 7, filter_spacing=0.32),
Convolutional2DLayer(3, 5, 3, filter_spacing=0.32, activation_function="ReLU"),
FeedForwardLayer(3, activation_function="Sigmoid"),
],
layer_spacing=0.25,
)
self.add(nn)
# Play animation
forward_pass = nn.make_forward_pass_animation()
self.play(forward_pass)
🖥 Github: https://github.com/helblazer811/manimml
📕 Paper: https://arxiv.org/abs/2306.17108v1
📌 Project: https://www.manim.community/
ai_machinelearning_big_data
А с собакой в офис можно?
Ответ: да, если вы работаете в СберМаркете
Ребята создали комфортное pet-friendly пространство. В московском офисе компании домашние любимцы не мешают работе, а, наоборот, помогают сотрудникам улучшить настроение и за счёт этого повысить продуктивность. И как же приятно в обеденный перерыв не просто сходить за кофе, а выйти на полноценную прогулку со своим питомцем!
А чтобы не забывать о любимых хвостиках даже в рабочих чатах, ребята сделали с ними стикеры. Ну разве не прелесть!
Хотите тоже работать в СберМаркете, водить своего пёсика в офис и вместе с командой профессионалов определять будущее доставки из магазинов и ресторанов? Ищите вакансии на сайте
Реклама. ООО «Инстамарт Сервис», 115035, Москва, ОГРН 1187746494980. 12+
Имеете опыт в машинном обучении, но хотите двигаться ещё дальше?
Специально для вас Валерий Бабушкин, Vice President, Data Science в Blockchainꓸcom, вместе с командой опытных специалистов из Яндекса, AliExpress и X5 Retail Group подготовил продвинутый курс, на котором вам предстоит решать сложные и нестандартные задачи бизнеса.
Ранжирование и матчинг, динамическое ценообразование, uplift-моделирование, ускорение и повышение чувствительности A/B-тестов — выбирайте нужные блоки или проходите курс целиком.
Если вы уже сталкивались с чем-то из этого в своей работе, то познакомитесь с best practices индустрии. А если нет — дополните своё резюме новыми кейсами и станете более разносторонним ML-специалистом.
Ждём вас на курсе! Следующий поток стартует уже 3 июля, а по промокоду MBIGDATA28 вас ждет скидка 5%.
[Зарегистрироваться]
🔥Хотите стать одним из авторов проектов, которые меняют жизнь людей к лучшему в области автоматизации предприятий, медицины, робототехники, виртуальной реальности и других сферах, или стать руководителем отдела Computer Vision в вашей компании? Все это возможно после прохождения обучения на курсе “Компьютерное зрение” в OTUS. Сейчас открыт набор в группу.
Приходите 29 июня в 20:00 мск на открытый урок «PyTorch 2.0», чтобы познакомиться с преподавателем и программой курса, оценить все перспективы, которые откроются перед вами.
На занятии мы также обсудим, что нового принес фреймворк PyTorch 2.0 в сферу компьютерного зрения и глубокого обучения.
📌Вы узнаете:
- Как начать использовать PyTorch для обучения своих нейронных сетей
- Что нового в PyTorch 2.0 и чем он отличается от 1.x
- Как ускорить и оптимизировать свою нейросеть при помощи одной строчки кода
- Как перейти с PyTorch 1.x на 2.0
- Как ускорить трансформеры HuggingFace при помощи PyTorch Transformer API
👉🏻Для участия отправьте заявку https://otus.pw/vOnK/
Кому подходит этот урок:
- Начинающим и опытным специалистам в области компьютерного зрения и глубокого обучения
- Дата сайентистам, которые хотят ускорить инференс своих моделей
- Опытным специалистам, которые еще не перешли на PyTorch 2.0
- Тем, кто хочет познакомиться с фреймворков PyTorch и начать обучать свои нейросети
Нативная интеграция подробная информация о продукте www.otus.ru
А вы знаете, что такое пирамида признаков? А трансформеры (нет, мы не про фильм)?
Это термины, которые используют инженеры, работающие с нейронными сетями! Мы их нашли в канале ИТ-компании «Криптонит» — подписывайтесь на ребят! У них выходят материалы и про ML, и про роботов, и про программирование.
А ниже мы выбрали несколько терминов из их нейрословаря🟡
📍Explaining Away — эффект редукции причины как упрощённая схема рассуждений.
📍Инференс (inference) — с точки зрения разработчика это третий этап жизненного цикла искусственной нейронной сети (после её обучения и развёртывания).
📍Многослойный перцептрон (MLP) — это одна из элементарных архитектур, с которой часто начинают освоение нейронных сетей и принципов их обучения.
📍Пирамида признаков (FPN, Feature Pyramid Net) — это вычислительная архитектура, используемая в машинном зрении для обработки изображений без привязки к их разрешению.
📍Трансформеры (transformers) — это не только роботы, но и прогрессивное семейство архитектур нейросетей от Google.
Объектно-ориентированный подход чаще всего применяют в крупных проектах, где над одним приложением работают много разработчиков. Так как каждый программист работает над своей отдельной частью программы, сокращается количество ошибок и ускоряется процесс.
На курсе Яндекс Практикума «Базовый UML» вы за 2 месяца пройдёте все этапы работы над моделированием системы: от описания пользовательских требований до структурного и поведенческого моделирования. А ещё:
• изучите основные диаграммы в нотации UML, описывающие бизнес-процессы;
• получите представление о применении UML для моделирования систем;
• научитесь работать в Draw.io, StarUML, Plant UML.
Все студенты получат реальные кейсы, сопровождение от специалистов и работающие проекты в портфолио. Карьерный центр поможет с поиском работы: 69% студентов уже работают по специальности.
Занимайтесь онлайн в любое время, в своём темпе.
⭐️ InPars Toolkit: A Unified and Reproducible Synthetic Data Generation Pipeline for Neural Information Retrieval
Конвейер генерации данных для нейронного информационного поиска.pip install inpars
🖥 Github: https://github.com/zetaalphavector/inpars
📕 Paper: https://arxiv.org/abs/2307.04601v1
🚀 Dataset: https://paperswithcode.com/dataset/beir
ai_machinelearning_big_data
🔎 DeepOnto: A Python Package for Ontology Engineering with Deep Learning
A package for ontology engineering with deep learning and language model.
DeepOnto - интресная библиотека на Python, которая предоставляет инструменты для реализации моделей глубокого обучения, создания методов и проведения оценки для различных онтологических исследований.pip install deeponto
🖥 Github: https://github.com/KRR-Oxford/DeepOnto
📌 Project: https://krr-oxford.github.io/DeepOnto/
📕 Paper: https://arxiv.org/abs/2307.03067v1
🚀 Dataset: https://paperswithcode.com/dataset/ontolama
ai_machinelearning_big_data
🦙Flacuna: A Vicuna made of Flan
Flacuna was developed by fine-tuning Vicuna on Flan-mini, a comprehensive instruction collection encompassing various tasks.
Flacuna была разработана путем доработки Vicuna на Flan-mini. Модель уже является отличным помощником в написании текстов, и настроена на решении задач широкого спектра.
Flacuna продемонстрировала заметное улучшение производительности при решении задач в нескольких эталонных датасетах.
🖥 Github: https://github.com/declare-lab/flacuna
📕 Paper: https://arxiv.org/abs//2307.02053
🚀 Model: https://huggingface.co/declare-lab/flacuna-13b-v1.0
🔗 Dataset: https://huggingface.co/datasets/declare-lab/flan-mini
ai_machinelearning_big_data
NeurIPS, ICML, ACL, CVPR без PhD
Tinkoff Lab — лаборатория Тинькофф, в которой студенты работают над исследованиями в области технологий искусственного интеллекта.
Студенты Tinkoff Lab проводят эксперименты в области обработки естественного языка (NLP), компьютерного зрения (CV), обучения с подкреплением (RL) и рекомендательных систем (RecSys). По результатам экспериментов они пишут научные работы для наиболее значимых научных конференций: NeurIPS, ICML, ACL, CVPR и другие.
📕 vc: https://vc.ru/education/742897
🚀 Генерации новой версии Kandinsky неотличимы от реальных фото
Kandinsky — это нейросеть от Сбера, которая генерирует изображения по описанию. Как рассказал зампред правления банка Александр Ведяхин, в ближайшее время в открытом доступе появится новая версия модели. Главные особенности обновления — повышения качества выходящих изображений, появление новых функций и более быстрая обработка запросов.
ai_machinelearning_big_data
🔴Марковский Процесс Принятия Решений и Метод Монте-Карло
11 июля 20.00 (мск) погружаемся в мир Reinforcement Lerning на открытом уроке одноименного курса в OTUS и разберем Марковский процесс принятия решений (MDP) и управления Монте-Карло (MCC).
Данные методы используются в областях робототехники, медицины, управления, экономики, а специалисты Reinforcement Lerning становятся сегодня одними из самых уникальных на рынке труда в IT.
🔘В процессе вебинара на простых примерах познакомимся с формальными математическими определениями MDP и применим эти знания к более комплексным задачам. Разберем, как работает метод Монте-Карло для поиска оптимальных стратегий.Занятие завершится обзором доступных пакетов с открытым исходным кодом бенчмарками алгоритмов RL.
▶️Регистрация для участия https://otus.pw/amDu/
Вебинар состоится в рамках онлайн-курса «Reinforcement Learning» для DS/ML/DL специалистов, IT-специалистов, которые хотят погрузиться в обучение с подкреплением.После вебинара курс можно приобрести любым удобным для вас способом.
Нативная интеграция информация о продукте www.otus.ru
Стать Middle ML-специалистом просто — поступи в крупнейшую в России магистратуру по ИИ в ИТМО 🚀
Магистратура AI Talent Hub создана компанией Napoleon IT совместно с ведущим технологическим вузом — ИТМО. За 2 года вы получите актуальные знания в области искусственного интеллекта и освоите перспективные ML-специальности на уровне Middle.
AI Talent Hub — это:
🔹200 бюджетных мест для талантливых абитуриентов — становитесь профессионалами в ИИ
🔹обучение на решении реальных бизнес-задач — применяйте знания и навыки на практике уже во время магистратуры
🔹опытные профессионалы-менторы из ведущих партнерских IT-компаний — OZON, VK, Сбер, МТС Digital, Huawei Noah's Ark, «Татнефть», Mail.ru, Яндекс, Газпром и другие — получайте практические знания и возможности для развития
🔹онлайн-формат обучения — учитесь из любой точки земного шара
🔹более 100 курсов по разным направлениям машинного обучения от ИТМО, Передовой инженерной школы ИТМО и экспертов крупных IT-компаний — выбирайте сами, кем хотите стать
🔹обучение в неклассических образовательных форматах — воркшопы, хакатоны, проектные и кейс-семинары — забудьте про скучные лекции и лабораторные.
Набор на программу AI Talent Hub «Искусственный интеллект» уже в самом разгаре 🔥
До 10 июля подавайте заявку на конкурс проектов, поступайте без экзаменов и становитесь экспертом в области искусственного интеллекта!
⚠️ Как разработчику повысить свою зарплату? Один из вариантов — освоить MS SQL.
🦾 Знание этой СУБД может стать вашим конкурентным преимуществом и аргументом для повышения заработной платы.
Пройди хардкорный тест по MS SQL и проверь свой уровень.
Ответишь — пройдешь на углубленный курс «MS SQL Server Developer» от OTUS по специальной цене + получишь мастер-класс от преподавателя
🧑💻 Регистрируйся на открытый урок «Query Store что это? Как использовать и зачем?» и протестируй обучение 11 июля — https://otus.pw/vb2f/
🔥 ПРОЙТИ ТЕСТ
https://otus.pw/uOri/
Нативная интеграция. Информация о продукте www.otus.ru
🔘Что отличает обучение с подкреплением от основных методов машинного обучения? Погрузимся в историю RL и разберем отличительные особенности этого направления 3 июля в 20:00 мск на открытом уроке в OTUS.
Вебинар пройдет в рамках старта онлайн-курса «Reinforcement Learning» и будет полезен всем DS/ML/DL специалистам и IT-специалистам, которые хотят расширить свои знания в этой области.
💬На занятии мы:
— Рассмотрим RL с точки зрения вычислений и через призму поведенческих и когнитивных наук.
— Разберем классический пример многорукого бандита — автомата для казино
— Продемонстрируем возможности примитивного алгоритма RL в упрощенной среде.
— Обсудим самые знаковые приложения RL нашего времени.
👉Регистрация для участия https://otus.pw/1af3O/
📌Спикером выступит Андрей Маргерт, исследователь Машинного Обучения в Wageningen Research и преподаватель курса.
Не упустите возможность познакомиться с экспертом! После вебинара вы сможете продолжить обучение на курсе, доступном в рассрочку. Нативная интеграция подробная информация о продукте на сайте www.otus.ru
🧍♂ BEDLAM: Bodies Exhibiting Detailed Lifelike Animated Motion
BEDLAM is useful for a variety of tasks and all images, ground truth bodies, 3D clothing, support code, and more are available for research purposes.
Нейронная сеть, обученная только на синтетических данных, которая достигает самой высокой точности при решении задачи оценки 3D позы и формы человека (HPS) по реальным изображениям.
🖥 Github: https://github.com/pixelite1201/BEDLAM
📕 Paper: https://bedlam.is.tuebingen.mpg.de/media/upload/BEDLAM_CVPR2023.pdf
🔗Render code: https://github.com/PerceivingSystems/bedlam_render
🎞 Video: https://youtu.be/OBttHFwdtfI
👑 Dataset: https://paperswithcode.com/dataset/bedlam
ai_machinelearning_big_data
📚 5 Free Books on Natural Language Processing to Read in 2023
5 великолепных бесплатных книг по NLP, актуальных в 2023 году.
1. Speech and Language Processing
Authors: Dan Jurafsky and James H. Martin
Книга, написанная двумя профессорами Стэнфордского университета, по обработке речи и языка содержит исчерпывающее введение в мир НЛП. Она разбита на 3 раздела: Фундаментальные алгоритмы для НЛП, Приложения НЛП и Аннотирование лингвистической структуры.
2. Foundations of Statistical Natural Language Processing
Authors: Christopher D. Manning and Hinrich Schütze
Эта книга начинает с основ НЛП и постепенно погружает вас в математические аспекты, неодходимые для обработки естественного языка, такие как вероятностные пространства, теорема Байеса, дисперсия и многие другие.
3. Pattern Recognition and Machine Learning
Author: Christopher M. Bishop
Это детальное введение в область распознавания образов и машинного обучения.В конце каждой главы есть упражнение, подобранное таким образом, чтобы лучше объяснить читателю каждую концепцию.
4. Neural Network Methods in Natural Language Processing
Author: Yoav Goldberg
Книга начинается с изучения основ, таких как линейные модели, перцептроны, feed-forward, обучение нейронных сетей и тд. Автор использовал математический подход для объяснения этих фундаментальных элементов вместе с практическими примерами.
5. Practical Natural Language Processing
В этой книге рассказывается о том, как НЛП используется в реальном мире, о конвейере моделей НЛП, а также о текстовых данных и примерах использования, таких как чат-боты типа ChatGPT. В этой книге вы узнаете, как НЛП может быть использовано в различных отраслях, таких как розничная торговля, здравоохранение, финансы и др.Вы сможете узнать, как работает конвейер НЛП в каждой из областей, и понять, как использовать его в работе.
ai_machinelearning_big_data
📕 Constrained-Text-Generation-Studio
AI writing assistant for recreational linguists, poets, creative writers, and/or researchers to use and study the ability of large-scale language models.
Это как Photoshop, но для создания текстового контента!
Продвинутый ИИ-помощник по написанию текстов и генерированию текста.
🖥 Github: https://github.com/hellisotherpeople/constrained-text-generation-studio
📕 Paper: https://arxiv.org/abs/2306.15926v1
🔗Dataset: https://huggingface.co/datasets/Hellisotherpeople/Lipogram-e
ai_machinelearning_big_data
💬 3D-Speaker: A Large-Scale Multi-Device, Multi-Distance, and Multi-Dialect Corpus for Speech Representation Disentanglement
A large-scale speech corpus to facilitate the research of speech representation disentanglement.
3D-Speaker - это набор инструментов с открытым исходным кодом и крупномасштабный корпус речи, для мультимодальной проверки дикторов, распознавания дикторов и разделение дикторов.
3D-Speaker содержит более 10 000 дикторов, каждый из которых одновременно записывается несколькими устройствами, расположенными на разных расстояниях, а некоторые дикторы говорят на нескольких диалектах.
🖥 Github: https://github.com/alibaba-damo-academy/3D-Speaker
📕 Paper: https://arxiv.org/abs/2306.15354v1
🔗Dataset: https://3dspeaker.github.io/
ai_machinelearning_big_data
🖥 Free Courses on Large Language Models
Крутые бесплатные курсы по большим языковым моделям.
▪ChatGPT Prompt Engineering for Developers
▪LangChain for LLM Application Development
▪Building Systems with the ChatGPT API
▪Google Cloud Generative AI Learning Path
▪Introduction to Large Language Models with Google Cloud
▪LLM University
▪Full Stack LLM Bootcamp
ai_machinelearning_big_data
🚶♂️ MotionGPT: Human Motion
as Foreign Language
MotionGPT consists of a motion tokenizer responsible for converting raw motion data into discrete motion tokens, as well as a motion-aware language model that learns to understand the motion tokens from large language pre-training models by corresponding textual descriptions.
MotionGPT, унифицированная, универсальная и удобная модель языка движения для решения множества задач, связанных с движением.
⏩ Project: https://motion-gpt.github.io/
🖥 Github: https://github.com/openmotionlab/motiongpt
📕 Paper: https://arxiv.org/pdf/2306.14795.pdf
🔗Dataset: https://paperswithcode.com/dataset/amass
ai_machinelearning_big_data