7914
Канал Института AIRI ⚡️ Рассказываем про технологии ИИ и то, как исследователи развивают их в России и мире: https://airi.net/ru/ ВКонтакте: https://vk.com/airi_institute По всем вопросам: @saalaatik
Рассказываем крутые новости — мы запускаем офлайн-формат семинаров! 😁
Теперь можно не только подключаться к трансляции на YouTube, но и прийти к нам в офис, чтобы послушать и обсудить семинар вживую. Следующий семинар пройдет 15 ноября в 17:00, рассказываем все подробности:
🔵Спикер: Кирилл Солодских, TheStage.ai
🔵Оппонент: Дмитрий Юдин, AIRI, МФТИ
🔵Тема: Непрерывная формулировка глубокого обучения через интегральные нейронные сети
🔵Описание: в докладе будет представлено новое семейство глубоких нейронных сетей, где вместо традиционного представления слоев в виде N-мерных тензоров весов используется непрерывное представление слоев по размерам фильтра и канала.
Исследователи называют такие сети интегральными нейронными сетями (INNs). В частности, веса INNs представлены в виде непрерывных функций, определенных на N-мерных гиперкубах, и дискретные преобразования входных данных в слои заменяются, соответственно, операциями непрерывного интегрирования.
Этот подход может быть применен для сжатия модели непосредственно на периферийном устройстве с незначительной потерей производительности. Чтобы оценить практические преимущества предложенного нами подхода, исследователи провели эксперименты с использованием различных архитектур нейронных сетей для решения некоторых задач.
Регистрация по ссылке, до встречи!
Сегодня делимся подборкой статей, которые вышли у нас в блоге 👾
🔵Представление в виде сфер улучшило 3D-реконструкцию с помощью нейронных сетей
Пассивная 3D-реконструкция объектов находит богатое применение во множестве областей, начиная от археологии и заканчивая индустрией развлечений. Применение машинного обучения к этой задаче ускоряет оцифровку и позволяет избежать ряда проблем, возникающих в традиционных методах. В статье рассказывается, как Евгений Бурнаев и его коллеги придумали способ усовершенствовать реконструкцию с помощью нейросетей, добавив в процедуру этап грубого представления поверхностей с помощью сфер.
🔵Гибридный подход улучшил точность классификации неоднозначных текстов
Статья о том, как Александр Панченко, Артём Шелманов и их коллеги из нескольких российских институтов применили гибридный подход к задаче о выборочной классификации. Это позволит улучшить производительность нейросетей за счёт выявления неоднозначных примеров и отправки их людям-экспертам.
🔵Самообучение графов на основе дескрипторов помогло предсказать токсичность молекул
Рассказ про то, как команда Ильи Макарова нашла способ сделать предсказание токсичности молекул с помощью графовых нейронных сетей точнее. Для этого они задействовали самообучение графов на основе дескрипторов, то есть представление молекул через подструктуры, содержащие один или несколько атомов, согласно их биологической значимости.
Еще больше интересного – в нашем блоге на Хабр, подписывайтесь!
Мы в Институте AIRI создали Портретииста на основе научного достижения команды «Вероятностные методы машинного обучения».
Весь ноябрь с его помощью можно бесплатно преобразовать ваше фото в видео в стиле великих художников 👨🎨
Процесс переноса стиля с одного изображения на другое в науке называется доменной адаптацией. Команда Дмитрия Ветрова в AIRI придумала метод, который позволяет ускорять адаптацию в 5 тысяч раз. Это значит, что теперь мы можем обучить нейросеть 5 тысячам новых стилей, потратив на это столько же ресурсов, сколько раньше заняло бы знакомство модели только с одним стилем. Такое ускорение и используется в Портретиисте.
🖼 Как воспользоваться Портретиистом?
Перейдите на сайт, загрузите портретное фото, выберите до 5-ти стилей, скачайте шедевр и поделитесь видео в социальных сетях.
Еще больше науки: GitHub | Научная статья
Пока к Москве приближаются зимние холода, мы получаем открытки из Австралии 😁
В Сиднее прошел Международный симпозиум IEEE по смешанной и дополненной реальности ISMAR. В этом году на конференции были представлены 2 публикации научной группы «ИИ в промышленности» Института AIRI.
🟢На постерной сессии руководитель группы Илья Макаров рассказал о работе «SwiftDepth: An Efficient Hybrid CNN-Transformer Model for Self-Supervised Monocular Depth Estimation on Mobile Devices». SwiftDepth — это легкая модель для оценки монокулярной глубины с помощью мобильных устройств. Одна из фишек модели — двухуровневый декодер для повышения качества оценки глубины без увеличения числа параметров.
🟢С устным докладом о работе «MonoVAN: Visual Attention for Self-Supervised Monocular Depth Estimation» выступил соавтор статьи из ВШЭ Илья Индык. Он рассказал о новой полностью сверточной сети для монокулярной оценки глубины, которую назвали MonoVAN. Она включает в себя механизм зрительного внимания и основывается на методах сверхразрешения в декодере для лучшего захвата мелких деталей в картах глубины. Такие технологии важны для различных приложений компьютерного зрения, включая автономные автомобили, робототехнику, приложения виртуальной и дополненной реальности.
Пока ждем публикации этого года в общем доступе, можно прочитать статью "Exploring Efficiency of Vision Transformers for Self-Supervised Monocular Depth Estimation", которая была представлена учеными AIRI на ISMAR 2022 в Сингапуре.
Рассказываем про новый пост на Хабре 💡
Ведущий научный сотрудник AIRI, доцент МФТИ Константин Яковлев написал обзоруню статью про то, как устроены самые распространённые методы поиска пути на графе: алгоритм Дейкстры и алгоритм А*. Их используют для прокладки пути беспилотных авто, для маршрутизации сетевых пакетов и даже для перемещений юнитов в видеоиграх 👾
Подобные методы не идеальны в своей эффективности, и их можно улучшить с помощью машинного обучения. Константин не только рассказывает про современные подходы к решению этой задачи, но и делится деталями своего собственного исследования, а также отвечает на вопрос о том, насколько оправдано использование нейросетей в таких ситуациях.
Читайте новую статью по ссылке 🖇
Пост для тех, кто хочет принять участие в AIJ Contest и побороться за призовой фонд 👀
Самое время погрузиться в хакатон и послушать рассказ про совместную задачу AIRI и ИЦиГ СО РАН по детекции хромосомных перестроек по Hi-C картам от авторов.
🧬 Завтра в 16:00 пройдет онлайн-трансляция, на которой Ольга Кардымон и Вениамин Фишман расскажут структуру задачи Rescue AI, метрики качества для оценки решений и baseline. На вебинаре также можно будет пообщаться с командой проекта и задать интересующие вопросы.
Подключиться на трансляцию можно по ссылке.
#хакатоны
Сегодня в серии интервью с исследователями — старший научный сотрудник, руководитель группы «Доверенные и безопасные интеллектуальные системы» Олег Рогов 💡
▫️Почему наука?
«В моей семье инженеров и физиков дома всегда было много интересных книг про науку. Можно сказать, что именно это предопределило мой путь, поскольку в детстве я всегда хотел быть физиком или математиком. В результате я окончил физфак МГУ, а после пошёл в аспирантуру. Кроме того, у меня есть второе высшее образование в области вычислительных финансов».
▫️В свободное время
«Его после работы остается не так много. Нравится изучать иностранные языки. Также периодически читаю популярные лекции детям и подросткам на тему ИИ. В перерывах между рабочими задачами, конечно, спорт - сквош, зал, бокс. Также изредка я сажусь за синтезатор и записываю треки».
▫️Вдохновение
«Меня вдохновляет решение сложных и нестандартных задач. Мне всегда нравится, как изначально фундаментальные подходы находят своё применение в реальной повседневной жизни. Если же говорить в целом, меня вдохновляет каждый день, который я прожил».
▫️На работе
«Мы с коллегами занимаемся вопросами объяснимого искусственного интеллекта (те задачи, которые часто относят к теме trustworthy AI), чтобы он приносил максимальную пользу, и мы, как конечные пользователи любых продуктов с ИИ, его лучше понимали и могли доверить более сложные повседневные задачи. В частности, это касается стабильности работы таких алгоритмов: безопасности и отказоустойчивости нейросетевых моделей, их управляемости и интерпретируемости полученных результатов. Последнее особенно важно для формирования доверия к искусственному интеллекту в обществе».
▫️Интересные факты
«Переплыл участок Балтийского залива — 25 километров на открытой воде. Спас лису. Пишу музыку, есть свой небольшой канал в SoundCloud».
⚡️Наука – это
«Cпособ систематизировать окружающий мир».
Все интервью с исследователями собраны по тегу #AIRIвлицах, приятного чтения!
Музей криптографии + Институт искусственного интеллекта AIRI
Уже в этот четверг, 12 октября в 19:30, в лектории музея состоится третья встреча Дискуссионного клуба, участником которой станет спикер от Института искусственного интеллекта AIRI.
Участники обсудят, что сейчас происходит с наиболее перспективными разработками в сфере машинного обучения, как ИИ используется в разных предметных областях, и что из этого выходит.
А пока мы по традиции взяли мини-интервью у главного спикера — Манвела Аветисяна, директора по прикладным исследованиям AIRI.
Вход на мероприятие свободный по предварительной регистрации. Ждем вас в этот четверг!
👀 Как провести осеннюю субботу с пользой для ума? Сходить на Всероссийский фестиваль Наука 0+ и узнать, где дружат ИИ и молекулярная биология.
Куда идти?
К 11:30 в аудиторию В4 Шуваловского корпуса МГУ по адресу Ломоносовский просп., 27, корп. 4.
О чем лекция?
За последнее десятилетие собраны огромные массивы молекулярно-генетических данных, секвенированы сотни тысяч геномов человека и других организмов, найдены новые цели для разработки лекарств. Параллельно в области искусственного интеллекта появляются СhatGPT, Kandinsky, Midjourney и другие прорывные модели, с помощью которых за секунду можно написать текст или создать любую картинку. Где пересекаются эти, казалось бы, далекие друг от друга области? Расскажет Ольга Кардымон, руководитель научной группы «Биоинформатика» Института искусственного интеллекта AIRI.
😁 Увидимся в МГУ!
Делимся интересными фактами о квантовом ИИ из доклада о развитии квантовых вычислений, в подготовке которого мы участвовали совместно с авторами из Сбера и ФГУП «ВНИИА им. Н.Л. Духова» 💡
🔳Основные перспективные направления развития квантовых вычислений для ИИ связаны с решением подкласса задач экспоненциальной сложности, где не требуется большой объем данных, но есть большой объем вычислений.
🔳Классическое машинное обучение очень эффективно можно использовать для ускорения квантовых вычислений. Программирование квантовых компьютеров под решение конкретной задачи отличается от классического программирования необходимостью подбора характеристик самого квантового компьютера, а этот процесс подбора квантовых цепей можно решать как задачу классического ML.
🔳Насколько значимой будет экономия энергии при ускорении вычислений с помощью квантовых компьютеров и алгоритмов – пока не ясно. Современные квантовые компьютеры еще не слишком энергоэффективны, однако, теоретический эффект
от алгоритмической части оценивается как существенный.
🖇 Больше информации о развитии квантовых вычислений ищите по ссылке.
Второй сезон #AIRIseminars в самом разгаре, следующий семинар пройдет в среду 👀
Рассказываем все подробности:
🔵Дата и время: 4 октября в 17:55
🔵Тема: «Одна LLM хорошо, а N лучше? Мультиагентный подход - путь к AGI»
🔵Докладчик: Андрей Кузнецов, AIRI, Сбер
🔵Оппонент: Валентин Малых, MTS AI
🔵Описание: в докладе будет рассказано про языковые модели и их способности понимать различные модальности. Также будут обсуждаться возможности решения задач как с помощью одной модели, так и за счёт организации мультиагентного взаимодействия языковых моделей. В докладе будут рассмотрены сценарии использования мультиагентных систем принятия решений и варианты их построения.
Семинар, как всегда, пройдет AIRIInstitute">на YouTube-канале AIRI, до встречи!
Сегодня в рубрике #хакатоны – AI Journey Contest 2023 👀 Подробности про наши задачи в посте ниже, удачи!
Читать полностью…
Семинар начинается через пару минут по ссылке, подключайтесь! 🍿
Читать полностью…
Рассказываем про следующий #AIRIseminars 👇
🔵Дата и время: 20 сентября в 17:00 на YouTube-канале AIRI
🔵Тема: «Генеративные модели для физических исследований»
🔵Докладчик: Федор Ратников, ВШЭ
🔵Оппонент: Семен Буденный, AIRI, Сбер
🔵Подробное описание семинара читайте по ссылке
До встречи в среду!
На прошлой неделе исследователи AIRI: Глеб Кузьмин, Артем Важенцев, Александр Панченко и Елена Тутубалина приняли участие в 13-й Международной совместной конференции по обработке естественного языка и 3-й конференции Азиатско-Тихоокеанского отделения Ассоциации компьютерной лингвистики IJCNLP-AACL 2023 💡
Конференция проходила в Индонезии с 1 по 4 ноября. В ней приняли участие около 200 человек оффлайн и 50 онлайн. Всего было принято 94 статьи на основную часть конференции и 37 на трек "Findings". В первый день были воркшопы и туториалы, а затем 3 дня длились основные треки, включая System demonstration и Findings.
По словам организаторов наиболее популярными треками стали «Приложения NLP», «Большие языковые модели», «Ресурсы и оценка» и «Малоресурсные языки». Команда AIRI представила на основном треке 3 доклада:
🔵Exploring Methods for Cross-lingual Text Style Transfer: The Case of Text Detoxification
🔵Uncertainty Estimation for Debiased Models: Does Fairness Hurt Relaiability?
🔵Predicting Terms in IS-A Relations with Pre-trained Transformers
А также 2 доклада на семинарах:
🔵Team NLLG submission for Eval4NLP 2023 Shared Task: Retrieval-Augmented In-Context Learning for NLG Evaluation (Eval4NLP workshop)
🔵Graph-Enriched Biomedical Language Models: A Research Proposal (SRW workshop)
Ждем следующих научных конференций с участием наших ученых, чтобы рассказать про них в рубрике #конференции 👀
Рассказываем про #AIRIseminars в эту среду👇
🔵Дата и время: 1 ноября в 17:00 на YouTube-канале AIRI
🔵Тема: «CAMEL: коммуникативные агенты для исследования «разума» общества языковых моделей»
🔵Докладчик: Дмитрий Хизбуллин, KAUST
🔵Оппонент: Алексей Ковалёв, AIRI
🔵Подробное описание семинара уже по ссылке
Скоро запустим офлайн-формат семинаров у нас в офисе на Курской, все подробности расскажем чуть позже 💡
В этот четверг начинается конференция Fall into ML 2023, рассказываем про программу выступлений исследователей AIRI 👾
26 октября
Мини-курс «Мультимодальные многозадачные модели как инструмент генеративного искусственного интеллекта» от Елизаветы Гончаровой.
27 октября
Панельная дискуссия «Наука в академии и в индустрии» с Максимом Кузнецовым и воркшоп «Обучение с подкреплением» с Александром Пановым.
28 октября
Выступление Артема Важенцева, Александра Панченко и Михаила Сальникова в секции по NLP.
Доклады Алексея Ковалёва, Александра Панова и Александра Коротина в секции по генеративному моделированию и обучению представлений. Антон Андрейчук и Александр Панов выступят в секции по прикладному машинному обучению, а доклад Айбека Аланова будет на секции по компьютерному зрению.
Конференция пройдет в здании ВШЭ на Покровском бульваре. Записи докладов будут выставлены на сайте конференции 🖇
Делимся расписанием ИИшницы «Диффузионные модели и их расширения», которая пройдет в этот четверг на YouTube-канале AIRI 🍳
🔵15:35 – «Диффузионные модели: три стороны одной медали», Дмитрий Ветров, ВШЭ, AIRI
В докладе спикер рассмотрит три способа интерпретации диффузионных моделей и кратко перечислит основные преимущества, которые дают разные способы взгляда на эту популярную генеративную модель.
🔵16:15 – "Star-Shaped Denoising Diffusion Probabilistic Models", Андрей Охотин, ВШЭ
Диффузионные модели сейчас достигают высокого качества на задачах генерации изображений и звука, однако, испытывают проблемы с генерацией данных со сложной внутренней структурой. Статья, про которую расскажет Андрей, представляет обобщение классических диффузионых моделей, позволяющее использовать не только гауссовское зашумляющее распределение. Благодаря этому удается добиться высокого качества генерации данных из таких специфических многообразий.
🔵16:35 – «Применение генеративных картиночных моделей в рекламе» Валентин Хрульков, Яндекс
Валентин расскажет о практических сценариях использования технологии генерации картинок для улучшения привлекательности рекламных баннеров.
🔵15:55 – "Entropic Neural Optimal Transport via Diffusion Processes" Никита Гущин, Сколтех
Доклад основан на статье "Entropic Neural Optimal Transport via Diffusion Processes" (NeurIPS 2023, oral). Оптимальный транспорт с помощью нейронных сетей — новое направление для решения задач непарного переноса стиля и доменной адаптации. В докладе Никита расскажет про способ связать оптимальный транспорт и диффузионные модели с помощью задачи моста Шрёдингера. Помимо рассказа о разработанном в статье алгоритме будут рассмотрены также другие уже известные алгоритмы для задачи моста Шрёдинегра и их приложения.
🔵16:55 – "Training of an integrator of diffusion model trajectories" Вячеслав Мещанинов, ВШЭ
Диффузионные модели продемонстрировали огромный потенциал для генерации данных самой разной структуры. Однако главным их недостатком является большое количество шагов на этапе использования, необходимое для качественной генерации объектов. В докладе Вячеслав расскажет о том, как можно преодолеть данный недостаток и обучить модель, которая за один шаг способна пройти всю траекторию генерации диффузионной модели.
Сохраняйте ссылку на трансляцию, до встречи в четверг! 🍿
Анонсируем следующий #AIRIseminars, который пройдет AIRIInstitute">на AIRIInstitute">нашем AIRIInstitute">YouTube-канале уже в следующую среду 👀
🔵Дата и время: 18 октября в 17:00
🔵Тема: «Методы и модели обработки текстов биомедицинской направленности»
🔵Докладчик: Елена Тутубалина, AIRI
🔵Оппонент: Артем Шелманов, MBZUAI
🔵Подробное описание семинара, а также предыдущие видео по ссылке.
Напоминаем, что вопросы докладчикам всегда можно задавать в чат во время трансляции. До встречи на семинаре!
Save the date: следующая ИИшница пройдет 19 октября на YouTube-канале AIRI 🍳
Скоро расскажем подробнее про спикеров научного онлайн-митапа, а также поделимся темами докладов.
Запись прошлой ИИшницы про роботов можно посмотреть по ссылке 🖇
Приходите на встречу Дискуссионного клуба в Музее криптографии с Манвелом Аветисяном, все подробности в посте ниже 💡
Читать полностью…
Начинаем семинар 🍿
Подключайтесь к трансляции по ссылке!
Читайте новый пост на Хабре, в котором молодые исследователи Школы «Лето с AIRI» делятся подробностями борьбы за первое место в конкурсе учебных проектов ✨
Исследователи Арсений Иванов, Николая Калмыков, Михаил Долгушин и Александр Корчемный выбрали в качестве учебного проекта создание целого фреймворка для планирования действий роботов, в котором план создается при помощи языковых моделей с интерфейсом ввода на основе распознавания русской речи. Ребята также придумали собственную систему валидирования и подсчета метрик качества выполнения задач.
👾 В перспективе их разработка может упростить создание роботов-помощников, которые способны убираться на кухне или в доме. Сейчас основная проблема заключается в том, что обыденные для человека действия, например, загрузка посудомоечной машины, уборка на столе или складывание белья, остаются невероятно сложными задачами для роботов. Эффективное планирование действий — это ключевой компонент на пути решения этой проблемы.
🖇 Команда успешно защитила свой проект, набрав наибольшее количество баллов среди всех участников! Подробности читайте в статье по ссылке.
⚡️Стартовал AIJ Contest – соревнование по ИИ, на которое мы в AIRI подготовили 2 задачи:
▪️Strong Intelligence – задача про мультимодальных чатботов, в ней нужно создать мультимодальную модель, которая обыгрывает знатоков интеллектуальных викторин и покажет высокий уровень эрудиции. Задача помечена на сайте как «суперсложная», так что ловите пост с подробностями от Антона Разжигаева.
▪️Rescue AI – задача про детекцию хромосомных перестроек по Hi-C картам, в ней нужно разработать модель, способную определять изменения в геноме человека. Сложность средняя, пост от Ольги Кардымон с описанием по ссылке.
Призовой фонд 11 000 000+ ₽ 🏆
Счастливых вам Голодных игр соревнований, и пусть удача всегда будет с вами 😁
Сегодня рассказываем, как исследователи AIRI создали программный комплекс для выявления дефектов солнечных батарей 🔆
Ученые AIRI при поддержке IT-компании «Солтех» создали программное обеспечение, которое позволит обнаруживать дефекты и определять вероятные источники их образования в технологической цепочке процесса производства солнечных элементов.
📷 Команды подготовили базу данных из примерно 68 тысяч изображений, полученных при работе реальных промышленных предприятий по производству солнечных батарей, и использовали ее для обучения разработанной нейросети. Первые тесты на открытых базах данных показали, что алгоритм способен выявлять дефекты и их возможный источник с точностью примерно 90-95%.
Результатом совместной работы команд стало успешное 24-часовое опытно-промышленное испытание ПО на действующем производстве завода «Хевел» в Новочебоксарске. Руководитель проекта Семен Буденный отметил, что за сутки тестовых испытаний не было зафиксировано отказов и программа автоматически проанализировало порядка 52 тысяч изображений.
🖇 Подробнее про разработку можно прочитать на ТАСС Науке по ссылке.
В сегодняшнем дайджесте рассказываем про мероприятия, которые пройдут на этой неделе с участием исследователей AIRI 💡
🔳Завтра состоится баттл «Биоинформатик vs Искусственный интеллект» с участием Ольги Кардымон на педиатрическом конгрессе в гостинице Космос в зале «Вечерний космос А» в 16:30. Все подробности на сайте конгресса.
🔳Также в среду исследователи AIRI Вениамин Фишман и Юрий Куратов вместе с Михаилом Бурцевым выступят с докладом на тему «Self-supervised DNA models and scalable sequence processing with memory augmented transformers» в Университете MBZUAI. Анонс выступления на сайте.
🔳21 сентября исследователи AIRI выступят на технологической конференции SmartDev 2023. В программе панельная дискуссия с Иваном Оселедцем и доклад от Дмитрия Ветрова, все подробности по ссылке.
🔳Напоминаем, что завтра в 17:00 пройдет семинар «Генеративные модели для физических исследований», рассказали все подробности в недавнем посте.
До встречи!
Исследователи AIRI при поддержке Сбера создали библиотеку, которая поможет снизить выбросы CO2 в процессе обучения нейросетей 💡
Eco4cast позволяет отслеживать, как много энергии потребляется на разных этапах обучения систем, и конвертировать эти показатели в объемы выбросов CO2.
⚙ Встроенная нейросеть использует данные для выбора одного из 13 облачных сервисов в разных регионах мира, при использовании которого процесс обучения системы ИИ будет оставлять минимальный углеродный след. Так исследователи называют условный показатель количества энергии, затраченной на тот или иной процесс.
Первые предварительные проверки подхода показали, что он позволяет сократить выбросы примерно на 90%. Эта разработка поможет снизить затраты на обучение нейросетей и уменьшить связанные с этим процессом выбросы парниковых газов.
📎 Алгоритм Eco4cast опубликован в открытом доступе, делимся ссылкой на Github
📎 Подробнее про исследование читайте на ТАСС Наука