7914
Канал Института AIRI ⚡️ Рассказываем про технологии ИИ и то, как исследователи развивают их в России и мире: https://airi.net/ru/ ВКонтакте: https://vk.com/airi_institute По всем вопросам: @saalaatik
Новогодние праздники — идеальное время, чтобы прочитать статьи, вышедшие в нашем блоге на сайте 📍
На этот раз представляем две работы, выполненные исследователями из группы «Вероятностные методы машинного обучения». Статьи посвящены различным тематикам, но их объединяет любовь к звёздам! 🌟
🖇 Star-Shaped Denoising Diffusion Probabilistic Models
В этой статье представлена новая диффузионная модель, которая может применяться к различным распределениям в экспоненциальном семействе, что делает ее полезной для моделирования данных на многообразиях с ограничениями, таких как единичная сфера или положительные полуопределенные матрицы. Новизной модели стала звёздообразная архитектура, из-за чего она получила название Star-Shaped DDPM. Подробнее об этом читайте в блоге.
🖇 To Stay or Not to Stay in the Pre-train Basin: Insights on Ensembling in Transfer Learning
В данном исследовании рассматриваются вопросы улучшения ансамблей нейронных сетей с помощью техник трансферного обучения. Авторы предложили заменить последовательную тонкую настройку сетей из ансамбля на параллельную, из-за чего траектории оптимизации в пространстве весов принимают форму звёзд. Новый метод получил название StarSSE. Разбираемся в проделанной работе в блоге по ссылке.
Хороших выходных!🧠
Наука и драйв — коротко про наш уходящий год в карточках 💡
12 месяцев исследователи AIRI публиковали статьи, активно участвовали в международных конференциях, делились результатами исследований на публичных лекциях и проводили научные семинары.
Команды Института написали километры кода, выложили в OpenSource десятки проектов и напечатали более 100 научных постеров. Делимся занимательными цифрами — в карточках.
📎 А если вы хотите узнать больше о конкретных проектах и достижениях научных групп, читайте подробный отчет по ссылке.
Продолжаем обзор статей, представленных учёными AIRI на конференции NeurIPS 2023! Теперь — в нашем блоге на сайте 👾
Процесс генерации изображения, который производят диффузионные модели, можно представить как перемещение из одной точки в другую в некотором математическом пространстве. Чтобы модели работали быстро, это перемещение должно быть оптимальным. Его достижение формулируется как задача оптимального транспорта.
На решение этой задачи направлены усилия множества научных групп, включая исследователей из AIRI. На конференции NeurIPS 2023 они поделились тремя интересными результатами:
🔻Building the Bridge of Schrödinger: A Continuous Entropic Optimal Transport Benchmark
В этой статье рассказывается о создании бенчмарка, который способен сравнить различные методы построения энтропийного оптимального транспорта — один из подходов к проблеме, эквивалентного задаче о построении Моста Шрёдингера. Подробнее об этом читайте в блоге.
🔻Entropic Neural Optimal Transport via Diffusion Processes
Авторы этой статьи смогли представить транспортную задачу как задачу поиска седловой точки некоторого функционала. Статья получила статус "Oral" (его получают топ-3% статей) на конференции NeurIPS 2023.
Рассказали все подробности в статье по ссылке.
🔻Extremal Domain Translation with Neural Optimal Transport
Здесь рассказывается еще об одном подходе к достижению оптимального транспорта, названного экстремальным. Предложенный метод позволяет достигать большего сохранения свойств входного объекта при осуществлении переноса домена, а также предоставляет механизмы для игнорирования выбросов в обучающей выборке. Подробности — на сайте AIRI.
Сами исследователи рассказывали о своих работах на недавно прошедшей ИИшнице, по ссылке можно посмотреть запись трансляции 🖇
Рассказываем про 2 новых партнерства, которые заключили на этой неделе 💡
🔻Вместе с коллегами из ИТ-кампуса «Неймарк» планируем развивать образовательную и научно-исследовательскую деятельность в сферах больших данных, ИИ, технологий, моделирующих принципы работы головного мозга, микроэлектроники и информационной безопасности, а также создать совместную лабораторию в сфере искусственного интеллекта.
🔻С компанией «СбермедИИ» будем заниматься совместной разработкой алгоритмов на базе искусственного интеллекта для здравоохранения. В первую очередь мы планируем уделить внимание развитию медицинских ассистентов и созданию единой модели для удаленной консультации людей по медицинским вопросам. Мы с партнерами ставим перед собой амбициозную цель — привнести мультимодальность в медицинские ИИ-продукты.
Будем чаще делиться подобными новостями в рубрике #партнерства_AIRI 🖇
Save the date: новогодняя ИИшница пройдет 21 декабря в 15:30! 🍳🎄
Исследователи расскажут про свои статьи, которые были приняты на конференцию NeurIPS 2023, скоро поделимся подробным расписанием онлайн-митапа.
Ссылка на трансляцию тут🍿
Сегодня были объявлены победители международной премии Yandex ML Prize. Ими стали 11 человек, 3 из них — исследователи AIRI 👾
Поздравляем руководителя группы «ИИ в промышленности» Илью Макарова, научного сотрудника группы «Вероятностные методы машинного обучения» Айбека Аланова и научного сотрудника группы FusionBrain Антона Разжигаева!
Премия Яндекса в области машинного обучения вручается в пятый раз. Её учредили в 2019 году в честь Ильи Сегаловича. В прошлом году премию в номинации «Научные руководители» получил научный консультант AIRI Дмитрий Ветров.
Поздравляем всех победителей! 💛
На прошлой неделе в Сингапуре прошла конференция EMNLP 2023, посвящённая обработке естественных языков. Несмотря на высокий конкурс, в ней приняли участие сразу несколько сотрудников AIRI: Елена Тутубалина, Андрей Кузнецов, Александр Панченко, Денис Димитров, Олег Сомов, Юрий Куратов и Артем Важенцев 💡
Исследователи AIRI сделали пять докладов:
🔻LM-Polygraph: Uncertainty Estimation for Language Models, трек Demo
🔻Kandinsky: An Improved Text-to-Image Synthesis with Image Prior and Latent Diffusion, трек Demo
🔻Better Together: Enhancing Generative Knowledge Graph Completion with Language Models and Neighborhood Information, трек Findings
🔻Shifted PAUQ: Distribution shift in text-to-SQL, воркшоп GenBench
🔻Semantically-Informed Regressive Encoder Score, воркшоп WMT
Конференция проходила с 6 по 10 декабря в выставочном центре “Resorts World Convention Centre”. Первые два дня были посвящены воркшопам и туториалам, а оставшиеся три — основной части конференции. Наибольший интерес у участников вызвали треки Resources and Evaluation, NLP Applications, Dialogue and Interactive Systems, Information Extraction.
Про перспективы академических исследований в эпоху больших языковых моделей рассказал профессор информатики и лингвистики Стэнфордского университета Кристофер Маннинг в докладе "Academic NLP research in the Age of LLMs: Nothing but blue skies!".
Делимся фотографиями с места событий 😁
В первый день зимы анонсируем следующий #AIRIseminars, который пройдет в офлайн-формате в нашем офисе, а также онлайн на YouTube-канале 6 декабря в 17:00 💡
🔵Тема: «Методы искусственного интеллекта в атомистическом моделировании материалов»
🔵Спикер: Александр Шапеев, Сколтех
🔵Оппонент: Артур Кадурин, AIRI
🔵Описание: в докладе будет рассказано о революции, которую искусственный интеллект делает в атомистическом моделировании материалов, а именно, как ИИ «выучивает» физику межатомных взаимодействий в автономном режиме, а также о текущих разработках, включая эквивариантные (не нейронные) тензорные сети для молекулярных моделей, разработку генеративных моделей для дизайна материалов и байесовские методы, применяемые для планирования численных экспериментов. Последние позволяют методам ИИ брать на себя рутинные задачи, традиционно выполняемые исследователями вручную, формируя будущее, в котором дизайн материалов будет осуществлятся автономными цифровыми лабораториями.
Регистрация по ссылке, до встречи!
#AIRIseminars уже завтра, делимся подробностями:
🔵Дата и время: 29 ноября в 17:00 в онлайн-формате на YouTube-канале AIRI
🔵Тема: «Методы обучения спайковых нейронных сетей для задач анализа данных»
🔵Докладчик: Роман Рыбка, Курчатовский институт
🔵Оппонент: Петр Кудеров, AIRI
🔵Описание: развитие технологий нейроморфных вычислений является актуальной современной задачей, вдохновленной способностями мозга живых организмов. Перспектива исследования этих технологий состоит в получении энергоэффективных инструментов анализа данных, позволяющих обрабатывать информацию, представленную в спайковом виде, с минимальной задержкой.
В докладе будут рассматриваться несколько подходов к созданию моделей спайковых сетей, пригодных для реализации на нейроморфных вычислительных устройствах. Также будут обсуждаться существующие вызовы для развития этих подходов и ближайшие перспективы исследований.
Запись прошлого семинара по ссылке. До встречи!
Научный сотрудник AIRI и руководитель исследовательской группы в Сколтехе Александр Коротин стал лауреатом премии за расширение границ познаний об искусственном интеллекте 🎉
Вчера на международной конференции AI Journey 2023 Александра и еще двух победителей наградили премией «Лидеры искусственного интеллекта», которая призвана отметить выдающиеся примеры внедрения искусственного интеллекта в коммерческих и государственных проектах, а также прорывные исследования в области ИИ.
Каждый из трех возможных победителей в этой категории — молодой исследователь, добившийся признанных сообществом результатов в изучении ИИ, получил денежную премию в размере 1 000 000 рублей.
Поздравляем! 💡
Рассказываем про спикеров AIRI, которые выступят в четверг и пятницу на AI Journey 2023:
🗓23 ноября
🔻Бизнес зал 2
11:15 - 12:30
→ Дмитрий Киселёв «Механизм исследования для графовых рекомендательных систем»
17:00 - 18:50
→ Артур Кадурин «Глубокое обучение в задачах квантовой химии»
→ Виктор Гомболевский «ИИ как инструмент поиска случайных находок для новой эры персонализированной медицины»
🔻Бизнес зал 3
11:15 - 13:30
→ Александр Панов «Обзор современных мультимодальных нейронных сетей для планирования действий робота»
13:45 - 16:00
→ Алексей Ковалёв «Обратная связь при планировании с LLM на примере сортировки роботом бытовых повседневных вещей»
→ Дмитрий Юдин «Методы построения и применения мультимодальных карт»
🗓24 ноября
🔻Главный зал
09:05 - 13:00
Семен Буденный в ESG – подкасте
До встречи на онлайн-трансляции завтра и послезавтра! ✨
Идеальный план для вечера пятницы – три выпуска программы «Физики и лирики» с исследователями AIRI 👾
🔵Кандидат химических наук, старший научный сотрудник AIRI Алексей Коровин рассказывает про разработанный в AIRI алгоритм, который позволит значительно сократить выбросы CO2 при обучении нейросетей. Запись эфира тут.
🔵Вместе с кандидатом технических наук и руководителем группы FusionBrain Андреем Кузнецовым разбираемся, как ИИ создает новые блюда и продукты, а также обсуждаем, смогут ли они заменить привычную нам еду. Слушайте по ссылке.
🔵Научный консультант AIRI, исполнительный директор по исследованию данных Sber AI Денис Димитров рассказал, что такое чат-боты, как они появились, как устроены и чем отличаются от живого человека. Послушать можно на сайте.
Альберта Энштейна в стиле Ван Гога, Энди Уорхола и Фернандо Ботеро сгенерили с помощью Портретииста. Поиграться можно по ссылке до конца ноября 😁
С Новым годом!
Спасибо, что читали, смотрели и поддерживали нас в этом году! ✨
Пусть в 2024 году ваши научные достижения и открытия будут прорывными, работа легкой, а мечты — реальностью.
Желаем вам теплых праздников и хорошего настроения.
До встречи в Новом году! 🎄
Продолжаем «расшумлять» наши научные результаты! ✨
В партнерском материале с N + 1 вместе с Татьяной Шавриной мы постарались простым языком рассказать про мир престижных конференций в науке и поделиться тем, как статьи исследователей AIRI прошли на NeurIPS 2023. Обсудили научные результаты, новые разработки и влияние конференции на методологию науки.
Про ученых, науку и четыре из восьми принятых статей — читайте по ссылке.
Начинаем ИИшницу через десять минут, подключайтесь по ссылке 🍿
Читать полностью…
Финальная ИИшница этого года пройдет уже в этот четверг 🍳
Делимся подробным расписанием онлайн-митапа, где исследователи расскажут про свои статьи на NeurIPS 2023:
▪️15:35
"Neural Harmonics: Bridging Spectral Embedding and Matrix Completion in Self- Supervised Learning" — Иван Оселедец, AIRI, Сколтех
▪️15:55
"PROTES: Probabilistic Optimization with Tensor Sampling" — Глеб Рыжаков, Сколтех
▪️16:15
"Star-Shaped Denoising Diffusion Probabilistic Models" — Айбек Аланов, AIRI, ВШЭ
▪️16:35
"To Stay or Not to Stay in the Pre-train Basin: Insights on Ensembling in Transfer Learning" — Ильдус Садртдинов, ВШЭ
▪️16:55
"Entropic Neural Optimal Transport via Diffusion Processes" — Никита Гущин, Сколтех
▪️17:15
"Building the Bridge of Schrödinger: A Continuous Entropic Optimal Transport Benchmark" — Александр Коротин, AIRI, Сколтех
▪️17:35
"Extremal Domain Translation with Neural Optimal Transport" — Милена Газдиева, Сколтех
▪️17:55
"Intrinsic Dimension Estimation for Robust Detection of AI-Generated Texts" — Евгений Бурнаев, AIRI, Сколтех
Ссылка на трансляцию тут, сохраняйте и подписывайтесь на AIRIInstitute">YouTube-канал AIRI 👾
Представляем первую статью нашего партнерского проекта об искусственном интеллекте в биологии с Биомолекулой — порталом о молекулярной биологии, генетике и медицине🧑🔬
В первом материале вы найдете ответ на вопрос о том, как искусственный интеллект пришел в биологию. Сейчас с помощью ИИ уже можно предсказать строение белка, изучить структуру гена или даже написать научную статью. В качестве эксперта по данной теме выступает руководитель группы «Биоинформатика» Ольга Кардымон.
🧬 Читайте статью по ссылке.
В следующих материалах будет рассказано о моделях ИИ, которые произвели фурор в работе с белками. Не пропустите!
Трансляция семинара по ссылке, подключайтесь! 👾
Сегодня нас ждет: обсуждение научных достижений этого года, дискуссия и голосование за самую значимую статью 🍿
Приглашаем на Новогодний огонек AIRI Seminars, где исследователи обсудят яркие статьи этого года🎄
🗓️ 13 декабря в 17:00
В программе выступления и дискуссия про самые яркие научные достижения года в компании 10-ти спикеров:
→ Александр Коваленко, AIRI;
→ Дмитрий Юдин, МФТИ;
→ Иннокентий Хумонен, AIRI;
→ Валентин Хрульков, Yandex;
→ Роман Рыбка, Курчатовский институт;
→ Ирина Пионтковская, Huawei;
→ Валентин Малых, MTS AI;
→ Кирилл Солодских, TheStageai;
→ Илья Трофимов, Сколтех;
→ Алексей Осадчий, ВШЭ, AIRI.
Формат: онлайн на YouTube-канале AIRI и офлайн в нашем офисе в Москве. Чтобы попасть на офлайн-семинар, необходимо пройти регистрацию на сайте.
До встречи на заключительном семинаре 2023 года! 💡
Сегодня в серии интервью с исследователями AIRI кандидат технических наук, руководитель группы FusionBrain Андрей Кузнецов 💡
🔵Почему наука?
«Изначально я не планировал связывать свою жизнь с наукой. Но на начальных курсах СГАУ один из преподавателей сказал, что есть возможность получить грант для студентов, которые хотят заниматься обработкой изображений. Я увлёкся этой темой и начал заниматься экспериментами в области компьютерного зрения и писать статьи. Впоследствии это все переросло в кандидатскую диссертацию».
🔵В свободное время
«Люблю LEGO и любые аналогичные формы создание чего-то большого из маленьких деталей. Раньше часто играл в баскетбол, сейчас стараюсь вернуть былую форму. В Самаре я живу в загородном доме и там у меня есть сад, очень люблю за ним ухаживать».
🔵Вдохновение
«Меня очень заряжает работа с темами, которые ещё не в мейнстриме. Так можно проверять свою научную интуицию — это один из важнейших критериев при стратегическом планировании исследований. Мне очень нравится исследовать такие темы — это меняет мировоззрение, потому что в такие моменты сам себе ставишь задачи, а не идёшь вместе со всеми».
🔵На работе
«Я ищу способы применения AI к обработке изображений и поиску признаков манипуляции над ними, проще говоря, определению фэйков и подделок. Также занимаюсь алгоритмами и технологиями синтеза видео по текстовым описаниям, мультимодальными архитектурами (OmniFusion) и задачами взаимодействиями языковых моделей в мультиагентной парадигме».
🔵Интересные факты
«Погружался с аквалангом в Египте во время отпуска, который был первым за 3 года! Не люблю опаздывать и обычно очень переживаю из-за этого».
🔵Наука — это
«Воплощение мечты — оставить после себя что-то интересное. Это выражается также в том, что статьи, которые мы публикуем, могут прочитать совершенно незнакомые люди на другом конце земного шара, а из этого может вырасти даже какая-то коллаборация, или просто чьи-то эксперименты будут успешнее».
Все интервью собраны по тегу #AIRIвлицах, приятного чтения 👀
Сегодня до конца дня открыта регистрация на конференцию YaTalks 2023, которая пройдет онлайн и офлайн в Москве и Белграде 5-6 декабря 👀
Кандидат технических наук, руководитель группы FusionBrain AIRI Андрей Кузнецов выступит с докладом «Сильный ИИ — миф или уже реальность?»
5 декабря в 14:00 вместе с Андреем попробуем последовательно разобраться, что сейчас умеют LLM, с чем ещё, кроме текстов, они могут работать и как могут помочь в создании сверхсильной интеллектуальной машины.
Андрей также поделится своим опытом исследований в этой сфере, расскажет об экспериментах, бенчмарках и других больших проблемах человечества в открытых вопросах. Обсудим мультиагентный подход, способы общения LLM, механизмы Chain-of-Thought и Tree-of-Thought, общую память, self-reflection и другие аспекты, на которые стоит обратить внимание уже сейчас.
Регистрация и подробное расписание по ссылке 😁
Вчера стартовал «III Конгресс молодых ученых» в Сириусе, рассказываем, где можно послушать коллег из AIRI 😁
29 ноября
11:45—13:15
→ Алексей Осадчий поучаствует в дискуссии «Настоящее и будущее междисциплинарных исследований мозга», трансляция по ссылке.
14:15–15:45
→ Ольга Кардымон примет участие в сессии «Искусственный интеллект для науки: синергия достижений». Трансляцию можно найти в слоте сессии.
30 ноября
13:30—15:00
→ Айбек Аланов, Ольга Кардымон и Виктор Гомболевский выступят в секции AI Journey, трансляция будет на сайте.
Также трансляция идет все дни на площадке Вконтакте, до встречи! 📍
Сегодня рассказываем, как исследователи AIRI разрабатывают универсальную ИИ-систему управления роботами по языковым инструкциям 👾
Группа «Нейросимвольная интеграция» во главе с Александром Пановым уже много лет работают над созданием универсальных систем управления роботами, которые позволяли бы человеку ставить задачу машине на естественном языке. Пока существующие роботы не могут строить точный план поведения по короткой языковой инструкции, что связано с отсутствием как «заземленных» языковых моделей, способных корректно учитывать окружающую ситуацию, так и обучаемых управляющих алгоритмов, преобразующих инструкции в конкретные команды для робота.
Ученые из AIRI и МФТИ в партнерстве с Центром робототехники Сбербанка разработали подход, который позволяет решать подобные задачи при помощи больших мультимодальных языковых моделей, помогая роботу классифицировать окружающие его объекты и определять, какие манипуляции с ними необходимо совершить для исполнения команд пользователя.
🖇 Подробнее можно прочитать на ТАСС Науке по ссылке.
Представляем новую мультимодальную мультизадачную модель OmniFusion, которую мы сделали совместно с исследователями из Sber AI и SberDevices ✨
Модель способна анализировать, описывать и отвечать на вопросы по изображениям, поддерживая непрерывный диалог с пользователем. Анализируя предоставленные пользователем изображения, OmniFusion точно распознаёт расположенные на них объекты, их количество, цвет и положение в пространстве.
OmniFusion может не просто описать картинку, но и ответить на сопутствующие вопросы, а также использовать извлечённую информацию в ходе диалога с человеком. Например, она может распознать сфотографированное блюдо и предложить рецепты его приготовления, найти ответ на логическую задачу или объяснить шутку.
Больше интересного про архитектуру:
→ Новый пост на Хабр про то, как устроена модель OmniFusion
→ Рассказ про модель от Андрея Кузнецова, а также доклад Ивана Оселедца на AI Journey 2023
В этом году 19 спикеров AIRI выступят на международной конференции AI Journey! 👀
Делимся темами докладов первого дня конференции AIJ Science:
🔻Главный зал
13:45 – 16:00
→ Иван Оселедец «Повышение эффективности и качества обучения больших нейросетевых моделей»
→ Евгений Бурнаев «От стохастических дифференциальных уравнений до задачи Монжа-Канторовича и обратно: путь к искусственному интеллекту?»
→ Ольга Кардымон «ИИ для дизайна и генерации белковых молекул»
17:15 – 18:30
→ Андрей Кузнецов "OmniFusion"
🔻Научный зал 1
11:15 – 13:30
→ Елизавета Гончарова «Языковые модели. Что можно выучить генерируя текст?»
13:45 – 15:15
→ Денис Димитров «MERA: Инструктивный бенчмарк для русского языка для больших языковых моделей»
→ Михаил Сальников «Вопросно-ответные системы с использованием графов знаний и больших языковых моделей»
15:15 – 16:00
→ Денис Димитров «Kandinsky: эффективный подход, основанный на диффузии, для высокоточного синтеза изображений и видео»
16:15 – 18:30
→ Евгений Фролов «Следующий шаг: рекомендации по использованию гиперболической геометрии»
🔻Научный зал 2
13:45 – 16:00
→ Артем Важенцев «Гибридная оценка неопределенности для задачи выборочной классификации неоднозначных текстов»
→ Олег Сериков «Обработка естественного языка»
🔻Научный зал 3
13:45 – 16:00
→ Айбек Аланов «Редактирование изображений с помощью диффузионных моделей»
→ Виталий Поздняков «Генерация стрессовых данных для проверки устойчивости моделей»
Подробное расписание и онлайн-трансляция на сайте AI Journey 📍
Сегодня в рубрике #интересное_в_понедельник новости четверга, потому что вышел новый выпуск «Наука для всех» — шоу, в котором ученый объясняет блогеру теорию так, чтобы ее было легко понять и пересказать 💡
CEO Института AIRI, профессор Сколтеха Иван Оселедец вместе с блогером Любой Бич, а также ведущими: комиком Тамби Масаевым и физиком Алексеем Федоровым разбираются в искусственном интеллекте.
Смотрите по ссылке 🍿
Сегодня делимся записями четырех недавних #AIRIseminars. Видео, описание и таймоды по ссылкам ⤵️
🔵Генеративные модели для физических исследований
🔵Методы и модели обработки текстов биомедицинской направленности
🔵Одна LLM хорошо, а N лучше? Мультиагентный подход - путь к AGI
🔵CAMEL: коммуникативные агенты для исследования «разума» общества языковых моделей
Семинаров много не бывает, следующий уже завтра в 17:00, до встречи! 👾