8025
Канал Института AIRI ⚡️ Рассказываем про технологии ИИ и то, как исследователи развивают их в России и мире: https://airi.net/ru/ ВКонтакте: https://vk.com/airi_institute По всем вопросам: @saalaatik
👀 Как провести осеннюю субботу с пользой для ума? Сходить на Всероссийский фестиваль Наука 0+ и узнать, где дружат ИИ и молекулярная биология.
Куда идти?
К 11:30 в аудиторию В4 Шуваловского корпуса МГУ по адресу Ломоносовский просп., 27, корп. 4.
О чем лекция?
За последнее десятилетие собраны огромные массивы молекулярно-генетических данных, секвенированы сотни тысяч геномов человека и других организмов, найдены новые цели для разработки лекарств. Параллельно в области искусственного интеллекта появляются СhatGPT, Kandinsky, Midjourney и другие прорывные модели, с помощью которых за секунду можно написать текст или создать любую картинку. Где пересекаются эти, казалось бы, далекие друг от друга области? Расскажет Ольга Кардымон, руководитель научной группы «Биоинформатика» Института искусственного интеллекта AIRI.
😁 Увидимся в МГУ!
Делимся интересными фактами о квантовом ИИ из доклада о развитии квантовых вычислений, в подготовке которого мы участвовали совместно с авторами из Сбера и ФГУП «ВНИИА им. Н.Л. Духова» 💡
🔳Основные перспективные направления развития квантовых вычислений для ИИ связаны с решением подкласса задач экспоненциальной сложности, где не требуется большой объем данных, но есть большой объем вычислений.
🔳Классическое машинное обучение очень эффективно можно использовать для ускорения квантовых вычислений. Программирование квантовых компьютеров под решение конкретной задачи отличается от классического программирования необходимостью подбора характеристик самого квантового компьютера, а этот процесс подбора квантовых цепей можно решать как задачу классического ML.
🔳Насколько значимой будет экономия энергии при ускорении вычислений с помощью квантовых компьютеров и алгоритмов – пока не ясно. Современные квантовые компьютеры еще не слишком энергоэффективны, однако, теоретический эффект
от алгоритмической части оценивается как существенный.
🖇 Больше информации о развитии квантовых вычислений ищите по ссылке.
Второй сезон #AIRIseminars в самом разгаре, следующий семинар пройдет в среду 👀
Рассказываем все подробности:
🔵Дата и время: 4 октября в 17:55
🔵Тема: «Одна LLM хорошо, а N лучше? Мультиагентный подход - путь к AGI»
🔵Докладчик: Андрей Кузнецов, AIRI, Сбер
🔵Оппонент: Валентин Малых, MTS AI
🔵Описание: в докладе будет рассказано про языковые модели и их способности понимать различные модальности. Также будут обсуждаться возможности решения задач как с помощью одной модели, так и за счёт организации мультиагентного взаимодействия языковых моделей. В докладе будут рассмотрены сценарии использования мультиагентных систем принятия решений и варианты их построения.
Семинар, как всегда, пройдет AIRIInstitute">на YouTube-канале AIRI, до встречи!
Сегодня в рубрике #хакатоны – AI Journey Contest 2023 👀 Подробности про наши задачи в посте ниже, удачи!
Читать полностью…
Семинар начинается через пару минут по ссылке, подключайтесь! 🍿
Читать полностью…
Рассказываем про следующий #AIRIseminars 👇
🔵Дата и время: 20 сентября в 17:00 на YouTube-канале AIRI
🔵Тема: «Генеративные модели для физических исследований»
🔵Докладчик: Федор Ратников, ВШЭ
🔵Оппонент: Семен Буденный, AIRI, Сбер
🔵Подробное описание семинара читайте по ссылке
До встречи в среду!
Сегодня в рубрике #интересное_в_понедельник подкаст с доктором наук, руководителем группы «Нейроинтерфейсы» Алексеем Осадчим 👀
Алексей вместе с ведущим подкаста «Сережа и микрофон» рассуждают про силу мысли, расширение возможностей мозга, про инвазивные и неинвазивные интерфейсы, а также о том, почему мозг — это великий предсказатель!
Смотрите по ссылке 🍿
Начинаем по ссылке через пару минут, подключайтесь 🍿
Читать полностью…
1 сентября — это не только начало нового учебного года, но и праздник, посвященный стремлению к знаниям и развитию. В этот день мы хотим поделиться с вами новостью 👀
Мы запускаем второй сезон #AIRIseminars – научных семинаров по ИИ, которые проходят каждые две недели по средам.
Рассказываем про следующий семинар👇
🔵Дата и время: 6 сентября в 17:00 на YouTube-канале AIRI
🔵Тема: «Практические аспекты обучения масштабных диффузионных моделей и оценки их качества, а также некоторые особые применения»
🔵Докладчик: Валентин Хрульков, Яндекс
🔵Оппонент: Дмитрий Ветров, AIRI, ВШЭ
🔵Подробное описание семинара скоро появится по ссылке на странице с расписанием семинаров
Увидимся! 👀
Группа ученых из AIRI, Лаборатории искусственного интеллекта Сбербанка и НИУ ВШЭ разработали модель прогнозирования реакции фармацевтического рынка на анонсы результатов клинических испытаний лекарственных препаратов 💊
Большинство научных работ смежной тематики сосредоточено на ретроспективном анализе влияния клинических испытаний на стоимость публичных компаний-разработчиков, в то время как предиктивной аналитике уделяется существенно меньше внимания.
Исследователи восполнили этот пробел и предложили новый фреймворк, нацеленный на получение прогнозов рыночных изменений. Они оперировали одним из самых больших датасетов FDA (Управление по санитарному надзору за качеством пищевых продуктов и медикаментов, англ. Food and Drug Administration).
📎Ссылка на статью в журнале Scientific Reports, входящем в издательство Nature Portfolio
📎Ссылка на новость с выводами из исследования
Делимся подборкой наших недавних статей на Хабр:
▪️Лето с AIRI. Как мы съездили на летнюю школу по искусственному интеллекту — рассказ молодых исследователей Зои Воловиковой, Льва Новицкого и Арсения Иванова про то, как в этом году прошло «Лето с AIRI».
▪️Как аугментация помогает нейронным сетям решать уравнения в частных производных — статья Александра Рудикова, который вместе с коллегами занимается решением дифференциальных уравненияй с помощью нейронных сетей. Не так давно они придумали, как сделать этот процесс точнее, и доложили свои результаты на конференции ICML 2023.
▪️Физически информированное машинное обучение, или Как я перестал бояться и полюбил искусственный интеллект — рассказ физика-теоретика Марата Хамадеева о том, как физика связана с искусственным интеллектом.
Всем научного начала недели! 👾
⚡️Самый долгожданный пост этого лета!
Записи лекций и семинаров летней школы по искусственному интеллекту «Лето с AIRI» с ведущими учеными из научно-исследовательских организаций и ВУЗов выложены на YouTube-канал.
🖇 Сохраняйте ссылку на плейлист
В этом году на Школе было много направлений: от обучения с подкреплением, робототехники, 3D компьютерного зрения до детектирования и диагностики аномалий в промышленности.
Институт AIRI
Где послушать про искусственный интеллект и биоинформатику на этой неделе? Делимся в рубрике #интересное_в_понедельник:
🗓 Онлайн: 8 августа в 11:00
Руководитель группы «Биоинформатика» Ольга Кардымон и технический директор СберМедИИ Ярослав Беспалов обсудят тему искусственного интеллекта в медицине и биотехнологиях на мероприятии «Диалог с экспертом: Искусственный интеллект в медицине и биотехнологиях».
🖇 Ссылка для подключения к эфиру
🗓 Офлайн: 10 августа в 19:30
На открытой лекции «Искусственный интеллект для изучения генома» в Парке Горького Ольга Кардымон расскажет, как ИИ помогает в изучении генома человека, почему модели для обработки естественного языка могут запоминать ДНК, как обучаются GPT-модели для молекул ДНК и к какому результату стремятся исследователи, разрабатывающие инструменты на основе ИИ для геномики.
🖇Ссылка на регистрацию
Увидимся! 👀
Сегодня рассказываем про летнюю школу по машинному обучению в биоинформатике, которую проводят наши друзья – ФКН ВШЭ 👾
В течение трех дней участников ждут лекции и семинары ведущих специалистов. От AIRI в этом году выступят спикеры из группы «Бионформатика»: Ольга Кардымон, Юрий Куратов, Вениамин Фишман, Максим Петров и Алексей Шмелев. Также в списке преподавателей есть участник «Лето с AIRI» Дмитрий Пензар.
🔵Основные темы летней школы:
– структурная биоинформатика
– биоинформатика ДНК, РНК и белков
– элементарная геномика
– современные методы анализа данных
– молекулярная биология
– система предсказаний ФЭГ
Школа пройдет с 28 по 30 августа в офлайн-формате по адресу Покровский бульвар, 11. Участие бесплатное, регистрация по ссылке 💡
Рассказываем про доклады на международной конференции по машинному обучению ICML 2023 👾
В этом году от Института представлены две статьи д.ф.-м.н., профессора РАН, CEO Института AIRI, профессора Сколтеха Иван Оселедец:
🔳 Few-bit Backward
Научная группа предложила универсальный подход, который помогает уменьшить объем памяти, занимаемой нейронной сетью, оптимизировав процесс обратного распространения.
В его основе лежит идея о том, что вместо хранения полного входного тензора, нужного для расчета градиентов функций активации, можно сохранить его низкобитовое представление, которое обеспечивает их точную аппроксимацию.
Авторы показали, что для этого необходимо вычислить оптимальную кусочно-постоянную аппроксимацию для производной от функции активации. Предложенный подход совместим с любыми существующими архитектурами, а сокращение памяти при его применении подтверждается несколькими открытыми тестами.
🔳 General Covariance Data Augmentation for Neural PDE Solvers
Исследователи предложили способ повысить точность, с которой нейронные сети решают дифференциальные уравнения в частных производных. Их подход основан на общей ковариантности и простых случайных координатных преобразованиях.
Идея исследователей опирается на тот факт, что законы, которые выражают дифференциальные уравнения, не зависят от системы координат — она влияет лишь на данные. Предложенная ими аугментация повышает точность работы модели до 80 процентов для отдельных задач.
Подробнее про конференцию ICML читайте по ссылке 👀
Начинаем семинар 🍿
Подключайтесь к трансляции по ссылке!
Читайте новый пост на Хабре, в котором молодые исследователи Школы «Лето с AIRI» делятся подробностями борьбы за первое место в конкурсе учебных проектов ✨
Исследователи Арсений Иванов, Николая Калмыков, Михаил Долгушин и Александр Корчемный выбрали в качестве учебного проекта создание целого фреймворка для планирования действий роботов, в котором план создается при помощи языковых моделей с интерфейсом ввода на основе распознавания русской речи. Ребята также придумали собственную систему валидирования и подсчета метрик качества выполнения задач.
👾 В перспективе их разработка может упростить создание роботов-помощников, которые способны убираться на кухне или в доме. Сейчас основная проблема заключается в том, что обыденные для человека действия, например, загрузка посудомоечной машины, уборка на столе или складывание белья, остаются невероятно сложными задачами для роботов. Эффективное планирование действий — это ключевой компонент на пути решения этой проблемы.
🖇 Команда успешно защитила свой проект, набрав наибольшее количество баллов среди всех участников! Подробности читайте в статье по ссылке.
⚡️Стартовал AIJ Contest – соревнование по ИИ, на которое мы в AIRI подготовили 2 задачи:
▪️Strong Intelligence – задача про мультимодальных чатботов, в ней нужно создать мультимодальную модель, которая обыгрывает знатоков интеллектуальных викторин и покажет высокий уровень эрудиции. Задача помечена на сайте как «суперсложная», так что ловите пост с подробностями от Антона Разжигаева.
▪️Rescue AI – задача про детекцию хромосомных перестроек по Hi-C картам, в ней нужно разработать модель, способную определять изменения в геноме человека. Сложность средняя, пост от Ольги Кардымон с описанием по ссылке.
Призовой фонд 11 000 000+ ₽ 🏆
Счастливых вам Голодных игр соревнований, и пусть удача всегда будет с вами 😁
Сегодня рассказываем, как исследователи AIRI создали программный комплекс для выявления дефектов солнечных батарей 🔆
Ученые AIRI при поддержке IT-компании «Солтех» создали программное обеспечение, которое позволит обнаруживать дефекты и определять вероятные источники их образования в технологической цепочке процесса производства солнечных элементов.
📷 Команды подготовили базу данных из примерно 68 тысяч изображений, полученных при работе реальных промышленных предприятий по производству солнечных батарей, и использовали ее для обучения разработанной нейросети. Первые тесты на открытых базах данных показали, что алгоритм способен выявлять дефекты и их возможный источник с точностью примерно 90-95%.
Результатом совместной работы команд стало успешное 24-часовое опытно-промышленное испытание ПО на действующем производстве завода «Хевел» в Новочебоксарске. Руководитель проекта Семен Буденный отметил, что за сутки тестовых испытаний не было зафиксировано отказов и программа автоматически проанализировало порядка 52 тысяч изображений.
🖇 Подробнее про разработку можно прочитать на ТАСС Науке по ссылке.
В сегодняшнем дайджесте рассказываем про мероприятия, которые пройдут на этой неделе с участием исследователей AIRI 💡
🔳Завтра состоится баттл «Биоинформатик vs Искусственный интеллект» с участием Ольги Кардымон на педиатрическом конгрессе в гостинице Космос в зале «Вечерний космос А» в 16:30. Все подробности на сайте конгресса.
🔳Также в среду исследователи AIRI Вениамин Фишман и Юрий Куратов вместе с Михаилом Бурцевым выступят с докладом на тему «Self-supervised DNA models and scalable sequence processing with memory augmented transformers» в Университете MBZUAI. Анонс выступления на сайте.
🔳21 сентября исследователи AIRI выступят на технологической конференции SmartDev 2023. В программе панельная дискуссия с Иваном Оселедцем и доклад от Дмитрия Ветрова, все подробности по ссылке.
🔳Напоминаем, что завтра в 17:00 пройдет семинар «Генеративные модели для физических исследований», рассказали все подробности в недавнем посте.
До встречи!
Исследователи AIRI при поддержке Сбера создали библиотеку, которая поможет снизить выбросы CO2 в процессе обучения нейросетей 💡
Eco4cast позволяет отслеживать, как много энергии потребляется на разных этапах обучения систем, и конвертировать эти показатели в объемы выбросов CO2.
⚙ Встроенная нейросеть использует данные для выбора одного из 13 облачных сервисов в разных регионах мира, при использовании которого процесс обучения системы ИИ будет оставлять минимальный углеродный след. Так исследователи называют условный показатель количества энергии, затраченной на тот или иной процесс.
Первые предварительные проверки подхода показали, что он позволяет сократить выбросы примерно на 90%. Эта разработка поможет снизить затраты на обучение нейросетей и уменьшить связанные с этим процессом выбросы парниковых газов.
📎 Алгоритм Eco4cast опубликован в открытом доступе, делимся ссылкой на Github
📎 Подробнее про исследование читайте на ТАСС Наука
Сегодня делимся недавними постами из нашего блога на сайте 💡
🔳Рассказ про то, как машинное обучение помогает роботам обходить препятствия
Исследователи из AIRI и ФИЦ ИУ РАН использовали трансформерные нейронные сети, чтобы улучшить алгоритмы поиска кратчайшего пути с помощью двух новых эвристик. Они добились значительного улучшения эффективности поиска пути и снижение вычислительных затрат в сравнении с традиционными методами и предыдущими подходами машинного обучения.
🔳Статья о том, как исследователи ускорили доменную адаптацию генеративно-состязательной сети в пять тысяч раз
Ученые использовали трансформерные нейронные сети для улучшения генерации изображений с помощью генеративно-состязательных сетей (GANs). Они разработали метод, который позволил существенно сократить количество параметров, необходимых для обучения GANs для разных областей данных, и тем самым улучшили эффективность обучения и качество генерации изображений.
🔳Рассказ про общую ковариантность, которая помогла нейросетям точнее решать дифференциальные уравнения
Исследователи использовали нейронные сети для решения дифференциальных уравнений и улучшения точности вычислений. Они предложили метод аугментации данных, который позволил снизить ошибку при решении уравнений с использованием разных типов нейронных операторов.
Приятного чтения! 🍿
Рассказываем, как исследователи AIRI вместе с коллегами из Sber AI, МГУ и Минералогического музея им. А.Е. Ферсмана создали базу данных для обучения геологических систем ИИ 📈
Ученые создали специализированную базу данных из тысяч изображений образцов горных пород, которая поможет обучать нейросети классифицировать минералы и определять их размер, а также оценивать качество работы алгоритмов компьютерного зрения для задач геологии.
Модель MineralImage5k ускорит разработку геологических систем машинного обучения и сделает их работу более качественной за счет преимуществ перед другими, неспециализированными геологическими базами данных и банками изображений.
🖇 Подробнее про исследование можно прочитать на ТАСС Наука и в научной статье в журнале Computers & Geosciences.
Сегодня в рубрике #AIRIвлицах, в которой мы рассказываем про исследователей Института, интервью с Александром Панченко 👀
🔵Почему наука?
«В науку я попал на 4-м курсе учебы в Бауманке. У нас был курс по компьютерной лингвистике, который мне не хотелось проходить, и я попросил преподавателя дать мне вместо него индивидуальное задание. Эта работа принесла первые научные результаты. Позже я продолжил свою исследовательскую карьеру, стажируясь в Бельгии, и учась в двойной аспирантуре».
🔵Вдохновение
«Если говорить про работу, то это, в первую очередь, примеры других людей, которые показывают, что можно добиваться больших результатов. А еще очень мотивирует, когда что-то сделанное тобой работает. Я не из тех исследователей, кто может годами трудиться и получать отрицательный результат. Ну и, конечно, мои дети тоже сильно меня вдохновляют».
🔵В свободное время
«Я стараюсь путешествовать, заниматься активным отдыхом. Во время учебы в университете это было что-то более экстремальное: спелеология, горный туризм, альпинизм. Сейчас предпочитаю более семейные форматы и люблю фотографировать».
🔵На работе
«Я занимаюсь разработкой и исследованием таких информационных систем, которые что-то знают о человеческом языке. Мне особенно интересны те из них, что пытаются смоделировать смысл слов, выражений, текстов и так далее».
🔵Интересные факты
«Я прожил более 10 лет в странах Западной Европы и два раза возвращался. В старших классах я некоторое время подрабатывал промышленным альпинистом».
⚡️Наука — это
«Для меня наука — это процесс исследования и познания окружающего мира с помощью наиболее точных и достоверных методов, доступных человеку на данный момент времени».
Все интервью собраны по тегу #AIRIвлицах, приятного чтения 🍿
На этой неделе стартовала международная конференция Interspeech 2023 в Дублине. Рассказываем про представленные на ней статьи от исследователей AIRI 👾
🔳 Topological Data Analysis for Speech Processing
В данной статье исследователи из команды «Обучаемый интеллект» применили методы топологического анализа данных к задаче классификации речи (например, выявления эмоциональной окраски речи).
Для этого они построили набор признаков, основанных на топологических статистиках внутренних представлений трансформерной модели, обученной для распознавания речи (без дообучения её под конкретную задачу классификации) и использовали этот набор признаков для обучения линейного классификатора.
Метод позволил добиться более высокого качества решения в ряде задач по сравнению с "обычным" использованием эмбеддингов последнего слоя.
Топологические признаки позволяют приблизиться к пониманию некоторых функциональных ролей голов трансформерной модели. Достигнутые результаты показывают наличие широких перспектив для применения топологического анализа данных в задачах обработки речи.
Постер с конференции можно посмотреть по ссылке.
🔳 Iterative autoregression: a novel trick to improve your low-latency speech enhancement model
Эта работа с участием научного сотрудника группы «Вероятностные методы машинного обучения» AIRI Айбека Аланова посвящена улучшению потоковых моделей обработки речи. Такая технология была бы крайне полезна в телекоммуникациях, проектировании слуховых аппаратов, синхронных переводчиков и многом другом. Однако использование ее на практике ограничено крайне малым допустимым временем задержки (не более 10 миллисекунд). Из-за этого существующие подходы на основе принуждения учителя (teacher forcing), применяемого к авторегрессионным моделям, страдают от низкого качества.
Исследователи предложили простой, но очень эффективный алгоритм обучения авторегрессионных моделей, который значительно улучшает их работу. Он основан на итеративной замене истинного условия на предсказания модели в режиме принуждения учителя. Такой подход получил название «итеративной авторегрессии» (iterative autoregression).
Ученые показали, что новый алгоритм помогает уменьшить несоответствие между режимом обучения и применением модели к новым данным, возникающее при подходе с принуждением учителя. Он универсален и потенциально применим для обучения авторегрессионных моделей за пределами задач, связанных с улучшением и обработкой речи.
🔳 UnDiff: Unsupervised Voice Restoration with Unconditional Diffusion Model
Авторы этой статьи представляют UnDiff — диффузионную вероятностную модель, специально разработанную для решения различных обратных задач в обработке речи. Ключевое преимущество UnDiff – способность безусловно обучаться генерации речевых сигналов, а затем адаптироваться к обратной задаче без дополнительного обучения с учителем. Это отличается от существующих подходов, которые используют модели условной диффузии для восстановления и генерации сигналов или разрабатывают специальные обучающие конвейеры для конкретных задач.
Исследователи команды «Вероятностные методы машинного обучения» продемонстрировали эффективность UnDiff при решении различных задач обработки речи, таких как расширение полосы пропускания, деклиппирование, нейронное вокодирование и разделение источников речи. Новая модель не уступает в своей работе традиционным подходам, и это делает ее многообещающим решением для множества задач обработки речи.
Все подробности про конференцию можно узнать на официальном сайте 👀
Уже сегодня начинается международная конференция AI IN 2023, рассказываем про участников из AIRI 👾
🔳PhD, ведущий научный сотрудник AIRI, доцент и руководитель группы NLP Сколтех Александр Панченко примет участие в секции про генеративный ИИ. Трансляция начнется сегодня в 12:15 по ссылке.
🔳Д. ф.-м. н., ведущий научный сотрудник AIRI, руководитель Центра прикладного искусственного интеллекта Сколтеха Евгений Бурнаев примет участие в диалоге исследовательских центров ИИ. Трансляция начинается в 16:00, ссылка появится в личном кабинете участника чуть позже.
🔳Научный консультант AIRI Андрей Кузнецов примет участие в дискуссии «Экспертный взгляд от Sber AI». Трансляция начнется завтра в 10:00 по ссылке.
Онлайн-участие бесплатное, регистрация по ссылке 🖇
Сегодня в рубрике #конкурс рассказываем про соревнование по бинаризации нейросетей Binary Super Resolution Challenge🔥
К участию в конкурсе от ФКН ВШЭ приглашаются студенты и все желающие, увлекающиеся машинным обучением и нейронными сетями. Соревнование проводится в онлайн формате в один этап.
Участникам предлагается создать модель с наименьшей метрикой сложности и большим пиковым отношением сигнал-шум. Предложенные решения позволят сжать и оптимизировать модели компьютерного зрения для их использования на мобильных устройствах.
Все подробности на сайте, отправить решение можно до 15 октября. Удачи!
Как физика связана с искусственным интеллектом? Рассказываем в статье на Хабр 👾
Физик-теоретик Марат Хамадеев объясняет, зачем нужно включать машинное обучение в физику, как проводить физические расчеты с помощью искусственного интеллекта, а также рассказывает про то, с какими проблемами сталкиваются исследователи, соединяя две науки. Новая статья – пересказ одной из лекций с Летней школы по искусственному интеллекту «Лето с AIRI», которая была посвящена применению машинного обучения для физического моделирования.
Читайте статью по ссылке 🍿
Вчера завершилась наша Летняя школа по искусственному интеллекту «Лето с AIRI», а сегодня мы уже выгрузили лекции первых двух дней на YouTube-канал 🍿
Хотим сказать спасибо всем 80-ти участникам, которые за 2 недели посетили больше 50 лекций и семинаров, поучаствовали в постерной сессии, подготовили 32 проекта по разным направлениям и защитили их перед научным комитетом.
В сентябре вернемся с новостями про мероприятия для исследователей, на связи! 😁
В издательстве Springer вышла книга «Artificial Intelligence for Healthy Longevity» 💡
Главу про AI в геномике и эпигеномике подготовили Исследователи AIRI из группы «Биоинформатика»: Ольга Кардымон, Вениамин Фишман, Никита Иванисенко, Татьяна Шашкова, Николай Чеканов и Мария Синдеева.
Кстати, руководитель группы Ольга Кардымон выступила с лекцией про языковые модели для работы с последовательностями ДНК и белков на «Лето с AIRI», скоро поделимся записью 👀
Все о новой книге с участием AIRI по ссылке 🖇
