Добрый вечер, друзья! Будет время - забегайте послушать выпуск с Татьяной Шавриной - тимлидом команды AGI NLP, главным экспертом по технологиям, SberDevices, а также аспирантом НИИ ВШЭ и мегакрутым специалистом в обработке естественного языка!
https://anchor.fm/kmsrus/episodes/022-ML----------NLP-epvmlj
Если кто хотел погрузиться в теорию вероятностей с нуля - могу посоветовать вот этот плейлист. Очень доступно с картинками объясняется все с самых азов.
https://www.youtube.com/watch?v=mYAfKFdr8g8&list=PLFBCHVQg5AWWvsexNplVxUALNjvS8xO83
Порекомендовали блог на Яндекс.Дзене "Наука о данных доступным языком". Начал читать, и, правда, написано хорошо, есть визуализация и примеры кода.
https://zen.yandex.ru/id/5fd12882382a85570c79c48c
Вот такой, например, получился ответ на вопрос: "Почему растут цены на продукты питания?"
Почему растут цены на продукты питания? Почему россияне стали меньше ездить в Турцию, Египет, Грецию и другие страны? А вам не приходилось бывать во внутренней части Азии? Мне было предложено сесть к компьютеру, и я принялся рассказывать, перемежая красочными примерами — почему выросли цены на бензин, почему повысилась цена на строительные материалы, почему обострилась борьба за власть в Армении, почему столица нашей Родины, Москва, перестала быть символом стабильности и процветания. Естественно, каждый слушатель объяснял это повышение «своими причинами».
Хотел сделать выпуск про игру Го сразу после того, как посмотрел крутую документалку от Deep Mind - AlphaGo. В этом выпуске беседую с Алексеем Нечаевым - профессиональным преподавателем игры го. Алексей рассказывает много всего интересного: правила и философию игры, причины, по которым компьютеры долго не могли победить человека, какие изменения произошли после победы AlphaGo, кому и для чего стоит изучать го и многое другое! Надеюсь, вам будет также интересно слушать, как мне было интересно готовить этот выпуск!
https://anchor.fm/kmsrus/episodes/021-ML----AlphaGo-epaapa
Я без понятия, как этот подкаст прошел мимо меня! Он выходит уже больше года, а я его ещё не слушал. Более того, когда я его нашел, оказалось в том приложении, где подкасты слушаю я, его просто нету. Ну, точнее, уже есть. Пришлось добавлять ручками. Всем любителям лайтовых разговоров об искусственном интеллекте и других перспективных технологиях, рекомендую!
https://player.fm/search/Hottcast
На Ютубе задали вопрос про англоязычные подкасты, которые я упоминал в последнем выпуске. Дублирую сюда список тех из топовых, что я сам слушаю:
1. Lex Fridman - https://lexfridman.com/podcast/
2. Talking Machines - https://www.thetalkingmachines.com/
3. Linear Digressions - http://lineardigressions.com/
4. Artificial Intelligence in Industry - https://techemergence.libsyn.com/
5. Data Stories - https://datastori.es/
6. Machine Learning Guide - https://ocdevel.com/mlg
7. Data Skeptic - https://dataskeptic.com/
Добрый день, уважаемые подписчики!
Появилась видеозапись одиннадцатой (и последней) лекции по Deep Learning на тему "Методы оптимизации в обучении глубоких нейронных сетей":
https://youtu.be/5S349SLfoyE
В рамках лекции рассмотрены следующие методы оптимизации, использующиеся в обучении глубоких нейронных сетей:
- Batch Gradient Descent;
- Stochastic Gradient Descent;
- Mini-Batch Gradient Descent;
- Momentum;
- Nesterov Accelerated Gradient;
- AdaGrad;
- Adam.
Коротко рассмотрены преимущества и недостатки алгоритмов, а также рекомендации по их применению. Доказательства сходимости НЕ приводятся. :)
Надеюсь, курс оказался Вам полезен)
Не про машинное обучение, но про очень важный инструмент, необходимый для его изучения. Про английский язык. А точнее, про подходы изучения английского языка, которые сработали у меня. Делюсь личным опытом
https://anchor.fm/kmsrus/episodes/020-ML------Machine-Learning-Podcast-ep0918
В последних выпусках подкаста Евгений Разинков делал большой упор на английский язык, математику и программирование, как базовые навыки начинающего ML-инженера. Вот, хороший способ прокачать сразу три навыка - читать книгу по математике для машинного обучения на английском и программировать предложенные там методы :) У меня английский далек от хорошего, тем не менее, книга оказалась мне вполне по силам. Особенно, если непонятные вещи подсматривать у русских ютуберов-математиков-популяризаторов.
https://mml-book.github.io/book/mml-book.pdf
Слышали уже про новые эксперименты от OpenAI? Про генерацию изображений из текста? Если нет, ниже будет перепост. Это ещё один шаг на пути того, чтобы можно было снимать фильмы и блоги без съёмок как таковых. Просто садишься в режиссерское кресло и такой: "Алиса, слушай синопсис!". Рассказываешь ей своими словами сюжет ролика и типажи персонажей и на выходе генерируется фильм. Отсматриваешь, корректируешь и публикуешь. А можно ещё персонализированные фильмы для себя так создавать. Представляю какой потенциал здесь для индустрии 18+ :) В удивительное время живём, что ни говори!
Читать полностью…Добрый день, уважаемые подписчики!
Появилась видеозапись второй лекции по курсу Reinforcement Learning на тему "Марковские процессы принятия решений":
https://youtu.be/uZ-fjuxBc9g
В рамках лекции рассмотрены следующие понятия:
– состояние, действие, политика, коэффициент дисконтирования, state value function;
– марковский процесс;
– марковский процесс с наградами;
– марковский процесс принятия решений.
Приятного просмотра!
Привет, друзья! Нашел очередной достаточно интересный и живой подкаст по близкой нам с вами тематике. Оказывается, подразделение SberDevices (кстати, Сергей Марков, один из руководителей этого подразделения, был гостем Machine Learning Podcast) совместно с подкастерской студией Либо/Либо запустили свой подкаст, посвященный истории развития различных технологий "Вы находитесь здесь". В первом выпуске про синтез речи, а во втором про распознавание. Слушается легко и интересно. Рекомендую! https://ru.player.fm/series/vy-nakhodities-zdies
Читать полностью…Вот здесь можно побаловаться со Сберовской GPT-3 без самостоятельной сборки модели. Просто пишешь затравочную фразу или абзац и смотришь результат. Часто выходит довольно складно.
https://sbercloud.ru/ru/warp/gpt-3
Книга вышла в 2018 и, наверное, уже устарела. Впрочем, и "старые" подходы никогда не помешает знать. Тем более, на мой взгляд, уже очень скоро не нужно будет вручную подбирать параметры модели, за нас это будет делать AutoML. А мы будем просто с важным видом говорить: "Компьютер, сделай мне красиво!"
Читать полностью…Есть такая когнитивная штука, которая проявляется блуждающим сознанием. Это когда, вроде, по замыслу нужно сосредоточиться на каком-то вопросе - учебном, там, или рабочем, ну, или любом другом, на котором ты решил сосредоточиться, а ты легко переключаешься на другие темы. Это как зашел на Википедию, чтобы определенную статью прочитать, но вдруг увидел там ссылку на что-то интересное - перешел глянуть одним глазком и вот у тебя уже открыто десять вкладок с разными статьями, а про первоначальную ты уже и забыл. Или когда договорился с другом, коллегой или партнером порешать какой-то важный и сложный вопрос и, вроде, уже даже решать начали, обсуждать, решения искать, но вдруг чувствуете, что разговор уже пошел куда-то не туда. Вопрос забыт, а вы обсуждаете что-то менее важное, но намного более интересное. Ну, короче, если мозг не заставлять делать то, что он должен делать - он будет делать все, что угодно другое.
У меня есть план со списком тем для подкаста и я его стараюсь примерно придерживаться. Вот и сегодня сижу, работаю, ищу информацию и вдруг вспоминаю, что я хотел сделать выпуск про искусственный интеллект в компьютерных играх. Пригласить какого-нибудь спеца и обсудить разные подходы от основанных на правилах и эвристиках, до нейросетей. И руки сами начали набирать в поисковой строке разные запросы по теме. Нашел разные статьи, сижу, читаю. И тут звук новости из ВК - захожу, а там, вы не поверите, новый выпуск подкаста Подлодка. Не, ну, то, что новый выпуск Подлодки, вы, может, еще поверите, но вот тому, что такое совпадение поверить довольно сложно :) "Игровой AI" выпуск называется. Понял-понял надо делать то, что запланировал! В другой раз, значит :)
У меня с Подлодкой уже 2-е такое совпадение. Когда делал выпуск с Николаем Ивановым про, в том числе, проект Replika, Подлодка в это же время выложила выпуск с другим разработчиком Реплики :) Такие дела. Выпуск про игровой ИИ, кстати, достаточно интересный.
https://podlodka.io/199
У Мастридера и Фарсайта в Терминальном чтиве состоялся интересный разговор с Даниилом Киреевым - старшим исследователем Vision Labs про распознавание лиц. Технических подробностей мало, но вышло бодро, как и обычно у ребят!
https://ru.player.fm/series/tierminalnoie-chtivo/nieirosieti-ii-raspoznavaniie-lits-daniil-kirieiev
Визуализация той самой дорожной карты из последних выпусков подкаста от Евгения Разинкова
Читать полностью…Продолжаем с Евгением Разинковым тему, начатую в предыдущем выпуске - дорожная карта погружения в машинное обучение. Евгений подробно рассказывает какие есть основные направления в машинном обучении и в какой последовательности их стоит изучать.
https://anchor.fm/kmsrus/episodes/019-ML-----------2-eopssg
Телеграм-канал с анонсами лекций и видео Евгения:
/channel/razinkov_ai
Open AI поделился результатами своего исследования которое я никак кроме как магией назвать не могу – DALL·E, новая нейронка, продолжение идеи GPT-3 на трансформерах, но в этот раз для генерации изображений из текста.
Я часто пишу тут про фантазию, мол, скормил Гарри Поттера нейронке и получил иллюстрации всех сцен книги – кажется это уже не фантазия, но поковырять самому пока ничего не дают.
DALL·E нейронка с 12 миллиардами параметров, натренированная на парах картинка-текст, ее задачи:
✨ Синтезировать картинки по текстовому описанию
✨ Дорисовывать картинки имея часть на входе, с учетом текстового описания
Open AI уже тезерил какие-то вещи в этой области раньше, и вот наконец-то это вышло на такой уровень, что челюсть отпадает, посмотрите примеры что я приложил, вверху текст какой давали на входе.
Уверен, ей пока не дадут поиграться всем.
Предвижу, это исследование сильно повлияет на многие сферы и индустрии, так как это бесконечные сферы применения.
Тут подробнее:
https://openai.com/blog/dall-e/
В позапрошлом выпуске подкаста у меня в гостях была Вика - ведущая подкаста "Нейрочай". У них вышел выпуск о главных событиях в мире ИИ с Иваном Ямщиковым. Как всегда получилось очень интересно!
https://anchor.fm/neurotea/episodes/AI--2020-------28-eocdo4