Часто на Hadoop-кластерах не хватает ресурсов. Когда некоторые аналитики просят огромное количество ядер и памяти для своих Jupyter-ноутбуков, другие участники вообще не могут получить ресурсы. Это очень тормозит рабочие процессы. Узнали, согласны?
Александр Ледовский, тимлид команды аналитики и DS в Авито, делится опытом использования Apache Spark для работы с поисковыми логами.
Всё, что нужно знать аналитикам, дата-инженерам, специалистам по обработке больших данных и тимлидам команд, чтобы задавать параметры Spark-сессии и получать ресурсы.
Переходите и читайте по ссылке.
Реклама. ООО «Авито Тех». LdtCKLU3N
❗️Как пройти техническое собеседование на ML-специалиста?
⚠️ Узнайте на примере mock-интервью с преподавателями курса «MLOps» в OTUS!
На открытом уроке вы сможете наблюдать один из этапов собеседования при найме ML-специалистов — ML System Design секцию.
👉 Для удачного прохождения этого этапа не достаточно только знания алгоритмов машинного обучения. Также проверяются навыки проектирования ML систем, которые могут успешно работать в промышленной среде.
Больше инструментов MLOps ждет вас на курсе. Обратите внимание: возможные способы оплаты обучения.
👉 Готовьте вопросы и записывайтесь на вебинар!
https://otus.pw/OOzA/
Нативная интеграция. Информация о продукте www.otus.ru
🚀 DIS Group при поддержке компании Юниверс Дата приглашает Вас принять участие в Дата Саммите «Вселенная Ваших данных».
📅 Саммит пройдет 25 мая в офлайн + онлайн формате.
Вы услышите доклады о перспективах российской цифровой трансформации на основе данных от ведущих экспертов Минцифры РФ, ФКУ «ГосТех», «Росатома», РКС, Счетной палаты РФ, СУЭК, Яндекс Cloud других крупных организаций.
Также среди спикеров:
💫 Сюткина Мария, заместитель директора по развитию общекорпоративных сервисов и автоматизированных систем управления технологическим процессом ООО «РусГидро ИТ сервис»
💫 Абакарова Ольга, начальник отдела «Нормативно-справочной информации» ПАО «РусГидро»
💫 Владислав Шишмарев, заместитель руководителя Департамента информационных технологий города Москвы
💫 Ринат Абдурахманов, CDO, вице-президент по работе с данными, «ВымпелКом»
Для оффлайн-участников подготовлена развлекательная программа. Самых активных участников онлайн-формата также ждут призы.
👉 Узнать подробности и зарегистрироваться
10 Python Itertools, которые сделают ваш код аккуратнее, чище и лучше
Красота Python заключается в его простоте. Не только потому, что синтаксис Python элегантен, но и потому, что он имеет множество хорошо спроектированных встроенных модулей, которые помогают нам эффективно реализовывать общие функции.
Модуль itertools, который является хорошим примером, предоставляет нам много мощных инструментов для управления итерируемыми объектами Python в более сокращённом коде.
▪Читать
@data_analysis_ml
Mojo: язык программирования для ИИ, который в 35000 раз быстрее, чем Python
Совсем недавно был выпущен новый язык программирования для разработчиков ИИ: Mojo.
Я знаю, о чём вы могли подумать — новый язык программирования для изучения с нуля… Что ж, у меня есть хорошие новости: Mojo разработан как надмножество Python, поэтому, если вы уже знаете Python, изучение Mojo не должно вызвать затруднений.
Читать
@data_analysis_ml
🖥 Подборка курсов по статистике и теории вероятностей
Математика — это краеугольный камень Data Science. Хотя некоторые теоремы, аксиомы и формулы кажутся слишком абстрактными и далекими от практики, на самом деле без них невозможно по-настоящему глубоко анализировать и систематизировать огромные массивы данных.
▪«Математическая статистика» курс CS центр.
▪«Основы статистики» курс Bioinformatics Institute.
▪Университетский курс математического анализа
▪«Основы статистики. Часть 2» курс Bioinformatics Institute.
▪«Основы статистики. Часть 3» курс Bioinformatics Institute.
▪Основы работы с векторными величинами в физике
▪«Современная комбинаторика» курс МФТИ.
▪«Теория вероятностей для начинающих» курс МФТИ.
«Теория вероятностей» курс CS центр.
▪«Теория вероятностей - II (дискретные случайные процессы)» курс CS центр.
▪«Теория вероятностей – наука о случайности» курс ТГУ.
▪«Дискретный анализ и теория вероятностей» курс А.М.Райгородского в Академии Яндекса.
@data_analysis_ml
⚙️ Выпущен проект GPT4Free с бесплатным доступом к ChatGPT
Разработчик xtekky создал проект GPT4Free, который позволяет нелегально использовать ChatGPT, обходя ограничения от OpenAI. Для этого используются уязвимости в API.
Получить доступ к платным функциям удалось хитростью: сервис подключён к API через данные тех клиентов OpenAI, которые приобрели платные учётки. Среди таких компаний — poe.com, phind.com, writesonic.com, sqlchat.ai, t3nsor.com и you.com.
Использовать при этом можно как GPT-4, так и GPT-3.5.
Напомним, что сейчас получить ключ для использования GPT-3.5 можно бесплатно, а для GPT-4 нужно приобретать платный доступ.
При этом GPT-4 — это последняя версия языковой модели, которая превосходит 3.5 в несколько раз.
Выдача данных в GPT4Free практически не ограничена никакими искусственными барьерами, как это выполнено в ChatGPT из-за морально-этических аспектов. ЧерезGPT4Free языковой модели можно задать любой вопрос.
Разработчик настаивает, что использовать GPT4Free стоит исключительно для образовательных целей.
🖥 Github
@data_analysis_ml
Курс Data Analysis with Python, Анализ данных на python, коллекция весна 2022 и весна 2023
▪sem01 Тратим полтора часа на то, чтобы запустить анаконду. Вводимся в python, git и делаем import this.
▪sem02 Говорим про циклы, условия, списки, что такое range (концепция генераторов на пальцах).
▪sem03 Говорим про изменяемые и незименяемые типы данных: списки, кортежи, строки и методы работы с ними. Обсуждаем как питон работает с памятью и где можно из-за этого накосячить.
▪sem04 Говорим о функциях и рекурсии. Решаем задачи на циклы и оформляем их в виде функций.
▪sem05 Говорим про словарики и множества
▪sem06 Решаем задачи на словари и множества. Немного говорим про collections.
sem07 Полезный функционал: list comprehension, map, lambda-функции, all, any, max, sorted, lambda внутри них как key и т.п. Мб про operator, collections и itertools
▪sem08 Чтение и запись в файлы. Типы файлов: txt, json, csv, tsv, pickle. Введение в pandas: подгрузили табличку и сделали минимальное её шатание. Сразу забыли про пандас до следующего года. На экзамене им пользоваться нельзя.
▪sem09 Учимся собирать данные, пишем парсеры.
▪sem10 Работа с API
🖥 Github
@data_analysis_ml
🖥 Бесплатный курс язык программирования Python в задачах машинного обучения
01. Основы Python
02. Основы Python 2
03. Основы объектно-ориентированного программирования в Python
04. Основы Numpy
05. Основы Pandas
06. Лучшие практики
07. Iterators, generators, decorators
08. Визуализация данных с помощью matplotlib, seaborn; разведывательный анализ
09. Параллелизация в Python. HTTP запросы.
10. PIL, Scikit-Image, OpenCV
🖥 Github
@data_analysis_ml
15 лучших бесплатных курсов для изучения Python в 2023 году
Если вы новичок и ищете бесплатные ресурсы по Python, чтобы начать своё путешествие по программированию в 2023 году, то вы попали в нужное место.
В прошлом я делился лучшими книгами и курсами по изучению Python, а сегодня я поделюсь списком из лучших онлайн-курсов, которые вы можете пройти, чтобы бесплатно изучить программирование на Python.
▪Читать
@data_analysis_ml
⚡️ Создайте свою собственную модель Transformer с нуля с помощью PyTorch
В этом уроке мы создадим базовую модель Transformer с нуля, используя PyTorch. Модель Transformer, представленная Vaswani et al. в статье «Attention is All You Need» — это архитектура глубокого обучения, предназначенная для последовательных задач, таких как машинный перевод и анализ текста.
Она основана на механизмах внутреннего внимания и стала основой для многих современных моделей обработки естественного языка, таких как GPT и BERT.
▪Читать
@data_analysis_ml
Прокачать скилл с нуля и устроиться работать аналитиком данных можно всего за 2 месяца. Учебная программа одобрена экспертным советом Томского государственного университета.
Почему мы?
📚 Официальный образовательный партнер Томского государственного университета
🏅 Преподаватели-практики с высокой экспертизой
🎓 Удостоверение о повышении квалификации установленного образца
🙍♀️ Поддержка тьютора в зачислении и обучении
🙌 Увлеченное коммьюнити и новые полезные контакты
👥 Сотни довольных выпускников прошлых лет
Приглашаем принять участие:
— Студентов старшего курса и выпускников
— Женщин в декрете и неработающих мам детей до 7 лет
— Безработных и лиц под риском увольнения
— Лиц 50 лет и старше, предпенсионеров
Подробные условия участия на сайте проекта.
У нас есть и другие программы!
👨💻 Тестировщик ПО
🖌 Графический дизайн
🎲 Системный аналитик
📊 Аналитик маркетплейсов
Подайте заявку и начните учиться уже через 2 недели!
https://clck.ru/34GSDF
🖥 Python Pandas против Vaex Dataframes: сравнительный анализ
Сферы Data Science и Data Analysis в значительной степени зависят от манипулирования и обработки данных. Поскольку большие и сложные датасеты становятся всё более распространёнными, эффективные и масштабируемые решения для обработки данных имеют решающее значение для успеха в этой области. API-интерфейсы DataFrame стали мощными инструментами для работы со структурированными данными, предоставляя высокоуровневый интерфейс для обработки и анализа данных.
Два самых популярных API-интерфейса DataFrame в Python — это Pandas и Vaex.
▪️Читать
@data_analysis_ml
🖥 Создание базы данных для маркетплейса с помощью SQL
В этой статье мы разработаем БД для практики. В этом проекте перед вами стоит задача создать реляционную базу данных для веб-сайта, предлагающего продажу подержанных автомобилей.
Общее описание этого проекта заключается в том, что любой желающий может предлагать свои товары (подержанные автомобили) в виде рекламы, а потенциальные покупатели могут осуществлять поиск по нескольким категориям.
▪ Читать дальше
@data_analysis_ml
🔍 Как использовать инструменты статического анализа в коде Python
За последние несколько лет статические анализаторы кода значительно оптимизировали разработку приложений. Статический анализ избавляет от необходимости отыскивать ошибки и уязвимости в системе продакшн или среде развертывания, указывая участок предполагаемого сбоя на основе типизации и других подсказок кода.
В статье мы подробно разберем несколько инструментов статического анализа с открытым ПО для Python. Посмотрим, как они работают и улучшают процесс программирования.
▪ Читать
@data_analysis_ml
🔥 Бесплатные курсы и ресурсы для подготовке к алгоритмической части собеседования
▪the-algorithms.com/ru
▪www.piratekingdom.com/leetcode/cheat-sheet
▪www.programiz.com/dsa/algorithm
▪stepik.org/course/1547/promo
▪stepik.org/course/217/promo
▪/channel/addlist/2Ls-snqEeytkMDgy
▪https://discopal.ispras.ru/img_auth.php/f/f4/Book-advanced-algorithms.pdf
@data_analysis_ml
🖥 Изучаем базы данных
Большой сборник теоретического материала по работе с базами данных.
▪основы: http://phpclub.ru/mysql/doc/tutorial.html
▪отношения между таблицами в БД: http://jtest.ru/bazyi-dannyix/sql-dlya-nachinayushhix-chast-3.html
▪внешние ключи: http://denis.in.ua/foreign-keys-in-mysql.htm
▪большой учебник по SQL: http://www.pyramidin.narod.ru/rusql/index.htm
▪sql канал с практичесикми задачами: @sqlhub
▪сборник запросов на все случаи жизни (англ): http://www.artfulsoftware.com/infotree/queries.php
▪таблицы отличий в диалектах SQL в разных СУБД (англ): http://en.wikibooks.org/wiki/SQL_dialects_reference
▪манга-учебник про SQL в картинках: http://www.nostarch.com/mg_databases.htm
@data_analysis_ml
🤖 Роботы-эмпаты, миф или реальность?
Необходимо быстро, качественно и в короткие сроки обработать большое количество данных, но у вас нет ни примерного алгоритма для написания своей модели, ни данных для её обучения? Выход есть! Можно использовать предобученные модели трансформеры.
Модели трансформеры (transformers) пришли на смену рекуррентным нейронным сетям, из-за своего специального механизма внимания (self-attention), который позволяет хранить связи между всеми словами в тексте.
Существует множество моделей для решения различных задач, которые находятся в открытом доступе, но как понять, какая модель больше подходит для решения поставленной перед вами задачи?
Передо мной стояла задача провести анализ отзывов пользователей. Это задача сентиментного анализа текста или же задача мультиклассовой классификации, где необходимо отнести текст к одному из этих трёх классов. Основная цель – это найти как можно больше негативных отзывов, чтобы узнать, на что жалуются люди и решить эти проблемы.
▪Читать дальше
@data_analysis_ml
🗣Подборка статей для подготовки к собеседованиям по машинному обучению.
1. dishitaneve/ml-interview-questions-1-1-2c14c4dcdf18">Вопросы для собеседования по ML 1.1
2. Вопросы с собеседовании по машинному обучению uproger.
3. @machinelearning_interview - телеграм канал с разбором вопросов с собеседований мл.
4. 20 основных вопросов для собеседования по машинному обучению
5. Разберитесь в 40 популярных вопросах для собеседования по машинному обучению
6. Ресурсы для собеседования : ML/Data Science/AI Research Engineer
7. Вопросы и ответы на интервью по ML
8. A Guide To Machine Learning Interview Questions And Answers
9. 6 лучших алгоритмов машинного обучения
10. marizombie/machine-learning-interview-preparation-ml-algorithms-1e1eba78194c">Подготовка к собеседованию по машинному обучению - алгоритмы ML
11. Машинное обучение IP - EDUREKA - Вопросы и ответы
12. 100 распространенных вопросов для интервью по ML
13. Вопросы для собеседования по машинному обучению - Криш Наик
14. Data Science Interviewer Pro By Emma Ding
15. Вопросы для собеседования по науке о данных Краткий обзор от Simplilearn
16. springboard_ind/most-asked-ai-ml-interview-questions-in-india-6db723cc7578">Наиболее часто задаваемые вопросы на собеседовании по AI/ML
17. Вопросы для собеседования по машинному обучению.
18. @python_job_interview - вопросы с собеседований python, ds.
Сохраняем себе, чтобы не потерять
@data_analysis_ml
⚡Хотите освоить анализ данных и сменить профессию? Или, может быть, вы уже сталкиваетесь с огромным количеством таблиц данных и хотите научиться продвинутой аналитике?
Приглашаем на программу «Специалист по Data Science» Центра непрерывного образования ФКН.
Обучение очное, ведется онлайн-трансляция и рассылаются видеозаписи каждого занятия.
✅Вы изучите программирование на Python, математику для анализа данных, прикладную статистику, классические модели машинного обучения и нейронные сети, а также основы обработки текстов, звука и изображений.
✅Освоите инструменты SQL, Python, Jupyter Notebook, Spark, Tensorflow/Pytorch.
✅Выполните три проекта: напишете чат-бот, выполните проект по машинному обучению и финальный проект. Это хорошая возможность пополнить портфолио, особенно для начинающих.
Старт уже 15 мая!🔥
Где: Москва, Покровский бульвар, 11
Стоимость: 465 000₽, оплату можно разделить на 8 частей без переплат
Продолжительность: 1,5 года
Программа курса и регистрация по ссылке.
⭐️ Бесплатные курсы по визуализации данных
Список из несколько курсов по визуализации, которые дают азы, понимание базовых прицнипов. Но стоит также учитывать, с помощью какого именно инструмента вы хотите визуализировать (Power BI, Google Data studio, Python и тд). И как правило у каждого инструмента есть своя бесплатная обучающая база на их же сайте.
▪Data Science: Visualization (Harvard university)
▪Data Visualization (Kaggle)
▪Data Visualization and Building Dashboards with Excel and Cognos (IBM)
▪Data Analytics and Visualization Capstone Project (IBM)
▪Наука о данных: визуализация (Harvard university)
▪Анализ и визуализация данных с помощью Power BI (Davidson)
▪Визуализация данных и создание информационных панелей с помощью Excel и Cognos (IBM)
@data_analysis_ml
📚 Подборка бесплатных и актуальных книг по всем языкам программирования.
Книги датасаентиста
Golang библиотека
Python библиотека
Крупнейший склад ит-книг
C++ книги
C# книги
Frontend книги
Книги по базам данных
Топ книги по Linux
Java книги
Библиотека машинного обучения
Сохраняем себе, чтобы не потерять
⚡️ Введение в глубокое обучение (Deep Learning) Free course
▪week01_intro От регрессии к нейросети.
▪week02_backprop Алгоритм обратного распространения ошибки. 50 оттенков градиентного спуска.
▪week03_matrix_diff Матричное диффириенцирование. Тут я отменил один из семинаров. Его надо возместить.
▪week04_backprop_again Решаем задачи на алгорим обратного распространения ошибки и пробуем его закодить.
▪week05_neuro_lego Нейросети - конструктор LEGO. Обсуждаем разные слои.
▪week06 Свёрточные сети.
▪week07 Нормализация по батчам, лучшие практики для обучения нейросетей
▪week08 Современные архитектуры свёрточных сетей. Transfer learning.
Мидтёрм
▪week09 Рекурентные нейронные сетки: RNN, LSTM, GRU. Временные ряды.
▪week10 Работа с текстами, введение в NLP, идея эмбедингов: w2v.
▪week11 Автокодировщики: тексты, картинки, нейросети для графов
▪week12 Seq2seq модели. Механизмы внимания. Автопереводчики. Генерация текстов. (25 мая)
▪week13 Разбираемся с трансформерами. (1 июня)
▪week14 Генеративные нейронные сети. (8 июня - ???)
▪week15 Задачи компьютерного зрения + лекция про то, что ботать дальше, чтобы стать клёвым.
📌 Github
@data_analysis_ml
Очистка набора данных FIFA 21 с использованием SQL
Популярная видеоигра FIFA 21 имеет большую базу данных статистики игроков и команд, известную как FIFA 21 dataset. Хотя этот набор данных может быть полезным инструментом для изучения производительности игроков и командной тактики, часто возникают проблемы с качеством данных, которые необходимо решить, прежде чем можно будет получить какую-либо полезную информацию.
Действие по обнаружению и устранению недостатков, несоответствий и неточностей в наборе данных известно как «очистка данных»
Читать
@data_analysis_ml
✈️ С 12 по 27 мая участвуй в хакатоне Aeroclub Challenge 2023 от компании «Аэроклуб» — лидера российского рынка business travel и поставщика IT-решений для отрасли.
🏆 Поборись за призовой фонд в размере 1 000 000 рублей. Регистрация открыта до 10 мая: https://cnrlink.com/aeroclubchallenge15
🎯 На Aeroclub Challenge 2023 приглашаются математики, дата сайентисты, python- и java-специалисты, аналитики, разработчики и эксперты в теме Travel с уровнями навыков junior, middle и senior. Участвовать можно индивидуально или в команде до 5 человек.
🧩 2 интересные задачи на выбор:
1. Создание обработчика писем электронной почты (Классификация писем по типу заявки и не заявки, извлечение и уточнение по заявке формализованного набора параметров, требуемых для обработки заявки);
2. Создание сервиса ранжирования предложений Auto Avia Offer (Автоматизация процесса подбора и отправки вариантов перелета с ценами в ответ на заявку по электронной почте).
Успей зарегистрироваться до 10 мая: https://cnrlink.com/aeroclubchallenge15
📊 8 советов по эффективной визуализации данных
Создание наглядных визуализаций данных — это полезный навык. Несложно сделать визуализацию данных, которая вызывает больше вопросов, чем ответов.
В этом посте мы обсудим 8 советов о том, как посторить красивую, понятную и информативную визуализацию данных.
Читать
@data_analysis_ml
🖼 ML-подходы по поиску похожих изображений
В данном посте будет рассмотрена задача, называемая поиском похожих изображений, в которой нужно будет найти все похожие изображения из датасета на загруженную фотографию из того же датасета.
▪Читать
▪Код
@data_analysis_ml
💥 Снижаем размерность эмбеддингов предложений для задачи определения семантического сходства
Сегодня пойдет речь о методах снижения размерности эмбеддингов для задач определения семантического сходства предложений.
Для чего это необходимо. С каждым годом растет сложность моделей, решающих вопросы семантически- и контекстно-ориентированной обработки естественного языка (NLP). Также нельзя забывать и про проблемы мультиязычности моделей. Все это сильно сказывается на увеличении их размеров и системных требований к железу для их обучения, дообучения, да и просто запуска. Задачи NLP сегодня – это прикладные задачи, их хочется решать на доступном оборудовании за доступное время.
А если поконкретней? Передо мной стояла задача найти и обобщить текстовые данные, представляющие собой массив предложений. Я точно знал, что среди них есть семантически схожие фразы. Однако прямой подход для определения семантического сходства наборов фраз требовал очень много памяти и времени. Чтобы решить эту проблему, я попытался уменьшить размерность векторов признаков предложений, но как понять, когда остановиться и что это даст?
Ну и как понять? В рамках данной публикации посмотрим, как меняется оценка семантического сходства от изменения размерностей эмбеддингов разными классическими методами их уменьшения.
▪Читать
@data_analysis_ml
Как сгенерировать поддельные изображения, которые выглядят реальными, всего с помощью нескольких строк кода (с помощью GAN)?
Вы когда-нибудь задумывались, как некоторые веб-сайты или приложения могут создавать реалистичные изображения людей, животных или мест, которых не существует в реальной жизни? Как они это делают? И каковы последствия создания и использования таких изображений?
В этой статье я познакомлю вас с одним из самых захватывающих и мощных методов в области машинного обучения: генеративными состязательными сетями, или сокращённо GAN.
GAN – это тип нейронной сети, которая может обучаться на наборах данных и генерировать новые данные с теми же характеристиками, что и обучающие данные.
Например, GAN, обученный на фотографиях человеческих лиц, может создавать реалистично выглядящие лица, которые являются полностью синтетическими.
GAN имеет множество применений в различных областях, таких как искусство, развлечения, безопасность, медицина и многое другое.
Он также может поднимать этические и социальные вопросы, такие как конфиденциальность, подлинность и ответственность.
В этой статье я покажу вам несколько примеров GAN в действии, объясню, как они работают и как реализовать их в Python с использованием популярного фреймворка, такого как TensorFlow или PyTorch. Также мы обсудим некоторые плюсы и минусы этой технологии.
▪Читать
@data_analysis_ml
👁🗨 Гайд для новичков по распознаванию изображений ИИ: Python и OpenCV.
В этом руководстве основное внимание будет уделено использованию Python и OpenCV для выполнения задач распознавания изображений, включая загрузку и отображение изображений, предварительную обработку изображений, извлечение признаков, обучение и тестирование классификатора, а также оценку его производительности.
К концу этого руководства у вас будет прочная основа для создания проекта распознавания изображений с помощью ИИ и практические навыки для применения его к реальным задачам.
▪ Читать
@data_analysis_ml