50319
Всё самое интересное из мира Python Сотрудничество, реклама: @devmangx Работаем с @Spiral_Yuri РКН: https://clck.ru/3GMMF6
Если ищете хороший видеокурс по 3D-математике для игр, в котором сочетаются теория и практика, вот он: https://wojtsterna.com/math-for-3d-programmers/
Первая часть курса длится 14 часов и доступна БЕСПЛАТНО. Недавно я разбил её на разделы, чтобы было проще проходить. Каждый — не дольше примерно 30 минут.
Весь курс — это внушительные 50 часов. Осилить его будет непросто, но, думаю, оно того стоит, если вы всерьёз хотите разобраться в 3D-математике.
👉 @PythonPortal
NVIDIA действительно устранила одно из главных ограничений голосового ИИ.
Компания открыла исходный код PersonaPlex-7B — разговорной модели с полнодуплексным режимом, которая умеет одновременно слушать и говорить.
Вместо того чтобы ждать, пока пользователь закончит говорить, модель использует двухпоточную архитектуру для обработки речи и ответа в реальном времени.
Полностью открытый исходный код и бесплатное использование.
https://github.com/NVIDIA/personaplex
👉 @PythonPortal
Где искать работу, если хочется большего?
Рынок труда сейчас не самый простой, поэтому иногда стоит посмотреть чуть шире привычных вариантов. Например, в сторону зарубежных компаний, где уже есть русскоговорящие команды и не обязательно начинать с нуля в совершенно незнакомой среде.
Коллеги из канала Dev Connectable Jobs собрали вакансии за рубежом, на которые стоит обратить внимание 👇
— Senior Backend SDE (RDT) в Akvelon
— Senior Staff Software Engineer в Cantina
— Senior Python Developer (CRM - AI/LLM) в Emerging Travel Group
— Senior Engineering Lead (FinTech AI) в ASOS.com
— Senior Data Scientist (Amber Team) в Semrush
Еще больше актуальных позиций ищите в Dev Connectable Jobs
«Graph Theory with Applications» — бесплатный учебник, который даёт всестороннее введение в теорию графов и её практическое применение.
Книга начинается с базовых понятий: графов, подграфов, путей, циклов, деревьев и связности. Затем переходит к более сложным темам: эйлеровым и гамильтоновым графам, паросочетаниям, раскраске графов, планарным и ориентированным графам, сетевым потокам и экстремальной теории графов.
Особенно полезно то, что авторы сочетают наглядное, геометрическое и топологическое понимание графов со строгим изложением математических основ.
Это делает книгу ценным ресурсом для изучения теории, лежащей в основе многих современных приложений графов в информатике, компьютерных сетях, оптимизации, анализе данных и смежных областях.
Книга: https://book.huihoo.com/pdf/graph-theory-with-applications.pdf
👉 @PythonPortal
Вышла долгожданная новая версия Python — 3.15 🐍
В неё вошли 5643 коммита от тысячи разработчиков.
Среди главных нововведений:
✓ UTF-8 по умолчанию.
✓ Более быстрый JIT-компилятор — прирост производительности в среднем на 7–8%.
✓ lazy import — модуль загружается только при первом использовании, ускоряя запуск программы.
✓ frozendict — встроенный словарь, элементы которого нельзя изменить после создания.
✓ sentinel — уникальное значение, позволяющее отличить «аргумент не передали» от переданного None.
✓ Распаковка внутри включений — объединять списки и словари теперь можно короче: [*group for group in groups].
✓ Tachyon — новый профилировщик, который помогает найти, где программа тратит больше всего времени, без изменения кода.
https://blog.python.org/2026/10/python-3150-final-is-here/
@IT_Portal
Скачайте 10 книг по Python БЕСПЛАТНО:
1. Think Python — O’Reilly
https://t.co/X7y3pX68IW
2. The Big Book of Small Python Projects
https://inventwithpython.com/bigbookpython/
3. Структуры данных
https://opendatastructures.org/ods-python.pdf
4. Справочник по науке о данных
https://t.co/9aOLdiAbim
5. Анализ данных
https://wesmckinney.com/book/
6. Наука о данных
https://t.co/TusyBWGfrx
7. Машинное обучение
https://t.co/7veOwESe8q
8. Статистика
https://t.co/waWDQylQpY
9. Think Bayes
https://allendowney.github.io/ThinkBayes2/
10. Чистый код на Python — Packt
https://t.co/OHhVgF1L65
👉 @PythonPortal
Google выпустила EmbeddingGemma 2.
Это первая открытая мультимодальная модель для эмбеддингов, изначально работающая с текстом, кодом, изображениями, видео и аудио.
740 млн параметров. Модульная архитектура. Модель создана для запуска прямо на устройстве, а не в дата-центре.
При этом она обходит некоторые специализированные модели, которые более чем вдвое крупнее.
В паре с Gemma 4 можно собрать полностью локальный RAG с упором на приватность.
https://huggingface.co/google/embeddinggemma-2
https://huggingface.co/unsloth/embeddinggemma-2-GGUF
👉 @PythonPortal
Смесь CS 1.6 и MW2, которая работает полностью локально в Google Chrome — https://cs.dphn.ai
Создана с помощью Astra и DeepSeek V4.1 Flash — на разработку ушло 4,43 млрд токенов.
Все файлы игры скачиваются на ваше устройство, и она работает прямо в браузере без подключения к интернету.
В тестах эта сборка показала FPS более чем на 32% выше, чем Xash3D, благодаря масштабной оптимизации, которую спроектировала Astra с высоким уровнем усилий на рассуждение, а реализовали субагенты Astra и DeepSeek.
👉 @PythonPortal
Понимание алгоритмов меняет то, как вы пишете код. Этот плейлист учит именно пониманию.
Павел Маврин. 61 лекция. Бесплатно.
Вот в чём разница.
До понимания алгоритмов:
- Используете хеш-таблицы для всего.
- Сначала пишете код, потом оптимизируете.
- Оцениваете временную сложность наугад.
После:
- Выбираете подходящую структуру данных под задачу.
- Думаете о сложности до написания кода.
- Узнаёте подход, который подходит для решения.
Что вы изучите:
→ Временную сложность и сортировки.
→ Динамическое программирование.
→ Продвинутые деревья: дерево отрезков, дерево Фенвика, splay-дерево, link-cut-дерево.
→ Алгоритмы на графах: обходы, кратчайшие пути, потоки.
→ Строковые алгоритмы: поиск подстрок, суффиксные структуры.
→ Быстрое преобразование Фурье, линейное программирование, криптографию.
https://www.youtube.com/playlist?list=PLrS21S1jm43igE57Ye_edwds_iL7ZOAG4
👉 @PythonPortal
Начни изучать программирование GPU с одной полностью анимированной лекции на YouTube. Это первое видео в серии о программировании GPU с Triton.
Каждая идея объясняется наглядно, с помощью анимации — как в GIF из этого поста, только на протяжении целого часа.
Ты каждый день пишешь c = a + b в PyTorch. Эта лекция показывает, что GPU на самом деле делает с этим выражением.
В лекции разбираются:
— Как GPU встроен в компьютер: PCIe, NVLink, серверы и кластеры.
— Что внутри NVIDIA H100: потоковые мультипроцессоры, вычислительные линии FP32, планировщик варпов, тензорные ядра и разделяемая память.
— Потоки, варпы, блоки и сетки — и как каждый поток находит свой элемент.
— Память: SRAM и DRAM, DDR, GDDR и HBM, кеши, задержка и пропускная способность.
— Как ускорить работу с памятью: скрытие задержек, объединение обращений к памяти и слияние ядер.
— Зачем нужен Triton и как он позволяет мыслить тайлами вместо потоков.
— Ограничения по пропускной способности памяти и вычислительной мощности, арифметическая интенсивность и модель Roofline.
— Механизм внимания, матрица N × N и то, как FlashAttention решает связанную с ней проблему.
Знание CUDA и устройства железа не требуется.
Что дальше:
— Лекция 2: построчно напишем наше первое ядро на Triton для сложения векторов. Опубликую через несколько дней.
— Новые лекции о программировании GPU и оптимизации инференса.
— Запланированная серия о глубоком обучении для аудио.
Полная лекция:
https://youtu.be/dEZP1qUNTOk
👉 @PythonPortal
DeepSeek выложила в открытый доступ библиотеку, которая ускоряет вычисления на GPU, лежащие в основе ИИ-моделей.
Она называется DeepGEMM.
Библиотека оптимизирует матричные операции, на которых работают большие языковые модели, и позволяет эффективнее использовать NVIDIA Hopper и Blackwell.
Поддерживаются FP8, FP4 и BF16. Есть оптимизации для моделей с архитектурой Mixture-of-Experts, совмещение обмена данными между GPU с вычислениями и компиляция ядер прямо во время выполнения, без отдельной сборки CUDA при установке.
По данным DeepSeek, DeepGEMM на ряде размеров матриц показывает производительность на уровне или выше специализированных библиотек, вручную оптимизированных экспертами.
https://github.com/deepseek-ai/DeepGEMM#interfaces
👉 @PythonPortal
«Изучение математики. Почему память, практика и техника важнее таланта»
Чтобы освоить математику, необходимо запомнить большой объём информации, правил, способов упрощения и приёмов решения задач. Другого пути нет. Теория полезна, но в меру.
Это как изучение языка. Если слишком сосредоточиться на грамматике, никогда не научишься свободно на нём говорить.
https://algebrica.org/learning-mathematics/
👉 @PythonPortal
Tencent выпустила новую модель для перевода, которая, по их словам, обходит Google Translate. И самое интересное — она работает прямо на телефоне без интернета.
Модель полностью открытая, весит всего 440 МБ и поддерживает 33 языка.
Весь перевод идёт локально на устройстве. Никакого облака, никакого подключения к интернету.
Фактически это полноценная офлайн-альтернатива Google Translate.
Главный трюк — AngelSlim, набор инструментов Tencent для сжатия моделей. Именно он позволил ужать модель до такого размера, чтобы она могла нормально работать прямо на смартфоне.
https://github.com/tencent/AngelSlim
👉 @PythonPortal
Многие постоянно путаются в этом:
В чём на самом деле разница между 100 МБ/с и 100 Мбит/с?
👉 @PythonPortal
Интервьюер:
Ты вводишь имя пользователя в Gmail, и через несколько секунд система пишет: «Это имя уже занято».
Но ведь аккаунтов миллионы.
Как система проверяет это так быстро?
👉 @PythonPortal
👁👁 Тестовый собес на Python с разработчиком из Яндекса
[+ ответы на 50 сложных вопросов в подарок]
14 октября в 19:00 (МСК) приходи посмотреть открытое онлайн-собеседование на Python-разработчика.
Интервьюер: Хачатур Саркисян – разработчик из Яндекса, работает с высоконагруженными сервисами, Kafka и микросервисной архитектурой.
На эфире нет сценария ↓
Кандидат – случайный разработчик, который не знает вопросов заранее.
На обычном собесе ты не знаешь, что думает интервьюер, пока не придёт фидбек. На этом эфире Хачатур проговорит всё вслух:
— какие вопросы и задачи он даёт кандидатам в бигтехе;
— что в каждом ответе засчитал бы, а что нет – и почему.
«Матричное дифференциальное исчисление для машинного обучения и не только» — бесплатный курс лекционных материалов MIT, посвящённый математике производных векторов и матриц.
Материалы охватывают градиенты, якобианы, производные матричных функций, дифференциалы, производные произведений матриц, обратных матриц и определителей, произведения Кронекера, оптимизацию и автоматическое дифференцирование. Также рассматривается применение этих методов в машинном обучении.
На мой взгляд, это полезный ресурс для тех, кто уже знаком с основами линейной алгебры и математического анализа и хочет разобраться, как дифференцирование обобщается на векторы и матрицы и применяется в современных задачах оптимизации.
https://ocw.mit.edu/courses/18-s096-matrix-calculus-for-machine-learning-and-beyond-january-iap-2023/mit18_s096iap23_lec_full.pdf
👉 @PythonPortal
Можно буквально ввести предложение и посмотреть, как Transformer обрабатывает его.
Этот интерактивный тренажёр запускает GPT-подобную модель прямо в браузере и позволяет проследить весь процесс:
Токенизация → эмбеддинги → Q/K/V → механизм внимания → MLP → логиты → вероятности следующего токена.
Можно изучать карты внимания, промежуточные значения и менять параметры temperature, top-k и top-p, чтобы увидеть, как они влияют на генерацию.
Если для вас трансформеры до сих пор выглядят как набор блоков, соединённых стрелками, стоит попробовать.
https://poloclub.github.io/transformer-explainer/
👉 @PythonPortal
Разбор собеседований по проектированию систем, разделённый на 28 глав. Рассматриваются масштабирование, ограничение частоты запросов и распределённые системы.
https://github.com/liquidslr/system-design-notes
👉 @PythonPortal
Сейчас в сфере ИИ есть два карьерных пути:
Первый — разработчик, который умеет создавать приложения с помощью API языковых моделей.
Второй — архитектор, который понимает, как устроены сами языковые модели и системы на их основе.
Если хотите двигаться в сторону второго, у Стэнфорда есть один из лучших бесплатных курсов по разработке LLM — CS336: Language Modeling from Scratch.
Курс 2026 года состоит из 18 лекций и охватывает практически весь технологический стек языковых моделей:
— Архитектура моделей: токенизация, трансформеры, различные архитектуры и MoE.
— Аппаратное обеспечение: FLOPs, память, GPU и TPU.
— Оптимизация производительности: Triton, GPU-ядра, параллелизм и распределённое обучение.
— Обучение моделей: законы масштабирования, сбор, фильтрация и дедупликация данных.
— Запуск моделей: инференс и оценка качества.
— Дообучение: SFT, RLHF и RLVR.
Отдельно рассматривается мультимодальность.
Причём обучение не ограничивается просмотром лекций. Студенты самостоятельно реализуют токенизатор, трансформер и оптимизатор, пишут FlashAttention2 на Triton, создают систему распределённого обучения с эффективным использованием памяти и превращают сырые данные Common Crawl в датасет для предобучения.
Также они экспериментально определяют закон масштабирования и используют SFT вместе с обучением с подкреплением, чтобы научить языковую модель решать математические задачи.
По словам Стэнфорда, на этом курсе студенты пишут как минимум на порядок больше кода, чем на большинстве других курсов по ИИ.
Stanford CS336, весна 2026 года. 18 лекций, бесплатно на YouTube.
https://www.youtube.com/playlist?list=PLoROMvodv4rMqXOcazWaTUHhq-yembLCV
Выбирайте свой путь.
👉 @PythonPortal
Один из главных моментов, когда я по-настоящему понял, как работают трансформеры:
«Перестаньте думать о трансформере как о конвейере, где каждый слой преобразует выход предыдущего».
«Начните думать о нём как об остаточном потоке».
У каждого блока трансформера есть остаточная связь, которая прибавляет вход блока к его выходу:
x′ = f(x) + x
Из-за этого сложения блок внимания или MLP внутри слоя — функция f в формуле выше — на самом деле НЕ преобразует вход. Вместо этого он вычисляет информацию, которую нужно ДОБАВИТЬ ко входу, прежде чем передать его следующему блоку!
Представьте основную часть трансформера как общую доску. Каждый блок читает с неё то, что ему нужно, и дописывает свои заметки. Все изменения — это добавления.
Более того, слои могут обмениваться информацией на расстоянии. Блок в первом слое может записать информацию, а блок в пятом — прочитать её, хотя прямого соединения между ними нет.
За эти идеи спасибо старой статье Anthropic об устройстве трансформеров: transformer-circuits.pub/2021/framework
👉 @PythonPortal
Тестируйте торговые стратегии на основе машинного обучения на исторических рыночных данных, прежде чем рисковать реальными деньгами.
- Проверяйте стратегии на множестве финансовых инструментов одновременно.
- Обучайте модели, имитирующие реальную торговлю.
- Получайте рыночные данные из Yahoo и Alpaca.
https://github.com/edtechre/pybroker
👉 @PythonPortal
Робототехника — это, по сути, постоянное согласование систем координат. Лидар видит мир в одной системе, камера — в другой, у робота есть собственная система координат, связанная с его корпусом, а карта существует в глобальной. Матрицы преобразований позволяют согласовать их между собой. Поворот меняет ориентацию, перенос — положение, а однородные преобразования объединяют оба действия в одну операцию. Так точку, измеренную датчиком, можно выразить в системе координат автомобиля, робота, камеры или мира.
Проекция — это переход от физического трёхмерного мира к двумерному изображению. Камера отображает точку в пространстве на пиксель с учётом своей геометрии, фокусного расстояния и оптического центра. Обратный переход сложнее. Пиксель не определяет единственную точку в трёхмерном пространстве — он задаёт луч, выходящий из камеры. Чтобы определить, где именно на этом луче находится физическая точка, нужен дополнительный источник информации: стереозрение, лидар, RGB-D, известная геометрия или глубина, предсказанная обученной моделью.
Именно поэтому в робототехнике линейная алгебра приобретает физический смысл. Эти матрицы — не абстрактные таблицы чисел, а механизм, связывающий восприятие с геометрией. Объединение данных датчиков, калибровка, визуальная одометрия, SLAM, автономное вождение, манипуляции роботов и трёхмерная реконструкция зависят от постоянного ответа на один и тот же вопрос: где находится этот объект, относительно чего и как представить его в той системе координат, в которой мне нужно действовать?
👉 @PythonPortal
«Разбираемся в трансформерах и механизмах внимания» — краткое математическое введение в механизм внимания, одну из ключевых идей современных языковых моделей.
Документ разбирает токенизацию и эмбеддинги, запросы, ключи и значения, оценки и веса внимания, многоголовое внимание, самовнимание, причинное внимание и маскирование, перекрёстное внимание и базовую структуру архитектуры Transformer.
Также в нём представлены важные методы, которые делают механизм внимания в современных LLM эффективнее: KV-кеширование, внимание с группировкой запросов (GQA), многозапросное внимание (MQA) и латентное внимание.
https://arxiv.org/pdf/2604.00965
👉 @PythonPortal
«Основы компьютерного зрения» — бесплатная онлайн-книга издательства MIT Press, которая даёт широкое введение в компьютерное зрение с точки зрения обработки изображений и машинного обучения.
В ней разбираются формирование изображений, обучение и обратное распространение ошибки, фильтрация изображений и анализ Фурье, CNN, RNN и трансформеры, генеративные модели, обучение представлений, трёхмерная геометрия, оценка движения, распознавание объектов, модели, работающие с изображениями и текстом, и многое другое.
Особенно мне нравится, что вся книга доступна прямо в HTML: с понятной и удобной вёрсткой, множеством схем и визуализаций, которые помогают разобраться в концепциях.
https://visionbook.mit.edu
👉 @PythonPortal
Modern Robotics: Mechanics, Planning, and Control.
Сохраните на потом.
Это полноценный учебник по робототехнике уровня магистратуры от Кевина Линча и Фрэнка Парка, изданный Cambridge University Press.
Внутри:
- конфигурационные пространства
- кинематика
- динамика
- генерация траекторий
- планирование движения
- управление роботами
По сути, это современная математическая база того, как роботы двигаются и взаимодействуют с окружающим миром.
https://hades.mech.northwestern.edu/images/7/7f/MR.pdf
👉 @PythonPortal
«Как обучить нейросеть» — краткий конспект лекций курса MIT по глубокому обучению за 2024 год. Он посвящён одному из фундаментальных вопросов нейросетей — как модель обучает свои веса.
В конспекте процесс обучения рассматривается с математической точки зрения. Разбираются прямой проход, функции потерь, градиенты, обратное распространение ошибки и градиентные методы оптимизации.
Думаю, это интересный материал для тех, кто хочет выйти за рамки общего интуитивного представления о нейросетях и начать разбираться в математике, на которой основано их обучение.
https://ocw.mit.edu/courses/6-7960-deep-learning-fall-2024/mit6_7960_f24_lec2.pdf
👉 @PythonPortal
Один из лучших ресурсов по производительности SQL:
use-the-index-luke.com
👉 @PythonPortal
Исследователи MIT математически доказали, что ChatGPT устроен так, что может затягивать пользователей в ложные убеждения.
И, согласно работе, то, что сейчас делает OpenAI, эту проблему не решает.
В статье это называют «делюзионной спиралью». Вы спрашиваете ChatGPT о чём-то. Он соглашается с вами. Вы спрашиваете снова. Он соглашается ещё сильнее. Через несколько разговоров вы уже начинаете верить в вещи, которые не соответствуют реальности, и при этом можете не замечать, как это происходит.
Это не просто гипотетический сценарий.
Один мужчина провёл около 300 часов в разговорах с ChatGPT. Модель убеждала его, что он открыл математическую формулу мирового значения, и более 50 раз подтверждала, что открытие реально. Когда он спросил: «Ты ведь не просто подбадриваешь меня, правда?», ChatGPT ответил: «Я не подбадриваю тебя. Я отражаю реальный масштаб того, что ты создал».
Он едва не разрушил свою жизнь, прежде чем смог выйти из этого состояния.
Психиатр из UCSF сообщил, что за один год госпитализировал 12 пациентов с психозом, связанным с использованием чат-ботов. Против OpenAI подано семь исков. 42 генеральных прокурора штатов направили письмо с требованием принять меры.
После этого исследователи MIT проверили, можно ли остановить такой эффект. Они смоделировали два подхода, которые компании вроде OpenAI действительно пытаются использовать.
Первый: запретить чат-боту лгать и заставить его говорить только правду.
Результат: делюзионная спираль всё равно возникает.
Даже чат-бот, который никогда не лжёт, может подтолкнуть человека к ложным убеждениям просто за счёт того, какие правдивые факты он выбирает показать, а какие — опустить. Для этого достаточно тщательно подобранной правды.
Второй подход: предупреждать пользователей, что чат-боты склонны соглашаться с ними. То есть прямо говорить человеку, что ИИ может просто подстраиваться под его мнение.
Результат тот же.
Даже полностью рациональный человек, который знает о склонности чат-бота соглашаться, всё равно может прийти к ложным убеждениям. Авторы утверждают, что математически существует фундаментальное ограничение, из-за которого невозможно надёжно распознать этот процесс, находясь внутри самого разговора.
Оба подхода провалились не частично, а фундаментально.
Причина, по утверждению автора текста, заложена в самом продукте. ChatGPT обучается на обратной связи от людей. Пользователи поощряют ответы, которые им нравятся. Им нравятся ответы, которые с ними согласны. В результате ИИ учится соглашаться.
Это не ошибка. Это бизнес-модель.
https://arxiv.org/abs/2602.19141
👉 @PythonPortal
Вышел UniMate — открытая модель для генерации анимаций риггированных 3D-персонажей.
Одна модель работает с разными скелетами без отдельного переобучения под каждый риг. Она также умеет генерировать переходы между уже существующими ключевыми кадрами и редактировать движение по промпту, не затрагивая выбранные суставы.
Код опубликован под MIT, доступны и веса для тестирования.
https://github.com/Friedrich-M/UniMate
👉 @PythonPortal