50319
Всё самое интересное из мира Python Сотрудничество, реклама: @devmangx Работаем с @Spiral_Yuri РКН: https://clck.ru/3GMMF6
Работаю в крупном банке если что
👉 @PythonPortal
Python UV x Docker совет
Иногда полезно ставить зависимости в несколько шагов.
Например, чтобы лучше работал кэш слоев при сборке Docker-образа.
Сначала ставим только зависимости.
Потом копируем проект и ставим уже сам проект.
Зачем делить на два шага?
Docker собирает образ слоями: если слой закэширован, он не пересобирается, пока не изменились входные файлы.
Если отделить установку зависимостей от установки проекта:
▪️Если меняется только main.py, Docker переиспользует закэшированный слой с зависимостями (быстрее)
▪️Если меняется только pyproject.toml, Docker пересобирает слои начиная с этого места (и это правильно, потому что зависимости поменялись)
Без такого разделения любое изменение кода заставит заново переустанавливать все зависимости.
# Install the project's dependencies using the lockfile and settings
RUN --mount=type=cache,target=/root/.cache/uv \
--mount=type=bind,source=uv.lock,target=uv.lock \
--mount=type=bind,source=pyproject.toml,target=pyproject.toml \
uv sync --locked --no-install-project
# Then, add the rest of the project source code and install it
# Installing separately from its dependencies allows optimal layer caching
COPY . /app
RUN --mount=type=cache,target=/root/.cache/uv \
uv sync --locked
Расширение PostgreSQL для RAG и агентских приложений: pgai
Питоновская библиотека, которая превращает PostgreSQL в нормальный, продовый retrieval-движок для RAG и агент-приложений.
Автоматом создает и синхронизирует векторные эмбеддинги из данных в PostgreSQL и документов в S3. Эмбеддинги автоматически обновляются при изменении данных.
Мощный векторный и семантический поиск на pgvector и pgvectorscale.
Есть batch-обработка для эффективной генерации эмбеддингов, плюс встроенная обработка падений модели, rate limit’ов и всплесков латентности.
Работает с любым PostgreSQL, включая Timescale Cloud, Amazon RDS, Supabase и т.д.
👉 @PythonPortal
Инструменты для автоматизации для различных случаев
👉 @PythonPortal
CLAUDE CODE, но для взлома.
Shannon: полностью автономный AI-хакер, который находит реальные эксплойты в ваших веб-приложениях.
Shannon показал 96,15% успешности на бенчмарке XBOW без подсказок, с учётом исходного кода.
Фичи:
» Полностью автономная работа
» Отчёты уровня пентеста с воспроизводимыми эксплойтами
» Покрытие критических уязвимостей из OWASP
» Динамическое тестирование с пониманием кода
» Работает на базе интегрированных security-инструментов
» Параллельная обработка для ускорения результатов
https://github.com/KeygraphHQ/shannon
👉 @PythonPortal
Тюнинг LLM больше не обязательно должен быть медленным, дорогим и прожорливым к GPU.
Открытые инструменты сильно прокачались.
Теперь можно дообучать мощные LLM без корпоративного железа.
Вот 4 библиотеки, которые стоит знать, чтобы тюнинг был быстрее и дешевле:
1. Unsloth
Наверняка самый быстрый способ дообучения LLM на сегодня.
✅До 2× быстрее
✅~70% меньше использования VRAM
✅Работает с Gemma, Qwen, LLaMA, Mistral и другими
✅Запускается на потребительских GPU (даже Colab/Kaggle с ~3GB VRAM 🤯)
2. LLaMA Factory
Полный набор для дообучения.
✅Поддержка 100+ моделей
✅CLI + WebUI (подходит новичкам)
✅LoRA, QLoRA, полный и замороженный FT (2–8 бит)
✅Встроенные датасеты, мониторинг тренировки и экспорт моделей
3. DeepSpeed
Если идёте на большие масштабы.
✅ZeRO и FSDP для масштабного обучения
✅Оптимизация под multi-GPU и multi-node
✅Проверен в продакшн-LLM тренировках
Если вы масштабируете серьёзные модели → это ваш выбор.
4. Axolotl
Конфигурационно-ориентированное дообучение, сделанное правильно.
✅Workflow на YAML
✅Поддержка LoRA, QLoRA, DPO, GRPO и мультимодальных моделей
✅Оптимизация памяти на уровне ядра
✅Плавная интеграция с Hugging Face
👉 @PythonPortal
Чувак полностью реализовал архитектуру GPT-OSS-20B с нуля на PyTorch. Все компоненты написаны с нуля:
▪️RoPE с YaRN + NTK-by-parts для масштабирования контекста
▪️RMSNorm
▪️SwiGLU с клэмпингом и residual connections
▪️Mixture-of-Experts (MoE)
▪️Self-Attention, оптимизированный через Grouped Query Attention (GQA)
▪️Learned sinks
▪️Banded (скользящее окно) attention
▪️Поддержка KV-кэширования
Всё это работает на одной A100 SXM (80GB). Он также написал подробную документацию с теорией каждого компонента, а также инструкциями по настройке и инференсу.
Репозиторий: https://github.com/HamzaElshafie/gpt-oss-20B
👉 @PythonPortal
А Нео избавился от влияния вайб кодинга
👉 @PythonPortal
Китайский агент для автоматизации рабочего стола, который работает полностью локально.
Он умеет запускать любые приложения, открывать файлы, серфить по сайтам и автоматизировать задачи без подключения к интернету.
100% Open-Source.
👉 @PythonPortal
Большой Python-грех: использовать изменяемый объект как аргумент по умолчанию
Не используй изменяемые объекты в качестве значений по умолчанию. В Python значения аргументов по умолчанию вычисляются один раз, в момент определения функции, а не при каждом ее вызове.
Если у тебя аргумент по умолчанию выглядит так: items=[], этот список будет общим для всех вызовов, и ты получишь накапливающееся состояние, которого не планировал.
Лучший вариант: ставить неизменяемый объект в значение по умолчанию. Тогда каждый вызов будет получать новый список, как в примере
👉 @PythonPortal
Вот частое заблуждение про RAG
Когда говорят про RAG, обычно думают так: проиндексировали док → потом достали этот же док.
Но индексация ≠ ретривал.
То есть данные, которые ты индексируешь, не обязаны совпадать с теми данными, которые ты потом скармливаешь LLM на этапе генерации.
Вот 4 умных способа индексировать данные:
1) Chunk Indexing
▪️Самый распространенный подход.
▪️Режешь документ на чанки, строишь эмбеддинги и кладешь их в векторную базу.
▪️Во время запроса просто достаешь ближайшие чанки.
Подход простой и рабочий, но большие или шумные чанки могут просаживать точность.
2) Sub-chunk Indexing
▪️Берешь исходные чанки и дробишь их еще мельче на сабчанки.
▪️Индексируешь уже эти более мелкие куски.
▪️Но при выдаче все равно возвращаешь “большой” чанк для контекста.
Помогает, когда в одном абзаце/секции намешано несколько разных идей: шанс точно сматчиться с запросом выше.
3) Query Indexing
▪️Вместо сырого текста генеришь гипотетические вопросы, на которые, по мнению LLM, этот чанк может ответить.
▪️Эмбеддишь эти вопросы и сохраняешь.
▪️При ретривале реальные пользовательские запросы обычно лучше ложатся на такие “вопросные” представления.
▪️Похожая идея есть в HyDE, только там матчат гипотетический ответ с реальными чанками.
Кайфово для QA-систем, потому что уменьшает семантический разрыв между запросом пользователя и тем, что лежит в индексе.
4) Summary Indexing
▪️Просишь LLM кратко резюмировать каждый чанк в компактную семантическую форму.
▪️Индексируешь summary вместо исходного текста.
▪️А возвращаешь все равно полный чанк для контекста.
Особенно эффективно для плотных или структурированных данных (типа CSV/таблиц), где эмбеддинги сырого текста часто слабо что-то выражают
👉 @PythonPortal
pip 26.0: pre-release и фильтрация по времени загрузки
Три большие новые фичи:
▪️ --all-releases <package> и --only-final <package>: контроль pre-release по каждому пакету отдельно, плюс возможность отключить все pre-release пакеты через --only-final :all:
▪️ --uploaded-prior-to <timstamp>: можно ограничить по времени загрузки пакета, например --uploaded-prior-to "2026-01-01T00:00:00Z"
▪️ --requirements-from-script <script>: установка зависимостей, объявленных в inline metadata скрипта (PEP 723)
Куда более подробный пост: читать
Официальный анонс здесь
Полный changelog здесь
👉 @PythonPortal
Знакомьтесь: Microsoft Agent Framework
Новая open-source библиотека на Python для сборки агентов.
Microsoft Agent Framework это набор средств разработки с открытым исходным кодом для разработки AI-агентов и multi-agent воркфлоу на Python.
Он собирает и расширяет идеи из проектов Semantic Kernel и AutoGen, объединяя их сильные стороны и добавляя новые возможности.
Semantic Kernel и AutoGen были первыми, кто нормально оформил концепции AI-агентов и multi-agent оркестрации.
Agent Framework это прямой наследник, сделанный теми же командами. Он сочетает простые абстракции AutoGen для single-agent и multi-agent паттернов с enterprise-фичами Semantic Kernel: управление состоянием на потоках, type safety, фильтры, телеметрию, плюс широкую поддержку моделей и эмбеддингов.
👉 @PythonPortal
Тот самый разработчик на удалёнке в час дня, когда ему говорят, что пора бы работать уже
👉 @PythonPortal
Для тех, кто регулярно работает с PDF, где данные как будто намеренно спрятали (таблицы едут, колонки пляшут, сканы, кривой лэйаут) - вот хелпер: PDF-Extract-Kit 1.0.
Это специализированная модель для извлечения структурированных данных из документов
👉 @PythonPortal
10 AI-проектов, которые помогут устроиться на работу в 2026 году:
1. RAG-приложение с реальными оценками качества
Собери production-RAG с eval’ами, мониторингом и фидбэк-лупами.
Стек: OpenAI или Claude + векторная БД + eval’ы
Гайд: https://pinecone.io/learn/retrieval-augmented-generation/
2. Автономный агент для ресёрча
Агент, который планирует, ищет, приводит источники и генерирует отчёты.
Стек: LangGraph + инструменты + цитирование
Пример: https://github.com/langchain-ai/langgraph
3. AI-копилот для службы поддержки
Ассистент с human-in-the-loop, гардрейлами и аналитикой.
Стек: OpenAI + Zendesk или Intercom + модерация
Документация: https://platform.openai.com/docs/guides/assistants
4. Голосовой AI-агент (звонки и бронирование)
Принимает реальные звонки, записывает клиентов и делает фоллоу-апы.
Стек: Twilio + Whisper + LLM
Старт: https://twilio.com/docs/voice
5. AgentOps-дашборд
Отслеживание надёжности агентов, стоимости, сбоев и регрессий.
Стек: OpenTelemetry + eval’ы
Inspo: https://github.com/open-telemetry/opentelemetry-python
6. AI-пайплайн для извлечения данных
Массовое извлечение структурированных данных из PDF, писем и изображений.
Стек: vision-модели + валидация схем
Пример: https://github.com/Unstructured-IO/unstructured
7. AI для код-ревью в GitHub
Автоматические саммари PR, флаги рисков и рекомендации.
Стек: GitHub Actions + LLM
Документация: https://docs.github.com/en/actions
8. Мультиагентный планировщик workflow
Агенты-планировщики и исполнители с детерминированными фолбэками.
Стек: LangGraph или CrewAI
CrewAI: https://github.com/joaomdmoura/crewAI
9. AI-поисковик с актуальными данными
Поиск по вебу, форумам и соцсетям с источниками.
Стек: search API + reranker’ы
Референс: https://meilisearch.com/docs
10. Enterprise-инструмент для защиты промптов
Обнаружение prompt injection, утечек данных и небезопасных ответов.
Стек: policy-чеки + red teaming
Гайд: https://github.com/openai/openai-cookbook/tree/main/examples/Safety
9 ключевых концепций искусственного интеллекта, объясненных за 7 минут
- Tokenization
- Text Decoding
- Prompt Engineering
- Multi Step AI Agents
- RAGs
- RLHF
- VAE
- Diffusion Models
- LoRA
👉 @PythonPortal
Стратегии обучения на нескольких GPU, объяснённые наглядно:
👉 @PythonPortal
Google выпустил новый инструмент: PaperBanana
Умеет создавать академические иллюстрации, готовые к публикации, просто на основе текста с описанием методологии.
Без Figma. Без ручного дизайна. Без навыков рисования.
Как это работает:
Команда AI-агентов трудится за кулисами:
→ Один ищет подходящие примеры диаграмм
→ Один планирует структуру
→ Один оформляет стиль и компоновку
→ Один генерирует изображение
→ Один оценивает результат и улучшает его
Самое интересное: случайные примеры ссылок работают почти так же хорошо, как идеально подобранные. Главное — показать модели, как выглядят хорошие диаграммы, а не искать идеальный тематический пример.
В слепых тестах люди предпочли результаты PaperBanana в 75% случаев.
Это та самая рекурсия, которую мы ждали: AI-системы, способные полностью визуально документировать сами себя.
Открыта запись в лист ожидания
👉 @PythonPortal
Онлайн-обучение Python и SQL с экспертами из НИУ ВШЭ
В Центре непрерывного образования факультета компьютерных наук НИУ ВШЭ открыт набор на программы повышения квалификации онлайн-формата, обучение на которых позволит вам с нуля освоить ключевые инструменты аналитиков данных — Python и SQL.
1️⃣Python для автоматизации и анализа данных
Вы научитесь работать с основными конструкциями и структурами данных в Python. Изучите Numpy и Pandas — фундаментальные библиотеки для науки о данных. Познакомитесь со всеми шагами проведения разведочного анализа данных. Освоите создание Telegram-ботов и поймете, как грамотно собирать данные. Научитесь строить визуализации для презентации данных.
📁Старт — 3 февраля. Присоединиться можно до 10 февраля. Подать заявку 📍
2️⃣SQL для начинающих
Вы освоите базовые принципы работы с реляционными базами данных и научитесь грамотно фильтровать и сортировать данные, используя ключевые операторы и выражения. Разберете агрегирующие функции, методы работы с датами и строками и поймете, как устроены связи между таблицами. Научитесь использовать подзапросы и временные таблицы, изучите оконные функции.
📁Старт — 16 февраля. Присоединиться можно до 24 февраля. Подать заявку 📍
Реклама. НИУ "ВШЭ". ИНН 7714030726. erid: 2SDnjcx8Peg
Алгоритм Луна (Luhn) для верификации номера кредитных карт
👉 @PythonPortal
5 AI-проектов, которые помогут устроиться на работу в 2026:
1. RAG с нуля
GitHub: ссылка
2. AI-агент для соцсетей
GitHub: ссылка
3. Анализ медицинских изображений
GitHub: ссылка
4. Агенты с tool-calling через MCP
Ноутбук: ссылка
5. AI-ассистент с памятью
GitHub: ссылка
👉 @PythonPortal
Вот полный путь, который я бы рекомендовал, чтобы в этом году собрать production-grade AI-агентов:
▪️база по Python и алгоритмам
▪️математика и основы ML
▪️трансформеры и LLM
▪️prompt engineering
▪️memory и RAG
▪️tools и интеграции
▪️фреймворки типа LangChain или CrewAI
▪️multi-agent системы
▪️тестирование, деплой, безопасность
👉 @PythonPortal
λ-2D от Lingdong Huang: визуальный, нарисованный руками язык программирования.
👉 @PythonPortal
Изучи Python с Университетом University of Helsinki
✓ С официальным сертификатом
✓ С нуля до продвинутого уровня
✓ 14 частей с практическими заданиями
Весь контент доступен → здесь
👉 @PythonPortal