pythonportal | Unsorted

Telegram-канал pythonportal - Python Portal

50319

Всё самое интересное из мира Python Сотрудничество, реклама: @devmangx Работаем с @Spiral_Yuri РКН: https://clck.ru/3GMMF6

Subscribe to a channel

Python Portal

Небольшой факт про Python.

Оператор := называют «моржом» из-за того, что символы напоминают глаза и бивни моржа.

Он появился в Python 3.8 и позволяет одновременно присвоить значение переменной и использовать его прямо внутри выражения.

Например:

while (line := input("Say something: ")) != "quit":
print(f"You said: {line}")


Без него пришлось бы отдельно получать значение через input(), а затем уже проверять его.

Пользовались когда-нибудь := в своём коде?

👉 @PythonPortal

Читать полностью…

Python Portal

Правильный способ обучения такой:

Нужно просто решать задачи и делать проекты.

Именно такой подход сделали для одной из лучших книг по основам статистики — кстати, одной из немногих, которые я действительно прочитал.

Всё очень просто:

Читаешь главу.
Решaешь все задачи по этой теме.

https://www.statlearning.com/

👉 @PythonPortal

Читать полностью…

Python Portal

Изучайте Linux-сети на практике

Новый практический челлендж — потренируйтесь разбираться в сетевой конфигурации Linux-хостов: находить имена интерфейсов, IP- и MAC-адреса, шлюз по умолчанию, а также определять, какие маршруты сервер использует для доступа к разным адресам.

https://labs.iximiuz.com/challenges/linux-inspect-network-interfaces-and-routes

👉 @PythonPortal

Читать полностью…

Python Portal

11 принципов разработки ПО, которые я хотел бы понять раньше

1. SOLID — качественное объектно-ориентированное проектирование
2. DRY — не повторяйся
3. KISS — делай проще
4. YAGNI — не создавай то, что пока не нужно
5. SRP — одна ответственность
6. Open/Closed — расширяй, не ломая существующее
7. Dependency Inversion — меньше жёстких связей
8. Composition — собирай систему из гибких компонентов
9. Separation of Concerns — разделяй зоны ответственности
10. Fail Fast — выявляй проблемы как можно раньше
11. Measure First — оптимизируй только то, что действительно имеет значение

👉 @PythonPortal

Читать полностью…

Python Portal

Большинство слышит «дообучение» и сразу думает, что мы обновляем миллиарды весов большой языковой модели.

Но часто это не так.

Современные методы дообучения позволяют адаптировать модель, почти не трогая её исходные предобученные веса.

Если вы переходите из Data Science в AI Engineering, стоит знать эти 5 подходов.

1. LoRA — учим обновление, а не сами веса

Замораживаем W.

Обучаем две небольшие матрицы:

ΔW = BA

То есть:

W' = W + BA

Фактически мы учим небольшую поправку к модели.

2. LoRA-FA — замораживаем ещё больше

Замораживаем W и A.

Обучаем только B.

Идея та же, но обучаемых параметров ещё меньше.

3. VeRA — не обучаем даже сами матрицы

Фиксируем случайные A и B.

Обучаем только небольшие векторы масштабирования, которые управляют вкладом этих матриц.

Очень высокая параметрическая эффективность.

4. Delta-LoRA — позволяем базовой модели тоже меняться

В отличие от обычной LoRA, здесь W тоже может обновляться, но эти изменения направляются низкоранговой адаптацией.

5. LoRA+ — та же LoRA, но с другой оптимизацией

A и B обучаются с разными скоростями обучения.

Обычно:

ηB > ηA

Главная идея здесь в том, что дообучение не обязательно означает переобучение всей модели.

LoRA → 2 матрицы
LoRA-FA → 1 матрица
VeRA → векторы масштабирования
LoRA+ → 2 матрицы с разными скоростями обучения
Delta-LoRA → низкоранговые обновления + изменяющиеся базовые веса

Пять подходов к одному и тому же вопросу:

какой минимум нам на самом деле нужно обучать?

Именно это и есть параметрически эффективное дообучение — концепция, которую стоит понимать специалистам по Data Science при переходе в AI Engineering.

👉 @PythonPortal

Читать полностью…

Python Portal

Представьте, что роботы смогут делать ещё через 10 лет...

👉 @PythonPortal

Читать полностью…

Python Portal

Если полностью разберётесь в этой статье, то будете понимать инференс лучше 90% людей.

И это, кстати, всего лишь первый материал в репозитории AI Performance Engineering.

Страшно представить, сколько знаний в остальных.

https://github.com/wafer-ai/gpu-perf-engineering-resources

👉 @PythonPortal

Читать полностью…

Python Portal

Python-библиотека для получения цен и расписания рейсов из Google Flights.

https://github.com/AWeirdDev/flights

👉 @PythonPortal

Читать полностью…

Python Portal

Сохрани этот ресурс, если работаешь с SQL.

Это playground без установки, где можно:

- создавать таблицы, выполнять запросы и делиться результатами;
- работать с MySQL, PostgreSQL и SQL Server.

Бесплатно и без установки:
→ http://runsql.com/r

👉 @PythonPortal

Читать полностью…

Python Portal

В Python обычный zip() может незаметно «съесть» часть данных, если списки разной длины. 🐍

Например:

x = [1, 2, 3, 4, 5]
y = ['a', 'b', 'c']

list(zip(x, y))
# [(1, 'a'), (2, 'b'), (3, 'c')]


zip()
останавливается, как только заканчивается самый короткий список — поэтому 4 и 5 просто не попадут в результат.

Если нужно сохранить все элементы, есть itertools.zip_longest():
import itertools

list(itertools.zip_longest(x, y))
# [(1, 'a'), (2, 'b'), (3, 'c'), (4, None), (5, None)]


Недостающие значения он по умолчанию заполняет None.

Небольшая штука, но полезно помнить, когда объединяете данные из источников разной длины.

👉 @PythonPortal

Читать полностью…

Python Portal

Упростить логирование в Python можно с помощью Loguru 🪵

Стандартный модуль logging умеет почти всё, но даже базовая настройка часто требует handlers, format strings и дополнительного конфигурационного кода.

Loguru делает логирование по ощущениям почти таким же простым, как print(), при этом поддерживает:
timestamps;
уровни логов;
запись в файлы;
rotation;
retention;
подробный вывод исключений.

В статье сравниваются оба подхода и показывается, как Loguru позволяет сделать типичные задачи логирования короче и читабельнее.

Полная статья: https://bit.ly/4aEOjJo

#Python #Debugging

👉 @PythonPortal

Читать полностью…

Python Portal

8-летний Лакш собрал на микроконтроллере за $8 полностью автономного ИИ-рассказчика.

Он работает без Wi-Fi, облака и API.

В основе — ESP32-S3, микрофон INMP441, I2S-динамик и усилитель MAX98357A. Устройство умеет генерировать истории, создавать анимации, озвучивать текст и понимать голосовые команды вроде play, pause, resume и next story.

Проект построен на форке open-source TinyStories LLM для ESP32. В исходной версии была генерация текста, а Лакш добавил голосовое управление, интерактивность, анимации и контролы.

GitHub: https://github.com/slvDev/esp32-ai

Пока слабое место — английский TTS на ESP32 звучит не очень хорошо. Именно его теперь планируют улучшать.

👉 @PythonPortal

Читать полностью…

Python Portal

Ещё не все языки программирования выучил, ещё один — и тогда пойдёшь искать работу?
А там: пройдите стажировку за печеньки 3 месяца, и только потом статус джуна с оплатой до 100 000 ₽. Сомнительный план.

Сережа так и делал.
Самоучка, 4 месяца откликов, ноль ответов. Каждое утро — открыть сайт, отправить 10 резюме, закрыть ноутбук и ждать письмо "вы нам не подходите".

Проблема была не в знаниях, а в устаревшем стеке и понимании как дойди до живого HR.
После проработки по системе:
оффер AQA-инженера на 265 000 ₽ через 149 дней, без коммерческого опыта.

Зачем терять полгода на статусе джуна и терять в деньгах, когда можно потратить то же время на мидла — конкуренция меньше, оплата больше.
Но чтобы вписаться сразу на мидла, нужна опробованная система.
Подробно о ней — по ссылке.
Гайд как пройти испытательный срок внутри.
Еще реферальные ссылки сразу на живых hr компании

доступ сразу. без регистрации → /channel/find_it_mentor_bot?start=utm_tg_ad_l1

ссылка сгорит через 24 часа

Читать полностью…

Python Portal

Через VS Code теперь можно расшарить localhost без сторонних инструментов. 🤯

Во встроенной вкладке Ports можно открыть локальный сервер для доступа из интернета.

Как это сделать:

1. Открыть вкладку Ports в панели терминала
2. Нажать Forward a Port
3. Указать локальный порт — например, 5173, 3000 или 3001
4. VS Code сгенерирует ссылку
5. Для публичного доступа нужно нажать по ней правой кнопкой и выбрать Make Public
6. После этого ссылку можно отправить другому человеку

Удобно для демо, тестирования на других устройствах и быстрого показа проекта клиентам или команде.

👉 @PythonPortal

Читать полностью…

Python Portal

Лаборатория Университета Цинхуа выложила на GitHub проект, который заменяет стойку с H100 стоимостью $400 000 одной видеокартой с 24 ГБ памяти.

Он называется ktransformers, а идея почти до смешного проста: эксперты, которые реально используются, остаются на GPU, а остальные находятся на CPU до тех пор, пока не понадобятся.

/ DeepSeek-V3 и R1 с контекстом 139K на 24 ГБ VRAM
/ ускорение до 28 раз по сравнению со стандартной конфигурацией
/ дообучение DeepSeek-V3 на четырёх RTX 4090 вместо дата-центра
/ проект создан лабораторией MADSys Университета Цинхуа, а не стартапом с лендингом

Лицензия Apache 2.0, а на GitHub уже больше 17 000 звёзд.

→ http://github.com/kvcache-ai/ktransformers

👉 @PythonPortal

Читать полностью…

Python Portal

Не нарушайте принцип единственной ответственности

Функция должна делать одну вещь, делать её хорошо и только её.

Эта функция делает слишком много:

def calculate_final_total(
price: float,
quantity: int,
discount_rate: float,
tax_rate: float
) -> float:
# Расчёт промежуточной суммы
subtotal = price * quantity

# Применение скидки
discounted_amount = subtotal * (1 - discount_rate)

# Расчёт налога
final_total = discounted_amount * (1 + tax_rate)

return final_total


Проблема здесь в том, что расчёт промежуточной суммы, скидки и налога объединён в одну функцию. Любое изменение одного из этапов может повлиять на весь расчёт.

Лучше разбить логику на небольшие специализированные функции:

def calculate_subtotal(price: float, quantity: int) -> float:
return price * quantity

def apply_discount(subtotal: float, discount: float) -> float:
return subtotal * (1 - discount)

def calculate_tax(amount: float, tax_rate: float) -> float:
return amount * (1 + tax_rate)


Так намного лучше.

Небольшие функции с одной задачей проще покрывать модульными тестами, потому что у них меньше зависимостей и требуется меньше моков.

Кроме того, изолированные компоненты проще переиспользовать в разных частях приложения или конвейера, не подтягивая лишние зависимости.

Поэтому держите функции простыми и сфокусированными.

Одна функция — одна ответственность.

👉 @PythonPortal

Читать полностью…

Python Portal

Пока все заставляли мушку работать, чуваки решили дать ей отдохнуть.

Вот что из этого получилось.

👉 @PythonPortal

Читать полностью…

Python Portal

Вот как сегодня выглядит «фабрика программного обеспечения» OpenAI, где значительная часть работы уже строится вокруг агентов.

👉 @PythonPortal

Читать полностью…

Python Portal

OpenResearch в пятницу занял первое место среди самых популярных репозиториев на GitHub.

С OpenResearch можно превратить любого агента для вайбкодинга в ресёрч агента, который изучает литературу, формулирует гипотезы, проводит эксперименты и создаёт исследовательские материалы.

Теперь OpenResearch доступен и на Windows.

https://github.com/alphaXiv/OpenResearch

👉 @PythonPortal

Читать полностью…

Python Portal

Как большая языковая модель работает на аппаратном уровне?

Если вы привыкли к программированию вокруг CPU, большая языковая модель может казаться чем-то почти магическим. Всё потому, что в ней сочетаются глубокая нейронная сеть, архитектура Transformer и GPU — процессор с огромным параллелизмом, на котором она работает. Кроме того, хотя большую языковую модель можно описать несколькими сотнями строк Python, под ними скрываются крупные и сложные слои программного обеспечения, которые одному человеку трудно понять целиком.

Автор проекта решил разобраться в этом вопросе и с нуля реализовал Qwen3-0.6B — от Transformer до симулятора набора инструкций — с помощью Claude Code в качестве проекта на выходные.

Он реализовал саму модель, набор инструкций GPU, компилятор и симулятор GPU, чтобы каждый слой системы был достаточно небольшим и его можно было понять целиком.

Сейчас он также работает над RTL-описанием GPU, чтобы запустить систему на FPGA, а в будущем, возможно, даже изготовить настоящий чип — просто ради интереса.

Что интересно, пользоваться проектом можно примерно как Claude или Codex, но он работает на CPU, поэтому его можно полностью отлаживать и трассировать.

Если вам было трудно связать между собой большие языковые модели и GPU, на которых они работают, репозиторий здесь:

https://github.com/penberg/titania

👉 @PythonPortal

Читать полностью…

Python Portal

Разработчик, который до этого ни разу не проектировал печатные платы, взял Claude Fable 5 и на пару часов оставил его самостоятельно работать в KiCad. 🔍

Затем он заказал пять плат за €130, даже не проверив проект самостоятельно. И они заработали.

В основе платы — микроконтроллер RP2350, небольшой дисплей на электронных чернилах, четыре кнопки и несколько дополнительных выводов. Он подключил первую плату к ноутбуку, и тот сразу её распознал.

Проблемы нашлись только с двумя компонентами: SPI-флеш-памятью и транзистором в схеме управления дисплеем. Причём обнаружилось это уже при отправке файлов производителю. После нескольких раундов правок всё исправили.

Раньше он уже пытался сделать тот же проект с помощью более старых моделей, но тогда компоненты оказывались неправильно ориентированы, а нормальной разводки платы практически не было.

Он пишет, что результатом доволен, хотя особого чувства, что он сам чего-то добился, у него нет. И при этом он всё равно хочет нормально научиться проектировать печатные платы самостоятельно.

👉 @PythonPortal

Читать полностью…

Python Portal

Hugging Face завершила серию Training Agents — шесть практических воркшопов про оценку и обучение ИИ-агентов.

За полгода команда разобрала весь путь: от бенчмарков и SFT на трассах агентов до дистилляции, GRPO и обучения внутри реальных сред.

В финальной части они собрали среду на OpenEnv, подключили её к TRL и обучили реального агента для программирования OpenCode через Harbor в песочницах Hugging Face.

Все шесть записей уже доступны бесплатно, весь код открыт. Серия набрала более 300 тысяч просмотров.

Плейлист:
https://youtube.com/playlist?list=PLo2EIpI_JMQvQZm-kVlz4wY1vWF0LBcf5

👉 @PythonPortal

Читать полностью…

Python Portal

Лучшие инженеры не изучают распределённые системы по поверхностным пересказам. Они сразу обращаются к фундаментальным научным статьям. Чтение таких работ помогает понять, почему системы спроектированы именно так, а не просто научиться ими пользоваться.

Вот пять классических статей всех времён, которые должен прочитать каждый разработчик.

1. The Google File System (2003)

Почему стоит прочитать: статья изменила подход всей индустрии, предложив считать отказ компонентов нормой, а не исключением. В ней описано, как построить масштабную отказоустойчивую распределённую систему хранения данных на базе недорогого массового оборудования, оптимизировав её под интенсивную последовательную дозапись вместо произвольной записи.

Ссылка: https://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf

2. Dynamo: Amazon’s Highly Available Key-Value Store (2007)

Почему стоит прочитать: исчерпывающий разбор того, как пожертвовать согласованностью ради высокой доступности — AP в теореме CAP. В статье изложены ключевые паттерны, лежащие в основе масштабируемых NoSQL-хранилищ: консистентное хеширование, векторные часы, gossip-протоколы и настраиваемый кворум для операций чтения и записи.

Ссылка: https://allthingsdistributed.com/files/amazon-dynamo-sosp2007.pdf

3. In Search of an Understandable Consensus Algorithm (Raft) (2014)

Почему стоит прочитать: Paxos печально известен тем, насколько сложно его понять и корректно реализовать, тогда как Raft делает концепцию реплицируемых конечных автоматов более доступной. Алгоритм разбивает задачу консенсуса на отдельные подзадачи, которые легко анализировать: выбор лидера, репликацию журнала и обеспечение безопасности.

Ссылка: https://raft.github.io/raft.pdf

4. Spanner: Google’s Globally-Distributed Database (2012)

Почему стоит прочитать: статья показывает, как добиться строгой сериализуемости и внешней согласованности между дата-центрами по всему миру. Секрет — API Google TrueTime, ограничивающий неопределённость времени с помощью синхронизированных GPS-приёмников и атомных часов.

Ссылка: https://static.googleusercontent.com/media/research.google.com/en//archive/spanner-osdi2012.pdf

5. Time, Clocks, and the Ordering of Events in a Distributed System

Почему стоит прочитать: на физическое время нельзя полагаться при работе с независимыми узлами. Лэмпорт вводит логические часы и фундаментальное отношение «произошло до» (happened-before), лежащее в основе упорядочивания событий в современных распределённых сетях.

Ссылка: https://amturing.acm.org/p558-lamport.pdf

👉 @PythonPortal

Читать полностью…

Python Portal

Wan2GP — бесплатная опенсорсная альтернатива облачным сервисам для генерации AI-видео вроде Higgsfield.

Всё запускается локально и, по заявлению разработчиков, работает даже с 6 ГБ VRAM, старыми RTX 10-й серии и ноутбуками с 8 ГБ памяти.

Внутри:

— генерация видео из текста и изображений
— Wan 2.2, LTX-2, Hunyuan Video и Flux
— браузерный интерфейс с очередью генераций
— поддержка LoRA
— редактор масок
— улучшение промптов

Пятисекундный ролик на среднем игровом ПК можно сгенерировать за несколько минут.

Без подписки, облака, лимитов и водяных знаков. Всё бесплатно.

https://github.com/deepbeepmeep/Wan2GP

Ну, если считать видеокарту и электричество бесплатными. 🥲

👉 @PythonPortal

Читать полностью…

Python Portal

Facebook настолько не устраивал Git, что в итоге компания создала ему сразу три замены.

Начиналось всё как у многих: один огромный monorepo, в котором лежал код всех команд.

По мере роста кодовой базы Git начал сдавать. Обычный git fetch мог занимать до 30 минут. Инженеры тратили больше времени на ожидание Git, чем на написание кода.

Facebook обратился к мейнтейнерам Git с вопросом, как масштабировать такую систему.
Ответ был простой: разбить репозиторий на несколько поменьше.
Для Facebook это не подходило. Весь смысл был именно в monorepo.

Тогда инженеры обратили внимание на менее популярный Mercurial. Его было проще расширять, а сообщество охотнее принимало изменения. Facebook перенёс туда всю кодовую базу и помог превратить Mercurial в один из лучших вариантов для огромных monorepo.

Но со временем и Mercurial упёрся в ограничения.
Тогда Facebook написал собственную систему контроля версий с нуля — Sapling.

А когда кодовая база выросла настолько, что один инженер уже физически не мог скачать её целиком на ноутбук, появился EdenFS — виртуальная файловая система, которая подгружает файл только в тот момент, когда разработчик реально его открывает.

Три замены. Одна компания. И всё потому, что кодовая база росла быстрее, чем успевали масштабироваться существующие системы контроля версий.

Большинство компаний подстраивают рабочие процессы под доступные инструменты.
Facebook просто создаёт новые инструменты, когда старые перестают справляться.

👉 @PythonPortal

Читать полностью…

Python Portal

Вот мой точный сетап, с которым я экономлю примерно 50% недельных лимитов Claude Code.

Устанавливаю плагин OpenAI Codex внутри Claude Code.

Разделяю работу по тому, в чём каждая модель сильнее:

Fable 5 high — планирование
Codex 5.6 xhigh — реализация и выполнение задач через подписку Codex, без API
Fable 5 max — ревью


Планирование и ревью — это как раз те этапы, где Fable оправдывает свою стоимость: там важнее качество решений и оценка результата.

А выполнение обычно съедает больше всего токенов, поэтому его можно отдать Codex и использовать уже существующую подписку.

Вот и весь сетап. Работает.

👉 @PythonPortal

Читать полностью…

Python Portal

Google AI Studio даёт бесплатный API-доступ к production-ready моделям Gemini без привязки банковской карты и без запуска временного trial-периода.

Что доступно:
→ Бесплатный доступ — можно создавать API-ключи для Gemini 2.5 Flash, Pro и 3.6 Flash без добавления платёжных данных
→ Щедрые лимиты для разработчиков — дневные ограничения (например, около 15 RPM / 1M TPM / 1500 RPD) позволяют полноценно тестировать приложения и запускать небольшие production-сценарии
→ Быстрый старт с Python — достаточно установить google-generativeai и выполнить первые API-вызовы менее чем за две минуты
→ Поддержка универсальных SDK — интеграция с multi-model proxy-роутерами вроде LiteLLM позволяет использовать бесплатные endpoint’ы в разных приложениях

👉 @PythonPortal

Читать полностью…

Python Portal

Подборка ресурсов по MLOps для тех, кто хочет разобраться, как ML-системы доводят до production.

https://github.com/visenger/awesome-mlops

👉 @PythonPortal

Читать полностью…

Python Portal

🚨 Весь стек AI-ассистента переписали на Zig.

Проект называется NullClaw. Размер бинарника — 678 КБ, потребление памяти — около 1 МБ, запуск занимает меньше 2 мс.
Без runtime, VM, фреймворков и garbage collector — только Zig.
Почему это важно:

OpenClaw требует Mac Mini за $599 и больше 1 ГБ RAM
NanoBot — больше 100 МБ RAM и Python
PicoClaw — 10 МБ RAM и Go


NullClaw запускается на плате за $5 с 1 МБ RAM, предлагая ту же функциональность при использовании примерно 0,1% ресурсов.

В эти 678 КБ входят:

22+ AI-провайдера, включая OpenAI, Anthropic, Ollama, DeepSeek и Groq
13 каналов связи: Telegram, Discord, Slack, WhatsApp, iMessage, IRC и другие
18+ встроенных инструментов
гибридный поиск по памяти: vector + keyword
многоуровневая sandbox-изоляция через Landlock, Firejail и Docker
поддержка Arduino, Raspberry Pi и STM32
MCP, subagents, streaming, voice и остальной стек


Каждая подсистема реализована как заменяемый интерфейс: провайдеры, каналы, инструменты и memory backend можно менять через конфиг без правок кода.

API-ключи по умолчанию шифруются с помощью ChaCha20-Poly1305. В проекте 2 738 тестов, около 45 000 строк Zig и нет зависимостей кроме libc.

Полностью бесплатно. Open Source.

👉 @PythonPortal

Читать полностью…

Python Portal

Kimi снова это сделали!

В Kimi K3 они разработали новый подход к работе с residual connections (остаточными связями) в Transformer-архитектурах — механизмом, который практически не менялся со времён ResNet в 2015 году.

В стандартном Transformer каждый слой добавляет свой выход обратно к входу с фиксированным весом 1.
То есть каждый слой получает одинаковую важность независимо от того, что именно нужно конкретному токену.
При глубине в 40, 60, 80+ слоёв скрытое состояние превращается в сумму всех предыдущих представлений с одинаковыми весами.

Более глубоким слоям приходится создавать всё более крупные выходные значения, чтобы хоть как-то влиять на итоговое представление. При масштабировании моделей это делает обучение менее стабильным.

Attention Residuals решают эту проблему, заменяя фиксированное сложение на softmax attention по глубине сети.
Теперь каждый слой сам учится определять, сколько информации брать из каждого предыдущего слоя — в зависимости от входа. Благодаря этому разные токены могут извлекать разные представления из разных слоёв, ориентируясь на то, что действительно полезно.

Идея повторяет то, что оригинальный Transformer сделал с последовательностями.

RNN сжимали всю предыдущую информацию о токенах в одно состояние, которое передавалось по времени. Transformer заменил это механизмом attention. Attention Residuals применяют ту же идею, но уже к глубине модели.

Когда Kimi впервые проверили этот подход на своей модели Kimi Linear 48B в марте, Block AttnRes показал такую же производительность, как базовая модель, обученная с в 1,25 раза большим количеством вычислений, при этом добавив менее 2% задержки на инференсе.

Kimi K3 стала первой моделью, где этот подход применяется в масштабе фронтирной модели: 2,8 трлн параметров, вместе с Kimi Delta Attention, который обеспечивает до 6,3× более быстрое декодирование при работе с контекстом размером в миллион токенов.

👉 @PythonPortal

Читать полностью…
Subscribe to a channel