Telegram-канал apptractor - Mobile Development by AppTractor - iOS и Swift, Android и Kotlin, Flutter и Dart, инструменты, рынок и все остальное: Unsorted

Mobile Development by AppTractor - iOS и Swift, Android и Kotlin, Flutter и Dart, инструменты, рынок и все остальное

17 Oct 2024 09:27

Mistral выпускает новые ИИ-модели, оптимизированные для телефонов

Французский ИИ-стартап Mistral выпустил свои первые генеративные модели ИИ, предназначенные для работы на периферийных устройствах, таких как ноутбуки и телефоны.

• Новое семейство моделей, которое Mistral называет Les Ministraux, можно использовать или настраивать для различных приложений, от базовой генерации текста до работы в связке с более мощными моделями для выполнения задач.
• Доступны две модели Les Ministraux — Ministral 3B и Ministral 8B, обе из которых имеют контекстное окно в 128,000 лексем, что означает, что они могут освоить примерно 50-страничную книгу.
• Ministral 8B доступна для загрузки уже сегодня — правда, исключительно в исследовательских целях. Mistral просит разработчиков и компании, заинтересованные в самостоятельном развертывании Ministral 8B или Ministral 3B, связаться с ней для получения коммерческой лицензии.
• Кроме того, Ministral 3B и Ministral 8B через облачную платформу Mistral La Platforme или другие облака, с которыми стартап заключит партнерские соглашения в ближайшие недели. Стоимость Ministral 8B составляет 10 центов за миллион выходных/входных токенов (~750,000 слов), а Ministral 3B — 4 цента за миллион выходных/входных токенов.

И что: в последнее время наблюдается тенденция к созданию небольших моделей для конечных устройств. Google продолжает развивать свое семейство малых моделей Gemma, а Microsoft предлагает свою коллекцию моделей Phi. В последнем обновлении своего пакета Llama представила несколько небольших моделей, оптимизированных для работы на устройствах.