Искусственный интеллект. Высокие технологии

30 Nov 2024 14:19

⚡️Легкий способ получать свежие обновления и следить за трендами в разработке на вашем языке. Находите свой стек и подписывайтесь:

МАШИННОЕ ОБУЧЕНИЕ: t.me/ai_machinelearning_big_data
C++ t.me/cpluspluc
Python: t.me/pythonl
Linux: t.me/linuxacademiya
Хакинг: t.me/linuxkalii
Devops: t.me/DevOPSitsec
АНАЛИЗ Данных: t.me/data_analysis_ml
Javascript: t.me/javascriptv
C#: t.me/csharp_ci
Java: t.me/javatg
Базы данных: t.me/sqlhub
Python собеседования: t.me/python_job_interview
Мобильная разработка: t.me/mobdevelop
Docker: t.me/DevopsDocker
Golang: t.me/golang_interview
React: t.me/react_tg
Rust: t.me/rust_code
ИИ: t.me/vistehno
PHP: t.me/phpshka
Android: t.me/android_its
Frontend: t.me/front
Big Data: t.me/bigdatai
Собеседования МЛ: t.me/machinelearning_interview
МАТЕМАТИКА: t.me/data_math
Kubernets: t.me/kubernetc
Разработка игр: /channel/gamedev

💼 Папка с вакансиями: t.me/addlist/_zyy_jQ_QUsyM2Vi
Папка Go разработчика: t.me/addlist/MUtJEeJSxeY2YTFi
Папка Python разработчика: t.me/addlist/eEPya-HF6mkxMGIy
Папка ML: /channel/addlist/2Ls-snqEeytkMDgy
Папка FRONTEND: /channel/addlist/mzMMG3RPZhY2M2Iy

😆ИТ-Мемы: t.me/memes_prog
🇬🇧Английский: t.me/english_forprogrammers
🧠ИИ: t.me/vistehno

🎓954ГБ ОПЕНСОРС КУРСОВ: @courses
📕Ит-книги бесплатно: /channel/addlist/BkskQciUW_FhNjEy

Искусственный интеллект. Высокие технологии

29 Nov 2024 13:00

🔥 Vizard.ai — это инструмент на основе искусственного интеллекта, предназначенный для автоматизированного редактирования видео!

🌟 Его основная функция заключается в преобразовании длинных видеозаписей в короткие, оптимизированные для социальных сетей клипы. Этот сервис особенно полезен для контент-маркетологов, создателей видео, подкастеров, преподавателей и других пользователей, желающих сэкономить время на создании engaging контента для TikTok, Instagram Reels, YouTube Shorts и других платформ.

🌟 Vizard автоматически анализирует загруженные видеозаписи, выделяет ключевые моменты, добавляет субтитры, визуальные эффекты и создает короткие ролики, которые можно публиковать прямо из платформы. Также доступен текстовый редактор для ручной настройки клипов. Сервис поддерживает многоканальные аудио (например, для интервью) и позволяет переводить субтитры на несколько языков.

🔗 Ссылка: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

28 Nov 2024 16:45

🔍 Человек и LLM: подходы к оценке языковых моделей.

🌟 Хотя в мире LLM принято использовать академические тесты, они не показывают главного — насколько модель полезна в реальных задачах вроде ведения диалогов и генерации идей. К тому же все стандартные бенчмарки подвержены протечкам данных.

Существует несколько способов решения проблемы, наиболее эффективным является комплексный подход, который применяется во многих IT-компаниях, в том числе в Яндексе. Для этого создают собственные тесты под бизнес-задачи, а также нанимают AI-тренеров, которые оценивают практическую применимость модели. При выкатке новой версии проводят разметку всей командой: от разработчиков и аналитиков самой модели до менеджеров продукта и C-level менеджеров.

🔗 Подробнее можно прочитать здесь: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

27 Nov 2024 15:06

есom.teсh meetup — Generative AI

6 декабря 18:00 в Москве пройдёт митап по прикладному использованию генеративных технологий для специалистов по Data Science!

Обсудим технические аспекты экспериментов с нейронными сетями, посмотрим свежие кейсы внедрения ИИ в бигтехе и не только.

В программе:

👁‍🗨 Виртуальная фотосъемка для продавца на маркетплейсе: возможности Gen AI.
Арнольд Сааков, руководитель отдела разработки сервисов искусственного интеллекта в ecom.tеch.

👁‍🗨 От потоковой обработки к генерации: AI-алгоритмы для автоматизации работы с фотографиями товаров на маркетплейсе.
Александр Савельев, руководитель группы развития технологий компьютерного зрения в ecom.tеch;
Татьяна Гришина, менеджер продукта в ecom.tеch.

👁‍🗨 Секретный доклад.

Митап будет интересен тем, кто уже работает или проходит обучение в области Data Science и интересуется генеративными технологиями!

🧠 Регистрируйтесь и пересылайте знакомым!

Реклама. ООО "УМНОЕ ПРОСТРАНСТВО", ИНН 7811554010, Erid: 2VSb5xFvLSc

Искусственный интеллект. Высокие технологии

25 Nov 2024 15:01

🔥 Nvidia представила Edify 3D!

🌟 Этот метод позволяет генерировать высококачественные 3D-ресурсы из текстовых описаний. Он использует модель диффузии для создания подробных топологий квадратной сетки и текстур высокого разрешения менее чем за 2 минуты!

🔗 Подробнее можно прочитать здесь: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

23 Nov 2024 13:00

🔥 Meshcapade — полезный сервис, который позволяет бесплатно генерировать кастомизируемые на любой вкус и цвет 3D-модели людей или животных, а затем задавать им действия!

🔗 Ссылка: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

22 Nov 2024 14:01

🔍 Теперь вы знаете в чем дело...

@vistehno

Искусственный интеллект. Высокие технологии

21 Nov 2024 07:34

✔️ AlphaQubit от Google: новый уровень точности в квантовых вычислениях.

Google DeepMind и Google Quantum AI разработали AlphaQubit, декодер, который устанавливает новый стандарт точности в коррекции ошибок квантовых вычислений. AlphaQubit, нейронная сеть, обученная на синтетических и реальных данных с процессора Sycamore, использует архитектуру Transformers для анализа информации об ошибках.

Тестирование показало, что AlphaQubit снижает количество ошибок на 6% по сравнению с тензорными сетями и на 30% по сравнению с корреляционным сопоставлением. Несмотря на то, что AlphaQubit демонстрирует высокую точность, остаются проблемы, связанные с достижением скорости работы в реальном времени и масштабируемости.
blog.google

✔️ NVIDIA предложила оптимизацию семейства Llama 3.2 на GPU.

NVIDIA оптимизировала модели Llama 3.2 (11 млрд и 90 млрд параметров) и SLM (1 млрд и 3 млрд параметров) за счет использования библиотеки TensorRT и TensorRT-LLM. Оптимизация с помощью TensorRT обеспечивает более высокую пропускную способность и меньшую задержку инференса. NVIDIA также разработала собственную схему квантования FP8 для повышения производительности, доступную через TensorRT Model Optimizer. SLM оптимизированы для Windows с помощью ONNX Runtime Generative API и DirectML.
Оптимизированный инференс Nvidia TensorRT Llama 3.2 доступен в сервисе NVIDIA NIM.
developer.nvidia.com

✔️ Gemini теперь запоминает предпочтения пользователей.

Google представила новую функцию "памяти" для Gemini, позволяющую ему учитывать предпочтения пользователя в будущих взаимодействиях. Эта функция, доступная подписчикам Google One AI Premium ($20 в месяц), позволяет пользователям сохранять информацию о своих предпочтениях, например, о нелюбимых ингредиентах в рецептах.

Gemini будет использовать эти данные для персонализации ответов и повышения эффективности помощи пользователю. Функция памяти доступна только через веб-браузер. Пользователи могут удалять сохраненные предпочтения или отключать функцию, если предпочитают, чтобы Gemini не учитывал предыдущие взаимодействия.
makeuseof.com

✔️ DeepSeek представила модель, превосходящую OpenAI-o1.

Компания DeepSeek выпустила R1-Lite-Preview — новую большую языковую модель, ориентированную на рассуждения. Модель, доступная только через веб-чат DeepSeek Chat и демонстрирует производительность, близкую, а в некоторых случаях и превосходящую, модель OpenAI o1-preview по результатам тестов AIME (American Invitational Mathematics Examination) и MATH.

R1-Lite-Preview использует метод «цепочки рассуждений», показывая пользователю этапы своего "мыслительного" процесса. Компания планирует в будущем выпустить R1 с открытым исходным кодом.
venturebeat.com

✔️ Suno представляет новую модель V4.

Suno, популярная платформа генеративной музыки, выпустила новую модель V4, которая создает более реалистичную музыку по сравнению с предыдущими версиями. Модель V4 доступна платным подписчикам и в будущем будет доступна всем пользователям. V4 демонстрирует более четкое звучание, реалистичный вокал и инструменты, более широкую стереопанораму. Модель также улучшила свои композиторские навыки, создавая более интересные и неожиданные музыкальные решения.
geeky-gadgets.com

@ai_machinelearning_big_data

#news #ai #ml

Искусственный интеллект. Высокие технологии

20 Nov 2024 17:01

Русскоязычный умелец научился создавать 🔞 моделей через нейросети и зарабатывать на них. Об этом он рассказывает в своем авторском Телеграм-блоге >>

Так же он дает бесплатно инструкцию, как начать.

Переходите 👉 /channel/+Hi0ZcNBR5kJkNDVh

Искусственный интеллект. Высокие технологии

20 Nov 2024 10:02

⚡️ Блогер решил испытать популярные LLM-нейросети в выживании в Minecraft. Задача была проста – продержаться десять дней.

Однако результаты оказались неутешительными для всех участников:

- LLaMA успела построить укрытие на ночь, но… забыла в него зайти.
- ChatGPT уже в первый день подорвался на крипере.
- Gemini, как настоящий представитель Google, внезапно прекратил работу.
- А Claude всё время пытался закрыться блоками.

Вывод очевиден: Minecraft пока ещё не готов к захвату нейросетями.

https://www.youtube.com/watch?v=KxaPYhfJV4U&ab_channel=EmergentGarden

@vistehno

Искусственный интеллект. Высокие технологии

17 Nov 2024 13:00

🔥 Prompt-Engineering-Guide — огромный и крайне полезный ресурс, посвященный инженерии промптов — искусству создания эффективных запросов для взаимодействия с языковыми моделями и улучшения их ответов!

🌟 Здесь информация и практические примеры для работы с крупными языковыми моделями (LLM), такими как GPT и BERT, и указаны методы оптимизации формулировок запросов для достижения более точных и полезных результатов!

🔐 Лицензия: MIT

🖥 Github

@vistehno

Искусственный интеллект. Высокие технологии

15 Nov 2024 08:36

Британский оператор O2 пошел на радикальный шаг в борьбе с мошенниками – он задействовал... ИИ-бабушку 😨

Хотя идея не нова (перед российскими операторами снимаю шляпу), результат все равно забавен: «бабушка» постоянно путается, забывает номер карты, неверно вводит коды из СМС и увлеченно рассказывает о своем красивом коте.

Обычно мошенники выдерживают около 40 минут, после чего начинают нервничать и вешают трубку. В конце видео даже призывают сообщать номера таких злоумышленников, чтобы они разговаривали с «бабушкой», а не с настоящими людьми. Это действительно достойно уважения, да и реклама получилась эффектной.

@vistehno

Искусственный интеллект. Высокие технологии

14 Nov 2024 11:01

🤲 OpenHands: Code Less, Make More

Платформ для ИИ-агентов для разработки программного обеспечения на базе искусственного интеллекта.

Агенты OpenHands могут делать все, что под силу разработчику—человеку: изменять код, запускать команды, просматривать веб-страницы, вызывать API-интерфейсы и даже копировать фрагменты кода из StackOverflow.

▪Инструкция по быстрому запуску
▪Документация

▪ Github

@vistehno

Искусственный интеллект. Высокие технологии

13 Nov 2024 15:10

🔍 Jobscan — это онлайн-сервис, предназначенный для помощи соискателям в оптимизации резюме, чтобы оно успешно прошло через системы автоматического отслеживания кандидатов (ATS), которые используют компании для предварительного отбора резюме!

⭐️ Jobscan анализирует резюме пользователя и сравнивает его с конкретными требованиями вакансии, помогая улучшить ключевые аспекты резюме, такие как ключевые слова, навыки и форматирование.

🔗 Ссылка: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

13 Nov 2024 10:00

🔥 Flashpoint — проект для сохранения и эмуляции старых игр и анимаций, созданных на устаревших технологиях, таких как Adobe Flash, которые стали недоступными после отключения поддержки Flash в 2020 году!

⭐️ Flashpoint позволяет пользователям скачивать и запускать более 100 000 игр и анимаций офлайн на своих устройствах, обеспечивая сохранность этих цифровых артефактов! Проект предлагает две версии: Flashpoint Infinity (гибкая, с загрузкой контента по мере использования) и Flashpoint Ultimate (полная офлайн-версия на 1,6 ТБ).

🔗 Ссылка: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

30 Nov 2024 09:37

✔️ Niantic тренирует большую геопространственную модель ИИ на данных Pokémon Go.

Niantic, разработчик Pokémon Go, объявила о создании модели ИИ, обученной на миллионах реальных изображений, собранных игроками Pokémon Go и приложения Scaniverse. Алгоритм, получивший название "большая геопространственная модель", обеспечит такое же свободное ориентирование в физическом мире, какое демонстрирует ChatGPT в мире языка.

Модель основана на данных "Системы визуального позиционирования" (VPS) Niantic, которая использует более 50 млн. нейросетей с более чем 150 трлн. параметров для определения местоположения телефона с точностью до сантиметра по одному изображению. Niantic планирует использовать новую модель для улучшения дополненной реальности в своих играх и разработки автономных систем и роботов.
singularityhub.com

✔️ AMD разрабатывает процессоры на основе стеклянных подложек.

AMD получила патент на использование стеклянных оснований при производстве процессоров. Стеклянные основания лучше отводят тепло, меньше теряют сигнал и точнее по размерам, чем традиционные материалы. Это делает их пригодными для высокочастотных задач, таких как 5G и искусственный интеллект.

Патент описывает технологию Through Glass Vias (TGV) для создания вертикальных каналов передачи данных и питания внутри стеклянного основания. Также в патенте представлен способ соединения нескольких стеклянных оснований с помощью меди.

AMD планирует использовать патент в процессорах Zen и новых GPU, состоящих из нескольких чиплетов.
techspot.com

✔️ Китай представил чип "Global Scheduling Ethernet".

Китайские компании представили чипы, работающие на базе протокола "Global Scheduling Ethernet" (GSE). Этот протокол предназначен для обработки больших объемов данных и обеспечения высокой скорости передачи, необходимых для искусственного интеллекта и других высокопроизводительных задач.

Разработка GSE началась в 2023 году при участии более 50 организаций, включая облачных провайдеров, производителей чипов и вузов. GSE является альтернативой технологии Ultra Ethernet Consortium (UEC), предназначенной для эффективной коммуникации в кластерах высокопроизводительных вычислений и ИИ.

Существующая технология Ethernet не подходит для больших рабочих нагрузок, связанных с обучением ИИ, из-за чего в ЦОДах, использующих GPU Nvidia, применяются проприетарные и дорогие технологии прямого соединения - NVLink. GSE нацелена решить эту проблему, предлагая эффективное и доступное решение для высокоскоростных вычислений.
tomshardware.com

✔️ Нанофотонные нейронные сети в объективах камер для вычислений.

Ученые из Вашингтонского университета разработали нанофотонную нейронную сеть (SVN3), которая встраивается в объективы камер и выполняет вычисления во время съемки, до записи на сенсор. SVN3 использует массив из 50 металлических элементов, оптимизированных для работы с некогерентным светом, которые выполняют параллельные многоканальные свертки со скоростью света без потребления энергии.

Для обучения сети используется метод низкоразмерной репараметризации. SVN3 достигает точности классификации изображений 72,76% на наборе данных CIFAR-10 и 48,64% на ImageNet, что сопоставимо с производительностью современных нейронных сетей.
SVN3 потребляет значительно меньше энергии, так как более 99% вычислений выполняется оптическим путем.
science.org

✔️ Более половины лонгридов в LinkedIn созданы ИИ.

Исследование Originality.ai показало, что 54% длинных постов в LinkedIn созданы искусственным интеллектом. В исследовании анализировались 8 795 длинных постов (не менее 100 слов), опубликованных с января 2018 года по октябрь 2024 года.

Запуск ChatGPT в 2022 году вызвал резкий рост количества контента, созданного ИИ, увеличившись на 189% с января по февраль 2023 года. После всплеска в феврале 2023 года наблюдается стабилизация, что может указывать на новую норму для контента в LinkedIn.
readwrite.com

@ai_machinelearning_big_data

#news #ai #ml

Искусственный интеллект. Высокие технологии

28 Nov 2024 18:47

🧠 Одна из лучших визуализаций для нейронных сетей и CNN

@vistehno

Искусственный интеллект. Высокие технологии

27 Nov 2024 17:06

🔥 OminiControl — это модель, основанная на технологии OmniGen, предназначенная для универсальной генерации изображений!

💡 Она может выполнять такие задачи, как генерация изображений по текстовым запросам, редактирование изображений, сохранение идентичности объектов, а также генерация, основанная на нескольких модальностях, таких как текст и изображение.

🌟 Модель отличается гибкостью в управлении процессом генерации и поддерживает тонкую настройку для добавления новых возможностей.

🔗 Ссылка: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

26 Nov 2024 12:01

🔥 Зачем нужен Голливуд, когда у нас теперь есть нейросети?

@vistehno

Искусственный интеллект. Высокие технологии

24 Nov 2024 13:01

🖼 Magic Quill — бесплатный редактор изображений на основе искусственного интеллекта!

🌟 Этот инструмент невероятно полезен и бесплатен в использовании! Он позволяет вам выбирать части изображения и редактировать их с помощью всего лишь текстовой подсказки.

🔗 Ссылка: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

22 Nov 2024 16:29

🌟 Marco-o1: модель рассуждений от Alibaba.

Marco-o1 – LLM, файнтюн-версия Qwen2-7B-Instruct для решения сложных задач, требующих рассуждений. В создании модели использовались методики Chain-of-Thought (CoT), поиска по дереву Монте-Карло (MCTS) и уникальные стратегии регулирования действий при рассуждении.

Marco-o1 обучалась на 3 датасетах: отфильтрованный набор данных Open-O1 CoT, синтетический набор Marco-o1 CoT и собственный набор инструкций Marco.

В модели реализованы 2 стратегии действий: "шаг как действие" и "мини-шаг как действие" (32 или 64 токена соответственно). Мини-шаг как действие обеспечивает более детальное исследование пространства решений.

В Marco-o1 был внедрен механизм рефлексии, который побуждает модель переосмысливать свои рассуждения, что улучшает результаты инференса, особенно в сложных составных задачах.

Модель оценивалась на наборах данных MGSM (английский и китайский). Результаты показали, что Marco-o1 превосходит Qwen2-7B-Instruct и демонстрирует улучшение точности на 6,17% для английского набора данных и 5,60% для китайского. Модель превзошла Google Translate в задачах языкового перевода, особенно при переводе разговорных выражений.

В ближайших планах:

🟠Обучаются версии модели вознаграждения за результат (ORM) и вознаграждения за процесс (PRM).
🟠Reinforcement Learning: обучение с подкреплением для совершенствования рассуждений.

▶️Установка и локальный инференс:

# Clone the repository
git clone https://github.com/AIDC-AI/Marco-o1

# Change to the Macaw-LLM directory
cd Marco-o1

# Install required packages
pip install -r requirements.txt

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("AIDC-AI/Marco-o1")
model = AutoModelForCausalLM.from_pretrained("AIDC-AI/Marco-o1")

# Run Inference
./src/talk_with_model.py

Искусственный интеллект. Высокие технологии

21 Nov 2024 10:16

🔥 Крайне полезный сайт, на котором собраны и отфильтрованы бесплатные альтернативы всевозможному ПО!

🔗 Ссылка: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

20 Nov 2024 18:01

🖼 Magic Quill — бесплатный редактор изображений на основе искусственного интеллекта!

🌟 Этот инструмент невероятно полезен и бесплатен в использовании! Он позволяет вам выбирать части изображения и редактировать их с помощью всего лишь текстовой подсказки.

🔗 Ссылка: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

20 Nov 2024 13:01

🖥 OpenGlass — проект с открытым исходным кодом, который позволяет превратить любые очки в умные с поддержкой AI с минимальными затратами (около $25)! Устройство собирается из доступных компонентов, таких как микроконтроллер Seeed Studio XIAO ESP32 S3 Sense, небольшая батарея и 3D-печатный корпус.

🌟 Основные возможности OpenGlass включают запись видео, распознавание объектов, запоминание лиц, перевод текста и другие функции. Для работы требуется загрузить и настроить прошивку через Arduino IDE. Кроме того, проект предоставляет подробные инструкции по сборке и настройке оборудования и программного обеспечения, а также поддерживает интеграцию с ESP32-платформой.

🔐 Лицензия: MIT

🖥 Github

@vistehno

Искусственный интеллект. Высокие технологии

19 Nov 2024 09:01

🔍 Наглядное сравнение производительности нескольких языков программирования при выполнении 1 млрд итераций в цикле!

@vistehno

Искусственный интеллект. Высокие технологии

16 Nov 2024 12:01

🔥 Интересный сайт, на котором предоставлена подробная визуальная реализация работы таких LLM, как GPT-2 (small и XL), GPT-3 и nano-gpt!

🔗 Ссылка: *клик*

@vistehno

Искусственный интеллект. Высокие технологии

14 Nov 2024 21:45

🎮 "Добро пожаловать в City 17!"

В честь 20-летия Half-Life 2, NVIDIA разыгрывают крутые кастомные GeForce RTX 4080 SUPER, которая вдохновлена культовым Гордоном Фримеменом.

🔗 Новость: https://www.nvidia.com/en-us/geforce/news/half-life-2-20th-anniversary-rtx-wishlist/?linkId=100000308511356
🔗 Условия конкурса тут: https://www.nvidia.com/en-us/geforce/contests/halflife2-anniversary-official-rules/

@data_analysis_ml

Искусственный интеллект. Высокие технологии

14 Nov 2024 09:00

🚀 Опрос для ML-специалистов!

Мы в Data Light проводим исследование о поиске и использовании датасетов для машинного обучения. Ваш опыт поможет улучшить процессы и сделать поиск данных проще и эффективнее.

Пройдите опрос здесь:
👉 https://forms.gle/sk6BDUaaWVcD93mz7

В конце формы можно оставить контакт для оплачиваемого интервью.

Если у вас возникли вопросы, пишите @spoleshka.

Спасибо за ваш вклад! 🙏

Искусственный интеллект. Высокие технологии

13 Nov 2024 11:04

✔️ Amazon разрабатывает собственные чипы для ИИ, чтобы снизить зависимость от NVIDIA.

Как сообщает Financial Times, Amazon уже разработала ряд собственных процессоров для ЦОД. Ожидается, что Amazon прольет больше света на свои новые разработки в следующем месяце в рамках анонса линейки чипов Trainium.

Эти чипы были разработаны компанией Annapurna Labs, принадлежащей Amazon, и используются компанией Anthropic.
wccftech.com

✔️ ИИ учит роботов паркуру в виртуальной реальности.

В MIT разработали систему LucidSim, которая использует генеративный ИИ для создания симуляций, обучающих роботов сложным задачам, таким как паркур.

LucidSim использует ChatGPT для создания описаний различных сред, которые затем преобразуются в трехмерную геометрию и физические данные с помощью модели, отображающей эти данные на изображения, сгенерированные ИИ. Робот, обученный с помощью LucidSim, успешно выполнил задачи поиска объекта, преодоление препятствий и подъем по лестнице, с более высокой точностью, чем робот, обученный с помощью традиционных методов.

Исследователи считают, что LucidSim может быть использован для обучения ИИ-агентов, взаимодействующих с реальным миром, от роботов и беспилотных автомобилей до управления экранами компьютеров и смартфонов.
technologyreview.com

✔️ Релиз Sentence Transformers v3.3.0 с улучшенной производительностью для задач NLP.

Sentence Transformers стал более доступным для развертывания в средах с ограниченными ресурсами. Новая версия предоставляет возможность интеграции статического квантования int8 в OpenVINO для 4-х кратного ускорения инференса на CPU со средним снижением производительности всего на 0,36%.

Также представлены: метод обучения с использованием подсказок, который улучшает производительность задач поиска, интеграция техники PEFT и возможность оценки с помощью NanoBEIR.
github.com

✔️ Cast AI представила AI Enabler и функцию динамической миграции без простоев для Kubernetes.

Cast AI, стартап, специализирующийся на управлении операциями Kubernetes анонсировал две новые функции для оптимизации расходов на облачную инфраструктуру и упрощение рабочих нагрузок.

AI Enabler - инструмент, который использует возможности Kubernetes для интеллектуальной маршрутизации запросов к наиболее эффективным LLM, как к открытым моделям, так и к коммерческим, без ущерба для качества.

Вторая новинка — Commercially Supported Container Live Migration, функция, обеспечивающая миграцию без простоев для работающих в состоянии workloads Kubernetes.
Live Migration должно решить проблемы, связанные с перемещением критически важных приложений: базы данных, задачи ИИ и машинного обучения без остановки кластеров.
siliconangle.com

✔️ Fastino анонсировала высокопроизводительные модели, оптимизированные для CPU.

Стартап Fastino вышел из скрытого режима и объявил о привлечении 7 млн. долларов pre-seed финансирования от фондов Microsoft M12 и Insight Partners.

Fastino разрабатывает семейство LLM для устройств с ограниченными ресурсами, которые могут быть развернуты на различных платформах, от периферийных устройств с обычными процессорами до виртуального частного облака.

Компания заявляет, что ее модели работают до 1000 раз быстрее, чем традиционные LLM, и могут запускаться на CPU или NPU.
С сегодняшнего дня открыта запись в waitlist для получения доступа к pre-alpha тестированию моделей.
fastino.ai

@ai_machinelearning_big_data

#news #ai #ml

Искусственный интеллект. Высокие технологии

11 Nov 2024 19:56

🖥 DapperGPT — это интерфейс для взаимодействия с ChatGPT, расширяющий его возможности!

⭐️ Он поддерживает кастомизацию, хранение избранных сообщений, голосовой ввод и текстовую генерацию изображений. Также он предлагает заметки с ИИ и интеграцию с браузером для автозаполнения на популярных сайтах!

🔗 Ссылка: *клик*

@vistehno