3066
@Futuris - канал о технологиях, будущем и не только. Contact @antonod
Издание The Information сообщает, что Apple ежедневно тратит миллионы долларов на разработку искусственного интеллекта. Компания активно работает над несколькими проектами в этой области, включая разговорные и мультимодальные ИИ-модели.
Основная команда, занимающаяся разговорным ИИ, состоит из 16 специалистов, в том числе бывших инженеров Google. Они разрабатывают чат-боты для обслуживания клиентов AppleCare и автоматизации задач в Siri. Кроме того, новая модель ИИ, известная как Ajax GPT, обучена на более чем 200 миллиардах параметров и превосходит по мощности GPT-3.5 от OpenAI.
Apple пока не комментирует эти данные.
https://www.theverge.com/2023/9/6/23861763/apple-ai-language-models-ajax-gpt-training-spending
OpenAI объявил о запуске ChatGPT Enterprise, который для больших компаний снимает многие проблемы, связанные с использованием давно доступного API. Первая и главная — возможность доучивать модель на корпоративных данных, не опасаясь их утечки или использования специально дообученной модели другими. Вторая — комфортное встраивание в сложную и большую корпоративную ИТ-структуру.
По утверждению OpenAI, продукт разрабатывался много месяцев в тесном контакте с его бета-пользователями и фактически соавторами из числа крупнейших компаний: здесь и PwC, и Block,и The Estée Lauder Companies. Задачи — из уже привычного списка: коммуникации внешние и внутренние, разработка софта, помощь в создании всевозможных креативов. Короче, быстрый и неограниченный GPT-4 без проблем с безопасностью и заточенный под специфику бизнеса.
В дальнейшем помимо Enterprise уровня обещают еще и Business, но сроков и спецификации не называют.
https://openai.com/blog/introducing-chatgpt-enterprise
Code Llama – еще один шажок к ИИ программистам
Meta сегодня представила Code Llama, модель, которая обещает стать новым словом в мире программирования. Она была создана для того, чтобы ускорить и упростить процесс разработки для программистов и помочь новичкам.
- Открытая и бесплатная модель, основанная на платформе Llama 2.
- Три версии: основная, для Python и с акцентом на исполнение инструкций.
- В тестах превзошла другие известные LLM.
Meta надеется, что их новый инструмент даст толчок к инновациям в сфере программирования и поможет всему сообществу разработчиков.
🐙 Код
🤩 Веса
🤓 Статья
🙃 Блог-пост
Тут всплыл очередной интересный стартап Sakana AI - это новый стартап из Японии в области искусственного интеллекта, основанный двумя бывшими сотрудниками Google, Ллионом Джонсом и Дэвидом Ха. Джонс является соавтором знаменитой статьи о трансформерах, которая легла в основу современных разработок в генеративном ИИ. Ха - бывший руководитель научной группы Google в Японии и также head of research в Stability AI. Оба они покинули Google, чтобы заниматься исследованиями в своей лаборатории в Токио.
Sakana ( さかな - стая рыб на японском) отличается от других ИИ - стартапов своим новаторским подходом, который заключается в разработке множества маленьких моделей ИИ, которые сотрудничают, подобно рою, для достижения сложных результатов. Эта методология противоречит доминирующему тренду создания огромных систем ИИ.
Sakana AI планирует использовать свои модели для генерации различных видов контента, таких как изображения, тексты, музыка и видео. Стартап также хочет сделать свои технологии доступными для других разработчиков и исследователей через облачную платформу.
Пока что Sakana AI не раскрывает своих инвесторов, что только добавляет интереса к этому стартапу 👀
https://venturebeat.com/ai/what-you-need-to-know-about-sakana-ai-the-new-startup-from-a-transformer-paper-co-author/
Судя по слухам Meta готовятся выпустить открытую языковую модель, которая пишет код. Модель называется Code Llama и ее ждут уже на следующей неделе. Весь этот комплекс конечно не будет конкурировать с готовыми решениями, вроде Github CoPilot - по сути это просто один из кирпичиков для конструктора “сделай свою систему написания кода”.
Очень интересно, что политику выпуска именно открытых языковых моделей ведет именно Meta - как-то это слабо укладывается в ёё публичный образ компании. С другой стороны, есть компания OpenAI, которая выпускает крайне закрытое решение. А есть Meta, которая выпускает опенсорс решение. Что-то в этом парадоксе есть https://www.theinformation.com/articles/metas-next-ai-attack-on-openai-free-code-generating-software
✨Стартап Stability AI, известный своей моделью Stable Diffusion, запустил новую LLM под названием StableCode. Эта модель предназначена для генерации кода и будет доступна на трех уровнях: базовая модель, модель инструкций и модель с длинным окном контекста, поддерживающая до 16 000 токенов. StableCode использует данные из открытого проекта BigCode и будет поддерживать разработку на Python, Go, Java, JavaScript, C, markdown и C++
https://venturebeat.com/programming-development/stability-ai-launches-stablecode-an-llm-for-code-generation/
Попробовать можно на hugging face
О, OpenAI запустила своего собственного. робота: краулера для обхода сайтов с целью сбора данных, которые смогут в дальнейшем использоваться для обучения моделей. Но теперь, раз имя и параметры бота известны, доступ можно запретить в robots.txt или другими методами, известными вебмастерам. Очень правильное решение: тем, кто очень опасается, что контент их сайта будет использован для обучения ИИ, предоставлен стандартный инструмент для закрытия доступа. С другой стороны, если человеку дан инструмент для блокировки доступа, а он им не воспользовался, то сам себе злобный буратино и нечего потом жаловаться и в суд ходить:)
https://www.seroundtable.com/openais-chatgpt-web-crawler-gptbot-35835.html
GitHub Copilot представил новую функцию, позволяющую разработчикам видеть, когда их код совпадает с кодом в общедоступном репозитории. Это помогает избегать дублирования кода и дает разработчикам возможность использовать существующие библиотеки кода. Функция находится в приватной бета-версии и в будущем появится в Copilot Chat.
https://techcrunch.com/2023/08/03/github-copilot-now-shows-developers-when-its-code-suggestions-match-code-in-a-public-repository/
OpenAI подала заявку на торговую марку "GPT-5"🌚, возможно предвещая приход преемника своей текущей LLM GPT-4. Однако, это не гарантирует скорый запуск GPT-5. Сейчас компания, скорее всего, сосредоточится на улучшении GPT-4, несмотря на ее недостатки, такие как "галлюцинации" фактов и высокие затраты на поддержание работы.
https://futurism.com/the-byte/openai-trademark-gpt-5
В GPT-4 добавили фичу, слухи про которую ходили давно — предзаписанные инструкции/роли, которые модель должна выполнять и отыгрывать. И можно задать желаемый формат ответов (например, всегда отвечать стихами на французском, почему нет?)
Нужно включить в настройках
Settings → Beta features → opt into Custom instructions
Затем перезагрузить страницу, в и меню слева (где настройки) у вас появится отдельная кнопка.
Источник
Стало известно, что Google разрабатывает AI-инструмент "Genesis" для автоматического создания новостных статей. Инструмент был продемонстрирован руководителям крупных СМИ. Google утверждает, что целью является помощь журналистам, а не их замена. Однако, эффективность и ответственность инструмента пока остаются под вопросом.
А ещё у ChatGPT повысили лимит использования GPT-4 до 100 сообщений в 3 часа вместо 25. Мелочь, но приятно👌
⚡️Apple создаёт свой AppleGPT
Apple активно занимается разработкой новых инструментов искусственного интеллекта, которые могут конкурировать с такими продуктами как ChatGPT от OpenAI и Bard от Google. Используя собственный фреймворк под названием "Ajax", Apple разработала сервис чат-бота, известный как "Apple GPT".
В последние месяцы Apple значительно усилила усилия в области AI, привлекая к работе несколько команд. Компания понимает возможные проблемы с конфиденциальностью и работает над их решением.
На фоне этой новости акции Apple выросли на 2,3%, достигнув рекордного уровня. Однако компания все еще определяет, как лучше представить эти технологии потребителям.
Apple также планирует интегрировать технологию больших языковых моделей (LLM) в Siri, что позволит голосовому помощнику выполнять больше задач от имени пользователей. Тем не менее, точные планы и сроки еще не установлены.
https://www.bloomberg.com/news/articles/2023-07-19/apple-preps-ajax-generative-ai-apple-gpt-to-rival-openai-and-google
🦙 Llama-2
Это очень важно: вышла Llama-v2 у которой открытый исходный код и лицензия, разрешающая коммерческое использование!
Это изменит ландшафт рынка LLM.
Llama-v2 доступна на Microsoft Azure и будет доступна на AWS, Hugging Face и других провайдерах.
Доступны предварительно обученные и зафайнтюненые модели с параметрами 7B, 13B и 70B.
Сайт Llama-2
Документ Llama-2
Стартап Stability AI запустил сервис Stable Doodle, который превращает эскизы в художественные изображения. Используя AI, сервис анализирует контуры эскиза и создает визуально приятное изображение. Stable Doodle доступен через платформу ClipDrop и ориентирован на любого пользователя, от новичка до профессионала. Компания видит в этом инструменте помощь для дизайнеров и иллюстраторов, позволяющую экономить время и повышать эффективность работы.
https://techcrunch.com/2023/07/13/stability-ai-releases-stable-doodle-a-sketch-to-image-tool/?guccounter=1
Попробовать тут👨🎨
✨Google обновил своего чат-бота Bard AI, добавив функции голосового ответа и реакции на запросы с изображениями. Теперь Bard доступен во многих странах, включая Европейский Союз, и поддерживает более 40 языков, включая русский. Пользователи могут слушать ответы Bard, а также использовать изображения в своих запросах. Кроме того, Google добавил возможность закреплять и переименовывать беседы, делиться ответами и изменять тон ответов Bard.
https://www.theverge.com/2023/7/13/23793014/google-bard-ai-chatbot-talk-spoken-responses-respond-visual-prompts-eu
Тренд на AI-стартапы обогатил островок Ангилья в Атлантическом океане
Ангилья владеет доменной зоной .ai. Сайты с адресами, заканчивающимиса на .ai есть у крупных корпораций и десятков тысяч стартапов, цены в доменной зоне немаленькие. Доход от этих доменов за 8 месяцев уже превысил $30 млн.
На неделе, от Meta, вышла новая серия «больших языковых моделей» — которая позволяет генерировать код по текстовому запросу, ну, как многие это делали в ChatGPT.
Поскольку темпы в нашей индустрии невероятные, модель подхватили в сообществе, и уже через пару дней опубликовали дообученные версии (общей направленности, и отдельно дообученную модель для генерации Python кода). Что интересно, сделали это несколько разных команд, и обе получили результаты в спец тесте чуть выше, чем есть сейчас у GPT4 в генерации кода (1, 2).
Я такое очень люблю, локальные языковые модели на базе llama2 это:
— Хорошая лицензия для бизнеса: то есть можно прикручивать в стартапы;
— Безопасность: я точно знаю, что сотрудникам крупных компаний запрещают отсылать в ChatGPT корпоративные данные, локальные модели это обходят, так как никуда данные не отправляют и процессят их только на устройстве;
— Гибкость: модель можно дообучить, играться с параметрами или можно передать негативный промпт и снять с нее цензуру (тут я написал небольшую инструкцию как этого добиться), или заставить отдавать только строгий JSON формат и тп.
— Это дешевле в частном использовании: не все готовы отдавать по $20 в месяц за GPT4, так как могут учиться программировать, не обладать лишними деньгами и тп.
Поэтому я сразу побежал играться с этой моделью, с конкретной задачей — мне лениво пытаться самому понять, что делают некоторые скрипты (скрипты умнее меня), поэтому я прошу языковые модели конвертировать код в обычный текст.
Для тестов я взял исходный код древнего вируса Чернобыль (CIH), тот самый, который с 1998 вывел из строя 600 миллионов компьютеров, и нанес ущерба на 35 миллионов долларов.
Если откроете ссылку, то увидите что кода довольно много, а каждая языковая модель ограничена на входе размером текста который она может принять на вход (например, модель в которой я тестирую, была натренирована на 4K токенов, что примерно ~2800 слов) — поэтому пришлось насильно расширить контекстное пространство до 16K токенов (спасибо GGUF, не реперу, а новому формату llama.cpp который специально создан, чтобы упростить жизнь для работы с большим контекстом). Короче, спустя пару минут шумящего компьютера я получил описание того, что делает вирус, простым языком, и без всякого интернета 🫣
Дальше планирую с помощью модели порешать разные задачи которые встречаются в работе продуктолога: процессинг данных о использовании сервисов, написание запросов и тп, с GPT4 я уже довольно много всего наделал работая с данными, теперь интересно попробовать что же умеет делать GPT-дома.
☆ Модель с которой я игрался (34B)
☆ Скрипт которым запускаю инференс (Mac)
TL;DR: Жесть мы в будущем, теперь без интернета можно писать и дебажить скрипты
@Denis
Интересная покупка: OpenAI приобрели команду Global Illumination
Когда я увидел пост в твиттере, то начал в голове перебирать — кто же это? чем они занимаются? может робототехника? Работа с нейронками видео? Ну уж точно что-то связанное с AI? Нет. Это студия выходцев из бигтеха, которая разрабатывает... опенсурсный аналог Minecraft. То есть игру, да (называется Biomes). В самой студии работало порядка десяти человек.
Можно подумать, что команда и дальше будет работать над игрой, и плотно взаимодействовать с инженерами OpenAI с целью обучения агентов в огромном открытом мире. Однако официальный анонс лишь говорит, что присоединение это "для работы над нашими основными продуктами, включая ChatGPT". В общем, не очень понятно.
Дальше будут мои фантазии и догадки. Может показаться смешным, но OpenAI уже работали с Minecraft. Год назад они выпустили статью Video PreTraining (VPT): Learning to Act by Watching Unlabeled Online Videos. В ней показывалось, как обучать агента играть по видео на YouTube. В целом понятно, для чего это нужно вне игр: GPT-6 может посмотреть весь тикток и ютуб, и узнать о нашем мире (а также научиться) столько, сколько никаким текстам не снилось. Триллионы часов записей разных людей в разных ситуациях. А перед началом такой грандиозной задачи нужно освоить базу, ну вот и учили бота игре.
Правда тут непонятно, ведь для новой игры видео куда меньше (это всё же не одна из самых популярных игр в мире), да и текстов в интернете тоже — Minecraft'у всё же больше 10 лет, вдоль и поперёк описан и изучен.
Так что возможно Biomes будет играть роль среды, в которой агенты на основе больших языковых моделей будут "жить" сами по себе и решать свои проблемы — а опенсурсная и максимально гибкая для изменений игра как нельзя лучше подходит для тесной интеграции почти с любой технологией. К тому же она легковесна — запускается прямо в браузере.
В общем, скорее всего наработки OpenAI будут двигаться в сторону работы из Stanford под названием "Generative Agents: Interactive Simulacra of Human Behavior", где как раз таки 25 разных ботов с языковыми моделями и жили в деревне, общались друг с другом — только здесь всё в 3д, и с куда более широким набором возможностей.
What's next, multi-agent civilization sim running on GPT-5? Maybe Minecraft is indeed all you need for AGI? I'm intrigued.🤔(автор высказывания)
Геймерам посвещается: Dungeons & Dragons (D&D), знаменитая ролевая игра, вступает в новую эру с помощью искусственного интеллекта. Ученые из Университета Пенсильвании и Университета Мэриленда разработали систему под названием CALYPSO, которая использует крупные языковые модели (LLM) для улучшения игрового опыта.
CALYPSO предлагает три интерфейса на основе ChatGPT, интегрированных с популярным чат-сервисом Discord, для поддержки мастера подземелий (Dungeon Master - человек, который управляет игрой) в различных аспектах игры. Это включает в себя генерацию текста для описания встреч, мозговые штурмы для уточнения сценариев и открытый чат, где игроки могут взаимодействовать с ИИ, действующим как фэнтезийное существо.
Проект показал, что ИИ может быть полезным инструментом для DM, генерируя текст высокой и низкой достоверности, который может быть дальше развит человеком. Однако были и некоторые проблемы, такие как "галлюцинации" модели, когда она выдумывала факты, которых нет в исходных книгах.
В целом, CALYPSO представляет собой пример ИИ инструментов, которые могут обогатить опыт настольного гейминга, сохраняя при этом творческий контроль в руках человека. Это открывает новые горизонты для D&D и других ролевых игр, где ИИ может стать вдохновляющим партнером, а не заменой человеческого взаимодействия.
Не знаю как вы, а я заметил выход игры Baldur's Gate 3 по вселенной Dungeons & Dragons, а тут ещё такая новость на эту тему 🧙♂️✨
https://www.theregister.com/2023/08/19/chatgpt_dnd_dm/
препринт https://arxiv.org/abs/2308.07540
Компания Google представила новую функцию для Chrome. Она называется Smart Google Extractor (SGE) и позволяет пользователям получать краткие и точные извлечения из любого текста на веб-странице.
SGE использует искусственный интеллект для анализа текста. Он определяет ключевые идеи, факты и аргументы, а затем генерирует сжатое изложение основного содержания. Пользователи могут выбрать любой фрагмент текста или весь текст на странице и нажать кнопку SGE в панели инструментов Chrome.
SGE помогает пользователям экономить время и повышать продуктивность. Он упрощает поиск и понимание информации в Интернете, особенно для длинных и сложных текстов. Он также может помочь студентам, ученым и журналистам в написании рефератов, обзоров и статей.
Пока что доступно для пользователей США
https://blog.google/products/search/google-search-generative-ai-learning-features/
Это Snapchat-линза (AR-фильтр) от Sander Veenhow.
Как говорит автор — он создал риалтайм генератор образов Бэнкси, что действительно похоже на работы художника, но мы видим в первую очередь здесь invisible-костюм.
Для создания эффекта использовалась Lens Studio с фильтрами машинного обучения SnapML.
Протестировать эффект можно по ссылке.
Llama2.rs
Вы хотели запустить LLaMa2 70B на своем стареньком лэптопе? Ну, вот теперь можете.
Чел переписал Карпатовскую llama2.c на Rust, оптимизировал загрузку весов в память (memmap), реализовал Grouped Query Attention и добавил квантизацию.
70B LLaMa2, которая в обычной жизни влазит только в A100, теперь бегает на лаптопе! Кхм, ну как, бегает... скорее ходит. 5 токенов в минуту.
GitHub
@ai_newz
Исследователи из MIT разработали "жидкие нейронные сети" (LNN), которые предлагают компактное и эффективное решение для проблем искусственного интеллекта, особенно в областях робототехники и автономных автомобилей. LNN отличаются от традиционных моделей глубокого обучения, используя математическую формулировку, которая стабилизирует нейроны во время обучения и позволяет им адаптироваться к новым ситуациям после обучения. Они значительно компактнее: для выполнения задачи, например, удержания автомобиля в своей полосе, LNN требуется всего 19 нейронов, в отличие от 100 000 у традиционной нейронной сети. LNN особенно подходят для работы с непрерывными потоками данных, что делает их идеальными для робототехники и автономных автомобилей.
https://venturebeat.com/ai/how-mits-liquid-neural-networks-can-solve-ai-problems-from-robotics-to-self-driving-cars/
YouTube тестирует генеративные резюме видео ✨
YouTube тестирует использование искусственного интеллекта для автоматического создания резюме видео. Эти резюме предназначены для краткого обзора содержания видео и будут доступны для ограниченного числа пользователей. Эксперимент является частью более широких исследований Google в области генеративного AI. Если AI-резюме получат более широкое распространение, это может повлиять на то, как создатели контента структурируют свои видео на YouTube.
https://www.theverge.com/2023/8/1/23815321/youtube-ai-video-summaries
На реддите опять делают огромный пиксельный рисунок, сейчас там 222к человек, можете тоже поучаствовать тут👌👨🎨
Читать полностью…
Perplexity.ai запустили у себя чат LLaMA-2 7B - поиграться тут✨
Читать полностью…
Создавайте будущее, чтобы не офигеть от него 🦄
Генеративный AI сейчас самая хайповая сфера во всем мире. Те, кто уже использовал ChatGPT, Midjourney, Stable Diffusion - вы точно понимаете, как эти технологии меняют вашу жизнь и ведение бизнеса 🔥
Если вы хотите идти в ногу с этим новым миром, не отставать и начать применять генеративные нейросети в бизнесе или делать свой проект - вам обязательно нужно прийти на конференцию по AI от сообщества Hegai 27-го июля
В чем для вас польза?
• Вы сможете познакомиться с наиболее крутыми и практическими способами применения нейросетей
• Познакомитесь со стартапами, которые уже делают проекты в этой области и венчурными фондами
⚡️ Станьте частью этого тренда — присоединяйтесь к конференции 27 июля! И не забудьте промокод FUTURIS ⚡️
🤖Гуманоидный робот NASA, Валькирия, начинает новую миссию в Австралии на объектах энергетической компании Woodside Energy. Робот будет использоваться для удаленного ухода за беспилотными и морскими объектами, что повысит безопасность персонала и окружающей среды. Валькирия, ростом 1,8 метра и весом 125 кг, способна выполнять важные задачи в опасных условиях. Полученные в ходе этой миссии знания помогут ускорить развитие робототехники и могут быть применены в будущих миссиях NASA.
https://www.euronews.com/next/2023/07/13/nasas-first-humanoid-robot-valkyrie-is-being-tested-at-offshore-energy-facilities-in-austr
🥩🧫Ученые из Тафтсского университета разработали бессмертные стволовые клетки мышц крупного рогатого скота, которые обладают быстрым темпом роста и способностью делиться сотни раз, возможно, даже бесконечно. Это открытие увеличивает потенциал для крупномасштабного производства мяса.
Эти клетки могут быть использованы для создания новых продуктов без необходимости повторного получения клеток из биопсии фермерских животных. Бессмертные клетки также снижают порог входа для других исследователей, чтобы изучить клеточное сельское хозяйство и найти способы снижения затрат и преодоления проблем масштабирования производства.
Ключевыми шагами в создании этих клеток были модификация клеток для постоянного восстановления их теломер (концов хромосом), что помогает сохранить их "молодыми", и стимулирование клеток к постоянному производству белка, который ускоряет деление клеток.
Новые стволовые клетки способны дифференцироваться в зрелые мышечные клетки, хотя и не полностью идентичные животным мышечным клеткам. Это открывает возможность для производства мяса, которое может воспроизвести вкус и текстуру натурального мяса.
https://scitechdaily.com/potentially-unlimited-supply-scientists-grow-meat-from-immortal-stem-cells/
Anthropic анонсировали Claude 2, новую модель в авангарде интеллектуальных ассистентов. Прямых сравнений с GPT-4 нет, но относительно старой модели улучшили всё, особенно математику, программирование и способность рассуждать.
Сама компания предлагает думать о Claude 2 как "о дружелюбном, полном энтузиазма коллеге или личном помощнике, которого можно проинструктировать на естественном языке, чтобы помочь вам со многими задачами".
Потыкать бету можно тут: https://claude.ai/
Почитать карточку модели (больше про метрики и сравнение Alignment, нежели технические детали обучения): нетяжелый pdf
Интересная фича: Claude 2 has been trained to generate coherent documents of up to 4000 tokens, corresponding to roughly 3000 words.
В прикрепленном видео - демонстрация юзкейсов (но "вау"-эффекта уже не производит...)
Source
