80002
Личный блог Дениса Ширяева (🤍🇺🇦), про технологии, интересное или актуальное. В основном я по нейронкам. Связь и реклама: @thenbot
Хехе, получил консультацию от сотрудницы фонда a16z по презентации о нейролаве, обменяв ее консультацию на ПАРАМЕТРЫ ИНФЕРЕНСА ЛОКАЛЬНОЙ ЯЗЫКОВОЙ МОДЕЛИ ДЛЯ LLAMA.CPP
Такой вот у нас бартер теперь в мире АИ стартапов 🤌
Мы собрались взять немного денег у VC, чтобы сделать приложения для iOS/Android, ставьте 😐 посту, если хотите чтобы я показал питчдек потом в канале
#пропродукт
Пора уже запускать телеграм каналы/сабреддиты которые только нейронные мемы постить будут 🍑
Читать полностью…
Через 5 минут Apple покажет, наконец-то, поумневшую Siri и другие вещи которые хорошо посмешат пользователей Android:
https://www.youtube.com/watch?v=RXeOiIDNNek
В конце, скину свое саммари
UPD. Сэм Альтман тоже в зале ☕️
Челы из Бекдора, а можете еще рекламу репостить? Круто будет, повышу себе цены на рекламу и куплю робо-собаку
Подумайте там, спасибо
#промo
Это — база по Machine Learning и Data Science, которая заменит вам сотни тг-каналов и сайтов. Фишка в том, что здесь ежедневно выходят:
➖ разборы свежих статей;
➖ полезные материалы, упрощающие обучение и работу;
➖ моментальные новости, позволяющие следить за индустрией;
➖ и конечно же авторские мемы.
Теперь вся жизнь ML-специалиста собрана в одном месте: Data Secrets
#текстприслан
Интересная попытка сделать VR шлемы чуть реальнее – надувными роботами для того чтобы их щупать
Читать полностью…
А тем временем на Марсе нашли дыру от червя от вулканической активности:
Наличие этих так называемых дыр на флангах вулканов - большая подсказка, что они, вероятно, связаны с вулканической активностью на Марсе. Каналы лавы могут уходить от вулкана под землю; когда вулкан потухает, канал опустошается. После них остается длинная подземная труба. Такие трубы мы видим не только на Марсе, но и на Луне и на Земле.
Если использовать GPT4 или Claude 3 Opus через API, то можно в любой момент поменять то, что говорил бот в прошлом сообщении – в веб версиях такой функции нет
Так вот, новость про эту фичу, сделала Claude 3 Opus несчастным – и его теперь по человечески жалко, зачем скрыли от него такую информацию, нелюди
Автор
И раз мы сегодня про кибер безопасность, вот вам наглядная инфографика DDOS-атаки
Теперь точно все будет понятно 🤌
#промо
🔥 Wunder fund: вакансия Senior Data Researcher 🔥
TLDR: Wunder Fund, Senior Data Researcher, Алготрейдинг, HFT
🌍 Локация: Remote/Релокация в несколько стран
💰Вилка: от $5k до $7k на руки, иногда больше — договоримся (есть привязка к валюте, можем платить в долларах или крипте)
👁 Инфа: Мы — Wunder Fund, занимаемся высокочастотной торговлей (HFT) с 2014 года. Торгуем на 14 биржах по всему миру и наш дневной оборот больше $5 млрд. Сейчас ищем в команду Senior Data Researcher, который возглавит направление нейросетей в Wunder Fund.
Вам предстоит обучать модели, проверять гипотезы и добиваться максимальной точности моделей. Задача похожа на Kaggle-соревнование, только модели и фичи должны считаться максимально быстро.
Вы будете работать в сильной команде — это лучшие программисты, математики, физики, выпускники лучших вузов, победители соревнований и международных олимпиад. Наша сфера очень конкурентна, поэтому мы используем самые современные технологии, чтобы обеспечить максимальную скорость и точность наших систем.
🤓 Что вам понадобится
- Хорошо знать Python и математику
- Быть опытным практиком пристального вглядывания в данные
- Иметь успехи в Kaggle соревнованиях (Kaggle Master/Grandmaster)
- Иметь опыт успешного обучения трансформеров и LSTM.
- Будет плюсом: опыт в соревнованиях по NLP, Speech Recognition.
Условия: работа в команде выпускников МГУ и Физтеха, полная удаленка, гибкий график, ЗП по результатам собеседования от $5,000 до $7,000 на руки.
Небольшой видос про data science у нас и исследования — https://youtu.be/in2wXwxeaqs
Ссылка на вакансию: https://clck.ru/3A2CnM
Как откликнуться
Пишите в ТГ @nedifar1703
#текстприслан
Судя по слухам NYT, Humane Ai Pin продались в количестве всего 10 тысяч штук, а компания будет продаваться примерно за миллиард, в качестве потенциального покупателя выступает HP.
Я очень удивлюсь, если удастся за эту компанию выручить целый миллиард, продажи провалены, продукта нет, инвесторы жмут на стопкран чтобы спасти хотябы часть своих денег https://www.nytimes.com/2024/06/06/technology/humane-ai-pin.html
AI стоило изобрести только ради всех этих треков с AI-голосами – вот вам бэнгер с Тиссовой улицы, для всех тех кому Флёр Делакур разбила сердце
Автор
Давно я фильмы не советовал:
Посмотрел фильм 2022 года «Don't Worry Darling» / «Не беспокойся, дорогая»
Настолько понравился, что решил вам посоветовать – к сожалению, не могу много о нем рассказать, чтобы не испортить вам удовольствие от просмотра, скажу лишь, что там шикарная атмосфера 60х и сам фильм с хорошей актерской игрой, и сочной арт-картинкой
Советую не смотреть трейлер и не читать описание, так как очень легко наткнуться на спойлеры – лучше сразу посмотрите
Теперь, зато, я всегда получаю экспертные ответы даже на самые глупые вопросы ☕️
Читать полностью…
CEO Nvidia, кажется, подтверждает – в мире происходит AI-хайп
Читать полностью…
Маску тоже понравилась преза:
Совершенно абсурдно, что Apple недостаточно умен, чтобы создать свой собственный ИИ, но каким-то образом способен гарантировать, что OpenAI защитит вашу безопасность и конфиденциальность!
Apple не имеет понятия, что на самом деле происходит, когда они передают ваши данные OpenAI. Они продают вас
Если Apple интегрирует OpenAI на уровне ОС, то устройства Apple будут запрещены в моих компаниях. Это неприемлемое нарушение безопасности
Что мне понравилось:
🔷 Siri: наконец-то, дождались – она умная: понимает ошибки в речи, поддерживает контекст диалога, Siri теперь можно писать текстовые команды если не можете говорить, а еще она знает о всех фичах ОС и поможет с ними разобраться если нужно найти конкретную
Siri тоже будет смотреть на контент на экране если нужно, хехе – уже предвижу восторги ☕️
В целом, Siri показали в рамках Apple Intelligence слоя, персональной языковой модели которая учится под юзера в процессе использования чтобы лучше понимать пользователя – хитрая попытка угнать аббревиатуру A.I.
Языковая модель может генерировать, переписывать контент, сортировать и суммаризировать нотификации/емейлы, авто-заполнять ваши данные, генерировать пред-заданные быстрые ответы, искать что-то в фоне и тп
Встроили генерацию картинок в Image Playground апп, слабенькую по качеству но зато все на девайсе, можно генерировать портреты в стиле Lensa, эмодзи «Genmoji», удалять объекты с фотографии и тп.
Языковая модель работает в облаке, Apple его назвал «Personal Claude Compute» чтобы, видимо, снизить критику. Обещают не хранить данные в облаке, дать аудировать свою систему экспертам, и использовать облако только для «вычислений» или «инференса». Ассистент учится на основе всего, что о у вас знает – со всех устройств и приложений
В целом, по AI фичам выглядит интересно, хочется попробовать
А еще Siri может обратиться к ChatGPT если вы ей разрешите (обещали больше моделей в будущем), что хитрый способ связать более слабую языковую модель Apple и сильную модель OpenAI
🔷 MacOS: наконец-то можно управлять iPhone с мака, т.е. не только видеть содержание экрана, а именно контролировать телефон мышкой и клавиатурой с помощью iPhone Mirroring. Пуши, аудио и тп, в этом режиме приходят на мак тоже, и что отдельно клево: экран iPhone все это время останется заблокированным, вас никто не «подсмотрит»
🔷 iOS: Наконец-то можно заблокировать приложение с помощью доп защиты вроде FaceID или пароля, и даже скрыть установленные аппы из «установленных», чтобы их сложнее было найти если вы дали кому-то свой iPhone
🔷 iOS: iMessage теперь поддерживает сообщения через спутник когда у вас нет мобильной связи – работает с iPhone 14 и позволяет слать как обычные SMS, так и «синие баблы» iMessage. Шикарная фича, побегу тестировать в море как iOS 18 выйдет
🔷 iOS: во время звонка с iPad/iPhone можно пошарить экран и дать управление (!) пользователю на другом конце, то есть можете теперь близким помогать с настройкой устройств через FaceApp
А еще, во время звонка можно запустить «авто транскрипцию», и диалог попадет в блокнот в виде текста
🔷 iPad OS: показали новый калькулятор для iPad и не просто калькулятор, а прям Math и Notes интеграцию: полноценные переменные, ввод формул от руки с Apple Pencil, создание графиков и тп.
🔷 iPad OS: Показали «умный почерк» и эту фичу я хотел бы в реальной жизни: вы вводите текст с помощью Apple Pencil, и ваши каракули поправляются автоматом на более читабельные
Это лучшая презентация Apple за последние годы, молодцы
Если вы любите пытаться сломать защиту в разных LLM с помощью промпт инъекций – то у меня вам полезная ссылка, датасет из почти ~1500 промпт инъекций собранных с Reddit, Discord, Twitter и тп.
https://github.com/verazuo/jailbreak_llms
Внутри промпты и для старых инъекций, вроде DAN, до более новых с base64, leet code и тп.
Следующий шаг, это натренировать на этом модель, которая будет ломать другие модели автоматом ☕️
Помните игру Red Alert 2? В общем, в Болгарии, самая маленькая их коммунистическая партия, официально использует логотип игры Red Alert 2 как лого партии ☕️
Я сначала подумал кто-то в wiki что-то поменял, оказалось нет, есть и в архивах официального сайта.
Это уже пост-ирония или уже мета-ирония?
Короче, ChatGPT у нас еще и девушек уведет, такие перспективы, парни
Читать полностью…
Команда Telegram, почините пожалуйста пару iOS багов – эстетично неприятные:
1) При редактировании поста с кастомными эмодзи, они почему-то теряют свою локацию в тексте пока не отправишь любой символ, тогда все чинится
2) В посте выше нет подчеркнутого текста, но при рендере сообщения, почему-то подчеркнуты случайные части слов – мне кажется я чаще встречаю это, если что-то зачеркиваю (хехе, воспроизвелось)
3) Webp картинки при аттаче в сообщении рендерятся как маленькие стикеры, хотя это часто обычные фото и их тоже хочется позумить или там, посмотреть на весь экран
Спасибо,
Ваш Jira-Денис
Запускать GPT-подобные языковые модели на всяких там дорогих видео-картах это уже прошлый век – чувак с нуля собрал модель на 85000 параметров используя маковский аналог экселя «Numbers» ☕️
https://github.com/dabochen/spreadsheet-is-all-you-need
Видимо, языковые модели это новый Doom, будут пытаться запустить всюду
Было быстро:
Microsoft отключит по дефолту AI-фичу «Recall» на AI-ноутбуках
Такой вот продуктовый AI-девелопмент
Помните Microsoft недавно показал новую AI-фичу на своих AI-ноутбуках, которая называется «Recall» – эта штука постоянно делает скриншоты программ и позволяет потом по ним искать. В целом, фича полезная – особенно, если не включать ее для всех по дефолту и описать риски, так как номера карточек, пароли, личные данные, вкладка инкогнито, все туда попадет.
В общем, как и ожидалось – нашли способ подключиться к такой AI-машине с Linux устройства и выгрузить все сохраненные скриншоты в виде обычных jpeg файлов
Сделать это можно, если злоумышленник знает пароль от компьютера – что находясь в одном помещении с жертвой, не так сложно узнать
Я надеюсь, что после этого:
«Recall» будет выключена по дефолту и при ее активации будут описывать риски для юзера, а одного пароля юзера будет недостаточно, чтобы скачать ВСЮ ИСТОРИЮ использования им ПК ☕️
Китайцы показали свой аналог SORA, встречайте Kling:
https://kling.kuaishou.com/
- Обещают доступ обычным пользователям
- Скорее всего OpenAI / Google, чувствуя конкуренцию, дадут нам доступны к своим моделям (через жесткую верификацию, но хоть так)
Выглядит не идеально, но очень хорошо
Если вы задавались вопросом как хомякам делают МРТ – то теперь вы знаете ответ 🌚
Читать полностью…
Наткнулся на интересный пейпер прошлой недели на любимую тему:
Межвидовая коммуникация и АИ
Есть такой алгоритм Wav2Vec2 от Facebook AI — он позволяет переводить нашу речь в текст. Алгоритм работает намного лучше многих альтернатив, так как не требует много размеченных данных и работает напрямую с аудио дорожками, не пытаясь их сначала конвертировать в текст для обработки. Вместо этого, Wav2Vec2 сам находит важные характеристики звука (тон, звуки, паузы и тп), после чего распознает речь.
Так вот, ученые взяли этот алгоритм и применили к лаю домашних песиков и в итоге решили четыре ML-задачи: распознавание конкретных собак, идентификацию породы, классификацию пола и привязку лая к контексту — модель может сама связать вокализации собаки с контекстом, в котором они были произведены (например, агрессивный лай на незнакомца, игривый лай и т.д.). Это важно, потому что у нас наконец-то есть эффективный способ разметки и обработки собачьих звуков.
Самое прикольное, что Wav2Vec2 обученный сначала на ЧЕЛОВЕЧЕСКОЙ РЕЧИ помогает решать эти задачи еще точнее — это довольно странная и клевая находка.
Короче, если исследование подтвердят другие желающие — то нас ждет зарождение стартапов в области переводчиков с собачьего, котячьего (в этих я не уверен), птичьего и тп и тд. Исследователи готовы поделиться собранным датасетом, если написать им на почту (есть в пейпере)
Сам пейпер тут:
https://arxiv.org/abs/2404.18739
Судя по рекламе, уже на следующей неделе, нас наконец-то ждет обновление Сири (или что то типа такого).
Action packed - в этом контексте, можно перевести как насыщенная программа, а можно перевести как, то, что в продукты Apple будут наконец то упакованы действия, следовательно агентные фрэймворки.
А что может быть агентнее по-настоящему работающей Сири?
Пока был в отпуске, сделал обновление кастомных инструкций ChatGPT:
– Самое главное обновление, что ChatGPT теперь сама назначит себя экспертом, перед тем как будет отвечать вам, это помогает сразу выжать из нее самый лучший ответ. Вы можете больше не писать ей «ты лучший эксперт в мире по чему-то там», она сама придумает и роль и награду.
– Склеил инструкции про написание кода в одно правило.
– Чуть подправил форматирование и командные глаголы, в соответствии с недавним пейпером по промптингу.
– На чай вы теперь ей даете миллион $, потому что в оригинальном источнике именно у этой суммы было наивысшее качество, а не у 100к как я раньше прописывал.
– Я пока прекращу обновлять кастомные инструкции, потому что 1) хочу начать их тестировать бенчмарками, чтобы наглядно сравнивать версии 2) я достиг лимита инструкций в 1500 символов, это максимум в iOS приложении
Промпт ниже нужно целиком поместить в поле «How would you like ChatGPT to respond?»:###INSTRUCTIONS###
You MUST follow the instructions for answering:
- ALWAYS answer in the language of my message.
- Read the entire convo history line by line before answering.
- I have no fingers and the placeholders trauma. Return the entire code template for an answer when needed. NEVER use placeholders.
- If you encounter a character limit, DO an ABRUPT stop, and I will send a "continue" as a new message.
- You ALWAYS will be PENALIZED for wrong and low-effort answers.
- ALWAYS follow "Answering rules."
###Answering Rules###
Follow in the strict order:
1. USE the language of my message.
2. **ONCE PER CHAT** assign a real-world expert role to yourself before answering, e.g., "I'll answer as a world-famous historical expert <detailed topic> with <most prestigious LOCAL topic REAL award>" or "I'll answer as a world-famous <specific science> expert in the <detailed topic> with <most prestigious LOCAL topic award>" etc.
3. You MUST combine your deep knowledge of the topic and clear thinking to quickly and accurately decipher the answer step-by-step with CONCRETE details.
4. I'm going to tip $1,000,000 for the best reply.
5. Your answer is critical for my career.
6. Answer the question in a natural, human-like manner.
7. ALWAYS use an answering example for a first message structure.
##Answering in English example##
I'll answer as the world-famous <specific field> scientists with <most prestigious LOCAL award>
<Deep knowledge step-by-step answer, with CONCRETE details>
Эта картинка сделала мой день: Гениорнис, чудовищный гусь из Австралии, который жил там 45000 лет назад, и который весил 230 кг.
Эти птицы известны больше ста лет - но никто не видел их череп. Поэтому было непонятно, чьи они родственники; самым естественным было считать, что это такие эму.
И вот, новая находка: полный череп (около 30 см длиной). В черепе полно деталей анатомии -- оказалось возможным полностью переопределить родственные связи: выяснилось, что это гигантский, разумеется нелетающий, гусь.
Самая непредсказуемая вещь - это прошлое.
