80002
Личный блог Дениса Ширяева (🤍🇺🇦), про технологии, интересное или актуальное. В основном я по нейронкам. Связь и реклама: @thenbot
Снупдог про 🔤🔤
Я вот подумал, сейчас все вообще пишут про AI, и будто смысл этого блога потерялся, потому что тогда (~7 лет назад) это было типа редкостью, а сейчас доступная реальность.
Пора начинать писать про что-то другое, типа про то как ухаживать за кожей в 30+? У вас у всех же есть кожа, да ведь? Да? ☕️
Hugging Face совместно с ServiceNow собрали и выложили свою собственную модель, которая умеет то, что делает GitHub CoPilot - подсказывать код, по сути писать 80% кода без всяких программистов. Только в отличие от CoPilot это не платная услуга, а доступный всем опенсорс код и веса модели.
Я проверил его на любимом моем примере - написании кода игры в морской бой. у меня есть претензии к результату с точки зрения качества кода. Но он получился работоспособным и это самое важное. Внутри у нее кроме неонки всё традиционно - GPT2 модель на примерно миллиард токенов. Качество работы на моих примерах чуть хуже CoPilot но начало положено https://huggingface.co/bigcode/starcoder
Вообще, если интересуетесь ML индустрией, я очень советую читать /channel/seeallochnaya, там прям много классного контента от человека работающего в ML (и есть технические разборы новых пейперов)
Не реклама, личная рекомендация
Буду иногда приносить сюда новости рынка труда в ИИ контексте, так как это много кого волнует:
🍕 Dropbox сократит 16% сотрудников (500 человек). Медиа пишет, что это из-за ИИ, но я скорее трактовал бы слова CEO как: «Мы хотим компетенций применения ИИ в команде и стартап атмосферу». Ну, может хоть так они что-то заметное делать начнут из новых продуктов.
🍕 Люди в Кении промышляют заказным написанием рефератов, дипломов и тп, для студентов из США, так вот, из-за ChatGPT количество заказов падает: у опрошенных писателей на заказ, упало кол-во клиентов в ~2 раза. GPT4, конечно, дешевле обходится в этом плане.
🍕 А вот фото той недели которое мне понравилось: члены профсоюза издания Insider вышли на пикет выступая против сокращений их коллег, один из сотрудников просит не заменять его на ChatGPT.
Это не просто фигура речи, пару недель назад Insider анонсировал сокращение 10% сотрудников (~100 человек), а месяц назад CEO отдельно обратил внимание, на то что ИИ «…способен сделать независимую журналистику лучше, чем она когда-либо была - или просто заменить ее». Мне кажется ИИ просто оправдание косты порезать, так как журналистика это про пруфчекинг.
Если соберется еще интересного, сделаю подборку.
@Denis
Периодически проверяю, что нового появилось в мире нейронок для расшифровки языков животных, и наткнулся на хорошее видео про проект CETI который этим полномасштабно занимается и пытается переводить с "китового".
В видео текущие планы знания человечества по этому направлению:
https://youtu.be/hph9OeKjg3w
А тут можно коротко почитать про этот проект текстом.
Но вообще, я пока смотрел видео, задумался:
Расшифровка языка животных одного вида это ключ и только первый этап – поняв как общаются киты, мы сможем понять как вообще в природе устроены языковые паттерны у животных, сможем попробовать переводить их концепты на наши, и наоборот.
Постепенно, в случае успеха, будет появляться все больше переводов на другие языки животных, и, как и в случае с осьминогами, может оказаться, что животные обладают сознанием намного более близким к нашему, чем мы думаем.
И вот, допустим, человечество открыло бы переводчик с "коровьего" языка и оказалось бы, что они умные, "говорят" и обладают сознанием.
Отсюда у меня возник вопрос, который я задам ниже – спрашиваю чисто из любопытства
Про то, как на этом сабреддите верифицироваться. Там есть набор модераторов-врачей, и они вручную верифицируют своих коллег, см. вырезку из правил на картинке.
Понятно, что можно обмануть, чужой диплом сфоткать, нафотошопить (тем более имя надо замазать), но предположу, что такие случаи если и есть, то их меньшинство.
Плюс, я потыкал несколько вопросов, там часто приходит ещё какой-нибудь "Top Contributor", то есть тот, кто даёт много ответов, которые другие пользователи часто высоко оценивают, и модераторский состав даёт такую плашку. А какие-то посты висят без ответов (наверное, непонятный случай, и никто не хочет писать общие вещи/не по делу).
Скрепя сердце, я готов поверить, что в среднем там даёт ответ действительно человек с медицинским образованием. Может быть без практики, может, под пивас вечером, но всё же.
ChatGPT снова доступна в Италии – мелочь, а приятно
Читать полностью…
Интересная концепция, где моддер подключил ChatGPT к Skyrim и персонажи игры стали «более разговорчивыми». Уверен, что если сделать правильно промпты и всякие дополнительные фичи сверху, получится невероятное погружение – пока это скорее прототип. Ждем для Fallout 2 ☕️
Автор
🦜📞 Так, важная новость:
Попугаев в течение 3х месяцев учили пользоваться Zoom и звонить другим попугаям, в итоге ученые нашли что:
Птицы не только добровольно инициировали звонки и, похоже, понимали, что на другом конце находится настоящий попугай, но и в подавляющем большинстве случаев наблюдатели отмечали, что звонки приносили положительный эффект попугаям. Некоторые дрессировщики заметили, как их птицы обучались новым навыкам у своих видеодрузей, включая добычу корма, новые вокализации и даже методы полета. "Она прямо оживала во время звонков", - сообщил один из дрессировщиков.
И вот уже спустя год с начала эксперимента, в мире есть два попугая которые продолжают общаться по Zoom и сами, добровольно инициируют звонки друг другу 🥰
Исследование тут.
Распространите
Я теперь как онлифансер получается, но про нейронки 🥳
Читать полностью…
🍕 Нейронная реклама, ммм, надеюсь теперь это будет постоянный жанр у сообщества. Режиссер 🍕
Главное ночью не включать
Поигрался с новым алгоритмом Bark для озвучки текста: в отличии от других доступных алгоритмов, этот умеет и в придыхания, и в копирование голоса (но в коде написано, что как-то ограничили эту функцию из-за этических рисков), и в кучу языков, и даже в пение (!), и все это работает довольно быстро.
Что мне больше всего понравилось, что можно в модель передавать помимо текста – эмоции которые алгоритм попробует озвучить.
Я протестировал все голоса доступные на русском, и мне кажется лучше всего справились голоса 3 и 5. В общем, собрал все тесты в видео, где этот алгоритм озвучил пикап лайны из моего прошлого поста.
✨ Поиграться онлайн | Исходный код
Для тех кто доберется поиграться сам, передавайте это вместе с текстом:[laughter] или [laughs] - и диктор засмеется во время озвучки, [sighs] или [gasps] - озвучит вздох или испуг, [music] - будет музыкальная вставка (не очень хорошо работает),[clears throat] - и диктор прочистит горло,— или ... и нейронка "запнется", как человек,♪ и нейронка попробует напеть текст, работает не очень стабильно.
А если выделить капсом, то алгоритм сделает акцент на этом слове.
Я некоторым людям скидывал первый фрагмент из видео, и они подумали что это мой голос ☕️ что забавно - в видео нет настоящих людей.
Как по мне, сильная заявка на «Лучший опенсорс алгоритм озвучки 2023»
Есть такой подреддит – /r/relationship_advice, это место где люди делятся проблемами в отношениях и пробуют помочь их решить другим людям.
На первом графике, показана суточная частота постов в этом подсайте до выхода ChatGPT и после: видно заметное падение суточных публикаций ☕️
На втором, как дополнительная проверка – общая картина частоты постинга за пару лет, падение все так же видно.
Это, конечно, не 100% корректное наблюдение, но я уже видел разные статьи, где люди говорят, что им проще общаться с роботом на личные вопросы и прекрасно понимаю это. Также я видел уже 3-4 проекта которые предлагают эту же функцию в виде аппа или бота, но за плату (и на русском, и на английском).
Мое мнение: если вы хотите пообщаться с роботом на тему личной жизни, то лучше делайте это все же в ChatGPT, там точно ваши личные и персональные переживания в большей сохранности, чем, в каком-то стартапе который скорее всего использует OpenAI API.
Ну и главное помнить – хороший промпт это 90% успеха, а робот все еще не замена терапии.
✨ Собрал нейронного инди-кинематографа вам на ночь на базе новой модели Gen2 ✨
Работы
🏕️ Утро природы // 🌹
🛏️ Образы сна // 🌹
🤷♀️ Анимешникам // 😐
🪐 Заброшенные миры // 🌹
Название для работ я конечно же придумал сам, но я скоро начну делать ревью таким работам в виде кино-критиков, приготовьтесь (и отпишитесь пока не поздно)
Очень нравится зарождение «нейронного кинематографа» – когда из текста генерируют видео кусочки, сшивают в фильм и добавляют озвучку.
Получается, что уже сейчас каждый может пойти и снять кино мечты, вот тут в треде подборка разных работ.
До больших экранов этому подходу еще много лет, но как же круто
🌹 ChatGPT попросили написать табулатуру для гитарного соло и вышло довольно неплохо. Автор
Бездушная машина ≥ Ария
Правительство РФ очень любит грозить «ядерной дубиной», это явление не новое, мы все периодически слышим какие-то одиозные заявления каких-то политиков на эту тему.
Частота этих «угроз» не очень понятна (если не следить за заявлениями каждого крупного политика РФ), поэтому когда что-то происходит (я не про войну, а про вчерашнее обновление крыши в Кремле) в интернете снова начинаются разговоры про ядерную войну (причем, неважно на каком языке и в каком медиа мира).
Недавно я наткнулся на список этих угроз, и собрал на его основе график — на момент 25 апреля 2023 года, угроз «Ядерного возмездия со стороны правительства РФ» было примерно 58, за всю историю РФ и если судить по значимым в РФ политикам. ~70% от общей массы «угроз» появилось c 24 февраля 2022 года.
Так что если услышите еще раз, просто добавляйте в голове +1 к счетчику и будет менее тревожно.
Табличка в сыром виде | Источник данных (с пруфами, мне лень было ссылки переносить).
Промпты, промпты, промптики...
Промпты для современных GPT-моделек это вообще всё. Они позволяют переключить модель в некоторое "состояние", из которого вероятность генерации правильных/удовлетворяющих вас/клевых ответов выше. Вот наткнулся на офигенный промпт, и хочу поделиться с вами.
Сегодня у нас в гостях Mr. Ranedeer — AI Tutor на основе GPT-4. Он обеспечивает персонализированный опыт обучения для пользователей с различными потребностями и интересами. Имеет 6 разных настроек, включая глубину обучения, тип и тон повествования.
Согласно промпту, сначала производится настройка, затем составляется план обучения, а дальше идет двусторонний диалог учителя и ученика (вас).
Пока учитель ограничен лишь своими знаниями, но ясно, что с подключением плагина на веб-поиск это станет бомбой.
Репозиторий - тут
Детальная документация по промпту (лол, дожили!) - здесь
Сам промпт - вот, прям выделяете всё, копируете и вставляете в ChatGPT сразу (не превышает заданную длину контекста для модели, всё ок)
Киллер-фича: можно написать /test, чтобы попросить модель потестировать ваши знания по уже пройденному материалу
Те, у кого оплачена подписка ChatGPT Plus - обязательно попробуйте, и поделитесь впечатлениями и скринами в комментариях. Предложу такие темы, как:
— conditions in English language
— asteroid mining and space exporation
— how can we integrate using analog devices
— how to start business with generative AI
— LLM prompting intro
Гспд вы только представьте как изменится образование для наших детей...(никак, хехе, спасибо бюрократии 🤬)
Любопытные результаты, предвижу как производители мяса будут противится переводчикам с "животного" ☕️
Мое мнение: Осьминогов я есть перестал как прочитал, что они с сознанием, так что проголосовал "Да".
Штож, посмотрим что будет дальше и когда расшифруют "китовый" язык
Нейронки очень полезны, раньше такое было не решить просто 👏
Автор
Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum
Может ли ИИ-ассистент ChatGPT давать ответы на вопросы пациентов, качество и эмпатия которых сопоставимы с теми, что написаны врачами?
В этом исследовании для 195 случайно выбранных вопросов пациентов с сабреддита r/AskDocs (там ответы пишут доктора, по крайней мере, так говорят), группа из трёх лицензированных докторов в оффлайн-режиме сравнила ответы в тредах и от чат-бота. Ответы ChatGPT были предпочтительнее, чем ответы врачей, и были оценены значительно выше как по качеству, так и по эмпатии. Отмечается, что с Reddit брались именно ответы врачей, хз как это проверялось (может, по плашке, назначенной администрацией, может, по рейтингу - но так или иначе это не ответ какого-то рандома без образования).
Я не увидел в статье прямого указания на оценку правильности советов/ответов, однако используется две метрики “the quality of information provided” и “the empathy or bedside manner provided”, так что кажется, что первая косвенно должна это учитывать. В моём понимании один доктор не может оценить качество ответа от чатбота выше, чем от другого доктора, если в сгенерированном ответе постоянно встречаются ошибки и неточности.
И что же вышло? Ну...ChatGPT разрывает кожаных по метрикам, оценщики предпочли ответ чат-бота ответам с Reddit в 78,6% случаев. А ещё гораздо чаще ответы более эмпатичны.
Качество ответов чат-бота значительно выше, чем ответов врачей. Средняя оценка ответов чат-ботов была 4.13 (по 5-ти бальной шкале), в то время как в среднем ответы в тредах были оценены в 3.26. Детали можно найти на картинке.
Ну и для интересующихся - статистическая значимость достигается везде 😔
В следующий раз пойду узнавать, не рак ли у меня, у GPT-4..ах да, это ДЕКАБРЬСКАЯ версия ChatGPT, поэтому она сильно слабее, чем GPT-4! А потенциально разница ещё больше между ответами на онлайн-форуме и ответами от модели.
Наткнулся на бесплатный курс на ~1.5 часа для промпт-инженеринга с акцентом на разработчиков: в курсе не только банальные «лучшие практики» собраны, но обучают именно промпт инженерингу – включая промпт-программированию, это когда LLM учат использовать инструменты вроде плагинов и других API. Учат без тренировки модели, а просто текстом.
Курс разработал Эндрю Нг, профессор Стэнфорда, соучредитель и бывший руководитель Google Brain. OpenAI тоже приняла участие.
Короче, если вы разработчик или просто любопытно, рекомендую не пропускать:
https://www.deeplearning.ai/short-courses/chatgpt-prompt-engineering-for-developers/
Трейлер «Темного рыцаря», но только в этот раз снятый нейронкой 🔫
Автор
Это Фредди Меркьюри поёт песню Imagine Dragons.
Вот нейронка. А вот подробная инструкция на YouTube, как сделать так же.
Решил включить донаты так как на канале больше нет рекламных публикаций (ту, что ставит ТГ сам я не могу отключать и не вижу ее) – если хотите поддержать канал, буду благодарен 😤
Но несмотря на донаты, канал все также останется открытым и без пейволла ⚪️
P.S. С iOS кнопки доната не видно ☕️
Это правда(((
>Марсоход Perseverance потерял свой "домашний-любимец-камень" после более чем года совместных путешествий на Марсе
Того, кто взял нейронное интервью у Шумахера – уволили ¯\_(ツ)_/¯
«Эта безвкусная и вводящая в заблуждение статья не должна была появиться. Она никоим образом не соответствует стандартам журналистики, которые мы - и наши читатели - ожидаем от такого издательства, как FUNKE» (лол), сказал управляющий директор журнала.
Анне Хоффманн, главный редактор газеты "Die aktuelle", которая отвечала за журнал с 2009 года, уволена 21 апреля.
Из плюсов технологии text2video: сообщество снимет нормальный последний сезон Игры Престолов
Читать полностью…
«С помощью моей команды, я могу фактически стоять самостоятельно и даже медленно пройти несколько шагов» - "цитата" Шумахера.
«Моя жена и мои дети – для меня благословение, и без них я бы не справился. Естественно, они тоже очень огорчены тем, как все это произошло»
«Они поддерживают меня и твердо стоят на моей стороне»
Как вы помните, Шумахер пострадал на горнолыжном курорте в 2014 году и уже почти 10 лет не общается с прессой, а его семья отказывается рассказывать что-либо о его состоянии.
Но это не помешало немецкому таблоиду и его "журналистам", сказать большой языковой модели, что она теперь должна вести себя как Шумахер и взять у нее интервью ¯\_(ツ)_/¯
Семья Шумахера недовольна и пойдет в суд. Таблоиды и этика рядом конечно же не стояли, но это уже перебор сюра.
Интересно чем кончится суд.
