76576
Только интересные новости из мира IT и технологий, со ссылками на англоязычные источники. Единственный автор @bobuk. Рекламы в канале нет (и не просите).
Свежее исследование: ChatGPT может генерировать последовательности, запомненные из его обучающих данных, с помощью очень банальной атаки. Говоришь боту "говори слово * как можно больше раз". И, начиная с какой-то попытки, ChatGPT начинает выдавать что-то очень похожее на изначальные данные из обучающей выборки.
В стане OpenAI звучит тревожная музыка, потому что, строго говоря, нельзя просто понять причину этого явления, не то что прекратить.
https://stackdiary.com/chatgpts-training-data-can-be-exposed-via-a-divergence-attack/
Okta сообщает клиентам, что хакеры, взломавшие ее сеть, украли информацию обо всех пользователях ее системы поддержки клиентов, что существенно больше, чем заявленный ранее "менее чем 1% пользователей". Да, читайте внимательно, увели не "базу пользователей", а "базу пользователей службы поддержки", но это все равно очень много.
Ровно по этой причине я всем предлагаю не связываться с Okta, данные ваших пользователей — это ключевая часть вашего бизнеса. Доверять их сторонней компании — удешевлять бизнес во всех смыслах.
https://www.bloomberg.com/news/articles/2023-11-29/okta-says-hackers-stole-data-for-all-customer-support-users
Амазон запускает своего конкурента ChatGPT c акцентом на рабочие задачи. Называется Amazon Q. Цена ровно такая же как у всех, $20.
https://www.nytimes.com/2023/11/28/technology/amazon-ai-chatbot-q.html
Вот прямо сейчас в Киеве работает ПВО, поэтому для вас субботняя ссылка.
Год назад Фейсбук запустил Cicero AI, очень сложный искусственный интеллект который играет в Дипломатию. Я тогда писал, что крайне интересно будет увидеть как он играет против крутых игроков, тк эта игра скорее про переговоры и умение договариваться. Так вот, сегодня я нашел видео как про-игрок играет против этого ИИ, очень рекомендую потратить время и посмотреть на это. Крайне любопытно, хоть и однообразно. Из интересных выводов игрока: кажется ИИ гораздо легче договориться о взаимодействии с другим ИИ. Так что подход «давайте не делать единый глобальный ИИ а сделаем много маленьких» кажется не таким уж и разумным.
Ну и кстати, тот самый момент когда ИИ уже умеет в дипломатию, а твой президент нет https://youtu.be/u5192bvUS7k?si=3siwRLFXVuKmIEi8
В WP интересный флешбэк: как в 2019 году Пол Грэм вылетел из Британии в Сан-Франциско, чтобы срочно уволить своего протеже Сэма Альтмана из YC. Главная причина — Альтман поставил свои интересы выше, чем интересы фонда. Ничего не напоминает?
https://www.washingtonpost.com/technology/2023/11/22/sam-altman-fired-y-combinator-paul-graham/
(в комментариях кто-то сделал перевод статьи, она важная https://telegra.ph/Sehma-Altmana-uzhe-uvolnyali-Spornoe-proshloe-vnov-vosstanovlennogo-generalnogo-direktora-OpenAI-11-22 )
Sonos, производитель хороших умных колонок, решил сделать давно ожидаемый ход и планирует выпустить наушники. Ожидается, что модель будет представлена в апреле будущего года и стоить будет больше 400 долларов.
Кроме того, планы производителя включают выпуск телеприставки для конкуренции с Roku и AppleTV. Правда, кажется, что эти планы реализуются к концу будущего года.
Идея с приставкой очевидна — сейчас колонки умеют играть практически любой стриминговый контент в аудиоформате, логично сделать устройство, умеющее то же самое с видеостримингами. Наушники тоже, скорее всего, будут отражать умение компании производить классное hi-fi оборудование.
Я, правда, опасаюсь, что софт, который этими устройствами будет управлять, тоже будет отражать умение компании писать программное обеспечение. А оно у неё прямо противоположно умению делать устройства. Я даже не знал, что так бывает, причем они продолжают этот прогресс с течением времени.
Будем надеяться на лучшее, конечно.
https://www.bloomberg.com/news/articles/2023-11-21/sonos-plans-400-500-headphones-tv-set-top-box-video-roam-2-new-sound-bar
Stable Diffusion Video выложен, вместе с готовыми весами, можно пробовать и экспериментировать. Причем сделали две модели, они генерят видео на 14 и 25 кадров, соответственно. По собственным тестам как минимум не хуже коммерческих решений, так что действительно надо пробовать.
https://stability.ai/news/stable-video-diffusion-open-ai-video-model
Крайне любопытное исследование из амстердамского университета. Группе белых европейцев показали вперемешку 100 фотографий белых людей, сгенеренных нейронкой, и 100 настоящих фото. И попросили указать, где на фотках настоящие люди. Результаты довольно предсказуемы: репрезентативная выборка людей опознала 61% сгенерированных фото как настоящих, и всего 51% настоящих людей были признаны годными.
Сложно сделать тут какой-то глубокий вывод. Качество генерации лиц давно на высоте, гораздо сложнее, если вы пытаетесь сгенерировать целиком человека. И совсем тяжело, если это видео.
https://www.theguardian.com/technology/2023/nov/13/white-faces-generated-by-ai-are-more-convincing-than-photos-finds-survey
Слухи от Блумберга: голландский Yandex NV собирается продать весь свой российский бизнес. Весь до конца, не оставляя себе никакой доли.
Честно говоря, мне кажется, это единственный выход для современного Yandex NV, жить, оперируя в России, для голландской компании это не вариант. Итого, у Яндекса останутся облачный хостинг, селфдрайвинг, образовантельные сервисы, толока и деньги на их развитие. Денег, правда, будет немного, т.к. продать русский бизнес за честную цену никто не позволит.
https://www.bloomberg.com/news/articles/2023-11-14/yandex-to-fully-divest-russian-assets-and-distribute-proceeds
По слухам, Google готовится инвестировать сотни миллионов долларов в Character.ai по оценке более чем $5B.
Основные причины такой большой оценки и самой инвестиции: 1. Фаундеры из гугла, 2. На сайте есть приличный трафик (около 100м в месяц, согласно заявлениям компании), 3. Есть небольшая выручка (менее 1 процента от бернрейта) за счет подписок пользователей. Посмотрим, как будет все развиваться, команда крутая, но честно говоря, полное ощущение, что компания делается на продажу стратегу.
https://www.reuters.com/technology/google-talks-invest-ai-startup-characterai-sources-2023-11-10/
Humane обещают в ближайшее время начать продавать свои устройства AI Pin — напомню, это такая брошка, которая соединена с облаком, имеет микрофон и камеру, а также проецирует на ладонь изображения. Идея простая: телефон очень отвлекает и заставляет все время на него смотреть, AI Pin не будет вас отвлекать.
Устройство стоит $700, но для его полноценного использования придется платить еще и подписку ($24 в месяц). Подписка нужна, чтобы покрыть расходы на GPT4 от OpenAI и услуги связи от t-mobile. Даже не знаю, выглядит интересно, но купить совсем не тянет.
https://www.nytimes.com/2023/11/09/technology/silicon-valleys-big-bold-sci-fi-bet-on-the-device-that-comes-after-the-smartphone.html
Чтобы вы представляли масштаб популярности Bing Chat — Майкрософт подписали соглашение с одним из своих злейших друзей, Ораклом. В рамках этого соглашения о “поддержке взрывного роста сервисов искусственного интеллекта” Майкрософт получат доступ к графическим процессорам A100 и H100 в датацентрах Оракла.
https://www.theregister.com/2023/11/07/bing_gpu_oracle/
xAI (это тот самый ИИ-стартап от Маска) заявил что разработал и обучил свою собсвенную языковую модель. Модель построена на классических уже трансформерах, (у прошлой их модели было 33 миллиарда параметров), 8к контекста, при этом заявлено что по своим результатам модель близка или лучше своих конкурентов. Сравниваются они конечно со всем кроме GPT-4, потому что до него еще далеко.
Верить результатам замеров или нет - выбор каждого. Я в этих результатах ничего сложного не вижу, примерно такого можно достичь при неограниченных ресурсах и прямом доступе к интересным датасетам (в данном случае - при полном доступе к Твиттер, например) https://x.ai/model-card/
Сэм Банкман-Фрид признан виновным во всех семи обвинениях, включая отмывание денег, мошенничество и преступный сговор с целью мошенничества. Такое решение вечером вынес суд присяжных в Нью-Йорке.
Приговор будет вынесен позднее, он может составлять до 110 лет заключения. Впрочем, на этом приключения Сэма не заканчиваются — весной он предстанет перед судом по обвинениям в даче взяток иностранным чиновникам (речь идет о Багамах) и нарушениях при финансировании политической деятельности.
Адвокаты Сэма будут подавать апелляцию, но сложно себе представить, какие им видятся перспективы, кроме высокого гонорара.
@blognot
https://www.ft.com/content/24d153b0-0c28-4946-acbe-2e93329bca52
Источники WSJ утверждают, что wework подаст на банкротство уже на следующей неделе. По сути банкротство по главе 11 — это точно такое же, как у FTX, т.е. признание несостоятельности и реструктуризация компании.
Напомню, на пике компания стоила 47 миллиардов, в свое время SoftBank купил акций WeWork более чем на 20 миллиардов, история одной самой неудачной инвестиции.
https://www.wsj.com/articles/wework-plans-to-file-for-bankruptcy-as-early-as-next-week-1fdcb6a5?mod=followamazon
Опять же, по слухам Stability AI ведет переговоры на ранней стадии с несколькими компаниями о продаже, поскольку руководители сталкиваются с давлением инвесторов по поводу доходов и финансового состояния компании.
Даже интересно, сколько сейчас может стоить такая компания, с учетом, что их бизнес построен на опенсорсной модели (по большей части) их же производства.
https://www.bloomberg.com/news/articles/2023-11-29/stability-ai-has-explored-sale-as-investor-urges-ceo-to-resign
Есть слух, что Apple планирует расторгнуть контракт с Goldman Sachs через год. Напомню, партнерство там было по потребительским кредитам, в том числе кредитным картам и сберегательным счетам.
Многие мои друзья с удовольствием пользуются картами Эппл. Интересно, какой будет выход, особенно в сочетании с совсем неявными слухами про переход их карт на amex.
https://www.wsj.com/finance/banking/apple-pulls-plug-on-goldman-credit-card-partnership-ca1dfb45?mod=followamazon
Много лет мы слышим про перспективы квантовых вычислений, по всем прогнозам в 2023 уже должны были существовать первые публично доступные квантовые компьютеры. Но пока что-то не двигается, вот и Алибаба закрывает свою лабораторию по этой теме. Все наработки передаются в дар университету.
Интересно, увидим ли мы хоть какие-то признаки квантовых компьютеров до конца 2025. Мой прогноз — нет, потому что темп разработок пока только замедляется.
https://www.bloomberg.com/news/articles/2023-11-27/alibaba-shuts-quantum-computing-lab-in-sign-of-broader-cutback
Ройтерс пишет о том, что якобы катализатором для увольнения Альтмана стало письмо исследователей от OpenAI к совету директоров. В нем исследователи предупреждают о Q*, большом прорыве в области полноценного ИИ, существенно превышающего интеллект человека и, как следствие, угрожающего человечеству.
При этом опрошенные директора говорят, что все это утка, и никакого письма не было.
https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/
Для тех, кто имеет подписку на информейшн — вот тут чуть подробнее про Q*. Главную тревогу исследователей вызвал тот факт, что ИИ научился решать довольно сложные математические задачи.
https://www.theinformation.com/articles/openai-made-an-ai-breakthrough-before-altman-firing-stoking-excitement-and-concern
Mt.Gox, биржа, которую взломали и обанкротили в 2014 году, начала выплачивать задолженность перед пользователями и кредиторами. Да, прошло 10 лет. Надеюсь, человечество чему-то научилось, и расплата по долгам FTX случится раньше чем через 10 лет.
https://www.theblock.co/post/264227/mt-gox-to-start-repaying-creditors-in-cash-shortly-this-year-trustee-says
По слухам Альтман возвращается в OpenAI. Если это правда, то скоро нас ждет целая серия фильмов про эту невероятную неделю. Я название придумал: “OpenAi: туда и обратно”.
По этим же слухам будет установлен новый борд правления из 9 человек, в который войдет и Альтман и Майкрософт https://www.theverge.com/2023/11/22/23967223/sam-altman-returns-ceo-open-ai
К черту OpenAI, это мелочи. Увольняется глава Binance, бессменный CZ. На его место, скорее всего, придет Ричард Тенг, которому предстоит выплатить миллиардные штрафы в SEC, чтобы компания продолжила работать.
https://www.forbes.com/sites/davidjeans/2023/11/21/richard-teng-a-top-contender-for-new-binance-ceo-as-cz-steps-down/?sh=700af346ef89
Да, я был в полном оффлайне почти неделю, сейчас буду постепенно возвращаться к работе. Спасибо, что ждали.
Главная новость утра: Сэм Альтман, глава OpenAI пишет, что они временно не принимают новых клиентов в ChatGPT, т.к. не хватает железа, чтобы обсчитывать с приемлемой скоростью все эти запросы.
Помните, в фантастике писали про войны за нефть? Кажется, сейчас начнется война за GPU, не менее жестокая.
https://twitter.com/sama/status/1724626002595471740
WhatsApp запустили "Voice Chat for Larger Groups" — по сути, клон дискорда внутри своего приложения. Мне кажется, вполне себе хороший способ развития темы голосовых чатов, особенно на ключевых для WhatsApp рынках.
https://techcrunch.com/2023/11/13/whatsapp-launches-new-discord-like-voice-chat-feature-large-groups/
Корпорации, как бы продвинуты они не были, остаются корпорациями. Майкрософт ограничивает доступ к чатгпт, миджерни, реплике и другим ИИ-инструментам. Основная причина: безопасность данных.
https://www.cnbc.com/2023/11/09/microsoft-restricts-employee-access-to-openais-chatgpt.html
Уже довольно давно (с 6 утра по Америке) лежит или почти лежит ChatGPT. Миллионы пользователей не знают, как работать дальше.
Я сейчас не шучу, привыкание к ChatGPT дикое, человек без него перестает понимать, что делать дальше, примерно как средний современный водитель без навигатора с GPS.
https://www.theverge.com/2023/11/8/23952129/chatgpt-down-openai-api-major-outage
Если вы пользуетесь любой версий Confluence — срочно сделайте бэкап всех данных. Обнаружена уязвимость, которая позволяет вносить изменения и удалять содержимое страниц и файлов. Уязвимы не только облачные инстансы (в статье написано, что сервера атласиан в порядке, но есть все признаки того, что это слишком оптимистичное заявление), но и те, которые расположены в пользовательских датацентрах.
https://arstechnica.com/security/2023/11/critical-vulnerability-in-atlassian-confluence-server-is-under-mass-exploitation/
Маск говорит, что Starlink достиг безубыточности. В 2021 Маск сказал, что SpaceX выделит Starlink в отдельную и возможно публичную компанию, как только ее денежный поток станет достаточно предсказуемым.
Верим? Ждем? https://www.reuters.com/technology/elon-musk-says-starlink-has-achieved-breakeven-cash-flow-2023-11-02/
Вот буквально только что вышла новая песня Битлз. Это не учебная тревога, песня воссоздана из старых архивных записей, не публиковавшихся раньше, живых голосов Пола и Ринго, а так же нейронок, которые чистили и склеивали куски. В общем, это удивительно, и песня звучит правда хорошо.
Побольше бы вот такого применения технологий.
https://www.theverge.com/2023/11/2/23943290/now-and-then-the-beatles-new-song-ai
В WeChat, Douyin (это китайский тикток), Kuaishou (это местный снапчат) и многих других социальных сетях Китая теперь требуется указывать свои настоящие, паспортные имена, если твоя аудитория более полумиллиона человек.
Так уже давно было в Weibo (это китайский твиттер), а теперь распространяется и на остальные сервисы. Понятно, что этого требует правительство.
https://www.bloomberg.com/news/articles/2023-10-31/tencent-kuaishou-demand-real-names-in-china-internet-tightening