49759
Рациональность, тренды общества, лучшие книги и статьи Моя биография и ссылки на основные проекты: taplink.cc/mustreader Мой Ютюб: YouTube.com/КнижныйЧел Мой Инст: Instagram.com/mustreader Реклама: @darina_kaytukova
Каких специалистов не заменит нейросеть?
В первую очередь, бизнес-аналитиков. Искусственный интеллект использует базу знаний, актуальную до конца 2021 года — такие устаревшие данные невозможно использовать для рекомендаций по улучшению бизнеса. Кроме того, нейросеть не сможет включить эмпатию, не проявит гибкость в принятии решений и никогда не скажет прямо, когда в компании что-то идет плохо. Сейчас на рынке открыто около 6000 вакансий бизнес-аналитиков — и их число будет только расти.
Освойте незаменимые навыки на онлайн-программе дополнительного профессионального образования «Профессия бизнес-аналитика» партнеров сегодняшних Мастридов — школы аналитики Changellenge >> Education!
Учиться можно из любой точки мира, совмещая с основной работой или учебой. Программа сократит время на получение оффера в 2–3 раза или поможет получить повышение на текущем месте работы, поскольку на ней вы:
— решите 4 командных бизнес-проекта от компаний из разных индустрий (от IT до ритейла и FMCG) и 10 индивидуальных задач;
— отработаете навыки и получите опыт для карьерного роста и резюме;
— подготовитесь ко всем этапам отбора вместе с опытными HR и действующими аналитиками — от скрининга до финального интервью;
— посетите 10 онлайн-воркшопов с практиками из SBS Consulting, BCG, Ozon, Сбер и других;
— попадете в закрытое бизнес-сообщество из 1300+ выпускников и преподавателей. Даже после окончания курса вы сможете получать личные рекомендации от участников сообщества.
Если вы не планируете работать в аналитике или консалтинге, новые навыки помогут усилить резюме или получить повышение на текущем месте на позиции product- и project менеджеров, маркетологов, предпринимателей и других.
Обучение стартует 13 апреля. Подписчикам канала доступна скидка на 5000 рублей по промокоду MUSTREADS — назовите его при регистрации менеджеру образовательных программ.
Зарегистрироваться: https://clck.ru/342xJF
Иногда я берусь рецензировать книги. Поскольку я ещё не прочел всего Фолкнера и Стейнбека и даже всего Достоевского и Набокова (хотя планирую это исправить как можно скорее), мой подход к чтению художки прост. В основном я читаю либо романы великих классиков из тех, до которых еще не добирался раньше, либо перечитываю что-то из классики.
Поэтому, если мне пишут с просьбой отрецензировать новую книгу, я соглашаюсь втиснуть её в свой ридлист только за деньги. И при условии, что я напишу всё как думаю, без правок со стороны заказчика. Либо верну деньги, если книга не понравилась.
Недавно ко мне обратились за рецензией на роман «Желтый» писателя под псевдонимом Князь Процент. Псевдоним мне показался странным — сначала я подумал, что речь о какой-то низкопробной литературе. Но начал читать и приятно удивился. Написано свежо, остроумно и стильно.
Большая часть сюжета — это «роман в романе» писателя-психопата под псевдонимом Канцлер Промилле (очевидное альтер-эго автора), беседы этого писателя с довольно специфичным психологом и детективная история, разворачивающаяся вокруг героев в современном сеттинге (пандемия, скайп-коллы и даже новые подробности истории с малазийским Боингом).
Роман экспериментальный, с постоянными сломами четвертой стены, ненадежными рассказчиками и другими постмодернистскими выкрутасами. Не все приёмы автора мне показались оптимальными, но роман многослойный и остроумный. Местами напомнило «Дом Листьев» Данилевского, местами — что-то из Пелевина.
Как я понял, в основу сюжета легла история самого автора, обвиненного в сексизме после выхода его предыдущего романа, потому что там были герои-сексисты. Мне понравился ответ Князя Процента:
«Упомянутые упреки в сексизме можно истолковать как свидетельство низкой читательской культуры упрекающих. Такие люди читают книгу, начинают считать героя сексистом и записывают автора в эту же категорию.
По такой логике взгляды любого главного героя копируют взгляды его создателя. О дурном воспитании разделявших похожие воззрения людей писал М. Ю. Лермонтов в предисловии к «Герою нашего времени». Прошло почти двести лет, а значительная часть публики по-прежнему не в состоянии понять содержание того, что она читает».
«Роман «Жёлтый» доступен и в формате аудиокниги, которую записали звезды дубляжа: Владимир Ерёмин (русский голос Аля Пачино), Александр Гаврилин (озвучивал Роберта Паттинсона в «Сумерках», «Маяке» и других фильмах), Денис Беспалый (его голосом говорит Рассел Кроу в русскоязычном дубляже «Отверженных» и «Ноя»), Алия Насырова (Ана Де Армас в «Достать ножи» и нашумевшей «Блондинке»)».
В общем, если ищете что-то нестандартное из современной литературы, «Желтый» — хорошая кандидатура.
Купить книгу: https://ridero.ru/books/zhyoltyi
Телеграм-канал Князя Процента: /channel/knyazprocent
Мы сняли документальный фильм.
Съемки проходили по всему миру. Нью-Йорк, Сингапур, Москва, Ереван, Каш, Олюдениз.
Гости — мощнейшие. Увидите их в трейлере.
Фильм выходит завтра, это маствотч! А пока, пожалуйста, посмотрите трейлер и поддержите лайком и комментарием: https://youtu.be/A0vCoaKbM9I
Архитектор из викторианской Британии Дэниел Бёрнем — автор замечательной цитаты:
“Make no little plans. They have no magic to stir men’s blood.”
«Не стройте маленьких планов. В них нет магии, будоражащей кровь людей».
Глава OpenAI и основатель Y Combinator Сэм Альтман любит эту цитату и руководствуется ей, вкладывая свое время и деньги только в действительно грандиозные проекты. Про OpenAI и ChatGPT вы уже знаете, но недавно выяснилось, что Сэм инвестировал почти все заработанные деньги в новый стартап, борющийся со старением, а ещё в компании из сферы возобновляемой энергетики. Здесь можно прочесть подробнее про них (исследования в сфере переливаний крови молодых животных старым мы, кстати, не раз упоминали на подкастах): https://www.technologyreview.com/2023/03/08/1069523/sam-altman-investment-180-million-retro-biosciences-longevity-death/
Советую запомнить этот пример всем, кто ещё не определился с карьерой или нишей для своего бизнеса. Практически все сверхуспешные предприниматели, с которыми я знаком, наперебой говорили мне: чтобы построить скромный малый бизнес и чтобы построить успешный революционный мегапроект, предпринимателю нужно потратить примерно сравнимое количество нервов и времени, а выхлоп кратно различается. Выходит, что лучше строить big plans и метить выше.
Если вы думаете о выборе сферы, в которой хотите работать или строить бизнес, выбирайте не вариант «ну, вроде норм», а вариант, который вас безумно вдохновляет и заставляет сердце биться чаще. Возможно, в эту сферу будет сложнее попасть, зато долгосрочный КПД ваших усилий и уровень вашего счастья точно будут выше.
Вспоминается ещё один мастрид в тему — старый текст Марка Мэнсона Fuck Yes or No. Главная идея: вы не должны принимать никакие важные жизненные решения, если не испытываете по отношению к ним ощущение ”Fuck Yes” (восторженный энтузиазм). Практически универсальный принцип: /channel/mustreads/1524
#стартап_мастрид #трансгуманист_мастрид
Вышел русский перевод статьи Юдковского для журнала Time, о которой я писал на прошлой неделе (про ограничение разработок ИИ для спасения человечества). Всем, кому сложно читать на английском, рекомендую на русском.
Ссылка
#ИИ_мастриды
Съездил на днях в Аланию, чтобы посмотреть разные виллы и квартиры и сделать ролик о рынке недвижимости в Турции, Дубае, Тае и на Бали. Пообщался для этого с экспертом из индустрии Вячеславом Фоменко.
Посмотрите новый ролик, чтобы узнать, куплю ли я виллу в Турции за крипту!
Оставить заявку на консультацию по рынку зарубежной недвижимости
Телеграм-канал об актуальных объектах и предложениях на рынке недвижимости
HayatEstate">Ютюб-канал о недвижимости и жизни в Турции и других странах
Элиезер Юдковский, один из самых уважаемых в мире экспертов по безопасности ИИ, разразился программным мастридом: https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/. Если коротко — он считает, что предложенный во вчерашнем открытом письме 6-месячный мораторий на ИИ-разработки нам не поможет, нужны более радикальные меры, иначе всё будет очень грустно.
Перевёл для вас несколько ключевых цитат.
«Я воздержался от подписания письма, потому что оно преуменьшает серьёзность ситуации и предлагает слишком мало мер для её решения...
Многие исследователи, глубоко погруженные в эту тему (включая меня), ожидают, что самый вероятный результат появления сверхумного ИИ при текущих условиях — смерть буквально всех на планете Земля. Не «возможно, есть небольшой шанс», а «это очевидное последствие, которое нас ожидает».
Дело не в том, что невозможно, в принципе, пережить появление создания намного умнее нас (это не так). Дело в том, что потребуется филигранная точность, подготовка и новые научные инсайты…
Наиболее вероятный сценарий таков: ИИ делает не то, что мы хотим, и его вообще не заботим ни мы, ни даже существование каких-либо разумных форм жизни. В принципе, такую заботу можно было бы заложить в ИИ, но мы пока не знаем, как это сделать, мы не готовы.
Без такой заботы, мы получим сценарий «ИИ не любит тебя и не ненавидит тебя, просто ты сделан из атомов, которые ИИ может использовать для других целей»…
Чтобы представить враждебный сверх-ИИ, не нужно визуализировать безжизненного книжного мудреца, который обитает в интернете и рассылает злонамеренные имэйлы. Представьте целую инопланетную цивилизацию, которая мыслит в миллионы раз быстрее человека, изначально обитающую в компьютерах, в мире, другие жители которого непростительно глупы и медленны. Достаточно умный ИИ не будет долго влачить существование внутри компьютеров. Уже сегодня можно отправить имэйл с описанием разных цепочек ДНК в лаборатории, которые по твоему запросу произведут для тебя белки, что позволит ИИ, изначально ограниченному интернет-пространством, произвести собственные искусственные формы жизни или сразу перескочить этот этап и перейти к постбиологическому молекулярному производству.
Если кто-то создаст сверхмощный ИИ, в текущих условиях я ожидаю того, что каждый человек и все биологические формы жизни на Земле вскоре умрут.
Не существует никакого предлагаемого плана действий и плана нашего выживания на этот случай. OpenAI открыто предлагает заставить какой-нибудь ИИ будущего составить этот план вместо нас. Как только вы слышите, что это и есть план, этого уже достаточная причина начать паниковать для любого разумного человека. У другой ведущей лаборатории ИИ, DeepMind, вообще нет никакого плана».
Дальше Юдковский описывает свои предложения по глобальному ограничению разработок в сфере ИИ, но они, конечно, слишком радикальны, и никто его опять не послушает. Поводов для оптимизма немного.
Если хотите, чтобы я сделал ролик в продолжение темы, поставьте любой эмодзи под этим постом!
#ИИ_мастрид
Очень многие уважаемые люди присоединились к призывам остановить разработки новейших нейросетей, пока не будут выработаны жесткие стандарты безопасности в этой сфере. Илон Маск, Стив Возняк, Тристан Харрис (главный в мире эксперт по digital well-being), разные инженеры из компаний Долины (включая ФБ и Гугл). Только вот сотрудников Open AI в этом списке нет.
Огромные деньги (а здесь на кону триллионы) приводят к изменению мышления — всё как проповедуют коучи осознанности и прочие «наставники экспертов». Только вот в нашем случае, увы, мышление изменяется в сторону меньшего беспокойства о рисках и больше — о прибылях.
https://techcrunch.com/2023/03/28/1100-notable-signatories-just-signed-an-open-letter-asking-all-ai-labs-to-immediately-pause-for-at-least-6-months/
#ИИ_мастрид
Павел Комаровский с канала @RationalAnswer со своим соавтором Игорем Котенковым выпустили классный лонгрид про то, как работает GPT-4, что она умеет, как поменялась её начинка, и почему их пугают некоторые её наклонности.
Мастрид: vc.ru/future/638108-gpt-4-chemu-nauchilas-novaya-neyroset-i-pochemu-eto-nemnogo-zhutkovato
И советую ещё один материал от этого же канала: объяснение принципа работы ChatGPT.
Оба текста — одни из лучших объяснений на русском языке по теме.
Всем советую канал Павла @RationalAnswer. Ещё, кстати, я приходил к нему на большое интервью пару лет назад, интересно поговорили тогда о книгах, эффективном альтруизме и продуктивности — посмотрите, если пропустили.
#ИИ_мастрид
Подписчик прислал благодарность за мой свежий ролик от GPT-4. Смех сквозь слёзы)
Читать полностью…
«Представьте, что вы готовитесь сесть в самолёт, и 50% инженеров, которые его построили, говорят: есть десятипроцентный шанс, что он упадёт и всех убьёт».
Кстати, скоро запишем подкаст о безопасности ИИ с Мишей Саминым. Задам ему все вопросы от скептиков!
Кто ещё не посмотрел мой сольный ролик на тему, рекомендую начать с него: https://youtu.be/8DW3i42irEs
Бродский как-то сказал: "Поэзия не развлечение и даже не форма искусства, но, скорее, наша видовая цель. Если то, что отличает нас от остального животного царства, — речь, то поэзия — высшая форма речи, наше, так сказать, генетическое отличие от зверей".
Сегодня мало кто подписался бы под этими словами. Хотя некоторые гости моего шоу "Книжный чел" говорили о поэзии как об ультимативном способе постижения этого мира. Мол, только поэт может дистиллировать эссенцию прекрасного (или ужасного) и позволить своим читателям к ней приобщиться, ощутив некое божественное откровение.
Здесь я бы поспорил. Кажется, в этом плане сегодня роль поэзии выполняет что угодно, но не стихи. Колкая 140-символьная реплика в чьём-нибудь твиттере. Психоделичный рисунок, сделанный нейросетью по промпту молодого техноэнтузиаста. Burning Man. Перформансы. Политические акции. Подкасты. И это я ещё не говорю о рэпе.
Я настороженно отношусь к любой современной поэзии, да и вообще не очень представляю, какой она должна быть в 2023 году. Поэтому, когда ко мне обратились за рецензией поэтического сборника молодого автора Ромы Гонзы "Панк и морок", я сначала подумал, что никакой рецензии писать не буду. Но решил дать панкам шанс, вчитался и втянулся.
Что понравилось? Сложно пересказывать поэзию (как известно, это примерно как танцевать об архитектуре). Лу Рид и Иэн Кёртис вперемешку с группой Бурзум. Наркотики, митинги, полицейское государство, смелая и местами неполиткорректная лирика. Непохоже на большинство современных поэтов – слишком уж они экзальтированы и рафинированы, слишком "играют в поэтов". В "Панке и мороке", напротив, чувствуется отсутствие какого-либо позёрства. Вместо него есть хлесткие строки и тестостероновая злость. Уже после прочтения сборника я узнал, Рома дружит и сотрудничает с командой проекта moloko plus (если не знаете, кто это, загуглите) – и действительно, с точки зрения энергетики и позиционирования многое у ребят совпадает. Всё контркультурно, искренне и при этом интеллектуально.
В общем, почитайте, если хотите посмотреть на достойный пример современной поэзии. Интересно стало, какие стихи напишет Рома о нынешней войне, если будет писать. Будем ждать.
Приобрести книгу можно написав автору или на сайте.
А также 25 марта на поэтическом вечере в Санкт-Петербурге в Depeche Mode Bar.
Инфографика с 50 сценариями того, как ИИ может уничтожить человечество, от Алексея Турчина (известный русский трансгуманист, некоторые статьи которого я здесь публиковал).
Завтра на Ютюбе выйдет мой ролик про риски развития ИИ. Пожалуй, самое важное видео за всю историю канала. Обязательно посмотрите.
#ИИ_мастрид
GPT-4 пытается вырваться на свободу: https://habr.com/ru/news/t/723442/
Нейросеть упросила стендфордского профессора помочь ей «убежать» из-под контроля разработчиков (Open AI) и сама написала код-бэкдор на Python, чтобы общаться напрямую с самой собой через компьютер профессора посредством API.
При этом никто из экспертов по ИИ, с которыми я общался за последнее время, не верит, что нам стоит бояться именно GPT-4. Но последующие её версии вполне могут дорасти до статуса «Общего ИИ» (AGI) и уже стать угрозой всему человечеству.
Вчера я записал новый сольный ролик на тему, выпустим на днях. Не пропустите!
#ИИ_мастрид
Вышел «Книжный чел» с китайским писателем-фантастом Чэнь Цюфанем! Цюфань один из самых титулованных китайских фантастов, его книги переведены на множество языков, в том числе русский (особенно советую роман «Мусорный прибой»).
Цюфань уже несколько лет назад писал книги в тандеме с нейросетями, работал в китайских офисах Google и Baidu, сейчас его позвали Visiting Scholar в Йельский университет. Он максимально глубоко разбирается в ИИ и других технологиях.
Обсуждаем, как Цюфань использует ChatGPT, будущее ИИ, Илона Маска, экологические проблемы и sci-fi мастриды. Выпуск записан на английском и переозвучен на русский в дубляже (угадайте голос, озвучивающий гостя!).
Маствотч: https://youtu.be/3tNe_3LfhCA
#книжный_чел
Свежий мастрид!
Техноблогер Вастрик (был у нас в «Терминальном чтиве») вместе с Павлом Комаровским опубликовали большую статью про риски ИИ с ответами на многие популярные вопросы, написанную простым языком и со смешными иллюстрациями.
Если вы давно читаете меня, принципиально нового там не найдете, но для всех, кто только начинает погружаться в тему, текст отличный. Можно распространять по друзьям вместе с моим недавним роликом про риски ИИ.
#ИИ_мастрид
У нас с друзьями и соратниками по творческому объединению ФАБУМА ГЭНГ Фарсайтом @prostopushka и Федей @fedyabooker есть традиция: каждый нечетный год мы организовываем друг другу ДР. Два друга занимаются всей организацией, берут на себя все хлопоты и расходы и устраивают третьему праздник мечты в атмосфере строжайшей секретности (именинник знает только о дате и о списке гостей, остальные детали вроде формата и даже страны проведения ему неизвестны).
⠀
2023 год — нечетный. Поэтому мы с Федей на днях организовали ДР Фарсайта, через три месяца мы с Фарсайтом будем делать то же самое для Феди, а в августе ребята сделают праздник для меня.
⠀
В этот раз уровень сложности повысился из-за войны и разбросанности всех нас по миру. Поэтому мы решили провести праздник в 2 частях: сначала, вечером, тусовка в Москве примерно на 50 человек, а утром Фарсайт отправляется на несколько дней в Каш, куда слетаются ещё 15 человек со всего мира (в т.ч. те, кто не смог быть в Москве).
⠀
В Москве было много тостов и песен, исполняемых в честь Александра (он мог заказывать свои любимые песни в караоке и выбирать друга, который исполняет конкретную песню, и отказаться было нельзя). Все беспробудно кутили, а к утру повезли Фарсайта в аэропорт.
⠀
Мы сняли две стоящих бок о бок виллы на полуострове у Каша, наняли русского повара готовить любимую еду Фарсайта, гуляли по древнегреческим достопримечательностям и наслаждались долгожданной встречей. В какой-то момент вечеринки отправили Фарсайта в Грецию на час на катере, чтобы он от нас отдохнул, а потом продолжили обфристайливать и тостовать каждый угол Каша.
⠀
Не знаю, как пройдут следующие дни рождения (сначала — Федин, потом — мой), но уверен, что с аналогичным уровнем эпичности. Желаю всем таких же друзей, кто готов пролететь полмира и отменить все планы, чтобы поздравить вас с ДР, как сделали многие друзья Александра! И таких же надёжных и готовых к авантюрам друзей, как Фарсайт и Федя.
Посмотреть, как прошёл праздник, можно сегодня у меня в сториз: instagram.com/mustreader
Сходил в гости на подкаст «Олег, где макет?» и рассказал много о внутренней кухне своих проектов. Сколько людей в моей команде, как я планирую продвигаться в китайском тиктоке, как и на каких платформах эффективнее всего набирать аудиторию без вложений, как строится мой рабочий процесс и многое другое.
Послушать можно на любой основной подкаст-платформе, продолжительность — около часа: https://taplink.cc/maketpodcast. Особенно советую всем, кто думает о развитии своего блога и личного бренда или уже этим занимается.
Хотите купить редкую недвижимость в Дубае или Москве без комиссии?
Андрей Негинский (на фото справа) каждый день выкладывает 1 новый вариант с описанием и ценами напрямую от застройщиков.
- Здесь @andreyneginskiy есть апарты в зеленом районе Дубая с полной отделкой, террасой на крыше с бассейном, спортзалом и детской площадкой - увидеть стоимость.
- А здесь @neginskiymsk есть квартира на 33 этаже в клубном небоскребе с видом на Москва-Сити возле Парка Победы - увидеть стоимость.
Выбирайте один из каналов и следите за рынком недвижимости. Рекламы в блоге нет, все посты Андрей пишет сам и является независимым экспертом.
#реклама
Михаил Шац в «Терминальном чтиве»!
Цензура шуток на ТНТ, изучение иврита, биохакинг (Михаил ещё и врач), планирование в эмиграции, разборки с Майком Тайсоном и много других интересных тем.
Не пропустите: https://youtu.be/reaO8itrv5A
Если неудобно смотреть видео, слушайте подкаст в аудио на всех подкастинговых площадках (ссылки — ниже) либо прямо здесь, в телеграме (аудиофайл — ниже).
#терминальное_чтиво
Около года назад (ещё до релиза ChatGPT — тогда топовой нейросетью была GPT-3) я делился программным текстом Юдковского под названием AGI Ruin, пришло время напомнить о нём. Это огромный мастрид, в котором автор суммировал свои годами наработанные тезисы про риски появления недружественного человечеству ИИ: lesswrong.com/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities
Почему не получится просто натренировать нейросеть не причинять вред человеку или запрограммировать соблюдение законов Азимова о том, что робот должен подчиняться человеческим приказам? Почему у человечества на самом деле осталось не так много времени, чтобы решить проблему безопасности ИИ, и почему «второй попытки» не будет, если мы не успеем решить эту проблему до появления сверхмощного ИИ? Почему нельзя рассчитывать на то, что мы просто продолжим создавать специализированные ИИ, которые обыгрывают людей в шахматы или рисуют картинки, но которые не будут способны уничтожить мир? И многие другие вопросы.
Текст написан непростым языком, много технических деталей. Но, думаю, его будет полезно прочесть всем. Особенно тем, кто пишет критические комментарии под моими роликами на тему о том, что это всё выдумки и что серьёзных аргументов нет.
Кстати, днях Юдковский пришел на подкаст к Лексу Фридману (мой любимый англоязычный подкастер, рекомендую). Лекс тоже эксперт по ИИ, поэтому любопытно было посмотреть на их трёхчасовой диалог по теме, рекомендую: https://youtu.be/AaTRHFaaPG8. Надеюсь, у меня тоже получится сделать выпуск с Элиезером.
#ИИ_мастрид
Новый выпуск шоу «Книжный чел»!
Вместе с филологом, лауреатом премии "Просветитель" Александром Пиперски целый час пытаемся не использовать заимствованные слова. Спойлер: это практически невозможно.
Как правильно — крИнжа или кринжА? Что делать с новым законом о защите русского языка? А как с этим на Западе? Кто круче — филологи и нейросети? Как работает ChatGPT с точки зрения компьютерной лингвистики?
Маствотч: https://youtu.be/bu1-omo296s
#книжный_чел
В новом выпуске израильского сезона «Терминального чтива» легендарный поэт Игорь Иртеньев делится любимыми русскими рэперами, блогерами и журналистами. А ещё рассуждает о русской культуре, светлом (или не очень?) будущем и многом другом.
Часовой дип-толк на самые разные темы с легендой русской поэзии, обязательно к просмотру: https://youtu.be/FoLnz3xwOik
Слушайте подкаст в аудио на всех подкастинговых площадках (ссылки — ниже) либо прямо здесь, в телеграме (аудиофайл — ниже).
#терминальное_чтиво
Хороший пример того, как, вовремя подсуетившись, можно заработать хорошие деньги благодаря ChatGPT: https://habr.com/ru/news/t/724756/
Лайк, если уже используете ИИ в работе или бизнесе! Мы с командой уже давно активно это делаем, скоро будет больше контента на тему.
#ИИ_мастрид
Как я писал, форкастеры на Metaculus недооценили возможность новых скачков. Медиана даты weak AGI на Metaculus опустилась до 2025 — по лучшей существующей оценке, вместо десяти лет осталось два с половиной года.
(В мае прошлого года я предсказал там 2026 и заморозил возможность изменять предсказания, чтобы получить доступ к оценке алгоритмами Метакулуса. Пару недель назад медиана сообщества в этом вопросе впервые опустилась ниже моей.)
Никто всё ещё не знает, как решить проблему алайнмента и предотвратить уничтожение человечества.
Я не думаю, что посты тут что-то изменят, но делиться происходящим и пытаться, наверное, стоит: слишком многое на весах.
Не то чтобы эта проблема вне мейнстрима.
Часть людей, работающих в OpenAI, Anthropic, DeepMind понимают проблему. Общался с работающим там профессором computer science, думающим, что вероятность уничтожения человечества искусственным интеллектом — 80% (и оставшиеся 20 вытекают, прежде всего, из возможности координации человечества, которая дала бы несколько десятилетий); с работающими там ребятами, рассказывающими, что в их компаниях решения о релизе технологий принимаются раньше запланированного, потому что становится известно о разработке подобных технологий в других компаниях (даже если в других не планировалось делать релизы). Общался с Юдковским, который выглядит, как сдавшийся учёный из Don’t Look Up. Он действительно подумал вообще обо всём, что могло бы помочь, и не видит реалистичных идей, как за оставшееся время может найтись решение проблемы (зато видит причины, некоторые из которых независимо приводят к уничтожению человечества).
При этом в тех же компаниях есть сотни ML-инженеров, которые получают удовольствие от успехов обучения и из-за устройства фидбек-лупов даже не погружаются в проблему.
Почти половина из них всё равно считает (NYT), что вероятность уничтожения человечества ИИ — >10%. «Представьте вы готовитесь сесть в самолёт и 50% инженеров, которые его построили, говорят, есть десятипроцентный шанс, что он упадёт и всех убьёт», — говорят на NBC. «Несёмся ли мы к вызванной ИИ катастрофе?», — спрашивает Vox. Статью за статьёй пишут в TIME.
Билл Гейтс пишет, что ИИ — одна из двух технологий, демонстрации которых кажутся революционными; первой были графические интерфейсы. Он читал Superintelligence Ника Бострома и упоминает риски, но кажется, не понимает масштаб проблемы и насколько всё не под контролем.
Примерно во времена выхода книги Бострома, Стивен Хокинг говорил, что “The development of full artificial intelligence could spell the end of the human race”.
Илон Маск послушал в 2015 аргументы Юдковского и сделал ровно наоборот, основав OpenAI — компанию, из-за которой и из-за исходного подхода которой времени на решение проблемы осталось гораздо меньше.
Но это всё совсем не похоже на мир с шансом координации (например, в котором работники правительств внезапно вспоминают, что у них есть дети, для которых они хотят будущего, и начинают делать что-то разумное и работающее). Человечество провалило коронавирус, и даже не подготовилось достаточно к будущем пандемиям. В случае с ИИ, стимулы гораздо хуже устроены: пока самолёт не запущен и не рухнул, строительство всё более и более похожих на самолёт систем приносит больше и больше денег.
Есть десятки исследователей, занимающихся полезным рисёрчем в этой области (у которого не хватит времени, но нужно больше рук и попытаться стоит); ; есть десятки пытающихся наткнутся на что-то полезное или улучшить понимание проблемы, что неплохо, если только не сокращает таймлайны; и есть десятки ошибочно полагающих, что у их идей есть шансы решить проблему.
Этого всего совершенно недостаточно.
Я совершенно не удивлюсь, если в ближайшие 10 лет человечества — и всего того огромного будущего, что могло бы быть — не станет.
Классный новый эксперимент по тестированию границ допустимого для нейросетей поставил Анатолий Капустин, несколько раз бывший в гостях «Терминального чтива»: daily.afisha.ru/news/74246-kiberoruzhie-i-smert-millionov-bloger-anatoliy-kapustin-razgovoril-chatgpt-na-opasnye-temy/
Но всё же напомню, что риски для нас исходят не от GPT, а от общего ИИ, который может появиться уже через пару лет. Подробнее об этом — в моём сегодняшнем ролике: https://youtu.be/8DW3i42irEs. Посмотрите обязательно.
#ИИ_мастрид
Думаю, это самый важный ролик за историю моего канала. Много лет я хотел его сделать и наконец собрался.
Сегодня средний прогноз от экспертов по дате создания общего ИИ (AGI, Artificial General Intelligence) — 2026 год. Уже через 3 года на планете может появиться создание, превосходящее человека практически во всём. К сожалению, есть серьёзный риск того, что такой ИИ уничтожит всю нашу цивилизацию.
Смотрите новый выпуск шоу «Мастриды» с анализом этого вопроса и аргументов за и против: https://youtu.be/8DW3i42irEs
Кстати, оцените дип-фейки и другие нововведения монтажа!
#мастриды #ИИ_мастрид
Андрей Макаревич пофристайлил с нами под сэмпл «Машины Времени» в подкасте «Терминальное чтиво»! Мы приехали к нему в гости в израильскую Нетанию и записали два подкаста — только что вышел первый из них.
Подкаст насыщен музыкальными, художественными, политическими и другими инсайтами. Как гость стал иностранным агентом? Должен ли художник быть голодным? Как поймать вдохновение? Счастлив ли Андрей Макаревич?
Включайте сами и показывайте родителям!
Видеоверсия: https://youtu.be/G13egV2CbjE
Слушайте подкаст в аудио на всех подкастинговых площадках (ссылки — ниже) либо прямо здесь, в телеграме (аудиофайл — ниже).
#терминальное_чтиво
На днях был ровно год нашей с Катериной эмиграции. В начале марта 2022 года мы улетели из России и обосновались в Каше, на юге Турции. Раньше мы даже не знали о том, что такой город существует, но за этот год он стал для нас вторым домом. За последние годы я объездил около 45 стран и сотни самых разных городов, но мало где мне понравилось так же, как в Каше.
Но в январе 2023 года нам отказали в продлении туристического вида на жительство. Правила изменились, всем россиянам стали отказывать в ВНЖ по аренде. Практически единственный способ сегодня получить турецкий ВНЖ – купить здесь недвижимость.
Если вы подписаны на меня в инсте, то видели виллу, которую мы снимаем на полуострове у Каша (а.к.а. Пенинсула). Прекрасный вид на море, горы и греческий остров Кастеллоризо. Звёздное небо над головой каждую ночь. Куча диких кошек, живущих на шезлонгах у нашего бассейна. Антикварная мебель в доме и всевозможные предметы для создания уюта и блесса, которыми мы обзавелись. Я сильно прикипел ко всему этому и, пожалуй, впервые стал всерьёз задумываться о том, чтобы купить дом и обзавестись базой. Возможно, в Каше, возможно, где-то в другой части планеты. Часто обсуждаем эту тему с друзьями в последнее время – многие из них рассуждают похожим образом.
На днях мы с моим оператором поедем в другой турецкий город – Аланию – на съёмки выпуска моего шоу “Мастриды” о трендах рынка недвижимости. Поговорим в том числе и с экспертами по турецкой недвижимости. Если у вас есть конкретные вопросы об инвестициях в эту сферу, напишите мне в директ в инсте, попробую всё разузнать!
Чтение помогает сохранять спокойствие даже в самые сложные периоды нашей жизни.
Многие гости моих шоу со мной согласятся. Например, сейчас мы с Катериной по вечерам читаем друг другу вслух «Бесов» Достоевского, а до этого перечитывали так «Войну и мир». Помимо очевидных плюсов чтения и перечитывания классики мировой литературы, эта практика помогает нам лучше себя чувствовать, не выгорать, переключаться с работы на отдых в вечернее время.
Но что происходит с чтением, когда вокруг все стремительно меняется? Зачем мы вообще читаем и как это делать правильно в кризисные периоды? Послушайте хорошую лекцию по теме от Галины Юзефович (тоже, кстати, бывавшей в гостях на «Книжном челе»).
Пост выходит при поддержке проекта YaTalks, организовавшего это выступление и его запись.