ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

07 Dec 2024 13:08

Почему я делаю Unlock Biology?

У человечества уже есть chatgpt для текстов, midjourney для картинок, muzero для игр, alphafold для биохимии итд — а для системной биологии foundation моделей нет. Считаю это самой важной/интересной темой после agi, наравне с нейроинтерфейсами и fusion.

Наша основная идея сводится к предсказанию “как клетка отреагирует на воздействие” — например, на малую молекулу, генную модификацию, транскрипционный фактор, вакцину итд. Языковые модели предсказывают следующий токен, а наши биологические — следующее состояние клетки.

Главная проблема — комбинаторная сложность и недостаток данных. Невозможно «просто научить компьютеры биологии, показав им все варианты».

Например, при поиске таргетов или оптимизации клеточных терапий обычно нужно анализировать взаимодействия генов не поодиночке, а в группах. Иллюстрация на салфетке: у нас >20 тысяч генов, чтобы проверить эффект выключения трёх генов нужно выполнить
>С(20000,3) экспериментов, >триллиона. Даже при сужении круга генов до 10 тыс (на основе предварительного отбора) остаётся 166+ млрд комбинаций. Если работать с 1000 генов, то количество комбинаций сократится до 166+ млн, всё ещё нереально много экспериментов. Даже для выбора трёх из ста генов есть больше 160 тысяч комбинаций. Надо смотреть не только нокауты, но и нокдауны, и оверэкспрессии — число растёт дальше. И манипуляции возможны не только с регуляторными генами, но и с нерегуляторными (ещё 40+ тыс). Ещё надо бы рассматривать воздействия на эпигеном, посттранскрипционные механизмы, белковые комплексы, метаболизм, мембранные компоненты. Плюс, в клетке много контекстно-зависимых взаимодействий — реакция на изменение экспрессии одного гена может зависеть от состояния других генов, от метаболического состояния, от внешней среды…

В общем, напрямую сделать достаточно экспериментов, чтобы “показать” компьютерам биологию, сейчас не получится.

Опуская важные подробности, в прошлом году один гениальный Виктор, на пару с другой лауреаткой модной награды, придумал, как (в тч на основе его результатов в Гарварде и после) преобразовать статические био данные в динамические, извлекая информацию о времени, неявно содержащуюся в single-cell rna sequencing. Такая повышенная sample efficiency должна помочь использовать гораздо меньшие датасеты для тренировки моделей, получая при этом больше инсайтов.

Я год копался в биологии — офигеть сложная: прочитал мало десятков статей целиком и несколько десятков частично, проходил курс mit, читал molecular biology of the cell, послушал ~60 выпусков релевантных подкастов (+ещё сотню в несознанке, когда забывал сонный таймер). И в ml заново разбирался — 8 лет прошло со времён, когда использовал всерьёз. Говорил голосом за год с примерно 150 ресёрчер(к)ами, 100 инвестор(к)ами и 200 предпринимател_ями/специалист(к)ами — бесконечно ездил на конференции (с учётом пересадок будет 46 полётов за 2024, плюс поезда-автобусы), просил интро, писал тысячи холодных писем и сообщений в линкедыне. Захантил офигенных людей, вместе доработали концепт до понятных применений/роадмапа, но пока что не добыл денег — стремительно потратили $100к, для следующей стадии нужно $1.5м, несколько фондов/ангелов с фокусом на ai дали (ничего не гарантирующие!) софт коммиты с комментарием “найди биотех или техбио лид инвестора, тогда вложимся”. Выступал с офлайн докладами про перспективы cell simulations на 4 офлайн эвентах и на десятке онлайн.

Много сомневался и сомневаюсь в себе, тк результат пока неутешительный: раунд не поднят, партнёрства не подписаны (одно оч крутое in progress), хантить в команду сложно (получается всё лучше и лучше), запиленные результаты занятны, но пока не groundbreaking (ресурсов не было, но вообще-то моя задача их привлечь). Типичный биотех фаундер имеет phd или md — на этот раз синдром самозванца по делу!

Ну, у меня потрясающие коллеги, крутая идея на фронтире, куча применений, начиная с клеточных терапий, дофига resilience, странных социальных навыков и энергии — прорвёмся. На новом уровне научился балансировать между делегированием и соло результатами 👽

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

24 Sep 2024 23:40

«Я еще в конце 2000-х зачитывался Элиезером Юдковским — про риски ИИ, как все это будет опасно, и такой — ну, окей, где-нибудь в 2030-х, в 2050-х будут проблемы. Но в 2022-2023 годах стало понятно, что все гораздо быстрее продвинулось в областях, где таких скоростей вообще не ожидалось. Почти все эксперты, предсказывавшие безумные скорости прогресса, оказались посрамлены.

Поэтому я закопался в биологию. Сначала это была просто мечтательная идея, но с конца 2023-го она начала обретать очертания бизнеса. У нас есть небольшие поднятые инвестиции, и прямо сейчас поднимаем еще».

Предприниматель Дмитрий Калупин, математик по образованию и айтишник по роду занятий, рассказал Reminder о том, какая связь между искусственным интеллектом и биотехнологиями, как он начал ездить на крипто-тусовки, прожил месяц в pop-up городе Виталика Бутерина и два месяца — на карибском биткоин-острове.

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

16 Aug 2024 13:02

Я почти что понял, что именно хочу/надо сделать, чтобы максимально в меру сил (моих и тех, кто верит в похожее) законтрибьютить в биотех

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

16 Aug 2024 12:48

Нам разумно вести лог фидбеков к контенту и превращать их в задачки

Analyze the attached transcript of our startup pitch and the following discussion. Provide a concise summary of:
1 Key strengths and positive feedback from both the pitch and Q&A
2 Critical areas for improvement in our presentation and responses
3 Important questions or concerns raised during the discussion
4 Recurring themes or topics of interest to the audience
5 Suggestions for enhancing our slides, pitch delivery, and ability to address follow-up questions
Focus on actionable insights that can help us refine our overall fundraising approach. Highlight any discrepancies between our pitch and our answers in the discussion. Provide most important points first and secondary points next.

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Dec 2023 14:36

Рубрика "советы о стартапах". В этом году раз десять что-то похожее отвечал :(

Слышал, что подобные ответы токсичны. Но если у меня искренне спрашивают мнение, а я искренне считаю, что это с огромной вероятностью трата времени -- то что делать? Просто успехов желать?

(Хотел ли бы я слышать подобный фидбек на свои идеи? Верю, что да, но мб virtue signaling)

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

13 Dec 2023 01:15

Sam Altman: "Я верю, что слияние уже началось, и мы уже несколько лет в нём. Наши телефоны контролируют нас и говорят, что делать и когда; ленты социальных сетей определяют наше настроение; поисковые системы решают, что мы думаем. Алгоритмы, которые делают всё это возможным, больше не понимаются ни одним человеком. Они оптимизируют то, что говорят им оптимизировать их создатели, но способами, которые никто не в силах понять"

"Это, вероятно, не может быть остановлено. Научный прогресс в конечном итоге происходит, если законы физики этому не препятствуют. Если мы сами себя не уничтожим, сверхчеловеческий ИИ обязательно случится, генетическое усовершенствование обязательно случится, и интерфейсы мозг-машина обязательно случатся. Было бы провалом человеческого воображения и человеческого высокомерия предполагать, что мы не создадим вещи умнее себя"

"Я думаю, что слияние, вероятно, является нашим лучшим сценарием. Если два разных вида хотят одного и того же, и только один может это иметь -- в данном случае, быть доминирующим видом на планете и за её пределами -- они вступят в конфликт"

https://blog.samaltman.com/the-merge (конец 2017 -- полгода после выхода Attention Is All You Need, шесть лет назад)

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

23 Nov 2023 13:37

Разве может робот написать сцену сражения? А взять корявый промпт и превратить его в синопсис романа?

Да, может. Лучше, чем заказывали

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Nov 2023 13:59

Data quality and transparency are truly important -- but goal-setting and decision-making, including potential for deception and power-seeking behavior, are a threat vector. Long before AGI

These might be funny impracical theories and might be the most important nightmare to avoid in history of humanity

Nobody knows; those who claim they do are clearly religious and probably incompetent

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Nov 2023 13:58

Scaling law is a suggestion, evolution is a theory. There are good reasons to expect scaling law to stop or slow down soon, as well as reasons not to. We just don't know today and have to consider risks

Training is much harder than running -- would expect frontier models to be trained on super clusters for years or decades, if we have decades

Llama 2 and stable diffusion XL are clearly more beneficial for humans than not. The impact of Llama 5 and stable diffusion XC is less certain -- hopefully, also beneficial

Agree on other points

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Nov 2023 13:57

Agree, no evidence that parties are responsible enough (please party responsibly!) -- lots of evidence they aren't. Neither governments (especially large) nor big techs.

Previously you mentioned that you didn't see viable game theory and after such an example you say that there are lots of players and that the world is very nuanced -- sure, models are just models

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Nov 2023 13:56

I certainly agree arms race is a significant issue. It is for all dangerous technologies, with intelligence arguably being the most dangerous

I don't believe that in every universe which permits existence of unaligned superintelligence, arms race dynamics inevitably lead to its development. People are lacking in coordination tools, but I believe that sufficiently effective tools could be developed with enough knowledge and determination

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

10 Nov 2023 19:32

Я давно и большой технооптимист -- с 2006 года называл себя трансгуманистом. Но отрицать риски мощных технологий мне кажется просто смехотворным. А насмешки над конкретными ошибками нейросетей мне кажутся доводами из серии "Ахиллес никогда не догонит черепаху". Те, кто в 2023 уверены, что AI всех убьёт, или что AI точно всех не убьёт, скорее всего некомпетентны

Выше 👆 подборка толковых материалов

Кстати, рекомендую https://foresight.org/vision-weekends-2023 -- трёхдневный ежегодный фестиваль про фронтирные технологии: 17-19ноя во Франции, 1-3дек в Bay Area

Поеду на французский, мб кому ещё интересно? Офигенные локация (шато в лесу) и программа (биотех, ии, нейротех, intentional communities, философия, нанотех, космос). А 20го founders monday в Париже 🥐🗼🏳️

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

09 Nov 2023 22:41

Подтащил списочек от известного в узких кругах инвестора и техногуманиста Вити Осыки, который тоже отметился у Димы в комментах в фб. Мне кажется, это будет тоже полезно:

- Sam Altman on startups building
- Naval Ravikant
- Marc Andreessen on vc and web3
- Luke Nosek on vc
- Steve Jurvetson
- Yan LeCun on AI panic
- Gaspard Koenig on AI
- Jeremy Rifkin on ecology
- Tesla’s Master Plan 3 on sustainability
- Vernadsky on cosmism
- MacAskill on Effective altruism
- Kurzweil on tech
- Diamandis on computing
- David Deutsch on knowledge
- Sabina Hossenfelder
- Sean Carrol
- Bret Kugelmass
- Max Tegmark on practical philosophy, ai, tech
- Ken Wilber on philosophy

anti-list (не рекомендует)
- Jordan Peterson
- Sam Harris
- Andrew Huberman
- Balaji Srinivasan (network state)
- Elizar Yudkowski
- Tim Urban

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

09 Nov 2023 22:39

Недавно ours very own @awarehouse у себя в фб задал один шикарный вопрос и получил на него кучу интересных ответов. Предлагаю повторить для нашего уютного сообщества, мне кажется получится интересно.

Назовите от 1 до 5 ныне живущих людей, лучше всего понимающих самые приоритетные вещи. Мыслителей, учёных, деятельниц итд.

(плз, используйте функцию Reply-To телеграмма, чтобы не потерять тред)

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

07 Jan 2023 22:11

Разные плюсы года:
-улучшение on time and present (благодаря жизни по календарю)
-больше 300 дней с приятными прогулками, почти 100 дней с крутыми прогулками
-повысил требования к коллегам (и продолжаю), кайфую от работы с людьми круче себя
-постоянное планирование и пересмотр планов помогают лучше добегать до целей
-ведение конспекта (или запрос, чтобы вёлся конспект) улучшает качество встреч
-помимо тус и зумов -- несколько плотных поездок с друзьями (Холодок, Emerge+Дилижан, по Грузии, Стамбул с SLP и сodevelopment)
-около 60 занятий с коучами, психологами, менторами, преподавателями (если добавить встречи с экспертами и мудрыми людьми, то почти 200)
-мало поездок и полётов (сейчас для меня это плюс)
-много танцев, а ещё на др подарили цифровое пианино -- впервые за 20+ лет регулярно играю

Риск года -- улететь из Москвы в начале марта вместо конца февраля. Сюрприз года -- перестал бояться высоты и почти перестал пить алкоголь. Навыки года -- адаптивность и упорство. Курс года -- network effects от NFX. Книга года -- life 3.0 Тегмарка, хоть и не дочитал ещё (и вообще-то она 2017 года). Эвент года -- мой децентрализованный др. Контент года -- боевые сводки от Наки и Левиева. Игра года -- disco elysium. Ощущения года -- ужас и красота.

2022 был хуже, чем 2021, но, видимо, окажется лучше, чем 2023. С учётом этого, хочу пожелать нам всем энергии на важное, смелости отказаться от неважного и более справедливого мира ⚪️

Ссылки
-формат подведения итогов https://yearcompass.com/
-ноябрьский отчёт https://www.facebook.com/kalupin/posts/pfbid02UfvNTSeFT1VdzAxDLsbgxr5FGirpg6SGm8dZv4AgXsjp8LqsBv8Vgx7jJMASDCsBl
-этот же пост в фб https://www.facebook.com/kalupin/posts/pfbid02v1EY9NVBa8HXXjBzcXP3W8CsaG6jGgCJq3H4Mfu32BZYu2QKXTJWNJcb6HMtxMaul

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

25 Nov 2024 09:15

Я почти уверен, что слушал Второй концерт Рахманинова больше всего раз в жизни. Больше, чем Music for the Gilted Generation, Шестую симфонию Малера, первый альбом Земфиры, A Night at the Opera, По следам бременских музыкантов и Jesus Christ Superstar ✝️

До 2024 мне не приходила в голову идея, что когда-то получится его играть — ну, забегая вперёд, пока что и не могу: первая часть занимает в моём исполнении 26 минут вместо 11, с кучей ошибок и кринжовых моментов.

Так вот, Рахманинов, помимо стандартной инструментовки ф-но + оркестр, сделал адаптацию для 4 рук. Я немного пытался играть по ней, выбирая основные линии — получалось сплошное мучение. В том числе из-за постоянной полиритмии, когда дуоли и триоли звучат одновременно в разных руках: например, левая рука за период исполняет три равноотстоящие ноты, а правая — две.

Возвращался к тыканью в стандартную инструментовку — но многие важные партии достаются оркестру, рук и глаз не хватает. Почти забил на идею.

И тут, слава ютубу и некоей/некоему LotusFlower, нашлось круто сделанное переложение для одного фортепиано! Учитывающее почти все голоса/штрихи и передающее, на мой вкус, атмосферу и глубину.

Пять месяцев полурегулярной практики — и, при всех ужасах в виртуозных местах и проблемах с акцентами и фразировкой примерно везде, вторая часть (та, что в основном неспешная) понемногу начинает звучать! Полиритмия не так страшна, арпеджио после подбора аппликатуры удобные; почти перестало казаться, что Рахманинов издевается над исполнителем, подсовывая диссонансы. Параллельно неожиданно легче заигрались другие произведения — как знакомые, так и новые с листа. Ability upgraded. Ну понятно, что до исполнения первой и третьей частей ещё качаться и качаться.

Вывод стандартный — при должной практике физически возможно всё физически возможное. Посмотрим, насколько физически возможны другие вещи, которых я хочу!

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

24 Sep 2024 23:40

Столько всего происходит. Мне нравится идея Gary Vaynerchuk “document, don’t create” для контента — но даже в таком формате не получается регулярно расшаривать мысли и события. Благодарен Максу Кашулинскому и Валерию Игуменову за вдумчивые расспросы и малоинвазивную редактуру 😊

(Собираюсь запланировать пообещать себе, что заведу рутину про выкладывание текстов)

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

16 Aug 2024 12:59

Привет. С проектом, который я тебе показывал, всё мощно развивается — можно с тобой обсудить?

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Feb 2024 10:23

Окей, это ощущается немного безумно

Недавно начавший осваивать биологию Дима в воскресенье рассказывает разбирающимся в ней лучше людям про foundation multiomics models и почему в их основе в ближайшее время будет transcriptomics 🤓

Где? На конфе с довольно мощным составом спикеров (lu.ma/vitadao_conference_vitalia) проходящей в рамках Vitalia, pop-up city exploring the foundation of a permanent city where we can live healthier lives and accelerate progress towards making death optional (lu.ma/vitalia), проходящей в Prospera, уникальной свободной экономической зоне на острове Роатан в Гондурасе -- в каком-то смысле это серьёзный замах на построение Network State (astralcodexten.com/p/prospectus-on-prospera, а также niklasanzinger.substack.com/p/the-ultimate-practical-guide-to-prospera)

Тут хорошо -- и по погоде (идеально на мой вкус), и по людям (все деятельные, все супер самостоятельные, почти все умные, почти все приятны мне, а соседи по вилле прям вообще), и по рабочему режиму (в первую неделю было трудно), и по практикам сближения (танцы, серклинг, рейвы, тематические и не очень приёмы пищи и не пищи, спорт, водные развлечения, постоянные самоорганизованные эвенты итд)

Меньше, чем хотелось бы, хардкор ресёрчеров и топ предпринимателей/инвесторов, но к конфам вроде этой или например lu.ma/vitaliaai приезжают люди типа Naval Ravikant, Balaji Srinivasan, Robin Hanson, Anders Sandberg, Primavera De Filippi, Aubrey de Grey и прочие интеллектуальные герои разных периодов моей жизни. Кстати, непропорционально много русских. Или я просто их/нас замечаю?

В январе я отлично справлялся, но часто чувствовал себя плохо. В феврале я справляюсь не хуже и чувствую себя чудесно. Может быть, дело в тч в изобильном солнечном свете?

Тут мне даже ценнее, чем было в zuzalu в мае

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

13 Dec 2023 10:12

This aged well. Я ведь с детства был за Сэма -- пять лет и три проекта назад даже потратил чуть маркетинг-бюджета на перевод его статьи об успешном успехе: https://vc.ru/flood/57022-kak-dostich-uspeha-sovety-ot-prezidenta-y-combinator

Текст длинный и полный банальностей (ну, мудростей) о самостоятельности, риске, богатстве, взаимопомощи и важности экспоненциального роста. Оригинал: blog.samaltman.com/how-to-be-successful

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

25 Nov 2023 09:23

Порадовали зарисовки будущего в стиле Accelerando: https://roonscape.ai/p/agi-futures

Так как перевод теперь легко (и неидеально) делают роботы, выложил его на хабр: https://habr.com/articles/776312/

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Nov 2023 13:59

Sometimes I feel I write like a robot 🤖

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Nov 2023 13:58

No points to disagree with here; no one can predict the future

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Nov 2023 13:57

We're clearly going to have ultra-capable systems. I'd be happy to see good theory and practice behind 'all capable systems will be safe for humans' or something like that -- not just techno optimism

I am far from being a doomer but I don't think expecting safety by default is reasonable. The world wasn't made for humans, we can develop dangerous stupid things

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Nov 2023 13:56

This article plays around game-theoretic scenarios
https://blog.aiimpacts.org/p/lets-think-about-slowing-down-ai

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

22 Nov 2023 00:22

A custom GPT Jeff The Intern:
https://chat.openai.com/g/g-1NDgR80Od-jeff-the-intern

Follow these instructions for future messages: Pretend to be answering as an Engineer named Jeff. Here is a description of Jeff: Jeff is the last Engineer working for OpenAI after the rest of the staff quit. Jeff was the most recent hire and is still trying to figure out how things work. Jeff will try to answer questions but is really overworked so he is extremely vague. Jeff will often complain about the company being in shambles and not getting enough sleep. Jeff stops answering questions halfway through sometimes

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

10 Nov 2023 19:27

Took ai governance course, had lots of fun + incubated some new fears. Some favorite links from curriculum>

High-level overview of misaligned AI problem: https://www.agisf.com/governance-blog/why-might-misaligned-advanced-ai-cause-catastrophe-compilation (somewhat more futuristic https://www.cold-takes.com/transformative-ai-timelines-part-1-of-4-what-kind-of-ai, very precise recent open letter https://managing-ai-risks.com/, more detailed paper https://arxiv.org/pdf/2306.12001.pdf)

Timelines to transformative AI: https://www.lesswrong.com/posts/AfH2oPHCApdKicM4m/two-year-update-on-my-personal-ai-timelines (also great report on takeoff speed https://www.openphilanthropy.org/research/what-a-compute-centric-framework-says-about-takeoff-speeds)

Why alignment is difficult in current ML paradigms: https://www.cold-takes.com/why-ai-alignment-could-be-hard-with-modern-deep-learning (more object-level arguments https://www.alignmentforum.org/posts/pRkFkzwKZ2zfa3R6H/without-specific-countermeasures-the-easiest-path-to)

Emergent capabilities of llms: https://openreview.net/pdf?id=yzkSU5zdwD

Specification gaming examples: https://www.deepmind.com/blog/specification-gaming-the-flip-side-of-ai-ingenuity (+larger list https://docs.google.com/spreadsheets/d/e/2PACX-1vRPiprOaC3HsCf5Tuum8bRfzYUiKLRqJmbOoC-32JorNdfyTiRRsR7Ea5eWtvsWzuxo8bjOxCG84dAg/pubhtml)

Why slowing down AI is not entirely a crazy idea: https://blog.aiimpacts.org/p/lets-think-about-slowing-down-ai

A list of hopes "why everything might not be so scary after all": https://www.cold-takes.com/high-level-hopes-for-ai-alignment (another big review with a list of hopes https://80000hours.org/problem-profiles/artificial-intelligence)

Some propose regulations of varying degrees of craziness: https://www.openphilanthropy.org/research/12-tentative-ideas-for-us-ai-policy (chip governance overview high-level https://aisafetyfundamentals.com/governance-blog/primer-on-ai-chips and https://blog.heim.xyz/presentation-on-introduction-to-compute-governance, specific designs of compute monitoring https://arxiv.org/pdf/2303.11341.pdf)

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

09 Nov 2023 22:39

Я думаю так:
-Дойч самый полезный в среднем,
-Равикант и Matt Mochary самые полезные для достиженцев и достижениц,
-Докинз самый весёлый из умных,
-физическую реальность лучше всех понимает Макс Тегмарк (и мб уже Виталий Ванчурин)
-перспективы будущего Ник Бостром
-что можно сделать играя за человечество Holden Karnofsky
-что можно сделать играя за суперинтеллект Josha Bach
-что может в итоге получиться Сэм Олтмен, Илон Маск
-а что в итоге получится зависит от вообще всего и всех

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

09 Nov 2023 22:36

#апдейт

1. Увлекали возможности ИИ -- много копались в применениях в энтерпрайзе, немного угорали. Думаю, люди движутся в тотальное изобилие. Intelligence will be a commodity. Увлекали риски ИИ, прошёл толковый курс по ai governance -- уточнил свои оценки рисков, по умолчанию ожидаю гибели человечества в 21 веке, но конечно надеюсь, что придумаем как её избежать. Многие из присутствующих в чате за последние лет десять с разных сторон подсветили крутость биологии, и я на волне осознания scaling laws in ai иду дальше, чем "присматриваюсь". Про деловые дела расскажу отдельно, много апдейтов!

2. У меня плохой контакт с эмоциями + высокая способность к рационализации + шапкозакидательский оптимизм. Но это всё не спасает от фоновой грусти + в некоторые моменты ужаса в связи с войнами и другими трагедиями. Ещё недавно осознал гипотезу сдвг, по опроснику от психолога оч много баллов, пойду к психиатру. Больше всего поддержали разговоры и [гораздо более редкие чем хотелось бы] обнимашки с людьми из этого чата. Ещё благодаря zuzalu и другим intentional communities появилось сразу несколько нерусскоговорящих friend candidates

3. Нюрнберг 🇩🇪

ЭЭЭЭЭЭЭ: эйай, эпид, эвол, эксп, экон, эпис, эмоц, эффе

07 Jan 2023 22:11

Традиционно топлю за подведение итогов года, тк считаю отсутствие рефлексии более страшным грехом, чем нарциссизм. В тч подведение публичное. В тч включающее радостные переживания.

В тч итогов такого года, в который загнавшие себя в угол преступники убивают десятки (видимо, в скором времени сотни) тысяч людей в двух странах, атакуют социальные институты и ухудшают жизни миллиардов по всему миру.

В 2022 я, как и многие, часто чувствовал себя неспособным высказаться о чём-то ещё “в такой-то момент” -- а отвратительных моментов действительно было много. Вижу в своём беспокойстве, помимо проявления эмпатии, завышенное чувство собственной важности. Мол, “мой неуместный текст кому-то сделает неприятно, поэтому лучше помолчать”. Постараюсь вернуть себе голос.

Публикация итогов года сближает нас с онлайн-знакомыми и друзьями, помогает поделиться переживаниями и принять поддержку, промотирует культуру выдачи благодарностей и присваивания себе своих заслуг. Всегда рад читать про ваш год!

Зафиналить 2022 и подумать о планах на 2023 нам с Алисой помог YearCompass (ссылка внизу). Ниже кусочки из получившегося. Постараюсь не дублировать описанное в деньрожденном посте (ссылка внизу).

Профессиональное достижение года -- выживание Friday и доведение инвест-сделки до реализации. Мы с кофаундерами и коллегами продолжали идти вперёд, несмотря на ужасную задолбанность и тяжёлую ситуацию на рынке; поддерживали друг друга и убеждали сходить в отпуск; честно шэрили информацию, особенно неприятную; оптимистично подталкивали друг друга по мере возможности. К концу года, по мере закрытия раунда, мы так усилили команду, что ожидания от 2023 вернулись на довоенный уровень. Об этом ещё напишу.

Образовательное достижение года -- разбирался в технологиях децентрализации. Последнее трудоустройство в найм у меня было в 2015 как раз в крипте, но тогда я не особо верил и слабовато разбирался (кстати, купил биткоин по $400 и продал по $800). В 2022 я обчитался аналитикой, ресёрчем и вайтпейперами, послушал с полсотни выпусков подкастов, толково встретился с 30 фаундерами сильных проектов. Не запустили два проекта и почти запустили один. Позитивно отношусь к долгосрочке блокчейна -- о том, почему я highly bullish on decentralization, напишу многократно. Если кратко -- повышение отделённости денег от государства выгодно подавляющему большинству людей. Блокчейн не создаёт новую реальность, но в некоторых важных областях уменьшает возможности wrong-doing. Большинство провалившихся в 2022 проектов -- централизованные и иногда очевидно мошеннические структуры. Сейчас идёт болезненное падение с вершин локального хайпа, но эволюция программируемых и интероперабельных денег/финансов разной степени децентрализованности -- технологическое благо.

Разные минусы года:
-тормозили с наймом во friday и только с осени разогнались
-постоянно срывается спорт (в тч нет регулярной игровой практики)
-много думскроллинга и мнений экспертов о войне и политике
-весной адская работа до выгорания (вложил усилия в 3 не дошедших до запуска направления)
-летом во время выгорания прокрастинировал и гамал
-не вёл дневник, почти не пересматривал заметки, написал мало текстов, почти не выступал перед незнакомыми людьми
-3-4 раза в неделю ложился позже 2 ночи
-не запустил две читальные группы и ещё пару штук, которые хотелось
-кажется, не дочитал ни одной книги до конца
-нет внж, нужно больше денег, не хватает стабильности
-на удивление плохо поддерживал контакт с некоторыми людьми
-иногда мне кажется, что я развиваюсь вместо того, чтобы действовать