Пион на каждый день

08 Jun 2025 10:09

#агментек #жызнь #мнение #агентность #коммуникация #люди

На прошлом офисном часе мы реально обсуждали смысл жизни и отношеньки, я в шоке!
Принесла основные мысли оттуда сюда, люди просили конспект.

Хот тейки про смысл жизни:

1. Думаем про «смысл жизни» как про «ощущение, что ты живешь не зря».

2. Если никогда этим вопросом не занимались — попробуйте пару недель каждый день выписывать, что кажется вам важным, а потом посмотрите, какие есть повторяющиеся темы, которые не касаются решения горящих бытовых вопросов.

3. Пойдите поисследуйте область, которая получилась в п2. Найдите, какая там самая важная проблема и как вы можете поучаствовать в ее решении.

4. Идите делать ровно это, не слушайте внутренние отговорки: люди обычно очень сильно недооценивают, сколько дополнительных сил появляется, когда делаешь что-то осмысленное.

Хот тейки про отношения (сложнее, потому что я, кажется, неверно поняла некоторые вопросы + оговорка, что я не считаю свое мнение универсальным):

1. Найдите, чего ради вы в отношениях, в чем суть, что важно? Запишите все остальное в «неважное».

2. При проблемах в «важном» нужно бить тревогу и не стесняться этого. Проблемы с «неважным» нужно игнорировать, иначе они займут все пространство в отношениях. Не вижу смысла искать полного комфорта с человеком.

3. Людей поменять трудно изнутри и невозможно снаружи.
В первую очередь ответственность у вас перед вами: по возможности нужно быть в норме постоянно, а не «в светлом будущем, когда она придет в себя и перестанет Х».
Иногда это достигается только подбором комфортной дистанции.

4. Явно зафиксированные свободные договоренности священны —> убедитесь, что все договоренности в ваших отношениях не были созданы под давлением, иначе их будут нарушать.
Лично для меня внутренний штраф на то, чтобы смотреть, как партнер нарушает договоренности настолько огромный, что я предпочитаю лишний раз не создавать договоренности (и точно не верить маловероятным обещаниям).

Про отношения, в общем, получилось больше как не поехать кукухой в отношениях, но кмк это 80% работы (много говорит обо мне, ну да ладно).

Пион на каждый день

03 Jun 2025 10:55

#анонс #агентность #ИИ

Мы стали делать в Агментеке «офисные часы» — тренеры сидят час на месте и отвечают на вопросы. У меня офисный час по пятницам, был уже два раза, и оказалось удивительно неплохо: люди задавали интересные вопросы, о которых мне было интересно подумать.

Мой топ пока что:
- что угодно про моделирование людей: все же специнтерес не пропьешь, люблю извлекать подробные мета-модели и все такое.
- про агентность: как развить агентность (тусить с агентными людьми, начать мечтать и лихо охренеть), как помочь человеку рядом развить агентность (самому быть агентным, вдохновлять, не мешать).
- про ответственность: у меня такое ощущение, что у меня в последние годы все более сбалансированный и здоровый взгляд на ответственность и мне хочется, чтобы у окружающих был такой же :)
- про то, зачем люди в эпоху ИИ и кантианские штуки вокруг.

А следующий офисный час начнется, как мы уже договорились со слушателями, с вопросов про то как найти смысл жизни и то, как я вижу идеальные отношения (простигосподи).

Решила, буду писать короткие выжимки, если там что-то интересное происходит, ну и вы, если хотели low-effort формат потрындеть, то это он, приходите.

Пион на каждый день

29 May 2025 10:51

#ИИ #обучение #ризонинг

Если мы хотим сильного ИИ-тьютора, он должен быть способен нести функцию оценки перспективности рассуждения + должен быть способен удерживать цель рассуждения.

У него должны быть эвристики, какие линии рассуждения перспективны, а какие нет, и он должен быть способен подтолкнуть ученика к его цели.

Как тьюторы-человеки формируют такие эвристики?

Со знакомыми задачами просто: они уже думали эту дорожку и четко знают, куда ведет каждое конкретное рассуждение или класс рассуждений. Они могут подумать изложенную учеником мысль чуть дальше за счет опыта + проверить уже имеющееся рассуждение.

С незнакомыми задачами как будто резко сложнее: похоже на разницу между тренером для новичков и тренером для топовых атлетов. Тренер топового атлета отстает от него по физической форме и сам не знает точно, что вообще возможно, а что нет. Он берет на себя функцию оценки и выбора пути, а входящие данные и исполнение остается на спортсмене.

Основная задача тьютора — входить в конфликт с учеником. Говорить «ты можешь!» даже когда ученику кажется, что он не может, (а тьютор видит со стороны, что линия перспективная). Говорить «это чушь», даже когда ученику кажется, что он придумал гениальную идею (а тьютор видит со стороны, что идея так себе). Речь не про то, что тьютор всегда токс! А про здоровую функцию оценки и удержания цели рассуждения.

Сейчас ИИ как раз на этом и спотыкается: всегда поддерживает идеи юзера. Если его промптить спорить, то он сначала пытается, а потом постепенно в диалоге теряет эту способность.
Да, ИИ умеет выдавать информацию, и часто даже в структурированном виде — может быть говорящей головой и отвечать на открытые вопросы. То есть, может «читать лекции». А вот помогать в обучении не может, потому что не тащит основную функцию.

Пион на каждый день

23 May 2025 11:22

#личное #ИИ

Отдельно хочу сказать, что меня крайне интереует эффект ИИ-систем на эту ключевую для меня функцию.

Я ценю свою способность к наблюдению и анализу, и еще больше ценю свою способность изобретать методы оптимизации наблюдения и анализа.

При этом оно жрет дикое количество внимания. Вот интересно, у меня такой объем внимания (большой) потому что с юности я постоянно вынужденно делаю тяжелую задачу на внимание примерно постоянно, или наоборот, я бы применила этот объем внимания к какой-то другой, более полезной (например, для человечества) задаче и было бы круче и интереснее?

Та самая узкая дорожка, где ИИ (каких-то будущих поколений) учит такому, при этом:
- не забирает агентность;
- постоянно следит за тем, чтобы задачи были ровно на пределе возможностей;
- следил, чтобы не было слишком больших откатов и травм.

А когда человек доходит до мясного предела в развивающей части этих трудных задач, то входит в симбиоз и позволяет развиваться дальше и двигает фронтир.

Пион на каждый день

14 May 2025 08:36

#жызнь #ИИ #сообщества

Мне примерно 50 раз за эти выходные пришло в голову, что по тому, какой именно сценарий «ИИ нас всех убьет» выдает автор, можно скорее диагностировать автора, чем сделать хоть какие-то выводы о мире.

Причинно-следственные связи вообще никакие не соблюдаются ни в каких рассуждениях, но зато видно, чего человек боится и где у него самого внутренний misalignment.

В общем, доктор, откуда у вас такие картинки?

Расскажите ваш сценарий гибели человечества, от ИИ или иной, я вам скажу, что делать, бесплатно.

Пион на каждый день

05 May 2025 11:15

#жызнь

У вас бывает, что думаете о чем-то перед сном и это так увлекательно, что не можете заснуть?
У меня такое постоянно! И постоянно нужно использовать всякие хаки типа боди-скана и всяких медитаций, чтобы вообще перестать залипать в стимулирующие мысли и заснуть наконец.

Так вот, у меня для вас есть хак!
Попробуйте думать словами (уже гораздо медленнее и не так стимулирующе) и потом еще словами на неродном языке.
Идеально! Заснула за 5 минут! Прекрасно выспалась!

Пион на каждый день

18 Apr 2025 12:40

#ИИ #естественныйинтеллект #общество

Вижу так, что действовать нужно в двух направлениях:

1. Создать адекватную модель угроз, отразить там системы их функции, которые могут быть под угрозой и которые мы хотим сохранить.

Для этого приходите те, кто шарит в AI-safety, но только если вы (уже) можете не кричать «AGI сотрет человечество с лица всего!!! ааа!!». Не обязательно потому что не сотрет, а потому что кричать и создавать адекватную модель чего бы то ни было — плоховато совместимо.

2. Создавать инструменты (и полиси) там, где нашли настоящие угрозы (в том числе между разными уровнями систем).
Например, то, о чем я говорю — сделать, чтобы человек все же улучшался с помощью ИИ, а не деградировал: анализировать, какие лишние штуки ИИ забирает и искать способы их вернуть. Создавать для этого конкретные инструменты и делать конкретный аутрич.

Приходите аналитики, продуктоводы, разработчики, пиарщики/коммуникаторы.

Стучитесь пожалуйста в лс @pionmedvedeva, я вас буду добавлять в чатик и всякие рабочие пространства организуем.

Покажите это сообщение нужным людям!

Пион на каждый день

13 Apr 2025 15:17

#ИИ #гибридныйинтеллект #естественныйинтеллект #люди #общество

Вы меня по личкам спрашиваете че там ИИ, давайте я тут напишу пакет банальностей, от которого можно толкаться.

Вижу в повседневных ИИ-приложениях два направления развития, одно сомнительное, другое хорошее и перспективное.

1. Инструменты «сделай за меня, я не умею». Не умею читать длинные тексты, читай за меня. Не умею писать, пиши за меня. Не шарю, как разговаривать, поговори за меня.

В контексте Т-людей (глубокая предметная экспертиза, широкая эрудиция) этот вариант подходит для того чтобы операционализировать свою широкую эрудицию.

При этом человек должен хорошо понимать, что это разовая история, что он как не шарил так и не шарит и у этого очень ограниченный кейс применения — потрогать ножкой воду и решить, интересно ли. Все остальные варианты использования этого — потенциально очень вредные.

В моих случаях (обучение, развитие человеческого потенциала, коучинг, поддержка, концептуализация, консультирование) ни в коем случае не надо создавать продукты, которые будут снимать эту функцию с человека!

При этом считаю хорошим трендом снимать с людей работу, которую людям вообще не стоит делать — всякие документы, презентации, что требует часы на заворачивание в специальную абсурдную форму, которая неинтересна ни пишущему ни читающему.

Я считаю, что ИИ-инструменты в этом смысле ускоряют процесс де-буллшитизации этих форм, потому что гонка вооружений ИИ-пишущего и ИИ-распознающего должна привести к тому, что все стороны поржут и уберут нелепые требования к форме полностью, оставят только содержательный творческий умственный труд (еще не сейчас, но глобально да).

2. Инструменты «ускорь мое обучение навыку в 10 раз». Не умею читать, приучи меня читать. Научи в дисциплину. Помоги починить внимание от просаженного дофамина. Научи писать, подсвети, что я делаю не так и в чем разница с модельными примерами. Помоги внедрить полезную привычку. Дай материал для тренировки коммуникативных навыков.

Эти инструменты потенциально могут хорошо ускорить развитие человека и донести весь этот гуманистический пафос до людей, до которых он бы иначе не дошел в силу экономических или культурных причин. Это хороший тренд.

Меня несколько напрягает, что создатели консьюмерских продуктов в первую очередь мыслят первым направлением. Я боюсь, что эволюция человека на этом остановится и будет эволюция другой формы интеллекта — я не e/acc чтобы этому радоваться, я сентиментально привязана к этому биологическому виду.

Я активно думаю о способах, которыми мы (не стесняйтесь ассоциироваться с этим «мы», если что) можем сдвинуть общий тренд в сторону 2. Вам кажется это важным? Что думаете про это?

Пион на каждый день

07 Apr 2025 20:42

#жызнь
Случайное наблюдение.

Меня каждый раз очень забавляет, что все происходит и «где» и «когда», и еще больше забавляет, что есть исключения: например в каком-то месте происходит примерно одно и то же, неважно когда (как например в каком-нибудь клубе); или в какой-то момент происходит одно и то же примерно везде (как например в Новый год).

Пион на каждый день

29 Mar 2025 20:32

#личное #жызнь

Есть такие вопросы в жизни, ответ на которые в целом можно вычислить из картины мира (и себя как его части).

Если бы тебе дали мороженое, ты бы его съела? Да.
Если бы тебе предложили лететь на Марс со вторым кораблем, ты бы согласилась?
Нет.

Неважно, так ли это. Важно, что вопрос может быть задан, он нормально распознается и на него возникает ответ, данный из каких-то соображений.

А есть еще вопросы, которые нельзя задать в тестовом режиме, только сразу в боевом. Вопрос не распознается и ответ не возникает в «если бы» мире, потому что основа для понимания вопроса и формирования ответа — факт его задавания. Воображение не работает.

Мне пока встретилось всего несколько классов таких вопросов, и всякий раз я очень залипаю в саму природу их решения. Еще конечно пытаюсь напрячь воображение, но не получается.

Пока думаю, что воображение отказывает потому что задавание вопроса меняет меня целиком, а я не могу симулировать себя целиком (прости Г-ль)

А вы встречались с такими вопросами?

Пион на каждый день

24 Mar 2025 21:49

#жызнь #личное #мнение #люди #коммуникация

Много вспоминаю старый пост Алины Фаркаш про то, что она не ругает людей, которые врут, потому что понимает, что им страшно.

Конечно, если у меня хорошее состояние и много сил, я всеми руками за — я очень не люблю ругать кого-то и вообще злиться, и все время ищу способы понять и принять. Мне легко начать сочувствовать испуганному человеку.

Если сил чуть меньше, происходит что-то, чем я совсем не горжусь. Я чувствую ярость.
Я стараюсь не вываливать эту ярость на уже и так испуганного человека (потому что очевидно не очень хорошая идея его еще сильнее пугать). Иногда даже получается.

Я думаю примерно так:
TW: уродливое нарушение категорического императива; мизантропия

- ты портишь мне понимание мира;
- ты вынуждаешь меня поддерживать неверные убеждения;
- я трачу вычислительные ресурсы на их интеграцию (что обычно трудно, когда убеждения неверные!);
- когда эти убеждения плохо встраиваются в остальную картину мира, я начинаю сомневаться в том, что я адекватна и мои методы познания мира вообще работают;
- потом я трачу ресурсы на то, чтобы пересмотреть все затронутые убеждения, когда наконец выясняется, что ты был слишком слаб, чтобы сказать правду с самого начала.

Вывод: ты — паразит и заставляешь меня платить вычислительный налог на твою слабость и трусость. Лучше бы тебя не было.

Чувствую я себя от этого отвратительно. При этом такая реакция ощущается неизбежной, довольно фундаментальной и в общем-то оправданной с какой-то точки зрения.

У товарищей, которые понимают о чем я, есть опыт изменения реакций такой фундаментальности?

Пион на каждый день

14 Mar 2025 18:01

#принятиерешений #жызнь #концептуализировано

Помните, в древние времена (в постах Анны Саламон) обсуждалась тема про то, что нет смысла делать что-то не от всего сердца, что нужно принимать решение и закрывать (хотя бы временно) тему, а если принимаешь решение, то нужно делать честную попытку его выполнить?

Также известно в народе как «ну чего ты сопли-то жуешь» и «не уверен — не обгоняй».

Сомнения и правда жрут дикое количество сил, это всем известно.

Но я хочу обратить внимание на чуть менее заментый вторичный эффект, который тоже может набирать обороты будь здоров.

Сомнения, непринятые решения, несделанные попытки — отжирают от будущей возможности принимать решения и делать попытки.

Люди ведь не только обновляют картину мира, они еще обновляют картину себя. Вот и получается, что каждый раз, когда я не принимаю решение до конца или действую не от всего сердца, я становлюсь чуть больше человеком, который колеблется, а не человеком, который коммитится.

Тут работает сложный процент. А это значит, что эффект быстро превращается в лавинообразный.

Выводы, которые можно просто запомнить:
- по возможности избегайте более чем двух случаев колебаний подряд
- по возможости старайтесь копить серии из четко принятых и исполненных решений.

👌 — окей
🤔 — што?..
❤️ — вы все там молодцы

Пион на каждый день

20 Feb 2025 10:45

#жызнь #люди #мнение
Есть два типа людей:

- те, которые считают, что диалоги Платона это хорошая нормативная демонстрация навыков рассуждения

- те, которые с самого начала чуяли подвох и постоянно орали в книжку «да в смысле! вот же очевидно где ты, Сократ, не прав! вот же! причина, по которой твое высказывание не имеет смысла или не играет той прагматической роли, которую ты от него хотел!»

Первые в целом успешны в жизни, вон один такой Chainlink сделал; а вторые если чем и знамениты, то в основном своим занудством.

Как думаете, почему?

Пион на каждый день

03 Feb 2025 17:02

#группы #отчет #методология #агентность #обучение #люди

В конце декабря закончилась группа, дошли руки поделиться впечатлениями. (Традиционно, если выпускники захотят, то они тоже поделятся впечатлениями в комментах.)

Зачем?
Я в последнее время в силу разных обстоятельств столкнулась с большими кусками неопределенности; получила новый опыт; заново концептуализировала для себя много штук из области обращения с неопределенностью, внешней и внутренней.
Хотелось посмотреть, как эта концептуализация ложится в других людей, у которых другие вводные и другая архитектура.
В приложении все к той же задаче «делать мир лучше с помощью распространения агентности».

Кто?
Люди были больше похожи на меня, чем можно было бы ожидать, что отчасти делало мой экспириенс крайне удовлетворяющим (да, я из тех, кто не задумываясь говорит, что поладила бы со своим клоном), а с другой, кажется, было бы полезнее взять пощупать непохожих…
Не было проходных персонажей или людей, которые непонятно зачем пришли. Каждый вписывался идеально и нам было весело. С каждым я бы наверно могла подружиться в какой-то другой жизни.
Собрались, правда, одни парни (здесь кек про похожих на меня людей)

Никто не шел за чем-то конкретным, все были довольно ресурсные и шли из любопытства.

Ожидания и неожиданности

1. Пала жертвой стереотипов — думала, раз собрались мужики, то будем достигать и стремиться. В итоге больше половины времени в группе аутично обсуждали моделирование других людей и всякие отношеньки. Честно, я не тащила обсуждение в эту сторону, просто шла за тем, что явно вызывало яркий отклик!

2. Не ожидала (но надеялась), что хорошо зайдут медитации и всякие упражнения на разные виды внимания. Оказалось, собрались люди с опытом всего этого и вполне способные себя наблюдать.

3. От себя не ожидала, что мне настолько много вещей перестали казаться алгоритмически гарантированно решаемыми с первого подхода. Наверно, это естественно, потому что наивное доверие к тому, что люди способны исполнить инструкцию из 40 пунктов, как написано, прошло за пару последних лет полностью.

Выводы

Я стала гораздо сильнее приоритизировать простоту и легкость в исполнении. Дальше — использование тех ресурсов и навыков, которые уже в наличии, а не еще только предстоит отрастить.

Учить методам не очень полезно — важнее учить методологии и управлению состоянием. Из нескольких десятков больших и маленьких запросов, которые звучали на группе, только в четырех случах у человека не было конкретного метода выполнения задачи, в остальных случаях дело было в чем-то другом. Например, не удавалось следовать уже известному методу, потому что не было протокола траблшутинга или в целом не было ресурсов.

Неплохо было бы добавлять людям оперативки — все же это очень влияет на итоговую уверенность человека в своей способности решить проблему (и через это увеличивает количество и качество попыток).

Я подозреваю, что разгрузить оперативку как альтернатива — неплохо, но не только с помощью экзокортексов, но и с помощью починки утечек памяти. Иначе полезный объем сокращается до 1 +-2 объекта, и когда в памяти держится -1 объект, то решать задачи становится совсем неудобно, так все ваши объекты неизбежно утекут!

А еще.. Никогда не думала что скажу это, но…
Начинаю думать не сделать ли свой офлайн. Может быть даже больше в формате коливинга-коворкинга на пару недель, чтобы место приятное и экспириенсы широкого профиля. Вы пока отпишитесь, чего думаете про эту идею, а я еще прикину.

Пион на каждый день

13 Jan 2025 17:40

#интерес #мнение #опыт #жызнь

Впервые в жизни в прошлом году начала различать интересное и увлекательное.

Увлекательное — это когда не можешь оторвать внимание от какого-то объекта или занятия. Разгребать бардак, пока он не закончится; доедать пачку чипсов; ссориться; набирать какие-то очки в игре; собирать три в ряд; слушать или передавать сплетни; смотреть на взрывы или разрушение чего-то.

Интересное — это когда в каждый момент понимаешь, как происходящее сейчас встроено в какую-то более крупную картинку. Очень связано для меня с непрерывностью «Я» — и прошлые и будущие Я видят интересное одинаково.

Раньше меня никогда не увлекали неинтересные вещи — не понимала, как можно залипнуть в инстаграм на час или проводить вечера социально.

Вы знаете, я попробовала, мне не понравилось, одна звезда, отписка.

Меня очень потрепало ощущение, что не можешь оторваться от чего-то, что осознаешь скучным прямо в этот момент. Хотя мне кажется, этот опыт знаком очень многим, да?

Хотите, расскажу что я концептуально раскопала как причины такого поведения? Или всем все давно с этим поведением понятно, а я просто слоупок?

❤️ — расскажи
👌 — все понятно, это ж дофамин

Пион на каждый день

04 Jun 2025 15:24

#мнение #жызнь

Интересно, почему в некоторых случаях мы предпочитаем заранее знать, что нам предстоит, и это делает нам легче, а в других — наоборот?

Например, некоторые люди предпочитают не знать, в какой момент и насколько сильная физическая боль им предстоит (а я, например, предпочитаю знать, не колите меня иголками внезапно!).

Но у меня это предпочтение не касается всего остального в физической травме — предпочитаю не знать, сколько времени продлится дисфункциональное состояние. На меня давит, если доктор говорит «подвижность восстановится не раньше, чем через три недели», уф, лучше бы я не знала, и терпела каждый момент как отдельный, а не как кусочек длинного периода с ожиданием, что этих моментов еще много.

Как будто есть два базовых мода:
1. Знать, с чем столкнешься, иметь план, сохранять хотя бы какое-то подобие контроля над ситуацией.
2. Быть готовой ко всему, в каждый момент просто делать все, что можешь.

Я, конечно, больше люблю иметь план (а также план наращивания нужных мощностей и вовлечения нужных ресурсов, чтобы выполнять основной план).

Но я знаю из опыта, что у меня случается неожиданно хороший перформанс, особенно в тяжелых ситуациях, когда я не знаю, какой масштаб бедствия меня ждет. Потом, оглядываясь назад, понимаю, что если бы я знала, что будет, и сколько этого всего еще впереди, и насколько тяжело будет в каждый момент, то я бы слилась гораздо раньше.

Почему-то воля (способность терпеть и при этом что-то делать, реагировать на другие события и так далее) истощается самой оценкой вот этой вот площади под «кривой страдания», а не только текущим страданием.

Мне еще отдельно забавно, что обычно в принятии решений проблемой является недостаточная связь с будущими «Я» (люди тем сильнее недооценивают вред, чем он дальше), а тут кажется, наоброт, человек недооценивает свою способность терпеть из-за эмпатии к будущим «Я».

Я вот легко забываю, что в каждый момент нужно будет терпеть только то, что происходит непосредственно в этот момент, а не всю будущую жесть.

А у вас как? Лучше знать или не знать? От чего зависит?

Пион на каждый день

30 May 2025 20:40

#люди #общество #коммуникация

Вот было бы удобно, если бы люди, как только понимают свои предпочтения, сразу сообщали о них окружающим, да? Особенно те предпочтения, которые включают окружающих, например, меня…

Чем ближе дистанция, тем более слабые и нюансированные предпочтения человека я хочу знать — разумеется, чтобы делать его жизнь лучше (или выяснить, что я этого не могу и тоже сообщить).

Заявленные предпочтения лучше не заявленных: можно получить то, что хочешь, а еще можно узнать, что тут тебе такого не выдадут и пойти искать это где-нибудь еще. В любом случае, оба варианта лучше, чем тупить и ждать. Почему люди делают иначе?

- сами не понимают, чего хотят или не уверены до конца: сложно заявить предпочтение, которое меняется. Поэтому я обычно люблю, когда у людей консистентные предпочтения, и очень быстро задалбываюсь, если это не так.

- боятся, что могут не получить то, чего хотели и потерять возможность спросить снова; например, что человек, отказав, зафиксируется в этой позиции, и не сможет ее поменять, даже если обстоятельства изменятся. Такое, кстати, часто бывает. Но я предпочитаю это игнорировать: если человек не умеет пересматривать предпочтения в новых обстоятельствах, то штош.

- боятся, что могут получить то, чего хотели, а оно им не понравится или вообще окажется не ценным, и чего же тогда хотеть дальше? С этим я не знаю, что делать, предпочитаю тихо не лезть.

В общем, я была бы рада, если бы в людях было больше устойчивости и смелости, потому что иначе на мне оказыватся слишком уж большая вычислительная работа и я не затаскиваю.

Пион на каждый день

29 May 2025 10:27

#ризонинг #ИИ

Как известно, в человеках ризонинг — это способность во время рассуждения остановиться, сказать «нет, это я фигню какую-то подумала» и переключиться в соседнюю ветку рассуждения.

То есть, внутри меня всегда есть кто-то, кто рассуждает и пробует варианты и отдельно есть кто-то, кто оценивает перспективность этой линии рассуждения в движении к цели.

Возможно, отдельно есть кто-то, кто удерживает цель, потому что иногда у некоторых людей его нет и цель рассуждения едет (а мы потом говорим, что произошла подмена и спекуляция).

Итого, на мой вкус, минимальная разумная архитектура — как минимум два агента.

Дискасс.

Пион на каждый день

23 May 2025 11:10

#мнение #личное #жызнь

Мне все время кажется, что к жизни нужен мануал.

Что нужно мочь развернуть подсказку на любом процессе/объекте, прокрутить его состояния в прошлое и будущее, посмотреть аналогичные по функции объекты.

А больше всего нужен мануал к людям и тому, как они разговаривают (и почему и зачем), и как принимают решения. Там же каждый раз целый мир в другой голове, со своим восприятием всего происходящего и моделями других людей — это каждый раз так удивительно для меня, и так досадно, что я не могу стопнуть происходящее и просмотреть разбор и проверить предположения по-настоящему.

Со временем я отрастила себе большую систему мониторинга, которая поставляет мне (до каких-то пределов) подсказки в реальном времени. Я всегда это воспринимала как часть миропорядка — обработка всех входящих данных жрет вычислительную мощность, нужно постоянно работать над увеличением вычислительной мощности и еще над улучшением алгоритмов.

Некоторые ситуации, которые раньше казались мне невозможными к обработке в реальном времени (и приводили к коллапсу), я теперь могу делать — часть информации обрабатываю быстрее, другую часть выбрасываю (и знаю, какую!), потому что уже знаю, что она не особо полезная. И так далее.

С одной стороны, это часть того, что делает меня хорошим преподом и консультантом — меня всегда можно «стоп, поясни» и у меня есть развернутые пояснения (как правило сильно дальше, чем люди спрашивают).

С другой стороны, есть очень привычный мне эффект дистанции от всего происходящего (включая свои ощущения), типа я наблюдатель, а не участник. Это чувство иногда очень некомфортное. Я в какой-то момент подумала, что его возникновение вроде как само по себе странно, учитывая, что я активно что-то делаю постоянно и очень включена во многие функции.

Недавно поняла, что это ощущение дистанции — это просто артефакт распределения внимания. Исполнять уже понятные и сформулирвоанные вмешательства — не сложно, просто берешь и делаешь. А наблюдать и обрабатывать — сложно, там и тусуюсь постоянно.

Научилась не склеивать этот фокус внимания с ощущением «Я» и стало гораздо лучше. Пользуйтесь!

Пион на каждый день

14 May 2025 08:23

#жызнь #ИИ #сообщества

Съездила в Прагу, посетила EAGx, посмотрела местные настроения. Встретила много старых знакомых, завела каких-то новых знакомых. Внезапно очень много говорила про секты — могу выдавать советы, что делать, чтобы ваше сообщество (не)скатилось в культ, хехе.

Все еще недовольна состоянием AI-alignment поля: даже лучшая аналитика — крайне невнятная, все, что мне интересно, выкинуто из рассмотрения (человек и человеческое развитие, развитие организаций).

Все больше мотивации пилить свое, если честно — вот просто не к кому присоединиться.

Если вы знаете alignment проекты, которые концентрируются не на ИИ, а на человеках, то покидайте в комменты.

Пион на каждый день

28 Apr 2025 15:38

#ИИ #гибридныйинтеллект #общество #ЭА

Удивительное количество сэйфети-ребят оказывается меня читает. Давайте я вам немножко раскрою адженду как я ее вижу.

- в публичном поле (втч в ЭА) много разговоров про alignment и safety, и они идут с двух сторон: с технической и со стороны регулирования ИИ
- техническое тоже часто идет со стороны регулирования ИИ, но только на более глубоком уровне

Все это история про «запретить, не пущать». Это, как показывает история, работает только в контролируемой среде и требует много ресурсов.

Мало разговоров про alignment на продуктовом уровне — как сделать ко-эволюцию человека и машины, как сделать, чтобы человек, части человека, штуки из человеков — становились лучше, сильнее, счастливее, а не деградировали.

Фокус почему-то на изучении и облизывании ИИ-части, с человека фокус ушел.

Меня это смущает и хочется алаймента на уровне юзкейсов и усилий по развитию человека.

Я только что приехала с ЭА-тусы в Осло и скоро поеду на ЭА-тусу в Праге, говорила там с людьми, есть два типа реакций:
- хмм, никогда об этом не думал, но в любом случае это неважно потому что ИИ нас всех убьет
- хмм, мало про это думал, вообще-то хорошая идея, давай напишем статью.

Вот что хотите то и делайте с этой информацией теперь :)

Пион на каждый день

18 Apr 2025 10:25

#естественныйинтеллект #ИИ

Помните, как развивались события с онлайн-образованием, особенно в ковид?

Я вот помню: энтузиазм образованцев всех сортов, сейчас мы каааак разовьем онлайн-классы, кааак сделаем персонализированное обучение, кааак начнем бороздить просторы всего!…

А в реальности было:
- информация передается скорее худо-бедно, чем как-то еще;
- дети оказываются в изоляции (сюрприз, школа была не только для обучения!);
- родители лезут на стенку и не могут нормально работать, когда дети дома;
- и так далее — много отложенных и косвенных эффектов.

То есть взяли функцию, которая в названии системы (учить школьной программе) и повторили ее кое-как другими средствами. Не смоделировали подробнее, какие еще функции. А еще не смоделировали более крупный системный уровень и вообще окружение.

Например, с этой точки зрения глядя: нельзя сказать, что лучше, оффлайн или онлайн вариант школьного образования, потому что у них слишком разный набор функций.

Теперь та же история происходит с ИИ-приложениями.

Вы можете мне сказать, что именно таков путь прогресса — сделать криво а потом люто бешено городить костыли. И я с этим согласна! Только чтобы городить костыли нужно время. А ИИ отличается от предыдущих великолепных идей человечества скоростью и высоким потенциалом бутстраппинга (ИИ который влияет на развитие ИИ).

Давайте попробуем избежать тех же ошибок, может?
(нормальный call to action в следующем посте)

Пион на каждый день

11 Apr 2025 12:34

#люди #коммуникация #категорическийимператив #мнение

Есть такое преподское качество — видеть в людях лучшее. Ну, не только преподское, конечно, еще просто гуманистическое, но вы поняли.

Как я это делаю (и, думаю, тут многие разделяют этот подход):
- беру информацию о человеке;
- выдергиваю из нее самые лучшие и многообещающие куски;
- всей доступной мне мощью воображения достраиваю именно по ним картину человека;
- начинаю от человека люто бешено ожидать соответствия этой картине; игнорирую или стараюсь объяснить обстоятельствами все отклонения; верю.

И вот человек начинает под моими ожиданиями меняться (потому что это в целом естественно, меняться под чьими-то ожиданиями).

Главное, как водится, не переходить из «Мойша, ты же такой умный мальчик…» к «ну ты и дно, я ожидала от тебя лучшего», иначе эти развивающие ожидания становятся очень токсичными.

А знаете, когда мы склонны переходить к токсичным ожиданиям? Когда ожидания создаются в наших интересах, а не в интересах человека; так бывает, когда наше благополучие под угрозой и неисполнение ожиданий ему угрожает.

Можно заметить этот переход по собственным ощущениям при нарушении ожиданий — возмущение и разочарование в токсичном варианте против сочувствия и поддержки в гуманистичном.

На этапе, когда эти ощущения уже возникли, можно разве что проследить, что именно там за угроза, записать на бумажечку и ждать, пока пройдет.

Эвристически считаю, что из контакта в этот момент нужно выходить в 99% случаев: лично я знаю может быть… ну, двоих людей, которые могут выслушать от меня, (которая в них обычно верит) какой-то посыл в духе «ты дно, я ожидала от тебя лучшего» и не получить от этого разной глубины урон — бессмысленный, досадный и жестокий.

Оставлю тут свою модельную схему за вторую сторону на всякий случай (для полноты картины).
- вижу разочарование и возмущение;
- понимаю, что человек не смог позаботиться о себе и повесил на меня ожидания;
- скорее всего, человек не понимает, где именно он не смог позаботиться о себе (это важный пункт! я всегда предполагаю, что если бы человек понимал, он бы сделал сам!);
- я могу валидировать чувства этого человека и предложить помощь с тем, чтобы разобраться. О какой части там не позаботились и что можно сделать? Степень моего участия может быть разной: сделать вместе, помочь создать условия, просто дать идею и не трогать.

Не влезло в этот таймбокс (и возможно влезет в следующие):
- почему люди перевешивают на других заботу о себе и что у нас с этим в культуре;
- что поломано в преподавании в этом смысле;
- что мешает «второй стороне» идти по модельному варианту;
- … ваш вопрос

Пион на каждый день

07 Apr 2025 19:16

#жызнь
Намерена посетить Осло 25-27 апреля на EAGx Nordics и Прагу 9-11 мая EAGx Prague — это ЭАшные ивенты, если вы живете там или тоже туда собираетесь тусить с ЭАшниками то напишите мне, попьем напитков, поедим еды.

Пион на каждый день

26 Mar 2025 18:52

#ИИ #вайбкодинг #гибридныйинтеллект #люди

Вайбкодинг идеален для СДВГ-шников: три минуты хорошей концентрации и потом три минуты ожидания, когда он все сделает. При этом функционал, где он сам помогает тебе доработать промпт делает изначальную инвестицию внимания очень небольшой и какой-то, что ли, поверхностной.

Пока не знаю, к каким изменениям в качестве управления вниманием это приведет. Экспериментирую на себе.

Если перестану выходить на связь или начну писать твитами — не начинайте вайбкодить. 😳

Пион на каждый день

19 Mar 2025 17:40

#жызнь #люди #коммуникация

Я вам сейчас опишу коммуникативный типаж, а вы мне скажете, как он вам.

- не здоровается и делает ровно ноль смолл-толка;

- говорит ровно то, что хочет сказать и ровно один раз;

- не переспрашивает, чтобы уточнить понимание;

- практикует ноль риторических приемов (кроме ситуаций, когда специально толкает речи);

- в речи не интонирует или интонирует очень бедно/монотонно (но имеет ритм);

- спрашивает ровно о том, что ему интересно: вопросы очень специфические;

- если ему задать вопрос, то думает над ответом, столько, сколько ему нужно, без признаков дискомфорта.

Вы знаете таких людей? Как вам общение с ними? Только честно :)

Я расскажу как мне:
Я расслабляюсь и успокаиваюсь.
Я начинаю глубже дышать.
Я чувствую интерес и облегчение. Мне гораздо легче влиться в поток. Я могу общаться много часов и не уставать.

Пион на каждый день

08 Mar 2025 20:00

По случаю 8 марта желаю всем причастным вот какого вайба <3

Пион на каждый день

11 Feb 2025 10:31

#эволюция #духовность #совместность #люди #мнение #опыт

Если у вас бывает странное чувство пустоты и потерянности, возможно, вам не хватает ощущения соединенности с миром, включенности в какой-то «общий план».

Про это характерное чувство говорят более-менее все традиции рефлексии: например, connectedness как качество Селф в IFS; контакт с богом в религиях; ощущение предназначения во всяких экзистенциальных простигосподи традициях; состояние потока.

Все это, как мне кажется, так или иначе описывает одно и то же явление — амодальное знание, что я являюсь частью мира и подхожу к тому месту на котором я нахожусь. Все правильно, все имеет смысл, ура!

Для меня есть много способов поймать это чувство, некоторые из них более непосредственные, некоторые — более, не побоюсь этого слова, второсистемные.

Эталон непосредственного способа (но не очень-то надежного) — киртан в огромной толпе, например на фестивале; смотрите, не рейв (где все остаются в итоге одиноки), и даже не просто совместное музицирование (там соединяешься всего лишь с другими людьми) а именно сделанное в традиции приобщение к чему-то надличностному.

Можно как угодно относиться к религиям и всяким духовным штукам, но такой опыт точно нельзя развидеть, особенно если привыкаешь к нему с детства.
Этот эталон у меня есть, сколько себя помню, и максимально близкий не-духовный опыт (без надличностной составляющей этой), который у меня по этой шкале был достигал ну может быть 40-50% по интенсивности.

К сожалению, люди, которые могут это делать, вместо киртана половину времени говорят довольно сомнительные вещи и все портят.

Как эталон алгоритмически воспроизводимого опыта я беру вот какое упражнение на внимание: представить себе столько системных уровней в мире, сколько получается удержать одновременно и наложить на эту картинку то, как они эволюционируют во времени. Вижу много потенциала в этом методе, но мне хочется добавить туда какие-то непосредственныые части. Представьте, каково было бы делать такое в толпе людей, которые делают то же самое?

А для повседневного использования я считаю очень перспективной практикой осознание себя агентом эволюции. Конечено, не то, чтобы были какие-то еще варианты… Но когда осознаешь это, можно в этой мысли найти много такого, что люди ищут в религиозных и экзистенциальных практиках — фелт сенс, зачем ты живешь; что делать; что имеет смысл, а что нет; что хорошо и что плохо; кто друг, а кто нет, и так далее.

❤️ — го быть агентами эволюции и осознавать эволюцию совместно в качестве духовного опыта
😁 — Пион, ты совсем поехала?
👍 — расскажи еще

Пион на каждый день

27 Jan 2025 09:12

#скука #интерес #жызнь

Вы на самом деле много всякого в комменты накидали очень релевантного, из чего я еще больше убедилась, что я просто слоупок и как-то боженька миловал от дофаминовых качелей, но пришло и мое время. После этого я стала думать, а как вышло, что миловал и как вышло, что пришло?

1. Непривычно тусклая большая картинка. Возможно, это взросление и очень странные мысли, что силы не бесконечны (на практике), повседневность утомляет, мир сложный.

2. Непривычно яркие на этом фоне отдельные эпизоды гиперфокуса.

А потом мозг привыкает к нестабильности.
Помните, я писала про скуку?
Вы мне там еще в комментах рассказали что это нормально.

Так вот, нет, мне точно не нормально. У меня скука приводит к тому, что я ищу увлекательного.

Вот, что я для себя решила:
Скука отличается для меня от состояния продуктивного бездействия и отличается от отдыха и восстановления: тем, что в скуке нет ни правил, ни цели; ни пути ни результата; никаких эмоций и никакой пищи для интеллекта. Скука противна природе (моей, по крайней мере).

Ну и ясен пень я проецирую как царица — если вы вдруг в последнее время от меня слышали, что «это у тебя от того что ты дурью маешься» то это мой страх за вас, что вы как раз в такой ситуации.

Пион на каждый день

09 Jan 2025 19:48

#красивое

Например, я бы дорого дала, чтобы вживую быть на концерте Авроры в лесу

Гармония текста, мелодии и исполнения; очень аутентичная тусовка, судя по всему; тронутая на всю голову Аврора — все в наличии.

Вообще с ней странно. Мне очень нравится примерно все ее мелодии и ритмы, хороший контраст простого и сложного; очень нравится ее голос и разнообразие приемов, которыми она умеет показать настроение — как младшая сестричка Регины Спектор, только с севера и скорее пытается ввести тебя в транс, чем развлечь.

При этом у меня вызывает отторжение ее визуальный стиль. А когда она начинает говорить прозой она несет очень просветленную чушь; как архат; и у меня не хватает сонастроенности, чтобы вообще какой-то смысл сложить из того, что она говорит: про свою жизнь, свое творчество, людей, ну хоть что-то.

Я слушаю ее, когда мне хочется успокоиться — ритмический рисунок в ее песнях всегда справляется с этим. Например, посмотрите как она хлопает в акустике Starvation (песня про ИИ кстати кек). Я вот с ходу не смогла, а вы?

Ну и на закуску я наверно вот это трогательное сюда положу, даже комментировать не буду, и какая у меня реакция не скажу — напишите лучше сами, у кого такая же.

Послушайте обязательно студийные версии:
The Seed
Starvation
A Different Kind Of Human

Да и все остальное.

❤️ — давно знаю и люблю
👍 — не знала, но понравилось
👌 — ок