-
Авторский блог о системах, сложности и самоорганизации Чат: https://t.me/sa_diary_chat
Молох, часть III. Противоядие.
Чтобы понять пост очень нужно прочитать или перечитать часть I и часть II.
В этот раз я хочу поговорить о противоядии против Молоха.
В чём ключевая ловушка Молоха? Базовый принцип прост – в соревновании, где оптимизируется некое понятное значение X возникает возможность вырваться вперед, пожертвовав каким-то второстепенным качеством. Все кто пользуются этой возможностью выигрывают, те кто не пользуются начинают проигрывать. В конечном итоге остаются только те, кто воспользовались и относительное соотношение сил в соревновании остаётся плюс-минус тем же самым, но в абсолютном смысле всем стало немного хуже. Этот процесс повторяется и мы постепенно выкидываем на свалку абсолютно всё, чем только можно пожертвовать.
Молох представляет из себя именно ловушку, потому что каждый агент действует в своих личных интересах, но тем не менее в конечном итоге оказывается в худшем положении.
Но подождите, Молох с нами с начала времён, а весь мир так и не превратился в ад, во многом дела вообще идут неплохо. Почему так?
Есть несколько вариантов систем, где Молох ограничен, понимание этих вариантов может помочь в борьбе с ним. Например, такие:
– Избыток ресурсов в системе
Когда ресурсов очень много, то часто не возникает жёсткой конкуренции и необходимости приносить жертвы.
– Utility Maximization.
Иногда чтобы удовлетворить клиентов в рыночном соревновании нужно сохранять человеческие ценности.
– Физические ограничения агентов
Может быть рабовладелец и рад был бы в конкуренции с соседним плантатором заставлять своих рабов трудиться ещё больше, но иногда они уже на физиологическом пределе.
Последний, самый рабочий метод – координация, но про него чуть ниже.
Получается, Молох и его ловушки превращают мир в бездушную оптимизирующую машину, по пути принося в жертву человеческие ценности. Сейчас ему мешают ограничения (ресурсы, физические ограничения и utility maximization), а также какая-никакая координация.
Но что вообще делали люди все последнее время? Инструменты и технологии. Как они влияют на Молоха?
Технологии рождают возможности, а возможности в нашем мире Молоха – это часто возможности для той самой оптимизации значения X, пусть и с неприятной побочной жертвой. Соответственно технологии дают Молоху сил точно не меньше, чем людям, поэтому не могут помочь обойти ловушки.
Более того, технологии могут убирать факторы, ограничивающие Молоха: людей проще контролировать, стимуляторы могут позволить людям больше работать, более дальнобойное оружие позволяет соревноваться не только с соседом, но и с "заокеанскими партнёрами".
Что является противоположным вариантом от ловушки? Скотт Александр говорит, что противоположность – это Сад. А мы в этом саду вроде как пчёлы.
Главным противоядием является координация. В любой взаимодействующей системе всегда есть лимиты способностей к координации. Внутри страны нет гонки вооружений, не потому что нет опасности, что сосед окажется маньяком, а потому что есть глобальная регуляция, пусть даже в форме монополии государства на насилие. Между государствами гонка есть, потому что нет глобальной регуляции. Нет силы, стоящей выше всех государств, но стоит заметить, что попытки такие силы создать уже долгое время ведутся с разной степенью успеха.
Что в современном мире помогает кооперации? Как ни странно со времён появления интернета мы не увидели взлета межгосударственной координации. Но вот проекты типа Linux, или Wikipedia – крутые примеры кооперации.
Я также думаю, что смартконтракты, блокчейн и ZK лягут в фундамент кооперативных моделей, способных преодолеть текущие лимиты доверия и взаимодействия.
Сам по себе искусственный интеллект – мультипликатор человеческих способностей, значит мультиплицирует Молоха также хорошо, как и противоядие от него.
Как сказал Дэниэл Шмахтенбергер: "У нас проблема не AI Alignment, а Human Alignment".
Про рациональность Юдковского
В контексте системного подхода давно следовало бы упомянуть рациональность. Я этот момент оттягивал, пытался разобраться с противоречием. Я в общем симпатитизировал движению, но не разделял значимый кусок убеждений. Не понимал стоит ли мне включать модели рациональности в свои тексты, вынужденно отсылая людей читать тексты Юдковского, некоторые из которых считаю вредными.
Недавно сходил на встречу рационалистов в СПб, потом уточнил в чате сообщества некоторые вопросы. Смог разрешить противеоречия, приблизительно понял, почему у нас расходятся модели, хотя источники читаем те же. Теперь готов тезисно рассказать о том, какие у меня сейчас модели касающиеся рациональности.
➖ Гарри Поттер и методы рационального мышления - крутая книга.
➖ Сообщество LessWrong - комьюнити крутых, читающих, думающих людей (в значительной степени из IT-среды). Блоги рационалистов интересно читать.
➖ Крайне интересна деятельность близких/дружественных сообществ ненасильственного общения (ННО), уличной эпистемологии, эффективного альтруизма.
➖ Есть очень много удобных моделей (модельный синтаксический сахар). Табуирование, калибровка, премортем, соломенное чучело и др.
➖ В цепочках эпистемология на байесианстве описана доступным языком.
➖ Скотт Александер и его блог Slate Star Codex интересен и тексты его вызывали у меня мало противоречий.
➖ Цепочки излишне художественны, аргументы недостаточно однозначно сформулированы. Если в какой-то момент аргументация автора у вас вызывает сомнения, то из текстов противоречие разрешить не получится.
➖ Цепочки - предубеджены (overbiased) в пользу точных моделей, реальной (без приукрас) картины мира. Отсюда следует недооценка полезности неточных, нефальсифицируемых моделей и тех, кто их использует.
➖ Рациональность имеет ограниченную (довольно узкую) сферу применимости. Если жизненную задачу можно свести к статистической, то рациональность лучший метод. Если нет, рациональность будет выдавать артефакты (сомнительные модели/оценки/суждения).
➖ В ru комьюнити сложно вписаться. Они сознательно формируют узкий круг людей для сообщества, высокий порог входа для людей извне. Чтение цепочек не обязательный, но важный пререквизит.
➖ Радикальные оценки (в среднем) в сообществе касательно AI рисков, значимости AI alignment. До разработки AGI по оценкам сообщества 5-10 лет.
➖ Рациональность может быть лишней прокладкой между Каннеманом, Тетлоком, Чалдини, Дойчем, Сильвером и другими авторами.
Если отнестись к рациональности, как к одной из методологий с узкой сферой применимости, понимая, что у сообщества есть предубежденность в отношении некоторых ценностей, то вреда не будет, но узнать новые модели, познакомиться с новыми людьми может быть весьма полезным.
Some ways to amplify intelligence
Я вел заметки. Записывал, что со мной случилось, что узнал, какие эмоции испытывал, какую-то полезную информацию на будущее. Это не работало. В худшие времена число заметок доходило до 1500. Просматривать, использовать и поддерживать их было за пределами реального. Да, была польза от самого процесса структурирования, но на этом польза заканчивалась.
Я вел блог (You can (not) advance + Eris Storage). Делился знаниями и навыками в удобной (более-менее) форме с другими. Это не работало. Я не мог писать о том, о чем хотел, тем языком, которым хотел и, главное, был gap между знаниями читателя и моими, который мне было лень сокращать.
Вел коллективный блог / платформу перекрестного менторинга (Mused). Делился навыками и историями их внедрения. Это не работало. Я и другие организаторы делились своими навыками и историями, простые участники - нет. На то было много причин. Хотя задумывалось все как тестирование продуктовой гипотезы, но оказалось, часть меня хотела иметь сообщество, с которым можно было бы вместе развиваться. Этого не случилось.
Состоял в двух Mastermind группах. Встречался обсуждал свои задачи и задачи ребят из группы. Это сколько-то работает. Но количество взаимодействия не то (4 часа раз в 2-3 недели). Формат влияния тоже не лучший. Он импульсный: толкоч, а потом 3 недели тишины.
Разработал формат мастермайнда с нефиксированным количеством людей (Midnight). Вместо обсуждения задач обсуждалась заданная важная для всех тема и смежные вопросы. Вместо фиксированного состава группы была модель с участник группы +1. Это почти работало. Обсуждению недостовало структуры. Для стабильности необходимо иметь еще несколько хостов кроме меня. Но это оффлайн.
Я работал с психотерапевтом (не долго, уже даже возвращаюсь). Проробатывали мои убеждения, эмоциональные ответы и подбирали для них рациональные замены. Это работает. Процессинг шел гораздо быстрее, чем самостоятельно. Глубина проработки сильно лучше чем в мастермайнде, но территория, которую может покрыть терапевт очень не большая. Это только про well-being.
Я занимался с менторами. Обсуждали мою ситуацию на работе, планы на будущее и релевантные прикладные навыки. Это работает. Одной сессии с ментором достаточно чтобы покрыть следующие несколько месяцев работы. Но, опять же, одна узкая область.
Придумал для себя формат отслеживания и улучшения поведения (а.к.а. Системы). Можно провести аналогию с Колесом Жизненного баланса, только категории персональные и уровень рассмотрения ближе к конкретным задачам. Можно еще провести аналогию с софтом ведения проектов. Это почти работает. Основная проблема как и с ведением заметок, элементов становится слишком много и цена поддержки растет, но не так быстро, так как количество систем +- постоянно.
Был частью LessWrong, сообщества рационалистов. Это не работает. Сообщество слишком сильно сконцентрировано на теории и витании в облаках, и слишком мало на практике и результатах.
Вторичных целей у всех этих штук было много разных:
- увеличить агентность,
- собрать вокруг себя интересных людей,
- научиться писать секси тексты,
- заиметь личный бренд
Но главная цель, хоть и широко поставленная, была одна:
-- Усилить интеллект (прости хоспади) с помощью внешних штук
Midjourney. Генерация в промышленных масштабах
🛠 Chainner
Киллер фича - удобная автоматизация. Для разовой обработки проще пользоваться онлайн-инструментами.
Основные функции, ради которых стоит выбрать:
‣ Upscale
‣ Remove background
‣ Blend with background
Разработчики предоставили все необходимое для работы:
‣ Шаблоны для цепочек (chains)
‣ База данных моделей для upscale
‣ Сайт со сравнением upscale моделей и встроенным интерактивным инструментом для сравнения изображений, полученных разными моделями.
🛠 Invoke AI
Invoke - интерфейс для локальной работы с Stable diffusion.
Особенности:
‣ Автоматический установщик, основные модели, библиотеки и зависимости установятся автоматически.
‣ Достойный Web-UI.
Функции, ради которых стоит выбрать:
‣ Inpainting
‣ Outpainting
Пригодится, чтобы убрать с изображения лишнее (текст, артефакты, объекты), добавить (сгенерировать с помощью SD) нужное.
Хорошо себя покажет на простых изображениях, на сложных чуда ждать не стоит.
Модель, которой сейчас пользуюсь: sd-inpainting-2.0. Как минимум лучше, чем заливка с учетом содержимого в Photoshop.
🛠 discord-downloader-go
Если изображений генерируется много и сохранять вручную становится утомительно, можно воспользоваться утилитой для скачивания изображений из discord канала. После настройки файла конфигурации, новые изображения в канале будут сохраняться в указанной директории. После определенных манипуляций, также можно скачать все изображения из истории канала.
✨ Prompt generators
Prompt engineering для midjourney ближе к ремеслу, чем к искусству. Чаще всего приходится в рамках определенной структуры комбинировать определенные ключевые слова и определенные аргументы. Занятие это рутинное и автоматизация здесь весьма полезна. Можно пользоваться генераторами, которые помогут упорядочить ключевые слова, составить запрос.
Люди делятся своими chatgpt запросами для генерации midjourney prompts. Среди них много довольно примитивных, но один для себя выделил.
https://www.reddit.com/r/midjourney/comments/11chf6s/version_3_of_my_chatgpt_prompting_machine_it_now/
✨ Prompt extraction (Image-to-prompt)
Полезен также обратный процесс получения текстового запроса из изображения. Загрузив картинку, можно получить пример запроса или список ключевых слов, которые помогут получить похожее изображение.
🔗 Useful Prompt Engineering tools and resources [Reddit]
Огромный список полезных ресурсов связанных с генерацией изображений. Здесь есть ссылки на генераторы и экстракторы.
Последние две недели посвятил освоению генеративных нейросеток. Включился довольно поздно, но примеры использования GPT-3 и Midjourney раньше мой глаз не цепляли. Теперь ситуация изменилась. Демонстрируемые возможности GPT-3.5 и Midjourney v4 срезонировали с моими текущими потребностями. На подходе новые версии GPT-4, Midjourney v5.
Поскольку приходится много ресерчить, пробовать различные инструменты, накапливаются наблюдения и опыт, которые могут быть полезны. Параллельно с освоением инструментов, буду писать посты.
Stable diffusion с его широкими возможностями пока только в процессе изучения. Тестирую специализированные модели, интересно опробовать обучение.
Буду рад полезным ссылкам по теме.
Rv3 (ver. 1.0)
О книге Дэвида Дойча "Начало бесконечности" Ч2
Глава "сон Сократа", по моему мнению, самая потрясающая. Она аккумулирует основные эпистемологические тезисы и облечена в форму знаменитых диалогов Сократа. Её можно прочесть отдельно от книги и получить не только интеллектуальную пользу, но и эстетическое удовольствие. Собрал ключевые цитаты в этом посте. Саму главу крайне рекомендую к прочтению.
Глава 10. Сон Сократа
Знание, которое ты ищешь, –объективное знание – сложно получить, но оно достижимо. А к тому психическому состоянию, которого ты не ищешь, – обоснованному убеждению, – стремятся многие, особенно священники и философы. Но, по правде говоря, убеждения нельзя обосновать, кроме как относительно других убеждений, и даже в этом случае только с ошибками. Так что поиск обоснований может привести разве что к бесконечному регрессу, каждый шаг которого будет и сам подвержен ошибкам.
@
Действительно, многие из догадок не открывают ничего нового. Догадки, хоть и дают начало всему знанию, также являются источником ошибок, и поэтому важно, что случается с идеей после того, как до нее догадались.
@
Догадка может появиться из сна, может быть просто плодом необузданной мысли, случайной комбинацией идей или еще чем-то. Но мы не принимаем ее слепо на веру, потому что думаем, что она «надежна» или потому что хотим, чтобы она оказалась верной. Вместо этого мы критикуем ее и пытаемся найти в ней недостатки.
@
Путем поиска мы выучили простые вещи (открыли знания) и пришли к согласию в них. А в будущем теми же средствами, а именно отказываясь огораживать любые свои идеи от критики, мы, возможно, узнаем и более сложное.
@
Действительно, сама наша идея о возможности совершенствования предполагает, что в текущих наших представлениях должны быть ошибки и несоответствия.
@
Раз уж ты упомянул, что некоторые нравственные истины логически следуют из эпистемологических соображений, мне теперь интересно, верно ли это для всех. Может ли быть так, что моральный императив, заключающийся в неразрушении средств исправления ошибок, – единственный такой императив? И что все остальные нравственные истины из него следуют?
@
И вот мы сидим, навечно заточенные в темной, почти закрытой пещере собственного черепа, и строим догадки. Мы плетем истории о мире вокруг нас, на самом деле даже о мирах: физическом мире, нравственном мире, мире абстрактных геометрических форм и так далее, но нам недостаточно этого плетения и этих историй. Нам нужны верные объяснения. И мы ищем такие, которые выдержат проверку теми мерцаниями и тенями, и друг другом, и критериями логики и разума, и всем, что еще только можно придумать. И когда мы уже не сможем их больше менять, нам откроется некая объективная истина. И, как будто нам этого мало, мы начинаем управлять тем, что понимаем. Это как магия, только действенная. А мы как боги!
#book_review
Я не хотел писать в этот канал, пока происходят события, на фоне которых все остальное кажется шумом.
Я хотел прокомментировать происходящее, но все мои версии останутся в черновиках. У меня нет таких формулировок, которые бы не вызвали гнев людей, чьи жизни трагедия затронула непосредственно. Как правило, прагматические и рациональные аргументы уступают эмоциональным. Мою открытую аполитичность вряд ли простят те, кому политика приносит убийства и разрушения.
Гуманитарные катастрофы ужасают вне зависимости от политических контекстов. Способы их предотвращения одинаковы. Децентрализация во избежание тоталитаризма и монополий, самоорганизация для предотвращения тираний и автократий, усиление интеллекта против идеологической обработки и пропаганды, открытость систем для предотвращения фейков и дезинформации. Можно бороться с теми, кто воплощает зло, можно бороться с системами, которые поддерживают зло, можно бороться с собой, поддающемуся соблазнам зла. Для последних двух не требуются политические инструменты, но также способствуют развитию социальных систем в лучшую сторону.
Из эффективного альтруизма я вынес для себя тезис и активно его придерживаюсь. Финансовая поддержка эффективнее неумелых попыток исполнять не типичную для себя роль. Если хочется повлиять на ситуацию, внести свой вклад, то следует найти организации, которые выполняют требуемую функцию и помочь ей финансово. К счастью сейчас предостаточно организаций, взявшихся за медицинскую помощь пострадавшим, помощь беженцам, гуманитарную помощь жителям. Это не только проще эмоционально, но и продуктивнее переживаний и тревоги о вещах вне локуса контроля.
Теперь я попытаюсь продолжить заниматься каналом, игнорируя политический контекст. Хочу чтобы люди понимали, что игнорирование происходит не от того, что политические события не стоят внимания, а от того, что эти события неподконтрольны в значительной степени. Остановить эпидемию популизма, милитаризма, империализма нельзя одним точечным усилием. Системная проблема требует системного решения. Не должны специалисты разных областей массово менять квалификацию на политический активизм. Идти на риск, к которому они не готовы. Это мое своеобразное видение ситуации. Могу понять тех, кто со мной не согласится, но по данному вопросу к дискуссии не готов.
N13 (ver. 1.0)
С сентября по февраль я публиковал 1-2 поста в месяц, зачастую это были репосты. При том, что я сам не люблю, когда на каналах выходит слишком много постов, даже по моим меркам этого мало для поддержания жизни канала. Я действительно практически перестал заниматься каналом, писать тексты.
Множество негативных факторов сложились так, что я оказался в депрессии. Два месяца мне потребовалось на то, чтобы это осознать и дифференцировать от выгорания или функционального спада. Месяц мне потребовался на взвешивание решения обращения к психиатру и приема антидепрессантов. Месяц ушел на прием эсциталопрама в ожидании наступления значимого эффекта. Новый год и день рождения я провел в одиночестве, в полной апатии и безразличии. Это было не самое лучшее время.
Благодаря компетентному психиатру и удачно подобранному лечению, сейчас я в ремиссии. Я возвращаюсь к жизни, возвращаюсь к прежним проектам и к прежним уровням продуктивности/производительности.
Раньше я анализировал, что могу уделять 8-10 часов на ведение канала в месяц. В данный момент этого хватает на два, в лучшем случае 3 поста. Да, я пишу медленно. Я всегда ресерчу и стараюсь тщательно проверить каждый тезис. Я меняю формулировки, сжимаю текст, в меру своих сил провожу корректуру. Бывает так, что я трачу 2-3 часа на текст, который не доходит до публикации. У меня целое кладбище недописанных и неопубликованных текстов.
Итоговый коммитмент: я рассчитываю, что буду публиковать 2-3 авторских текста в месяц и какое-то количество репостов. Их регулярность я не регулирую. Как только встречаю что-то очень резонирующее, я пересылаю это в канал.
Сейчас я не могу представить, что я откажусь от ведения канала. Он для меня очень ценен, мне еще есть что сказать и чем поделиться. Хочу отметить, что были люди, которые мне присылали положительную обратную связь. У меня к ним огромная благодарность, они крайне мотивируют. Для меня это крайне важно. В значительной степени они побуждают продолжать)
Stay tuned.
#note
Ожидания должны быть разрушены. Одна из ключевых функций дофамина – это формирование предсказаний и ожиданий от окружающего мира. Модели ожиданий постоянно обновляются и приспосабливаются – ключевую роль в этом играют ошибки предсказания. Чем сильнее несоответствие, тем выше перепад уровня дофамина – и это позволяет «перезаписать и обновить» модель мира, когда наши ожидания не соответствуют реальности. При психозах же сверка "реальность и ожидание" практически прекращается, человек теряет связь с миром.
Дисфункциональные ожидания – это явление, когда наш мозг не может изменить свои представления, несмотря на их несоответствие реальному миру. Это приводит к неадекватному, ригидному поведению. Разрушение этих ожиданий лежит в основе действия психотерапии. Терапевтичным является реальный опыт, который противоречит ожиданиям и разрушает их. Так работает экспозиционная терапия – когда человек идет навстречу страху, боится, но ничего с ним не происходит. «Ожидание» плохого гаснет. Особенно важно это сейчас – когда вся информационная повестка свелась к запугиванию (fearporno), что формирует тревожные ожидания. Поэтому важно усиливать процессы обучения безопасности и активно дезактуализировать страхи. Суть заключается в том, чтобы отказаться от конфликта «ожидание-реальность», перестать тратить силы на переживания и сожаления, улетать в фантазии от фрустрирующей реальности. Вера в то, что вещи должны быть такими как мы задумали или захотели (MUSTурбация) разрушительна для психики.
Колебания уровня дофамина кодируют ошибку предсказания и подсказывают когда сигнал есть, а «плохого» нет, т.е. отсутствие ожидаемого наказания. Исследования показывают, что повышение уровня дофамина перед сессиями приводит к ускоренному исчезновению страха. Чем выше уровень активности прилежащего ядра во время сессии экспозиционной терапии, тем выше эффективность лечения тревог и страхов.
Что это значит? Чем выше уровень активности дофаминовой системы, тем выше эффект психотерапии и других вмешательств. Высокий уровень дофамина помогает мозгу быстрее распознать ошибку и «перезаписать» ожидание, разрушить старую модель поведения. 4 идеи: голод, ожидание, память. Например, интервальное голодание является одним из доступных механизмов повышения чувствительности дофаминовой системы. Также важен перепад уровня дофамина – чем сильнее ожидание неприятного стимула, тем более заметно несоответствие – и выше эффект психотерапии. Третьим неожиданным механизмом является объем рабочей памяти. Чем он выше, тем активнее работает дофаминовая система и лучше эффект психотерапии. Практика осознанности – безоценочное восприятие помогает вам принимать реальности и обновлять ее модели без попыток ускользать в диссоциацию, отрицание, проекцию и подобные способы бегства.
Dopamine: from prediction error to psychotherapy. Transl Psychiatry. 2020;10(1):164. Published 2020 May 25. doi:10.1038/s41398-020-0814-x
V5 (ver. 1.0) 🎞
Начну с того, что вот есть у нас логическая ошибка аппеляции к авторитету.
С одной стороны, вполне здравым подходом является постоянный скепсис и поиск убедительных доказательств даже в отношении высказываний авторитетных людей.
С другой стороны, логическая ошибка не является ошибкой (эвристического) мышления. На самом деле может быть вполне рациональным делегировать факт-чекинг или интерпретацию экспертам, прошедшим какие-то критерии отбора.
В третьих, логические ошибки скорее про двоичную логику (истина/ложь), а нас должна интересовать в большей степени сила свидетельств по Байесу.
Это я к тому, что крайне важно подобрать пул экспертов, желательно связанных друг с другом, чтобы одни могли давать оценку друг другу, для того, чтобы дополнять модель мира в областях, на которые не хватает когнтивного ресурса или собственных интеллектуальных компетенций.
В мой пул экспертов входит Николай Кукушкин. По моим наблюдениям, Николай не запятнан какими-то грубыми формулировками во благо популяризации научных знаний. В прошлом году Николай стал лауреатом премии "Просветитель" за книгу "Хлопок одной ладонью". К сожалению, книга у меня все еще в рид-листе, поэтому какой-то отзыв о книге я дать не могу, но у меня очень сильная убежденность, что книга - топ в своём жанре. Еще Кукушкин иногда пишет классные посты в ВК (https://vk.com/kolyakukushkin).
Сегодня на канале Мезенцева вышло интервью с Николаем. Интервью шикарное. В контексте системного подхода были несколько классных реплик. Только ради них интервью стоит посмотреть.
UPD. Чуть не забыл упомянуть топовые статьи на НОЖе.
https://knife.media/author/kukushkin/
#video #A1 #Кукушкина_в_массы
#руди #сложность #complexity
Доброе утро трайб. Выходим потихоньку из шока и анабиоза. Возвращаемся к жизни. Не спрашивайте ничего про Сержа. Не смогу пока комментировать. Все потом.
Сегодня про сложность мира.
"У каждой проблемы есть как минимум одно простое ...и неправильное решение" — Андрей Черняков (основатель программы Эволюция).
Думаю, что самая частая фраза, которую, можно услышать от меня последний год — "это упрощение реальности". Дальше мои рассуждения на тему сложности. Могут звучать экспертно, но это всего лишь мое текущее понимание.
Мир сложносочиненный. Фотон одновременно и частица и волна. Человек одновременно и примитивное животное и высшая форма эволюции. "Плохие" люди могут делать много добра и пользы для мира. Научные исследования могут вводить в заблуждение не меньше, чем религия. Можно потратить массу усилий на то, чтобы, стараясь делать лучше, на самом деле делать хуже. Личное развитие не ведет напрямую к улучшению благосостояния. Спорт может приводить к ухудшению здоровья. Чиновник может быть хорошим человеком и сильным профессионалом. Слабое государственное администрирование может быть хорошо для страны. Смертная казнь увеличивает преступность. Гарантированный доход может уменьшать безработицу. Максимально гуманная пенетенциарная система уменьшает преступность. Субличность, которая ведет маньяка на убийство, вообще-то, заботится о нем (создатель Internal Family System Ричард Шварц именно так считает). Можно продолжать список "противоречий".
Все это — "сложность мира". А личное развитие — это усложнение мышления (хотя само это утверждение — это упрощение. Потому что, например, после определенного этапа когнитивное усложнение мышление, кажется, уже начинает мешать развитию). Чем больше мы развиваемся, тем с большей сложностью мы можем иметь дело. Тем больше "противоречий" в нас вмещается. Тем меньше мы упрощаем. Тем ближе наше представления о реальности к ней самой. По другому и быть не может. Если реальность сложная, а представление о ней примитивное, то мы искажаем, и не можем принимать достаточно точных решений по взаимодействию с ней.
Открыл Америку через форточку 🙂 Понятно, что все СЛОЖНО. И что с этим теперь делать? Чаще всего я не знаю. Пока что я просто "ОК" с тем, что нельзя упростить большинство вещей, которые раньше упрощал. Иногда понимаю, что если все равно рационально не просчитать ситуацию, то лучше довериться интуиции. Иногда понимаешь, что просто не нужно вмешиваться в ситуацию, потому что ты не уверен в результате своего вмешательства. Иногда просто кайфово понаблюдать за всей этой сложностью 🙂
Упрощения, при этом, также — офигенный инструмент. Он нам очень нужен до тех пор пока мы не в состоянии взаимодействовать со сложностью в каком-то вопросе. Круто, что мы можем упрощать, иначе мы бы просто были парализованы анализом ситуаций, которые, все равно, невозможно просчитать 🙂
Закончу моей любимой цитатой Жени Курышева. «В разговоре между богом и complexity — бог начинает очень быстро проигрывать». Какой бы ты не был крутой, стоит уважительно относится к сложности мира 🙂
Th8 (v. 1.0)
Связь (Relationship)
Синонимичные понятия: отношение, зависимость, корреляция
Если изменения одного элемента приводят/могут приводить к изменению другого, то предполагается, что между такими элементами существует связь.
Разные типы связей полезно различать. Один из способов - различать прямую связь и косвенную.
Прямая связь - изменения одного элемента непосредственно, однозначно приводят к изменению другого элемента.
Например, связь между силой удара по мячу и дальностью его отскока или связь между скоростью и расстоянием, пройденным за единицу времени.
Косвенная связь - изменения одного элемента опосредованно и вероятностно приводят к изменению другого элемента.
Например, связь между курением и раком легких или связь между уровнем дохода и счастьем.
Говоря о связях, обязательно стоит упомянуть:
Correlation does not imply causation или корреляция не означает причинность.
Причинно-следственная связь подразумевает прямую связь.
Корреляция подразумевает косвенную/опосредованную/вероятностную связь.
Здесь же можно упомянуть вытекающую из неверного понимания связей логическую ошибку.
Post hoc, ergo propter hoc или после этого, значит вследствие. (Подробнее об ошибке)
Если вы съели киви, а через час у вас прошла головная боль, не следует спешить наделять киви целебными свойствами.
Связь - очень важное понятие в системном подходе. Понятие связи дополняется особенностями и в результате образуются полезнейшие модели.
Одной из важных производных моделей является обратная связь (положительная, отрицательная). Модель из кибернетики стала ключевой моделью в системной динамике и в целом нашла широкое применение в разных областях. О ней написано предостаточно в литературе по кибернетике, системному подходу и смежным областям.
Еще одной важной моделью является модель связи с задержкой. При таком типе связи, изменение одного элемента вызывает изменение другого не сразу, а спустя какое-то время. Если не учесть возможность, что связь может быть с задержкой, то есть риск сделать поспешные выводы/заключения.
В общем случае, между приёмом антидепрессантов и снижением уровня депрессии есть связь (достаточно сильная корреляция). Однако, эффект проявляется (связь актуализируется) совсем не сразу. Делать выводы об эффекте (связи) возможно лишь спустя 2-3 недели.
Множество зависимых связей (связей со связями) образуют каскады связей. Это уже наиболее интересная модель из упомянутых. Визуализируя и анализируя каскады связей, вырисовывается более холистичная модель ситуации, возникает понимание сложности систем и потребность в системном подходе, чтобы с подобной сложностью справляться.
Изображение ниже иллюстрирует сложность ситуации в Афганистане в политической/экономической/культурной перспективе. Традиционно связи изображены линиями/стрелками. Можно наблюдать многочисленные разветвленные каскады связей. Если к модели с картинки еще применить инструментарий теории ограничений, то с натяжкой можно будет сказать о системном анализе проблемы.
#thesaurus #B1
Rv2 (ver. 1.0)
О книге Евгения Ксенчука "Системное мышление"
Обычно от книги я жду, что приобрету полезные новые модели. Из-за этого многие книги мне пришлось отложить, поскольку в них идут описания, рассуждения в стандартных моделях. Поэтому книга Ксенчука "Системное мышление" два года назад выпала из моего рид-листа, в ней описывались системные модели, с которыми я уже был неплохо знаком.
Теперь, после того как я завел блог, я вновь обратился к книге, посмотрел на неё с другой перспективы и получил огромнейшее удовольствие. Поскольку я стал писать тексты и своей задачей ставлю кратко и доступно рассказать о системных моделях и принципах, теперь я в большей степени обращаю внимание на то, как другим авторам удается преодолеть сложность понятий, выражая их в наиболее доступной форме. Я оказался искренне восхищен, насколько удачная работа проделана Ксенчуком, как изящно и емко ему удалось подружить в книге основные предпосылки системного подхода и его принципы. Если бы я прочитал книгу раньше, я бы не стал писать некоторые посты, потому что сейчас для меня очевидно, что главы Ксенчука гораздо лучше объясняют некоторые системные модели, чем это получалось у меня.
Книга находится в свободном доступе на сайте Евгения. Если мне кому-то предстоит посоветовать книгу для знакомства с системным подходом с нуля, то я предложу Ксенчука и только потом Левенчука. Книгу Ксенчука выделяют минимальные понятийные расстояние, максимальная плотность материала, очень частые попытки заземления, приведение аналогий и огромное количество крайне уместных потрясающих цитат Талеба, Акоффа, Поппера, Гараедаги, Эшби, Капры, Детмера, Голдратта и прочих авторов.
Тезисы первой части книги:
- Человек субъективен
- Реальность интерпретируется/отражается
- Картина мира влияет на интерпретацию/восприятие
- Человек строит неточные ментальные модели реальности.
- Мышление - это моделирование
- Особенности мышления обусловлены задачами выживания и адаптации
- Привычные паттерны мышления плохо отвечают изменчивому, непредсказуемому, сложному современному миру
- Мышление контекстуально
- Ограниченность картины мира ограничивает восприятие реальности
- Человек может делать лишь вероятностные заключения об истинности
- Человек очень далек от понимания "истин" социального мира
- Человеческие возможности познания ограничены
- Человеку следует быть скромным и осторожным в заключениях
- Слова - только ярлыки, а смысл раскрывается в употреблении
- Существует тройная ошибка коммуникации (неточная модель фрагмента реальности, неточная вербализация внутренней модели, неточная интерпретация вербализированной модели)
- Существует проблема множественных несогласованных описаний одних и тех же моделей.
- Операциональные определения могут повысить коммуникативную точность
- Большое влияние контекста на восстановление ошибок в коммуникации
- Влияние на мышление неосознаваемых компонентов психики:
- Когнитивные искажения
- Логические ошибки
- Психологические ошибки
- Ошибки оценки вероятности
- Ошибки экономического поведения
#book_review
P1 (ver. 1.0)
Анатолий Левенчук
Анатолий является одним из пионеров системного мышления в России. Мое знакомство с ним началось с его постов в блоге ЖЖ, в которых я ничего не понимал, затем с книги Системное мышление 2018, кажется, года. После прочтения книги стало еще интереснее следить за его соц. сетями и различными активностями, связанными с ШСМ.
Левенчук [Л] совместно с Цереном Цереновым основали школу системного менеджмента. Я не знаю, насколько хороша их школа, не могу дать оценку качества их программ, но уверен, что для системного движения школа внесла огромный вклад. Смотрел видео их недавней конференции (день 1, день 2). В одном из докладов сообщали, что количество выпускников, преподавателей, курсов в школе устойчиво растут. Из этого следует обнадеживающий вывод, что системное движение в России развивается и будет выходить на все новые уровни.
Лично я отношусь с осторожностью и умеренным скепсисом к материалам Л (не проходил каких-либо курсов ШСМ), но это специфика моего контекста. Мне хочется быть самостоятельным исследователем системного мышления и избежать фрейминга моделями других школ. Удобнее самостоятельно мыслить, используя свой тезаурус и модели, а потом находить соответствия с моделями/терминами других авторов.
Например, у меня есть ряд расхождений по тезаурусу и, возможно, моделям:
// Я могу ошибаться в оценке тождественности терминов и стоящими за ними моделей.
Перспектива. У Л - это ролевое описание (view)/ролевой метод описания (view point).
Реализация. У Л - воплощение.
Связанные субъекты. У Л - проектные роли/стейкхолдеры.
Масштаб/уровень абстракции. У Л - системный уровень
Идентичность. У Л - позиция.
Метаметодология. У Л - трансдисциплина.
Ключевая особенность материалов Л выражается его цитатой:
"Вариант системного подхода, который мы излагаем в нашей книге, основан главным образом на материале инженерных стандартов и публичных документов , а также стандартов инженерии и архитектуры предприятий: именно оттуда мы брали основные схемы, основную терминологию, и только чуть-чуть адаптировали эти схемы так, чтобы была очевидна их связь друг с другом."
Л четко формулирует, что его вариант системного подхода заточен на инженерную деятельность, на физические изменения в мире. Левенчук пишет: "в нашем варианте системного подхода мы не будем считать нефизические объекты системами и частями систем". В этом отказе от рассмотрения высокоабстрактных нематериальных/нефизичных моделей как систем, Л сужает универсальность и трансдисциплинарность его варианта системного подхода. То есть Л пользуется стандартами и терминологией из менеджмента и инженерии. Это прекрасно для тех, кто создает стандартизированные системы, кому необходимо на одном языке разговаривать о системах с представителями разных отраслей. Однако такой выбор неоднозначен.
Вариант системного подхода Л специфичен. Специфичность подхода является преимуществом за счет сфокусированности, конкретности, практичности, более близких (низких) абстракций. Специфичный подход - это подход, который можно применять из коробки, не нужно ничего додумывать и достраивать. Все необходимые модели предложены, основные операции описаны. Обратной стороной специфичности является ограниченность. Системный подход может быть полезным и в менее заземленных областях с большим количеством абстрактных объектов: спорт, искусство, психология, саморазвитие, коммуникация, педагогика, футурология. Чтобы применить системный подход по Л художнику/спортсмену/педагогу/психологу, понадобится модели и принципы из книг/курсов абстрагировать до трансдисциплинарного уровня, а затем деабстрагировать и адаптировать их к своей области/дисциплине.
Для тех же, кто связан с разработкой/менеджментом/аналитикой/смежными областями, Л остается топовым автором, с которого можно начинать знакомство с СП, а также углублять/дополнять уже имеющиеся знания по теме.
Ссылки:
Блог Левенчука
ТГ чат для обсуждения постов блога
Чат курса "образование для образованных"
Чат курса "вычислительное мышление"
Чат курса "системное мышление"
Школа системного менеджмента
#personalities
“Мир — это доброкачественная загадка, которую наше сумасшествие делает ужасной, пытаясь разрешить её исходя из собственных представлений“
— Умберто Эко, Маятник Фуко
Эта цитата из книги Эко как нельзя лучше описывает конфликт ментальных моделей и реальности. Важно помнить что даже на самом базовом уровне мы не получаем адекватную картину действительности: реальный (или относительно реальный😉) мир представляет собой странный квантовый граф. Мы же, например, видим цвета, слышим звуки — конструкты, которые наш мозг создаёт специально для нас по мотивам мира. Мы взаимодействуем с репрезентацией, упрощенной версией реальности.
Похожие несоответствия проявляются и на уровне ментальных моделей. Недавно в блоге CABRERA Research lab
(ссылка↓) я увидел акроним LAMO, довольно точно суммирующий эти несоответствия.
Опишем МИР уже знакомым акронимом VUCA (хотя к нему конечно много вопросов): Volatile Uncertain Complex Ambiguous
Волатильный Неопределённый Сложный Двойственный
НАШИ ПРЕДСТАВЛЕНИЯ О МИРЕ: LAMO
Linear Anthropocentric Mechanistic Ordered.
Линейные Антропоцентричные Механистические Упорядоченные
Детали несоответствия можно описать так:
→ Мир нелинеен, мы же пытаемся понимать его исходя из линейных моделей.
Подробнее об этом я писал в посте про нелинейную динамику
→ Реальность оптимизирована под большие числа, не под конкретных людей. Мы же часто пытаемся понять ее через собственный опыт, впадая в чрезмерный антропоцентризм.
Следствие антропоцентризма — narrative fallacy
→ Мир — гибкий и адаптивный, он существует по принципам экосистемы.
Мы же часто пытаемся понять его исходя из ригидных механистических законов (как один большой часовой механизм).
Чуть больше про экосистемные изменения
→ Мир — это сложная сеть взаимосвязей, порождающая массу случайных событий. Мы же пытаемся осознать его через иерархичные структуры и жесткие категории.
Больше о роли случайности в наших решениях
LAMO — хорошая мнемоническая шпаргалка, она может помочь нам почелледжить свои модели окружающей действительности и почувствовать что их пора обновлять♻️
Про онтологию
🔹 За 7 изучения системного подхода, у меня произошло самое масштабное обновление моделей. Изменения связаны с открытием глубины онтологической дисциплины. Последние полгода я восполнял пробелы в данной области и находил все больше подтверждений ключевой роли онтологического знания для научных дисциплин в целом (не только для системного подхода).
🔹 Раньше я понимал онтологию, как коллекцию генерализованных сущностей. Такая коллекция могла быть представлена таксономией понятий/моделей. Онтология, как дисциплина, представлялась по большей части, как размышления и идеи философского характера о том, какие сущности можно выделить, как они связаны, чем отличаются друг от друга. Примеры сущностей онтологий: объект, модель, система, функция, характеристика, связь.
Чего я не знал, это что помимо сущностей, современные онтологии включают:
- Предикаты/связи/функции
- Логику (первого порядка (FOL), дескриптивную (DL) и др.)
- Аксиомы (логические утверждения о сущностях и связях)
- Инструменты логического вывода (inference/reasoning tools)
- Графовую форму представления
🔹 Открытием стало, какая значительная работа проделана онтологами. Например, самая близкая мне онтология SUMO включает ~25,000 понятий и ~80,000 аксиом. Закрытая коммерческая разработка CYC выделила 1.5M понятий, 42К предикатов. Есть всякие WordNet, ConceptNet, DBpedia, в которых счет идет на сотни тысяч, миллионы слов, для которых добавили мета-данные, которые полезны онтологам. При том в значительной части это ручная работа. Пока нейронные сети или другие инструменты слабо помогают с выделением семантического содержания из слов, понятий, утверждений.
🔹 Теперь я нахожу, что отношение между онтологией и системным подходом, как между математикой и физикой. Если представить физику без математики, то получится крайне ограниченная, обедненная область знания, в которой знание представлено нарративом, а предсказательные способности сильно ограничены. Онтология вносит строгость: четкость критериев, аксиоматичность, последовательность, согласованность. При онтологической формализации, знания приводятся в машиночитаемый формат, что открывает возможность применить доступную мощь компьютерных вычислений/моделирования (машинное обучение, нейронные сети).
🔹 Мои модели изменились таким образом, что сейчас я считаю, что изучение онтологии первично по отношению к системному подходу и другим сложным дисциплинам.
Сначала следовало бы использовать понятийную сетку (разработанную онтологами), научиться подбирать четкие критерии для описаний, научиться формулировать утверждения в форме для формализации и применения логических операций.
Гораздо позже, когда онтология встроена в мышление возможна совместная работа разрозненных агентов над решением сложных задач.
// Люди успешно решали и решают сложные задачи не зная про онтологию, как дисциплину. При этом у них есть онтология (как сеть понятий), просто она не оптимальна (локально), не формализована, не согласована с другими онтологиями у других людей. Моя оценка, что сложные задачи будут решаться успешнее при снятии обозначенных ограничений.
Факторизация заметок
Если расчленить все варианты ведения заметок и вытащить работающие части, получится довольно внушительный набор фичей:
- Inbox. Быстро сохранить инфу сейчас - обработать потом
- Думать на бумаге. Рукописные заметки дают большую свободу и глубину процесса.
- Подведение summary размышлений. Реальная структура вопроса становится понятна только в конце
- Темплейты. Аккумулируют опыт. Если что-то повторяется, для этого нужен темплейт (как минимум в голове)
- Двухсторонние линки (как в Roam Research). В человеческой голове связи чаще идут в обе стороны
- Cauldron - заметка с множеством размышлений в ранней стадии. Там они варятся и помогают друг другу развиваться
- Immutability. What’s done is done. Проще работать икрементально: старая часть остается неизменной, к ней добавляются новые части
- Mood tracking. Чтобы что-то улучшить, это сначала нужно затрекать
- Корневая заметка как оглавление автобиографии. Главы - это проекты или жизненные этапы (например "первая работа"). В начале исторические заметки, в конце планы на будущее
- Степень интеграции заметок заметок в жизнь. Это самое сложное. В зависимости от хардкорности, можно обращаться к заметкам перед началом работы над новой штукой и, например, на выходных, а можно по несколько раз на дню потому что вся информация там, туду тоже там: все там
100% это еще не все
Удивление — маркер неадекватности
«Любопытный отыскивает редкости только затем, чтобы им удивляться, любознательный же затем, чтобы узнать их и перестать удивляться»
Рене Декарт
Я как-то уже рассказывал, что у каждого человека есть некое представление о реальности, которая его окружает. Реальность от этого представления никак не зависит и «сбывается» конкретным образом, что бы мы о ней не думали.
Меру того, насколько наши представления далеки от реальности назовём для простоты «неадекватностью». Уменьшение этой меры благотворно сказывается как на качестве наших прогнозов, так и на успешности планирования. Полезно быть более «адекватным», вне зависимости от того, к каким целям ты идёшь. Такое вот краткое объяснение термина «рациональность» в моей интерпретации для тех, кто не читал введение в рациональность.
Было бы здорово иметь надёжный маркер нашей «неадекватности». И он у нас есть! Мы удивляемся каждый раз, когда наши ожидания не совпадают с реальностью. Это буквально отчёт об ошибке выдаваемый нашим мозгом.
В этом уведомлении указан даже размер проблемы. Мы удивляемся тем сильнее, чем сильнее это самое несоответствие. Если мы считаем какое-то событие невозможным, а затем видим, как оно происходит в реальности, значит в наших представлениях есть огромный баг. Малую долю удивления вызывают ситуации, когда что-то происходит, например, немного чаще, чем мы ожидали. Это небольшое удивление является отражением небольшой неадекватности.
Смотрите как всё удобно спроектировано, мозг сам показывает где у него ошибка, в какую сторону нужно поправить и даже показывает насколько. Идеальный инструмент для самокоррекции. Вот только почему-то мы продолжаем наступать на одни и те же грабли. Что-то тут не так.
Midjourney. Простые замечания
‣ По моему опыту генерации, midjourney v4 на голову сильнее аналогов DALLE2, Stable Diffusion и т. д. Если midjourney не подходит для конкретного use case, то Stable Diffusion.
Пока писал пост, все чаще встречал примеры очень качественных изображений полученных с помощью моделей, основанных на SD 1.5. Правильнее будет следующая формулировка.
С midjourney проще и быстрее получить картинку высокого качества, но недостатком является менее контролируемый результат.
‣ 80-90% запросов проще найти в коллекции midjourney на сайте при наличии подписки. Если запрос не уникален и короток, то проще посмотреть в галерее, какой результат вы скорее всего получите.
‣ Для покупки подписки из РФ можно использовать P2P+Oldubil.
‣ Писать запросы, загружать изображения удобнее в личном чате с midjourney Bot. Такая опция доступна с подпиской. Если нет подписки, есть способ добавить бота на свой discord-сервер. Гораздо удобней, чем пользоваться newbie чатом.
‣ Envelope emoji позволяет не только получить seed изображения, но также разделяет grid на отдельные изображения.
‣ Нет особого смысла делать upscale полученных изображений через midjourney. Модели используются везде схожие, при этом upscale затрачивает ограниченный ресурс GPU/min.
‣ Через команду /setting можно установить relaxed mode. Сменив fast mode на relaxed mode я сильной разницы не ощутил. В любом случае на время генерации переключаешься на другие параллельные задачи. Бояться этого режима не стоит. Fast mode актуален при ощутимой нагрузке на сервер при действительно долгом ожидании 5-10 мин.
2022 оказался самым энтропийным годом для меня. Он указал на хрупкость привычных систем, несовершенство предсказательных моделей, слабость международных институтов, второстепенность проблем на глобальных системных уровнях относительно локальных. Прошлый год вынудил беспокоиться из-за совершенно бытовых вопросов, удовлетворять потребности базовых уровней. Системный подход отошел на задний план, уступив место наиболее прагматичным методам с кратчайшими обратными связями.
Сейчас, кажется, наступило время, когда режим повышенного стресса и тревоги не соответствует контексту. Что вполне может быть обманчиво... Тем не менее, для себя я уже решил вернуться к прежней рутине, возобновить деятельность менее прагматичную, но более субъективно ценную.
У меня накопились идеи, накопился материал. Блеклая хорошая новость на фоне трагичной реальности - это устойчивый тренд вхождения искусственного интеллекта в фазу взрывного роста. Опробовав ChatGPT, я прогнозирую значительное сокращение издержек на рутинные задачи ресерча, факт-чекинга, сбора фактуры. Писать тексты мне теперь будет проще. Теперь попытаюсь вернуть канал к былой активности.
Rv3 (ver. 1.0)
О книге Дэвида Дойча "Начало бесконечности" Ч1
Неоднозначная книга. У книги очень широкий охват: ИИ, квантовая теория, культурная теория мемов, футурология, политика, философия, культура, эстетика, рациональность. У автора есть набор идей и моделей, через призму которых он переосмысляет положение в разных областях. Впечатления от книги зависят от того, насколько понравится перспектива автора, насколько будет интересно посмотреть на мир его глазами.
Книга построена вокруг двух концептов: объяснения (explanation) и догадки (conjecture), поддерживаемых фаллибилизмом.
Основные тезисы:
Истина недостижима, но достижимо объективное знание.
@
Научная, интеллектуальная революция заключается в создании и улучшении объяснений.
@
Главным инструментом создания объяснений является догадка.
@
Креативность способствует смелому выдвижению догадок.
@
Догадки должны проходить через критику и проверку
@
Для прогресса требуется, чтобы общество было открытым новым идеям и поддерживало традицию критики.
@
Для прогресса требуется оптимизм, вера в то, что проблемы вызваны недостатком знания, а принципиальных ограничений в создании знаний нет. Проблемы неизбежны, но решаемы.
@
Человек является универсальным конструктором объяснений, и при благоприятных условиях это открывает путь к бесконечному развитию знания, бесконечному прогрессу
По части описания современной эпистемологии вдохновленной Поппером, к книге вряд ли можно предъявить какие-то претензии. Разве что не раскрыта моя любимая тема моделей. Совершенствование и усложнение моделей происходит рука об руку с улучшением объяснений, но объяснение и модель отождествить проблематично. Модель и объяснение значительно отличающиеся понятия. Получается, Дойч просто проигнорировал этот аспект развития знания. С моей точки зрения, это большое упущение.
Попытки Дойча привнести свои идеи, свою перспективу в другие области для меня оказались неубедительными.
🔸 Глава 7 про кибернетику и ИИ в итоге резюмируется тривиальным тезисом.
"Думаю, мы должны принять тот факт, что как искусственная эволюция, так и искусственный интеллект – задачи трудные. В том, как эти явления были достигнуты в природе, нечто очень важное остается неизвестным. Попытки воспроизвести их искусственным путем без понимания этого неизвестного, пожалуй, стоило предпринять. Но их неудача не должна нас удивлять. И хотя кажется очевидным, что у искусственного интеллекта будут квалиа и сознание, объяснить эти понятия мы не можем. Я полагаю, что, когда мы все-таки разберемся в этом, реализовать искусственным путем эволюцию и интеллект вместе со всеми характерными для них атрибутами не составит большого труда."
🔸 Глава 9 про оптимизм. Если уж затрагивать тему оптимизма, то обязательно стоит раскрывать тему экзистенциальных рисков. Потому что оптимистичный подход, с допущением, что любые будущие проблемы решаемы средствами неограниченного развития знания кажется беспечным. В любом случае оптимизм сдерживается предосторожностью и предотвращением неподготовленных изменений/вмешательств. Но о том, какими критериями руководствоваться для выбора степени предосторожности в отношении проблем будущего это вопрос наиболее острый и важный, но был совершенно проигнорирован Дойчем.
🔸 Глава 14 про объективность красоты. Оказалась просто какой-то мешаниной идей, примеров, аналогий, которые у меня в стройный нарратив выстроить не получилось. Дойч характеризуется критикой постмодернизма, культурного релятивизма. Он даже не пытается зайти на поле условных Бэнкси и Джона Кейджа, предложить своё объяснение современных культурных феноменов. Он ограничился примерами Моцарта, Бетховена и цветами. Это совсем не серьезно. Я счел эту главу дилетантизмом, хотя допускаю, что упустил какие-то важные детали для более точной интерпретации.
Резюме:
Книга интересна, но переоценена. Книга строится вокруг центральной идеи, не очень-то новаторской и контринтуитивной. Попытки Дойча пройтись по различным областям уже характеризуются упрощениями и слабой эпистемологией.
#book_review
🌐 Короткий апдейт: мы сейчас готовим большую симуляционную игру Мир-4 (World-4, к 50-й годовщине модели MIT из "Пределов роста") для моделирования сценариев развития человечества в 21 веке.
🎰 Будем несколько раз её прогонять, в том числе, в проекте Горизонт-2100 (с которым сотрудничали уже два года).
🎲 Кто хочет участвовать как бета-тестер и участник фокус-групп, пишите. Кто хочет (и может) подключиться к организаторам, тоже пишите. В комменты или в ЛС.
Очень часто, когда описывают здоровье, используют термин гомеостаз – постоянство внутренней среды. Существует единственное оптимальное значение некого показателя в организме и он поддерживается вне зависимости от внешней среды. Так работают, например, потоотделение, контроль температуры тела, уровень кальция в крови. Как видите, мозг для гомеостаза не нужен).
Мозг нужен для аллостаза. Аллостаз – это когда наш мозг постоянно прогнозирует и упреждающе адаптируется к ожидаемым изменениями, перераспределяя ресурсы, заранее понимая, что будет нужно. Так у нас повышает инсулин, когда мы нюхаем еду, хоть пища еще не попала к нам. Поэтому работает плацебо эффект – не важно, что это пустышка, ведь физиологические изменения, связанные с ожиданием эффекта реальны. То есть организм меняет показатели даже без воздействия на него определенных факторов, для этого достаточно ожидания изменений. С точки зрения аллостаза эффективность требует компромиссов и любые изменения регуляции сопровождаются изменением чувствительности восприятия и силы ответа. Это может создавать аллостатическую нагрузку, которая постепенно изнашивает нас. Поэтому нас может убивать стресс которого нет – достаточно его ожидания.
Наш мозг мониторирует внутреннюю и внешнюю среду и сверяясь со своей базой ожиданий (опыта), предсказывает, что может понадобиться в будущем и вычисляет лучшую реакцию. Затем, сравнивая реальность и действие, он вознаграждает результат, превышающий прогнозируемый, импульсом дофамина. Это перезаписывает ожидания и поощряет учиться и далее эффективному регулирующему поведению. Таким образом мозг постоянно расставляет приоритеты в поведении, динамически регулируеет потоки энергии и питательных веществ, снижает количество дорогостоящих ошибок и использует все больше возможностей. Поэтому у нас большой мозг – несмотря на затраты его содержания, аллостаз окупается.
С точки зрения аллостаза, здоровье – это оптимальные предиктивные флуктуации дофамина, кодирующие ожидания. Они могут быть полезными и вредными. Обучение – это тоже форма адаптации. Наш мозг собирает информацию, необходимую ему для предсказания и контроля. Одни виды научения быстро обратимы (пароль от вайфай в отеле), а другие – необратимы (например, езда на велосипеде). Многие болезни, от артериальной гипертензии до зависимости возникают без очевидной поломки, это проблемы «обучения». Хорошая новость в том, что изменить здоровье можно перестроив упреждающие реакции мозга и его ожидания. Реконструируя нейронные сети можно улучшить регуляцию своего как тела, так и мозга.
Самый простой способ сделать это – это увеличить количество активных взаимодействий с обратной связью. Раньше нам нужно было совершить много действий чтобы добыть пищу в сложном непредсказуемом мире – и этот процесс активно награждался дофамином. Сейчас это скукотище – и мы вынуждены компенсировать это увеличением сахара, соли, углеводов. Нужно больше взаимодействия, а не потребления. Например, больше и внимательнее общаясь, увеличив использование своего тела, больше делая вещей своими руками, активно осваивая что-то новое. Везде, где вы получаете небольшие порции дофамина «ага!» - там улучшаются и ваши аллостатические механизмы регуляции.
Homeostasis vs allostasis: implications for brain function and mental disorders. JAMA Psychiatry 2014 Oct;71(10):1192-3.
Allostasis: A Brain-Centered, Predictive Mode of Physiological Regulation Trends Neurosci 2019 Oct;42(10):740-752.
Peter Sterling “What is Health? Allostasis and the Evolution of Human Design” (отличная книга).
N12 (ver. 1.0)
Делюсь одной из самых лучших моих находок. Теперь можно заявить, что существует лаконичный учебник по сложным системам с упражнениями.
Речь о книге "Think Complexity" ("Изучение сложных систем с помощью Python").
Встречал мнение, что математику изучать проще/лучше через программирование. Насчет математики не знаю, но вот изучать системный подход через программирование и моделирование кажется очень хорошей идеей. Книга такую возможность предоставляет.
В книге освещаются следующие модели:
⁃ Графы
⁃ Сети
⁃ Клеточные автоматы
⁃ Игра жизнь
⁃ Фракталы
⁃ Самоорганизованная критичность
⁃ Агент-ориентированные модели
⁃ Эволюция
⁃ Эволюция кооперации
Оформлено и подготовлено все как положено. С хорошо организованным репозиторием на github и даже ссылками на документацию по python/numpy/scipy, которая поможет понимать код из книги. Еще подкупает крохотный объем книги. В русской версии всего 150 страниц. Для глубокого погружения в complexity science литературы предостаточно, а для поверхностного знакомства эта книга весьма кстати.
Версия на английском есть в открытом доступе:
https://greenteapress.com/wp/think-complexity-2e/
Версию на русском добавлю в комментарии.
#note #B1
V4 (v. 1.0)
В готовящемся тексте я ссылаюсь на клеточные автоматы и игру "Жизнь", но понял, что не всем эти модели знакомы. Для ликбеза делюсь полезной мини-лекцией. В ней про то, как из простых структур и правил может рождаться сложное поведение.
// Оказывается, если ввести "игра жизнь" в google поиск, то можно наткнуться на пасхалку
#video #A2
Чтобы придать выражению смысл, мы должны добавить к нему индикатор, указывающий на место, с которого наблюдатель его рассматривает.
Самый яркий пример, имеющий мировую известность, это сад камней монастыря Рёндзи в Киото (Япония), выполненный в начале 16 века. Он представляет собой сравнительно небольшую по размерам площадку (всего 336 кв.м.) - плоскую, прямоугольной формы, засыпанную белым гравием с расставленными в группы пятнадцатью камнями. Сад, выполненный в манере нарочито абстрактного сухого ландшафта - карэ-сансуй, состоит из пятнадцати скальных обломков, разложенных так, что посетители могут одновременно видеть лишь четырнадцать из них, под каким бы углом они ни смотрели.
Перед входом в сад расположен ящик с песком, своего рода модель сада камней, на котором прекрасно видно, что камней в саду именно пятнадцать. Это позиция, так называемого, внешнего объективного наблюдателя (организатора сада). Но любой посетитель сада (внутренний субъективный наблюдатель) всегда видит только четырнадцать камней, какую бы точку наблюдения он не избрал.
Даже не будучи знакомым с объективной точкой зрения, через какое-то время наблюдатель начинает понимать, что хотя камней, которые он видит, всегда четырнадцать, но в зависимости от положения наблюдателя, это могут быть разные наборы камней. В каждом из этих наборов скрывается пятнадцатый камень, который также может быть разным. Он всегда заслонен от наблюдения каким-то из соседних камней.Но чтобы заметить это, наблюдатель должен во – первых менять точку наблюдения, а во вторых каким-то образом маркировать камни.
Будет ли это сделано путем удержания их образов в памяти, или, предположим, они будут пронумерованы. – это не имеет значения. Важно, что маркировка позволяет идентифицировать каждый камень и таким образом, двойной процесс – идентификации и смены точек зрения рано или поздно позволяет наблюдателю установить, что камней все же пятнадцать, а не четырнадцать.
Отметим важное обстоятельство - «ненаблюдаемый», пятнадцатый камень дает возможность наблюдать разные наборы из четырнадцати камней. Это обстоятельство проливает свет на очень важный момент о соотношении наблюдаемого и ненаблюдаемого. Если бы камней было на самом деле четырнадцать, то смена точек наблюдения, хотя и давала бы разные картинки, но в них не содержалось бы ничего нового, - просто четырнадцать камней в разных ракурсах и все. Но при наличии пятнадцатого, ненаблюдаемого камня картинки могут быть совершенно разными, так как некоторые камни становятся ненаблюдаемыми, а другие, наоборот, появляются, и, таким образом, картинки могут представлять разные образы (аналог получения нового знания), - чего – то не было, и вдруг оно появилось. Для двух наблюдателей нет предмета расхождения по количеству камней, - и тот и другой видят четырнадцать камней. Но вот камни могут быть разными, и это уже может быть предметом спора.
Только организатор сада (внешний объективный наблюдатель) имеет единое описание, но никакие новые типы абстракций он не использует. По этой причине описания наблюдателей следует считать несопоставимыми между собой по форме и по смыслу. Следовательно, единственным очевидным логическим приемом, который можно применить для построения логики ненаблюдаемого, является использование разных типов наблюдателей. Необходимы, как минимум, два наблюдателя, один из которых наблюдает все (объективный наблюдатель), а другой что-то не наблюдает.
Только таким способом мы можем строить логические умозаключения относительно скрытых параметров. Следовательно, скрытый параметр – это такая абстракция, которую нельзя определить в рамках логики одного наблюдателя, т.е. никак не обойтись без двух разных наблюдателей и описаний.
Я уже делал репосты с канала Mental model. Судя по пересылкам, тексты оттуда отзываются моим подписчикам. Пока я в летнем анабиозе, хочу этот канал порекомендовать. Мне очень нравятся тексты автора за их лаконичность, доступность, заземленность, они сопровождаются изящными иллюстрациями. Канал можно читать хоть с первого поста. Ни одного проходного текста обнаружено не было. Однозначно рекомендую.
Ссылка на канал
/channel/mental_model
Дальше привожу ссылки на интереснейшие заметки:
Unknown Unknowns
/channel/mental_model/22
Паттерны изменений
/channel/mental_model/38
Закон убывающей отдачи
/channel/mental_model/39
Про мемы Докинза
/channel/mental_model/41
Модель трех контекстов
/channel/mental_model/44
Мышление последствиями второго и третьего порядка
/channel/mental_model/19
Модель Future wheel
/channel/mental_model/56
#recommendations
N11 (ver. 1.0)
После моего последнего поста, мне написал автор довольно интересного канала Аналитика для всех желающих с провокативным заявлением: "системный подход за последние 30 лет ничего нового миру не дал", противопоставив "несовершенному" системному подходу концептуальный подход, сопроводив свои тезисы ссылками на лекции Теслинова для ознакомления с основами концептуального подхода (видео 1, видео 2).
Лекции мне очень понравились. Здравое содержание, потрясающий спикер, доступная подача для довольно сложного материала. Теслинов активно ссылается на системологов, но почему-то считает (скорее всего за системный подход принимает чрезмерно узкую методологическую область) , что в СП нет/не достает холистической направленности. В результате у меня накопились мысли, которыми посчитал нужным поделиться.
1. Хочу начать с самого заявления, про то, что СП ничего миру не дал. В рамках конструктивной коммуникации такому высказыванию места бы не нашлось. Если всерьез представить, как можно тезис опровергать, то станет понятно, что издержки на аргументацию окажутся неадекватными ценности результата аргументирования.
Однако, вскользь все-таки отмечу, что оформление наук о сложности (математизированный системный подход) в отдельные дисциплины/программы, преподаваемые в топовых университетах, как мне кажется, хорошее свидетельство развития и наличия потенциала для дальнейшего развития наук о системах. Кроме того, инструменты системного моделирования также должны быть зачтены в копилку СП.
Университетские программы:
Center for the Study of Complex Systems | U-M LSA (#23 QS World University Rankings)
Complex Systems Modelling - from Biomedical & Natural to Economic & Social Sciences MSc|King's College London (#35 QS World University Rankings)
Master of complex systems | Sydney University (#38 QS World University Rankings
Complex systems M2 | Universite Paris-Saclay (#83 QS World University Rankings)
Complex Adaptive Systems, MSc | Chalmers University of Technology (#121 QS World University Rankings)
ПО для системного моделирования (system dynamics)
Applications of Vensim
Application of isee systems
Powersim Studio Reference Cases
// Есть еще один интересный вопрос, не являются ли интернет, языки программирования, развитие машинного обучения/искусственного интеллекта продуктами системного подхода. Кибернетика первой, второй волны очень тесно переплетены с системным подходом. Объекто-ориентированные подходы, работы с онтологиями, сложным синтаксисом, высокоабстрактными моделями сложно представить без ключевых работ Шеннона, фон Неймана, фон Ферстера и других кибернетиков.
2. На самом деле (как я это увидел), концептуальный подход - это метасистемный подход в чистом виде под другим ярлыком, со своим вариантом тезауруса, со своей спецификой, но синонимичными идеями и моделями. Для изучения системного подхода, вполне можно рекомендовать, например книгу ВВЕДЕНИЕ В КОНЦЕПТУАЛЬНОЕ ПРОЕКТИРОВАНИЕ. Чего не хватает в концептуальном подходе (чего я пока не увидел/не нашел), это отсутствие связи с вычислительными инструментами. Сложные проблемы всегда будут требовать сложного моделирования, для чего нужны сложные аналитические (математические) и программные инструменты.
3. Передовое интеллектуальное сообщество относительно малочисленно и на данном этапе (в текущих соотношениях) это является проблемой. С моей точки зрения, долг каждого интеллектуального агента (просоциально настроенного), искать подобия, общности моделей/идей с другими агентами, искать пути кооперации с ними, синергетического сотрудничества, повышать связность независимых школ/исследователей.
Стартовую позицию с фокусом на различиях и противоречиях вкупе с обесцениванием, я бы обозначил деструктивной. Не надо так.
Ссылки
Сайт Теслинова А. Г.
// Иногда в речи лектора и содержании книги проскакивали сомнительные высказывания/тезисы. Как и к любому другому источнику, к материалам концептуального подхода следует относится с достаточной долей скепсиса. Свою положительную оценку я не обобщаю на все, сказанное Теслиновым, и на все содержание книги.
#note
#систематика /// Онтологический дребезг
Это ощущение, что в описании, речи, коммуникации что-то не так. Ощущение, что допущены ошибки при работе с типами объектов, отношениями объектов.
Это чувство / ощущение важно тренировать, чтобы вылавивать места, где скрыты ошибки, где надо распутать клубок объяснений, пониманий, связей. В противной случае ошибки рассуждения / описания будут пропущены и проявятся позже, уже на этапах проектирования и моделирования, что значительно дороже исправлять.
Чувство онтологического дребезга тренируется и калибруется, чтобы через призму этого восприятия также рассматривать описания, коммуникации, объяснения.
Онтологический радар, ловящий это чувство дребезга, лучше всего не выключать вообще (чем включать при необходимости проверки), так как ситуаций — когда ошибки есть и их надо отловить — происходят чаще, чем мы сможем заметить и успеть включить радар.
___
#описание #коммуникация #объяснение #иерархия #класс #тип #объект
Интересный взгляд на проблему хаоса и устаревания информации в сфере ноледж шейринга через призму энтропии.
Автор предлагает стремиться на к утопическому “идеально”, так как это априори недостижимо, а скорее к более реальному “достаточно хорошо”. Распознаие мест и моментов, когда крошечная доза порядка сейчас принесет долговременные профиты — вот путь к успеху, по мнению автора.
🔗 Читать: Entropy and knowledge management
