415
Встречи, которые начались как обсуждение цепочек Юдковского, а сейчас мы читаем CAUSALITY Models, Reasoning, and Inference Джуды Пирла
Хорошее определение это скорее итог обсуждения чем начало в таких вопросах
Плюс конечно мешает многозначность, мы это слово говорим когда разные вещи имеем ввиду, из них многие осмысленные
И вообще, конечно, define "существует".
Читать полностью…
Какой кейс выглядит проблемным? Относительно чего хочется сказать что оно иллюзорно ?
Читать полностью…
Поэтому в последнее время вся философия у меня на базовом уровне вырождается в языковые игры: "вот в рамках такой языковой игры, с такими правилами, что получится, интересно?", плюс предположение из общих эстетических соображений, что некоторые игры более прикольные, чем другие, где "прикольные" - это эмоциональная реакция, которую не получится деконструировать :)
Читать полностью…
Забавно, я наоборот реалист относительно чего только не.
Читать полностью…
Довольно много пытался об этом думать с операционной механической стороны. Часть слов узнал согласен. Додумать скорее не случилось.
Читать полностью…
Мне кажется это сильный прыжок
Читать полностью…
Кажется вопрос отодвинулся вот сюда
Читать полностью…
а, ну тогда все куда проще))
Можно выдыхать
https://www.edge.org/conversation/thomas_metzinger-benevolent-artificial-anti-natalism-baan
Воу, он и правда это говорит, похоже. "Залайненный ИИ убьёт всех людей решит что лучше бы людей не было, и это будет хорошо".
А вообще я понял, что не понимаю что именно означает термин "страдание" тут и во всех текстах на которые ссылаетесь. Может кто нибудь его пожалуйста определить?
Читать полностью…
Это первая благородная истина, там дальше ещё три есть более конструктивных :)
Читать полностью…
@yanskov Ян, в тему последнего созвона - я додумал и дописал мысленный эксперимент, показывающий проблемы поиска нейрокореллятов на уровне физических нейронов вообще, и конкретно методом, когда последовательно препарируешь мозг и смотришь, когда что отвалится. Хочу узнать, что ты о нем думаешь, и где видишь слабые места? Скажи, не засоломенил ли я вообще?
Представь, что твой иероглиф "Дзинь" теперь просто записан ввиде картинки на жестком диске. Он лежит где-то в папке, на одном из логических разделов. На этом же диске лежит операционка, и программа, которая читает этот файл и показывает его на монитор. И ты можешь препарировать этот диск - точечно стирать или переворачивать отдельные биты, магнитные домены на нем, и смотреть, что показывает монитор. Собственно, твоя задача заметить, когда иероглиф перестанет показываться. Задача - сказать, входит ли в "битокореллят" иероглифа очередной бит, который ты перевернул, или нет.
В процессе такого препарирования у тебя могут появляться разные ситуации:
1. Ты можешь перевернуть один битик и иероглиф на экране пропадет. Значит ли это, что этот бит попадает в битокореллят иероглифа? Возможно. Но что, если ты этим изменением просто разметку логического раздела диска, и у тебя он целиком перестал читаться, вместе с картинкой? А что этот бит принадлежал какой-то .dll, которую пользовала твоя программа для показа картинки? Это какая-нибудь не очень популярная вспомогательная библиотека. Сломав ее, ты не ломаешь ОС - она работает как раньше. У тебя может быть даже набор тестов, чтобы проверять, что не пострадали другие участки системы - открыть и проиграть тестовые файлы музыки, проверить целостность файловой системы, и т.п. Если ты сломал какую-то достаточно не нужную dll - эти тесты по прежнему будут проходить. Но программа отображения иероглифа работать перестает.
Саму ОС, разметку логического раздела файловой системы или какую-то библиотеку ОС для программы сложно отнести к "битокорелляту" картинки - к нему, по идее, принадлежат только биты файла этой картинки. Но ни логические разделы, ни ОС, ни какие-то библиотеки не существуют на уровне физической редукции. В физическом пространстве есть только диск с кучей магнитных доменов, головки, которые бегают и гоняют туда-сюда магнитные поля через себя, блок с кучей интегральных схем, через который эти поля проходят, и экран, который физически светит светом и или оторбажает иероглиф или нет. Все программные конструкции существуют на "логическом", абстрактном уровне, который редукционизм до физических атомов отрезает.
2. Ситуация 2 - ты поменял пачку из 10000 бит, и ничего не произошло. Меняешь 10001, и изображение иероглифа пропало. При этом все твои тесты системы по прежнему проходят - ОС по прежнему загружена, работает, как раньше, как и сам компьютер. Тестовые файлики с музыкой открываются, и т.п. Вопрос: можно ли отнести первые 10000 бит к "битокорелляту Дзинь"? Но что, если измененные тобой 10000 бит выпали на какие-то другие файлы. Это просто какие-то картинки (забытые сохраненки с мемами), о которых ты даже не подозреваешь (не используешь в своих тестах), их изменение не нарушает работу ОС. Потому ты не мог заметить по физическим признакам, что что-то изменил.
3. Можно ли сказать, что в предыдущем случае, если мы по прежнему наблюдаем иероглиф на экране - значит его "битокореллят" нашими изменениями не задет? Ситуация 3 - ты меняешь биты, но на экране по прежнему видишь иероглиф. Но на самом деле ты действительно меняешь биты картинки иероглифа. Просто у тебя появляются на мониторе еле заметные кривые пиксели. Разрешение картинки и монитора очень большое, и ты не замечаешь их издалека - и для тебя само изображение по-прежнему читается, как иероглиф "Дзинь". Эту ситуацию можно скомбинировать с предыдущей - ты можешь перемагнитить 5000 бит ненужны файлов, 5000 бит незаметных пикселей иероглифа и только на 10001 пикселе заметить с изображением иероглифа проблему - но тогда попадаешь в ситуацию 1.
Вот с концепциями в сознании и физическими нейронами будет какая-то такая же херня происходить, думаю
Существование в моей картине мира не используется в связке "существовать для кого-то", если что-то существует "для тебя" то "для меня" оно тоже существует, просто мне его не видно или видно иначе.
Если где-то у тебя в мыслях у тебя есть убеждение что умножать на четыре аморально, то эта твоя мысль это часть мира в котором я живу.
Ммм, так. Я бы взялся оппонировать в любом кейсе вообще, вплоть до "вот эта чашка у меня на столе", ради упражнения, но догадываюсь, к чему оно придёт, так что давай попробуем перескочить сначала.
Если ты вывел, что штука существует, значит ли это для тебя, что она точно так же существует и для других?
Я ещё не сталкивался с чем либо для чего это не работает. Добавляешь немного взгляда на ход времени со стороны и вообще не вижу проблем.
Можем примерчик поразибрать.
Это работает для физических сущностей, которые можно диссолвнуть от объектов до предсказаний об объектах, и намного хуже работает для этики, когда ты пытаешься вывести "хорошо", "плохо", "надо" из ничего. Ought-is gap сложная штука.
Редукцию до уровня "X хорошо, потому что люди считают, что X хорошо" у меня уже не поворачивается язык назвать реализмом, особенно когда я сам пытаюсь думать про X, пытаясь разобраться, хорошо это или плохо, не пытаясь написать bottom line.
Если одной фразой попытаться выразить то представь свои обычные рассуждения на тему того почему какая либо штука иллюзорна, и всё на чем держится это твои представления о ней, а в конце добавь "и вот это и есть то КАК эта штука существует".
По моему удобно.
Я думаю что реализм прагматически верен, а антиреализм удобен для доставания радикальных креативных инсайтов, и бесполезен на практике, но я пока что in my anti-realist arc.
Читать полностью…
(абстрактная мета про философию)
В думании про всё это, как и в думании про этику, и вообще про любую фундаментальную философию, упираешься рано или поздно в иллюзорность реализма, по моему опыту. Обнаруживаешь что на территории всего этого нет, этики нет, утилонов нет, объектов с xml-тегами на элементарных частицах тоже нет, и дальше неясно что делать.
Я в последнее время пытаюсь, когда до этого уровня дохожу, сделать трюк с "но я думаю про это языком и язык у меня уже выбран как мои приоры, задающие мышление и выделение сущностей из хаоса ощущений, надо опираться на это, а не выстраивать систему из ничего, без аксиом, на которые можно опереться". Но вот как делать этот разворот аккуратно, чтобы оттуда доставать хотя бы обусловленные высказывания, "при таких вот разумных предположениях получаем вот такие выводы", я пока не разобрался.
Меня при этом смущает моя распаковка тем, что в ней нельзя отделить "undergoes unpleasant experience" от "identifies with", если нет идентификации, то где там unpleasant? То ли я чего-то не понимаю, то ли не соглашаюсь тут с Метцингером, в моей текущей онтологии неприятность существует только при идентификации.
Опять же, надо читать более крупную статью.
Как раз пишу.
Тут надо определять, что такое unpleasant experience, и выяснять пределы применимости, вплоть до буддистского "любой сенсорный опыт есть страдание" (что, впрочем, не то, что утверждает буддизм, как мне кажется).
Склоняюсь к тому что unpleasant - это то, на что есть реакция "хочу это поменять", представления что должно быть как-то иначе чем сейчас. Изнутри, феноменологически, это базовая штука, данная в ощущениях, и пожалуй я на текущий момент согласен, что и избегания (отталкивание ощущений), и желания (притягивания предпочитаемых ощущений) — это страдания.
Но то, что любой сенсорный опыт — это страдания, из этого, кажется, не следует. Мысль "хочу это поменять" подразумевает, например, субъекта действия, который сравнивает ощущения и желаемое состояние, и ощущает неудовлетворённость, и из этого совершает действие. Субъект = идентификация с опытом (я тут читаю "identifies with this experience" как "считает что испытывает этот опыт как субъект", не знаю, это ли имеет в виду Метцингер в полной статье). Но можно перестать быть субъектом, иметь опыт, двигаться, жить, и не идентифицироваться. В самих ощущениях нет страдания, только в субъектной интерпретации.
Ср.: вчерашний твиттерный тред, https://x.com/nickcammarata/status/1883604597878747480
Метцингер в статье в edge цитирует сам себя из https://www.philosophie-e.fb05.uni-mainz.de/files/2013/07/Metzinger_Suffering_2017.pdf и определяет так:
> Elsewhere, I have argued that the smallest unit of conscious suffering is a “negative self-model moment”, that is, any moment in which a conscious system undergoes an unpleasant experience and identifies with this experience.
Я думаю даже сама необходимость постоянного стремления к достижению гомеостатического равновесия это страдание в его понимании.
Читать полностью…
Да, но придётся встретиться ирл
Кроме дофаминового псевдо-счастья есть другие подсистемы генерации счастья, которые не подвержены гедонистическому колесу.
Читать полностью…
Вырезая куски мозга и наблюдая пропало или нет проявление какого-то концепта, будет не понятно, к чему относится очередной кусок: к непосредственно кодирующему участку, активности как-то вспомогательной системы или просто что-то левое
Читать полностью…
Напоминание: встреча начнётся... примерно сейчас.
Читать полностью…