Это последняя из трёх частей адаптированного авторского перевода эссе Томаса Метцингера “Suffering”.
Шесть логических возможностей минимизировать страдания
Для экономии времени давайте начнем с не аргументированного исходного предположения: минимизировать страдание проще и логичнее, чем максимизировать счастье, потому что фрустрированные преференции этически более значимы, чем удовлетворенные. Смерть родственника, болезнь или банкротство создают куда больше страдания, чем обломавшийся отпуск, кофе пролитый на ноутбук или несостоявшаяся тусовка. Есть этическая теория “Негативного утилитаризма” (Negative Utilitarianism, NU) которая утверждает, что мы должны сосредоточиться на минимизации страданий из-за глубокой асимметрии между позитивно и негативно оцененными состояниями. Не погружаясь в дебри вопроса, который представляет из себя целую область для изучения, давайте продемонстрируем это наглядно. Начните перечислять и подсчитывать, сколько в вашем словарном запасе слов характеризующих ваше приятное, позитивное состояние души\тела. А теперь, сколько негативных. Уверен, что вторых будет больше, если не покривить душой. Так же будет и с характеризацией другого человека или события. Негатива будет больше по достаточно прозаичной причине: редкие моменты удовольствия сродни маякам разгоняющим тьму страданий и облегчающим нашу навигацию на эволюционном маршруте.
Давайте возьмем на вооружение негативный утилитаризм и попытаемся разобраться, какие, учитывая набросанную нами ранее концепцию страдания, могут быть логические возможности снижения проявления этого феномена. Очевидно, что чем богаче и точнее становится феноменологическая концепция, тем больше возможностей для изменения соответствующего класса состояний сознания можно себе представить. Если концепция к тому же становится эмпирически обоснованной (например, путем выделения ее минимально достаточных коррелятов (minimally sufficient correlates) необходимых для появления этого феномена) или если мы повышаем ее доменную специфику (рассматривая, например, отдельно страдания свиней, коров или людей), то технологическое вмешательство постепенно становятся более осуществимыми. Чем больше у состояния “настроек” и условий – тем больше вариантов его изменения. И если концептуально страдание обязательно включает в себя феноменальное представление градиента – то есть таких временных свойств, как длительность, изменение и последовательность, – то создание формы сознательного опыта, лишенной этих свойств, приведет к отсутствию субъективного страдания. Но пока что, принимая четыре необходимых условия, о которых мы говорили в предыдущем выпуске, давайте изложим возникающие варианты.
Вариант 1: прекращение существования
Первый вариант, вполне очевидно, заключается в безболезненном и неожиданном убийстве всех разумных существ. При этом не будет создано никаких новых моментов негативной Я-модели (negative self-model moments, (NSMs). Не спешите впадать в панику, мы теоретизируем, если что. Если, однако, условный негативный утилитарист стремится к эффективной минимизации страданий, и если он нацелен на определенную популяцию субъектов опыта, (к примеру, человеческой цивилизации, которую он хочет спасти от страданий) он зависит от консенсуса внутри этой популяции и от сотрудничества с ней. Придется искать оптимальную степень адаптации к специфическим когнитивным предубеждениям, характерным для неё. И если элиминирование всего живого звучит излишне радикально, то более умеренная версия предполагает, что мы должны уважать самую глубокую когнитивную предвзятость всех известных в настоящее время разумных существ – а именно, экзистенциальное искажение (existence bias), которое мы обсуждали в первой части подкаста. Плюс тот факт, что прозрачные Я-модели наших субъектов опыта, которых мы спасем от страдания, не только выражают это искажение на уровне внутреннего опыта, но и заставляют их сознательно переживать себя как неделимые целые, как несводимо индивидуальные сущности. И это обязательно стоит учитывать. Таким образом, наш умеренный вариант мог бы уважать индивидуальное право на существование всех уже рожденных самосознающих биологических систем, но препятствовать появлению будущих разумных существ. Ничего нового мы с вами не изобрели, подобные логические варианты, конечно же, рассматривались на протяжении многих веков философской мысли, и это сегодня часто называют “антинатализмом”.
Интересно наблюдать, как для многих из нас интуиция расходится для биологических и искусственных систем. Давайте, для наглядности, проведем небольшой мысленный эксперимент. Представьте, что ваша задача, как избранного члена будущего Этического комитета по синтетической феноменологии, – определить и функционально ограничить “плейлист” для самой первой популяции сознательных машин. Вашей задачей будет определить, какие виды феноменальных “моментов самомоделирования” будут разрешены для развития, когда такие машины начнут взаимодействовать с миром и друг с другом, и, возможно, даже размножаться. То есть, простыми словами, какой набор ощущений будет доступен новому поколению разумных машин.
Из предыдущей части, в которой мы говорили об условиях возникновения страдания, вы помните, что, с функциональной точки зрения, страдание необходимо для автономной самомотивации и возникновения действительно разумного поведения. Поэтому эти сознательные машины неизбежно должны будут воплотить определенное количество этих условных атомарных единиц страдания (негативно оцененных моментов самомоделирования, NSM) в огромном каскаде сознательного опыта, который вы только что запустили, положив начало эволюции искусственных сознательных субъектов. Сохраняя остатки веры в человечество, можно предположить, что большинство людей (и вы, надеюсь, тоже) не захочет без необходимости инициировать новые цепочки NSM и, следовательно, склонится к этической позиции, которую можно назвать “антинатализм для самосознающих машин”.
Позвольте указать на конкретную, насущную проблему, с которой мы сталкиваемся сегодня. Это проблема в недавно возникшей области “этики роботов”, а именно проблема успешной реализации морального познания и этического поведения в искусственных агентах. По мере того как воплощенный искусственный интеллект начинает работать в открытых средах, населенных людьми, по мере того как роботизированные системы становятся все более быстрыми и автономными, они все чаще будут сталкиваться с ситуациями, в которых было бы неэффективно и нерационально – возможно, даже неэтично – тратить драгоценные временны́е ресурсы, ожидая окончательного решения от какого-то человеческого агента. Мы ведь создаем роботов как умный костыль, чтобы облегчать себе жизнь, а не возиться с ними. Многие из этих ситуаций будут такого рода, в которых последствия действий искусственных агентов будут непосредственно влиять на благополучие других разумных существ. Представьте себе три автономных автомобиля на кольцевой развязке, осознающие, что вскоре они будут вовлечены в сложное столкновение с оленем и двумя автомобилями, управляемыми человеком, и вынужденные решать (и договариваться друг с другом), как разумно минимизировать общий ущерб.
Лучший способ решить эту проблему “синтетической морали” – запрограммировать машины формализованной теорией ценностей или аксиологией. Кто сейчас вспомнил три закона робототехники Айзека Азимова – тот молодец. Но тогда возникают новые проблемы: следует ли ограничить автономию таких этических роботов таким образом, чтобы они в принципе никогда не смогли найти способ “прошить” или каким-либо другим образом изменить свою собственную “нормативную прошивку”? Во-первых, это лишило бы их возможности учиться и становиться лучше в области морального интеллекта. И во-вторых, как бы мы воспрепятствовали таким системам прийти к нехорошим выводам?
Предположим, что набор ценностей робота будет основан на аксиологии негативного утилитаризма, которую мы можем достаточно просто сформулировать. “Всегда минимизировать непроизвольные страдания и общее количество NSM у всех разумных существ” – вот что могло бы стать его высшим приоритетом. Вероятно, в наших собственных интересах было бы предотвратить появление искусственных моральных агентов, которые рано или поздно придут к выводу, что вариант элиминирования всего живого является наилучшим способом достижения этой цели. Назовем это “проблемой робота-антинаталиста”: почти никому не нравится мысль о том, что будущие искусственные интеллекты молча готовятся к истреблению всех человеческих существ и других разумных существ на планете – разумеется, по чисто этическим соображениям. Так что с первым вариантом у нас некоторые сложности, и пока мы не решим такие метаэтические проблемы, мы должны стремиться всегда выбирать осторожный подход без ненужного риска.
Вариант 2: устранение С-условия
Второй вариант заключается в устранении не физического существования сознательных систем, а всех феноменальных свойств во вселенной. Нет никого, кто бы что-либо воспринимал и ощущал. Прекращение всех видов сознательного опыта означало бы, что С-условие (наличие сознательного опыта, conscious experience) не выполнено. Это достаточно тривиально, поскольку “страдание” является феноменологическим понятием, то в мире зомби не будет страдания.
Вариант 3: устранение PSM-условий
Третий вариант минимизации страданий заключается в устранении не сознательного опыта как такового, а только самосознания. В этом случае условие наличия феноменальной Я-модели (Phenomenal Self Model, PSM-условие) не будет выполнено, что приведет к исчезновению всех форм феноменальной самости. Сознательные состояния все еще могут существовать, но сложные феноменальные свойства больше не будут представлены (или более точно в английском варианте “инстанцированы”, instantianed), в первую очередь такие качества, как самость (selfhood), чувство обладания (ownership) и агентность (agency). Третий вариант избавления от страданий был глубоко исследован на протяжении 25 веков буддийской философии. Раз тебя нет и все иллюзорно, то кто будет страдать? Заткнись и сиди свой дзадзэн, двоечник.
Вариант 4: устранение NV-условий
Четвертый вариант, также обращенный к векам философских дискуссий, заключается в том, чтобы устранить не самосознание, а все субъективные преференции. Кто ничего не хочет и не ждёт – тот не обламывается. Если покончить со всеми самосознательно переживаемыми преференциями, то они никогда не смогут быть фрустрированы, а значит – не будет отрицательно оцененных состояний. Тогда и условие негативной валентности (Negative Valence, NV-условие) не будет выполнено. Существо без предпочтений не будет избирательным, даже в отношении качества своих собственных ментальных состояний. Итоговую феноменологическую конфигурацию можно описать как форму “осознания без выбора”.
В соответствии с NU, предположим, что удовлетворение предпочтений не является для нас допустимым вариантом из-за непостоянства и глубокой феноменологической асимметрии между позитивными моментами Я-модели и негативными (NSMs). Позвольте уточню, почему.
Во-первых, вторя идеям того же буддизма, наш мир оскорбительно непостоянен и не способствует стабильному состоянию Я-модели. Во-вторых, страдание не является простым зеркальным отражением счастья, главным образом потому, что оно предполагает такую вещь, как “срочность изменения” (urgency of change). Когда вам хорошо и благостно, у вас нет особого желания навалить мощности своим положительным ощущениям и стать еще счастливее. А вот страдание не терпит промедления и настойчиво толкает нас на поиски избавления от него.
На самом деле, многое из того, что мы описываем как “счастье”, может оказаться облегчением от этой вот настоятельной необходимости перемен. Субъективное ощущение срочности – в сочетании с феноменальным качеством потери контроля и целостности феноменального “Я” – это то, что делает сознательное страдание совершенно отдельным классом состояний, а не просто негативной версией счастья. К тому же, это субъективное качество срочности также отражается в нашей моральной интуиции, согласно которой в этическом смысле гораздо важнее помочь страдающему человеку, чем сделать счастливого человека еще счастливее.
Можно также констатировать и устранить еще одно часто встречающееся заблуждение. В общей статистике человеческое страдание сравнительно редко бывает драматическим. Почти все негативно окрашенные состояния включают в себя лишь легкое эмоциональное ощущение фрустрации предпочтений – возможно, какое-то слабое ухудшение телесного самочувствия или рассеянное фоновое чувство скуки, возможно, сопровождаемое неспецифическим, обобщенным беспокойством о будущем плюс тонкая феноменология неопределенности. Кроме того, поскольку вполне правдоподобно предположить, что эти частые и гораздо более тонкие негативные состояния составляют большинство моментов нашей сознательной самомодели, большинство из нас, возможно, уже давно начали воспринимать их как неизбежные и неконтролируемые. Жизнь – боль, кому сейчас легко. Таким образом, мы можем действовать в рамках определенной версии выученной беспомощности в отношении собственных страданий: мы становимся неспособными или нежелающими избегать последующих встреч с такими внутренними ситуациями, потому что на глубоком функциональном уровне мы уже верим, что не можем эффективно контролировать общую вероятность их возникновения.
Следовательно, мы, чаще всего, не предпринимаем действий, чтобы избежать трудноуловимых и тонких форм негативной повседневной феноменологии. Нам этот переливающийся калейдоскоп из печальки, легкого раздражения на окружающих, трудноописуемого недомогания и тревоги уже привычен как отражение в зеркале. Поэтому то, о чем мы преждевременно сообщаем как о “нейтральных” состояниях, часто на самом деле может быть внутренним опытом тонкой фрустрации предпочтений плюс выученной беспомощности. Мы говорим “нейтральное”, но на самом деле имеем в виду “по умолчанию”. Если внимательно проанализировать ситуацию, то действительно нейтральные моменты – большая редкость, потому что почти все наши сознательные моменты сопровождаются той или иной аффективной валентностью, они так или иначе эмоционально окрашены. Нулевая интенсивность удовольствия плюс нулевое страдание описывают редкую ситуацию, то самое сатори, за которое буддисты рубятся не щадя своих коленей и молитвенных мельниц. И с точки зрения негативного утилитаризма (NU) это идеальное и желательное состояние сознательного опыта. В истории философии и в большом количестве теоретических вариаций этот способ устранения состояния негативной валентности давно обдумывался. Конечной целью было достижение ясного и надежного состояния спокойствия, состояния невозмутимости, не нарушаемого страстями, как это показано в классических философских понятиях, таких как “атараксия” или “упекха”. Сейчас бы вспомнить Сенеку или Марка Аврелия, если на минутку забыть их статус и проблемы богатых белых людей.
Вариант 5: устранение Т-условия
Пятый вариант это устранение транспарентности, которая прячет от нас реальное положение вещей. Можно не устранять самосознание как таковое, а только феноменологию идентификации. Раз это страдание или негативно оцениваемое состояние, не ощущается вами как ваше, то и проблемы никакой нет. Тогда можно было бы только допускать появление моделей себя, которые непрозрачны и поэтому не являются объектами или единицами идентификации (Unit of Identification, UI).
Объект идентификации (Unit of Identification; UI) — это феноменальное свойство с которым мы идентифицируемся в настоящий момент, форма контента сознания которая создает субъективный опыт “Я есть это”. Стоит отдельно подметить, насколько часто эпизоды блуждания ума являются феноменологически абстрагированными (disembodied) состояниями, потому что перцептивное отсоединение (perceptual decoupling) зачастую означает “отсоединение” от перцепции/восприятия тела в данный момент времени. Думаете ли вы о вскочившем на лбу прыще, когда поглощены ощущением собственного величия?
Будет существовать модель организма, но не модель “я”. Сознательные преференции, такие как желания или влечения, все еще могут возникать и встраиваться в эту модель организма но при таком варианте не произойдет никакой функциональной идентификации, потому что условие транспарентности (Т-условие, transparency) не было выполнено. Представьте, что вы внезапно осознаете, что вы в Матрице. Ваш опыт создается определенными сложными механизмами, как и ваше Я, и перед вами открылось то, что называется репрезентативной природой Я-модели. Как сказал один из персонажей пелевинского романа “Шлем Ужаса” – если ты наденешь маску Бэтмана и посмотришь в зеркало – ты увидишь Бэтмана, а не себя. Это транспарентность. А то, что называется непрозрачностью (opaque) это как раз тот случай, когда вы видите себя в маске. Это один из ключевых моментов теории Метцингера о субъективности Я-модели, что свойство “самости” исчезнет, как только вся Я-модель человека (которую мы считаем собой) станет феноменально непрозрачной, делая более ранние стадии обработки (то есть механизм создания Матрицы) доступными для интроспективного внимания, тем самым отражая ее репрезентативную природу. Это не мир вокруг, и не Бэтман в зеркале – это все репрезентации, модели мира и объектов в нем включая вас, и благодаря исчезновению транспарентности, вы смогли заглянуть под капот Матрицы. А кожаный плащ, дежа вю и то, что вы Избранный – это контент, то есть содержание, вашей Я-модели. В такой ситуации фрустрированные предпочтения все еще могут быть сознательно представлены в такой модели. Но организм не будет переживать их как часть себя – эта сущность исчезнет из его субъективной онтологии.
Вариант 6: максимизация единицы идентификации (UI)
Последней логической возможностью может быть максимизация единицы идентификации. Сейчас объясню. Возможно, вы слышали о “состоянии потока”. Вы прыгаете с парашютом, занимаетесь творчеством, сосредоточенной профессиональной деятельностью или посто созерцаете – не столь важно. Вы как бы “растворяетесь” в процессе. Шестой вариант описывает возможность сохранить даже феноменологию идентификации, но связать ее с феноменальностью как таковой, превратив сам процесс сознательного опыта в единицу идентификации. Если единица идентификации это мимолетный “слепок” вашей Я-модели в какой-то отдельный момент времени, то если вы полностью отождествитесь с процессом восприятия, то растворится феноменально переживаемая перспектива первого лица и лежащую в основе феноменального опыта субъектно-объектная структура. Если вы слышали такие эзотерические продающие фразы как “растворение в моменте”, “синхронизация с пульсом Вселенной”, “слияние с Абсолютом”, то скорее всего, подразумевалось что-то подобное. В этой феноменальной конфигурации, предпочтения все еще могут возникать и фрустрироваться, но они не будут субъективными, им некому будет принадлежать, поскольку основная субъектно-объектная структура сознания растворена. Другими словами, индивидуальная перспектива от первого лица исчезла бы, поскольку ее источник (единица идентификации) теперь максимизирован. Такая аперспективная форма сознания сделала бы страдание невозможным, поскольку оно больше не является субъективной формой опыта. Остается только вопрос, можем ли мы в этом случае говорить о наличии той самой феноменальной Я-модели, или нет.
