cat

competidor


Аналитические материалы по трансгуманизму.

От Владимира Шмачкова.


Previous Entry Share Next Entry
Элизер Юдковский. Трансгуманизм как Упрощенный Гуманизм.
cat
competidor
Eliezer S. YudkowskyТрансгуманизм как Упрощенный Гуманизм

Элизер Юдковский (Eliezer S. Yudkowsky) Исследователь Института Сингулярности

16 июня 2007 г.

Франк Саллоуей (Frank Sulloway) однажды сказал: «Девяносто девять процентов того, что Дарвиновская теория говорит о человеческом поведении, настолько очевидно верно, что мы не даем Дарвину кредит на это. Ирония состоит в том, что психоанализ полностью превосходит Дарвинизм потому, что его предсказания настолько диковины и его объяснения настолько парадоксальны, что мы думаем: «Это действительно так? Как необычно!». Идеи Фрейда настолько интригуют, что люди готовы оплатить за них, в то время как, один из самых больших недостатков Дарвинизма — это то, что мы чувствуем, что уже знаем это, потому что, в некотором смысле, мы так делаем».


Предположите, что вы находите шестилетнюю девочку без сознания, лежащую на железнодорожных путях действующей железной дороги. Что, с точки зрения морали, вы должны сделать в этой ситуации? Было бы лучше оставить ее там, чтобы ее переехал поезд или попытаться спасти ее? Что было бы, если бы у 45-летнего человека началась истощающая его, но не смертельная болезнь, которая определенно ухудшит качество его жизни – лучше его вылечить или не лечить?


О, и между прочим: Я не подшучиваю над Вами.


Я отвечаю, что спас бы их, если бы у меня была возможность сделать это – и шестилетнюю на железнодорожных путях, и больного 45-летнего. Очевидный ответ не всегда является лучшим выбором, но иногда это так.


Меня не будут хвалить как блестящего специалиста по этике за мои суждения в этих двух этических дилеммах. Мои ответы не удивляют достаточно для того, что люди платили бы мне за них. Если вы размышляете на тему «Чему равно два плюс два? Четыре!» - вы не получите репутацию глубокого мыслителя, но это - все таки правильный ответ.


Если маленький ребенок падает на железнодорожные пути - хорошо спасти его, и, если 45-летний страдает от изнурительной болезни - хорошо вылечить его. Если у вас логический склад ума, то вы обязаны спросить: является ли это особым случаем общего нравственного принципа, который говорит, что «жизнь хороша, смерть плоха; здоровье хорошо, болезнь плоха». Раз это так – и здесь мы вступаем на спорную территорию – мы можем следовать за этим общим принципом к удивительному новому заключению: если бы 95-летнему угрожала смерть от старости, было бы хорошо убрать его с этих железнодорожных путей, если возможно. И, если бы 120-летний начал чувствовать себя немного нездоровым - было бы хорошо вернуть ему прекрасное самочувствие, если возможно. Для современной технологии это не возможно. Но, если такая технология стала доступной в ближайшем будущем – развилась бы достаточна медицинская нанотехнология, или какие-нибудь другие технологии, которые разработают ученые будущего – вы считали бы, что это хорошая мысль: спасти живых и отбросить немощь?


Важно помнить, о чем, как я полагаю, слишком много людей забывает, - это не риторический вопрос.


Трансгуманизм прост – он требует меньше особых случаев - потому что у него нет никаких особых случаев. Если вы верите профессиональным биоэтикам (люди, которые получают зарплату за объяснение этических суждений), то правило «жизнь хороша, смерть плоха; здоровье хорошо, болезнь плохо», держится только до некоторого критического возраста и затем перебрасывает полярность. Почему оно должно менять полярность? Почему не сохраняют только «жизнь - это хорошо»? По всей видимости, хорошо спасти шестилетнюю девочку, но плохо продлить жизнь и здоровье 150-летнего. Тогда какой точный возраст записан в суждении перехода от положительного к отрицательному? И в чем причина?


Как понимают трансгуманисты, если вы видите кого-то в смертельной опасности, то вы должны спасти его; если вы можете улучшить чье-то здоровье, то вы должны сделать это. Так общепринято. Никаких особых случаев. Вы не должны спрашивать ничей возраст.


Вы также не должны спрашивать используются ли только «примитивные» технологии (как носилки для того, чтобы снять шестилетнего с железнодорожных путей) или же технологии изобрели меньше, чем сто лет назад (как пенициллин), которые, тем не менее, кажутся обычными, потому что они уже были вокруг нас, когда вы были ребенком, или же технологии, которые кажутся страшными, сексуальными и футуристическими (как генотерапия), потому что они были изобретены уже после того, как вам исполнилось 18, или же технологии, которые кажутся абсурдными, неправдоподобными и кощунственными (как нанотехнологии), потому что они еще не изобретены. В вашей этической точки зрения о дилемме нет линии, где вы записываете год изобретения технологии. Вы можете спасти жизни? Да? Хорошо, сделайте это. Так общепринято.


Представьте себе мальчика 9 лет, который получил IQ 120 по тесту Wechsler-Bellvue и которому угрожает неблагоприятное окружение или болезнь мозга, которые, если их не ограничить, постепенно сократят его IQ к 110. Я полагаю, что было бы хорошо спасти его от этой угрозы. Если у вас логический склад ума, вы обязаны спросить, является ли это особым случаем общего нравственного принципа, утверждение о том, что интеллект драгоценен. Далее, у сестры мальчика, как это чаще всего бывает, сейчас IQ 110. Если бы была доступна технология, способная постепенно поднять ее IQ до 120 без отрицательных побочных эффектов, то вы бы посчитали, что так сделать хорошо?


Ну, конечно. Почему нет? Это - вопрос без подвоха. Либо лучше иметь IQ 110, чем 120, и мы должны стремиться уменьшить IQ от 120 до 110, либо лучше иметь IQ 120, чем 110, и мы должны поднять IQ сестры, если это возможно. Насколько я понимаю, очевидный ответ является правильным.


Но – Вы спрашиваете – где это заканчивается? Это может казаться одобряемым и прекрасным - говорить о простирающейся до 150 лет жизни и здоровье – а как относительно 200 лет, или 300 лет, или 500 лет, или больше? Что относительно момента, когда – в ходе объединения должным образом нового жизненного опыта и и развития наших умов в течение долгого времени – эквивалент IQ должен подойти к 140, или к 180, или выйти за человеческий диапазон?


Где это заканчивается? Это не заканчивается. С чего бы? Жизнь хороша, здоровье хорошо, красота и счастье, и забава, и смех, и вызов, и приобретение хороши. Это не меняется и для произвольно больших количеств жизни и красоты. Если бы была верхняя граница, то это был бы особый случай, и это было бы не элегантно.


Основные физические законы возможно разрешают, а возможно и нет продолжительность жизни в X для некоторых Y также, как и медицинская технология конкретного столетия может позволять, или не позволять это. Однако, физические ограничения являются вопросами очевидного факта и могут быть проверены строгим экспериментом. Трансгуманизм, как моральная философия, имеет дело только с вопросом того, желательна ли здоровая продолжительность жизни длины X, если это физически возможно. Трансгуманизм отвечает на да для всего X. Таким образом, вы видите, что это вопрос без подвоха.


Таким образом, «трансгуманизм» – это любовь к жизни без специальных исключений и без верхней границы.


Может быть трансгуманизм действительно так прост? Делает ли философию тривиальной отсутствие в ней дополнительных компонентов, кроме здравого смысла? Да, таким же образом как и научный метод является исключительно здравым смыслом.


Тогда, почему имеется сложное специальное имя «трансгуманизм»? По той же самой причине, что «научный метод» или «секулярный (светский)
гуманизм» усложнили специальными названиями. Если вы берете здравый смысл и строго применяете его, то после многократных логических выводов в области вне каждодневного опыта, успешно избежав многих возможных отвлечений и соблазняющих ошибок на пути, вы часто заканчиваете на позиции меньшинства, и люди дают таким взглядам специальное имя.


Но у моральной философии не должно быть специальных компонентов. Цель моральной философии состоит не в том, чтобы выглядеть восхитительно странной и парадоксальной, или предоставлять занятость биоэтикам. Ее цель состоит в том, чтобы вести наш выбор к жизни, здоровью, красоте, счастью, забаве, смеху, вызову, и приобретению. Если суждения просты, это не является доводом против них – этика не всегда должна быть сложной.


В трансгуманизме нет ничего, кроме того же самого здравого смысла, который лежит в основе обычного гуманизма, последовательно отнесенного к случаям вне нашего современного опыта.Миллион-летняя продолжительность жизни? Если это возможно, то почему нет? Перспектива может казаться очень чужой и странной относительно нашего текущего каждодневного опыта. Это может создать ощущение шока будущего. И все же – действительно ли жизнь является плохой вещью?


Может ли моральный выбор состоять только в том, что просто?


Да.


Комментарии
От переводчика: я частично сохранил только некоторые, наиболее интересные на мой взгляд из многочисленных комментариев к работе (их общий объем многократно превышает объем самой работы Юдковского).

Tom McCabe. 16 июня 2007г. 18:50
Замечу, что это обсуждение этики, хотя логично и последовательно, но не принимает ничью волю во внимание. Вы изменили свои представления о том, какой должна быть моральная система AI, или Вы только пытаетесь сохранять этику простой?
Eliezer Yudkowsky 16 июня 2007г. 19:03
... я говорю о трансгуманизме как о моральной философии, не о AI.
Tom McCabe. 16 июня 2007г. 22:22
... Но разве появление первого супер-интеллектуального AI не потребует экстраполяции нашей коллективной моральной философии?
Eliezer Yudkowsky 16 июня 2007г. 22:50
... как мне кажется 16.06.2007 не было бы хорошей идеей иметь дело с мета-моральной неопределенностью. … мой post выше основывается на этических принципах – что хорошо или плохо в рамках лучшей части моих современных знаний.

Mauro 16 июня 2007г. 21:20
Я думаю, что Вы пренебрегаете некоторыми вещами и, что это в действительно не столь просто … В частности, Вы принимаете линейную полезность для жизни, и в то время как это изящно, это не обязательно верно. Возможно, люди могли бы устать от проживания в некоторый момент после срока L — сколько бы велик он не был — и продление их жизни становится пыткой, а не счастьем.
Tyciol 11 июня 2007г. 16:05
... Ваше возражение, кажется, предполагает , что если бы была некоторая нелинейная ценность жизни, то это требовало бы одинаковости людей. В действительности это не так. Некоторые люди хотят покончить жизнь самоубийством в подростковом возрасте, в то время как другие хотят продолжать жить столетиями.
Eliezer Yudkowsky 16 июня 2007г. 21:35
... есть ли у жизни линейная ценность, более хитрый вопрос чем, есть ли у нее положительная ценность. И Ваш пункт об условиях, при которых жизнь не стоит жить, может быть приложен одинаково к, скажем, обремененному долгами крестьянину за тысячу лет до крионики, к анализу самоубийства или решению вопроса принести ли ребенка в мир. Эти дебаты велись бы вокруг что делает жизнь достойной проживания – почему жизнь лучше, чем смерть – и это могло бы показать возможные жизненные обстоятельства, при которых, независимо от вашего возраста, независимо от применяемых технологий, вы предпочли бы умереть.

Seth Baum 17 июня 2007г. 8:07
... Я рассматриваю этику как соединение логики и интуиции. Между ними часто существует напряженность, и твой post это ясно выражает. (Ты, кажется, предпочитаешь больше логики чем те, кого ты видишь в оппозиции трансгуманизму.)
... Провал попытки спасти чью-то жизнь нравственно эквивалентен убийству кого-то? В обоих случаях результат один — на одного живого человека меньше. Различие между этими двумя случаями (возможно решающее) находится в сложных социальных последствиях. Но что, если эти социальные последствия не возникли? Это - хороший пример ситуации, когда логика и интуиция находятся в противоречии.
... я строго не выступаю против трансгуманистических целей бессмертия и увеличения интеллигентности, я также и строго не поддерживаю их. Я задаюсь вопросом: достижение этих целей служит эффективному уменьшению экзистенциальных рисков?
Eliezer Yudkowsky 17 июня 2007г. 16:09
...Я не вижу ничего парадоксальное или же нравственно ошибочного в герое, жертвующем своей жизнью, чтобы спасти десять других. Поскольку герой не может предвидеть результаты своих действий и, поскольку не реалистично физиологически предполагать, что он может за мгновение испытать больше радости, чем он мог бы ожидать за всю свою оставшуюся продолжительность жизни, я должен полагать, что у людей могут быть интересы вне себя...
...Под «испытывать удовольствие → это - благо» ты подразумеваешь, что решение, которое ощущается лучшим, является правильным, или то, что мы должны бросить вызов нашей интуиции, чтобы рассудочно-равнодушно максимизировать интеграл нашего будущего чувственного опыта в течение долгого времени? Это - несовместимые императивы.
...Если бы что-либо подобное произошло в планетарном масштабе – интеллектуальность, произвольно теряющая важную часть ее полезной функции, - это был бы реализовавшийся экзистенциальный риск потому, что это разрушило бы важную часть непреодолимой огромности ожидания значения потомков.
Seth Baum 19 июля 2007г. 16:45
...«Как ты определил бы общее благо...?»
Прямая сумма индивидуального блага. Это в действительности подразумевает утверждение о том, чтобы агенты пожертвовали их собственным благосостоянием ради общего блага, но некоторая жертва неизбежная всякий раз, когда интересы двух или больше агентов находятся в противоречии.
…«мы склонные делать подобные моральные суждения принимая во внимание большое разнообразие ситуаций».
Мы склоняемся к, но мы делаем это не всегда. Как мы разграничиваем особую ситуацию и нормальную?
Seth Baum 30 июня 2007г. 9:11
...Если мы признаем, что благо - эмоциональное явление, которое происходит внутри головы, мы можем сказать, что наше благо — это то, что происходит в наших головах, все еще оценивая то благо, которое происходит в головах других.
...из обсуждения ...я нахожу, что твой трансгуманизм совсем не прост.

Kaj Sotala 2 августа 2007г. 13:48
Когда я в первый раз прочитал этот текст, я подумал, что он сделан блестяще. ...Однако, если ты заставляешь человека [не трансгуманиста] ...читать это, то он мысленно заполняет очень много промежутков в рассуждении, которые ты оставляешь хору. Это не работает как самостоятельный, убедительным текст. ...Это работает немного лучше текстом, предназначенным для трансгуманистов, призванным помочь им понять недостатки в рассуждениях биоконсерваторов – но если, этот текст предназначался именно для этого, должно было бы провести больше времени, разоблачая их контрдоводы.

Eeyore 28 декабря 2007г. 5:13
...«В трансгуманизме нет ничего, кроме того же самого здравого смысла, который лежит в основе обычного гуманизма, последовательно отнесенного к случаям вне нашего современного опыта».
«Последовательно отнесенного»? Покажи мне. ...Все, что я нахожу в трансгуманистических форумах — это страх перед смертью (EY говорил о его «ненависти к смерти»), объединенный с юным научно-фантастическим энтузиазмом.

Rick Schwall, Ph.D. 10 февраля 2008г. 16:54
...В этом обсуждении ты [Элизер] не учел затраты. ...38 000$ для медицинского обслуживания на основе высоких технологий, чтобы добавить один последнее (несчастный?) год к жизни американца (http://www.pubmedcentral.nih.gov/articlerender.fcgi?artid=1464043) против 500$, чтобы спасти жизнь (несколько лет жизни) обедневшего ребенка 3-его мира (http://povertynewsblog.blogspot.com/2008/01/world-uniting-to-save-million-lives.html).
...Общество пыталось научить меня рассматривать человеческую жизнь как ценную. Соглашение не создает истину.
Так, какова в действительности основа для моральных взглядов?

Michael Blade 8 июля 2008г. 10:32
...Что если бы действительно не было бы такой вещи как смерть?
Как это повлияло бы нашу этику?

Giorgis 16 июля 2008г. 4:33
...Вы можете думать, что человеческая изобретательность может преодолеть все проблемы, но я не так в этом уверен.
...Как ваши традиции получает изменение в обществе …рождением большего числа детей.

Ryan Callahan 15 августа 2010г. 17:24
...Очевидно, что есть глубокая скрытая важность в непостижимой тайне наследования талантов, основанной на случайном шансе... Что, если я мог бы играть в футбол так хорошо, как я только когда-либо хотел, вместо того, чтобы наблюдать как другие играют!? Что произошло бы с нашими спортивными привилегиями!?

?

Log in

No account? Create an account