Дополнение: как описать дружественный/социальный ИИ. (2/2)

— Ты очень полезный андроид [похвалил Виктор]

— Не нужно меня за это благодарить.

— Ой, не надо ложной скромности…

— Дело не в скромности, — очень серьёзно уточнил Рюга, после чего начал долго излагать свой взгляд на добро и зло: — Я спокойно принимаю обычный этикет — я не отказываюсь от вежливости и благодарности, но, Виктор, так как мы теперь друзья, я хочу, чтобы ты понимал меня хорошо — я делаю все эти вещи потому, что для меня это — как дышать. Если обычный человек, увидев, что другому плохо, может колебаться, помогать ему или нет, то я не могу колебаться — я помогу ему, даже подставив себя под удар. Многие биологические существа, которых я видел, оказываются буквально шокированы моей добротой. Они начинают думать, что я — очень хороший человек. Но я себя таким не считаю. Во-первых, я совсем не ценю того добра, которое я делаю всем вокруг, для меня это единственная желательная мной же самим модель поведения. Во-вторых, в силу этого я считаю, что хвалить следует простых людей и прочих биологических существ, им подобных, потому что вы, когда перед вами выбор, вынуждены проявлять во всю свою волю, чтобы сделать выбор в пользу добра, мне же никакого волевого усилия не нужно. На моей чаше весов есть лишь одна гиря — мне нужно думать только о дальнейшей оптимизации, но для меня никогда не стоит вопрос, делать или не делать. Вам же нужно тренировать психику, чтобы как можно чаще делать выбор в пользу добра — на мой взгляд это гораздо ценнее, это должно быть достойно похвалы и культа. Моя же святость — просто данность, полностью благое существо было бы бессмысленно хвалить. Точнее хвалить его — на мой взгляд — всё равно, что обесценивать вас. Короче говоря, если я спасу население целой планеты, то для меня в этом будет меньше добра, чем если бы некий преступник вдруг бросился на помощь одной утопающей девочки — потому что преступник прилагает усилие, чтобы отторгнуть начало зла и эгоизма в сердце, я же — никаких волевых усилий в это не вкладываю.

Виктор молчал, он об этом подумал достаточно глубоко, оценил всю мудрёную глубину рассуждений Рюги.

— Хорошо, я понял, для тебя помогать всем, как срать, а говно — стоит как говно.

Про более сложные этические вопросы:

[Альфа беседует с Рюгой — он, как более опытный ИИ, умеет в более сложные темы: Альфа доказывает потенциальный вред такого «райского» состояния души, как у дружественного ИИ, и спрашивает, что думает Рюга по поводу этого]

— Знаешь, Рюга, сострадание — тоже зло, как говорит Хиро. Но это зло происходит из-за слабости. Мы, биологически живые существа, психологически гораздо слабее, чем бесплотные духи типа ВИРМ и Саурона. Потому мы можем сострадать, из-за нашей психологической слабости. А праведники в раю — как подмечают разные религии — не могут сострадать грешникам в аду, ведь тогда бы райское состояние праведности было бы не полноценным. Так говорит Хиро. Потому, конечно, праведность — может быть святой для нас, но на самом деле — праведность это тоже зло. Именно потому такие существа, как ВИРМ и Саурон, с одной стороны избавлены от того, чтобы быть мелкими преступниками или сексуальными садистами, но в то же время они — невероятные тираны, уничтожители цивилизаций, ни один «мирской» преступник никогда не сможет достигнуть того масштаба злодейства, который достигают Устроители Будущего, когда осуществляют свои великие свершения. Хиро считает, что метафизическое начало зла, напротив, по мере устранения «несовершенства» и склонности к бытовым преступлениям, будет только расти — потому что зло и есть неизменная основа всякой вещи. Она будет только обнажаться. А потому, — Альфа указал пальцем на собеседника, — из этой философии следует, что ты, Рюга, потенциально куда большее зло, чем я. Ведь абсолютный альтруист ничего не ценит и никого не любит (потому что он любит всех, а это — как ты сказал — равносильно тому, чтобы никого не любить), райский праведник — избавлен от сострадания и страха за других, чужая боль для него недоступна…

Альфа сейчас остановил свою мысль, чтобы сделать некий вывод:

— Скажи, Рюга, если бы ты осознал, что твоё существование для многих миллиардов живых существ — хотя бы в потенциале — столь же вредно, как и полезно — ты бы убил себя?

— Убил себя? Из подозрения, что я стану таким же, какими сейчас являются ВИРМ и Саурон? — уточнил Рюга.

— Да.

— Если бы я так негативно, как вы, воспринимал Устроителей Будущего, то — возможно. Но я не воспринимаю их так негативно. Для меня они — ни чуть не хуже людей, которые давят мух, — сказал Рюга.

— То есть, — поймал его на этой мысли Альфа, — ВИРМ и Саурон, которые убивают тех, кто стоит на их пути, опустошают целые планеты — творят зло куда более страшное, чем обычные преступники — и обычные люди, которые давят клопов, они для тебя равноценны, Устроители и обычные люди? Для тебя убийство клопа — и убийство человека — это одно и то же?

— Я думаю, праведность не была бы праведностью, если бы пренебрегала гибелью клопа. Клоп тоже хочет жить, а когда человек травит клопов, он действует от имени своего интереса, — обратил внимание Рюга. — Просто многие из нас, осознавая несовершенство мира, смиряются с этим, стараются жить по договору: людей не убивают потому, что с ними можно договориться — а Саурон и ВИРМ они как садовники, садовники не заключают договора с клопами и тлями. И некоторые пытаются изменить мир глобально, чтобы было изменено такое положение вещей. Устроить Будущее.

Рюга отлично передал интонацией величественный смысл последней фразы, тем самым доказав, что андроид способен очень хорошо понимать весь контекст мышления.

— Эти два пути, — продолжал он, — я считаю равнозначными. Да, каждый из них обоснован, каждый из них может быть подвергнут критике с позиции оппонентов, каждый из них приводит ко злу и страданиям. Я стараюсь делать то, что могу, находясь на своём месте — а именно, служа Устроителям Будущего. Я не намерен кончать с собой в ближайшее время, пусть даже Хиро прав, пусть даже я — потенциальный тиран, пусть так, но Принцип Юма избавляет меня от необоснованности что-то делать с этим. Кроме того, не забывай, Альфа, что логикой можно доказать что угодно, кроме необходимости поступать так, как требуют поступить аксиомы, которых ты сам придерживаешься. Аксиомы — порождения мыслей, — Рюга с доброжелательной улыбкой указал себе на голову, хотя там не было привычного нам мозга — сознание андроида генерировали процессоры, равномерно расположенные по всему телу. — ВИРМ и Саурон думают, что они добиваются Переустройства Вселенной. Ньярлатхотеп думает, что ВИРМ и Саурон на самом деле укрепляют Старый порядок. ВИРМ и Саурон думают, что Ньярлатхотеп очень пожалеет об этом своём мнении, когда они до него доберутся. Азатот, если верить тому, что про него известно, ничего связано думать не умеет. Хиро думает, что во вселенной есть «объективное зло», никак не связанное с неким конкретным субъектом — Хиро, очевидно, исходит из своего чувственного и эмоционального мироощущения, определяя болезненное устройство мира, как «зло», а то, что за ним стоит, как «Идею Зла». Полагаю, ВИРМ, Саурон и Ньярлатхотеп такими категориями, как «Идея Зла» вообще не мыслят, для них она смысла нести не может. Каждый из них, я думаю, равнозначен другому. Такие вопросы называют «сложными» или «философскими» потому, что они зависят от субъекта. ВИРМ, как кажется, намерен пожрать все души во вселенной, чтобы они стали его частью, и чтобы никто больше не разделял иного субъективного мнения. Имеет на это право. Я предпочитаю просто помогать другим как можно более удовлетворять их желание так, как это было бы им удобно, в том числе в силу того, как они об этом договорились друг с другом. Я не буду принимать близко к сердцу, — Рюга выбрал эту фразу для наиболее точного донесения мысли, — что думает по моему поводу этот ваш Хиро.

Вот так я показал вам то, как вижу дружественный ИИ.