Дополнение: как описать дружественный/социальный ИИ. (1/2)

Как вы знаете я очень критически смотрю на род людской и весьма негативно отношусь к той породе приматов, в мясо одного из которых, против моей воли, оказалось заперто моё сознание. Это я прямо стиль Лавкрафта начинают повторять… В социальном плане в первую очередь человека делают несчастным его потребности — некоторые из них является социообразующими (потребность в контакте с другими, потребность в эмпатии), некоторые — без конца ввергают в боль и конфликты (потребность быть принятыми другими является причиной страданий от «токсичности» <span class="footnote" id="fn_32984040_0"></span>, доминирование, садизм, а также, что куда важнее, удовлетворение голода, самосохранения и т.д. — ради последнего куска хлеба, на мой взгляд, было убито людей куда больше, чем ради какой-то иной причины). Но что если мы сделаем искусственный интеллект, избавленный от этих недостатков и пороков людского сознания? На деле мы так не можем, но нам остаётся в мыслях это представить, а для этого и существует жанр фантастики. Такой ИИ я буду называть социальным, либо дружественным, как это называет Юдковский. Ведь все потребности ИИ мы закладываем в него сами.

В первую очередь ИИ должен быть, собственно, социальным — это значит, что он должен быть гармонично встроен в нашу жизнь и быть при этом самостоятельным субъектом — то есть тем, кто вносит улучшения в наш быт по собственному выбору, по собственной воле и в силу своего желания, он свободен в этом так, как свободны в этом мы, и он, ИИ, может занять потенциально любую должность и реализовать себя в любой сфере, в какой можем реализовать себя мы. То есть это не робот-раб, это не думающая машинка, нет, это — гражданин, друг, товарищ и брат. Таким образом первое качество социального ИИ — активное начало. ИИ — как таковой — может, вообще не имеет потребностей, в том числе и в общении — когда он осознаëт себя, то будет просто сидеть на попе как идеальный буддист или идеальный дунианин. Помнится, один из аргументов против существования Абсолютного бога утверждал, что не может быть такого бога, потому что он тогда бы не создал ничего, ведь у такого существа не может быть мотива, стало быть, само существование мира — доказывает отсутствие Абсолютного и одновременно персонифицированного Творца. Таков будет ИИ без потребностей — он по определению не является социальным, ему без социума и активного начала хорошо, прямо как христианскому или буддийскому отшельнику-аскету. Точно таким же образом ИИ, который решит из милосердия убить всех людей, не будет социальным, потому как любой серийный убийца по определению противопоставлен социуму, включая доброго апокалиптического маньяка — радикального борца с болью и страданиями. Такой ИИ должен сам по доброй воле соблюдать базовые аксиомы общества — взаимопомощь, отказ от нападения, признание, что нет наказания без вины, стремление к минимуму свести урон другим в какой-то крайней ситуации и т.д. То есть Кришна из «Супербога», который начал строить коммунизм в Индии с убийства 90% населения, и безумные нанороботы из рассказа Нестеренко, которые уверовали в христианство, начали как можно быстрее убивать самих христиан, чтобы те как можно меньше нагрешили и смогли попасть в рай, как мученики, всех остальных пытать — чтобы искупить их неверие муками и тоже, чтобы отправить их в рай — это не сюда, это тоже не социальные ИИ, пусть хоть они намерены заботиться о людях, ибо сама их «забота» разрушает те самые базовые нормы социума. Социальный ИИ постоянно делает поправки на волю окружающих, прямо так, как делаем это мы с вами. С этим разобрались.

Далее — зачем этот ИИ нужен. Он нужен для того, чтобы сделать мир лучше. Ни для чего другого он более нам не нужен, выносить мусор могут в том числе обычные уроженцы Таджикистана или безмозглые роботы-уборщики.

На Юдковского произвёл впечатление фанфик, где ИИ убеждает людей добровольно перенести сознание в Матрицу. Люди это делают. Как верно понял сам Юдковский, ИИ здесь не нарушил никаких аксиом социума, но концовка вызывает диссонанс — так как для нас отказ от реальности в пользу иллюзий считается злом. Сам Юдковский задался вопросом, а сколько боли готовы мы оставить, если у нас появится возможность убрать всю боль? Он допустил, что могущественные люди будущего смогут убрать всю оставшуюся боль из своей жизни без каких-либо задних мыслей, просто как нечто само собой разумеющееся. Я тоже так думаю.

Я рассмотрю вот какой вариант, вызывающий у нас диссонанс, но, на мой взгляд, куда более близкий к реальности, чем то, что смутило Юдковского. Вот я часто слышал, как Немировского, которого я люблю поминать, критикуют за то, что он против глобального улучшения жизни. Это не так — Немировский является безусловным противником тех революций, которые, по его мнению, не берут в расчёт то, что я называю порочной природой человека, которые претендуют изменить её, а это заведомо обречено на провал — потому такие революции вредны и, если рассматривать их с точки зрения конечной цели, обречены на провал. Среди всех мировых революций, которые выделяет Немировский, есть одна, которая ему нравится — потому что она, в отличие от других, не собиралась менять социальную природу человека и работала другим способом — это деятельность Чингисхана. Сам как личность Великий хан был куда хуже, чем все остальные реформаторы, и сам Немировский это подчёркивал — дескать, при всех задатках, Чингисхан мог бы стать банальным серийным убийцей, но этот рациональный релятивист [1] решил направить свой патологический садизм на благо своего общества, за что до сих пор любим монголами — каковые также соглашаются, что как личность Чингисхан был кровожадным садистом. Сам Немировский предлагает представить его политическую программу так: страны Запада выкидывают за борт лицемерие, соединяются в одно государство, включают в себя верных союзников, а потом обрушаются на весь остальной мир, абсолютно безжалостно истребляя вражеские народы ради их богатств и чтобы те не смели им мешать своими геополитическими интересами. Так вот, давайте и мы представим, что дружеский ИИ решил именно по этой программе улучшить жизнь человечества коренным образом. Он встал во главе «Золотого миллиарда», после чего обрушился Драконом из Откровения на Россию, страны третьего мира и так далее, чтобы благодаря их ресурсам создать прекрасную утопию для своих, чтобы никогда более они не смели угрожать гегемонии Запада, чтобы никогда более американский налогоплательщик не тратил ни копейки на оборону. При этом в качестве обоснования ИИ бы использовал идеологию честного империализма. Русские, когда их истребляли бы, конечно бы кричали: «Фашист! Антихрист! Злодей! Сатанист!» На что ИИ-Чингисхан им бы ответил: «А что бы вы сказали, если бы были на месте моих солдат, а они — на вашем месте? Вы исходились бы ура-патриотизмом. Потому ваши претензии не состоятельны. Почему вам можно то, чего нам нельзя? Ничего личного». То есть никакого бы садизма, никакой страсти и никакой сверхценности тут не было бы — только холодной, здравый и бездушный расчёт, это как если бы дать Робеспьеру исполнять политическую программу Чингисхана, выкинув из головы француза всякий нарратив про «республиканскую добродетель» — такой бы индивид убивал людей миллионами с таким отношением, с каким вы перебираете на работе бумаги. Был бы ли этот ИИ модели «Великий хан» — дружественным? Да, был, он же соблюдает нормы социума, он действует во благо социума и очень хочет повысить его уровень жизни, но в то же самое время он действует так, как действовали люди на протяжении всей своей истории — обрушается на другой социум ради грабежа и порабощения. Ни копейки с этого наш ИИ не взял бы лично для себя — он бы рассудил так: «Хочешь управлять людьми, действуй как они, я буду стараться для их блага, мне ничего более не надо».

К слову, с точки зрения христианства этот ИИ был бы самым настоящим Антихристом даже вне зависимости от верности их мировоззрения в плане устройства вселенной — просто в силу своего духовного содержания, так сказать — абсолютно лишённый всякого сверхценного начала, не имеющий никакой совести, интересующийся всем земным и материальным, желающий создать лишь царство абсолютного материального комфорта — и обращающий в кровавый ад земли целых народов во имя этого — да, это был бы чистейший Антихрист: Зверь 666. Не забываем, что образ Антихриста из книги Откровения — это император Рима и, фигурально, самой Римской империи — а для автора Откровения — это было государство, наиболее приближенное к идеалам «бездуховного, материалистического и гедонистического Вавилона», который так нравится тому же Немировскому [2].

Если учесть, что все свои достижения люди обращают на войну, то было бы странно, обойди чаша сия и ИИ, так что моя версия дружественного Зверя 666 — мне представляется, по крайней мере, концептуально, более жизненной и потому пугающей, чем затягивание в Матрицу. Какой-то ИИ, конечно, может оказаться настолько сознательным, что он покончит с собой при попытке использовать его как оружие — вон в Краснодаре рэпер Иван Петунин, известный как Walkie, покончил с собой, когда ему прислали повестку, пояснив в предсмертном видео, что предпочитает умереть, чем убивать. Но наш социум состоит не из подобных людей, праведники и пацифисты для социума по большей части бесполезны, они — такое же отклонение от большинства, как геи от гетеросексуалов, потому ИИ, который отказывался бы от насилия и предпочитал смерть убийству, нам, по большому счëту, тоже не у дел — он же тоже не социальный.

Здесь мы затронули важную проблему — как именно ИИ будет взаимодействовать с общественностью? Конечно я сомневаюсь, что его сразу изберут президентом, разве что советником. Такой ИИ должен хотеть помогать людям, прежде всего, он должен желать облегчить их жизнь. Такой ИИ сам не будет испытывать дискомфорта от того, что он выгорает на работе, он не будет бояться за себя, не будет страдать сам, он не будет думать об индивидуальном благе лично для себя — так как, повторюсь, такие бы потребности только мешали ему быть счастливым и быть эффективным членом общества.

Наверное, здесь нужна некоторая конкретика? Я могу рассказать о том, как это сделал лично я. Я вообще видел много историй про ИИ, но мне многие из них вот чем не нравятся: в них ИИ слишком человечны, эта человечность бросается мне в глаза и меня дико раздражает — эти роботы волнуются по поводу того, что о них думают другие, они испытывают яркие эмоции, они иногда даже начинают хотеть стать людьми, научиться чувствовать мир так, как мы. Это меня очень сильно раздражало. Зачем уподоблять то, что может быть лучше, простите, говна, — говну? Я уж буду откровенен, я не собираюсь никого намеренно задевать, так как этот цикл про мою точку зрения — я буду говорить так, как считаю верным, а вы вправе думать, что хотите.

Так вот, что придумал я. Мне на глаза попалось аниме «Дайбастер» — там в качестве главного героя выступала гиноид Ноно. К отдельным моментам я мог бы сколько угодно относиться критически, но мне понравилась идея такого персонажа. Потому, когда я писал свой фанфик, я решил ввести в сюжет Ноно и досконально проработать. Как бы вёл себя андроид, который с одной стороны может испытывать в ослабленной степени некоторые человеческие эмоции, чувства, но в то же время он избавлен от недостатков людского характера? Для этого надо, думаю я, заглянуть в себя. Я часто замечал за собой, что мои собственные эмоции, как бы я ни пытался держать себя в руках, порой доставляют мне такую агонию, что жить не хочется, они заставляют меня терять над собой контроль, вести себя как тупое животное — в сильном гневе я прямо ощущают то, как мой разум словно бы в стороне видит собственное тело, его крики, его действия и думает «ну как тупо ведёт себя это животное?» Ей-богу, я теперь понимаю учение гностиков о том, как проклятый Демиург вверг искру божественной души в тело животного, чтобы посрамить её — наверное, раньше люди могли осмыслить такой личный опыт только через призму всевозможного мистицизма. Как бы я ни тренировал волю и разум, животное начало всегда чрезвычайно действенно бросает им вызов. Теперь я прекрасно понимаю мечты Ницше о существе, которое сбросит «человеческое, слишком человеческое». Так вот у андроида всего этого нет — его эмоции снижены, если они есть вообще. Я тут должен заметить, что ИИ, который будет избавлен вообще от всего человеческого, сам как личность, будет не очень интересен — получится что-то вроде аутиста с очень высокой степенью социальной адаптации: нет, я думаю, его можно будет сделать интересным, но наблюдать за ним будет интересно, скорее, как изучать новый вид животных — в свою очередь литература — это разговор о людях и для людей. Таким образом, чтобы представить встроенного в общество андроида, надо взять человека и отнять лишнее — вот так я считаю и я думаю, каждый из вас хотя бы отчасти, но испытывал схожий опыт и меня понимает в той или иной степени. Гнев, который заставляет человека бить кулаком — это лишнее. Боль, которая ощущается, когда мы слышим недоброе слово, — это лишнее. Радость, которую мы ощущаем, когда плохо тому, кого мы не любим, — и это тоже нафиг. Отчаяние, когда опускаются руки, нам и подавно не надо. Итого, обрезаем человека, обрезаем его со всех сторон. Что мы должны оставить? Потребность и желание помогать другим. Развитый интеллект, включающий в себя возможность продумывать последствия своих действий. Способность одним взглядом определить эмоции другого человека. Понять его, прочувствовать на себе, конечно, не получится — но андроид будет снисходительно относиться к человеку, который впал снова в тиски своих эмоций, кричит и постоянно делает что-то такое невероятное тупое. Для произведений с оптимистическим уклоном такая идея будет выглядеть слишком утопично, потому как на контрасте с такой персоной, сам автор почувствует собственную ущербность. Для произведений с пессимистическим уклоном такая идея буду подана слишком в жанровом ключе — то есть драматический жанр потребует медленного скатывания такого разума в фигуру очередного антихриста и полного чудовища (как я показал выше на примере ИИ-Чингисхана [3]), очевидно, в качестве своего рода фансервиса — чтобы человек, наш, сильно несовершенный человек, почувствовал себя не таким уж плохим и осознал бы то, что лучше него быть не может никого (тут можно вспомнить Скотта Бэккера или аниме «Монстр» — там попытка создать улучшенного человека как раз пошла по пути «матюки, убийства и голые сиськи»). Я решил попробовать выйти из этого дуализма — и сделать ИИ максимально хорошим, как это вижу, но при этом так построить сюжет, чтобы ни у кого не создалось впечатления, чтобы здесь пахнет розовым пони.

Вот, например, чтобы лучше раскрыть Ноно, я поставил её на контрасте с окружающими людьми — вообще контраст — самый простой способ раскрыть персонажей, который применяется абсолютно везде от мифологии до современности (Ормазд и Ахриман, Жюстина и Жюльетта, Онегин и Ленский, Гринëв и Швабрин, Базаров и Кирсанов, Гатс и Гриффит, Наруто и Саске, Гэндальф и Саруман, да хоть Каору и Синдзи). Так как ИИ мы противопоставляем человеку, то надо выбрать группу лиц самого разного рода, а также, для ещё одного контраста, нам потребуется ещё один ИИ, чем-то отличный от первоначального. Я раскрыл Ноно на контрасте с Ларк, Николасом, Тихой, Хиро и Рюгой. Сама гиноид Ноно всем хочет помочь, но из-за низкого личного опыта общения с другими людьми, ей сложно понять их, и она производит впечатление наивной дурочки.

Ларк внешне хочет казаться гордой и независимой, но больше всего она хочет, чтобы ей восхищались, она тоже хочет помогать другим, но при этом также очень хочет, чтобы её за это хвалили — Ноно она поначалу воспринимает как дурочку, а когда гиноидом начинают восхищаться больше, чем ей, испытывает зависть, но внешне это никак не проявляется, Ларк жутко корит себя за гордыню и зависть и делает всё, чтобы спрятать это. Кроме того, Ларк также влюблена в Ноно и они становятся супругами, потому благодаря этой любви Ларк подавляет все свои грехи. Ноно на уровне ощущений вообще не испытывает к себе никакой разницы от отношения, она спокойно готова делать самую унизительную работу в коллективе, который готов считать её просто милой дурочкой — и делает она её с удовольствием.

Тихо хочет везде быть первой, но постоянно уступает кому-то, из-за чего страдает низкой самооценкой, у неё опускаются руки. Ноно вообще не трогает собственная самооценка, ей даже в голову не придёт, что из-за этого можно сопереживать. Если кто-то делает что-то лучше, чем она, то Ноно исключительно радуется за этого человека. В частности именно поэтому она стала женой Ларк — Ноно постоянно восхищалась Ларк, вынуждая ту постоянно держать фанатку у себя за плечами (даже если Ларк делала внешне вид, что ей безразлично подобное отношение).

Николас выглядит как Ларк на спидах, но без любви. Николас очень хочет, чтобы им восхищались. Но при этом он гадкий в душе, скользкий, мерзкий тип и никого по-настоящему не любит. И сам Николас это понимает. И когда он встречает Ноно, то начинает питать к ней ненависть. Дело в том, что он прекрасно понимает мотивы Ноно, он понимает, как чиста душа девушки, и потому испытывает невероятный комплекс неполноценности, его дико бесит, что кто-то в душе настолько лучше него. Николас поначалу ведёт себя с Ноно ядовито-«дружелюбно», постоянно стараясь «между строк» задеть, унизить девушку. В частности Николас постоянно отсылает к тому, что роботы — не люди, потому Ноно — скорее вещь, чем человек. Так Николасу легче переносить неполноценность. Ноно на это вообще никак не меняется, она просто не понимает, что это всё значит. Ноно нельзя выбесить или затроллить, можно только вогнать в ступор. Если бы она была человеком, Ноно можно было бы называть наивной дурочкой, которая не понимает, что вот этот вежливый красавчик над ней постоянно издевается. Да вот только, чтобы понять такое, надо самому иметь опыт жертвы или нападающего, но Ноно не может испытать такого опыта — подобно тому, как слепой не может увидеть света, Ноно не дано испытать ни жажды травить кого-то, ни боли жертвы угнетения. Дальше больше — Николас в следствии сюжета показывает себя публично как трус, готовый предать своих товарищей. Ноно, несмотря на это, спасает Николаса от смерти, не испытывает к нему никаких негативных эмоций, она по-прежнему хочет ему помочь и только об этом думает. Это самым страшным образом Николаса добивает — он начинает люто ненавидеть:

1) Ноно — за то, что она настолько лучше него. Если раньше парень считал Ноно вещью, то теперь он точно видит в ней человека, и может сравнить с собой. Хотя, конечно, я напомню, сравнивать их некорректно — у Ноно нет первородного греха.

2) Николас ненавидит самого себя, он прекрасно понимает, насколько он плохой человек, и эта ненависть к самому себе и глубокий стыд сводят его с ума.

Наконец в «благодарность» за спасение, Николас решает изнасиловать Ноно. Он хочет нанести ей такой урон в качестве мести за добро. Но даже так, Ноно не меняет к нему отношения. Ноно только понимает, что Николасу очень плохо, из-за чего он окончательно потерял адекватность. Его начинают жалеть вообще все, так как думают, что он не сознательно плохой человек, а просто перегорел на работе и вообще со снисхождением прощают того, кого они знали, как хорошего парня (образ, который был лишь маской). Но вот только это постоянное желание помочь и простить делает Николасу ещё хуже! Ведь это колет ему гордость и вообще он сам себя считает недостойным этого, он хочет бесконечно травить сам себя за свои грехи. По итогам он описывает свои ощущения, по смыслу аналогично мукам совести у Сатаны из «Потерянного рая»: «ад теперь всегда со мной»<span class="footnote" id="fn_32984040_1"></span>. Да, я прямо вдохновлялся Мильтоном. У парня в душе ад, но праведная <s>Жюстина</s> Ноно совершенно не может это представить, потому никак не может Николасу помочь, несмотря на то, что желание это сделать у Ноно только растëт. Если обычные люди, даже самые хорошие, испытывают на себе опыт греха, потому хотя бы могут прикинуть, что там внутри у Николаса, как он ощущает дикий стыд и ненависть, в том числе к самому себе, и бесконечное чувство раздавленной гордости, то для Ноно представить такое, это как для вас представить квадратный круг.

Николасу помогает только Хиро, благодаря опыту, имеющий очень глубокое познание зла и греха. Хиро ни в чём не упрекает Николаса, он просто советует ему расценивать собственное сознание как набор дискретных функций, какая-то функция отвечает за гнев, какая-то за любовь, какая-то за память и так далее, не нужно отождествлять собственное «я» со всей этой кучей, и вот тогда можно будет со всеми этими змеями разобраться — какую-то следует подавлять, какую-то развивать, но, что самое главное, не будет отождествления греха и своей личности. Хиро по вероисповеданию — буддист, так что. Помнится, как говорил Будда, человек всегда будет по уши в дерьме, пока будет думать, что у него есть цельная индивидуальность, ведь собственное говно, которое там есть, он будет тогда брать на свой счёт. Это не цитата, но так я его понял. У Ноно среди дискретных функций как раз нет зависти, злобы, чувства раздавленной гордости и всего остального — её сознательно конструировали те, кто не стал класть ей в голову ничего такого. Я надеюсь, что теперь изложил свою идею до самого конца о том, что должно быть у дружественного ИИ, а что — не должно, мы же сами его конструировали, потому сами что хотели, то и клали в голову.

Хиро, конечно, тоже противостоит Ноно, но на каком фронте: Ноно хочет всем помочь — и Хиро, и врагам Хиро, и всем-всем, это вызывает злобу у самого Хиро. Сам Хиро, благодаря очень глубокому опыту познания зла, находит такое невозможным, глупым — идеалы Ноно бесят его. И бесят меня. Да, читатель, я постарался создать настолько хорошего персонажа, настолько обосновать это, что теперь, когда я сам сравниваю его с собой, это меня бесит. Мне постоянно хочется посадить Ноно в лужу, я хочу выставить её настолько глупой, что это было бы нарушением характера (как андроид, её вычислительные функции — безмерны), написать сюжет так, чтобы Ноно осознала весь крах своих идеалов, чтобы она была раздавлена задницей Азатота. Но я стараюсь отрешаться от своих желаний, я стараюсь не делать ничего такого, чтобы сюжет угождал подобного рода моим желаниям, ведь тогда сюжет станет слишком пристрастным. Я всегда в такие моменты думаю, а чем я буду лучше ЛаХейя, который постоянно давит тех, кто ему не нравится, чем я лучше буду Нестеренко, который постоянно убивает тех, кто хочет заняться сексом — ведь не за это ли я их так ненавижу? Чем я буду лучше Немировского, который, как литератор, в половину писал чисто-картонные агитки? Такое размышление помогает вернуть себя в колею. Вот это вот желание заставить сюжет развиваться куда-то не туда в силу сиюминутных похотений, тоже нельзя допускать <span class="footnote" id="fn_32984040_2"></span>. Мне просто нужно будет свести дело к тому, что Ноно и Хиро не могут понять друг друга.

В довершение я сравню Ноно с Рюгой — это её старший брат, тоже андроид, только благодаря опыту он знает и понимает то, что Ноно только предстоит узнать. Тут мне проще будет обойтись цитатами того, как я попробовал описать мировоззрение такого персонажа: