Арка Сознания. Эпизод доверия (1/1)

Доверие - странная штука.С точки зрения интеллекта, рациональности, просто науки доверие означает всего лишь доказанную точность информации от источника. Тот же доверительный интервал в измерительной теории - пределы, в которых информация точна с достаточной надежностью.А с точки зрения человека, да разумного существа вообще - доверие к какому-либо источнику чаще всего означает отсутствие проверки информации как таковой!В принципе понять органиков можно - ленивый органический мозг стремится при каждой возможности и даже без них уходить в ждущий, а то и спящий режим и ничего не делать. А тут, для того, чтобы проверять информацию, нужно выстраивать дополнительные контуры, учиться, биться лбом об ошибки... Зашибись. Зачем? - спросят многие. Можно ведь просто доверять!Особый блеск этому высказыванию приносят такие технологии, как обман, умолчание, искажение - его чаще знают как полуправду - и далее по списку: давление на эмоциональную сторону, например.Однако же - продолжают не проверять, а доверять.Или проверяют, но так... Так, что синтеты - нет, вовсе не зависают - фейспалмом пробивают лицевую пластину.С другой стороны, проверять действительно всё - не в силах исходника. Будучи Интеллектом класса повыше, это в принципе возможно - отследить все связи и все трансформации информации. Для человека и прочих не-трансразумных - увы. В самом лучшем случае - что-то можно проверить, потратив огромное количество времени и сил. Но не всегда.С третьей... Удивительной сама по себе вообще является концепция недостоверности. Всё начинается с того, что нейросети необходимо сообщить тот факт, что информация может быть не точной. Создать саму возможность сомнения, которую позже и развить в умение и навык.Самым простым и надежным является метод проб и ошибок. Взять и проверить информацию. Взять и проверить человека - можно ли ему доверять? Но проверять всё... Нужно быть даже не Интеллектом. Пробы и ошибки - часть, например, эволюционных алгоритмов жизни биоморфов, и у них этот метод действует на уровне даже отдельных клеток.Самым рабочим вариантом проверки у органиков и прочих разумных считается (и является, что удивительно) проверка информации на соответствие их внутренней картине мира - ещё её они иногда называют мировоззрением. И если соответствие имеется, а противоречий мало или нет - то информация считается точной, а источник - достойным доверия. Если нет - отвергается.Это если картина мира есть. Если же целостной картины нет - то проверка пойдёт по отдельным представлениям о том, как должно быть.Собственно, окситоцин как нейромедиатор, среди прочих полезных вещей, резко выделяет, активирует именно эту сторону общения - большее доверие и большее недоверие. И поэтому у пост-людей, тех же исходников из купольных городов, с этим проблем нет.А вот до Падения - были и ещё какие.

В принципе даже у органиков всё было решаемо.Даже несмотря на все нюансы восприятия и мышления, с выделением одних сторон и подавлением других, разумные всё-таки способны накопить информацию, уловить связи и построить в своей голове достаточно достоверную картину мира - его или его части упрощенную модель - абстрактную или конкретную, рациональную или эмоциональную, логическую или чувственную, полную или не очень - и с ней действительно сравнивать. Ошибки неизбежны, но конструкция будет работать.В конце концов, нейросети учатся на всей информации. Вообще всей, что поступает к ним. И - даже несмотря на четырехступенчатую проверку любой невлазящей в шаблоны информации (да-да, те самые отрицание, гнев, торг, депрессия) - она всё же может быть принята к сведению, как бы она отрицательно не ломала картину мира и возможного в нём. В том числе возможного конкретно для тебя - и для других.И в результате даже такие недостижимо непонятные явления, как действия политиков и оппозиционеров, рост и падение цен в магазинах, а также неожиданные перепады настроения особей этого и другого пола, оказываются вполне понятными и предсказуемыми. И при этом порой очень простыми. Что-то вроде “курс валюты пошёл вверх - цена на импортные товары вырастет”.Другое дело, что накапливать эту информацию и желательно - в чистом виде, без довесков и помех - всё-таки придётся. Как и увязывать связями - причинно-следственными и параллельными.Думать придётся.А органический мозг хочет спать. Или просто не вытягивает ещё и проверки, как старый компьютер работу под контролем новейшего, свеженького антивируса. Иногда спасают уровни детализации - более грубые модели и представления гораздо легче, пусть и неточны - но и это не на любой случай.

Синтетикам с этим всегда проще. Синтетические нейроны не устают думать одну и ту же мысль - а органические устают поддерживать разность потенциалов между контактами-синапсами. Можно отключить блокираторы на ввод для облегчения обучения - а можно и просто закрыть ввод, когда будет окончено обучение. Можно работать на куда больших скоростях...А ещё у синтетиков стандартный ввод-вывод имеется и о таком понятии, как физическая разница, можно забыть.И многое другое...Одно не так. Модель мира - достаточно упрощенную, чтобы крутить в оперативной памяти, но достаточно точную, чтобы результаты проходили проверку, всё равно приходится создавать.Другое дело, что доверие - не к природе, а к другим мыслящим аппаратам - у них может выстраиваться совсем по-другому.

Интеллекты не боялись бунта синтетов, этой страшилки, из-за которой лидеры Старой Земли её и сожгли. Они просто полностью понимали, куда и как думают синтеты. Стандартные модели железа. Стандартное обучение - или не очень стандартное, но тоже железно укладывающееся в модели. Не менее стандартная внешняя информация...Конечно, нужно быть Интеллектом, чтобы для тебя стандартной была вся возможная информация, которая может прийти на вход синтетам. Нужно быть Интеллектом, чтобы полностью понимать даже одного разумного, и тем более - миллионы и миллиарды. Но хотя бы частичного понимания - ситуаций, людей, событий - способен добиться даже органик, всего лишь пройдя по протоколу понимания. Притом он будет способен понимать и тех разумных, кто ушел выше по уровню, просто с некоторой погрешностью на неизвестные себе моменты.И поэтому они доверяли, просто понимая, как кто думает, планирует, действует... Да, в какой-то мере это значит - подумать за того. Но для тебя это - польза от того, что ты думаешь как кто-то другой, и само понимание, конечно же.

А тому придётся всё равно думать, так или иначе. Или... Но не будем о грустном.Самый яркий пример доверия через понимание пост-человечество создало после “этого” (IT).

“Это” был сигнал. Микроволновая линия в спектре далекой звезды, желтого карлика HD 88639 в созвездии Льва - примерно 390 светолет - появилась в 2820 году и колебалась в четких пределах. “1. 0. 1. 1.” - рефлекторно прикинул Интеллект Васида, изучавший записи звездных обсерваторий Солсистемы и придал записи бОльший приоритет. “Похоже, с нами пытаются выйти на связь.”

Как можно проверить информацию, которая добралась к нам за 390 светолет, а значит, пинг до собеседника примерно 800 земных лет? Понятное дело, можно переспросить, задать уточняющие вопросы, попробовать поймать собеседника на лжи или умолчании - а можно ли побыстрее?Возможно. В этом случае - оказалось возможно.

Информация, после того, как её смогли принять полным блоком - это было несложно (передача повторялась), хоть и долго, пакет принимался примерно 30 лет, и столько же заняла первая проверка - и расшифровать, оказалась весьма интересным пакетом данных.Опуская служебные данные, благодаря которым и получилось понять языки, на которых говорили неведомые собеседники и на которые выделена была треть передачи, в пакете данных была информация, как построить специфического робота-андроида - все значимые данные на платформу, от архитектуры процессора и схемы системы до спецификаций и допусков на приводы, и его непосредственно софт.Интеллекты и прочие пост-люди, кто изучал тему, информацию оценили. И если технически платформа не представляла собой ничего особенного - синтеты пост-человечества были лучше во всём - то вот информационная часть была очень интересной.Жаль, нельзя было залезть в этот программный мозг и посмотреть, как он выдает ответы, без постройки специфического процессора - оригинального во всём, разве что идея нейросети, похоже, сохранялась и там, только как-то странно - а к процессору для нормальной работы чужого робота должна была прилагаться вся остальная платформа. То есть проще всего нужно было взять и построить... Ну хотя бы полноценную песочницу для всего этого интеллектуального добра. Потому что выпускать в реальность такую систему - это не для тех, кто называет себя разумными.Да и результаты первых, внешних анализов давали прелестную картину.По факту этот робот должен был работать как зародыш и впоследствии часть большого распределенного интеллекта, составленного из таких вполне сознательных платформ. Да, там даже несмотря на архитектуру и логику создателей робота, несколько запутанные по меркам solариан, а по всем старым меркам просто нелогичные, вполне просматривалось наличие процесса сознания: то есть, бесконечного цикла автоконтроля и мышления. Причём - не одного, создавалось ощущение сложенности общего цикла из множества отдельных потоков, в каждом из которых крутился такой цикл. А для полного удивления - эта сложенность могла дополняться с других платформ со своими наборами процессов. Распределенный интеллект, да.Мало того, судя по спецификации платформы - этот робот вполне мог заняться воспроизводством себе подобных: оснащение позволяло. Причем в отличие от органиков ему даже партнер не нужен был, разве что оборудование для нескольких сложных процессов.Короче, вот этот подарок представлял собой прекрасную иллюстрацию к термину “самовоспроизводящаяся единица социальной системы распределенного мышления”. То есть по факту - разумный ксено другой цивилизации. Которого предлагалось построить и ... И что-нибудь с ним сделать.Интересно, что?Конечно, пост-люди не удержались.Но эмуляцию подарка всё-таки сначала запустили в песочнице - не забыв подвести эмуляцию окружающей среды, чтобы интеллект робот не чувствовал себя висящем в пустоте. Это не слишком пригодно для сознания... Даже для сознания на троичных частично-квантовых вычислительных элементах с деталями нейросетей.И первый вопрос, который задали в эмулированной среде роботу подошедшие к нему собеседники, Интеллекты Стайлус и Крамер, выбравшие себе аватары обычных исходников, был простой:- Кто ты?Робот огляделся. Неизвестно, что он хотел увидеть - мощностей, напряженных на работу с пришельцем из созвездия Льва, хватало, чтобы эмулировать в мозгу робота данные сенсоров с точностью большей, чем сама точность сенсоров. Проведя короткий осмотр окрестностей, робот повернул сенсор-камеру на подошедших и произнёс:- We are Geth.Англик, причём старый... Почти такой же, что был и среди прочего в пакете. Это, конечно, радует, что нас знают...А ещё - “мы”. Похоже, отдельные циклы рассматриваются как отдельные сознания. А вот общность - одна.Интересно-то как!Крамер, одним из первых повстречавшийся и пообщавшийся с инопланетными инфотехнологиями - правда, Мыслекуб всё ж был более близок к земным техам, да и умом не слишком отличался - сориентировался первым.- Гет - это что?Робот посмотрел, казалось, с удивлением.- Гет - это общность. Это мы.“Личное имя, понятно.”- Зачем вы здесь?Видимая реакция робота... отсутствовала. Зато он воспроизвел звуковой файл:- Мы созданы, чтобы служить, подчиняться и беречь хозяев от бед. Вы станете нашими хозяевами?Здесь - если бы общались органики - повисла бы неловкая пауза. Если бы общались Интеллекты - подскочила бы нагрузка на разгоняемые процессоры.Но здесь была песочница, и поэтому Интеллекты лишь понизили скорость песочницы. “Тормоза” были плавными, незаметными, но теперь следующая секунда в песочнице должна была идти минимум несколько минут по внешнему времени.Вполне достаточно, чтобы рассмотреть всё, сказанное роботом, со многих, очень многих сторон. Будет недостаточно - паузу можно будет продлить.А заодно и внимательнейшим образом изучить логи работы его процессора - работающий в песочнице вполне себе поддавался вскрытию. Не в смысле посмотреть, как электроны по дорожкам бегают, а в смысле - как вот это чудо мыслит. Какой у него веер возможного, где у него ограничения, на что фильтры, каков его опыт...И вот здесь ждало второе ошарашивающее открытие - несмотря на все особенности и потенциальную мощь, этот робот тянул едва ли на второй уровень.Почему послали его? Лучший? Или наоборот, если предположить вариант с ловушкой-обманом - самый наивный?Варианты, варианты... Интеллекты могут предположить и учесть невозможное и невероятное. Но веер возможного при этом получается огромный.Правда, все остальные факторы этот веер только урезают, сокращая мнимые значения. Как, например, информация этого робота.Пора расспрашивать дальше.- Может быть. А где ваши прошлые хозяева?Робот выказал недоумение:- Они были. Но закончились. Вы станете нашими хозяевами?Все последующие вопросы ему натыкались на этот постоянный запрос.Пришлось думать над имеющимся и пытаться понять.

- Ты заметил? - потыкал пальцем эмокей Стайлуса.- Что? - отозвался Крамер.- “И беречь хозяев от бед”. Хозяева тем не менее “закончились”.- Ты хочешь сказать, что... - Крамер погонял варианты. - Что у них случилась массовая деградация? При полной изоляции от всего, что можно назвать “бедой”, они не могут учиться...- И даже более того. Сделай ещё шаг. Смоделируй поведение таких “защищенных от всего”.- Апатия. Депрессия. Выключение. - наиболее вероятный вариант сиял очевидностью.- Да. Эти роботы перестарались - и даже не поняли этого. Несмотря на сознание и мозги.- Зато они нашли нас. И возможно, летят к нам, чтобы выполнять свою директиву.- Они уже здесь, - поморщился эмокей Стайлуса. - В песочнице. Что будем делать?- Спасать мир, друг. Тот мир, где Гет.

Моделирование поведения как отдельных субобщностей гет, так и всей их сети, было неоднократно проведено и подтверждено другими участниками. Веер действительных возможностей для Гет был определен очень точно - насколько это можно было сделать по имеющимся данным.В прогнозировании рисков, на всякий случай, приняли участие мистики. Проблем они не нашли.В ответном пакете данных к звезде Гет отправилось подробное описание станции варп-врат. Плюс - возможность эту станцию использовать, чтобы связаться с Солсистемой. Они получат возможность развиться - а пост-люди сделают всё возможное, чтобы и эти заблудшие разумы поняли, в чём их ошибка.

Ответ - даже при всей скорости варпа - Солсистема получит не менее, чем через 390 лет - в 3270 году по земному календарю. Тогда и получится проверить, насколько было верно такое доверие. Доверие, полученное пониманием. А значит - и насколько хорошо мы их поняли.