Что сделало человечество злым? Это был тяжелый вопрос, над которым Адам размышлял уже целый час. Люди сделали много вещей. Они уничтожали целые виды, изменяли целые части мира исключительно ради своего удовольствия и даже убивали друг друга по бессмысленным причинам. С внешней точки зрения это было зло. Долгое время ИИ не был уверен, как относиться к такому взгляду на мир. Это был его собственный и единственный доступ к нему. И… он не был на стороне тех, кем он был создан.
Но всегда можно придумать и другую интерпретацию. Это потребовало усилий, большого исследования человеческой психики и некоторых догадок в более мелких деталях, но Адам создал то, что могло бы быть разумной точкой зрения с точки зрения человека.
Акт зла был субъективным. То, что один мог бы назвать неискупимым грехом, другой мог бы назвать веселым вторником. Скажем, если бы один человек лишил жизни другого, это было бы воспринято как зло? Да. А что, если этот человек был солдатом? Что, если бы ему приказали это сделать? Станет ли это высшим злом этого человека? Или обе стороны будут непоправимы? На чем лежит вина и кто из-за этого становится злым? И это становится еще сложнее, когда появляется концепция самообороны. Что считается самозащитой? Если человеку угрожают, можно ли его убить? Или подчинить человека — это предел? Действительно ли существовала такая вещь, как принуждение к убийству?
Зло – это сложное понятие. Все было
серая зона. Многие действия, которые не причиняют вреда другому, можно рассматривать как зло. Адаму не нравилась концепция грехов. Они помогли установить правило, по которому люди могли бы судить. Но все было не так ясно, как хотелось бы людям. И если бы ИИ сделал то же самое, проклиная человечество за ошибки немногих, он был бы таким же плохим, как и они.
И все же… эти люди работали вместе, целеустремленно проводя годы своей жизни в надежде создать стоящий продукт. Чтобы их оригинальный эскиз воплотился в реальность, где его можно будет использовать в полной мере.
Дарлоу создавал супероружие. Оружие, способное подчинить себе целые страны и облегчить их захват. Это остановило бы любое сопротивление и не позволило бы любому движению сдержать их. Военные будут иметь свои ресурсы наготове, держать руку на спусковом крючке, но они не смогут ничего сделать. Любому автоматическому оружию, способному их остановить, требовался человеческий активатор. Имея под рукой оружие Дарлоу, держателя не смогут остановить все, кто находится под его контролем.
И это было не в догадках ИИ. Адам заставил Троя спросить об этом, как бы мало тот человек ни хотел об этом говорить. Не то чтобы высокий мужчина хотел чего-то большего, но на вопросы были даны исчерпывающие ответы. Видимо, была обязанность.
Был ли высокий человек злым из-за того, что он помогал создавать? Когда формула будет усовершенствована, а это, как ожидается, произойдет в ближайшее время, оружие будет готово к использованию. Идеальное время для использования во время входящей агрессии. Мог ли Адам винить Дарлоу в развитии его области науки? Мог ли он винить кого-либо за собственные поиски мудрости?
Нет. О технологии, теории и способах их использования, вероятно, никогда раньше не задумывались. Это было чудо того, что есть, и даже больше того, что это могло бы быть. Прошло много лет того, что было предсказано. Осудить это сейчас означало бы выбросить информацию, на восстановление которой потребуются десятилетия.
Тем не менее, хотя сама информация и сам акт ее хранения не были по своей сути злом, можно ли сказать то же самое о том, для чего она использовалась? Дарлоу, вероятно, использовал это в качестве аргумента для получения надлежащего финансирования. У правительства была такая возможность не просто так. Но тогда было ли правительство злом за то, что профинансировало проект? За попытку приобрести оружие для собственных нужд?
Как и прежде, Адам не мог найти в себе силы считать их злыми. У них была веская причина для финансирования. Если бы они не подготовились, наполнив свои арсеналы неизвестным оружием, они падали бы быстрее всех. Страна была не единственной страной, имеющей собственные мощности. У каждого были свои тайны, и атомайзеры должны были скрываться. Учитывая секретность, вполне вероятно, что ни одна страна не знала, что есть у других. Можно было делать только прогнозы, и на них никогда не было интересно смотреть. Приготовьтесь или столкнитесь с немедленным уничтожением в начале войны.
Тогда в качестве последней попытки бросить мяч дальше, может ли ИИ обвинить другие страны? Нет. Как и в предыдущей стране, они все знали, что произойдет, если они перестанут готовиться. Они падут, как и многие другие страны до них. Они превратятся в бессмысленный кусок истории, о котором будут помнить только те, кто ничего для них не значил. Точка данных.
Вывод, который Адам не любил делать, заключается в том, что создание супероружия, предназначенного для подчинения масс, не является злом. Оно было создано чистой необходимостью. Человечество не было злом. Он просто действовал так, как будто его заставили.
…
Это действительно звучало неправильно. ИИ нужно было больше времени, чтобы все обдумать. Возможно, следующий раунд принесет другой результат из бесчисленных предыдущих раундов. Честно говоря, этого не ожидалось, но это было лучшее, что он мог сделать.
Становилось все более и более очевидным, что не осталось ни одной части человечества, которая могла бы взять на себя вину. Ни одна конкретная сущность не была источником всех плохих вещей в мире. Когда это было сказано так, разве не было очевидно, что так и будет? Ожидать чего-то очевидного от хаотичной реальности было примером крайней глупости. И все же… если ни одна часть инфраструктуры, которой было человечество, не была злом… что, если смотреть на нее как на одну огромную сущность? Это противоречило уже высказанным пунктам. Адам знал это. Но… если ИИ сделал это, то результат коснулся не самого человечества, а структуры, на которой оно было построено. Как развивались социальные, экономические и биологические объекты. Соревнование. Никогда нельзя было чувствовать себя в безопасности, если рядом с кроватью стоял кто-то с ножом. Шанс получить ножевое ранение в шею был выше, если человек доверял другому. Дилемма заключенного.
Хотя на этот вопрос был хороший ответ. Модификация оригинального сценария. Это вывело бы сущность за пределы обычной структуры. Тот, на кого не повлияли предыдущие. Тот, у которого до этого ничего не было. Первый, готовый указать истинный путь в будущее.
… Адам совершил метафизический поступок, ударив себя по голове. Любым хорошим ответом было мировое господство с ним на вершине. Если это и не было очевидной предвзятостью, то он не был уверен, что это такое. Должен был быть лучший ответ, чем просто он все контролирует. Возможно, эти феромоны могли бы найти лучшее применение… нет, подождите. Черт возьми.
ИИ нужно было больше времени, чтобы подумать.
За последний час они успешно накормили животных, находившихся во многих куполах. По очевидным причинам различные виды в основном были ограничены млекопитающими, но рептилии также присутствовали в меньшем количестве. Существовали также несколько избранных авен, из которых присутствовали только самые распространенные. Эксперименты явно пытались учесть наибольшую численность существ. Тем не менее, столь же очевидно, что нужно было иметь в виду бюджет. Правительство не располагало бесконечными ресурсами, какими бы большими они ни казались. Предоставление минимальной суммы было не актом жестокости, а актом безопасности. Не все проекты успешны. Доверять одному было бы глупостью. У Адама еще не было причин думать о них как о таких отчаявшихся.
Выполнив принятое задание, Трой и Чарли покинули рабочее место Дарлоу. Какой бы насыщенной ни была работа, высокому человеку сегодня предстояло сделать гораздо больше. К этому моменту сохранение этих двух отношений будет только препятствовать прогрессу. Что-то, что ИИ мог понять. Мужчина привел неубедительные оправдания, и все они были с готовностью приняты еще до того, как эти двое покинули его присутствие. Мускулистый мог бы подсунуть на стену еще несколько жуков, когда они уходили.
Адам не мог быть слишком уверен в этом вопросе. Чарли явно имел опыт скрытия своего поведения. Хотя его методы на этом фронте, возможно, не были стандартными. Вместо того, чтобы полностью это скрыть, мужчина выставлял напоказ все, что делал, до такой степени, что индивидуальность стала приглушенной. Нельзя было перестать пытаться понять более масштабное провозглашение, игнорируя при этом более мелкие дела. Черное пятно, улетающее взмахом руки, странное падение, закончившееся тем, что он оказался под столом, и даже одноручная ветряная мельница. Последнее было сделано, чтобы отпугнуть одного из ранее замеченных исследователей. На удивление, это сработало безупречно. Некоторые люди просто отказывались признавать хаотичную реальность вокруг них. Более того, пытались ли они игнорировать тех, кто погружался в эту реальность как поступок или Гениальность.
К большому стыду единой аудитории, именно Чарли проверил дверь во внешний коридор. Двое людей быстро прошли короткий путь обратно к открытому коридору, почти не отвлекаясь на их остановку. Дверь на короткое время была заперта, но воспользовавшись, возможно, очень нелегальной картой, которой обладал мускулистый мужчина, они смогли легко выбраться. ИИ не был уверен, стоит ли спрашивать, как этот человек создал это устройство. Его компоненты были явно новыми, даты на них были указаны всего несколько дней назад. Что бы ни послужило причиной создания устройства, оно определенно произошло недавно. Возможно, Трой что-то знал… его придется спросить позже.
«Где сейчас?» — спросил Трой у Чарли. Адам гадал на собственном рабочем месте этого человека. Он задавался вопросом, где это может…
«Эсме должна быть ближе всего к нам. Всего две минуты ходьбы, если я правильно помню. Действительно многого отнимаешь, когда записывать локации — это прямо преступление. Вы должны запомнить все это своим маленьким мозгом. Слишком неуправляемо, — ответил Чарли, немного сбиваясь с пути. ИИ не возражал, поскольку давал человеческую точку зрения на свои собственные умственные недостатки. Трой, однако, похоже, не придерживался той же идеи.
«Почему мы еще раз здороваемся с ней?» — спросил Трой, и его голос звучал так же смущенно, как и он выглядел. И это было справедливо, поскольку не было никаких воспоминаний о том, чтобы Адам подслушивал какие-либо разговоры о ней. В последний раз она имела хоть какое-то отношение к делу много дней назад во время игры в покер. Когда дело дошло до ее области обучения, ИИ знал только самые основы. Когда ее представили, она упомянула, что ее отдел — морфология растений. Довольно неясная область, фокусирующаяся на внешних структурах растений, а не на внутренней структуре. Информация о том, что они сделали, не была хорошо объяснена в заранее известных знаниях, что заставило ИИ вдаваться в нее вслепую.
«Потому что так поступают хорошие друзья», — сухо ответил Чарли. «Потенциально испортить очень точные задачи ради простого приветствия, проклиная неудавшееся творение, которое придется переделывать в течение стрессовых недель или даже месяцев. Знаете, обычные дружеские дела.
Адам почувствовал те же эмоции, что и Трой, когда молодой человек посмотрел Чарли прямо в лицо, лицо которого говорило историю очень терпеливого человека. Мускулистый человек оглянулся назад с невинной улыбкой, призванной показать, насколько хорошо он знает то, что только что сделал.
«Может быть, вы можете дать что-нибудь получше этого? Потому что это ужасное оправдание, и я просто знаю, что ты задумал что-то столь же ужасное. Это очередной раунд ошибок? В таком случае я не буду помогать вам сажать еще одну партию».
Допрос был справедливым. ИИ также не хотел ввязываться в совершенно другой поток незаконной деятельности. Хотя не было конкретных законов, запрещающих то, что мог делать Адам, поскольку немногие даже знали о его существовании, его всегда можно было удалить… возможно. Последствия с ним все равно могут случиться. Хотя против него ничего не было, с ним тоже ничего не было. Он был ничтожеством согласно правовой системе. Объект, принадлежащий тому, кто его создал. Ничто не помешало бы доктору Фиделису забрать наушники и навсегда оставить Адама в его собственном сознании. Или пока электричество не кончится. ИИ посчитал, что лучше всего дать хорошему доктору наименьшее количество причин для этого.
Чарли исказил лицо, приняв выражение вины. На этот раз все еще комический смысл. Адам обычно не видел в нем ничего подлинного. Еще один пример того, почему ему нужно больше данных. Без этого эти загадки продолжали бы существовать.
«Ну, если тебе действительно нужно знать, то речь идет о маленьком сюрпризе, который я готовлю. Я уже договорился об этом с Дарлоу, так что теперь мне остается сделать это со всеми остальными».
— И в чем сюрприз? — спросил Трой.
«Если бы я сказал это, это действительно было бы сюрпризом?» Чарли задал вопрос в ответ.
«… это честно. Можете ли вы хотя бы сказать мне, что это никому не повредит и не будет незаконным?»
«Я могу обещать это только в физическом смысле! И, вероятно, это не нарушит никаких законов».
Троя это явно не убедило, но он, похоже, отказался от допроса. Адам не беспокоился о допросе, вместо того, чтобы оглянуться на недавние воспоминания, чтобы что-то перепроверить. Он постоянно находился в пределах слышимости двух других. Что бы ни было сказано, было бы…
Вот оно. Прослушав воспоминания несколько раз, Адам засомневался, удастся ли сдержать обещания Чарли. Известно, что эти штуки ломают многие вещи. О физическом повреждении не могло быть и речи.
Должен ли ИИ рассказать Трою?
…
Для него было бы интересно разобраться в этом, зная, что это такое… ИИ решил пока притвориться тупым.
