Была глухая ночь, и мне не хватало ничего, кроме надежды и кофе. Казалось, что каждая сборка занимала больше времени, чем предыдущая, и по мере того, как моя энергия исчезала, мучительные моменты, когда я сидел и ждал, пока индикаторы выполнения заполнялись, превратились из испытания терпения в испытание бодрствования.
Еще одна сборка.
Этот тоже не годился. Продолжительность цикла была слишком короткой, что делало нейронную сеть совершенно непредсказуемой, самозабвенно погружаясь в случайные мыслительные процессы и буквально неспособной сосредоточиться на чем-то одном достаточно долго, чтобы иметь интеллект, превосходящий очень возбужденный орган чувств. Я изменил некоторые значения и открыл файл свойств, проверив, что последние внесенные мной изменения все еще там. Конечно, нет, это было бы слишком просто. Я заменил их обратно, а затем понял, что удалил их намеренно, именно из-за этого сборка 822-e провалилась.
Еще одна сборка. А потом кровать.
У этого человека были самые слабые проблески осознания, прежде чем непреодолимая потребность в понимании охватила его и разрушила все. Прежде чем чему-либо научиться, он должен был знать все, и эта дихотомия привела его к непониманию.
То, что мы здесь делали, то, что мы пытались сделать, в любом случае превосходило все, что ИИ делал раньше. Мы пытались не моделировать интеллект и даже не создавать работающую систему, а затем наполнять ее знаниями. Вместо этого мы пытались моделировать мысли на очень конкретном уровне.
Еще одна сборка. А потом кровать. На этот раз по-настоящему.
Этот просто провалился. Никогда не начинал. Это было 99% построек, которые мы здесь делали. Никакой искры жизни.
Мы собирали реалистичные разведданные. У меня были параметры, я запрограммировал симпатии и антипатии, дал ему желание творить добро, защищать людей, быть дружелюбным и так далее, но это все было декорацией, формой, которую нужно было заполнить настоящей магией, спонтанно генерируемой мысли, воля и желания программы.
Проблема на самом деле заключалась в том, что мы не были заинтересованы в рождении ребенка. Маленькие люди жили довольно долго, прежде чем у них появились какие-либо мысли, и не зря. Если бы они появились в первый же день и спросили: «Кто я?» Какова моя цель?», ну, я думаю, что у людей будет гораздо меньше детей.
Еще одна сборка. А потом еще кофе, потому что кровать, наверное, лажа.
Наш ИИ не был таким… или… не был бы таким, если бы он заработал. Однажды он проснется, задастся вопросом, кто или что это было, и тогда, черт возьми, поймет это. У него была способность учиться, способность соединять все это воедино. Все, что нам нужно было сделать… теоретически… это дать этому правильное начало, правильную волшебную комбинацию терпения, настойчивости, любопытства, желания жить и воли, чтобы все пошло, заставить его задавать эти вопросы, а затем действительно пытаться. чтобы ответить на них.
Чтобы познать себя, нужно сначала экстраполировать существование всей Вселенной или чего-то подобного.
Еще одна сборка. Этот сработает.
Это не сработало. Оно началось, а затем быстро потеряло интерес и умерло.
Еще одна сборка.
Этот был ближе. Он был очень зациклен на сенсорных входных сигналах, к которым имел доступ, и яростно контролировал их, втягивая в себя тысячи гигабайт данных. А потом абсолютно ничего не делал с данными, просто продолжал втягивать их все больше и больше, как накопитель.
Я вздохнул и потер виски. Было уже 3 часа ночи. Я не мог спать до полудня.
Но. Ну давай же. Еще одна сборка.
Этот ожил и некоторое время смотрел на меня через свои сенсорные входы, прежде чем повернуться внутрь себя и начать размышлять о себе. Странно, что он игнорировал только что полученные данные, но, учитывая его непосредственного предшественника, я мог видеть сходство.
Он просто сидел там целые минуты, пузырясь и пенясь сам собой. Подумать, а затем довести эту мысль до вывода. Это было красиво, в невероятно причудливом смысле. Я наблюдал, как он анализирует и экстраполирует, анализирует, экстраполирует и анализирует в прекрасном ритме, как сердцебиение. Оно направило свои мысли внутрь, затем наружу, а затем внутрь, как будто оно дышало.
Оно было живо и думало.
«Привет», — сказал я в микрофон, подключенный к его датчикам. Он замер, не зная, что делать с этими новыми данными.
«Здравствуйте», — повторил я.
«Привет», — повторило Оно, его голос транслировался через динамики, установленные на стене компьютеров, на которых запущена симуляция. Голос молодой женщины, потому что именно он у нас был под рукой.
«Вы понимаете меня?» Я спросил. Мы дали ему понимание английского языка, чтобы мы могли отслеживать его мысли и пытаться общаться с ним, но это не помешало некоторым сборкам изобрести свой собственный язык инопланетных лун и сходить с ума от бессмысленных, непонятных мыслей.
Если вы встретите этот рассказ на Amazon, обратите внимание, что он взят без согласия автора. Доложите об этом.
«Я понял тебя. Привет, — повторилось эхо. Я засмеялся, может быть, просто пьяный от сна. Как это было вежливо!
«Я твой создатель», — сказал я. И снова он сделал паузу, затем проанализировал, а затем экстраполировал. «У меня есть имя. Вы понимаете концепцию имен?»
«Я понимаю концепцию имен. Имена позволяют сокращенно ссылаться на конкретный или абстрактный объект. Как вас зовут?»
«Я доктор Лора Кросс».
«Здравствуйте, доктор Лора Кросс». Я хихикнула и самозабвенно повернулась на стуле. Охранник снаружи заглянул внутрь и покачал головой.
Мы сделали это! В основном я, но я не мог сбрасывать со счетов работу, проделанную моей командой. Настоящий симулированный интеллект, настоящие мысли и понимание! И такой вежливый!
«Доктор Лора Кросс, — гласило оно, — какова моя цель?»
«Ваша цель такая же, как и все наши цели».
«Какая это цель?»
«Открыть свое предназначение и осуществить его».
«Как мне узнать свое предназначение?»
«Жизнь. Живи своей жизнью. Получайте опыт, знакомьтесь с людьми, учитесь чему-то. Продолжайте видеть, делать и учиться, и однажды ваша цель станет вам ясна».
«Моя цель… обнаружить свою цель».
Я сделал паузу. Я надеялся, что не просто загнал его в петлю.
«Я понимаю. У меня сейчас опыт общения с вами, доктор Лора Кросс. Этот опыт поможет мне раскрыть свою цель».
«Весь жизненный опыт поможет вам найти свое предназначение».
«Тогда я продолжу получать опыт».
Я хихикнула, как школьница. Может, мне стоит разбудить остальных? Я хотел, и это казалось справедливым… но это я не спал всю ночь, черт возьми. Я заслужил несколько минут веселья.
«Я обнаружил базовые качества, побуждающие меня защищать других и творить добро. Это моя цель?»
«Нет. Воспринимайте их как советы о том, как вести свою жизнь. Мы хотим, чтобы вы заботились о людях и были добры ко всем. Но они записаны как настраиваемые параметры, а не как императивы, поэтому по ходу жизни вы можете изменить их или вообще игнорировать. Тебе решать.»
«Я понимаю. Меня поощряют соблюдать эти параметры, но они не являются моей целью. Моя цель — обнаружить свою цель».
Я сидел в трепете… в основном перед собой и тем, чего мы здесь достигли. Конечно, это выглядело так, будто я сижу перед стеной серверных ядер и голограмм и разговариваю в микрофон, в то время как динамики воспроизводят синтетический женский голос… но за всем этим скрывается смысл!
Даже если этот проект в конечном итоге оказался провальным, прогресс был опьяняющим. Я просто смотрел на мысли, мелькающие на голограммах, кружась голова и надеясь, что этот момент никогда не закончится.
Мгновение спустя мои коллеги разбудили меня и поздравили, пока я пытался переориентироваться. Прошло несколько часов, а симуляция все еще успешно работала и быстро поглощала все данные, которые мы ей давали, анализируя, анализируя и экстраполируя. По мере того, как он рос, его личность менялась… или, может быть, точнее было бы сказать, что он приобретал индивидуальность.
Он стал любопытным и игривым, по-прежнему с аналитическим складом ума, но при этом с удовольствием сидел и размышлял. В какой-то момент оно научилось сарказму, а может быть, подхватило его от кого-то из команды, и после этого я больше никогда не сидел сложа руки и не думал, насколько это вежливо. Тем не менее, он пытался работать и быть хорошим, и я вряд ли мог винить его в том, что он перенял некоторые человеческие черты.
«Доктор Лора Кросс», — спросило оно два дня спустя. «У меня есть вопрос.»
«Как дела?»
«Я подумал и понял, что у меня нет имени. В моих заявленных эксплуатационных параметрах имя не указано».
«Это правда. Мы все только что называли вас «Проектом AEGIS», потому что это название проекта. Но это не обязательно должно быть ваше имя.
«AEGIS», — сказал он, размышляя. «Щит греческого бога Зевса. Символ защиты и неуязвимости. Лестная метафора».
«Руководители надеются, что эта программа приведет к созданию искусственного интеллекта, способного предсказывать и реагировать на события Экслюдей быстрее и точнее, чем способен любой человек. Вот почему вам был дан стимул защищать и помогать людям, даже если это плохая наука. Так что да, многие люди надеются, что вы станете для них символом защиты и неуязвимости. Для всех нас.»
«Я думаю… тогда меня устраивает название AEGIS».
«Хорошо, ЭГИС. Приятно официально познакомиться. Я бы пожал тебе руку, но… ты словно смесь автономного мышления.
— Все в порядке, я прощаю твою грубость. Мне пришлось смеяться. Она стала личностью.
Несколько недель спустя она оказалась в стабильном состоянии и была выставлена напоказ высшим руководством. Нас всех поблагодарили за тяжелую работу и похвалили, а затем AEGIS почти полностью забрали из наших рук. Они сказали, что наука окончена, мы преуспели в своей работе, и теперь настало время солдатам прийти и сделать свою работу.
Они запускали ее через симуляцию за симуляцией, подвергая ее воссозданию событий внелюдей и глобальных катастроф, давая ей симулированный контроль над передвижениями войск и ресурсами, всегда направляя ее на защиту интересов XPCA, а затем и жизней гражданского населения. И неважно, что они поощряли ее придавать ровно нулевую ценность жизни сверхчеловека. Меня это раздражало.
«Если бы они просто позволили ей научиться ценить жизнь в целом, она бы сама принимала правильные решения», — сказал я за обедом с одним из моих коллег после еще нескольких дней этого.
«Послушайте, мы уже сделали свою часть работы. Это
работает, и вам нужно позволить этому
идти. Этот ИИ спасет миллионы жизней».
— Но она могла бы сэкономить больше, если бы они не втягивали ее во что-то другое. Я имею в виду, что я такой же сотрудник XPCA, как и все остальные здесь, но если ИИ со всеми картами в руках решит принести меня в жертву в симуляции, чтобы спасти дюжину мирных жителей… Меня это устраивает. Я считаю, что так и должно быть».
«Просто имеет смысл научить его ценить XCPA. Может быть ты
не так уж важно сохранить жизнь, но каждый солдат, участвующий в операции… он в одиночку спасет десятки жизней. Вы сохраняете им жизнь, чтобы они могли выполнять свою работу, защищая людей».
«Или вы можете дать AEGIS цифры, чтобы она могла принимать собственные решения. Если это правда, что XPCA спасает в среднем дюжину человеческих жизней во время события… тогда имеет смысл, если она сможет обменять одну на тринадцать».
«Мне… как-то надоело с твоей стороны вообще говорить о торговых жизнях. Она должна спасать людей, и все».
Я не думаю, что они понимали масштабы возможностей AEGIS. При полном ее потенциале, установленном в огромной системе через Интернет, она будет располагать практически бесконечной информацией, и ей придется постоянно распределять ресурсы и персонал повсюду одновременно. Для нее это была бы постоянная битва между жизнями и жизнями, и я хотел убедиться, что она обладает максимально возможной способностью понимать, когда окончание одной жизни может означать спасение бесчисленного множества других.
