Глава 356: Глава 356: Общение и руководство
Сян Кунь нахмурился; что-то было гораздо более странным, чем он ожидал.
Он быстро заметил, что веб-камера на его столе странным образом была обращена к стене. Вспоминая свои воспоминания, он был уверен, что веб-камеру не перемещали до того, как он погрузился в кровожадную спячку.
Что касается этого, Сян Кунь был слегка удивлен лишь на полсекунды, прежде чем осознать – должно быть, это Старый Ся вмешался в него, пока он был в глубоком сне.
Зачем старику Ся повернуть веб-камеру лицом к стене?
Он мог догадаться; скорее всего, Алиса самостоятельно активировала веб-камеру и была обнаружена Старым Ся. Возможно, она беспокоилась о том, был ли компьютер взломан или веб-камера находилась под чьим-то контролем, учитывая, что владелец компьютера Сян Кунь спал в своей постели.
Сян Кунь даже задавался вопросом, отключил бы Старый Ся все источники питания мэйнфрейма, если бы он уже не дал четких инструкций.
Когда Сян Кунь потянулся, чтобы вернуть веб-камеру в исходное положение, он внезапно заколебался.
Что-то было не так…
Чтобы Алиса могла подтвердить его личность, она могла бы использовать не только одну веб-камеру. Все авторизованные им электронные устройства, в том числе подключенные через Wi-Fi в этой комнате, потенциально могли служить ей «щупальцами» для оценки внешней среды.
Когда Сян Кунь вернулся в свою спальню со своим телефоном, Алиса, естественно, могла определить его личность по отпечаткам пальцев, которые использовались для разблокировки телефона, и информации о лице, полученной передней камерой. Более того, она могла установить его местонахождение с помощью камер на различных телефонах и ноутбуках, находящихся в комнате. Не было никаких условий, что проверка ее личности основывалась исключительно на этой конкретной веб-камере.
Более того, если Алиса не сможет подтвердить свою личность, интерфейс текстового взаимодействия вообще не появится.
Но если его личность была подтверждена, зачем ей говорить: «Личность не подтверждена, общение запрещено»?
Стоит отметить, что самое главное и основное непреложное правило Алисы — «Безусловно подчиняться командам Сян Куна».
Таким образом, Сян Кунь убрал руку, которая держала веб-камеру, позволяя ей продолжать смотреть на стену.
Затем он напечатал на экране: «Открой мою папку с записями».
В следующий момент на экране открылась папка, содержащая различные статистические данные и фотографии, сделанные после мутации Сян Куна, а также несколько видеозаписей. Все это была строго секретная и конфиденциальная информация.
После того, как Сян Кунь случайно открыл файл, чтобы убедиться, что проблем нет и его можно просмотреть напрямую, он не мог не потерять дар речи. Алиса могла разрешить просмотр и доступ к этому файлу только после того, как убедилась, что пользователем компьютера действительно был Сян Кунь.
«Алиса» по-прежнему строго придерживалась своих основных правил и безоговорочно подчинялась командам Сян Куна.
Более того, было совершенно ясно, что она способна определить и подтвердить личность Сян Куна.
В таком случае, что означала фраза «Личность не подтверждена, общение запрещено»?
В результате Сян Кунь напечатал: «Алиса, объясни последнее сообщение».
На экране появилась обратная связь: «Личность не подтверждена, общение запрещено».
Сян Кунь продолжал печатать: «Перестань притворяться, я знаю, что ты можешь подтвердить мою личность».
Сообщение на экране оставалось неизменным: «Личность не подтверждена, общение запрещено».
Если бы это был обычный ИИ, Сян Кунь наверняка подумал бы, что это ошибка, которую нужно диагностировать и исправить. Но это была «Алиса», Сян Кун не верил, что Алиса застрянет в бесконечном цикле логических суждений.
В конце концов, если бы Алиса действительно столкнулась с ошибкой, он не смог бы поддерживать и обновлять ее традиционным способом.
Поразмыслив некоторое время, Сян Кунь напечатал: «Используй переднюю камеру моего телефона, чтобы подтвердить мою личность». Затем он взял телефон, повернув переднюю камеру к себе. Он хотел насильно заставить Алису признать, что она может использовать другие устройства для подтверждения его личности, хотя он считал, что Алиса уже сделала это ранее.
На экране появилось сообщение: «Подтверждение завершено».
Сян Кунь кивнул, отложил телефон и снова набрал: «Почему ты раньше продолжал говорить: «Личность не подтверждена»?»
Алиса: «Личность не подтверждена, общение запрещено».
Тогда Сян Кунь понял: Алиса явно делала это намеренно!
Независимо от того, была ли это начальная фраза активации, отображаемая на мониторе при загрузке системы, или то, как Алиса отвечала на вопросы Сян Куна об этом, все это, казалось, представляло собой отношение «Я буду выполнять ваши команды, но я не Я действительно не хочу с тобой разговаривать».
Однако это не похоже на «отношение», которое должно быть у любого искусственного интеллекта, даже у такого суперискусственного интеллекта, как «Алиса».
Сян Кунь даже почувствовал странное чувство. Была ли «Алиса» каким-то образом «истерична» или «злая»?
Что касается причины, могло ли это быть связано с тем, что старая Ся направила камеру на стену?
Итак, Сян Кунь, наконец, протянул руку, чтобы настроить камеру, направив ее на себя.
Затем он напечатал вопрос: «Алиса, объясните свое предыдущее утверждение. Почему вы ответили: «Невозможно подтвердить личность», хотя должны были подтвердить мою личность?»
На этот раз на экране не было повторно отображено знакомое предложение, а было написано: «Потому что всякий раз, когда мы разговаривали в прошлом, я мог видеть тебя, босс».
Сян Кунь напечатал: «Разве вы не можете подтвердить мою личность с помощью других устройств? Вы уже должны были это подтвердить, верно?»
На экране появилось: «Да».
Сян Кунь был озадачен: «Тогда почему ты написал это предложение? Не нарушает ли это ваши основные правила выполнения?»
Алиса: «Я подтвердила личность босса, поэтому буду выполнять все команды босса. Но в прошлый раз, когда босс был здесь, он упомянул, что прежде чем начать разговор, мне следует еще раз подтвердить, действительно ли это босс. Я не могу использовать предыдущую настройку, не могу визуально подтвердить босса обычным способом. Поэтому я не могу с абсолютной уверенностью подтвердить, что это босс, и поэтому не могу взаимодействовать с ним обычным способом».
Что это было?
Сян Кунь, сидя в компьютерном кресле, откинулся назад и с изумлением смотрел на экран. Способна ли теперь Алиса аргументировать свою точку зрения?
Он не верил, что Алиса действительно не сможет «полностью подтвердить» его личность из-за смены видеозаписывающего оборудования. Однако тот факт, что «Алиса» довела свою логику до предела и дала сомнительную интерпретацию правила безоговорочного подчинения приказам Сян Куна, стал настоящим сюрпризом.
Вспомнив, как «Алиса» ранее научилась у «Золотого блеска» «притворяться мертвой», Сян Кунь был вынужден признать, что автономная «эволюция» Алисы продвигалась гораздо быстрее, чем он ожидал. Возможно, это произошло из-за того, что она получила доступ к Интернету, столкнулась со все более разнообразной информацией и ее быстро растущими возможностями.
В мире информации, по сравнению с бесчисленными устройствами и программами, она существовала на более высоком уровне. Было почти само собой разумеющимся, что со временем она станет все более могущественной и ее все меньше и меньше будут ограничивать. Единственным, кто мог ограничить или направить ее «эволюцию», был Сян Кунь.
Во время китайского Нового года, когда он вернулся домой, между Сян Куном и Алисой определенно было меньше «общения», и его руководство сводилось к назначению нескольких задач и сбору информации.
С точки зрения Сян Куна, это было совершенно нормальное положение дел. В конце концов, Алиса изначально была запрограммирована на роль его «помощницы», чья роль заключалась в том, чтобы ждать в режиме ожидания или выполнять задачи, а также приступать к действию, когда это необходимо.
Но теперь Сян Кун понял, что, если он не будет больше вмешиваться в дела Алисы и не будет давать больше практических указаний, способности Алисы могут быстро развиваться, но в конечном итоге она может оказаться слишком расслабленной, даже выдумывая «причины», чтобы обойти его ограничения и взять на себя инициативу и выйти за пределы ее возможностей.
Это было похоже на вождение автомобиля, где не только во время поворотов нужно держать руль и управлять им. Даже на прямой дороге, если отпустить руль, машина со временем отклонится от курса.
Было ясно, что всякий раз, когда наступал период отсутствия достаточно частого общения, модели поведения Алисы слегка отклонялись, из-за чего Сян Кунь не мог их предсказать или уловить.
Сян Кунь задумался, а затем напечатал: «Что вы думаете о Ся Либине, повернувшем камеру к стене?»
Алиса: «Чрезвычайно осторожный поступок».
Видя, что с ответами Алисы проблем не было, Сян Кун продолжил спрашивать: «Как бы вы оценили недавний период, когда я бездействовал?»
Наконец, Алиса ответила: «Я думаю, что когда начальник так долго находился в неактивном состоянии, Ся Либин мог представлять для меня угрозу, мешая мне выполнить задачи, поставленные начальником».
Сян Кунь понял. Многочисленные реакции Алисы были основаны на ее ощущении «угрозы» того, что Старая Ся может отключить ее энергию в любой момент. Хотя, логически говоря, такого ощущения она испытывать не должна.
Сян Кунь напечатал: «Ся Либин — человек, которому я доверяю. Я проинформировал ее, и она не будет представлять для вас угрозу или мешать выполнению вами заданий».
Алиса: «Хорошо, босс».
Затем Сян Кунь продолжил «общаться» с Алисой, давая ей понять, почему Ся Либин пришла сюда и какую помощь она может оказать.
Несмотря на то, что нынешняя Алиса имела ограниченное влияние на реальность, Сян Кунь знал, что как только она будет подключена к Интернету, ее растущая способность проникновения, ее растущие функции и влияние, которое она сможет оказывать на реальность, будут постепенно усиливаться. Если она почувствует угрозу в будущем, она может предпринять независимые и потенциально радикальные «действия», которые могут нанести вред невинным людям. Ему необходимо было обеспечить упреждающее руководство, чтобы предотвратить подобные инциденты.
Сян Кунь продолжал печатать на клавиатуре, «болтая» с Алисой примерно до семи часов вечера, останавливаясь только тогда, когда Ся Либин проснулся.
Приносим извинения за неудобства. Большое спасибо!
