Глава 5772. Отчуждение живых роботов.
5772 Отчуждение живых мехов
Когда профессор Качук Чабран прочитал лекцию об опасностях развития зависимости от автономных машин, его повествование все больше влияло на многих людей.
На стороне терранского академика была история. Человечество освоило технологию разработки и использования искусственного интеллекта во многих различных случаях.
В отличие от более элементарных систем программирования или управления, искусственный интеллект обычно создавался для решения проблем, выходящих за рамки очевидных, которые люди уже могли предвидеть.
Чтобы сделать ИИ достаточно гибкими и адаптируемыми для решения новых проблем, которые никто никогда не учитывал в прошлом, искусственный интеллект должен был обладать способностью учиться и повторять действия.
Во многом именно это делало их опасными. Искусственный интеллект мог «обучиться» всевозможным безумным и бесчеловечным решениям, которые ни в малейшей степени не соответствовали человеческому здравому смыслу!
Например, Вес лично был свидетелем случая, когда бот-уборщик, которому было поручено удалять кровь с улиц, буквально пытался сожрать ноги и остальную часть тела живого человека!
По безумной, но «правильной» логике робота-уборщика, удаление источника крови было наиболее эффективным способом предотвратить загрязнение пола.
Конечно, во время этого инцидента, произошедшего в самом начале карьеры Веса, произошло гораздо больше сумасшедших вещей, но память об этом знаковом зрелище до сих пор запечатлена в его памяти.
На самом деле Вес не был не согласен со всем, что говорил профессор Качук. У красного человечества определенно существовала законная потребность сохранять бдительность в отношении искушения слишком полагаться на автоматизацию для решения всех своих проблем.
Конечно, в чем эти двое разошлись, так это во взглядах на то, заслуживают ли живые роботы такого же сурового обращения!
Профессор Шабран использовал два умных аргумента, чтобы убедить общественность поддержать подавление живых роботов.
Во-первых, он нарисовал живых роботов той же кистью, что и более традиционные примеры искусственного интеллекта.
Даже если они работали совершенно по-разному, терранский социолог привел веские аргументы в пользу одинакового подхода к живым роботам.
«…Обширные исследования показали, что программный код продуктов, выпускаемых корпорацией «Живые мехи», не содержит ничего, напоминающего современные ИИ». Старший мужчина уступил. «Это не означает, что они освобождены от нашей заботы. Технологические принципы, лежащие в основе функционирования живых роботов, более эзотеричны из-за того, что профессор Ларкинсон полагается на эзотерическое применение электронной технологии, но конечный результат такой же, как если бы эти продукты контролируются более традиционными искусственными интеллектами».
Чтобы выразить свою точку зрения, ученый использовал классическую пословицу.
«Если он выглядит как утка, плавает как утка и крякает как утка, то, вероятно, это и есть утка. Не верьте заявлениям о том, что разумные живые роботы настолько «отличаются» от современных ИИ, что на них не действуют проблемы последнего. Они настолько идентичны друг другу, что заслуживают одинакового обращения».
Терранский профессор развел руками, завершая этот важный аргумент.
«ИИ могут стать опасными, поэтому их способность к обучению должна быть ограничена ради нашей собственной безопасности. Живые роботы также могут стать опасными, поэтому их способность расти должна быть ограничена ради нашей собственной безопасности».
Вес разозлился, когда профессор Какук произнес эти слова!
Было несправедливо устанавливать такую сильную эквивалентность между его живыми роботами и другими ИИ!
Хотя Вес и стремился опровергнуть попытки Качука связать воедино два разных явления, он воздержался от вспышки гнева.
Ему нужно было сохранять контроль. Лучше было дать терранскому ученому закончить свою речь, прежде чем Вес предложит обстоятельный и более взвешенный ответ.
Второй главный аргумент профессора против живых роботов заключался в уязвимости, которую Вес и его советники не учли должным образом.
«Живые роботы третьего порядка приобрели мощные метафизические качества, которые не только проявляют все характеристики ИИ, но также демонстрируют дополнительные черты, граничащие с сходством с разумными органическими расами, такими как люди и инопланетяне! Такие возможности являются поводом для тревоги, потому что живые роботы Нарушают еще одно фундаментальное правило. Технологии, на которые полагаются люди, никогда не должны выходить за рамки нашего понимания. Мы по праву не поощряем и ограничиваем широкое использование инопланетных технологий, поскольку инопланетные принципы, на которых они основаны, людям трудны для понимания. Если мы не понимаем технологию, мы использования мы становимся уязвимыми для скрытых и непредвиденных функций, от которых мы не защитились».
Профессор приступил к демонстрации многочисленных известных и хорошо
задокументированы случаи, когда слепое доверие к инопланетным технологиям вводило людей в заблуждение.
Одним из особенно знаковых случаев был случай в конце Эпохи Звезд, когда флагман раннего человеческого флота заменил свой худший, разработанный человеком сверхсветовой двигатель, на гораздо более совершенную инопланетную версию, взятую с побежденного инопланетного крупного корабля.
Поскольку технология человеческого сверхсветового привода изначально была разработана на основе инопланетных устройств, между человеческим военным кораблем и сверхсветовым двигателем пришельцев существовала большая совместимость.
Не потребовалось слишком много усилий, чтобы установить новый сверхсветовой двигатель на гордый флагман, мобильность которого еще больше возросла.
Однако когда флот получил приказ переместиться в цитадель людей, флот в конечном итоге прибыл в пункт назначения без самого важного корабля!
Позже выяснилось, что невероятно тупое и непонятное программирование и скрытые модули мощного инопланетного сверхсветового двигателя принудительно изменили координаты корабля.
Модернизированный флагман по-прежнему двигался в том же направлении, но изменил курс лишь на несколько градусов.
Этого отклонения в сверхсветовом путешествии было достаточно, чтобы обречь судно на путешествие по высшим измерениям без определенного места в конце!
Достаточно сказать, что флагман так и не остался целым. В то время технология сверхсветового привода была гораздо менее сложной. Даже более совершенный сверхсветовой двигатель пришельцев был безнадежно примитивен по сравнению с современными версиями, используемыми красным человечеством!
Безопасность была одним из главных недостатков тех первых сверхсветовых двигателей. Если космический корабль когда-либо «промахивался» по месту назначения и отправлялся в дикое и неконтролируемое путешествие, принудительное отключение сверхсветового двигателя приводило к гораздо более сильному выбросу обратно в материальный мир!
Подавляющее большинство случаев не привело ни к чему, кроме чрезвычайно длинных следов обломков, простиравшихся на несколько световых метров.
минуты или световые часы!
История этого конкретного инцидента впоследствии стала культовым предостережением об опасностях использования инопланетных технологий.
Единственными приемлемыми технологиями были те, которые человечество полностью разобрало, реконструировало и глубоко исследовало.
Общее правило, которому следуют люди в наши дни, заключалось в том, что им разрешалось использовать технологии только в том случае, если люди полностью понимают принципы их работы.
Это было хорошее правило, но Вес не особо старался ему следовать. Технология люминарных кристаллов все еще оставалась для него туманной из-за его неспособности понять инопланетную схему, используемую давно вымершей расой.
«…В заключение, сила не означает автоматически безопасность. Если мы недостаточно понимаем или не контролируем силу, которой владеем, она может легко взорваться нам в лицо. Как бы многие люди из мехсообщества влюбились в нее Несмотря на очевидную силу и потенциал, продемонстрированные популярными продуктами, такими как Fey Fianna и Ultimatum, все они упускают из виду очевидную опасность, которую они представляют для своих владельцев.Каждый живой мех, который вы добавляете в свой список мехов, является еще одной потенциальной бомбой замедленного действия, которая может взорваться в худшие времена».
Независимо от того, было ли предупреждение профессора Шабрана достаточно правдоподобным, его слова все равно напугали многих клиентов!
Когда они покупали и использовали своих живых роботов, они обращали внимание только на все сильные стороны и преимущества своего нового имущества.
Это был первый раз, когда они начали рассматривать своих живых роботов как потенциальную помеху!
Это был настолько мощный сдвиг в менталитете, что он снизил энтузиазм по отношению к продукции Веса!
«Каждый живой механизм основан на форме электронной технологии, которая является новой, но в то же время ужасно дезорганизованной и недостаточно развитой. Авторитетные эксперты, изучавшие наиболее тупые свойства живых роботов, сообщили мне, что живые роботы не имеют существующей основы в установленной науке. Они основаны на совершенно разных принципах, которые берут начало в древних практиках культивирования. человеческая раса — неразумный образ действий!»
Вес поджал губы, но в остальном изо всех сил старался сохранять хладнокровие.
Хотя он мог попытаться вмешаться и прервать импульс оппонента, ему нужно было более тщательно подумать о том, как ему следует противостоять этому ответу.
Ему нужно было победить в этих дебатах, полагаясь как на логику, так и на страсть. Ему было недостаточно полагаться только на одного из них. Ставки были слишком высоки, и его противники наверняка нападут на любую слабость.
Профессор Качук Чабран продолжил развивать свою последнюю мысль. Он потратил много усилий, приравнивая живых роботов к опасным и непостижимым инопланетным технологиям.
Как только модератор наконец дал сигнал об окончании исчерпывающей лекции профессора Чабрана, Вес наконец-то получил свою очередь выступить перед аудиторией.
Когда Вес стоял в центре переговорной ямы, он начал спокойно опровергать аргументы терранского академика.
Сначала ему нужно было отделить своих живых роботов от ИИ.
«Профессор Шабран совершил распространенную ошибку, которую совершили многие другие люди. Я не виню их, поскольку они не понимают мою продукцию так же хорошо, как я. Важно знать, что живые роботы не являются ИИ по одной простой причине. «Первые живы, а вторые лишены жизни. Это важное различие, поскольку живые существа не уязвимы для тех же эксплойтов, которые делают искусственный интеллект столь опасным для использования. Вместо того, чтобы рассматривать мои продукты как роботов-убийц в процессе создания, вы должны относиться к ним как к симбиотическим формам жизни, которые могут помочь нам невероятными способами, если мы будем относиться к ним с тем уважением, которого они заслуживают».
Чтобы проиллюстрировать свою точку зрения, Вес спроецировал исторические изображения древней конной кавалерии.
«В первобытные времена нашей истории мы использовали силу лошадей для достижения превосходного эффекта. Эффективное использование животных, которые не являются людьми, но достаточно надежны, чтобы их можно было использовать в бою, привело к взлету и падению многих ранних человеческих культур. Вся наша история как цивилизация претерпела множество драматических изменений в результате битв, в которых симбиоз человека и лошади привел к решающим победам».
Вес махнул рукой, заменив изображения конной кавалерии гораздо более современными изображениями живых роботов, таких как Фей Фианна.
«Познакомьтесь с боевыми конями 2.0. По сравнению со старомодными лошадьми со Старой Земли, живые роботы намного крупнее, намного мощнее, гораздо более настраиваемы и их гораздо проще обслуживать и ремонтировать. В остальном они могут служить своим наездникам-людям так же хорошо, как и настоящие боевые кони, если не лучше. Никакие слова не могут полностью выразить чудо хорошо налаженного партнерства между живым мехом и пилотом меха. Здесь нет единого ответственного лица. Оба они способны продемонстрировать отличную командную работу, которая позволяет им чтобы сражаться сильнее, реагировать быстрее и дольше выживать на поле боя по сравнению с мехами, которыми управляют только пилоты-одиночки!»
Используя аналогию с кавалерией, Вес изо всех сил старался максимально уменьшить отчуждение между живыми роботами и людьми.
Поскольку в прошлом человечество уже имело успешный опыт партнерства с боевыми конями, оно могло установить аналогичные отношения и с живыми роботами.
«Не бойтесь живых мехов». – рассказал Вес своей аудитории. «Какими бы странными и разными они ни казались на первый взгляд, каждый из них на самом деле довольно нежен и дружелюбен по отношению к людям. Каждый вновь созданный живой мех начинается с чистого листа, который легко запечатлевается в своих первых людях-пользователях. Как только они дорастают до того, что Я называю живых роботов третьего порядка, они должны были пройти столько обучения у своих пилотов-механиков, чтобы стать самыми верными и надежными союзниками своих партнеров-людей!Короче, пока вы можете преодолеть свои первоначальные колебания по поводу использования живого существа в бою вы обнаружите, что сражаться с роботом, который может думать и помогать вам по собственной инициативе, — гораздо более полезный союзник, чем с роботом, который полностью лишен жизни!»
