Стало ясно, что Майкел не слишком задумывался о том, что он делает. Вес разочарованно покачал головой.
«Почему мы существуем? Какова цель дизайнеров мехов?»
«Конструкторы мехов существуют для того, чтобы обслуживать пилотов мехов». Майкел повел себя как послушный ученик.
«Тогда почему ты не пытаешься это сделать?»
«Я думаю об этом! Мне просто нужно изучить как можно больше соответствующих знаний, прежде чем я смогу начать правильно!»
«Ты думаешь не в том направлении, в котором я хочу, чтобы ты думал». Вес нахмурился и наклонился вперед. «Ты знаешь поговорку, но действительно ли ты следуешь этому вероучению или просто на словах ему веришь? Причина, по которой конструкторам мехов не нравится слишком углубляться в системы искусственного интеллекта, заключается в том, что многое из этого противоречит духу того, что мы стремимся делать. Хотя это хорошая идея-автоматизировать множество мелких и мельчайших функций для чего-то такого большого, как регулирование температуры, до чего-то такого малого, как выполнение микронастройки напряжения на процессорном чипе, все это направлено на снижение рабочей нагрузки на пилота меха. Ни один человек не может контролировать миллионы различных мелких параметров одновременно».
«Я тоже пытаюсь это сделать, учитель! Роботу всегда нужно помогать управлять всеми своими системами. То, что я намерен реализовать, как раз и предназначено для того, чтобы помочь пилотам роботов лучше сражаться! Два разума лучше, чем один, и если мех заметит приближающуюся угрозу, я могу позволить ему отреагировать до того, как пилот меха осознает это. Эта критическая разница во времени реакции от нескольких миллисекунд до нескольких секунд может означать разницу между жизнью и смертью!»
Вес глубоко вздохнул и прижал пальцы ко лбу.
«Я понимаю, о чем ты говоришь. Ваши намерения благи, но задумывались ли вы когда-нибудь о более широких последствиях выбранного вами направления? Например, в описанном вами сценарии, что делать, если робот хочет уйти от опасности, но пилот меха настаивает на том, чтобы придерживаться своего курса, чтобы уничтожить стратегическую цель или победить угрожающего противника? Кто в этом случае возьмет первенство?»
«Эм … я бы запрограммировал алгоритм, который динамически взвешивал бы стоимость и выгоду вмешательства».
«Итак, вы готовы позволить машине определить, стоит ли человеку принимать решение пожертвовать своей жизнью ради высшего блага? Как далеко вы установите порог? Если он слишком низкий, ваша система бессмысленна. Если он слишком высок, то будет слишком много случаев, когда робот захватил управление, когда это явно нежелательно».
«Я разрешил бы меху действовать только в том случае, если пилот меха согласен!»
«Соглашение требует размышлений! Вы только что нарисовали сценарий, в котором каждая миллисекунда времени реакции имеет решающее значение. Если вы подождете, пока пилот робота примет решение, то преимущество во времени почти полностью сведется на нет. Пилоту было бы лучше действовать самому!»
Было так много дилемм и других проблем, связанных с тем, чтобы позволить мехам контролироваться активными ИИ, что этого по праву избегали в индустрии мехов. Пилотов боевых роботов никогда не следует отдавать на милость бессердечных, бесчувственных алгоритмов, которые принимают решения о жизни и смерти, основанные на холодной логике.
Майкел выглядел обеспокоенным, что означало, что он недостаточно обдумал эти глубокие и трудные дилеммы. Возможно, он уже знал о них, но не думал, что ему нужно отвечать на них на этом раннем этапе.
«Вам нужно понять контекст, лежащий в основе ИИ, и их более широкие последствия, связанные с роботами, прежде чем вы сможете пойти дальше». Вес посоветовал. «Вам не пойдет на пользу, если вы начнете разрабатывать мехи с повышенной автоматизацией, если вы даже не знаете, что это будет значить для ваших собственных клиентов и заказчиков. Я не говорю, что ваша философия дизайна неверна, но вам нужно применять ее таким образом, чтобы она соответствовала нашей цели. Признаете ли вы свою ошибку?»
«Я … я думаю, что знаю». Ответил младший Ларкинсон. «Я слишком много думал о том, чтобы сделать моих роботов сильнее и эффективнее в бою, не принимая во внимание пилота», —
«Да, вы сосредоточились на машине в изоляции. Ваш подход также предполагает, что пилоты мехов либо некомпетентны, либо допускают ошибки, которые должны быть компенсированы их интеллектуальными мехами. Хотя я не возражаю против идеи иметь под рукой искусственный интеллект, который может помочь пилоту выжить, как вы думаете, что произойдет, если этот подход будет принят в более широком масштабе? Представьте себе время, когда вам удалось реализовать свою философию дизайна и популяризировать свою философию дизайна. Будет ли пилотам мехов лучше в этом гипотетическом будущем?»
Майкел глубоко задумался над этим. Хотя он фантазировал об этом раньше, Вес уже намекал на негативные последствия своего пути.
«Общий пакет должен быть сильнее». Он медленно произнес. «Это то, к чему я стремлюсь. В то время как мех, несомненно, сильнее, я не уверен, что пилот меха также выигрывает.»
«Ты знаешь, что я думаю?» Вес постучал пальцем по рабочему столу. «Все это держание за руки в конечном счете сделает пилотов роботов слабее. Это связано с тем, что ИИ, которые вы ищете, которые вы добавляете в свои проекты роботов, в основном являются реактивными. Они функционируют как система безопасности для пилотов мехов. Если последний упадет, искусственный интеллект всегда будет рядом, чтобы поймать их. В краткосрочной перспективе это действительно может спасти много жизней, но как насчет долгосрочной перспективы?»
«Я думаю… если пилоты боевых роботов не пострадают от последствий своих ошибок, они будут продолжать делать это». Майкел неохотно признал. «Если молодые пилоты боевых роботов увидят, что старшие пилоты боевых роботов становятся небрежными только для того, чтобы их мехи выручили их, то следующее поколение не будет тратить столько усилий на обучение навыкам, которые имеют отношение к этим инцидентам».
«Наконец-то ты понял», — улыбнулся Вес. «Вы можете спорить о том, подходит ли все дело в мехах и их пригодности в качестве оружейной платформы или нет. Однако, как только вы решите стать дизайнером мехов, вы должны вступить в брак с концепцией. Это нормально-повозиться с этим и придать всей идее свой собственный оттенок. Это то, что я делаю, пытаясь сделать своих роботов живыми и изменить отношения между роботами и пилотами роботов. Однако я никогда не пытался подорвать фундаментальный принцип, согласно которому пилоты мехов всегда должны быть в центре внимания и что люди всегда должны контролировать свои собственные технологии. Что вам нужно сделать, так это найти способ согласовать свои цели с теми же принципами».
«Я вижу… Я думаю, мне нужно пересмотреть весь свой подход». — сказал Майкел со смущенным выражением лица.
Вес протянул руку и похлопал младшего Ларкинсона по плечу. «Эй, все в порядке. Вы совершили ошибку, которую совершает каждый конструктор и инженер мехов. Это довольно увлекательно-быть вовлеченным во все науки и технологии. Правильное использование их открывает множество возможностей. Опасность заключается в том, что вы можете слишком погрузиться в свой собственный маленький мир и забыть, что продукты также должны приносить пользу своей целевой аудитории».
Проектирование мехов было работой. Конструкторы мехов зарабатывали себе на жизнь тем, что каким-то образом приносили пользу обществу. Те, кто упустил этот основной момент, просто не были квалифицированы для того, чтобы стать Подмастерьем.
Если бы Майкел был просто случайным помощником дизайнера мехов, то Вес просто позволил бы своему ученику выучить этот урок самостоятельно или вообще не делать этого. Тем не менее, студент-конструктор мехов потенциально мог бы оказать большую поддержку в будущем, поэтому стоило потратить некоторое время, чтобы подтолкнуть его в правильном направлении.
Конечно, Вес также понимал, что его попытка удержать разработку Майкела может также привести к тому, что начинающий конструктор роботов начнет зависеть от внешнего руководства.
Это была сложная часть обучения студентов. Существовали некоторые школьные системы, которые ориентировались только на результаты и предоставляли своим ученикам чрезмерное количество рекомендаций и инструкций.
Это привело к тому, что неподготовленные выпускники поступили на работу, даже не научившись вытирать собственные задницы! Им постоянно приходилось просить своих менеджеров и супервайзеров вытирать вместо них!
Вес не хотел превращать Майкела и Зантара в зависимых цыпочек, которые постоянно просили его о помощи при каждой возможности. Им нужно было научиться решать свои собственные проблемы и найти мотивацию для того, чтобы преодолевать более трудные, утомительные и неприятные аспекты своей профессии.
До тех пор, пока они смогут делать это так, как это сделал Кетис, они, несомненно, смогут прийти в себя. Он все еще возлагал на них большие надежды, несмотря на свои различные опасения.
Как только Вес закончил давать Майкелю более подробные указания по нескольким техническим предметам, он оставил студента в покое и окинул взглядом остальную часть лаборатории дизайна.
Около 150 помощников конструктора мехов спокойно работали над множеством разных задач, связанных с проектом «Химера» и проектом «Оплот».
Отдел дизайна приберег напоследок лучшие и самые сложные экспертные проекты по дизайну мехов.
Проект «Химера» и без того был довольно сложным из-за того, что основывался на каркасе робота-героя. Добавление смонтированного боевого снаряжения почти удвоило рабочую нагрузку, необходимую для разработки всего пакета.
С другой стороны, проект «Оплот» был одним здоровенным опытным мехом, на разработку и оптимизацию которого, естественно, ушло гораздо больше времени. Головные боли, связанные с этим проектом, резко усилились, когда конструкторам мехов пришлось учитывать, что это должно было быть обновление до существующего, низшего меха.
Вес не был уверен, потребуется ли три или четыре месяца для завершения обоих проектов, несмотря на весь существенный прогресс, достигнутый в предыдущие месяцы. Эти два проекта были действительно намного более требовательными, чем предыдущие четыре экспертных проекта по дизайну мехов.
«Но это того стоит».
Количество часов, потраченных на проектирование меха, не было показателем его производительности. Тем не менее, он уже мог представить, что любой из них затмевает остальных из-за большей массы и особенностей, чем более простые и худощавые опытные мехи.
«Конечно, их дизайнерские бюджеты также намного более экстравагантны».
Вес даже не хотел смотреть прогнозируемые затраты на оба проекта. Даже когда он исключил оценку денежной стоимости Бесконечного сплава, конструкторы мехов уже заложили огромное количество дорогих, высококачественных модулей в проектируемые конструкции.
Приведет ли добавленная стоимость к пропорциональному увеличению производительности двух мехов? Определенно нет. Стоило ли оно того? Да!
«Если мы опустим переменную «шедевр», то весьма вероятно, что любой из двух оставшихся проектов станет жемчужиной этого дизайнерского раунда».
Темный Зефир был прекрасным опытным стрелком, но его ограниченный размер не давал конструкторам мехов много места для выражения своего творчества.
Амаранто определенно превзошел все ожидания. До тех пор, пока он оставался единственным специалистом по мастерству из текущей партии, он вполне может удержать свою корону.
Только что завершенный проект «Авангард» был исправным экспертным мехом, который, безусловно, имел свое место в линейке мехов клана Ларкинсонов, но он проявил мало признаков блеска.
«Единственный другой опытный мех, который может превзойти остальных, — это проект «Обезглавливатель».
Опытный дизайн меха был окутан большой неопределенностью. Вес не понимала философию дизайна Кетис и не могла определить, насколько мощным будет ее вклад. У него не было никакого хорошего справочного материала для обоснования своих оценок, так как это был ее первый настоящий дизайн меха для фехтовальщика.
Он также не смог определить последствия проведения массового ритуала при изготовлении проекта Обезглавливания. Стоило попробовать посмотреть, помогло ли это в создании лучшего опытного меха, но Вес не был уверен, даст ли это желаемый эффект.
«Кто знает, что произойдет, если мы соберем вместе много восторженных Фехтовальщиц и Служителей Небес».
