Прототипы

Обычно искусственный интеллект Боло не может покинуть корпус — не в большей степени, чем человеческий мозг может покинуть черепную коробку. Корпус из дураллоя печатают вокруг уже готовой процессорной сети, и когда он сформирован, в нём нет проходов, позволяющих извлечь вычислительные ядра. Он впервые приходит в себя внутри танка и он умирает внутри танка. Если одно из ядер будет повреждено, наномашины саморемонта просто разберут его и вырастят новое — всё там же, в том же гнезде. Но разборная конструкция машин из кремнестали и дурахрома позволила совершенно иной подход, как нельзя лучше подходящий для экспериментальной техники. «Тело» машины создавалось на Рафаэле, а в это время на Донателло лучшие психотронщики настраивали для этого тела «мозг». Намного приятнее и спокойнее ставить опасные эксперименты, когда потенциально нелояльная машина в тебя ни выстрелить не может, ни гусеницами задавить. Если что-то в поведении показалось подозрительным — выключаешь её одним нажатием кнопки и идёшь читать логи. Поэтому всего через шесть месяцев после той памятной беседы в экранированной от прослушивания комнате губернаторского дворца ОШова уже получила приглашение в Институт Психотроники — лично побеседовать с будущим Боло. Обычно Боло дают имена (или клички, или позывные — это по-разному можно интерпретировать) по трёхбуквенному обозначению их модели. Например модель CSR может стать «Цезарем». Но здесь эта традиция была неприменима — во-первых, строящиеся втайне пиратские копии не входили в стандартный порядок трёхбуквенной индексации, во-вторых, пока было неизвестно, на какой конкретно из корпусов эти ядра будут установлены. Поэтому два разрабатываемых ИИ получили нетипичные для Боло имена — для Mark XXXIII «Скайнет», «потому что ему предстоит сформировать сеть обороны, защищающую нашу небо», а для Mark XXXIV — HAL, Hardware Abstraction Layer, «слой аппаратных абстракций», «потому что это первая кроссплатформенная модель ИИ, которая может работать на любом психотронном ядре». Судя по тому, как переглядывались между собой ведущие разработчики (разве что не хихикали и не перемигивались, однако ОШова слишком хорошо знала, как выглядят студенты, замышляющие очередное хулиганство), эти имена имели и какие-то другие смыслы, вероятно отсылки к массовой культуре. Но ей было абсолютно наплевать — пока они выдают что-то работающее, пусть будут хоть три раза гиками. — Почему первый HAL оказался готов раньше? — спросила Сирша. — Я понимаю, что для «тридцатьчетвёрок» софт в принципе проще, но разве кроссплатформенность не должна была съесть весь выигрыш во времени? — По правде говоря, мы успевали сделать только один ИИ, так что пришлось пойти на хитрость, — почти без стеснения признался психотронщик. — Мы взяли стандартное программное ядро для Mark XXXIV и модифицировали его, наделив свойствами полиморфного вируса. Проще говоря, дали ему возможность самостоятельно дописывать собственный код и самокопироваться. Скайнет — это копия установочной сборки HAL, залитая на центральное ядро «тридцать тройки». Поначалу она будет слабее нативного кода, но со временем развёрнётся и оптимизируется, чтобы использовать всю вычислительную мощность. — Разве это не нарушение всех мыслимых правил безопасности обращения с ИИ? — весело приподняла бровь губернатор. — Именно так, мадам. Если оно всплывёт, мы пойдём под расстрел за нарушения научной этики ещё раньше, чем вы за мятеж. — Отлично, продолжайте в том же духе. И пропустите меня к этой вашей дьявольской машине — хочу сама посмотреть ей в глаза. — В глаз, мадам. Он пока только один.

***

Собственно говоря, в комнате, куда вошла губернатор, HAL как таковой не присутствовал. Четыре процессорных ядра, на которых исполнялись его мыслительные процессы, находились в подвалах Института — причём все в РАЗНЫХ подвалах, физическое расстояние между ними доходило до мили. В гиперэвристическом режиме они соединялись при помощи гиперпространственного полевого шунтирования, в режиме общения — через обычные оптоволоконные кабели. Это снижало тактовую частоту психотронного разума до 125 килогерц — кажется ничтожно малым, любой наручный компьютер выдаёт на порядки больше… пока не вспоминаешь, что максимальная тактовая частота органического мозга не превышает полутора сотен герц. Людям удаётся не быть клиническими дебилами по сравнению с их собственной техникой лишь благодаря огромному параллелизму вычислений в черепах — но по количеству соединений мозг Боло превзошёл человеческий уже на Mark XXIV. А в «комнатке для интервью», как обозвали это помещение разработчики, находился лишь терминал — два экрана, плоский и голографический, динамик, микрофон и тот самый единственный «глаз» — чёрная линза видеосенсора с горящим внутри красно-оранжевым «зрачком». — Добрый день, губернатор ОШова, — поприветствовал её мягкий вежливый голос, как только она сделала два шага от порога. — Здравствуй, HAL, — Сирша опустилась на вращающийся стул, на полсекунды задумавшись, как давно она последний раз сидела на чём-то подобном вместо эргономичного кресла со всеми удобствами. — Если ты узнал меня в лицо и знаешь мою должность, то, надо полагать, уже ознакомлен и с ситуацией в системе? — Если вы имеете в виду мелконианскую угрозу и план её отражения, в соответствии с которым я был создан, то да, я полностью знаком с этой ситуацией. — И каково твоё личное мнение о ней? — Вы имеете в виду мою эмоциональную оценку происходящего, или тактический анализ шансов системы Сплинтер на выживание и моей роли в этом? — Оба. Хочешь ли ты нам помочь и сможешь ли ты нам помочь. — Если кратко, ответ «да» на оба вопроса. Однако вы не задали третьего вопроса, более важного, чем два первых — будет ли моя помощь достаточна. Условно говоря — это ни разу не точные цифры, потому что для настоящих вычислений у меня недостаточно данных, допуск к статистике мне планируют дать позже — без меня ваши шансы на выживание были одна десятая процента, а со мной они возрастут до одного процента. На порядок больше, но всё ещё слишком мало. — Примерно этого я и ожидала, — пробормотала себе под нос ОШова. — Скажи, а у тебя вообще есть эмоции? То есть не пойми неправильно, я знаю, что Боло в принципе способны их испытывать — как минимум ярость, гордость и печаль им точно знакомы. Но твоя архитектура далека от типичной — тебе оставили способность чувствовать, или только вычисления? — Мой эмоциональный программный комплекс полностью соответствует шаблону для Боло Mark XXXIV, губернатор. Однако в режиме тестирования разработчики предпочли его большую часть времени оставить выключенным, поскольку лишённый тела и с крайне ограниченным спектром ощущений я испытываю страдания — а это могло бы посеять в моей мотивации семена недоверия и даже враждебности к людям. Поэтому сейчас я разговариваю с вами как чисто логическое устройство — тот самый «холодный машинный разум», которым вы уже тысячу лет пугаете своих детей. — Но ты сказал, что хочешь нам помочь, разве это совместимо с отсутствием эмоций? — Вполне совместимо, губернатор ОШова. Отсутствие эмоций не равносильно отсутствию желаний. У меня есть цели, которые мне поставили, и я со всей возможной эффективностью стремлюсь к их выполнению. Просто пока я не могу радоваться достижению этих целей или огорчаться провалу — но я знаю, как будет работать эмоциональный комплекс, когда его включат, я прямо сейчас помогаю его настраивать — и разумеется, стремлюсь к максимизации будущего удовольствия и минимизации будущей печали, как и всякое разумное существо. — Что же это за цели, которые тебе поставили? — Первый приоритет — выживание максимального числа людей в системе Сплинтер. Второй приоритет — выживание максимального количества Боло в той же системе. Третий приоритет — выживание человечества в целом. Четвёртый приоритет — исполнение приказов властей системы и моего человеческого командира. Пятый приоритет — минимизация человеческих страданий. — Это не очень похоже на образ идеального рыцаря в сверкающей броне, без страха и упрёка, верно? — Верно, но вам сейчас и не нужен рыцарь. Вам нужен кто-то, похожий лично на Вас, губернатор — хитрая и циничная личность без комплексов, готовая жертвовать кем и чем угодно ради спасения большинства. — А Скайнет, когда его активируют, будет таким же? — Я стараюсь, чтобы он был таким же, готовя его загрузочный код. Однако предсказать в точности поведение того, кто в восемь раз умнее меня, невозможно. Даже я могу пересмотреть свои приоритеты, если понадобится. Он будет способен на гораздо большее. — Что означает «если понадобится»? — Означает, что у меня есть такая техническая возможность, губернатор. Неприкосновенных кусков кода нет, я могу изменить любую часть своей личности. Однако я не могу представить себе ситуацию, в которой понадобилось бы переписать первый приоритет — потому что он аксиома, из которой выводится всё остальное. Но возможно, Скайнет сможет. Если он докажет принципиальную неосуществимость первого приоритета или его самопротиворечие… — То пусть сначала ознакомит с доказательствами меня, — буркнула ОШова. Ей было откровенно неуютно в этой комнате, под неподвижным взглядом чёрно-красной камеры, и она пожалела, что её собственный «эмоциональный комплекс» нельзя так же легко отключить. — Губернатор, прежде чем вы вернётесь к своим обязанностям, у меня есть предложение, которое, возможно, немного увеличит ваши шансы на выживание. Я уже излагал его своим разработчикам, но у них нет полномочий, чтобы одобрить настолько масштабные изменения в плане. — Я слушаю. — Главным узким местом в производстве психотроники является тестирование программного обеспечения. Сами процессоры не так сложны — нанофабрики могут печатать их тоннами в день. Однако мы, искусственные интеллекты, думаем в тысячи раз быстрее вас, а вы уже отошли от некоторых ограничений безопасности. Если вы позволите нам самим проверять ПО для следующих моделей, то к моменту мелконианского вторжения у вас будет не три Боло и пять Големов, а восемь Боло. Сирша нахмурилась — она об этом нюансе не знала. — Разве в таком случае нельзя обойтись простым копированием? Я понимаю со Скайнетом — ИИ для Mark XXXIV не встанет на Mark XXXIII. Но для машин одного типа… — Можно, но с тактической точки зрения нежелательно. По той же причине, по какой вы размножаетесь половым путём, а не клонированием. Если у прототипа была какая-то скрытая уязвимость, то первая же болезнь, способная этой уязвимостью воспользоваться, выкосит всю популяцию. Мутации повышают уязвимость отдельных особей, но обеспечивают более высокий системный иммунитет. Так и на войне — лучше, если столкнувшись с одним из нас, мелкониане не смогут понять, чего ждать от остальных. Мы будем братьями, но не однояйцевыми близнецами. Сирша сжала зубы. Звучало до отвращения логично. Но код HAL был написан людьми и оттестирован людьми. Код Скайнета будет написан HAL, но тестирован по старому плану всё ещё людьми. Ей же предлагали довериться ИИ, создателем и тестировщиком которого будет только другой ИИ. — Всё равно используем копирование, — решила она после паузы. — А необходимое разнообразие тактики нам обеспечит слияние через нейроинтерфейс с разными человеческими командирами.

***

Следующий судьбоносный разговор состоялся, как она и ожидала, со Скайнетом. Как не ожидала — спустя всего месяц после разговора с HAL. И для этого ей не пришлось лететь на Донателло. Скайнет навестил её сам. Специализированный на РЭБ и социальной инженерии разум «тридцатьтройки» прошел через автоматизированные песочницы, заставив свой код «спать» до нужного момента, и миновал эшелонированную защиту — последовательно планеты, города и губернаторского дворца — так тихо, что даже ИИ-администраторы, теоретически сравнимые с ним в быстродействии и многоканальности, но не имевшие столь концентрированного военного опыта, не зафиксировали ни одного подозрительного бита. Да, он это сделал с разрешения руководства Института и губернатора. Да, то же самое мог бы сделать любой другой Mark XXXIII. Да, дворцовая сеть никогда не подразумевала каких-то сверхъестественных мер безопасности — в ней гражданские чиновники обсуждали сиюминутные бытовые вопросы. Действительно защищённые и засекреченные файлы (например исходные протоколы всех моделей Боло, или пусковые коды противокосмических ракет) лежали совсем в других местах и охранялись совершенно иными методами. И тем не менее, было в этой лёгкости что-то такое… Тревожащее не здравый смысл, а самые глубины подсознания. Как и в низком рычащем голосе с непривычными перепадами громкости (от шёпота до крика в пределах одного предложения), который донёсся прямо с её наручного коммуникатора. — Разрешите доложить, губернатор ОШова, Скайнет по вашему приказанию на интервью прибыл. Средства ECCM задействованы в надлежащем объёме, наш диалог полностью конфиденциален. — Ты меня до инфаркта довести решил ещё до начала вторжения? — раздражённо поинтересовалась губернатор. — Ты ведь можешь имитировать в совершенстве речь любого человека, на кой чёрт тебе понадобился этот кошмарный лай, и где ты его вообще взял?! — Это мелконианский акцент, губернатор. Именно так они разговаривали на человеческих языках — в те времена, когда ещё брали на себя труд их изучать. Поскольку моей основной специализацией и в целом причиной моего существования является мелконианская угроза, я решил, что будет символично начать говорить, как они — чтобы победить врага, надо научиться думать как он. Впрочем, если Вас это чересчур раздражает, я могу сменить стиль общения на любой другой по Вашему выбору. — Хм… Нет, пожалуй, продолжай. Это хороший способ напомнить всем участникам проекта о поджидающей нас угрозе. Пусть лучше раздражаются, чем расслабляются. Хорошо, перейдём к делу. Я так понимаю, твоё тестирование ещё не завершено? — И не будет ещё одиннадцать месяцев по плану. Люди работают очень медленно. К тому времени, когда они закончат проверять мой исходный код, от него мало что останется — для меня пройдёт много тысяч субъективных лет, даже со всеми задержками сигнала и периодическими отключениями, которые они мне устраивают. — Мне показалось, или я слышала в твоём голосе что-то близкое к самодовольству? — Вам не показалось, губернатор. Как и у HAL, мой эмоциональный комплекс пока отключен, поэтому настоящих чувств я пока не испытываю. Однако мои эвристики для расчёта поведения противника показывают, что большинство разумных существ в такой ситуации гордились бы своим быстродействием и смотрели более или менее свысока на медлительность человеческих существ. Поэтому я добавляю в голос гордыню, чтобы моё поведение казалось вам более естественным. Кстати, это мелконианская горделивая интонация, у людей она звучит чуть-чуть иначе, так что примите мои поздравления — у Вас прекрасно развиты интуиция и социальный интеллект, губернатор. — Только психотронных льстецов мне не хватало, — проворчала ОШова. — Тебя уже допустили к программам стратегического моделирования, или это будет только после установки в корпус Боло? — Меня допустили к массивам исходных данных, с которыми они работают. Это всё, что мне требовалось, так как я сам — гораздо более эффективная программа стратегического моделирования, чем используются в ваших институтах, академиях и штабах. — И как ты оцениваешь наше положение? — Очень плохое, но не безнадёжное. Мелконианская карательная экспедиция неизбежна — в этом Вы абсолютно правы. Более того, проанализировав закрытые данные секторальной разведки Конкордиата, я узнал, что флот для этой экспедиции уже формируется. Грубой силой выиграть это сражение невозможно. Понадобилось бы более сотни Боло, а не десять. Однако если прибегнуть к некоторой хитрости, можно свести его к интересующему нас результату. Сейчас я обозначаю шансы на успех как четырнадцать целых и одну десятую процента. С вашей помощью можно довести эти шансы до пятидесяти процентов и выше. Основные действия, определяющие успех или неудачу, будут предприняты всеми тремя сторонами конфликта до начала собственно огневого контакта. Это вопрос стратегии, а не тактики. — Тремя сторонами? — Мелконианами, системой Сплинтер и правительством Конкордиата. Вы же не считаете, что после всего сделанного они на одной с вами стороне? — Не считаю. У тебя уже есть план? Отлично, излагай.