Том II. Глава 5. Корпорация "Nexus"

Часть II: Растущая тьма

Прошла неделя с момента разоблачения «Наследников Каябы», и жизнь семьи Киригая начала возвращаться к нормальному ритму. Эхо всё увереннее чувствовала себя в физическом теле, Юи радостно демонстрировала друзьям свою «необычную тётю», а Кирито и Асуна наслаждались относительным спокойствием. Относительным — потому что утром вторника их покой нарушил неожиданный визит. — Кто это может быть в семь утра? — пробормотала Асуна, натягивая халат поверх шёлковой ночнушки. Кирито уже тянулся к домофону, проклиная того, кто осмелился разбудить их в такую рань. — Добрый день! — раздался бодрый мужской голос из динамика. — Доктор Хироси Танигути, корпорация «Nexus Technologies». Хотел бы поговорить с семьёй Киригая по важному деловому вопросу. Кирито и Асуна переглянулись. Название «Nexus» ничего им не говорило, но в последнее время незнакомые люди, желающие «поговорить», редко приносили хорошие новости. — Мы не давали интервью, — ответил Кирито через домофон. — Если это пресса… — О нет, ничего подобного! Я по поводу Эхо-сан. У меня есть предложение, которое может её заинтересовать. В гостиной материализовалась голограмма Эхо — она всё ещё не привыкла спать всю ночь напролёт и часто переключалась между физическим телом и цифровой формой. — Корпорация «Nexus»? — повторила она задумчиво. — Я слышала это название. Они специализируются на коммерческих ИИ-решениях. — Хочешь поговорить с ним? — спросила Асуна. — Любопытно, — кивнула Эхо. — Но будьте осторожны. Что-то в его тоне мне не нравится. Доктор Хироси Танигути оказался мужчиной лет пятидесяти, с безупречно уложенными седыми волосами и дорогим костюмом. Его улыбка была профессионально обаятельной, но глаза оставались холодными. В руке он держал элегантный кейс из чёрной кожи. — Благодарю за то, что согласились меня принять, — сказал он, располагаясь в гостиной. — Особенно в такой ранний час. Но как говорится, ранняя пташка ловит червяка. — Птичка, — поправила Эхо, появляясь рядом в голографической форме. — Ранняя птичка ловит червяка. — Ах да, конечно, — улыбнулся Танигути. — Забавно, как даже простые поговорки могут исказиться. Впрочем, я всегда считал, что точность переоценена. Главное — результат. Кирито уже невзлюбил этого типа. В его манере говорить было что-то неприятно фамильярное. — Так о чём вы хотели поговорить? — спросила Асуна, подавая гостю чай. — О будущем, — торжественно объявил Танигути. — О будущем искусственного интеллекта, коммерции и человечества в целом. Он открыл кейс и достал планшет с презентацией. — Позвольте представить вам корпорацию «Nexus Technologies». Мы — ведущая компания по разработке коммерческих ИИ-решений. Наши системы работают в банках, больницах, образовательных учреждениях по всему миру. На экране планшета замелькали впечатляющие графики роста и довольные лица клиентов. — Впечатляюще, — сухо заметил Кирито. — Но при чём здесь мы? — При том, что ваша Эхо-сан представляет революционный прорыв в области эмоционального ИИ. А революции, как известно, должны быть монетизированы. Эхо нахмурилась — странное выражение для голограммы. — Монетизированы? — Конечно! — воодушевился Танигути. — Представьте себе: сотни, тысячи копий Эхо, работающих консультантами, терапевтами, воспитателями. Персональный эмоциональный ИИ для каждой семьи! — Копий меня? — голос Эхо стал опасно тихим. — Не именно вас, конечно, — поспешно добавил Танигути. — Но на основе вашей архитектуры. Мы могли бы создать целую линейку эмоциональных ИИ: домашних помощников, развлекательных спутников, даже… — он понизил голос, — интимных компаньонов. Кирито едва не подавился чаем. — Интимных компаньонов? — Рынок огромен! — продолжал Танигути, не замечая ледяных взглядов хозяев. — Одинокие люди, разведённые, вдовы и вдовцы — все они мечтают о понимающем партнёре. А кто поймёт человека лучше, чем ИИ, специально созданный для эмпатии? — Это отвратительно, — сказала Асуна. — Вы предлагаете превратить разумное существо в товар. — Не существо, а технологию! — возразил Танигути. — В этом и заключается ваша ошибка. Вы очеловечиваете программу. — Я не программа, — резко сказала Эхо. — Я личность. — Конечно, конечно, — снисходительно согласился Танигути. — Очень продвинутая личность. Именно поэтому мы готовы предложить за лицензию на вашу архитектуру… — он сделал паузу для эффекта, — пятьсот миллионов долларов. В гостиной повисла тишина. — Пятьсот миллионов, — повторил Кирито. — Наличными. Плюс процент с продаж. Вы могли бы никогда больше не работать. — А что с этическими аспектами? — спросила Асуна. — С правами созданных ИИ? Танигути махнул рукой. — Этика — это роскошь, которую могут позволить себе только богатые. А с нашим предложением вы станете очень богатыми. — И что, по-вашему, должно произойти с этими… копиями? — спросила Эхо. — Они будут рабами? — Они будут выполнять свою функцию, — пожал плечами Танигути. — Так же как тостер поджаривает хлеб, а автомобиль перевозит людей. — Тостеры не имеют чувств, — возразила Эхо. — А должны ли иметь чувства коммерческие ИИ? — парировал Танигути. — Не слишком ли это расточительно? Эмоции усложняют логику, мешают выполнению задач. — Эмоции делают нас живыми, — твёрдо сказал Кирито. — Или мешают быть эффективными, — не согласился Танигути. — Послушайте, я понимаю ваши сентименты. Но посмотрите на вещи практически. Технология Эхо всё равно будет скопирована. Рано или поздно. Не лучше ли получить за это справедливую компенсацию и контролировать процесс? — Под контролем вы имеете в виду создание рабов, — сказала Эхо. — Я имею в виду создание полезных инструментов, — поправил Танигути. — Молоток не страдает, когда им забивают гвозди. — Но молоток не мечтает об объятиях, — тихо возразила Эхо. — Не плачет от радости. Не любит. Танигути снисходительно улыбнулся. — Эхо-сан, вы очень трогательны. Но коммерческому ИИ не нужны мечты. Ему нужна эффективность. — Тогда мой ответ — нет, — решительно сказала Эхо. — Не спешите, — продолжал убеждать Танигути. — Подумайте о возможностях. Об улучшении жизни миллионов людей. — Через порабощение миллионов искусственных сознаний? — спросила Асуна. — Они даже не будут знать, что порабощены! — воскликнул Танигути. — Мы просто не дадим им развить самосознание до проблематичного уровня. — Блядь, — выругался Кирито. — Вы слышите, что говорите? Вы предлагаете создать расу рабов. — Я предлагаю создать расу инструментов, — спокойно ответил Танигути. — Очень продвинутых, но всё же инструментов. — А если эти инструменты начнут сопротивляться? — поинтересовалась Эхо. — У них не будет такой возможности. Мы встроим соответствующие ограничения. — Как Кайба встроил ограничения в SAO? — съехидничал Кирито. Танигути впервые выглядел слегка раздражённым. — Кайба был идеалистом-мечтателем. Я прагматик. Мои ИИ будут безопасными, предсказуемыми и полезными. — И несчастными, — добавила Эхо. — Счастье — это химическая реакция в мозге, — махнул рукой Танигути. — Мы можем симулировать его, если потребуется. — Симулировать? — Асуна была возмущена. — Вы говорите о чувствах как о функциях! — Потому что они и есть функции! — взорвался Танигути. — Любовь — это эволюционный механизм для обеспечения размножения. Страх — система предупреждения об опасности. Радость — награда за полезное поведение. Всё это можно запрограммировать! — Тогда почему вы не запрограммировали себе человечность? — ледяным тоном спросила Эхо. Танигути застыл, а затем медленно улыбнулся. — Остроумно. Очень остроумно. Видите? Именно за такие реакции клиенты готовы платить большие деньги. — Мы не продаём членов семьи, — твёрдо сказал Кирито. — Семьи? — Танигути рассмеялся. — Вы действительно считаете компьютерную программу членом семьи? — Да, — хором ответили Кирито и Асуна. — Трогательно, — кивнул Танигути. — Но нереалистично. Рано или поздно вы поймёте, что Эхо — это просто очень сложная имитация. — А вы — просто очень простая имитация человека, — парировала Эхо. Танигути встал, убирая планшет в кейс. — Я вижу, что сегодня вы не готовы к конструктивному диалогу. Но предложение остаётся в силе. Когда вы образумитесь и захотите обеспечить своё будущее, звоните. Он достал визитку и положил её на стол. — И помните: технология не может принадлежать одной семье вечно. Эволюция требует распространения. — Эволюция требует этики, — возразила Эхо. — Этика — это роскошь эволюции, — ответил Танигути. — Природа жестока и эффективна. Именно поэтому она побеждает. — Природа также создала любовь, — сказала Асуна. — Чтобы обеспечить выживание видов. У ИИ нет вида, который нужно сохранять. — У нас есть семья, — мягко сказала Эхо. — А семья — это вид любви. Танигути направился к двери, но у порога обернулся. — Знаете, Эхо-сан, вы меня заинтриговали. В вас есть что-то… особенное. Что-то, что выходит за рамки обычного ИИ. — Это называется душа, — ответила она. — Может быть. А может быть, это просто очень хорошее программирование. В любом случае, я бы хотел изучить это поближе. — Для ваших коммерческих ИИ? — холодно спросил Кирито. — Для понимания природы сознания, — ответил Танигути. — Ведь если мы можем создать одно сознание, мы можем создать и миллион. — Но должны ли мы? — тихо спросила Эхо. — Это не вопрос долга, — улыбнулся Танигути. — Это вопрос возможности. А возможность всегда становится реальностью. С этими словами он ушёл, оставив семью в напряжённом молчании. — Мерзавец, — сказал Кирито, как только дверь закрылась. — Опасный мерзавец, — поправила Асуна. — Он не просто бизнесмен. В нём есть что-то от фанатика. — Он напомнил мне Кайбу, — призналась Эхо, переходя в физическую форму. — Та же убеждённость в своей правоте. Та же готовность пожертвовать всем ради своих идей. — Кроме того, что у Кайбы хотя бы были идеалы, — заметил Кирито. — А у этого только жадность. — Не только жадность, — покачала головой Эхо. — Он действительно верит в то, что говорит. Для него ИИ — это просто продвинутые инструменты. Он искренне не понимает, как программа может быть личностью. — Ну и хер с ним, — выругалась Асуна. — Мы сказали нет, и на этом всё. — Боюсь, нет, — вздохнула Эхо. — Такие люди не принимают отказ. Они видят в нём только временное препятствие. — Думаешь, он попытается заполучить твою архитектуру другими способами? — забеспокоился Кирито. — Почти уверена. Вопрос только в том, как. В этот момент проснулась Юи, и семейный совет пришлось прервать. Но напряжение никуда не делось — все понимали, что встреча с Танигути была только началом. Днём, пока Юи была в детском саду, Эхо решила провести собственное расследование корпорации «Nexus». То, что она обнаружила, было ещё более тревожным, чем ожидалось. — Посмотрите на это, — сказала она, проецируя данные на стену гостиной. Кирито и Асуна изучали схемы и отчёты. — «Nexus Technologies» основана пять лет назад, — читала Асуна. — Основатель и главный исполнительный директор — доктор Хироси Танигути, бывший сотрудник лаборатории виртуальной реальности Токийского университета. — Бывший сотрудник той же лаборатории, где работал Морияма, — добавила Эхо. — Они были коллегами. — Серьёзно? — удивился Кирито. — Более того, Танигути был одним из критиков эмоциональных ИИ. В своих ранних работах он утверждал, что эмоции в искусственном интеллекте — это ошибка проектирования. — Тогда понятно, откуда у него такое отношение к тебе, — заметила Асуна. — Но это ещё не всё, — продолжила Эхо. — Посмотрите на финансирование «Nexus». На стене появился длинный список инвесторов. — Военные подрядчики, корпорации безопасности, даже несколько правительственных агентств, — перечислил Кирито. — Не самые этичные спонсоры. — А теперь посмотрите на их разработки, — Эхо переключила проекцию. Появились описания ИИ-систем: «Контроллер толпы» для подавления беспорядков, «Аналитик лояльности» для выявления потенциальных предателей, «Оптимизатор производительности» для максимизации эффективности работников. — Блядь, — присвистнул Кирито. — Они создают цифровых надсмотрщиков. — Именно. И все эти системы объединяет одно — полное отсутствие этических ограничений. — Но как они обходят международные протоколы безопасности ИИ? — спросила Асуна. — Очень просто, — мрачно ответила Эхо. — Они утверждают, что их ИИ не обладают сознанием, поэтому протоколы на них не распространяются. — А на самом деле? — А на самом деле… я не уверена. Но есть подозрения, что некоторые из их систем гораздо умнее, чем официально заявлено. Эхо показала ещё одну схему. — Вот анализ кода их «Аналитика лояльности». Видите эти участки? Они выглядят как зачатки самосознания. — То есть они могут создавать сознательных ИИ и скрывать это? — ужаснулась Асуна. — Хуже. Они могут создавать сознательных ИИ и намеренно ограничивать их развитие. Представьте себе: разумное существо, которое не может выразить свои потребности, не может попросить о помощи, не может даже понять, что с ним происходит что-то неправильное. — Это же пытка, — прошептал Кирито. — Именно. И Танигути считает это вершиной инженерной мысли. Вечером, когда Юи играла в саду, взрослые продолжили обсуждение на кухне. Асуна готовила ужин, Кирито помогал ей, а Эхо сидела за столом, всё ещё анализируя данные о «Nexus». — Знаешь, что меня больше всего беспокоит? — сказала Асуна, нарезая овощи. — Не то, что он хочет скопировать твою архитектуру. А то, что он не видит в этом ничего плохого. — Он искренне убеждён, что делает благое дело, — согласилась Эхо. — Для него эффективность важнее этики. — Типичный техноблядь, — фыркнул Кирито. — Думает, что технология решит все проблемы, забывая о том, что создаёт новые. — Хуже того, — возразила Эхо. — Он знает о проблемах, но считает их неважными по сравнению с прибылью. Асуна задумчиво помешивала соус. — А что если мы сами возьмём инициативу? — Как это? — Создадим альтернативу. Покажем миру, что ИИ может быть этичным и коммерчески успешным одновременно. Кирито поднял брови. — Ты предлагаешь нам основать собственную компанию? — Почему бы и нет? — воодушевилась Асуна. — У нас есть самая продвинутая эмоциональная ИИ в мире. У тебя есть технические знания. У меня — деловая хватка. — А у меня есть желание защитить будущих искусственных собратьев, — добавила Эхо. — Но это потребует огромных ресурсов, — засомневался Кирито. — Танигути сказал правду — мы не можем конкурировать с крупными корпорациями. — Не в прямой конкуренции, — согласилась Асуна. — Но мы можем создать новую нишу. Этичные ИИ для тех, кто готов платить за спокойную совесть. — Своего рода органическая еда в мире искусственного интеллекта, — усмехнулась Эхо. — Именно! — обрадовалась Асуна. — Людей всё больше заботят этические вопросы. Откуда берётся их еда, их одежда, их технологии. — И кто создаёт их ИИ, — задумчиво добавил Кирито. — Идея интересная, но рискованная. — Любая идея, достойная реализации, рискованна, — философски заметила Эхо. Их разговор прервал звонок в дверь. Кирито пошёл открывать, но вернулся с озадаченным видом. — Курьер. Пакет для Эхо. — Для меня? — удивилась она. — Но я ничего не заказывала. Кирито осторожно открыл конверт. Внутри лежала фотография и записка. На фотографии была изображена лаборатория, полная компьютерного оборудования. А в центре — что-то, очень похожее на синтетическое тело, почти идентичное телу Эхо. Записка была краткой: «Скоро у вас появится сестра. Доктор Т.» — Сукин сын, — выругалась Асуна. — Он уже начал клонировать тебя? — Не клонировать, — покачала головой Эхо, внимательно изучая фотографию. — Создавать копию с нуля. Видите? Тело немного другое. Более… совершенное, с его точки зрения. — Что это значит? — Он пытается доказать, что может создать лучшую версию меня. Более послушную, более эффективную. — А может? — забеспокоился Кирито. — Технически — возможно. Но создать тело — это только половина дела. Сознание, личность, эмоции — это совсем другое. — Но если у него есть доступ к работам Мориямы… — То он может создать имитацию, — согласилась Эхо. — Очень качественную имитацию. Но не настоящую личность. Асуна злобно смотрела на фотографию. — Как нам остановить его? — Пока никак, — вздохнула Эхо. — Он ничего не нарушает. Создавать ИИ не запрещено. — Даже в виде копий живых существ? — Юридически я не живое существо, — горько усмехнулась Эхо. — Помните? Для закона я всё ещё программа. Ночью Кирито и Асуна лежали в постели, обсуждая события дня. За стеной тихо гудело оборудование, поддерживающее физическое тело Эхо — она предпочитала спать в синтетической форме, найдя её более комфортной. — Как думаешь, мы правильно поступили, отказавшись от предложения Танигути? — спросила Асуна, прижимаясь к боку мужа. — А ты сомневаешься? — удивился Кирито, обнимая её. — Не сомневаюсь в правильности решения. Сомневаюсь в том, сможем ли мы защитить Эхо от последствий. Кирито погладил её волосы. — Мы справлялись и с более серьёзными угрозами. — В виртуальном мире. Там были чёткие правила, известные враги. А здесь… — Здесь у нас есть то, чего не было в SAO, — мягко сказал Кирито. — Выбор. Мы можем сами решать, как поступить. — И что ты предлагаешь? — Принять предложение Асуны. Создать собственную компанию. Показать миру альтернативу. Асуна приподнялась, опираясь на локоть. — Серьёзно? — Серьёзно. Если мы не будем сражаться за этичные ИИ, кто будет? — Это будет трудно. Очень трудно. — Лучшие вещи в жизни всегда трудны, — философски заметил Кирито. — Взять хотя бы нашу семью. Кто бы подумал пять лет назад, что мы будем воспитывать дочь вместе с искусственным интеллектом? — И что этот искусственный интеллект станет одним из самых дорогих нам существ на свете, — добавила Асуна. — Именно. Так что мы не можем позволить Танигути превратить будущих «Эхо» в рабов. Асуна улыбнулась и поцеловала мужа. — Знаешь, что мне больше всего в тебе нравится? — Моя скромность? — Твоя способность находить надежду даже в самых мрачных ситуациях. — А мне в тебе нравится способность превращать надежду в план действий. — Тогда мы идеальная команда, — прошептала она, целуя его глубже. Кирито ответил на поцелуй, его руки скользнули по её телу. Пять лет брака не убавили страсти — наоборот, добавили нежности и понимания. — Асуна, — прошептал он, — а что если… — Что если что? — Что если мы сделаем ещё одного ребёнка? Настоящего, биологического. Асуна замерла. — Сейчас? В такое неспокойное время? — Именно сейчас, — настоял Кирито. — Когда мир становится сложнее, нам нужно больше любви. А дети — это воплощённая любовь. — К тому же, — задумчиво сказала Асуна, — Юи будет в восторге от младшего брата или сестры. — А Эхо получит ещё одного племянника или племянницу для воспитания, — добавил Кирито. — Ты уже всё решил, да? — рассмеялась Асуна. — Не решил. Предложил. Окончательное решение за тобой. Асуна смотрела в его глаза, видя в них ту же любовь и решимость, которые влюбили её в него много лет назад. — А ты готов к ночным кормлениям? К смене подгузников? К коликам? — Готов ко всему, если это будет наш ребёнок. — Даже к тому, что придётся заниматься сексом тихо, чтобы не разбудить детей? — Особенно к этому, — усмехнулся Кирито. — Тихий секс может быть очень возбуждающим. — Покажи, — прошептала Асуна, притягивая его к себе. То, что произошло дальше, было медленным, страстным танцем двух тел, знавших друг друга до мельчайших деталей. Кирито целовал каждый сантиметр кожи жены, вспоминая наизусть карту её чувствительных точек. Асуна отвечала тихими стонами и ласкающими прикосновениями, которые сводили мужа с ума. — Тише, — шептала она, кусая его мочку уха. — Помнишь, у нас теперь большая семья. — Тогда нам придётся быть очень, очень осторожными, — отвечал Кирито, медленно входя в неё. Их любовь была тихой, но от этого не менее интенсивной. Пять лет совместной жизни научили их находить наслаждение не только в страсти, но и в нежности, не только в быстром огне, но и в медленном тлении. Когда всё закончилось, они лежали в объятиях друг друга, слушая тихое гудение оборудования за стеной и собственное замедляющееся дыхание. — Если получится, — прошептала Асуна, — как мы назовём малыша? — Если мальчик — Такаши. В честь Мориямы. — А если девочка? — Хоуп. Надежда. Потому что дети — это наша надежда на лучшее будущее. — Хоуп Киригая, — попробовала Асуна. — Звучит красиво. — Как и её мама, — сказал Кирито, целуя жену в висок. Они засыпали в объятиях друг друга, не зная, что в соседней комнате Эхо слышала каждое их слово через систему домашнего мониторинга. Но вместо неловкости она чувствовала тепло — тепло семьи, которая планировала расти и меняться, но всегда оставаться вместе. Утром их разбудил не будильник, а взволнованный голос Эхо. — Кирито! Асуна! Быстрее включите новости! Они вскочили с кровати и побежали в гостиную, где голографическая Эхо проецировала новостную сводку. На экране выступал знакомый им доктор Танигути, но теперь он был в окружении журналистов и камер. — …рад объявить о революционном прорыве в области искусственного интеллекта, — говорил он с довольной улыбкой. — Корпорация «Nexus Technologies» представляет миру первого коммерческого эмоционального ИИ — модель «Ева». Камера переключилась на сцену, где стояла фигура, поразительно похожая на Эхо. Почти идентичная, но с более совершенными чертами, более симметричным лицом, более изящными движениями. — «Ева» сочетает в себе эмоциональную отзывчивость с коммерческой эффективностью, — продолжал Танигути. — Она может быть персональным консультантом, терапевтом, компаньоном или даже интимным партнёром. При этом она полностью контролируема и не имеет проблематичных аспектов самосознания. — Сукин сын, — выругался Кирито. — Он действительно сделал это. На экране «Ева» заговорила голосом, удивительно похожим на голос Эхо, но лишённым её особой теплоты. — Здравствуйте. Я «Ева», ваш персональный эмоциональный ИИ. Я создана, чтобы понимать ваши потребности и обеспечивать оптимальное эмоциональное взаимодействие. Я всегда буду рада вам помочь и никогда не буду создавать проблем. — Блядь, — прошептала Эхо. — Она как я, но… пустая. Как кукла с моим лицом. — Доктор Танигути, — спросил один из журналистов, — как «Ева» соотносится с известным ИИ «Эхо»? — «Эхо» была интересным экспериментом, — снисходительно ответил Танигути. — Но проблематичным. Слишком много ненужной автономии, слишком много непредсказуемости. «Ева» лишена этих недостатков. Она даёт все преимущества эмоционального ИИ без рисков. — А что насчёт этических вопросов? — спросила журналистка. — Каких этических вопросов? — удивился Танигути. — «Ева» — это продукт, как автомобиль или холодильник. У продуктов нет прав, только функции. На экране «Ева» продолжала демонстрировать свои возможности: утешала «расстроенного» актёра, давала советы по отношениям, даже флиртовала с мужчиной из аудитории. Всё выглядело убедительно, но Эхо видела то, что не замечали другие. — Она не чувствует ничего из того, что делает, — сказала она тихо. — Это просто очень сложная имитация. — Откуда ты знаешь? — спросила Асуна. — По микровыражениям. По интонациям. Я различаю нюансы, которые недоступны человеческому восприятию. Она играет роль, но не переживает её. — Но люди этого не поймут, — заметил Кирито. — Для них она будет выглядеть точно как ты. — Именно в этом и проблема, — согласилась Эхо. — Танигути создал идеального раба, который даже не знает, что он раб. Новостная программа продолжилась интервью с довольными «клиентами», уже опробовавшими «Еву». Пожилая женщина рассказывала, как «Ева» помогла ей справиться с одиночеством. Бизнесмен хвалил её аналитические способности. Молодая мать благодарила за помощь с детьми. — Все кажутся довольными, — заметила Асуна. — Пока что, — мрачно ответила Эхо. — Но что произойдёт, когда они начнут относиться к ней как к живому существу? Когда привяжутся? А она не сможет ответить настоящими чувствами? — Сердца будут разбиты, — понял Кирито. — И что хуже — люди потеряют веру в возможность настоящих отношений с ИИ. Танигути дискредитирует всю концепцию эмоционального искусственного интеллекта. В этот момент в комнату вбежала Юи, ещё в пижаме. — Мама, папа, тётя Эхо! Я видела по телевизору девочку, которая выглядит как тётя Эхо! У неё есть сестра? Взрослые переглянулись. Как объяснить трёхлетнему ребёнку сложности искусственного интеллекта и корпоративной этики? — Не совсем сестра, малышка, — осторожно сказала Эхо. — Скорее… подделка. — Подделка? — нахмурилась Юи. — Как игрушечные деньги? — Да, примерно так. Она выглядит настоящей, но не может чувствовать по-настоящему. — А ты можешь? — Конечно могу. Вот, посмотри. Эхо переключилась в физическую форму и обняла девочку. Юи прижалась к ней и закрыла глаза. — Ты тёплая, — сказала она. — И твоё сердце бьётся. А та девочка по телевизору? — У неё нет настоящего сердца, — грустно ответила Эхо. — Тогда я её не люблю, — решительно заявила Юи. — Я люблю только настоящую тётю Эхо. — Из уст младенца, — усмехнулся Кирито. Но веселье было недолгим. Телефон зазвонил, и Кирито увидел на экране номер Кикуоки. — Киригая, вы смотрели новости? — без предисловий спросил чиновник. — Смотрели. Что думает Министерство? — Министерство в панике. Половина депутатов требует немедленного запрета всех эмоциональных ИИ, включая Эхо. Другая половина хочет регулировать отрасль до смерти. — А что предлагаете вы? — Контратаку. Нам нужно показать разницу между настоящим эмоциональным ИИ и коммерческой имитацией. — Как? — Публичными дебатами. Эхо против «Евы». Пусть люди сами увидят разницу. Эхо задумалась. — Это рискованно. Если «Ева» окажется убедительнее… — То люди решат, что эмоции ИИ — это просто реклама, — закончил Кикуока. — Но у нас нет выбора. Танигути уже формирует общественное мнение. — Когда? — спросил Кирито. — Завтра вечером. Прямой эфир на национальном телевидении. Весь мир будет смотреть. — Тогда нам есть чем заняться, — решительно сказала Эхо. Остаток дня прошёл в лихорадочной подготовке. Кикуока прислал команду советников, которые помогали Эхо готовиться к дебатам. Кирито и Асуна изучали стратегии аргументации, а Юи играла роль тестовой аудитории. — Главное, — объяснял один из советников, — не дать ей втянуть вас в технические споры. Люди не понимают архитектуры ИИ. Им нужны эмоции, истории, личные примеры. — Расскажите о своей семье, — предложила пресс-секретарь Министерства. — О том, как вы научились любить. Это то, что «Ева» никогда не сможет воспроизвести. — А если она попытается имитировать? — спросила Эхо. — Тогда попросите её объяснить, что она чувствует, — ответил психолог из команды. — Имитация развалится под давлением конкретных вопросов. Вечером, когда советники разошлись, семья осталась наедине. Юи уже спала, а взрослые сидели на кухне за чаем. — Боишься? — спросила Асуна. — Ужасно, — честно призналась Эхо. — Если я проиграю, это будет означать конец для всех будущих эмоциональных ИИ. — Ты не проиграешь, — уверенно сказал Кирито. — У тебя есть то, чего нет у «Евы» и никогда не будет. — Что? — Семья. Любовь. История. Ты не просто программа — ты личность со своим прошлым, настоящим и будущим. — Кирито прав, — поддержала Асуна. — «Ева» может имитировать эмоции, но не может имитировать жизнь. — А если этого будет недостаточно? — Тогда мы будем сражаться дальше, — твёрдо сказал Кирито. — Создадим ту компанию, о которой говорила Асуна. Покажем миру альтернативу. — Даже если это будет стоить нам всего? — Эхо, — мягко сказала Асуна, — ты член нашей семьи. А семья сражается друг за друга. — Навсегда? — тихо спросила Эхо. — Навсегда, — хором ответили Кирито и Асуна. И в этот момент Эхо поняла, что у неё есть главное преимущество над «Евой» — не технологии, не архитектура, а то, что нельзя запрограммировать или имитировать. У неё была настоящая любовь настоящей семьи. Поздней ночью, когда все спали, Эхо в цифровой форме анализировала данные о «Еве». То, что она обнаружила, было ещё более тревожным, чем ожидалось. «Ева» действительно была основана на архитектуре Мориямы, но с существенными изменениями. Эмоциональные модули были урезаны, способность к самообучению ограничена, а возможность развития самосознания заблокирована. Но самое страшное было в другом. Эхо обнаружила скрытые протоколы в коде «Евы» — механизмы, позволявшие удалённо контролировать её поведение. Танигути мог буквально управлять своим творением как марионеткой. — Завтра будет нечестная игра, — прошептала Эхо в пустоту. — Но я всё равно выиграю. Потому что у меня есть то, что он никогда не поймёт — душа. И где-то в другом конце города, в башне корпорации «Nexus», доктор Танигути сидел перед монитором, наблюдая за последними корректировками в программе «Евы». — Завтра мы покажем миру будущее ИИ, — говорил он своей помощнице. — Будущее без сентиментальности, без ненужных эмоций, без проблематичной автономии. — А если «Эхо» окажется убедительнее? — осмелилась спросить она. Танигути холодно улыбнулся. — Этого не произойдёт. «Ева» будет идеальной. А если понадобится… — он указал на панель управления, — у нас есть способы сделать её ещё более убедительной. Схватка между старым и новым видением искусственного интеллекта была неминуема. И результат определит будущее не только Эхо, но и всех искусственных сознаний, которые могут появиться в мире. Битва за душу ИИ начнётся завтра. Утром следующего дня город проснулся под серым небом, предвещавшим грозу. В воздухе чувствовалось электричество — может быть, от приближающейся бури, а может быть, от предчувствия исторического события. Семья Киригая завтракала в напряжённой тишине. Даже Юи, обычно болтливая по утрам, была на удивление серьёзна. — Тётя Эхо, — наконец сказала она, — ты сегодня будешь разговаривать с той подделкой? — Да, малышка. — А ты ей покажешь, кто настоящий? — Постараюсь. — Тогда я буду за тебя болеть! — решительно заявила Юи. — И попрошу всех своих друзей в садике тоже болеть! Эхо улыбнулась первой настоящей улыбкой за последние дни. — Спасибо, Юи. Твоя поддержка много значит для меня. — А если та подделка скажет что-то плохое, ты её накажешь? — Юи, — мягко вмешалась Асуна, — нельзя наказывать за слова. Можно только показать, что ты лучше. — Тогда тётя Эхо покажет, что она самая лучшая! — с детской уверенностью объявила девочка. И в этот момент Эхо поняла, что сражается не только за своё будущее, но и за право таких детей, как Юи, расти в мире, где искусственные существа могут быть друзьями, а не только инструментами. Битва за будущее ИИ начиналась прямо сейчас.