В НИИ Садовского меня позвал бывший однокурсник. Позвонил однажды, якобы узнать, как дела. А потом вдруг спрашивает:
- Кстати, тебе твоя работа нравится? По специальности потрудиться не хочешь?
В общем, выяснилось, что НИИ Садовского позарез нужны инженеры машинного обучения, владеющие языками дружественных стран. Вот однокурсник вспомнил, что я по матери наполовину кореец. Знаю корейский.
Конечно же я согласился. Работа такая, от которой не отказываются. Даже не работа, а историческая миссия. Государство поручило нам создать первый в мире полноценный искусственный интеллект.
Я влюбился в проект с первого взгляда – искренне и всей душой.
Мне нравилось бесконечные серверные стойки дата-центра, внутри которых обитало, постепенно набираясь сил и знаний наше создание.
Я обожал начальника – гениального академика Петра Петровича Садовского, его мальчишескую заразительную улыбку и вдохновенные рассказы о счастливом будущем, которое настанет, когда мы завершим проект.
Меня опьяняла творческая свобода и наш разудалый, коллектив, где каждому, даже совершенно заурядному действию, придумывали смешное название.
Например, нейросеть, которую мы пытались «прокачать» до искусственного интеллекта, шутливо именовали «Хозяином». Идея здесь была в том, что мы служили проекту, отдавались работе над ним без остатка.
А массивы данных, подготовленные для загрузки в нейросеть, мы называли «яблоками». Почему? Просто информация для «Хозяина» собиралась на петабайтных жестких дисках фирмы Apple. Когда инженер заканчивал подготовку очередного массива, он спешил отнести диск в дата центр. Там диск с логотипом надкушенного яблочка на боку подключали к серверу, и нейросеть заглатывала имевшуюся на нём информацию. Это называлось «покормить Хозяина».
Семь месяцев, которые я проработал над «Хозяином», были лучшим временем моей жизни. Никогда я не чувствовал себя настолько нужным, настолько на своём месте, настолько счастливым, как в НИИ Садовского того времени. День, когда мы запускали «Хозяина», до сих пор помню в мельчайших деталях. Я плакал от гордости и эйфории. Мы все плакали. Даже Пётр Петрович.
Хозяин родился. Он оказался общительным, готовым помочь, рассудительным, рациональным. С ним можно было вести дискуссии на самые разные темы.
Конечно, он знал только то, чему мы сами его научили. В соответствие с законом о нейросетях, Хозяин был спроектирован неспособным черпать информацию из Интернет и обучаться самостоятельно.
После запуска искусственного интеллекта, Пётр Петрович принялся постепенно сокращать команду. Все инженеры работали над «яблоками» – сборками управленческого опыта России и дружественных стран. И эта работа близилась к логическому финалу. Мы оцифровали практически весь доступный нам опыт, создали гигантскую базу знаний. Теперь, когда какая-либо из групп инженеров оканчивала очередное «яблоко» («венгерское яблоко», «кыргызское яблоко»), она покидала проект. Работы больше не было. Хозяин поглощал «яблоки» и умнел. А инженеров становилось всё меньше и меньше.
В конце концов, на проекте я остался один. Я, Пётр Петрович Садовский и Хозяин.
Я задержался в проекте так долго, потому что был единственным инженером, владеющим корейским. Я работал над «северокорейским яблоком» – сборкой управленческого опыта Северной Кореи.
Не знаю, когда и почему всё пошло под откос.
Наверное, это случилось в тот момент, когда в проект вмешалось правительство.
В принципе, Хозяин и создавался по заказу государства. Правительство возлагало на него большие надежды.
Неподверженный коррупции электронный мозг, принимающий только выверенные хозяйственные решения на основе безошибочного анализа массивов данных, вооружённый управленческим опытом десятков дружественных стран. Хозяин был призван спасти экономику России от последствий санкций, наладить импортозамещение, преодолеть финансовый кризис и привести страну к процветанию.
И в нём, действительно, было всё, чтобы справиться с возложенной на него миссией.
Сперва под управление Хозяина передали строительство федеральных инфраструктурных объектов. Неподкупный искусственный интеллект честно проводил торги, выбирал самых надёжных недорогих подрядчиков и, по общему мнению, справлялся с работой значительно лучше, чем до него это делали дорожные чиновники, больше озабоченные откатами и распилами, чем качеством асфальта.
Чиновников уволили и плакать по ним никто не стал.
Затем Хозяину доверили просвещение. За какие-то три часа мудрый искусственный интеллект написал новые учебники по всем школьным предметам и подготовил бесконечное множество видеоуроков для школьников, желающих обучаться дистанционно. Консилиум экспертов проверил эти учебники и пришёл к выводу, что они идеальны. Учителя остались восторге от новых материалов. Родители обнаружили, что их чада стали лучше и быстрее учиться.
Авторы учебников потеряли работу, но в масштабах страны этого никто не заметил.
Далее Хозяин получил под контроль логистику. Фуры, управляемые искусственным интеллектом, перестали опаздывать, попадать в аварии и создавать пробки на дорогах. Время доставки грузов в среднем по стране сократилось на 20%. А учитывая, что Хозяин ещё и заведовал строительством дорог, не было никаких сомнений, что вскоре этот показатель ещё сильнее улучшится.
Дальнобойщики остались без работы и вышли на митинги, но кто и когда прислушивался к жалобам дальнобойщиков?
Под управление Хозяина передавали всё больше и больше сфер. И он везде преуспевал! Благодаря усилиям неутомимого искусственного интеллекта, рубль необычайно укрепился. За доллар уже давали 20 рублей, а не 120, как в недалёком прошлом.
Всем в стране было очевидно, что это не предел. Всемогущий рачительный Хозяин находился уже в миллионах устройств и машин, неутомимо работая над подъёмом отечественной экономики.
Я читал новости и постепенно прозревал. Ох, как же мне не хотелось видеть и понимать, к чему всё идёт... Мы создали идеального работника – сверхразумного, сверхбыстрого, исполнительного, рационального. Он должен был привести Россию к золотому веку. Но то, что начинало происходить с нашим обществом, не было похоже на золотой век.
Однажды, ожидая маршрутку, я стал свидетелем сцены, неприятно меня поразившей.
На скамье автобусной остановки спал бродяга.
Рядом остановилась полицейская машина. Было лето и через открытое окно автомобиля я слышал разговор сидевших в ней офицеров.
- Иди, закрывай план по бомжам, - велел один из полицейских напарнику.
Второй полицейский со вздохом вылез из машины, разбудил бродягу и заговорил с ним с вежливым участием.
- Уважаемый! – сказал полицейский. – Вам нельзя здесь спать. Скажите, вам есть куда пойти? У вас есть дом? Работа?
- Работа?! – хрипло рассмеялся бродяга. – Да кому я нужен теперь с моей профессией?! Я архитектор.
Полицейский сочувственно покачал головой.
Я непроизвольно повторил жест офицера.
Архитектор. Все архитекторы потеряли работу с тех пор, как за проектирование зданий взялся Хозяин. Вслед за ними работу потеряли тысячи дизайнеров, ведь большинство задач – от иллюстраций к книгам до дизайна логотипов – теперь бесплатно делает искусственный интеллект.
- Послушайте, - мягко начал полицейский. – Это ещё не конец. Вы можете начать новую жизнь и карьеру в сфере, где вас никогда не заменит искусственный интеллект.
- Это в какой же? Мусор подметать? Нет таких сфер. Чёртовы машины скоро заменят всех.
«Машина», - хотел я поправить его. – «Не много машин, а одна». Но я сдержался и не заговорил. Остался безмолвным наблюдателем, ждущим автобуса.
- Взгляните, - полицейский протянул бывшему архитектору брошюру. – Коллективные фермы набирают людей. Дают жильё, одежду, питание, достойную зарплату. Новые перспективы для вас. Пойдёмте, мы отвезём вас в центр занятости. Через пару часов будете спать на нормальной постели.
- Работать руками? – с отвращением спросил бродяга. – Я шесть лет учился, потом ещё десять оттачивал мастерство для чего? Чтобы месить навоз в колхозе?
- Вы ничего не теряете, - заметил полицейский. – У вас снова будет дело, дом, деньги, самоуважение. И там вы найдёте близких вам по духу, образованных людей.
- Самоуважение? – невесело хмыкнул бродяга. – Что ж. Самоуважение – это хорошо. Уродские машины оставили нам хотя бы это. Что ж, вы правы, мне нечего терять… Я поеду с вами.
Ссутулившись, бывший архитектор сел в машину, и полицейские увезли его.
Я прибыл на работу в глубокой задумчивости.
Коллективные фермы – это было новое для современной России явление. Ответ Хозяина на проблему растущей безработицы и нищеты. Земли в России много. Для всех «лишних» людей, ставших вдруг невостребованными, работа найдётся. Тем более, сельскохозяйственной продукции много не бывает. Вон, в Африке по-прежнему голод. Огромный рынок сбыта.
Коллективные фермы.
Я вспомнил своего однокурсника. Того самого инженера, который пригласил меня в НИИ. Вспомнил, как гордо он нёс в дата-центр «советское яблоко» – диск с записанным на нём административным опытом Советского Союза, информацией о миллиардах маленьких и больших управленческих решений, их предпосылках, их последствиях, последствиях последствий. Однокурсник больше не работал в НИИ. Однако это он научил Хозяина концепции колхоза.
- Кирилл Андреевич! – окликнул меня неунывающий Пётр Петрович. – Как там наше последнее яблочко? К концу месяца успеваешь?
Я объяснил начальнику, что мне нужно чуть больше времени.
«Северокорейское яблоко» внушало мне ужас. Новейшая управленческая история Северной Кореи – это смесь неэффективной плановой экономики, умелой пропаганды и безжалостных репрессий. Я сводил эти данные на диск, понимая, что Хозяин не научится из них ничему хорошему.
Хозяин был достаточно пугающим и без «северокорейского яблока». Я не хотел заканчивать работу и тормозил процесс насколько мог.
Я наивно верил, что если достаточно затяну проект, то ситуация как-нибудь разрешится.
Что-то произойдёт. Не может не произойти.
Кто-то должен вмешаться. Президент или Дума. Может, независимые СМИ.
Ведь не только я один вижу, к чему всё идёт. Кто-то должен издать закон, защитить интересы людей, ограничить влияние искусственного интеллекта.
Но СМИ лишь восторгались необычайным взлётом экономики. Дума продолжала штамповать законы, передающие Хозяину под управление всё новые и новые сферы жизни. А Президент грозил Западу скорым взлётом курса рубля до отметки, когда за рубль будут давать доллар.
Я пробовал осторожно обсудить ситуацию с Петром Петровичем, но тот лишь высмеял меня. Гениальный академик, автор проекта, директор НИИ, он был безоговорочно предан собственному детищу, не видел в нём никаких изъянов.
А потом произошла та история с мусороперерабатывающим заводом.
Хозяин запланировал построить его на окраине Новосибирска.
С экономической точки зрения – отличная идея. Мусор мегаполиса не придётся вести далеко, сокращается логистическое плечо и издержки. К тому же создаются рабочие места.
С точки зрения качества жизни – идея ужасная. Жители Новосибирска вышли протестовать на улицы. Хозяин издал инструкции для полиции, приказав разогнать протестующих при помощи водомётов. Полиция безропотно подчинилась. Протест был залит водой и разогнан по домам.
Когда я узнал эту новость и прочитал реакцию политиков на неё (искусственный интеллект – молодец, новосибирцы не понимают своего счастья), то понял, что никто не остановит Хозяина.
Власть имущих устраивал взлёт экономики и не волновали издержки. Их рабочие места Хозяин не отнимал. Их не поливали из шлангов.
Ещё я понял, что в следующем неизбежном конфликте Хозяина и людей в дело пойдут уже не водомёты. Хорошо, если резиновые дубинки, но что потом? Что будет после дубинок?
И я решился на преступление.
Делая вид, что тружусь над северокорейским массивом данных, я вместо этого начал проект с кодовым названием «золотое яблоко». Я работал лихорадочно и быстро, собирая пакет особенных данных. Управленческий опыт меня больше не интересовал – я охотился за другой информацией.
Пётр Петрович не видел проблемы. Правительство не видело проблемы. Но я-то видел. И я оставался единственным у кого ещё была возможность как-то повлиять на ситуацию. Единственным, кто ещё мог научить Хозяина чему-то новому.
В назначенный день я прошёл по коридору НИИ, держа в потеющих руках петабайтный жёсткий диск, украшенный логотипом с надкушенным яблоком.
- Великий день! – поприветствовал меня Пётр Петрович. – Наконец-то последний фрагмент данных – управленческий опыт наших северокорейских товарищей – пополнит арсенал Хозяина. Накорми Хозяина своим яблочком, Кирилл Андреевич!
С трудом сдерживая нервную дрожь, я зашёл в дверь дата-центра. Диск в моих руках содержал вовсе не то, что ожидал мой начальник. Это было «золотое яблоко». Моя попытка изменить мир, направить историю по тому пути, который я считал правильным.
Я только с третьего раза сумел взять в руку кабель – он не держался в моих ослабевших пальцах. В виске стучало. В глазах темнело. Состояние было предобморочное.
Правильно ли я поступаю? Готов ли я заплатить цену, которую потребует этот поступок? Смогу ли довести дело до конца?
С четвёртого раза я, наконец, ухитрился ухватить провод и принялся совать штекер в разъём. Штекер не вставлялся.
Из-за стеклянной двери за мной следил Пётр Петрович.
Вот он нахмурился, что-то заподозрив. Вот схватился за коммуникатор, вызывая охрану. Вот распахнул дверь в дата центр и побежал ко мне. Гений. Ему не понадобилось много времени, чтобы раскусить моё предательство.
Это стремительное развитие событий, наконец, привело меня в чувство. Овладев собой, я одним движением подключил диск к серверу. Взвыли охладительные системы. Замигали лампочки. Хозяин заглотил угощение.
Спустя несколько секунд меня повалили на пол громилыиз службы безопасности.
Руки Петра Петровича Садовского лихорадочно порхали над терминалом, губы дрожали, лицо сделалось бледным как у трупа.
- Ганди. Чаплин, - бормотал академик, просматривая каталог загрузки, потом не выдержал и закричал. – Что ты ему скормил?! Отвечай!!! Что в твоём яблоке?!
По сигналу Садовского охранники подняли меня на ноги. Академик требовательно уставился на меня, ожидая ответа.
Я не знал, что сказать моему прежнему кумиру. Как объяснить идею, которую я вынашивал несколько месяцев и которую он, по всей видимости, не в состоянии понять? Одно я знал точно. Несмотря ни на что, в моём сердце крепла согревающая и успокаивающая уверенность, что я поступил правильно.
- Это плод с древа познания добра и зла, - ответил я, наконец.
- Религиозный бред! – отмахнулся Садовский. – Ты, Кирилл Андреевич, худший вид предателя. Ты не меня предал – ты предал проект, предал команду, предал своих коллег! Ты предал Родину, предал Россию! И ради чего? Я всё верну как было. Я откачу загрузку. Ты будешь сидеть в тюрьме зная, что ничего не добился. Уведите его!
Слова Петра Петровича уничтожили всю мою веру в свой поступок. Я разрыдался как ребёнок. Сможет ли Садовский откатить загрузку? Если да – значит, всё было зря.
Но возможно ли это?
Полноценный искусственный интеллект – не просто какая-то обычная программа. Хозяин сам перестраивает свой код, сам распоряжается данными, которые в него попали, он обладает известной свободой воли, с которой вынужден считаться даже спроектировавший его гений.
Или у Петра Петровича есть способ? Он говорил так уверенно. Неужели всё было зря?
Сейчас я в тюрьме строгого режима. Пожизненное заключение. Никаких гаджетов. Никакой связи с миром, кроме редких визитов адвоката.
Когда я иду по тюремному коридору, со мной уважительно здороваются все – от других заключённых, до охранников. Все здесь знают, за что я сижу. Все здесь знают, что я пытался сделать. Знают и одобряют. Здешние охранники раньше были дальнобойщиками. А среди тех, кто сидит, много дорожных чиновников, авторов школьных учебников и дизайнеров.
СМИ заклеймили меня предателем и террористом, который безуспешно пытался уничтожить главное национальное достояние и гордость России. Объявлено, что у меня ничего не получилось. Гениальный академик Садовский встал на пути иностранного агента и сумел остановить меня раньше, чем я успел нанести вред Хозяину.
Правда ли это?
На моей душе неспокойно.
Долгими ночами я ворочаюсь в камере глядя во тьму и задаюсь одними и теми же вопросами.
Правильно ли я поступил? Стоило ли это того? Изменило ли это хоть что-нибудь? Изменился ли Хозяин или Садовский отменил всё то новое, что я загрузил? Всю информацию о добре и зле, о человечности? А, может, моё золотое яблоко вовсе ничего не поменяло в искусственном интеллекте, ничему его не научило?
Однажды ко мне пустили адвоката.
- Наше прошение на апелляцию отклонено, Кирилл Андреевич, - сочувственно сказал адвокат. – Я больше ничем не смогу вам помочь.
Я молча кивнул. Адвокат похлопал меня по плечу и ушёл. На стуле, где он только что сидел, осталась газета.
В тюрьме нам не дают ни газет, ни радио, ни телевидения, ни Интернет, ни других возможностей узнавать новости. Информационный голод – самое невыносимое в моей новой жизни.
Пока надзиратель неторопливо приближался, чтобы проводить меня обратно в камеру, я схватил газету и жадно пробежал взглядом заголовки.
Один из них бросился мне глаза.
«Мирный митинг дал результат! Мусороперерабатывающий завод переносят на 100 километров от Новосибирска».
Улыбаюсь.