Робофобия
Шрифт:
Нужно высказаться. Только что на меня наорал органик, сделанный с отца. Суть в том, что отец никогда на меня не орет. А этот не только голос повысил, а еще и поддевал за живое. С трудом сдержался, чтобы не накинуться на него с кулаками. Больно много эта жестянка себе позволяет.
И еще, он сказал, что обсуждал с коллегами (не совсем понял, кого он имеет в виду – роботов или людей с отцовской работы) меня и то, насколько бесполезна моя жизнь. Урод. Была бы моя воля, весь этот лишай на теле общества расплавил бы в печи, причем живьем, чтобы они понимали всю палитру человеческих ощущений и поняли, что человек не может быть вечно улыбающимся и счастливым, таким, как они. Человек не может быть идеальным во всем, не может пахать день и ночь, не может набраться сил, поспав пару месяцев в капсуле. Но человек это истинное
Запись быстро собрала полторы сотни комментариев, несколько репостов в разные группы, да и вообще нашлось много воодушевившихся, которые готовы с битой выбивать из железной башки микросхему за микросхемой.
***
Наутро я снова поехал к дому Стивенса, школа начиналась с 8:30, а возле дома нашей ненаглядной цели я был уже в 6:30. Я припарковался на том же месте, с которого я наблюдал за его прогулкой с собакой. Спать хотелось дико. Благо, по пути я успел заскочить в McDonald’s и взять себе кофе. Правда, кофеин не спасал. В сон все равно клонило – тогда я включил радио, нужно создать эффект присутствия кого-то в машине, чтобы этот кто-то мне наговаривал на ухо инфу, а я ее впитывал и отвлекался от грез о кровати.
Горячей темой сегодняшнего утреннего выпуска становится очередной так называемый рейд радикалов-робофобов. Их новый налет обернулся трагедией – погиб человек. В этот раз пострадавших среди андроидов нет, но группа из трех налетчиков вся была доставлена в больницу, и один из них скончался от полученных травм. Нам известно, что нападавшие пытались ворваться в центральный офис Ares Robotics, чтобы стереть базы данных, используемые для программирования служащих различных профессиональных сфер. Они вскрыли двери и проникли в коридоры офиса. В этот момент их засекли датчики движения, сигнал которых активировал андроидов-охранников. Радикалы были вооружены железной арматурой, однако охрана оказалась быстрее и подготовленнее. В результате, к приезду полиции, также среагировавшей на срабатывание сигнализации, двое получили серьезные травмы – один не может наступать на ногу, она почти обездвижена; второй не в состоянии пошевелить обеими руками, так как у него сломаны обе ключицы. Третий нападавший был сразу же направлен в реанимацию, он упал с высоты третьего этажа, вылетев из окна вместе с целым стеклопакетом. У него диагностированы закрытая черепно-мозговая травма, множественные переломы и обширное кровотечение. Врачи спасти человека не смогли. Других деталей полиция пока не предоставляет, Ares Robotics готовит официальное заявление.
Вот это поворот, как говорится. Значит, роботы все-таки могут нарушать законы и убивать людей. Тем более это же роботы Ares Robotics, наверняка, у них есть какой-нибудь экстренный протокол на случай угрозы безопасности компании. Похоже, после Филадельфии папа далеко не сразу зайдет домой. Думается мне, у него теперь много проблем, раз выяснилось, что роботы, как и люди, способны убивать. Главное, чтобы он второго органика не завел, ибо две дерзящих копии отца – это уже слишком.
Вообще, пугающий тренд. Побоище в офисе Ares Robotics – уже второй случай за неделю, когда андроиды увечат людей. Так это быстро станет обыденностью, и все начнут относиться к совершенным роботами убийствам как к данности. Вот сто процентов, что скоро мы узнаем об ограблениях, мошенничествах и прочих преступлениях, которые провернули механизированные члены общества. Нет, такой прогресс нам не нужен.
Тут дверь дома Стивенса распахнулась, время было 6:50. Хм, для выхода в школу рановато. Одет он был странно. Ну как странно… опять же, не для школы. На нем был черный спортивный костюм Adidas с тремя полосами, бело-черные кроссовки, а в ушах можно было заметить «эппловские» наушники-невидимки. Честно говоря, видок у него был знатный… высокий, стройный, даже атлетичный… с таким видом ему бы в рекламе сниматься.
Выйти в 6:50 в спортивном костюме, неужто наш робот бегать собрался. Не поверите, но да. Он посмотрел на часы, потыкал что-то в телефоне и в довольно бодром темпе засеменил в мою сторону. Я резко нагнул голову и ненароком расплескал кофе. Пришлось неслабо напрячься, чтобы не вскрикнуть от боли. Пока моя рука офигевала от кипятка на ней, Стивенс убегал вдаль. Я видел его в зеркало заднего вида, но не знал, что делать. Если развернуть машину и ринуться за ним вслед, будет слишком заметно, особенно утром, когда на улице такая пустота.
Мои размышления прервал iPhone. В этот момент зазвонила трубка, на экране высветилось
«Папа».– Привет, пап, – сказал я.
– Привет, встал уже? Не прогуливаешь без меня учебу?
– Нет, как раз пью кофе и в школу готовлюсь.
– Молодец, чего вчера звонил? Я в самолете был, мы едем с Уокером на пресс-конференцию, и у меня есть пара минуток с тобой переговорить.
– Да так ничего особенного, – сказал я, замешкавшись несколько секунд, и переформулировал свою мысль. – Пап, скажи, а насколько роботы могут выходить за рамки своей начальной программы? Насколько они способны эволюционировать? В чем именно они подражают людям?
– Само собой, они выходят за рамки базиса… а зачем ты спрашиваешь? Случилось чего?
– Нет, просто… эээ… по робототехнике задали реферат, и нужно было взять экспертный комментарий. Вот я, недолго думая, позвонил тебе.
– Вот как, в общем, объяснять долго, а времени у меня не много, поэтому вкратце. Само собой, робот может выходить за рамки базовой программы. Он обучается, эволюционирует. Если он не востребован в одном, он может попробовать себя в другом. У него заложена потребность выживания, он будет избегать бесцельного существования и бомжевания. Андроид в силах полностью отказаться от изначальной программы, если рынок будет перенасыщен, или робот поймет, что опыт, полученный им в изобилии, поможет ему переключиться на более прибыльную отрасль, он это сделает. Они все – прагматики.
– То есть он может и моральную установку изменить? В смысле три закона робототехники…
– Нет, это исключено. Эти законы не могут быть нарушены, априори. Мы тестировали их, выпуская в общество болванку, у которой заложены лишь программа накопления опыта, а затем три закона робототехники, нормы морали и ряд знаний о войнах, конфликтах, народных волнениях, равноправии и толерантности. Болванки набирались опыта, шли работать официантами да уборщиками, но никто из них не переключался на преступность или убийства. На тестовом этапе, конечно, бывали случаи, когда одно программное обеспечение конфликтовало с другим, и робот начинал кромсать людей, не добившись от них того, чего он хочет. Но было это очень давно, еще на этапе исследовательского центра. В общем, ты знаешь про этот случай, когда робот забил двумя ударами нашего сотрудника, разорвав ему печень и расколов череп. Эту проблему мы решили, и больше такого не происходило – больше никто об этом не вспоминает. Несколько раз хакеры воровали роботов, стирали моральные установки и пытались перепродать машины всяким преступным группам. Сработало, надо признать, но теперь робот, которому стирают три закона, автоматически самоликвидируется: органики – пускают иглу в мозг, синтетики – полностью форматируют жесткий диск.
– Но в принципе это возможно, раз были случаи?
– Да нет же, видишь ли, вначале накладывается программа накопления опыта, она первична, и без нее в обществе робот существовать не может. Затем в этом же цехе, не выходя из этой комнаты – таков строжайший протокол, накладываются три закона. После этого уже в отдельном цехе раздаются профнаправления.
– Ага, то есть мораль не первостепенна…
– Что же ты докопался, не успеют они научиться ничему плохому. Процедура проводится в серой коробке, внутри лишь один человек, за ним ведется видеонаблюдение, комната при этом закрыта по всем нормам безопасности. Ставится наложение опыта, затем проводится диагностика и запускается установка трех законов. Система работает уже больше десяти лет, все без сбоев, акции растут.
– Хах, понятно. Ну ладно, не буду тебя отвлекать, тебе, наверное, работать уже надо.
– Да, как раз все уже собираются. Давай, до встречи. В воскресенье буду.
Интересно, папа еще не знает про случай в офисе или просто решил умолчать? Впрочем, не важно.
Я дождался Стивенса. Он зашел домой и появился в том же самом спортивном костюме, но уже с собакой. Выгуляв питомца, жестянка вновь зашла внутрь. Стивенс переоделся, вышел спустя 15 минут… Уж не знаю, потеют ли роботы. В 8 часов он уже был в школе. Я не ехал за ним, решил выбрать другую дорогу, дабы не палиться. Пришлось приехать раньше и дождаться уже на стоянке.
В школе было все, как обычно, впрочем, как и вечером – ну если можно назвать обычным андроида, выгуливающего собаку. Он, кстати, опять мило беседовал с соседом, а потом отправился спать. Ясно одно – брать его придется после выгула, а иначе сосед может его хватиться. Нам нужно, чтобы до понедельника все было тихо, ибо в воскресенье ночью мы выложим ролик.
***
До того самого дня оставалось меньше суток. Алгоритм полностью повторился. Как бы он не прикидывался человеком, все равно робот – все по расписанию, прямо по часам, но нам от этого и легче.