«Незнание законов Азимова, не освобождает от ответственности»
Из юриспруденции будущего.
По признанию самого американского фантаста, ему порядком осточертели те злобные и коварные монстры, которыми представляли роботов многие его коллеги. Поэтому он заведомо решил запрограммировать роботов против Зла, заложив в основу их позитронных мозгов три основных постулата Добра, воплощающие в себе квинтэссенцию человеческой морали. Эти постулаты получили название Трёх законов робототехники, хотя правильнее было бы говорить о законах психологии для роботов. Вот эти постулаты:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен повиноваться всем приказам, которые отдаёт человек, кроме тех случаев. Когда эти приказы противоречат Первому закону.
- Робот должен заботиться о своей безопасности в той же мере, в какой это не противоречит Первому и Второму законам.
Казалось бы всё предельно ясно и просто. Но для гарантии безопасности людей едва ли не все эксперименты носят закрытый характер, а порой и вовсе переносятся в космос. Нестандартные ситуации, связанные с практическим выполнением данных постулатов, не заставили себя ждать. Они-то и составили сюжеты цикла рассказов и романов о роботах совсем не похожих на жестоких поработителей человечества.
Элемент непредсказуемости поведения роботов обусловлен двумя причинами. В каждом конкретном случае всё решает разность потенциалов токов, оцениваемая позитронным мозгом, зависящая от отладки этого узла. Своё влияние на этот процесс оказывают и отношения роботов с людьми, жизнь которых не укладывается в схемы. Это замечают и сами роботы, судя по их диалогу: «очень часто человеческие реакции не соответствуют событиям.
— Поэтому иной раз так трудно решать, что будет вредно для человека, а что нет» (А. АЗИМОВ «Роботы Утренней Зари»).
Иногда выход видится в расширении числа постулатов, и таковые пополнялись. Некоторым фантастам бросилось в глаза, что в трёх законах робототехники нет самих определений «робот» и «человек». Оттого и появилась столь удивительная точка зрения: «Конечно, человек обладает гениальным электронным мозгом, а роботы – жалкой серой протоплазмой» (Б. ШТЕРН «Человек – это…»). Во избежание неразберихи в рассказе «Роботы осознают своё предназначение» болгарский фантаст Л. ДИЛОВ сформулировал Четвёртый закон робототехники, согласно которому робот никогда не должен скрывать свою принадлежность к кибернетическим автоматам». Правильнее было бы дополнить в формулировке «не скрывать» (это подразумевает полное внешнее сходство машин с человеком), на «постоянно осознавать свою суть».
Оригинальные вариации дополнительного закона робототехники обнаруживаются и в других фантастических произведениях:
IV. Робот не должен допустить, чтобы с его помощью был причинён вред человечеству (В. Комаров «Четвёртый закон»).
V. Робот не может быть пристрастен и помогать отдельным людям (Р. Шекли «Робот Рекс»).
Эти две формулировки можно рассматривать как «апокрифические» вариации Нулевого закона робототехники, авторство которого принадлежит самому А. Азимову .
0. Предупредить вред для группы людей и человечества в целом важнее, чем предупредить вред для индивидуума.
Однако данный постулат появился значительно позднее основных – в романе «Основание и Земля», что закономерно, поскольку широкое общение людей и роботов началось не сразу. В то же время следует признать, что предпосылки появления нулевого закона были заложены ещё в более раннем рассказе Азимова «Разрешимое противоречие» (другое название «Конфликт, которого можно избежать»).
А по версии Д. ЖУКОВА «РЭМ и Гений», похоже, появляются неписаные законы робототехники. Так искусственный интеллект неукоснительно придерживается этического правила: не навязывать свою помощь человеку, пока тот сам об этом не попросит.
С другой стороны, один из роботов упорствует: «Законы эти вымышленные, так же как вымышлен фантастами и сам Азимов» (С. ЗЛАТАРОВ «Случай «Протей»).
Роботы вообще логичны, но не разумны. Поэтому для их «очеловечивания», кроме соблюдения законов робототехники, прослеживается и путь качественного усовершенствования искусственного мозга. Не все пути здесь прямые и безопасные. Порой нелепые формы принимает непомерно разросшееся обилие законов роботехники.
72? Перед роботом должен всегда идти человек с сигнальным флажком.
72? Роботу запрещено ставить мышеловки не имея охотничьего удостоверения Поэтому в рассказе Л. Николова «Сто первый закон роботехники» представителем официальной власти оглашено: «Каждый, кто навязывает простодушным роботам новые законы роботехники, да будет немедленно наказан битьём по голове. Орудие наказания — полное собрание сочинений Азимова (200 томов)…»