Законы робототехники

Поделитесь с друзьями!

«Незнание законов Азимова, не освобождает от ответственности»
Из юриспруденции будущего.

По признанию самого американского фантаста, ему порядком осточертели те злобные и коварные монстры, которыми представляли роботов многие его коллеги. Поэтому он заведомо решил запрограммировать роботов против Зла, заложив  в основу их позитронных мозгов три основных постулата Добра, воплощающие в себе квинтэссенцию человеческой морали. Эти постулаты получили название Трёх законов робототехники, хотя правильнее было бы говорить о законах психологии для роботов. Вот эти постулаты:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  2. Робот должен повиноваться всем приказам, которые отдаёт человек, кроме тех случаев. Когда эти приказы противоречат Первому закону.
  3. Робот должен заботиться о своей безопасности в той же мере, в какой это не противоречит Первому и Второму законам.

Казалось бы всё предельно ясно и просто. Но для гарантии безопасности людей едва ли не все эксперименты носят закрытый характер, а порой и вовсе переносятся в космос. Нестандартные ситуации, связанные с практическим выполнением данных постулатов, не заставили себя ждать. Они-то и составили сюжеты цикла рассказов и романов о роботах совсем не похожих на жестоких поработителей человечества.

Элемент непредсказуемости поведения роботов обусловлен двумя причинами. В каждом конкретном случае всё решает разность потенциалов токов, оцениваемая позитронным мозгом, зависящая от отладки этого узла. Своё влияние на этот процесс оказывают и отношения роботов с людьми, жизнь которых не укладывается в схемы. Это замечают и сами роботы, судя по их диалогу: «очень часто человеческие реакции не соответствуют событиям.

— Поэтому иной раз так трудно решать, что будет вредно для человека, а что нет» (А. АЗИМОВ «Роботы Утренней Зари»).

Иногда выход видится в расширении числа постулатов, и таковые пополнялись. Некоторым фантастам бросилось в глаза, что в трёх законах робототехники нет самих определений «робот» и «человек». Оттого и появилась столь удивительная точка зрения: «Конечно, человек обладает гениальным электронным мозгом, а роботы – жалкой серой протоплазмой» (Б. ШТЕРН «Человек – это…»). Во избежание неразберихи в рассказе «Роботы осознают своё предназначение» болгарский фантаст Л. ДИЛОВ сформулировал Четвёртый закон робототехники, согласно которому робот никогда не должен скрывать свою принадлежность к кибернетическим автоматам». Правильнее было бы  дополнить в формулировке «не скрывать» (это подразумевает полное внешнее сходство машин с человеком), на «постоянно осознавать свою суть».

Оригинальные вариации дополнительного закона робототехники обнаруживаются и в других фантастических произведениях:

IV. Робот не должен допустить, чтобы с его помощью был причинён вред человечеству (В. Комаров «Четвёртый закон»).

V. Робот не может быть пристрастен и помогать отдельным людям (Р. Шекли «Робот Рекс»).

Эти две формулировки  можно рассматривать как «апокрифические» вариации Нулевого закона робототехники, авторство которого принадлежит самому А. Азимову

0. Предупредить вред для группы людей и человечества в целом важнее, чем предупредить вред для индивидуума.

Однако данный постулат появился значительно позднее основных – в романе «Основание и Земля», что закономерно, поскольку широкое общение людей и роботов началось не сразу. В то же время следует признать, что предпосылки появления нулевого закона были заложены ещё в более раннем рассказе Азимова «Разрешимое противоречие» (другое название «Конфликт, которого можно избежать»).

А по версии Д. ЖУКОВА «РЭМ и Гений», похоже, появляются неписаные законы робототехники. Так искусственный интеллект неукоснительно придерживается этического правила: не навязывать свою помощь человеку, пока тот сам об этом не попросит.

С другой стороны, один из роботов упорствует: «Законы эти вымышленные, так же как вымышлен фантастами и сам Азимов» (С. ЗЛАТАРОВ «Случай «Протей»).

Роботы вообще логичны, но не разумны. Поэтому для их «очеловечивания», кроме соблюдения законов робототехники, прослеживается и путь качественного усовершенствования искусственного мозга. Не все пути здесь прямые и безопасные. Порой нелепые формы принимает непомерно разросшееся обилие законов роботехники.

72? Перед роботом должен всегда идти человек с сигнальным флажком.

72? Роботу запрещено ставить мышеловки не имея охотничьего удостоверения  Поэтому в рассказе Л. Николова «Сто первый закон роботехники» представителем официальной власти оглашено: «Каждый, кто навязывает простодушным роботам новые законы роботехники, да будет немедленно наказан битьём по голове. Орудие наказания — полное собрание сочинений Азимова (200 томов)…»

Закладка Постоянная ссылка.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Этот сайт использует Akismet для борьбы со спамом. Узнайте как обрабатываются ваши данные комментариев.