Профессор Дэвид Вудс (David Woods) из университета штата Огайо (Ohio State University) и его коллега Робин Мерфи (Robin Murphy) из Техасского сельскохозяйственного и машиностроительного университета (Texas A&M University), США, подкорректировали три закона роботехники, сформулированные фантастом Айзеком Азимовым (Isaac Asimov) в 1942 году. Статья, посвященная этому вопросу, опубликована в журнале IEEE Intelligent Systems.

Законы Азимова, появившиеся впервые в рассказе «Хоровод», звучат так:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Для того чтобы эти законы могли соблюдаться, роботы до некоторой степени должны быть наделены социальной и моральной ответственностью. «Между тем, современная роботехника все еще бьется над созданием зрения и речи, подобных человеческим. А до этики и моральной ответственности роботов еще далеко», – считает профессор Вудс.

Весь пафос рассказов Азимова заключается в том, чтó происходит, если три закона противоречат реальной жизни. «Чаще всего мы смотрим на роботов как на совершенных существ: людям свойственно совершать ошибки, но роботы лучше людей в этом отношении. Мы решили переписать три закона роботехники в соответствии с текущим положением дел, сделав их более обоснованными и реалистичными», – поясняют Вудс и Мерфи.

Новые законы выглядят так:

1. Человек не должен использовать робота вне системы правил, соответствующей самым высоким стандартам безопасности и этики.
2. Робот обязан реагировать на человека соответственно заложенной модели поведения.
3. Робот нуждается в автономии для защиты своего существования в той степени, в которой это не нарушает Первый и Второй закон и обеспечивает бесконфликтную передачу управления человеку.

Ключевым моментом в законах Вудса-Мерфи становится именно отсутствие конфликтов при переходе робота из полностью автономного режима к режиму под контролем человека. «Роботы функционируют в мире, полном случайностей, где вы не можете предсказать все, что может случиться. Поэтому от искусственного интеллекта требуется как способность к автономии, так и способность к передаче контроля», – убеждены авторы новых законов.