Исследователи из университета Тафтса разработали систему взаимодействия человека с роботом, которая позволяет роботу отказаться выполнять приказ человека, если он является глупым или опасным, сообщает ИА «Дейта» со ссылкой на интернет-издание N+1.

В данной системе робот проверяет несколько условий, прежде чем выполнить приказ человека. в них  входит наличие необходимых для выполнения навыков, физическая возможность выполнения приказа вообще и с учетом текущих обстоятельств, а также проверка субординации.  Робот   может не быть  обязаннным выполнять приказ, поступивший именно от этого человека.

Если робот не может выполнить приказ, он дает человеку знать об этом, объясняя причины, после чего просит человека поставить другую задачу.

Подобная программа была вложена в мозг робота Nao.  В нескольких видеороликах он демонстрирует подобное поведение, во всех трех сценариях отказываясь выполнять прямой приказ.

В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.

фото: кадр из к/ф "Терминатор 3"