Робот сомневается в правильности приказа человека

Робот NAO
©Aldebaran Robotics

Роботов научили ставить приказы людей под сомнение. Ранее, напомним, об угрозе со стороны искусственного интеллекта заявили такие видные деятели как Билл Гейтс и Илон Маск. 

Новыми успехами в области ИИ может похвастаться Университет Тафтса. Была разработана специальная программа, которая ставит под сомнение целесообразность выполнения роботом тех или иных приказов. Доклад о новинке был представлен на конференции AI-HRI, а краткий обзор содержится на сайте IEEE Spectrum.
 

Концептуально новая технология не нова: ранее нечто подобное использовалось при разграничении доступа и при передаче данных в вычислительных системах. Однако сейчас для демонстрации впервые был использован небольшой человекоподобный робот. Получив приказ, он не сразу бросается его выполнять. Сначала машина анализирует свои навыки и физические возможности выполнить указание. Кроме этого рассматривается положение робота в системе отношений «начальник-подчиненный»: робот «думает», должен ли он вообще выполнять этот приказ. Чтобы это случилось, отдавший распоряжение должен обладать соответствующими полномочиями. 

Если робот не способен выполнить команду, он уведомляет об этом человека, отдавшего ее. После этого робот может уточнить данные, «передумать» и все-таки выполнить поставленную задачу. Было представлено несколько видео. На первых двух робот не мог выполнить приказ с самого начала, однако, получив уточняющие данные, все же смог исполнить их. На последнем видео робот отказался выполнить указание, так как оператор не имел необходимых полномочий.

Очевидно, новая разработка не сделает революции в мире искусственного интеллекта, но еще один шаг на пути к созданию полноценного ИИ все же был сделан. Того самого ИИ, которого так опасаются сильные мира сего, в числе которых Билл Гейтс, Илон Маск и Стивен Хокинг.

В эксперименте использовали робота NAO, созданного компанией Aldebaran Robotics. Это небольшой антропоморфный программируемый робот: его рост составляет 53 см, а весит изделие 4,3 кг. Робот может активно работать до 60 минут, а в обычном режиме время его деятельности достигает 90 минут. Связь с роботом можно поддерживать через Wi-Fi или Ethernet.

Напомним, в ноябре 2015 года сообщалось, что созданный инженерами Японского Национального института искусственный интеллект успешно сдал вступительные экзамены в один из японских университетов. При прохождении стандартных вступительных тестов он смог получить результат «выше среднего». ИИ оказался особенно хорош при решении математических задач и при ответах на вопросы по истории.

naked-science.ru