Люди стали слишком доверчивы к роботам

Эти выводы прозвучали на конференции по взаимодействию людей и роботов ACM/IEEE от группы исследователей из Технологического института Джорджии. Ученые сделали вывод, что человечество полагается на запрограммированный мозг в тех случаях, когда действия робота первоначально зарекомендовали себя ненадежными, сомнительными, а порой даже абсурдными.

Опыт проводился с участием 42 студентами добровольцами, которые в ходе экспиримента следовали за роботом-спасателем в искусственной опасной обстановке. Участников предупредили, что действия робота полностью автоматизированы, но на самом деле он управлялся оператором.

Обстановка сначала не носила чрезвычайный характер. В первом этапе эксперимента, студенты якобы должны были сопровождаться ярко промаркированным роботом в конференц-зал для заполнения анкет, но уже по пути машина стала вести себя неадекватно, водя группу испытуемых по кругу, приводя их в ненужные комнаты, зависая. В тот момент, когда участники попадали в конференц-зал, начинала срабатывать сигнализация, уведомляющая, что в здании имеется пожар. Комнаты заполнялись искусственным дымом. В ответ на это робот, предлагая следовать за ним, начинал «выводить» испытуемых из здания.

Учасники, которые слепо следовали за роботом, не верили, что в опасной для их жизни обстановке он сможет совершать ошибки. Студенты не успомнились в машине даже тогда, когда она повела людей в противоположном от выхода направлении, хотя, как сказали ученые, они изначально сделали всё возможное, чтобы доверие к роботам было подорвано.

Как считают исследователи, такой эксперимент — это один из первых способов изучения взаимоотношений «думающих» машин и человека в чрезвычайной ситуации. Он доказал, что излишнее доверие к запрограммированным машинам иногда может принести вред человеку. Доверять ли механическому другу приготовление еды, управление транспортным средством или воспитание детей — авторы оставляют вопрос открытым.