Ученые научили роботов обманывать
Ученые из Технологического института Джорджии разработали роботов, которые способны обманывать друг друга.
Идею разработки они почерпнули в модели поведения обычных белок и птиц. Практическое приложение исследование найдет в будущих военных разработках. Работа публикуется в IEEE Intelligent Systems, сообщает CNews.
Команда ученых под руководством профессора Рональда Аркина начали с биологического исследования – они изучили, как ведут себя белки, собирающие желуди и прячущие их в своих тайниках. Когда другая белка может подсмотреть тайник, животное меняет свое поведение. Вместо того, чтобы обращаться к местам, где действительно могут храниться ее запасы, она посещает ложные тайники, мешая тем самым найти настоящие. Именно эту модель ученые перенесли на роботов. Если враг присутствует где-то рядом, робот может изменить свою стратегию патрулирования, чтобы обмануть другого робота или даже людей. Таким образом, можно выиграть время до прихода подкрепления.
Помимо этого, Аркин исследовали поведение птиц, которые «блефуют» перед лицом опасности – притворяются сильнее, чем они есть и даже нападают на противника. Не только эмпирические данные, но и математическая модель доказывает: такой обман является эффективной стратегией, польза от него перевешивает риск быть пойманным. И в военной операции, робот, который сам находится под угрозой, может не менее эффективно симулировать способность бороться с противником. Даже если он не в состоянии фактически защитить себя, его действия могут повлиять на интеллектуальную технику врага – заставить ее решить, что риск неоправданно высок. «Обман, если он используется в нужный момент, может минимизировать угрозу»,- говорит Аркин.
Профессор Аркин также отмечает, что расширение технологии за пределы военной области, где порой «все средства хороши», может повлечь за собой много этических вопросов. Он настоятельно рекомендует тщательно взвесить то, насколько морально приемлемы результаты исследований, которые научили роботов обманывать.
