Прогнозы этического поведения роботов настораживают

Сотрудники Массачусетского технологического института провели ряд опытов, в ходе которых вели наблюдение за социально-этическими принципами поведения машин с искусственным интеллектом.

Самую большую опасность, по мнению исследователей, могут таить в себе интеллектуальные автомобили с функцией автономного управления. Например, при столкновении такой автомобиль способен повысить шансы на выживание человека за счёт намеренного убийства другого участника движения. То есть машина принимает решение о сохранении жизни человека, опираясь не на морально-этические нормы, а согласно заданному уровню приоритета.

Специалисты из Университета Бата в Великобритании опасаются, что вскоре роботы научатся принимать самостоятельные решения исходя из рационализма ситуации, а такое понятие как этика и человечность не будет учитываться вообще. Алгоритмы обучения машинного интеллекта шагнули настолько далеко, что это может обернуться для человечества возможной катастрофой.

Учёные предупреждают об эволюции искусственного интеллекта, когда созданные для помощи человеку устройства, выйдут из под контроля и перестанут реагировать на наши команды.

Источник: Подробности