РИА Новости Украина
Согласно новому отчету проведенному группой независимых американских ученых по заказу Министерства обороны США, опасения об угрозах использования технологий искусственного интеллекта (ИИ) в оружейных системах — это результат недостаточной осведомленности.
Министерство обороны США ведет активную разработку систем оружия с искусственным интеллектом: роботы будут способны самостоятельно находить потенциальные цели и принимать решение, атаковать их или нет.
Опасения были связаны еще и с тем, что роботы, способные убивать, станут доступны экстремистам, говорит в интервью Sputnik профессор Марк Бишоп (Mark Bishop), директор исследовательского центра TCIDA при университете Голдсмитс, Лондон.
– Нужно учитывать две вещи. Если людям удастся создать робота, искусственный интеллект, если угодно, который будет самостоятельно думать, строить планы, способный испытывать чувства и осознать самого себя, то, возможно голливудские ужасы вполне могут воплотиться в жизнь. Но если приглядеться, станет ясно, что, согласно имеющимся у нас данным, все эти истории о скором создании настоящего искусственного интеллекта неимоверно раздуты. Так что волноваться о подобных вещах пока не приходится. И хотя люди вроде Стивена Хокинга и Элона Маска наделали немало шума своими заявлениями о том, что нам нужно бояться умных машин, они, по-моему, несколько перегибают палку. Это не означает, что нам не нужно беспокоиться о том, что искусственный интеллект все больше и больше используется в военной индустрии, в особенности для создания так называемых роботов-убийц. Но пускай сегодня и не существует систем, способных оставить человеческий интеллект позади, машины, снабженные слаборазвитым ИИ, искусственной глупостью, так сказать, тоже способны стать экзистенциальной угрозой для человечества.
Я опасаюсь, что использование машин со слабым ИИ в военных целях создает огромный риск эскалации. Возьмем, например, демилитаризованную зону на Корейском полуострове. Южная Корея вложила средства в создание робота-стража Samsung SGR-A1, предназначенного для автономного патрулирования; в случае угрозы, робот сообщит об этом оператору, который далее решает, какие меры нужно предпринять. Стоит чуть-чуть изменить ПО робота, и он сможет действовать полностью автономно. Итак, у Сеула есть такие роботы, но также можно предположить, что на определенной стадии они появятся и у Северной Кореи. Так что ситуация, в которой границу с обеих сторон патрулируют армии таких роботов, вполне реальна. А дальше малейшая глупость, вроде какой-нибудь бумажки, которую робот Сеула примет за атаку со стороны Пхеньяна, или наоборот, может привести к серьёзным последствиям. А если учитывать, что Северная Корея располагает ядерным оружием, то вероятность, что случится что-то непоправимое, снимать со счета нельзя, поскольку речь идёт о глупых машинах с искусственным интеллектом, которые взаимодействуют между собой без присмотра людей.
Смотрите также: В Японии создан робот с нейросетью, способный принимать решения
