Маск, Хокинг и Возняк призывают запретить войны AI и автономного оружия
Опубликованно 02.05.2018 11:40
Более 1000 высококлассных специалистов, искусственный интеллект и ведущих ученых подписали открытое письмо, предупреждающее о “военной искусственный интеллект гонка вооружений” и призывает к запрету на “наступление автономного оружия”.
В письме, представленном на международной Объединенной конференции по искусственному интеллекту в Буэнос-Айресе, Аргентина, был подписан Tesla Элон Маск, сооснователь Apple Стив Возняк, компания Google DeepMind Демис Хассабис исполнительный директор и профессор Стивен Хокинг вместе с 1000 AI и робототехники исследователи.
В письме говорится: “ИИ-технология достигла той точки, когда развертывание [автономной оружие] – практически, если не юридически осуществимо в течение лет, а не десятилетий, и ставки высоки: автономное оружие было описано как третья революция в военном деле, после пороха и ядерного оружия”.
Авторы утверждают, что ИИ может быть использован, чтобы сделать поле боя более безопасным для военнослужащих, но это наступательных вооружений, которые действуют на свой страх и приведет к снижению порога идти в бой и привести к гибели большого числа людей.
Если одна военная сила старта разработки систем, способных выборе целей и работая автономно без прямого контроля человека, он начнет гонку вооружений, подобной той, которая была атомная бомба, авторы утверждают.В отличие от ядерного оружия, однако мА не требует никаких особых и создаваемых материалов и будет трудно контролировать.
“Конечная точка этой технологической траектории очевидна: автономное оружие станет Калашникова завтрашнего дня. Ключевой вопрос для человечества сегодня состоит в том, начинать ли глобальную гонку вооружений AI или для предотвращения запуска”, - отметили авторы.
Тоби Уолш, профессор искусственного интеллекта в университете нового Южного Уэльса сказал: “Мы должны принять сегодня решение, которое будет формировать наше будущее и определить, будем ли мы следовать по пути добра. Мы поддерживаем призыв ряда различных гуманитарных организаций, введенный ООН запрет на наступательные автономный оружие, похожее на недавний запрет на ослепляющие лазеры”.
Маск и Хокинг предупредили, что ИИ-это “наша самая большая угроза существованию” и что создание полноценного ИИ может “означать конец человеческой расы”. Но другие, в том числе Возняк недавно изменили свое мнение о Ай, с Apple, со-основатель говорил, что роботов было бы хорошо для людей, делая из них как бы “домашнего питомца и заботятся все время”.
На конференции ООН в Женеве в апреле, обсуждая будущее оружия, в том числе так называемых “роботов-убийц”, Великобритания выступила против запрета на разработки автономного оружия, несмотря на призывы со стороны различных групп давления, в том числе кампании, чтобы остановить роботов-убийц.
• Мнение опекуна на роботов в качестве оружия: человеческий фактор
• DeepMind: искусственный интеллект-это инструмент, который люди могут контролировать и направлять’
Категория: Технологии