Амазонки распознавания ложно матчи 28 законодателей с фото, АСГС говорит
Опубликованно 05.09.2018 00:30
Технология распознавания Амазонки лица ошибочно выявлено 28 членов Конгресса, как люди, которые были арестованы за преступления, по данным американского Союза гражданских свобод (aclu).
АСГС испытания Северной Калифорнии спорных программного обеспечения Амазонки Rekognition также обнаружили, что люди цвета были непропорционально ошибочно в базе данных фотографии, вызывающими новые опасения в отношении расовых предрассудков и потенциал для злоупотреблений со стороны правоохранительных органов.
Отчет последовали разоблачения в мае, что Amazon уже маркетинг и продажа технологии Rekognition полицейских органов, ведущих защитников частной жизни, чтобы призвать генеральный директор Джефф Безос прекратить предоставление продукта правительству.
“Наш тест подтверждает, что лицо надзора не является безопасным для использования правительством,” Иаков снег, технологиям и гражданским свободам адвоката в фундамент американского Союза гражданских свобод Северной Калифорнии, говорится в сообщении. “Лицом видеонаблюдения будет использоваться для питания дискриминационных видеонаблюдения и полицейской деятельности, который нацелен на цветные общины, мигрантов и активистов. Когда-то развязал, что ущерб не может быть отменено.” 'Катастрофа': Амазонки под обстрелом продажа программа распознавания лиц в полицию Подробнее
АСГС использована такая же система распознавания лиц, что Amazon предлагает на суд общественности, проверка соответствий между изображениями ликов. Группа построила базу лиц и поиск инструмента, используя 25 000 государственных арест фото, затем сопоставили эти данные с публичных фотографий каждого члена Палаты представителей США и Сената.
Из 28 человек ошибочно тест американского Союза гражданских свобод, 11 из них были людьми цвета, почти 40% из тех, кто неправильно подобраны, несмотря на то, что люди цвета составляют только 20% из тех в Конгрессе. Шесть членов Конгресса группы чернокожих были включены в ложных матчей, включая лидера движения за гражданские права Джон Льюис.
“Тест планшетов показывает, без тени сомнения, что многие из нас уже знают – это инструмент для распознавания Амазонки является дискриминационным ... и, следовательно, опасно для демократии”, - сказал Malkia Кирилл, исполнительный директор Центра Медиа справедливости. “Они должны свернуть его немедленно”.
Амазонки защищали свою технологию в заявлении, говоря, что результаты американского Союза гражданских свобод может “вероятно, будет улучшен”, если тест был увеличен “порог доверия”, то вероятность того, что Rekognition найдено совпадение. АСГС использовали 80% - ный порог доверия, но Amazon говорится в ее заявлении, “при использовании распознавания лица для деятельности правоохранительных органов, мы направляем клиентов для того чтобы установить порог, по крайней мере 95% или выше”.
Американский Союз защиты гражданских свобод, однако, отметил, что он использовал настройки по умолчанию совпадают, что Amazon набор для Rekognition, и что в настоящее время компания ссылается на 80% уверенность метрика для распознавания лица на собственном сайте.
Ответ Амазонки, казалось, признать, что его технологии не будет хорошо работать в стандартном режиме, Сноу сказал в интервью: “по существу, они утверждают, что их продукт не работает из коробки.”
Он также отметил, что не было никаких доказательств, Amazon был фактически направляя полиции, чтобы использовать более высокий порог, и что даже если компания делает эти рекомендации, нет никаких гарантий, что полиция, используя этот стандарт. Технология позволяет правоохранительным органам изменить свои пороги.
“Амазонки не в состоянии взять на себя ответственность за Rekognition и как Rekognition развертывается в общинах,” сказал Сноу, добавив, что Конгресс должен ввести мораторий на использование государственных средств для распознавания. Microsoft называет для потенциальных признание правил техники лица дали 'злоупотребления' Подробнее
Три члена Конгресса написал Безос в четверг с просьбой предоставить ему копии любых внутренних точность оценок или предвзятость, что Amazon выступила на Rekognition и списки полиции или спецслужб, которые используют программное обеспечение или были в контакте с компанией о возможности приобретения.
В письме говорилось, что “эффективность и результативность технологии еще не до конца поняли”, и отметил, что “ни Конгресс, ни законодательные органы Штатов были приняты законы, прямо допускающие использование распознавания лица по поддержанию правопорядка”.
Исследования показали, что технология распознавания лиц не распознает чернокожих, женщин и молодых людей более высокими темпами, чем пожилых белых мужчин.
Если полицейские используют Амазонки технологии в больших масштабах, “сотни тысяч людей стоят, чтобы быть неправильно определила”, - сказал Кирилл, отметив, что это повлияет на “цветные и особенно черные люди, которые уже подвергаются дискриминации в нашей нынешней американской системы поддержания правопорядка, которые уже столкнулись опасные взаимодействия с полицией”.
“Полиция будет иметь инструмент, чтобы помочь этой дискриминации”, - продолжил Кирилл, добавив, что Амазонка “играть в политику с жизнями людей”.
Амазонки пресс-секретарь утверждал, что Rekognition полезных приложений, таких как “предупреждение торговли людьми” и “блокировать эксплуатации детей”, добавив: “мы по-прежнему рады тому, как изображения и видео анализ может быть движущей силой добра в мире, в том числе в государственном секторе и правоохранительных органов”.
Amazon никак не раскрыта полицейскими органами, которые могут использовать программное обеспечение и не отвечать на вопросы о его партнерами правоохранительных органов в четверг.
Категория: Технологии
