AI для распознавания лиц оказался сексистским и расистским

AI для распознавания лиц оказался сексистским и расистским

Массачусетский технологический институт и исследователи из Стэнфорда исследовали три популярных алгоритма распознавания лиц AI, выявляя признаки сексизма и расизма. Оказалось, что алгоритмы при анализе фотографий белых мужчин ошибочно определили пол только в 0,8% случаев и у темных женщин в 34,7%. Подробная информация об исследовании сообщается Science Daily.

Джой Буоламвини, ведущий автор исследования, впервые столкнулась с проблемой алгоритмов смещения несколько лет назад. Она использовала коммерческую программу распознавания лиц для своего выпускного проекта. Команда Joy была этнически и расово-красочной, и в ходе работы выяснилось, что алгоритм работает надежно только с его единственным белым участником. Буоламвини, темнокожая сама, попыталась проанализировать свои собственные фотографии, и оказалось, что система либо не распознала ее лицо, либо недооценила свой пол.


. Чтобы систематически исследовать такие ошибки, исследователь собрал коллекцию изображений, в которых чернокожие и женщины были намного лучше стандартных систем распознавания лиц. В целом коллекция насчитывала более 1200 картин. Затем все изображения оценивались по шкале тонов кожи Фицпатрика.

Коллекция была использована для тестирования трех коммерческих систем распознавания лиц, созданных ведущими технологическими компаниями. Оказывается, все они работают гораздо точнее с фотографиями белых мужчин, а в случае женщин и чернокожих процент ошибок увеличивается. У женщин с темной кожей — с оценкой IV, V или VI по шкале Фицпатрика — частота ошибок составила 20,8%, 34,5% и 34,7% соответственно. Фактически, во многих случаях система принимала произвольные решения.

Исследование ставит важный вопрос о работе современных нейронных сетей и выборе данных для машинного обучения. В анализе использовались только три коммерческих программы, но другие похожие алгоритмы, определяющие пол, возраст и настроение, а также те, которые используются для сравнения лиц на разных фотографиях, будут испытывать схожие проблемы.

. По мнению некоторых экспертов, дискриминация в области ИТ, будь то расизм или сексизм, препятствует развитию технологий и способствует глобальному неравенству. Борьба с сексизмом была даже названа одной из основных тенденций развития отрасли в 2017 году.

Похожие новости