Втратила контроль: нейромережа відмовилася бути толерантною

0

Дослідники з Массачусетського технологічного університету і Стенфорда вивчили три популярні комерційні ШІ-алгоритму розпізнавання осіб і виявили в них ознаки сексизму та расизму. Виявилося, що при аналізі фотографій білих чоловіків алгоритми невірно визначали стать лише у 0,8% випадків, а у разі темношкірих жінок — у 34,7%. Подробиці дослідження повідомляє Science Daily.

 

 

Джой Буоламвини, провідний автор дослідження, вперше зіткнулася з проблемою упередженості алгоритмів кілька років тому. Для свого аспірантського проекту вона використовувала комерційну програму для розпізнавання осіб. Команда Джой була етнічно і расово строкатою, в ході роботи виявилося, що алгоритм надійно працює тільки з її єдиним білим учасником. Буоламвини, сама темношкіра, спробувала проаналізувати власні фото, і виявилось, що система або зовсім не розпізнає її особу, або невірно визначає стать.

 

 

Щоб дослідити подібні помилки систематично, дослідниця зібрала добірку зображень, де темношкірі і жінки були представлені набагато краще, ніж у стандартних тестах, що використовуються для перевірки систем розпізнавання осіб. Всього в добірці було більше 1200 зображень. Потім всі зображення були оцінені по шкалі відтінків шкіри Фіцпатріка.

 

 

Зібрана добірка використовувалася, щоб перевірити три комерційні системи розпізнавання осіб, створені провідними технологічними компаніями. Виявилося, що всі вони набагато точніше працюють з фотографіями білих чоловіків, а у випадку жінок і темношкірих відсоток помилок зростає. Для жінок з темною шкірою — з оцінкою IV, V або VI за шкалою Фіцпатріка — коефіцієнт помилок склав 20,8%, 34,5% та 34,7% відповідно.

 

Раніше портал "Знай.uа" повідомив, що нейромережа стане "призначати" злочинців.

Компанія повідомила про подальшу долю двох лінійок смартфонів
0
18:43 16.08.18
Тепер вони можуть викликати один одного, доповнюючи відповідь на поставлене питання
0
16:01 16.08.18
Тепер громадські місця будуть під надійним захистом
0
14:49 16.08.18
Тепер навіть браслети можуть відповідати на смс і дзвінки
0
14:19 16.08.18
Скоро Apple знову завоює користувачів революційним девайсом
0
13:36 16.08.18
На цей раз розслідування не пов'язано з патентами
0
13:31 16.08.18
Компанія намагається повернутися на ринок смартфонів через довгий час
0
13:10 16.08.18
Компанія знизила ціни на свої послуги
0
12:43 16.08.18
Тепер ноутбук від Apple зможе дозволити собі кожен
0
11:55 16.08.18
Потрібно зробити лише кілька дій
0
10:07 16.08.18
Варто придивитися до свого телевізора
0
17:45 15.08.18
Тепер навіть камери поліцейських в небезпеці
0
17:20 15.08.18
Тепер браузер буде вам економити час
0
17:08 15.08.18
Компанія знову підкорить фанатів новими флагманами
0
16:56 15.08.18
Компанія більше не виробляє смартфони
0
15:50 15.08.18