При этом с моральными дилеммами эксперты по компьютерным наукам сталкиваются постоянно. Так, Пирсон столкнулась с этическими вопросами, когда работала на платформе онлайн-образования Coursera. Исследовательница создала алгоритм, который рекомендует курсы в зависимости от пола пользователей. Как выяснилось впоследствии, ее решение советует курсы по компьютерным технологиям только мужчинам.
Аналогичная ситуация имеет место и в юридической сфере, где предвзятость алгоритмов уже доказана: они чаще видят угрозу в афроамериканцах и чаще подозревают их в преступлениях. Очевидно, что от таких алгоритмических «заскоков», если их вовремя не выявить и не устранить, в конечном счете могут пострадать миллионы людей.
Отдельно Пирсон отмечает, что работу специалистов по компьютерным науками могли бы курировать эксперты с гуманитарным образованием, но такой подход, по ее мнению, неэффективен. Сформировать собственный кодекс должны сами ученые, ведь только они обладают необходимыми экспертными знаниями.
«Сложно регулировать предвзятость алгоритмов при использовании векторного представления, если вы понятия не имеете, что такое векторное представление», — пишет Пирсон.
По ее словам, изучение этических норм должно начинаться еще в университете, и немалую роль в этом играют преподаватели. Они должны объяснить студентами, каким влиянием обладают их разработки. Тогда студенты смогут понять, что их знания способны не только принести пользу и богатство, но и разрушить чужие жизни.
Наконец, аспирантка считает, что технологические компании должны принимать на работу специалистов-гуманитариев и сотрудничать с теми, кого алгоритмы часто исключают из поля зрения или дискриминируют. При этом Пирсон признает, что такой подход замедлит работу «машины Кремниевой долины». Но, сбавив темпы, можно будет избежать потерь, уверена исследовательница.
Источник: hightech.fm