Предвзятость вычислений
| English | Русский |
|---|---|
| Computing bias/kəmˈpjuːtɪŋ ˈbaɪəs/ | Предвзятость вычислений |
| training data/ˈtreɪnɪŋ ˈdeɪtə/ | обучающие данные |
| diverse/daɪˈvɜːs/ | разнообразный |
Несправедливость, заложенная в программу
- Вычислительная предвзятость — это несправедливость, заложенная в программу, иногда даже без понимания разработчиков.
- Программа может относиться к некоторым группам хуже, чем к другим.
- Это не всегда преднамеренно; это может быть случайностью того, как была построена программа.
- Предвзятость важна, потому что программное обеспечение все чаще принимает реальные решения о людях.
Предвзятость вычислений — это:
Она может относиться к некоторым группам хуже даже по ошибке.
Предвзятость исходит из данных
- Одним из основных источников являются данные, используемые для создания программы.
- Многие современные программы обучаются на обучающих данных — примерах, которые они изучают для выявления закономерностей.
- Если эти данные предвзяты, результаты программы тоже будут предвзятыми.
- Предвзятые обучающие данные приводят к несправедливым результатам для недопредставленных групп.
Как предвзятость попадает в программу
Предвзятые обучающие данные заставляют программу усваивать искаженные паттерны и выдавать несправедливые результаты; разнообразное тестирование выявляет это, а репрезентативные данные снижают риск.
Программы, изучающие примеры, анализируют свои ______ данные для поиска паттернов.
Предвзятые обучающие данные дают предвзятые результаты.
Основным источником предвзятости вычислений является:
Если данные искажены, результаты программы также будут искажены.
Тестирование с разнообразной аудиторией
- Тестирование с разнообразными пользователями и данными помогает выявить скрытую предвзятость до выпуска.
- Если все, кто тестирует, выглядят одинаково, предвзятость остается невидимой.
- Разнообразный набор тестов выявляет места, где программа дает сбои у разных групп.
- Именно поэтому разнообразное тестирование является основным исправлением, а не дополнительной опцией.
Тестирование с разнообразным набором пользователей помогает выявить скрытую предвзятость перед релизом.
Разнообразный набор тестов обнаруживает сбои у разных групп.
Система распознавания лиц, обученная преимущественно на светлокожих мужчинах, допускает больше ошибок у остальных, потому что:
Недопредставленные группы получают худшие результаты.
Разработчики могут снизить предвзятость, используя:
Репрезентативные данные и перекрестная проверка по группам делают результаты более справедливыми.
Снижение предвзятости
- Разработчики могут сократить предвзятость, используя репрезентативные данные и проверяя результаты по разным группам.
- Цель — программа, которая работает справедливо для всех, а не только для большинства.
Распознавание лиц. Система, обученная преимущественно на мужчинах со светлой кожей, хорошо работает на них, но допускает гораздо больше ошибок при работе с женщинами и людьми с более темной кожей — она видела меньше таких лиц во время обучения. Разработчики не планировали этого; предвзятость возникла из нерепрезентативных обучающих данных. Тестирование с разнообразным набором лиц выявило бы эту проблему.
Вычислительная предвзятость — это несправедливость, заложенная в программу, часто unintentionально. Основным источником является предвзятая обучающая выборка — если примеры смещены, то и результаты тоже. Тестирование с разнообразными пользователями выявляет скрытую предвзятость до релиза, а использование репрезентативных данных и проверка по группам снижают её.