Этика сбора данных

Словарь

English	Русский
ethical/ˈeθɪkl/	этический
Privacy/ˈprɪvəsi/	Приватность
bias/ˈbaɪəs/	предвзятость

Данные имеют последствия

Программы собирают и обрабатывают данные о реальных людях — с реальными последствиями.
То, как данные собираются, хранятся и используются, поднимает этические вопросы.
Полезный набор данных также может раскрыть информацию или навредить людям, содержащимся в нем.
Ответственные программисты думают о воздействии до сбора данных.

Конфиденциальность и согласие

Конфиденциальность: люди имеют право контролировать информацию о себе.
Собирайте только то, что вам нужно, и получайте согласие там, где это уместно.
Хранение конфиденциальных данных создает обязанность защищать их от неправомерного использования или утечек.
«Потому что мы можем» — плохая причина для сбора персональных данных.

Предвзятость и справедливость

Данные могут содержать предвзятость — паттерны, которые несправедливо относятся к определенным группам.
Алгоритм, обученный на предвзятых данных, может усилить эту несправедливость в масштабе.
Справедливые системы требуют проверки кого представляют данные и кого они исключают.
Корректно выглядящий код все равно может давать несправедливые результаты.

Собственность и безопасность

Данные и код имеют собственность — соблюдайте лицензии, указывайте источники, не воруйте.
Безопасность: защищайте хранящиеся данные, чтобы их не украли и не изменили.
Утечка данных может навредить тысячам людей одновременно.
Этика — это не просто декоративная добавка; она является частью ответственной разработки программного обеспечения.

Исследовать

Это этическая норма или проблема?

Распределите каждую практику сбора данных.

Watch out

«Программа работает корректно» — не то же самое, что «программа этическая». Код, который работает, все равно может нарушать конфиденциальность, усиливать предвзятость или подвергать данные риску из-за слабой безопасности. Перед сбором или обработкой данных о людях спросите себя: что именно вам нужно, чье у вас есть согласие, кого представляют эти данные и как вы будете их защищать.

Example

Школьное приложение, хранящее оценки учеников:

Конфиденциальность: собирайте только необходимые оценки, а не посторонние личные детали.
Предвзятость: функция «рекомендации» не должна ставить в невыгодное положение никакую группу.
Безопасность: защищайте хранящиеся оценки, чтобы они не утекли и не были изменены.

Key idea

Сбор данных о людях порождает этические обязательства: защищать конфиденциальность (собирать только необходимое, получать согласие), беречься от предвзятости, которая может усиливаться в масштабе, уважать собственность и обеспечивать безопасность. Корректный код автоматически не означает этический — взвешивайте, кто пострадает, прежде чем собирать или обрабатывать данные.