Театр этики Люди доверяют цифровому миру буквально все: деньг | Проявитель, 18

Театр этики

Люди доверяют цифровому миру буквально все: деньги, здоровье, безопасность. Это значит, что мы уже не просто пользуемся технологиями, а зависим от них. Именно поэтому компании, а иногда и государства предлагают свои этические кодексы ИИ. Такой, например, появился в России в конце 2021 года. Гарантируют ли эти кодексы безопасность на самом деле?

Ethics washing (дословно «стирка этики») — одна из основных фраз, необходимых для понимания пользовательской безопасности в сети и честности интернет-компаний. Она означает практику создания или преувеличения интереса организации к справедливым системам ИИ и хранения данных, а также к общим вопросам морали и толерантности. Когда всем своим важным видом говорят: «Мы этичная организация, вы только посмотрите на эти политики». Поэтому Ethics washing еще называют «театром этики» или «этическим камуфляжем».

Распространенный пример — ситуация, когда компания с одной стороны заявляет о защите прав людей как о главном приоритете развития ИИ, а с другой — продает данные пользователей правительствам и корпоративным клиентам. Так, в 2016 году компания Microsoft опубликовала датасет из 10 млн фотографий людей. Их использовали для обучения систем распознавания лиц IBM, Alibaba и другие компании, а также американские военные. Люди на изображениях, разумеется, не давали согласия на использование своих фото. В 2019 году компания все же удалила данные.

Происходит ли это из-за серии ошибок или нежелания решать этические проблемы реальным образом? Скорее из-за того, что выбранная политика этих организаций в лучшем случае искусственная, в худшем — лицемерная. Ее последствия могут быть неприятными в долгосрочной перспективе: такими, например, как потеря доверия сотрудников. Так произошло с Facebook* в прошлом году. Фрэнсис Хауген, которая опубликовала десятки тысяч внутренних документов компании, рассказала, что за время ее работы Facebook* регулярно доказывал, что предпочитает прибыль, а не безопасность своих пользователей.

#это_не_этично

*Meta, в том числе ее продукты Facebook и Instagram, признана экстремистской организацией в России