Мета изменит алгоритм, который позволял людям проявлять расизм при рекламе жилья

Будущие технологии и их применение

Согласно пресс-релизу правительства, Meta согласилась изменить свой рекламный алгоритм, чтобы он был менее дискриминационным.

Компания сообщила Министерству юстиции (DOJ), что изменит свой алгоритм в рамках мировое соглашение, разрешающее обвинения в том, что Meta нарушила Закон о справедливом жилищном обеспечении (FHA). По данным Министерства юстиции, система рекламы жилья Meta незаконно дискриминировала пользователей Facebook на основании их «расы, цвета кожи, религии, пола, инвалидности, семейного положения и национального происхождения».

Урегулирование урегулировало первый судебный процесс Министерства юстиции, оспаривающий алгоритмическую дискриминацию в соответствии с Законом о справедливом жилищном обеспечении. В иске утверждалось, что Meta использовала алгоритмы, которые частично полагались на характеристики, защищенные FHA, чтобы определить, какие пользователи Facebook получали рекламу жилья.

В соответствии с новым соглашением Meta согласилась «​в течение следующих шести месяцев разработать новую систему для устранения расовых и других различий, вызванных использованием алгоритмов персонализации в своей системе доставки рекламы для размещения рекламы». но новый алгоритм должен быть одобрен Министерством юстиции, прежде чем он будет реализован. Если Министерство юстиции решит, что алгоритма недостаточно для разрешения его жалобы, мировое соглашение будет расторгнуто.

Иск зависел от трех ключевых аспектов системы таргетинга и доставки рекламы Meta, утверждая, что компания «включила и поощрял» рекламодателей решать, имеют ли пользователи право получать рекламу жилья, полагаясь на атрибуты защищенной идентификации. В иске говорится, что Facebook затем разработала инструмент под названием «Похожая аудитория», который использовал машинное обучение для поиска пользователей Facebook, которые имеют сходство с теми, кто считается имеющим право на рекламу жилья, также используя характеристики, защищенные FHA. Наконец, в иске утверждалось, что Meta использовала эти характеристики, чтобы определить, какое подмножество целевой аудитории рекламодателя будет получать рекламу.

Мета также была оштрафована на 115 000 долларов.

В соглашении говорится, что Facebook должен прекратить использование инструмента «Похожая аудитория» (теперь он называется «Специальная рекламная аудитория») к январю 2023 года, и в этот же срок компания должна разработать новый алгоритм для определить выбор рекламы жилья. 

«Это историческое соглашение, знаменующее собой первый случай, когда Meta согласилась закрыть один из своих инструментов алгоритмического таргетинга и изменить свои алгоритмы показа рекламы жилья в ответ на нарушение гражданских прав. иск», — заявила помощник генерального прокурора Кристен Кларк. «Министерство юстиции стремится привлечь к ответственности Meta и другие технологические компании, когда они злоупотребляют алгоритмами, нанося незаконный ущерб маргинализированным сообществам».

Meta — не единственная технологическая компания, подвергшаяся критике за нарушение Закона о справедливом жилищном обеспечении. Действовать. В апреле гигант недвижимости Redfin согласился выплатить штраф в размере 4 миллионов долларов и внедрить новую систему внутреннего контроля в результате судебного иска от Национального альянса за справедливое жилищное строительство. Zillow, еще один технологический гигант в сфере недвижимости, несколько раз обвинялся в размещении списков, нарушающих FHA.

Узнайте больше о технологиях и политике Daily Dot