Белый дом представил «Билль о правах» для защиты от оскорбительного ИИ

Будущие технологии и их применение

Во вторник Белый дом обнародовал ряд руководящих принципов, направленных на защиту населения США от развивающихся технологий, использующих искусственный интеллект (ИИ).

Эти руководящие принципы, называемые “планом Билль о правах ИИ,” уделите особое внимание вопросам, связанным с ИИ, таким как конфиденциальность данных и предвзятые алгоритмы.

Концепция, представленная Управлением по науке и технологиям Белого дома, содержит пять принципов, которыми должны руководствоваться технологические компании. проектирование, использование и развертывание автоматизированных систем.”

“Проект Билля о правах ИИ – это руководство для общества, которое защищает всех людей от этих угроз и использует технологии таким образом, чтобы укреплять наши самые высокие ценности,” говорится в пресс-релизе. «Отвечая на опыт американской общественности и опираясь на идеи исследователей, технологов, адвокатов, журналистов и политиков, эта концепция сопровождается «От принципов к практике» — справочником для всех, кто хочет включить эти средства защиты в политику. и практика, включая подробные шаги по реализации этих принципов в процессе технологического проектирования». и призывает к «разработке автоматизированных систем при консультациях с различными сообществами, заинтересованными сторонами и экспертами в предметной области для выявления проблем, рисков и потенциального воздействия системы».

“ ;Системы должны подвергаться тестированию перед развертыванием, выявлению и снижению рисков, а также постоянному мониторингу, демонстрирующему их безопасность и эффективность на основе их предполагаемого использования, смягчению небезопасных результатов, включая те, которые выходят за рамки предполагаемого использования, и соблюдению стандартов, специфичных для предметной области.& №8221; в руководстве говорится. «Результаты этих защитных мер должны включать возможность отказа от развертывания системы или прекращения ее использования».

Второй принцип описывает «защиту от алгоритмической дискриминации»; в попытке оградить людей от различного обращения на основе классификаций, защищенных законом, включая расу, цвет кожи, этническую принадлежность, пол, религию, возраст и национальное происхождение.

“Дизайнеры, разработчики и развертыватели автоматизированных систем должны принимать упреждающие и постоянные меры для защиты отдельных лиц и сообществ от алгоритмической дискриминации, а также для справедливого использования и проектирования систем». добавлен пресс-релиз.

Конфиденциальность данных также указана в числе пяти принципов. Сбор данных, по мнению Белого дома, должен соответствовать «разумным ожиданиям». и ориентируйтесь только на ту информацию, которая «строго необходима».

Компаниям настоятельно рекомендуется искать пользователей’ разрешение “относительно сбора, использования, доступа, передачи и удаления ваших данных”

“Вы и ваши сообщества должны быть свободны от неконтролируемого наблюдения; технологии наблюдения должны подлежать усиленному надзору, который включает, по крайней мере, предварительную оценку их потенциального вреда и ограничений области действия для защиты частной жизни и гражданских свобод” принцип гласит. «Непрерывное наблюдение и мониторинг не должны использоваться в сфере образования, работы, жилья или в других контекстах, где использование таких технологий наблюдения может ограничить права, возможности или доступ».

< р> Четвертый принцип, озаглавленный “Уведомление и объяснение” утверждает, что пользователи должны знать, используется ли автоматизированная система компанией, в первую очередь путем предоставления «общедоступной документации на простом языке»; который включает “четкие описания” того, как функционирует система.

“Автоматизированные системы должны предоставлять объяснения, которые являются технически обоснованными, содержательными и полезными для вас и любых операторов или других лиц, которым необходимо понять систему, и откалиброваны до уровня риска в зависимости от контекста,” — заявил Белый дом.

Пятый и последний принцип указан как “Человеческие альтернативы, рассмотрение и отступление” и заявляет, что пользователи должны иметь возможность отказаться от автоматизированных систем «в пользу человеческой альтернативы». процесс отката и эскалации, если автоматизированная система дает сбой, выдает ошибку или вы хотите подать апелляцию или оспорить ее влияние на вас” план говорит. «Человеческое внимание и отступление должны быть доступными, справедливыми, эффективными, поддерживаться, сопровождаться соответствующей подготовкой операторов и не должны ложиться необоснованным бременем на общественность».

Белый дом утверждает, что пять принципов, если их применять, могут «сформировать перекрывающийся набор мер защиты от потенциального вреда».

“ план, помогающий защитить население от вреда,” говорится в пресс-релизе. “Меры, принимаемые для реализации видения, изложенного в этой структуре, должны быть пропорциональны степени и характеру вреда или риска причинения вреда правам, возможностям и доступу людей”

Узнайте больше о технологиях и политике Daily Dot