Распознавание лиц: инновационная разработка или технология, нарушающая конфиденциальность?

Распознавание лиц: инновационная разработка или технология, нарушающая конфиденциальность?

Запреты на технологию распознавания лиц, в основном, касались правоохранительных органов США, однако,  наблюдается растущая динамика, направленная на то, чтобы сделать это и в школах, парках и на частных предприятиях.

 В Сан-Франциско полицейский не может использовать ее в отношении арестованного. Но арендодатель может использовать относительно арендаторов, а школьный округ – учащихся.

Эра, в которой мы живем, попахивает средневековьем, когда в развитых странах камеры на каждом углу могут автоматически распознавать прохожих, нравится им это или нет. В США вопрос о том, кто должен иметь возможность использовать эту технологию, а кто – нет, остается, в основном, без ответа. До сих пор отрицательная реакция американцев на распознавания лиц была направлена, преимущественно,​ на правоохранительные органы. Сан-Франциско и Окленд, а также Сомервилль, штат Массачусетс, запретили полиции использовать технологию в прошлом году, потому что алгоритмы не точны относительно женщин и людей с другим цветом кожи. Кандидат в президенты Берни Сандерс (Bernie Sanders) даже призвал ввести мораторий на использование технологии полицией.

Частных компаний и владельцев недвижимости не касаются такие ограничения, и распознавание лиц все чаще появляется в многоквартирных домах, гостиницах и т. д. Сторонники конфиденциальности беспокоятся о том, что постоянный надзор приведет к дискриминации и окажет сдерживающее влияние на свободу слова – американскому обществу тоже не по душе такие перспективы. Согласно недавнему опросу, проведенному Pew Research в США, люди действительно лучше относятся к полицейским, использующим распознавание лиц, чем к частному бизнесу.

«Любой, кто ждет быстрого принятия федерального запрета – будь то для правоохранительных органов или частного сектора – скорее всего, будет разочарован. С федеральной точки зрения все, что может подорвать бизнес или инновации, не получит одобрения», –  подчеркнула эксперт по вопросам искусственного интеллекта Мутале Нконде (Mutale Nkonde), сотрудник Гарвардского центра Беркмана Кляйна.

Теоретически, запреты в городах, которые до сих пор были направлены на полицейских, могли бы распространяться на частные организации. Штаты могут затем принять их, что сможет стимулировать действия в Вашингтоне. Но это займет некоторое время, если это вообще произойдет. 

В то же время усиливается тенденция к сокращению частного наблюдения с использованием множества тактик. Большие корпоративные интересы опираются на правовую теорию о том, что представляют собой гражданские права в Америке. В настоящее время существует три основных подхода, которые могут однажды кардинально изменить то, как распознавание лиц используется в нашей жизни.

Стратегия  компании

По словам Эвана Грира (Evan Greer), заместителя директора группы по защите цифровых прав Fight for the Future, первая тактика – «корпоративное давление старой школы». Организация создала веб-сайт с перечнем авиакомпаний, которые используют распознавание лиц, чтобы побудить потребителей выбирать другие варианты.  Отчасти заявление Ticketmaster о том, что она может заменить билеты на идентификацию лица вдохновило Fight for the Future запустить кампанию, заставляющую администрацию концертных площадок и фестивалей не использовать технологию. Музыканты, в том числе – певица и автор песен Аманда Палмер (Amanda Palmer), рэпер Atmosphere и Том Морелло (Tom Morello) из Rage Against the Machine, поддержали этот проект.

Знаменитые музыкальные фестивали, такие как Governors Ball, Austin City Limits, Bonnaroo и  Pitchfork пообещали не использовать технологию распознавания лиц.

«Есть смысл в получении обязательств. Нам не нужно ждать, пока отрасль уже широко использует технологии и вплетает их в свою бизнес-модель», – отметил Грир.

Законодательный метод

Другая модель следует за прогрессированием запретов полицейских по городам. Город Портленд, штат Орегон, рассматривает два отдельных постановления, одно из которых запретит полицейским использовать эту технологию, а другое – частному бизнесу. Частный запрет не повлияет на использование Apple FaceID или Facebook для распознавания лиц в функции тегов. Городские власти больше обеспокоены перспективой магазинов и других заведений, требующих распознавания лиц для входа. Например, Джексонс, местный мини-маркет, начал это делать на ограниченной основе более года назад. Совет вновь обсудит такое предложение на встрече в ноябре.

 Между тем, американские женщины-конгрессмены Иветт Кларк (Yvette Clarke), Аянна Прессли (Ayanna Pressley) и Рашида Тлейб (Rashida Tlaib) делают упор не на географических регионах, а на определенных группах. Они представили федеральный законопроект, который запретил бы распознавание лиц в государственном жилом фонде, финансируемом из федерального бюджета.

 Использование распознавания лиц арендодателями быстро становится актуальной темой. Согласно недавнему отчету Pew, только 36% американцев считают, что для того, чтобы войти в дом, где они живут, требование распознавания лица – вполне нормальное. Эта проблема вызывает еще большую озабоченность относительно федеральной недвижимости или жилья для малообеспеченных людей. Жители говорят, что эта технология не только инвазивна, но и дискриминационна, потому что многие арендаторы – люди с другим цветом кожи. В Нью-Йорке, жители дома с низким доходом боролись с планом своего арендодателя по замене системы въезда с брелоками на систему распознавания лиц.

«Почему арендодатель выбрал наше здание, чтобы апробировать эту систему? По сравнению с 11 другими зданиями, которые имеют иной состав жильцов?», – спросил один из жителей Айсми Даунс (Icemae Downes).

Не нужно изобретать велосипед

По мнению Джевана Хатсона (Jevan Hutson), студента юридического факультета и исследователя технической политики в Вашингтонском университете, существующий закон также может быть обновлен, чтобы охватить распознавание лиц. В штатах уже есть законы о гражданских правах, которые предотвращают дискриминацию в общественных местах – в ресторанах, гостиницах, школах, больницах, парках, конференц-центрах и многих других. Учитывая тот факт, что технология не в состоянии справедливо поступать с людьми, Хатсон говорит, что можно выдвинуть юридический аргумент о том, что распознавание лица нарушает гражданские права. Если такое изменение будет принято, закон станет эффективно предотвращать развертывание технологии в огромном количестве общественных мест.

Другой способ – обновить законы штатов о защите прав потребителей. Многие компании утверждают, что их технология может обнаруживать эмоции, однако, исследования показали, что их методы глубоко ошибочны. Таким образом можно утверждать, что эти алгоритмы нарушают законы против недобросовестной или обманной практики.

Такой шаг заставляет лоббистов взаимодействовать с языком гражданских прав.

«Как будто мы обновляем закон о гражданских правах. Вы заботитесь о принципах гражданских прав. Если вы не хотите, чтобы мы это делали, как мы можем ожидать, что какая-либо из ваших предложенных  гарантий будет иметь значение?», – отмечает Хатсон. Он работает с законодателями и надеется представить законопроект на следующей законодательной  сессии в штате Вашингтон, которая начинается в январе.

Разделение? На самом деле, нет

На практике различие между государственным и частным распознаванием лиц является ложным.

«Нормализация одного нормализует другое. Все привыкли использовать систему распознавания лиц Facebook. Становится намного сложнее сказать, что правоохранительные органы, которые работают для нашего блага, должны иметь меньше свободы, чем вы. Когда распознавание лиц воспринимается как должное, в конечном счете, вы предоставляете частному сектору информацию, которой он может поделиться с правоохранительными органами», – объясняет Эван Селинджер (Evan Selinger), философ из Рочестерского технологического института.

Частный сектор является мощным и хочет иметь право голоса в регулировании. Генеральный директор Amazon Джефф Безос (Jeff Bezos) недавно заявил, что компания разрабатывает свой собственный проект руководящих принципов по распознаванию лиц, чтобы представить их законодателям. Ранее в этом году Microsoft поддержала законодательство о конфиденциальности в штате Вашингтон, которое наложило бы некоторые ограничения на идентификацию лица. Однако в законопроекте также говорится, что можно использовать распознавание лиц для профилирования, пока кто-то просматривает результаты. Это потерпело неудачу после того, как шесть групп конфиденциальности утверждали, что все было слишком неубедительно.

Такова одна из причин, по которой активисты, такие как Грир, настаивают на необходимости многосторонней стратегии, ориентированной на законодательные и экономические подходы.

«Нам нужно все вышеперечисленное. Представители общественности должны обязательно привлекать корпорации к ответственности. Законодатели обязаны заняться этим. Если есть одна вещь, которую мы знаем, это то, что мы не можем доверять отраслям, чтобы регулировать себя», – говорит представитель  Fight for the Future.

Оставьте свой комментарий