Сан-Франциско находится на пути к тому, чтобы стать первым городом США, который запретил использование распознавания лиц полицией и другими городскими агентствами, что отражает растущую реакцию против технологии, которая проникает в аэропорты, автомобильные отделения, магазины, стадионы и камеры видеонаблюдения.

Правительственные учреждения по всему США уже более десяти лет используют эту технологию для сканирования баз данных на предмет подозреваемых и предотвращения мошенничества с идентификацией. Но недавние достижения в области искусственного интеллекта создали более совершенные инструменты компьютерного зрения, которые упростили для полиции обнаружение пропавшего ребенка или протестующего в движущейся толпе или для розничных продавцов, чтобы проанализировать выражения лица покупателя, когда они просматривают полки магазинов.

Усилия по ограничению его использования получают отпор со стороны правоохранительных органов и технической индустрии, хотя это далеко не единый фронт. Microsoft, в отличие от прямого запрета, призвала законодателей установить ограничения на технологию, предупреждая, что оставление ее без контроля может привести к гнетущей дистопии, напоминающей роман Джорджа Оруэлла «1984».

 

«Распознавание лиц — это одна из тех технологий, которые люди получают, насколько она жуткая», — сказал Альваро Бедоя, который руководит Центром конфиденциальности и технологий Джорджтаунского университета. «Это не похоже на куки в браузере. В этой технологии есть что-то такое, что действительно мешает волосам».

Без правил, запрещающих правоохранительным органам получать доступ к базам данных водительских прав, люди, которые никогда не были арестованы, могли бы быть частью виртуальных полицейских, не подозревая об этом, говорят скептики технологии.

Они беспокоятся, что однажды люди не смогут пойти в парк, магазин или школу, если их не опознают и не выследят.

Уже несколько крупных магазинов в США испытывают камеры с распознаванием лиц, которые могут угадывать возраст, пол или настроение своих клиентов, когда они идут, с целью показать им целевую рекламу в реальном времени в магазине. видео экраны.

Если Сан-Франциско примет запрет, другие города, штаты или даже Конгресс могут последовать примеру законодателей обеих сторон, стремясь сократить правительственный надзор, а другие надеются ограничить то, как предприятия анализируют лица, эмоции и поступки ничего не подозревающей публики.

Законодательное собрание Калифорнии рассматривает предложение, запрещающее использование технологии идентификации лица на телекамерах. Двухпартийный законопроект в Сенате США освобождает от полицейских заявлений, но устанавливает ограничения для предприятий, анализирующих лица людей без их согласия.

Законодательство, аналогичное законодательству Сан-Франциско, находится на рассмотрении в Окленде, штат Калифорния, и в четверг в Сомервилле, штат Массачусетс, был введен еще один предлагаемый запрет.

Бедоя сказал, что запрет в Сан-Франциско, «самом технологически развитом городе в нашей стране», будет направлять предупреждение другим полицейским управлениям, которые хотят опробовать несовершенную технологию. Но Даниэль Кастро, вице-президент поддерживаемого отраслью Фонда информационных технологий и инноваций, сказал, что постановление слишком экстремально, чтобы служить образцом.

«Это может найти успех в Сан-Франциско, но я буду удивлен, если он найдет успех во многих других городах», — сказал он.

Сан-Франциско является домом для технических новаторов, таких как Uber, Airbnb и Twitter, но отношения города с индустрией вызывают сомнения. Некоторые руководители в мэрии призывают к налогу на фондовую компенсацию в ответ на волну публичных компаний Сан-Франциско, в том числе Lyft и Pinterest.

В то же время Сан-Франциско активно защищает иммигрантов, гражданские свободы и частную жизнь. В ноябре почти 60% избирателей одобрили предложение об усилении принципов конфиденциальности данных.

Предложенный городом запрет на распознавание лиц является частью более широкого законодательства, направленного на регулирование использования надзора городскими департаментами. Законодательство применяется только к правительству Сан-Франциско и не затронет компании или людей, которые хотят использовать технологию. Это также не повлияет на использование распознавания лиц в международном аэропорту Сан-Франциско, где безопасность в основном контролируется федеральными агентствами.

Совет наблюдателей планирует провести голосование по законопроекту во вторник.

Полиция Сан-Франциско заявила, что прекратила тестирование распознавания лиц в 2017 году. Официальный представитель Дэвид Стивенсон заявил в своем заявлении, что департамент с нетерпением ожидает «разработки законодательства, которое учитывает проблемы конфиденциальности технологии и одновременно уравновешивает проблемы общественной безопасности нашего растущего международного города».

Супервайзер Аарон Пескин признает, что его законодательство, названное «Постановление о тайном надзоре за соблюдением тайны», не очень технологично. Но общественный контроль имеет решающее значение, учитывая возможность злоупотреблений, сказал он.

Технология часто дает сбой. Исследования показали, что частота ошибок в системах анализа лица, созданных Amazon, IBM и Microsoft, была гораздо выше для темнокожих женщин, чем для мужчин со светлой кожей.

Даже если бы распознавание лица было совершенно точным, его использование представляло бы серьезную угрозу гражданским правам, особенно в городе с богатой историей протестов и выражений, сказал адвокат ACLU Северной Калифорнии Мэтт Кейгл.

«Если бы распознавание лиц было добавлено к телекамерам или публичным каналам наблюдения, это поставило бы под угрозу возможность людей пойти на акцию протеста или потусоваться в парке Долорес без отслеживания их личности городом», — сказал он, ссылаясь на популярный парк в районе миссии Сан-Франциско.

Местные критики законодательства Сан-Франциско, однако, беспокоятся о том, чтобы препятствовать полицейским расследованиям в городе с большим количеством взломов транспортных средств и несколькими громкими ежегодными парадами. Они хотят убедиться, что полиция может продолжать использовать видеонаблюдение торговцев и жителей в расследованиях без бюрократических хлопот.

Джоэл Энгардио, вице-президент общественной группы Stop Crime SF, хочет, чтобы город был гибким.

«Наша точка зрения заключается в том, что вместо полного запрета навсегда, почему бы не ввести мораторий, чтобы мы не использовали проблемные технологии, а открыли двери для улучшения технологий?» он сказал.

Такой мораторий находится на рассмотрении в законодательном органе штата Массачусетс, где он пользуется поддержкой сенаторов-республиканцев и демократов.

Зачастую усилия правительства по распознаванию лиц происходят тайно или остаются незамеченными. В штате Массачусетс автомобильный реестр использует эту технологию с 2006 года для предотвращения мошенничества с водительскими правами, и некоторые полицейские органы используют ее в качестве инструмента для детективов.

«Это технология, которую мы используем», — сказал лейтенант полиции штата Массачусетс Том Райан, добавив, что «мы не слишком увлекаемся пропагандой» этого факта. Райан и агентство отказались отвечать на дальнейшие вопросы о том, как это используется.

Сенатор Массачусетса Синтия Крим, демократ и спонсор законопроекта о моратории, говорит, что она обеспокоена отсутствием стандартов, защищающих общественность от неточной или предвзятой технологии распознавания лиц. До тех пор, пока не появятся лучшие руководящие принципы, она сказала, что «оно не должно использоваться» правительством.

Представительница Калифорнии Highway Patrol не использует технологию распознавания лиц, сказала пресс-секретарь Фрэн Клэдер.

Представитель департамента транспортных средств Калифорнии Марти Гринштейн говорит, что технология распознавания лиц «специально не разрешена на фотографиях DMV». Пресс-секретарь Министерства юстиции Дженнифер Молина заявила, что ее агентство не использует технологию идентификации лица , и политика заявляет, что «Министерство юстиции и лица, запрашивающие, не должны хранить изображения DMV с целью создания базы данных» без разрешения.

Законодатели также добивались моратория на распознавание лиц в этом году в Вашингтоне, родном штате Microsoft и Amazon, но он был разрушен после противодействия промышленности и полиции. Вместо этого Microsoft поддержала более легкое предложение в рамках более широкого законопроекта о конфиденциальности данных, но обсуждение застопорилось до того, как законодатели отложили работу в конце прошлого месяца.