Se você visitar uma das portas de entrada para a glamourosa Riviera Francesa, saiba de uma coisa: você estará sendo observado. Esse resort mediterrâneo ensolarado, palco de um terrível ataque terrorista em 2016, tornou-se o que seu prefeito chama de “a cidade mais monitorada da França” – e um laboratório para uma revolução global na aplicação da lei, impulsionada pela inteligência artificial (IA).

Um total de 4,2 mil câmeras estão instaladas em espaços públicos, ou seja, uma para cada 81 habitantes. Essas não são as câmeras de CCTV de antigamente. Algumas são equipadas com imagens térmicas e outros sensores. E estão conectadas a um centro de comando e à tecnologia de IA que pode sinalizar infrações menores – quando alguém estaciona ilegalmente ou entra em um parque público após o expediente – bem como atividades potencialmente suspeitas, como alguém tentando acessar um prédio escolar.

A cidade testou um software de reconhecimento facial tão preciso que consegue distinguir gêmeos idênticos.

Outro sistema testado este ano na icônica Promenade des Anglais de Nice usou algoritmos capazes de sinalizar movimentos irregulares de veículos e pedestres em tempo real – algo que, segundo as autoridades, poderia ter alertado rapidamente a polícia sobre o agressor que dirigiu um caminhão de 19 toneladas contra uma multidão no calçadão à beira-mar em 2016, matando 86 pessoas e ferindo outras centenas.

“Há pessoas que declararam guerra contra nós e não podemos vencer a guerra usando as armas da paz”, disse o prefeito Christian Estrosi. “A inteligência artificial é a arma mais protetora que temos.”

A França, de forma mais ampla, está se movendo para implantar uma vigilância por vídeo algorítmica abrangente enquanto se prepara para sediar os Jogos Olímpicos de 2024, incluindo tecnologia que pode detectar movimentos repentinos de multidões, objetos abandonados e alguém deitado no chão. Essa tecnologia, segundo as autoridades, pode ser fundamental para impedir um ataque como o atentado a bomba nos Jogos Olímpicos de Verão de 1996 em Atlanta.

Mas essa adoção de um policiamento futurista – alguns dizem que é orwelliano – está enfrentando desafios em uma região do mundo que está buscando assumir a liderança na regulamentação de IA e que abriga algumas das mais fortes proteções de privacidade digital.

“Eles estão colocando todos nós sob o olhar que tudo vê da IA”, disse Félix Tréguer, cofundador da La Quadrature du Net, um grupo francês de direitos civis digitais.

Uma revolução no policiamento
As pessoas que viajam para a França não estão prestes a ver câmeras de reconhecimento facial em seus quartos de hotel, como as que as autoridades chinesas instalaram antes dos Jogos Asiáticos em setembro para confirmar a identidade dos hóspedes. Mas os governos ocidentais estão usando cada vez mais a IA como uma ferramenta de combate ao crime.

Nos Estados Unidos, a polícia tem feito parcerias com empresas como a Clearview AI, sediada em Nova York, que desenvolveu um algoritmo de reconhecimento facial e acumulou um banco de dados de mais de 20 bilhões de fotos retiradas da internet. O sistema ajudou a identificar os manifestantes no ataque ao Capitólio dos EUA em 6 de janeiro de 2021. Ele também enfrentou ações judiciais de privacidade e preocupações sobre perfis raciais e prisões falsas.

Na Grã-Bretanha – um dos primeiros a adotar a vigilância por CCTV – o governo incentivou os chefes de polícia a dobrar o número de buscas retrospectivas de reconhecimento facial que realizam e a considerar o reconhecimento facial ao vivo para encontrar pessoas em listas de vigilância da polícia em locais como estádios de futebol.

E na Europa continental, a França está longe de ser a única a adotar a IA para a segurança. Ao longo das vias navegáveis de Veneza, por exemplo, uma rede de câmeras pré-existente alimenta um centro de controle que agora é baseado por IA, com a capacidade de reconhecer formas e tamanhos de barcos – mesmo com a luz refratada pela água – para monitorar a velocidade e a segurança. Os algoritmos também estão sendo usados para analisar dados de sensores nos centros turísticos mais lotados da cidade, com a capacidade de detectar o tipo de movimento repentino da multidão que poderia indicar um ataque.

Em um caso no ano passado, a polícia de Veneza usou a IA para examinar imagens capturadas e rastrear uma jaqueta específica para localizar e prender um grupo de homens supostamente envolvidos em um esfaqueamento.

Regulamentação da vigilância por IA
Mais do que em qualquer outro lugar no Ocidente, a União Europeia tem procurado controlar as redes sociais e impor a privacidade na era digital, promulgando regulamentações marcantes que levaram a investigações, multas e mudanças nas operações das empresas de tecnologia dominantes nos EUA, incluindo Google e Meta. No início deste mês, a União Europeia chegou a um acordo histórico sobre uma nova Lei de IA que classificará os riscos, reforçará a transparência e penalizará financeiramente as empresas de tecnologia em caso de não conformidade.

Mas mesmo com a UE buscando regulamentar o uso da IA em mãos privadas – e banir os sistemas mais arriscados – os governos europeus estão buscando proteger seus próprios direitos de uso. A Lei de IA quase desmoronou em meio a demandas, lideradas pela França, para abrir exceções para o uso de IA na aplicação da lei.

O acordo de compromisso exigirá aprovação judicial para a identificação biométrica. A tecnologia de reconhecimento facial pode ser aplicada a vídeos gravados somente para identificar pessoas condenadas ou suspeitas de terem cometido um crime grave. A vigilância em tempo real poderá ocorrer em circunstâncias limitadas, como o rastreamento de uma vítima de sequestro ou de um suspeito de terrorismo. As buscas podem entrar em conflito com a Lei de IA se os alvos forem categorizados por afiliação política, etnia ou identidade de gênero.

“Se eles quiserem procurar alguém de camisa vermelha, podem fazê-lo”, disse Brando Benifei, um dos dois legisladores que lideram a lei no Parlamento Europeu. “Mas se for para categorização, eles não podem obter dados biométricos de todas as pessoas negras só porque estão procurando um terrorista negro, ou procurar alguém usando um kaffiyeh (lenço palestino) por motivos políticos.”

A solução do boneco de palito
Muitos países europeus estão planejando maneiras de avançar com o policiamento por IA e, ao mesmo tempo, contornar as regras que proíbem o uso em massa de dados biométricos e reconhecimento facial.

Na Alemanha, que se preocupa com a privacidade, onde ainda há lembranças de intrusões da polícia secreta da era nazista e da Guerra Fria, as autoridades testaram um algoritmo de IA desenvolvido pelo Instituto Fraunhofer em uma das zonas de maior criminalidade de Hamburgo. O sistema detecta e sinaliza para a polícia uma série de atos, incluindo chutes, golpes, posturas agressivas, posturas defensivas, deitar-se, empurrar e correr. Mas as imagens mostradas à polícia aparecem como personagens de palitos de fósforo – anonimizando as pessoas capturadas pela câmera.

O software “não está interessado em gênero, cor da pele e quaisquer outros traços especiais de personalidade pessoal”, disse Nikolai Kinne, chefe do projeto de vigilância inteligente da Polícia de Hamburgo.

Os ativistas argumentam que mesmo esse tipo de observação pode ser intrusivo. As pessoas podem agir com mais autoconsciência ou evitar determinadas áreas se souberem que as câmeras podem flagrá-las.

Isso “empurra e pressiona as pessoas a se comportarem de uma forma que elas acham que seria esperada delas”, disse Konstantin Macher da Digitalcourage, um grupo alemão de direitos digitais. “Acho que isso está tirando a beleza do comportamento humano e nos incentivando a agir de forma rotineira e robótica.”

Pressionando pela expansão da vigilância por IA na França
A França está apostando alto na segurança assistida por IA para os Jogos Olímpicos. Centenas de câmeras inteligentes em Paris e em outros lugares monitorarão as multidões. Uma nova lei continua a proibir o reconhecimento facial na maioria dos casos, mas expandiu as aplicações legais da vigilância algorítmica por vídeo antes, durante e pelo menos seis meses após os Jogos.

Muitos observadores veem isso como um teste que pode ser estendido indefinidamente se a tecnologia for aceita pelo público e funcionar. Uma pesquisa realizada na época da adoção da lei mostrou um apoio esmagador, com 89% dos entrevistados favorecendo as câmeras inteligentes nos estádios, 81% no transporte público e 74% nas vias públicas.

“Sabemos que essa luta será perdida”, disse Paul Cassia, professor de direito e ativista da Organização de Defesa das Liberdades Constitucionais, com sede em Paris. “Todos nós usamos nossos smartphones. Agora há câmeras em todos os lugares. As pessoas pedem esse tipo de medida e, se algo acontecer, as pessoas dizem: ‘a culpa é sua, você não fez o suficiente para nos proteger’.”

Estrosi, o prefeito, argumenta que é essencial ter mais liberdade. Sua cidade foi autorizada a fazer experiências com reconhecimento facial durante o Carnaval de 2019, mas as regras eram tão rígidas que o teste só poderia ser aplicado a voluntários que passassem por uma área específica. Outro experimento, envolvendo portais biométricos em uma escola de ensino médio local, foi considerado excessivamente intrusivo pela agência de proteção de dados da França.

O prefeito está defendendo uma IA mais ampla. Entre outras coisas, a cidade está tentando implantar uma tecnologia experimental em ônibus e bondes que seria capaz de detectar uma vermelhidão no rosto de um passageiro, direcionando os policiais para uma possível emergência de saúde ou outra fonte de estresse.

Segundo a cidade, cerca de 18% de todos os casos policiais já foram resolvidos com a ajuda de suas câmeras inteligentes. Estrosi insiste que esse número poderia ser muito maior. “A IA está em toda parte, exceto onde realmente seria útil para nós”, disse ele. “Precisamos usar o reconhecimento facial para garantir a segurança da minha cidade. O software está pronto e existe.”

O GLOBO