Flock Safety enfrenta rejeição e escrutínio legal após expandir a vigilância com IA em câmeras policiais, levantando debates sobre privacidade e a precisão da tecnologia.
Visite
Buscar
Flock Safety enfrenta rejeição e escrutínio legal após expandir a vigilância com IA em câmeras policiais, levantando debates sobre privacidade e a precisão da tecnologia.
A Flock Safety expandiu significativamente as capacidades de suas ferramentas de busca, permitindo que policiais localizem indivíduos em câmeras além do simples reconhecimento de placas de veículos. O software agora inclui uma lista de vigilância impulsionada por inteligência artificial, na qual um oficial pode delimitar uma área urbana e acionar uma busca automatizada e contínua por qualquer pessoa que se encaixe em uma descrição textual. Essa expansão colocou a tecnologia no centro de dezenas de casos de vigilância policial indevida.
A reação contra a empresa se intensificou ao longo do último ano, levando departamentos de polícia a cancelarem contratos e conselhos municipais a reverterem aprovações anteriores. O escrutínio aumentou após um xerife no Texas utilizar o sistema para vasculhar mais de 83 mil câmeras em busca de uma mulher que havia realizado um aborto, o que motivou cartas de membros do Congresso ao CEO Garrett Langley. Além disso, o estado de Illinois descobriu que a companhia permitiu que agentes federais de imigração acessassem dados de câmeras estaduais, violando a legislação local.
Em resposta às críticas, a Flock anunciou em agosto um pacote de alterações para mitigar o uso indevido da plataforma. As atualizações incluem a redução do período padrão de retenção de dados, a exigência de códigos de caso para cada busca e a implementação de auditorias automatizadas para identificar práticas abusivas. A empresa afirmou que todas essas medidas de controle serão obrigatórias até o final do ano.
No entanto, análises do código do software revelam que, embora essas barreiras de proteção possam desencorajar e registrar usos abusivos, elas não os impedem tecnicamente. Especialistas em triagem automatizada e tecnologia policial argumentam que a empresa atribuiu à inteligência artificial uma tarefa que a tecnologia não consegue realizar de forma confiável, ressaltando que nenhum sistema operando nessa escala é capaz de processar e corresponder descrições humanas complexas com precisão absoluta.
Imagem: JDer L / Pexels — Pexels License
Paulo Júnio de Lima é Administrador com MBA em Marketing Digital e especialista em estratégia, inovação e gestão de projetos. Na Comunicação e Relações Públicas da Grande Loja Maçônica de Minas Gerais, desenvolve soluções para fortalecimento institucional. Com passagens por ORO, Agência Open, Brasil84 e VTIC, acumula experiência em marketing digital, branding e transformação digital. Certificado pelo IA Lab do Estúdio Kimura, aplica inteligência artificial em design, automação e comunicação. Membro ativo da Ordem DeMolay há mais de 18 anos, atua também em projetos sociais e educacionais.
O futuro acontece aqui: esteja entre os primeiros a receber insights, tendências e oportunidades que moldam o mercado.
