A aquisição de tecnologia de aplicação da lei precisa de maior escrutínio

A aquisição de tecnologia de aplicação da lei precisa de maior escrutínio

Um painel de especialistas dos EUA, Bélgica e Nova Zelândia informou ao Comitê de Justiça e Assuntos Internos da Câmara dos Lordes sobre os riscos de permitir que empresas de tecnologia utilizem tecnologia para o policiamento.

Os MPs questionaram o painel sobre o uso de tecnologia de vigilância, como câmeras corporais e algoritmos de aplicação da lei.

Elizabeth Joh, professora de direito de Martin Luther King Jr na Escola de Direito Davis da Universidade da Califórnia, disse ao comitê que tem havido experimentação direta no uso de tecnologia para o policiamento nos Estados Unidos. Ela alertou sobre a influência das empresas do setor privado, que ela disse ter influenciado a adoção de tecnologia nas forças policiais.

“É o setor privado que desenvolveu a tecnologia para a aplicação da lei”, disse Joh. “Eles têm um interesse enorme e oferecem incentivos.”

Por exemplo, as agências de aplicação da lei estão sendo induzidas a usar gratuitamente câmeras vestidas no corpo por um ano, ela disse. Mas, quando o julgamento termina, as forças policiais são obrigadas a usar o software e os serviços da empresa para acessar todos os dados de vigilância que coletaram.

Joh disse que os departamentos de polícia são obrigados a enviar os dados coletados pelas câmeras corporais para o armazenamento de dados da própria empresa, que só pode ser acessado por meio de seu software. “Depois de um ano, muitas forças policiais têm tantos dados da câmera corporal que são obrigadas a usar o software da empresa”, acrescentou.

Rosamunde Elise Van Brakel, professora pesquisadora em estudos de vigilância na Vrije Universiteit em Bruxelas, Bélgica, e co-diretora da Rede de Estudos de Vigilância, disse ao comitê: “Não há transparência nas regras de compras. Não há informações públicas sobre como as decisões são tomadas. ”

Van Brakel disse que entre os desafios que os departamentos de polícia enfrentam está o fato de que muitas vezes não têm experiência suficiente. “Acho que um fator importante é ter o conhecimento para entender o que as empresas de tecnologia estão prometendo que a tecnologia fará”, disse ela. Em alguns países europeus, alguns departamentos de polícia optaram por não comprar tecnologia de fornecedores de tecnologia dos EUA, acrescentou ela.

Van Brakel também discutiu a necessidade de estabelecer órgãos de supervisão e regulamentos. Mas algumas leis, como as que cobrem a proteção de dados, são muito restritivas, disse ela. “A regulamentação específica do setor pode ser muito útil porque a proteção de dados está muito focada na proteção de dados online ou no setor privado. Existem poucas diretrizes sobre como o setor público deve implementar a proteção de dados. ”

Por exemplo, os regulamentos gerais não podem capturar os detalhes do crime organizado ou da proteção à criança, disse ela.

Antes de fazer um investimento em tecnologia de aplicação da lei, disse Van Brakel, é preciso haver uma avaliação da proporcionalidade, que leva em conta o cumprimento das regulamentações e como será a implantação da tecnologia impacto na sociedade, na democracia e nos direitos dos cidadãos. “Como a tecnologia capacita a polícia a cumprir seu objetivo social?” ela disse. “Esta pergunta não é feita o suficiente. Não há reflexão suficiente sobre como isso ajuda a polícia ”.

Na pior das hipóteses, disse Van Brakel, as regulamentações e os direitos dos cidadãos serão diluídos, o que pode resultar em certos grupos da sociedade serem submetidos à tecnologia de forma desproporcional.

Colin Gavaghan, presidente do painel consultivo sobre tecnologias emergentes da Polícia da Nova Zelândia e diretor do Centro da Fundação Nova Zelândia para Legislação e Política em Tecnologias Emergentes da Universidade de Otago, disse que reduzir o viés em um algoritmo não é simplesmente remover um único ponto de dados , como etnia, porque o o viés está espalhado por vários conjuntos de dados.

Ao coletar dados de crimes para fins de aprendizado de máquina, Gavaghan recomendou que os departamentos de polícia retirassem dados de relatórios de crimes do público, “para quebrar o ciclo de feedback”. Isso acontece quando o algoritmo informa à polícia onde é provável que ocorra um crime. Eles investigam, encontram um crime e seu relatório reforça a decisão do algoritmo.

Leave a Reply

Your email address will not be published.