A Microsoft está pedindo regulamentação governamental sobre o software de reconhecimento facial, uma de suas principais tecnologias, dizendo que tal inteligência artificial é muito importante e potencialmente perigosa para os gigantes da tecnologia se policiarem.

Na sexta-feira, o presidente da empresa, Brad Smith, insistiu para os legisladores em um post  para formar uma comissão bipartidária e especializada que poderia estabelecer padrões e evitar abusos de reconhecimento facial, nos quais software pode ser usado para identificar uma pessoa de longe sem o seu consentimento.

“Essa tecnologia pode catalogar suas fotos, ajudar a reunir famílias ou, potencialmente, ser mal utilizada e abusada por empresas privadas e autoridades públicas”, disse Smith. “… A única maneira de regulamentar esse amplo uso é o governo fazer isso.”

A demanda marca um raro apelo por maior regulamentação de uma indústria de tecnologia que frequentemente se irritou com o envolvimento de Washington em seu trabalho, acreditando que as regras do governo poderiam dificultar novas tecnologias ou destruir sua vantagem competitiva.

“Embora entendamos que algumas pessoas hoje estão pedindo que as empresas de tecnologia tomem essas decisões”, disse Smith, “acreditamos que esse seja um substituto inadequado para a tomada de decisões pelo público e seus representantes”.

Reconhecimento Facial

A Microsoft enfrentou no mês passado críticas generalizadas e pedidos para cancelar seu contrato com o Immigration and Customs Enforcement, que usa um conjunto de ferramentas de computação em nuvem da Microsoft que também pode incluir reconhecimento facial. A empresa disse que seu trabalho com a agência é limitado a correspondência, mensagens e trabalho de escritório.

A empresa, disse Smith, está “agindo de forma mais deliberada com o nosso trabalho de consultoria e contratação de reconhecimento facial” e recusou clientes pedindo implementações de tecnologia de reconhecimento facial em áreas “onde concluímos que há maiores riscos aos direitos humanos”. A empresa não forneceu imediatamente mais detalhes.

Os reguladores, disse Smith, devem considerar se o uso de reconhecimento de rostos por parte da polícia ou do governo deve exigir supervisão independente; que medidas legais poderiam impedir que a IA fosse usada para o perfil racial; e se as empresas devem ser forçadas a publicar avisos de que a tecnologia de reconhecimento facial está sendo usada em espaços públicos.

Smith também comparou a regulamentação do reconhecimento facial com as leis públicas que exigem cintos de segurança e air bags em carros, dizendo que as regras podem ser tão importantes quanto as leis que regem a segurança aérea, alimentos e remédios.

 “Um mundo com regulamentação vigorosa de produtos que são úteis, mas potencialmente problemáticos, é melhor que um mundo desprovido de padrões legais”, disse ele.

Especialistas em direitos civis e privacidade pediram a proibição generalizada de softwares de reconhecimento facial, que, segundo eles, podem levar perigosamente a erros de identificação e à vigilância mais invasiva de empresas, governos e polícia.

A tecnologia também está longe de ser perfeita, e os pesquisadores mostraram como é mais provável que as pessoas de cor sejam rotuladas erroneamente devido a lacunas nos dados usados ​​para treinar a IA.

A Microsoft informou no mês passado que treinou seus sistemas para reconhecer com mais precisão diferentes cores de pele.

Nenhuma lei federal restringe o uso da tecnologia de reconhecimento facial, embora o Illinois e o Texas exijam que as empresas obtenham o consentimento das pessoas antes de coletar “impressões digitais” e outras informações biométricas.

Os sistemas estão sendo cada vez mais usados ​​pelas autoridades federais, departamentos de polícia, governos locais e escolas para reforçar os sistemas de segurança e vigilância.

A Amazon, uma das principais rivais da Microsoft em inteligência artificial e computação em nuvem, oferece sua tecnologia de reconhecimento facial, a Rekognition, aos departamentos de polícia a baixo custo. O chefe da Amazônia, Jeffrey P. Bezos, também é dono do The Washington Post.

O anúncio da Microsoft destaca como a indústria de tecnologia está lidando com a maneira como ambos buscam os contratos lucrativos oferecidos pelas autoridades do governo, ao mesmo tempo em que satisfaz os funcionários e clientes pedindo à companhia que siga as diretrizes éticas.

Google e Facebook se pronunciam

No mês passado, depois que o Google foi criticado por seu contrato de inteligência artificial com o Departamento de Defesa, o executivo-chefe da companhia, Sundar Pichai, disse que a empresa seguiria um novo padrão de padrões éticos, incluindo a proibição da IA ​​para uso em armas.

O Facebook também manifestou interesse em leis que exigiriam mais transparência na publicidade online, e seu principal executivo, Mark Zuckerberg, testemunhou no Capitólio em abril, após o uso da rede social pelos operativos russos como forma de influenciar potencialmente os eleitores durante a eleição de 2016.

FONTE