Quando a principal agência de padrões e tecnologia dos Estados Unidos atingirá um limite em sua capacidade de fornecer à indústria de reconhecimento facial uma base coerente para crescer? Isso pode ser desconhecido, mas a comunidade de IA começou a questionar se o National Institute of Standards and Technology (NIST) está se tornando excessivamente saturado com prioridades, novos trabalhos de laboratório, políticas de governança e relatórios de produtos finais.
Em tradução livre, NIST significa Instituto Nacional de Padrões e Tecnologia. Trata-se de uma agência não regulatória do Departamento de Comércio dos Estados Unidos que desempenha um papel fundamental no desenvolvimento e promoção de padrões de medição, tecnologia e inovação para melhorar a segurança econômica e a qualidade de vida. As responsabilidades do NIST incluem:
- o estabelecimento de padrões para uma ampla gama de tecnologias;
- a condução de pesquisas para avançar a ciência da medição; e
- a prestação de serviços de teste e certificação.
No contexto do texto fornecido, o NIST é mencionado em relação ao seu envolvimento em questões e padrões relacionados à biometria, especialmente no desenvolvimento e testes da tecnologia de reconhecimento facial. O NIST, na totalidade, também está envolvido em muitas outras indústrias de tecnologia.
A pequena agência de tecnologia tem uma grande parcela de responsabilidade na execução da ordem executiva sobre inteligência artificial da administração do Presidente Estadunidense Joe Biden.
O Instituto Nacional de Padrões e Tecnologia foi fundado em 1901 para atender à crescente demanda por medidas científicas padronizadas a fim de impulsionar a pesquisa e desenvolvimento técnico e industrial. Mais de um século depois, a agência está liderando um esforço de governo para responder ao rápido crescimento da inteligência artificial com padrões e melhores práticas.
A ordem executiva de outubro de 2023 da Administração Biden sobre IA confere ao NIST um papel proeminente na elaboração de padrões de teste para garantir que produtos de software habilitados para IA sejam projetados de maneira segura antes de serem introduzidos no mercado. Também encarrega o NIST de desenvolver diretrizes para a indústria implantar com segurança sistemas de IA, avaliar modelos fundamentais e reduzir conteúdo fraudulento gerado por softwares de IA e aprendizado de máquina, entre outras responsabilidades.
No entanto, surgem dúvidas sobre a capacidade da agência, com uma equipe de cerca de 3.400 pessoas e um orçamento anual um pouco superior a US$ 1,6 bilhão, para atender à crescente demanda por seus serviços em IA e em diversas tecnologias emergentes, incluindo cibersegurança e computação quântica.
Antes da ordem executiva, a agência lançou seu Centro de Recursos de IA Confiável e Responsável em março de 2023. Também está no meio de receber comentários públicos sobre a avaliação de softwares de IA para atender a padrões de segurança.
“O NIST está promovendo o desenvolvimento de sistemas de IA confiáveis e responsáveis na prática e uso, e se posicionou como líder nacional e internacional na construção de confiança no design, desenvolvimento, uso e governança de sistemas de IA.”
Laurie Locascio, Diretora do NIST
Uma análise perspicaz da situação aparece no Nextgov/FCW. Dadas todas as facetas da biometria e de outros setores da IA e o alto risco que representa para pessoas, empresas e governo, o artigo conclui que o perigo de uma falha operacional no NIST está aumentando.
E, como se estivesse programada, a National Academies of Sciences, Engineering, and Medicine, uma organização sem fins lucrativos, produziu um relatório pedindo que a Casa Branca torne o NIST e outras agências mais proativas em relação a todas as partes do desenvolvimento e uso do reconhecimento facial.
O relatório foi patrocinado pelo Departamento de Segurança Interna e pelo Federal Bureau of Investigation, o famoso FBI.
Em outras palavras, o mundo precisa de um estímulo vigoroso para mitigar ao máximo os riscos inerentes a uma tecnologia que está se desenvolvendo sem uma “orientação autoritária, regulamentações ou leis” necessárias, de acordo com outra reportagem, esta do FedScoop.
O relatório possui oito páginas de recomendações detalhadas para preparar uma base para o uso eficaz e ético do reconhecimento facial.
“Embora o financiamento para o NIST tenha crescido ao longo dos anos, os números reais são insignificantes em comparação com as responsabilidades atribuídas à agência. O Framework de Gerenciamento de Riscos de IA é um claro exemplo do excelente histórico do NIST em acompanhar a inovação e o progresso na IA, apesar dos desafios financeiros.”
Varun Krovi, Diretor de Relações Governamentais e Políticas Públicas do Center for AI Safety Action Fund
Uma prioridade principal é fazer com que o NIST “mantenha um programa vigoroso de testes e avaliação de tecnologia de reconhecimento facial para impulsionar melhorias contínuas na precisão e redução de vieses demográficos”.
Na verdade, o NIST deveria ser “o lar lógico” para definir taxas aceitáveis de falsos positivos e avaliar indicadores-chave de desempenho e padrões de processamento para controle de qualidade, segurança de dados e outras áreas.
O próprio relatório é lógico. Se o NIST pode equilibrar tal carga é a questão.