Lei de IA na contratação de Nova York: apenas 18 de 391 empregadores publicaram auditorias── Se ninguém de fora pode verificar se a auditoria exigida foi feita, as violações passam despercebidas e ninguém é responsabilizado

Em 14 de outubro de 2026, o Stanford HAI traçou o perfil de Deb Raji, pesquisadora que estuda a responsabilização em IA, e Raji disse que a área subestimou enormemente a dificuldade de fazer cumprir as leis pelas quais lutou. Por que as leis de responsabilização da IA tão frequentemente não deixam ninguém realmente responsabilizado? Porque, quando ninguém de fora pode verificar se as auditorias e avisos exigidos foram feitos, as violações permanecem invisíveis, e o processo de responsabilizar alguém nunca começa.

01As leis de IA travam no ponto em que pessoas de fora não conseguem verificar a conformidade

Uma lei que existe, mas não pode ser aplicada, deixa um rastro de números, e o rastro mais claro vem de uma cidade onde uma lei de IA está de fato em vigor há algum tempo. Comece pela própria Raji. Ela é conhecida por auditorias de sistemas comerciais de reconhecimento facial, ajudou a criar os Model Cards enquanto estava no Google e passa este outono no Stanford HAI como pesquisadora visitante antes de ingressar no corpo docente no outono de 2027.

Na entrevista, Raji descreveu a história da área em etapas. Por volta de 2017, a conversa girava em torno de princípios gerais. De aproximadamente 2020 a 2023, chegaram propostas legislativas sérias. Depois do ChatGPT, as leis começaram a ser aprovadas, e um dos exemplos que ela citou foi a Local Law 144 da cidade de Nova York.

O que vem depois da aprovação é a fiscalização. "Acho que subestimamos muito o desafio da fiscalização", disse Raji.

O histórico da Local Law 144 aponta na mesma direção. Em 2024, uma equipe de pesquisadores verificou 391 empregadores e constatou que apenas 18 haviam publicado a auditoria de viés exigida pela lei. Em 2025, o Controller do Estado de Nova York examinou como o órgão da cidade estava fazendo cumprir a lei. O órgão havia revisado 32 auditorias publicadas e sinalizado uma possível violação. Os auditores do estado leram as mesmas 32 auditorias e encontraram pelo menos 17.

Para deixar claro, nenhum desses números vem de Raji. Eles vêm de pesquisadores acadêmicos e de uma auditoria estatal. Ainda assim, as duas fontes convergem para um único fato: quando a conformidade não pode ser vista de fora, as violações não vêm à tona.

Para quem coloca a IA para trabalhar dentro de uma organização, tiro uma conclusão prática. Não espere para ver quais leis vão chegar. Mantenha um registro do seu próprio uso de IA que um terceiro possa verificar. Quando alguém pedir que você preste contas de uma decisão, esse registro é a única base sobre a qual sua resposta pode se sustentar.

02Local Law 144: ferramentas de contratação precisam de auditoria de viés em até um ano, com divulgação pública

Antes de ler 18 de 391 como um veredito, ajuda saber exatamente a quais obrigações esses empregadores estavam sujeitos.

A Local Law 144 é uma lei da cidade de Nova York que abrange ferramentas automatizadas de decisão de emprego, os softwares que empregadores usam para triar ou classificar candidatos. A fiscalização cabe ao Departamento de Defesa do Consumidor e do Trabalhador da cidade, geralmente abreviado como DCWP. As obrigações recaem sobre o empregador e seguem uma ordem fixa.

A auditoria deve ter sido realizada no máximo um ano antes do uso da ferramenta. Um resumo dos resultados deve ser publicado em um local onde qualquer pessoa possa lê-lo. Candidatos e funcionários devem receber aviso dez dias úteis antes de a ferramenta ser usada com eles. O DCWP começou a aplicar a lei e suas regras em 5 de julho de 2023.

O número deixa uma característica difícil de ignorar: o órgão fica bem no fim da cadeia. Auditar, publicar e notificar são coisas que o empregador faz do seu lado. O DCWP só pode intervir depois de saber que uma dessas etapas está faltando.

Raji inclui esse tipo de auditoria de viés entre as ferramentas práticas de fiscalização. Ou seja, as ferramentas existiam no papel. O passo seguinte óbvio era contar quantos empregadores realmente as haviam utilizado, e um grupo de pesquisadores fez exatamente isso.

03Dos 391 empregadores verificados, 18 publicaram auditorias e 13 publicaram avisos

A contagem foi feita por uma equipe de pesquisa liderada por Lucas Wright, com Jacob Metcalf e J. Nathan Matias entre os coautores. O artigo deles foi aceito na FAccT 2024, a principal conferência acadêmica sobre justiça e responsabilização em sistemas computacionais.

A equipe treinou 155 estudantes como investigadores. Juntos, os estudantes registraram como 391 empregadores estavam cumprindo a Local Law 144. Desses empregadores, 18 haviam publicado relatórios de auditoria. Apenas 13 haviam publicado os avisos de transparência que informam aos candidatos que uma ferramenta automatizada está em uso.

A mesma lei atribui três tarefas diferentes a três partes diferentes, e cada uma deixou um número diferente como resultado. Lado a lado, o quadro é este.

Para todo empregador fora desses 18, um terceiro não conseguiria dizer se a IA estava sendo usada para triar candidaturas. Uma leitura rápida concluiria que os demais estavam infringindo a lei. A equipe de pesquisa colocou no título do artigo o motivo pelo qual essa conclusão falha.

Um limite cabe aqui. A pesquisa reflete 2024. Não verifiquei se mais empregadores publicaram auditorias desde então.

04Os empregadores decidem por conta própria se a lei se aplica, então o silêncio não prova nada

Uma contagem baixa de 18 não significa uma contagem alta de violações, e o motivo está no desenho da lei.

De acordo com Wright e colegas, a Local Law 144 concede aos empregadores ampla discricionariedade para decidir se o seu sistema está dentro do escopo da lei. Um empregador que decide que sua ferramenta está fora do escopo não publica nenhuma auditoria e não envia nenhum aviso. Um empregador cuja ferramenta está no escopo, mas que não publica nada, parece exatamente igual visto de fora.

Os pesquisadores chamaram essa condição de conformidade nula. Quando a busca não encontra nada, esse resultado vazio não pode ser interpretado como indicação de não conformidade. Também não pode ser interpretado como indicação de conformidade. O observador fica sem resposta.

Raji esbarra na mesma barreira por outro lado. As empresas, disse ela, são estruturalmente limitadas quanto ao grau de franqueza com que podem falar sobre o quanto um sistema funciona ou não. Pela forma como entendo a palavra estruturalmente, o limite está na posição em que a empresa se encontra ao falar sobre seu próprio produto, e não na honestidade de nenhum funcionário em particular.

Na minha leitura, os dois fatos se agravam mutuamente. A lei entrega a decisão sobre o escopo ao empregador, e o empregador está mal posicionado para falar com franqueza sobre suas próprias ferramentas. Pouca informação chegando ao público externo é o resultado previsível da combinação dos dois.

05Auditores estaduais encontraram mais de 17 possíveis violações em 32 auditorias; a cidade havia encontrado uma

Empregadores que não publicam nada não podem ser distinguidos de empregadores em infração. Restam as auditorias que foram publicadas. Pelo menos foram lidas com cuidado?

O Controlador do Estado de Nova York analisou a atividade de fiscalização do DCWP de julho de 2023 a junho de 2025 e publicou a auditoria em dezembro de 2025. Não consegui abrir o relatório completo a partir do meu ambiente. Os números abaixo são os citados em uma análise do escritório de advocacia DLA Piper, publicada em janeiro de 2026.

As conclusões se dividem em três pontos. Para leitores de fora de Nova York, o 311 é a linha telefônica geral da cidade para dúvidas e reclamações sobre serviços municipais.

Dos três, o segundo é o que mais pesa para mim. Os registros estavam lá. Eles haviam sido publicados, no lugar que a lei determinava. Mas, uma vez que o leitor ignora o que há neles, o resultado não é diferente de não haver registro algum.

A primeira conclusão também importa. Um candidato que percebe a falta de um aviso e pega o telefone tem, segundo esses resultados de teste, três chances em quatro de não chegar ao setor certo. Uma das poucas portas pelas quais alguém de fora poderia denunciar uma violação estava, em sua maior parte, fechada.

06A responsabilização exige uma lei, um registro visível e a capacidade de examiná-lo

Das mesmas 32 auditorias, a agência identificou uma possível violação. Colocando os fatos até aqui lado a lado, os motivos pelos quais ninguém é responsabilizado se concentram em três pontos.

O primeiro ponto muda a forma de ler manchetes sobre novas leis de IA. Quando vejo uma notícia de que outra jurisdição aprovou uma, já não entendo que agora é possível atribuir responsabilidade. A Local Law 144 começou a ser aplicada em 2023, e os números que ela produziu depois foram 18 empregadores e um problema sinalizado.

O segundo ponto muda a forma como o silêncio deve ser tratado. Sob a conformidade nula, uma empresa que não publica nada e uma empresa que descumpre a lei parecem iguais vistas de fora. O limite à franqueza corporativa que Raji descreve aponta na mesma direção, rumo a menos divulgação, e não a mais.

O terceiro ponto muda a forma de julgar o valor de um registro. As 32 auditorias publicadas estavam completas como registros. Seu valor dependia de quem as lia. Lidas pelos auditores do estado, continham pelo menos 17 problemas potenciais. Lidas pela agência, continham um.

Os três não são independentes entre si. Uma lei estabelece o dever, o usuário publica um registro e alguém o lê. Se qualquer um dos elos estiver ausente, os outros dois não bastam para iniciar o processo de responsabilização de alguém.

07Os californianos pediram responsabilização, mas nenhum caminho de fiscalização foi definido

Responsabilizar alguém exige uma lei, um registro e alguém capaz de lê-lo. Em um estado que agora prepara sua próxima rodada de regras de IA, qual dos três está faltando?

Em 13 de outubro de 2026, o governador da Califórnia, Gavin Newsom, anunciou os resultados do Engaged California, uma iniciativa estadual para envolver os moradores nas decisões sobre IA. A versão estadual foi aberta a todos os moradores em maio de 2026.

Três temas surgiram com mais frequência e tiveram o apoio mais forte. Um deles era "responsabilizar as empresas de IA pelos danos que causam".

O anúncio não diz como isso seria aplicado. Não cita nenhum projeto de lei e não define prazo. Diz apenas que as recomendações vão subsidiar futuras decisões de política.

Raji, por sua vez, citou ferramentas concretas de fiscalização. Uma delas é um modelo padrão de divulgação, para que uma exigência de transparência tenha uma forma definida. Outra é um banco de dados de incidentes que define de antemão o que conta como um incidente válido e registra como governos e empresas responderam.

Os modelos de divulgação têm precedente. Quando estava no Google, Raji ajudou a criar os Model Cards, documentos curtos que acompanham um modelo treinado e relatam seu desempenho na avaliação. O artigo que os descreve foi publicado em 2018.

Ainda não se sabe se a Califórnia construirá ferramentas desse tipo. O que pude verificar termina no fato de que os moradores pediram responsabilização.

Organizações que usam IA não precisam esperar pelo Estado. Sob a Local Law 144, a etapa que os de fora não podiam ver era a decisão do próprio empregador sobre se uma ferramenta estava no escopo. Registre por escrito o motivo dessa decisão e guarde-o, e mais tarde qualquer pessoa poderá distinguir silêncio de violação.

Resta alguma incerteza, e ela pertence à página. A pesquisa com 391 empregadores data de 2024, e não verifiquei o estado da divulgação desde então. Os números da auditoria estadual foram confirmados por meio de citações de um escritório de advocacia, não pelo relatório em si. O detalhe de que 311 chamadas encaminhadas incorretamente nunca chegaram ao órgão também se apoia em resumos secundários.

Uma lei que atribui responsabilidade por danos da IA realiza pouco quando nenhum registro externo mostra o cumprimento e ninguém tem capacidade de lê-lo. Os 18 empregadores e a única questão sinalizada em Nova York são o que isso parece na prática.

Organizações que usam IA só conseguem responder quando questionadas se elas mesmas mantiverem esse registro. Para as ferramentas de IA do meu próprio trabalho, estou começando com uma linha por ferramenta: o motivo pelo qual decidi usá-la, escrito antes que alguém pergunte.