Fortfield AI Newsletter · Notícias

Nova York passa a cobrar regras de segurança de IA de OpenAI e Anthropic

Lei RAISE obriga grandes desenvolvedores a se registrar até 1º de janeiro de 2027, publicar frameworks de segurança e reportar incidentes críticos em 72 horas

Por Fortfield AI ·

Nova York passa a cobrar regras de segurança de IA de OpenAI e Anthropic

O estado de Nova York abriu o portal de registro da lei RAISE, uma das mais importantes regras de segurança de IA dos EUA. Multas podem chegar a US$ 1 milhão por violação e US$ 3 milhões em reincidência.

Nova York se prepara para colocar em prática uma das leis de segurança de IA mais relevantes dos Estados Unidos. O estado abriu na terça-feira o portal onde grandes desenvolvedores de modelos de fronteira, como OpenAI e Anthropic, terão de se registrar até 1º de janeiro de 2027.

A lei RAISE entra em vigor no começo do ano e vale para empresas com mais de US$ 500 milhões de receita anual. Entre as obrigações estão publicar frameworks de segurança em seus sites, reportar incidentes críticos de segurança em até 72 horas e divulgar relatórios públicos de transparência sobre seus modelos.

A fiscalização ficará com o recém-criado escritório de Inovação Digital, Governança, Integridade e Confiança (DIGIT). As multas podem chegar a US$ 1 milhão por violação e a US$ 3 milhões em caso de reincidência, e o estado poderá agir contra companhias que não se registrarem.

"Moguls da tecnologia nos dizem que a visão deles para a IA é inevitável", afirmou a governadora Kathy Hochul. "Dizem para embarcarmos ou ficarmos para trás, que qualquer dano colateral vale a pena contanto que vençamos a corrida. Estamos construindo um modelo nacional de regulação sensata, que coloca as comunidades acima das corporações e as pessoas acima da tecnologia poderosa."

Hochul também lançou o New York Center for AI Responsibility and Research, sediado na Universidade Binghamton, da rede pública SUNY. O centro vai avaliar de forma independente a segurança e a operação de sistemas avançados de IA e revisar, junto com o DIGIT, os frameworks das empresas. Anunciado em janeiro, nasceu com US$ 55 milhões em doações e capital.

A RAISE não é a única regra do estado. Desde o ano passado, operadores de companhias de IA precisam avisar os usuários de que estão falando com um robô e se esforçar para detectar ideação suicida e automutilação. Em outubro, Hochul sancionou ainda uma lei de segurança de chatbots para menores, que proíbe interações enganosas que simulem humanos, respostas manipuladoras ou bajuladoras e incentivo a comportamentos como suicídio ou transtornos alimentares, com vigência a partir de 1º de junho de 2027.

Outros estados seguem o mesmo caminho. A SB 53 da Califórnia, em vigor desde janeiro, exige frameworks de segurança publicados, proteção a denunciantes e relato de incidentes em 15 dias. Já a SB 315 de Illinois, que valerá a partir de 2027, tem exigências parecidas e inclui auditorias independentes de conformidade.

Fonte: TechCrunch