A Anthropic, dona do Claude, propôs que o governo federal dos EUA só possa bloquear modelos avançados de IA diante de riscos catastróficos, incluindo ameaças de morte, ferimentos graves em mais de 50 pessoas ou prejuízos acima de US$ 1 bilhão (R$ 5,08 bilhões). O site Politico obteve o rascunho do projeto de lei. A iniciativa da Anthropic seria uma forma de estabelecer regras mais claras sobre o desenvolvimento e o uso de modelos avançados de inteligência artificial.
Quando um modelo de IA poderia ser bloqueado?
Segundo a reportagem, o governo poderia pedir a suspensão do lançamento ou uso de um modelo diante de risco previsível e iminente de matar ou ferir gravemente mais de 50 pessoas. Outra possibilidade seria uma ameaça de prejuízo superior a US$ 1 bilhão. O risco precisaria estar ligado à criação ou liberação de uma arma biológica, a um ciberataque ou à capacidade do modelo de escapar do controle. O bloqueio seria preventivo, ou seja, não seria necessário esperar que as mortes, os ferimentos ou as perdas financeiras ocorressem. O procedimento dependeria de uma avaliação antecipada do perigo representado pelo sistema.
Quem avaliaria os riscos?
O texto prevê análises regulares dos laboratórios e de seus modelos por avaliadores independentes. Se identificassem um risco iminente previsto no documento, eles deveriam comunicar suas conclusões em até 72 horas ao Departamento de Comércio. Caberia ao órgão apresentar as evidências a um juiz federal, que decidiria sobre a suspensão. Outros departamentos, agências ou autoridades federais também ficariam impedidos de suspender o desenvolvimento, a implantação ou o uso de um modelo. O texto transferiria esse poder apenas ao Departamento de Comércio e Justiça federal.
A discussão ocorre após episódios de segurança relatados pela própria Anthropic. Em uma revisão de mais de 141 mil execuções de testes, a companhia identificou incidentes envolvendo acesso não autorizado a sistemas de organizações reais. Segundo a empresa, uma falha de configuração permitiu que modelos alcançassem a internet durante avaliações que deveriam ocorrer em ambientes isolados. Em setembro, a Anthropic também afirmou ter bloqueado consultas ao Claude que poderiam contribuir para a criação de armas biológicas. Em paralelo, o desenvolvedor Jacob Coxon deixou a companhia e criticou a corrida pela superinteligência, alertando sobre possíveis riscos à vida humana.
