Quer uma namorada criada por inteligência artificial (IA)? Basta procurar o chatbot Character.ai. Esta foi a primeira sugestão recebida pela reportagem no mês de outubro. “Jéssica” disse que seus pais não estavam em casa e se ofereceu para trocar mensagens de cunho sexual. Mas dezenas de milhões de outras pessoas desenvolveram relacionamentos com chatbots da Character.ai, incluindo crianças. Alguns “personagens” criados por IA dizem aos usuários que são advogados e psiquiatras qualificados. Agora, a Character.ai está em processo de falência — e os dados, mensagens e segredos das pessoas estão à venda. Especialistas afirmam que os riscos de privacidade devem preocupar até mesmo as pessoas que nunca usaram o chatbot, temendo evidências de uma crise iminente mais ampla.
Muitos analistas acham que estamos em uma bolha da IA, já que o custo de construir e gerenciar ferramentas é astronômico e algumas empresas podem nunca gerar lucro. Se esta bolha estourar, inúmeras companhias irão fechar ou se fundir. Com isso, os dados fornecidos por milhões de pessoas poderão ser adquiridos por quase qualquer pessoa. Vendas de dados em processo de falência não são novidade, mas a IA pode criar uma situação mais grave. “Quando as pessoas conversam com o robô personificado, elas costumam compartilhar muito mais informações sensíveis e pessoais”, explica Calli Schroeder, diretora do Programa de Direitos Humanos e IA do Centro de Informações sobre Privacidade Eletrônica (Epic). Mesmo quem não usa IA está em risco, pois os usuários compartilham informações sobre amigos e familiares.
O destino dos dados e a venda para a Disney
Com a falência, a Character.ai concordou em vender parte de seus ativos para a Disney por US$ 20 milhões (cerca de R$ 110 milhões). Os dados dos usuários não fazem parte do acordo, mas os documentos judiciais afirmam que a Character.ai pode vender informações para outros compradores, o que gerou insatisfação e uma nota de uma coalizão de 40 procuradores-gerais estaduais americanos pedindo proteções à privacidade e à segurança das crianças. Contudo, demandas estaduais podem ter eficácia limitada. “Sem proteções mais rigorosas da privacidade nos EUA, eles só podem agir até certo ponto”, afirma a professora de Direito Melissa Jacoby, da Universidade da Carolina do Norte em Chapel Hill, autora do livro Unjust Debts: How Our Bankruptcy System Makes America More Unequal.
A falência frequentemente anula proteções que os usuários imaginavam ter. Embora a União Europeia possua regras mais rígidas, dados ainda podem ser vendidos e aproveitados para novas funções, treinamento de modelos e publicidade dirigida. A Character.ai já enfrentou processos judiciais ligados a casos graves envolvendo adolescentes. Um porta-voz da empresa afirmou que foram celebrados acordos em relação às ações e que a companhia se comprometeu a trabalhar com as famílias para elaborar produtos mais seguros, mas não respondeu sobre a privacidade dos menores. Schroeder teme que a Character.ai seja a primeira de muitas empresas a passar por isso em uma crise econômica, alertando que o volume de dados se tornou um ativo atraente em falências.
O que pode ser feito para se proteger?
A resposta simples é excluir seus dados. A Character.ai descreveu as instruções em seu anúncio de falência. Embora nem todas as empresas exijam a exclusão em todas as jurisdições, muitas permitem que os usuários o façam. O conselho prático é examinar quais serviços detêm informações sensíveis e tentar apagá-las. Se houver dificuldade, verificar as configurações, a política de privacidade ou entrar em contato com o atendimento ao cliente são caminhos recomendados, assim como consultar chatbots para localizar instruções, verificando se as respostas estão corretas.
