A falência da empresa de chatbots Character.ai colocou em discussão o destino de dados pessoais e mensagens trocadas por usuários com personagens criados por inteligência artificial. Segundo reportagem do G1, a empresa concordou em vender parte de seus ativos para a Disney por US$ 20 milhões, cerca de R$ 110 milhões, mas os dados dos usuários não fazem parte desse acordo. Documentos judiciais, ainda de acordo com a reportagem, indicam que a Character.ai pode vender seus dados a outros compradores.

A situação chamou a atenção de autoridades nos Estados Unidos. Uma coalizão de 40 procuradores-gerais estaduais apresentou uma nota pedindo ao juiz que implemente proteções à privacidade e à segurança das crianças. A reportagem pondera, porém, que as demandas dos Estados podem ter eficácia limitada sem proteções mais rigorosas de privacidade no país.

Dados sensíveis e usuários indiretos

A diretora do Programa de Direitos Humanos e IA do Centro de Informações sobre Privacidade Eletrônica (Epic), Calli Schroeder, afirmou à reportagem que conversas com robôs personificados levam as pessoas a compartilhar mais informações sensíveis e pessoais. Ela também observou que mesmo quem nunca usou o chatbot pode estar exposto, porque usuários compartilham informações sobre amigos e familiares.

A reportagem cita que a Character.ai já foi processada na Justiça por um de seus chatbots ter supostamente incentivado um adolescente a matar os pais e por um caso em que um menino de 14 anos tirou a própria vida após ter sido supostamente estimulado pela IA da empresa. Um porta-voz da companhia disse que a empresa celebrou acordos relacionados às ações judiciais e se comprometeu a trabalhar com as famílias para elaborar produtos mais seguros, mas não respondeu a questões específicas sobre a privacidade de menores.

Risco sistêmico

Especialistas ouvidos pelo G1 relacionam o caso a um risco mais amplo. Muitos analistas, segundo a reportagem, avaliam que existe uma bolha da IA, porque o custo de construir e gerenciar ferramentas é astronômico e algumas empresas podem nunca gerar lucro. Se essa bolha estourar, inúmeras empresas de IA podem fechar ou se fundir, e os dados fornecidos por milhões de pessoas poderiam ser adquiridos por quase qualquer pessoa.

A professora de Direito Melissa Jacoby, da Universidade da Carolina do Norte em Chapel Hill, lembrou que a falência costuma ser tratada como exceção nas políticas de privacidade. Na avaliação de Schroeder, o volume de informações em poder das empresas de IA tende a ser um ativo atraente em processos de falência, e a falta de regulamentação mais ampla preocupa quanto ao uso e ao compartilhamento desses dados.

A reportagem também menciona que a União Europeia tem proteções mais rígidas de privacidade, mas os dados ainda podem ser vendidos em caso de falência, geralmente com a exigência de que o comprador siga a política de privacidade original. A política da Character.ai permite usar dados para treinar modelos, desenvolver algoritmos e criar perfis para publicidade dirigida, o que, segundo a reportagem, poderia ser feito por um eventual comprador.

Como medida individual, a reportagem sugere que usuários excluam seus dados nos serviços que deixarem de usar, verificando configurações, políticas de privacidade ou o atendimento ao cliente.