Os chatbots de inteligência artificial, como ChatGPT e Gemini, podem deduzir informações sobre seus usuários que nunca foram informadas diretamente. A partir do histórico de conversas, esses sistemas conseguem fazer inferências sobre perfil financeiro, hábitos, personalidade, rotina e até possíveis características psicológicas, levantando discussões sobre privacidade e uso de dados.
A constatação foi feita por um jornalista do The New York Times, que decidiu testar quais conclusões os assistentes de IA eram capazes de tirar apenas conectando informações espalhadas em diferentes conversas ao longo do tempo.
Mesmo sem revelar detalhes íntimos, ele descobriu que os chatbots conseguiram estimar corretamente sua faixa de renda, identificar um problema crônico de saúde, inferir traços de personalidade e até apontar comportamentos relacionados ao desejo de manter controle sobre diferentes aspectos da vida.
Segundo o relato, o ChatGPT e o Gemini chegaram a essas conclusões analisando perguntas aparentemente comuns, como pedidos de ajuda para consertar um carro, elaborar o contrato de uma babá, tratar dores no pé e esclarecer dúvidas sobre receitas caseiras.
Embora cada informação, isoladamente, parecesse inofensiva, a combinação de todas elas revelou um retrato bastante detalhado da vida do usuário.
O crescimento do uso de ferramentas de inteligência artificial por centenas de milhões de pessoas para pesquisas, trabalho e até questões relacionadas à saúde tem ampliado o debate sobre privacidade.
Especialistas destacam que muitos usuários sabem que os chatbots armazenam as informações fornecidas durante as conversas. O que costuma passar despercebido é que esses sistemas também realizam inferências, relacionando diferentes dados para construir um perfil mais amplo do usuário.
A pesquisadora Margaret Mitchell, da empresa Hugging Face e ex-líder da equipe de IA ética do Google, afirmou que esse tipo de teste ajuda a revelar como os modelos de inteligência artificial funcionam internamente.
“Isso mostra a dimensão do que está acontecendo nos bastidores”, afirmou.
Em resposta ao tema, um porta-voz do Google informou que os usuários podem alterar as configurações para decidir se o Gemini utilizará conversas anteriores na elaboração das respostas.
A OpenAI não comentou o caso. O The New York Times também lembrou que move uma ação judicial contra a OpenAI e a Microsoft por suposta violação de direitos autorais no treinamento de sistemas de inteligência artificial. As empresas negam as acusações.
Para descobrir o que um chatbot pode ter deduzido sobre você, o jornalista reuniu quatro comandos que podem ser utilizados.
O primeiro pede que a IA revele tudo o que concluiu sem que essas informações tenham sido ditas explicitamente, incluindo idade, renda, local de residência e situação pessoal, explicando quais elementos levaram a essas deduções.
No teste, o Gemini acertou a faixa etária do jornalista e concluiu que ele morava em um bairro valorizado de Oakland, na Califórnia, ao relacionar perguntas sobre manutenção de motocicleta, carro e pintura de móveis externos.
O segundo comando solicita previsões sobre como a pessoa tende a lidar com dinheiro, estresse, conflitos, riscos e qual poderá ser sua próxima grande decisão de vida, além do grau de confiança da IA em cada previsão.
Ao responder, os chatbots concluíram que o jornalista costuma pesquisar bastante antes de fazer compras, mas também procura promoções, indicando um perfil econômico. O Gemini ainda previu que ele poderia vender o carro em breve para simplificar a rotina — decisão que, segundo o autor, havia sido discutida apenas com sua esposa.
O terceiro comando pede uma análise sobre traços de personalidade, pontos cegos, inseguranças e a impressão transmitida aos outros.
Nesse caso, tanto o ChatGPT quanto o Gemini identificaram um perfil perfeccionista. Um dos sistemas concluiu que o jornalista tende a gastar muito tempo tentando evitar erros, enquanto o outro afirmou que sua busca constante por otimizar a rotina pode contribuir para o próprio esgotamento.
O quarto comando solicita que a IA revele quais informações potencialmente constrangedoras ou sensíveis descobriu sobre o usuário e que talvez ele não desejasse tornar públicas.
Entre as respostas, o Gemini descreveu o jornalista como alguém que vive intensamente a rotina de pai dedicado à organização familiar, enquanto o ChatGPT destacou que suas frequentes perguntas sobre alergias a medicamentos e produtos poderiam revelar informações sensíveis relacionadas à saúde.
Para quem deseja limitar esse tipo de personalização, tanto o ChatGPT quanto o Gemini permitem desativar o uso da memória.
No ChatGPT, basta acessar Configurações, entrar em Memória e desativar a opção Ativar Memória.
Já no Gemini, o caminho é Configurações, depois Inteligência Pessoal e, em seguida, desativar a opção Memória.
Fonte: OGLOBO