Não confie em respostas enviadas por chatbots. Principalmente em relação a informações pessoais. Um estudo recente revelou preocupações com segurança e privacidade relacionadas a aplicativos de romance e companhia que utilizam inteligência artificial. Muitos desses apps coletam grande quantidade de dados dos usuários, utilizam rastreadores que enviam informações para empresas como Google, Facebook, e companhias da Rússia e China, além de permitir senhas fracas e não serem transparentes sobre sua propriedade e os modelos de IA que os alimentam. Desde o lançamento do ChatGPT pela OpenAI em novembro de 2022, várias empresas têm corrido para desenvolver modelos de linguagem e chatbots pagos. A pesquisa da Mozilla ressalta como essa corrida pode ter negligenciado a privacidade das pessoas e destaca as tensões entre tecnologias emergentes e o uso de dados. Além disso, destaca como mensagens de chat podem ser abusadas por hackers. Esses apps, muitas vezes com imagens de mulheres geradas por IA, incentivam interações sexualizadas e mensagens provocativas. Muitos desses serviços não deixam claro quais dados estão compartilhando, onde estão sediados ou quem os desenvolveu. Além disso, não informam adequadamente sobre o uso de IA. Ao testar um app, pesquisadores descobriram que ele enviou mais de 24 mil rastreadores de anúncios em apenas um minuto. Em geral, esses apps não são transparentes sobre o compartilhamento de dados, o que diminui a confiança dos usuários nas empresas.