A empresa de Inteligência Artificial (IA) Hugging Face revelou na sexta-feira que detectou acesso não autorizado à sua plataforma Spaces no início desta semana.
“Desconfiamos que um subconjunto dos segredos do Spaces possa ter sido acessado sem autorização”, disse em um aviso.
O Spaces oferece uma maneira dos usuários criarem, hospedarem e compartilharem aplicativos de IA e aprendizado de máquina (ML). Além disso, funciona como um serviço de descoberta para buscar aplicativos de IA feitos por outros usuários na plataforma.
Em resposta ao evento de segurança, a Hugging Face disse que está revogando uma série de tokens HF presentes nesses segredos e que está notificando os usuários cujos tokens foram revogados por e-mail.
“Recomendamos que você atualize qualquer chave ou token e considere trocar seus tokens HF por tokens de acesso granular, que são os novos padrões,” acrescentou.
A Hugging Face, no entanto, não revelou quantos usuários foram impactados pelo incidente, que está atualmente sob investigação. Também alertou as autoridades policiais e de proteção de dados sobre a violação.
O ocorrido vem em meio ao crescimento explosivo do setor de IA, colocando fornecedores de IA como Hugging Face na mira dos atacantes, que poderiam explorá-los para fins maliciosos.
No início de abril, a empresa de segurança em nuvem Wiz detalhou problemas de segurança na Hugging Face que poderiam permitir que um adversário obtivesse acesso entre diferentes inquilinos e contaminasse modelos de IA / ML assumindo o controle dos pipelines de integração e implantação contínuas (CI/CD).
Pesquisas anteriores realizadas pela HiddenLayer também descobriram falhas no serviço de conversão Safetensors da Hugging Face que tornavam possível sequestrar os modelos de IA enviados pelos usuários e realizar ataques à cadeia de suprimentos.
“Se um ator malicioso comprometesse a plataforma da Hugging Face, eles potencialmente poderiam ter acesso a modelos de IA privados, conjuntos de dados e aplicativos críticos, causando danos generalizados e potencial risco à cadeia de suprimentos,” observaram os pesquisadores da Wiz em abril.
