Apesar do interesse em ferramentas de inteligência artificial (IA) e tecnologias aprimoradas por IA, muitas organizações estão se segurando devido a um dos três principais obstáculos: falta de visibilidade, controle ou proteção. E há um consenso crescente de que a adoção ampla de IA significa a necessidade de governança e gerenciamento dos novos desafios de segurança apresentados pela IA.

A startup de plataforma de segurança de IA, WitnessAI, que saiu do stealth hoje, tem como objetivo abordar esses desafios e ajudar as empresas a utilizarem a IA com segurança e eficácia. De acordo com a empresa, a Plataforma de Habilitação Segura de IA do WitnessAI aborda a privacidade, governança e segurança da IA através de módulos para observabilidade do uso de IA; aplicação de políticas e governança do uso de IA; e proteção de funcionários, clientes e dados empresariais do uso de IA.

A plataforma será implantada como uma instância baseada em nuvem isolada para cada cliente, com cada instância criptografada com chaves exclusivas para garantir a privacidade dos dados e a separação regulatória, afirmou a empresa. Ao interceptar a atividade entre usuários e grandes modelos de linguagem, a plataforma pode aplicar políticas de controle e garantir a proteção dos dados. A empresa está atualmente trabalhando com mais de 20 parceiros de design e planeja implantações iniciais no próximo mês.

Como parte do lançamento, o WitnessAI também levantou US$ 27,5 milhões em investimento da Ballistic Ventures e GV Management. O WitnessAI foi fundado e incubado em 2023 pela Ballistic Ventures.