Apesar do interesse em ferramentas de IA e tecnologias aprimoradas por IA, muitas organizações estão reticentes devido a uma das três principais barreiras: falta de visibilidade, controle e proteção. E há um consenso crescente de que a adoção ampla de IA significa a necessidade de governança e gerenciamento de novos desafios de segurança apresentados pela IA.

A startup de plataforma de segurança de inteligência artificial WitnessAI, que saiu do stealth hoje, afirma abordar esses desafios para ajudar empresas a usarem a IA de forma segura e eficaz. De acordo com a empresa, a Plataforma de Habilitação Segura de IA WitnessAI aborda a privacidade, governança e segurança da IA por meio de módulos para observabilidade do uso de IA; execução de política e governança do uso de IA; e proteção de funcionários, clientes e dados corporativos do uso de IA.

A plataforma será implantada como uma instância isolada baseada em nuvem para cada cliente, sendo cada instância criptografada com chaves exclusivas para garantir a privacidade dos dados e a separação regulatória, disse a empresa. Ao interceptar a atividade entre usuários e grandes modelos de linguagem (LLMs), a plataforma pode aplicar políticas de controle e garantir a proteção de dados. A empresa está atualmente trabalhando com mais de 20 parceiros de design e planeja implantações iniciais em junho de 2024.

Como parte do lançamento, a WitnessAI também levantou $27,5 milhões em financiamento da Ballistic Ventures e GV Management. A WitnessAI foi fundada e incubada em 2023 pela Ballistic Ventures.