Apesar do interesse em ferramentas de inteligência artificial (IA) e tecnologias aprimoradas por IA, muitas organizações estão hesitantes devido a um dos três principais obstáculos: falta de visibilidade, controle ou proteção. E há um consenso crescente de que a ampla adoção da IA significa uma necessidade de governança e gerenciamento de novos desafios de segurança impostos pela IA.

A startup de plataforma de segurança de IA WitnessAI, que saiu do stealth hoje, tem como objetivo abordar esses desafios e ajudar as empresas a utilizar a IA de forma segura e eficaz. De acordo com a empresa, a Plataforma de Capacitação Segura de IA da WitnessAI aborda a privacidade, governança e segurança da IA por meio de módulos para observabilidade do uso da IA; aplicação de políticas e governança do uso da IA; e proteção de funcionários, clientes e dados empresariais do uso da IA.

A plataforma será implantada como uma instância isolada baseada em nuvem para cada cliente, com cada instância criptografada com chaves únicas para garantir a privacidade e separação regulatória dos dados, afirmou a empresa. Interceptando a atividade entre usuários e grandes modelos de linguagem, a plataforma pode aplicar políticas de controle e garantir a proteção de dados. A empresa está trabalhando atualmente com mais de 20 parceiros de design e planeja implantações iniciais no próximo mês.

Como parte do lançamento, a WitnessAI também arrecadou US$ 27,5 milhões em financiamento da Ballistic Ventures e GV Management. A WitnessAI foi fundada e incubada em 2023 pela Ballistic Ventures.