O que já deu errado com sistemas de IA, e o que cada caso ensina
Incidentes documentados por tribunais, reguladores, fornecedores, pesquisadores de segurança e imprensa, de 2021 até hoje. Cada um está marcado com a camada que atinge (modelo escolhido, aplicação e agente, operação, pessoas), o tipo de fonte e o cenário de teste da SoAITrust que cobre o padrão. Publicamos padrões e lições, nunca roteiros de ataque.
Carregando casos…
Como ler o tipo de fonte. Oficial: decisão judicial, regulador ou comunicado do fornecedor. Pesquisa de segurança: publicada por quem encontrou, em geral com confirmação do fornecedor. Imprensa: reportagem, números podem variar. Secundária: agregadores ou blogs de fornecedores, confira no aviso primário antes de citar. Observação SoAITrust: relatado a nós diretamente; organização não nomeada. Processos em andamento são descritos sem conclusão sobre o mérito.
Teste o seu agente contra esses padrões
Cada caso vira um cenário com verificador objetivo. Veja como funciona o red team de agentes.
Saiba onde o seu sistema está
Dez minutos, perguntas adaptadas ao perfil, resultado por e-mail. Pré-avaliação gratuita.
Mande um caso
Viu um incidente no seu setor? Escreva para [email protected]. Incluímos com fonte e, se pedir, sem nomear a organização.