Google Cloud

Segurança de IA no Google Cloud com Model Armor

Proteção de aplicações de IA contra vazamento de dados e uso indevido, com governança e conformidade com a LGPD.

Ilustração sobre segurança de IA no Google Cloud

O que é o Model Armor?

O Model Armor é um serviço do Google Cloud que inspeciona o que entra e o que sai de modelos de IA. Ele ajuda a bloquear tentativas de manipulação do modelo, como injeção de prompt, e a evitar a exposição de dados sensíveis nas respostas, aplicando as políticas definidas pela empresa.

Entradas

Filtragem de pedidos com tentativa de manipulação.

Saídas

Verificação das respostas antes de chegarem ao usuário.

Dados sensíveis

Proteção contra exposição de informações sensíveis.

Como reduzir o uso de IA sem controle na empresa?

O uso de ferramentas públicas de IA com dados corporativos, conhecido como Shadow AI, se reduz oferecendo uma alternativa governada. Isso inclui regras claras de uso, uma IA corporativa com controle de acesso e auditoria, e proteção das entradas e saídas dos modelos. A Alice, da MMCafé, segue esse modelo.

1

Diagnóstico

Onde e como a IA já é usada na empresa.

2

Regras de uso

O que pode e o que não pode ser enviado a uma IA.

3

IA governada

Alternativa corporativa com controle de acesso e auditoria.

4

Monitoramento

Acompanhamento das entradas e saídas dos modelos.

Guia do Google Cloud

Como acelerar a IA sem abrir mão da segurança?

A IA traz novos riscos, como shadow AI, desenvolvimento de modelos sem supervisão e identidades de agentes comprometidas. Segundo a Cloud Security Alliance, 72% das organizações não confiam na própria capacidade de proteger a IA.

Secure AI Framework

Adoção responsável com o SAIF, o framework de IA segura do Google.

Identidades de agentes

Governança de identidades humanas e de agentes com o Google Cloud IAM.

Shadow AI e guardrails

AI Protection no Security Command Center para descobrir shadow AI e aplicar guardrails em tempo de execução com o Model Armor.

Fonte: Google Cloud, Secure AI innovation without interruption, com dado da Cloud Security Alliance.

Fale com um especialista

Quer falar com a MMCafé sobre segurança de IA?

Preencha o formulário e fale com um especialista. Conheça também:

Se o formulário não aparecer, abra por este link.