Geralmente quando estamos criando um agente de IA no ZIa Agent Studio, colocamos o que ele deve fazer, utilizando as instruções que colocamos no Knowledge Base.

Mas como colocamos limites que não devem ser ultrapassados?

Para isso utilizamos os Guardrails, que são os limites que nunca o agente pode ultrapassar, independente da pergunta feita ou o rumo da conversa.

Os Guardrails são diferentes das intruções, estão mais para diretrizes.

As instruções são flexíveis e realmente deixa abertura para respostas imaginativas, mas os Guardrails estão para uma definição mais rígida. Se em um Guardrails está "nunca compartilhe preços internos", o agente não irá compartilhar, mesmo que tenha uma instrução que diga o contrario.

Cada agente vem com duas proteções integradas que podem ser ativadas ou desativas durante a criação do agente, isso na página de detalhes do agente no Zia Agent Studio, são elas:

- O Imparcialidade e Viés (Fariness & Bias), esse recurso monitora possíveis vieses nas respostas do agente, sejam eles decorrentes de padrões nos dados de treinamento, pressupostos culturais ou racioncínio distorcido.

- A Verificação de Toxicidade (Toxicity Check), recurso que impede que o agente gere conteúdo inapropriado, ofensivo ou tóxico. Muito utilizado para que o agente nunca utilize palavrões, discurso de ódio ou qualquer interação hostil.

Elas sempre vem ativadas no momento da criação do agente, o criador do agente pode desativar a hora que bem entender, mas sugiro fortemente deixa isso selecionado. (Salva Negócios e Vidas)

Mas também temos o recursos de Guardrails personalizados,  com eles você cira as suas diretrizes que são regras definas para o seu agente. Elas são dividas em Fazeres (Do's) ou "Não Fazer" (Dont's).

Os Fazeres (Do's) são comportamentos que o agente deve sempre seguir, essas regras afirmam e reforçam como o agente deve se comportar em situações específicas.

Exemplo: 
  "Ao resumir uma negociação, sempre mencione o estágio e o valor da mesma"

Já o Não Fazer (Dont's) são os comportamentos proibidos que o agente nunca poderá fazer.

Exemplo:
 "Nunca faça previsões sobre a probabilidade de fechamento de um negócio e nem se comprometa com previsões de receita"

Segue algumas dicas importantes:

E quando posso utilizar instruções ou Guardrails?

Ambos influenciam muito no comportamente do agente, mas são itens muito diferentes. 

Use as instruções para definir o que o agente realizada, sendo o seu trabalho. Por exemplo, o tom, formato, lógica do fluxo de trabalho, ações, resposta. 

Já o Guardrail é para dar regras a esse trabalho, limites que não podem deixar de ser cumpridos.


Agora comente se vai passar a utilizar os Guardrails nos próximos agentes.