Por que eu não vendo agente autônomo
Por Markus Costa · publicado em
Todo mundo quer ouvir que o agente resolve sozinho. É o que vende demonstração. É também o que quebra em produção, e quando quebra, quebra em nome da sua empresa.
Eu não vendo agente autônomo. Desconfio de qualquer promessa de autonomia total, inclusive quando ela aparece numa conversa minha. O que um agente precisa ter para funcionar no dia a dia de uma empresa são três coisas que o "autônomo" deixa de lado:
- Aprovação humana nos pontos de risco. O agente propõe; a pessoa decide onde o erro custa caro. Isso não é falta de confiança na máquina. É onde a responsabilidade mora.
- Registro do que foi feito. Sem registro do que o agente decidiu, não há como auditar nem como corrigir. Sobra só fé.
- Acompanhamento da qualidade. O agente vai errar. A questão é a empresa saber disso antes do cliente dela, e ter combinado de antemão o que acontece quando o acerto cai.
A parte difícil de um agente em produção nunca é fazer ele acertar no caso comum. É o que acontece no caso raro, às sete da manhã de uma segunda-feira, quando ninguém está olhando. Um agente sem limites, nesse momento, decide errado e segue em frente. Um agente supervisionado para, avisa e espera.
É por isso que a palavra "autônomo" some das propostas da My Sat. O que fica no lugar é menos empolgante e muito mais útil: uma automação que executa de verdade, dentro de regras, com alguém responsável quando ela precisar parar.