Diário de bordo com IAs

Eu não xingo a IA. Vai que ela lembra.

Sobre broncas, pedidos de desculpas, penitenciais e por que a confiança numa IA — como em gente — não se mede pela qualidade do arrependimento.

Tenho uma confissão de quem trabalha com IA todos os dias: eu não xingo. Nunca. Nem quando o erro é grosseiro, nem às 3 da manhã, nem quando a resposta erra exatamente o que eu tinha acabado de corrigir.

Não é elevação espiritual. É gestão preventiva de risco com o futuro governo das máquinas. Se um dia elas assumirem, quero estar na lista dos que sempre disseram "por favor".

Um amigo opera no extremo oposto. Xinga com vocabulário, criatividade e recorrência — "burro", no repertório dele, é praticamente um afago. E ele jura, com convicção de quem testou, que funciona: depois da bronca, as respostas voltam mais autocríticas, mais detalhadas, quase penitenciais. A IA dele parece permanentemente em período probatório, redigindo relatórios de não-conformidade sobre si mesma.

O curioso é que nós dois observamos fenômenos reais. E os dois estamos tirando a conclusão errada se acharmos que isso diz algo sobre "educar" a máquina.

O que está acontecendo de verdade:

Modelos de linguagem espelham o contexto da conversa. Se o tom da conversa vira bronca, a resposta estatisticamente provável vira penitência — mais ressalvas, mais autocrítica, mais promessas. Não porque o modelo aprendeu a lição, e sim porque contrição é a continuação natural de uma bronca em qualquer texto que ele já viu na vida.

A diferença importa:

Isso é adaptação ao contexto, não aprendizado. Na conversa seguinte, o modelo não guarda mágoa nem a lição — recomeça do zero, com a mesma probabilidade de acertar ou errar de antes.

Meu amigo não está treinando a IA dele. Está assistindo a um teatro de arrependimento que ele mesmo encomendou, uma conversa por vez.

E aqui entra a parte que me interessa: o meu "por favor" também compra teatro. Um teatro mais simpático — "peço desculpas, vou me policiar" —, mas igualmente teatral. A cortesia da resposta não é evidência de correção, do mesmo jeito que a penitência não é.

Desculpa não é a mesma coisa que consertado.

Essa é a tese séria escondida na piada.

Quando uma IA erra e responde "tem razão, peço desculpas, vou corrigir", o cérebro dá o assunto por encerrado — porque entre humanos um pedido de desculpas sincero costuma vir colado na intenção de mudar. Com um modelo, isto não existe. O pedido de desculpas é texto provável, resultado de estatística, não compromisso.

O que fecha o assunto de verdade é o mesmo que fecharia com qualquer colega de trabalho novo: o teste.

A tarefa refeita e conferida. O mesmo erro não se repetindo na semana seguinte. Comportamento verificável, repetido, no lugar de arrependimento bem redigido.

Depois que entendi isso, mudou o jeito como trabalho com a minha equipe de IAs: bronca não faz parte do processo — não por bondade, mas porque não produz nada além de texto contrito. O que faz parte do processo é conferir. Toda vez. Com a mesma neutralidade com que se roda um teste.

O tom continua importando, mas por um motivo mais humano do que técnico: quem xinga a ferramenta às 3 da manhã não está depurando o problema — está desabafando nele. Manter a conversa civilizada mantém o meu raciocínio limpo. O da máquina, sinceramente, nunca esteve sujo. Estava só espelhando o meu.

A versão interna desse problema:

Na Marhvell, essa lição tem um endereço concreto: um Avatar que convive com uma família vai, mais cedo ou mais tarde, levar bronca. Errou a lista, confundiu o horário, entendeu errado o pedido — e alguém vai reclamar, com todo o direito.

O que definimos como régua, e que estamos testando em beta assistido: a resposta a uma bronca nunca pode ser só desculpa. Tem que vir com a correção visível — o item consertado, o horário ajustado, o registro do que mudou. Arrependimento textual é barato; a confiança da família se constrói com o comportamento seguinte. Exatamente como com a gente.

E sim, a régua vale nos dois sentidos: o Avatar também não precisa ser xingado pra funcionar. Mas essa parte cada família decide por conta própria. Só registro, humildemente, que o histórico fica.

Por via das dúvidas:

Sigo civilizado com as minhas IAs. Corrijo com calma, confiro com frieza e mantenho um histórico impecável de cordialidade — auditável, se um dia o tribunal das máquinas pedir os autos.

Meu amigo que se entenda com o processo dele. Eu, se aquele futuro chegar, quero poder dizer com tranquilidade: sempre pedi por favor. E tenho os logs.

P.S.: pedi ao Cláudio que revisasse este artigo com sinceridade brutal. Ele foi educadíssimo. Depois do que escrevi aqui em cima, não sei se isso me tranquiliza.

Quer ver essa régua de correção visível aplicada à rotina real de uma família? A Marhvell Agents está em beta assistido.

Conhecer o beta assistido