O botão sem fio

A jarra e a bacia

No quadro do Metropolitan, Pilatos tem as mãos sobre uma bacia e quem segura a jarra é um rapaz ajoelhado, que derrama a água com o cuidado de quem faz um serviço pequeno. Ao fundo, soldados espiam e um velho de turbante observa, e ninguém olha para o acusado, que a pintura deixa fora da cena. O evangelho conta que Pilatos, vendo que nada conseguia, lavou as mãos diante da multidão e se declarou inocente do sangue daquele homem.¹ Esse gesto continua sendo a melhor imagem que conheço de responsabilidade cerimonial: Pilatos decidiu, e a água serve para que a decisão pareça ter sido de outros.

Numa transcrição de setembro de 2023, Des Traynor, cofundador da Intercom, diz a Paul Adams, diretor de produto da casa, o que a IA fará com o trabalho e com o julgamento.² Os dois falam por quarenta minutos de categorias de software, de startups que atacam gigantes e de ofícios que a máquina vai mudar; o trecho que me devolveu o quadro é curto e trata de quem aperta o último botão.

O botão

Adams supõe que as pessoas se afastem da análise e fiquem com o julgamento, e Traynor acrescenta que a máquina também julgará, de modo que o que sobra é o conforto humano com a ideia, a de deixar a máquina ir até certo ponto e querer ser a pessoa que conserta o que falhar. Evoca então o chefe do quadrinho Dilbert, que gosta de ser quem aperta o botão de lançamento, e um desenho sombrio de futuro distante: uma fábrica cheia de gente, cada qual no seu posto, com um botão à mão para o caso de algo dar errado, e do outro lado da parede os botões não ligam em nada. Estão lá, diz ele, para que os humanos se sintam parte do processo.

O mais interessante é que Traynor não zomba do episódio. Lembra que a IA não é perfeita, e os humanos tampouco, e acha válido não lançar uma campanha de e-mail sem alguém olhando; prevê que todo o trabalho até o último passo da maratona talvez seja feito pela IA, e que então “um humano chega e diz: ‘Sim, clique’”, o que ele considera natural. Admite, porém, que o patamar daquilo que as pessoas chamam de julgamento vai subindo, e subindo.

Concordo com o desenho e acrescento uma condição, que a conversa não discute e que me parece decidir tudo: o clique só vale quando está ligado a algo.

O que liga o botão

Quem aprova o último passo vê o resultado daquele passo, e dos anteriores vê o que lhe mostram. Traynor dá, sem perceber, um bom exemplo disso quando descreve um pedido em cadeia a um sistema de relatórios de atendimento. Pede-se primeiro quais atendentes têm as notas mais altas, depois quais assuntos se correlacionam com elas e quais atendentes vão pior em quais assuntos, e daí se segue para uma lista priorizada, uma sugestão de treinamento e, por fim, um e-mail a cada pessoa mandando que faça o curso. Ele diz que tudo isso é julgamento e que não lhe parece claro onde a capacidade da máquina acaba. O humano que clica no e-mail final vê o texto de um aviso; as decisões que o antecederam, os cortes, as correlações, o que entrou e o que ficou de fora da lista, estão do outro lado da parede.

Um botão fica ligado, segundo minha leitura, quando quatro fios chegam a ele. O primeiro é um nome: alguém específico responde pelo clique, e não um setor. Traynor chega perto disso em outro passo, ao falar dos relatos de situação de projeto que a IA poderia completar sozinha: “prefiro que isso venha mesmo da cabeça de alguém, pelo menos por ora.” Explica que, quando a pessoa põe o nome embaixo, diz que entende, profissionalmente, aquilo que lhe pagam para entender. Esse nome é o primeiro fio, e um aprovador sem rosto não o substitui.

Vem em segundo a evidência, que deve incluir o caminho e o produto: o que foi lido, o que foi descartado e com que critério. Em terceiro, o poder de parar, porque um clique que só confirma é decoração, e o botão só existe de fato se a recusa dele pode impedir o envio. Por fim, um custo para o carimbo, que pode ser algum sorteio de casos aprovados e revisitados depois, para que o aprovador saiba que alguém confere o conferente. Sem esses fios, o botão serve de bacia: a pessoa lava as mãos diante da equipe e a máquina derrama a água.

Permitir à IA, linha a linha

Traynor sugere, para a pergunta de quanto deixar a máquina fazer, o modelo dos controles de acesso por papel que a Intercom já construiu, com “muitas configurações que começam com ‘Permitir que a IA…’”. A lista que ele imagina vai do pequeno, como responder ou pedir uma nota de satisfação, ao intermediário, como avisar a própria equipe de suporte quando as notas caem, até coisas maiores, como publicar uma vaga num site de empregos porque a equipe está claramente desfalcada. Ele diz que existe um espectro, e essa é a parte que mais me serve, porque troca a pergunta de sim ou não por uma lista de linhas, cada uma com seu tamanho.

Em sistema interno, isso tem nome e tabela: papel, permissão, registro. Cada linha de “Permitir que a IA…” pode carregar quatro colunas, que são as do botão ligado. São elas a classe da ação, dita de modo que ninguém discuta o que está dentro dela; o teto, que pode ser valor, público alcançado ou grau de irreversibilidade; o nome de quem responde; e a verificação posterior, que diga como se saberá, depois, se a ação fez o que se esperava. Responder a uma dúvida de horário num canal de mensagens é uma linha barata, reversível e de público pequeno, e pode ir sozinha. Mandar uma mensagem em massa a toda a base, mudar uma verba de anúncios ou reembolsar um cliente são linhas caras, com teto de valor e de alcance, e um clique ligado.

A lista ajuda, além disso, a ver onde ainda não se decidiu nada. Uma empresa que dá a uma ferramenta de IA acesso ao e-mail ou ao cadastro de clientes costuma conceder, sem escrever, várias linhas de “Permitir que a IA…”, todas no limite difuso do que o acesso técnico alcança. Escrevê-las uma a uma é chato, e o tédio é o preço de saber o que se autorizou, pois a autorização que ninguém redigiu existe do mesmo modo e só não tem dono.

A água

Traynor escolhe o lado otimista do problema, e isso me parece justo: a IA de setembro de 2023 já inferia respostas que ninguém tinha escrito, e ele conta como o bot da casa deduziu, de um artigo que explicava como ligar um recurso, onde ficava a configuração que um usuário procurava. Segundo ele, a resposta foi perfeita e nenhuma pessoa da empresa precisou escrevê-la; a máquina a concluiu sozinha e teve confiança para dá-la. Esse tipo de inferência serve muito bem quando acerta, e é exatamente o que um botão ligado deveria poder examinar quando o preço do erro é alto. O julgamento da máquina tende a melhorar, e a dúvida que resta é de desenho: a quem pertence a bacia quando a água já vem pronta.

O evangelho não menciona o rapaz, e o pintor o pôs na cena, com a jarra na mão. A história guardou o nome de quem lavou, e o de quem despejou a água ficou de fora. Se a máquina virar a mão que derrama, convém que os clientes e a empresa saibam, desde a tela de configuração, quem é a mão que se lava e o que ela pode, de fato, recusar.

A bacia limpa as mãos, e é o fio que as mantém responsáveis.

Fonte: Des Traynor e Paul Adams, “Intercom on Product: Product strategy in the age of AI”, Intercom Blog, 15 de setembro de 2023.