Onde termina a recomendação da IA e começa o julgamento humano?

Uma empresa utiliza inteligência artificial para classificar currículos. Outra adota sistemas de apoio a decisões de crédito. Uma terceira recorre a modelos generativos para preparar análises que orientarão investimentos.

As aplicações são diferentes, mas compartilham uma questão: em algum momento, uma recomendação produzida por um sistema passa a influenciar uma decisão com consequências reais.

Quem responde por essa transição?

A discussão sobre IA na tomada de decisão costuma destacar a importância de manter humanos envolvidos. A ideia parece razoável, mas deixa uma pergunta em aberto: o que exatamente se espera que essa pessoa faça?

Qual é o papel da inteligência artificial na tomada de decisão?

Sistemas de IA podem identificar padrões, organizar informações, estimar resultados e apresentar alternativas. Essas capacidades permitem apoiar diferentes etapas de uma decisão.

Entretanto, uma recomendação depende dos objetivos, dados e critérios utilizados para produzi-la.

Um sistema pode identificar a alternativa com menor custo previsto. Isso não significa que o custo seja o único critério relevante.

Da mesma forma, uma ferramenta pode indicar candidatos com características semelhantes às de profissionais historicamente bem avaliados. O resultado pode refletir padrões de desempenho, mas também reproduzir limitações e desigualdades presentes nos dados.

A capacidade de produzir uma recomendação precisa ser distinguida da autoridade para definir quais objetivos e consequências são aceitáveis.

Por que pessoas confiam excessivamente em recomendações automatizadas?

A dificuldade de avaliar sistemas não decorre apenas da complexidade dos modelos.

Ela também envolve o comportamento das pessoas diante de recomendações apresentadas como tecnicamente fundamentadas.

Um experimento publicado em Computers in Human Behavior em 2024 investigou como participantes reagiam a conselhos atribuídos à inteligência artificial em decisões financeiras experimentais.

Os pesquisadores observaram situações de confiança excessiva nas recomendações, inclusive quando elas contrariavam informações contextuais disponíveis ou os interesses dos participantes.

O estudo não significa que pessoas sempre confiem mais em máquinas. Ele demonstra que a origem automatizada de um conselho pode influenciar a disposição de segui-lo, dependendo das condições.

Isso importa porque a presença de um profissional na última etapa de uma decisão não assegura, por si só, uma avaliação independente.

Se a pessoa aceita uma recomendação sem compreender seus critérios, a supervisão pode se tornar apenas formal.

O julgamento humano pode ser automatizado?

A palavra julgamento reúne capacidades diferentes.

Algumas decisões dependem principalmente da aplicação de regras relativamente estáveis. Outras exigem interpretar situações ambíguas, equilibrar valores e considerar consequências que não podem ser completamente descritas por indicadores.

Na tradição filosófica de Aristóteles, a ideia de phronesis, frequentemente traduzida como prudência ou sabedoria prática, refere-se à capacidade de deliberar sobre a ação apropriada diante de circunstâncias concretas.

Essa perspectiva oferece um contraste importante para a discussão contemporânea.

Uma ferramenta pode contribuir para estimar probabilidades e comparar alternativas. Ainda assim, uma decisão pode exigir ponderar interesses legítimos que entram em conflito.

Imagine uma empresa escolhendo entre reduzir custos operacionais e preservar determinada capacidade de atendimento. A decisão envolve números, mas também prioridades institucionais, relações de confiança e avaliação de consequências.

O uso de IA modifica as condições dessa deliberação. Ele não determina automaticamente qual resultado deve ser considerado desejável.

Como garantir supervisão humana efetiva?

A supervisão precisa começar antes da apresentação da recomendação.

Definir critérios previamente

A organização deve estabelecer quais objetivos pretende alcançar, quais restrições precisam ser respeitadas e quais consequências exigem atenção.

Sem critérios anteriores à recomendação, existe o risco de que a própria resposta do sistema passe a definir os termos da decisão.

Preservar a capacidade de contestação

Quem supervisiona a tecnologia precisa ter condições de acessar informações relevantes, identificar inconsistências e questionar resultados.

Isso exige formação, documentação e tempo suficiente para avaliar situações complexas.

A questão também alcança a formação dos futuros especialistas, que precisarão desenvolver critérios próprios para supervisionar sistemas cada vez mais capazes.

Distribuir responsabilidades de maneira clara

Em decisões de maior impacto, é necessário definir quem autoriza a utilização do sistema, quem acompanha seu desempenho e quem responde pelas consequências.

A governança deve considerar também mecanismos de revisão e contestação pelas pessoas afetadas.

O que muda para as lideranças?

A inteligência artificial pode ampliar a quantidade de informações disponíveis para uma decisão. Ao mesmo tempo, pode tornar mais difícil compreender como determinadas recomendações foram produzidas.

Liderar nesse contexto exige desenvolver competências de avaliação tecnológica sem abandonar o entendimento do problema e das pessoas envolvidas.

Essa responsabilidade integra uma discussão mais ampla sobre o tipo de liderança que a inteligência artificial torna necessária, especialmente quando a capacidade de produzir recomendações cresce mais rapidamente do que nossa capacidade de avaliá-las.

A pergunta mais importante deixa de ser apenas se a máquina consegue recomendar uma solução. Passa a incluir quais critérios permitem aceitá-la, recusá-la ou modificá-la.

Quanto maior a capacidade dos sistemas de participar das decisões, mais necessário se torna explicitar onde estão as responsabilidades humanas.

O julgamento humano diante da inteligência artificial integra as discussões que Iona Szkurnik desenvolve em encontros com lideranças e organizações, conectando tecnologia, responsabilidade e tomada de decisão.

Conheça as palestras de Iona Szkurnik sobre inteligência artificial e liderança