O problema
As previsões feitas por inteligência artificial frequentemente melhoram a qualidade de decisões específicas, mas podem ter um efeito disruptivo sobre sistemas de tomada de decisão como um todo.
Por que isso acontece
As decisões geralmente combinam previsão com julgamento. Quando as previsões são extremamente precisas, como pode ocorrer com a IA, os direitos de decisão tendem a migrar para onde o julgamento ainda é necessário, o que pode mudar quem toma as decisões e também onde, quando e como elas são tomadas. Além disso, previsões mais precisas em uma parte do sistema têm efeitos em cascata sobre outras partes.
A solução
Na ausência de comunicação perfeita e instantânea, organizações e cadeias de valor inteiras precisam criar sistemas que equilibrem modularidade no design com coordenação. A modularidade permite que muitas decisões sejam tomadas com base em fatores observáveis localmente, enquanto a coordenação permite que as decisões sejam otimizadas em uma rede mais ampla.
Investidor: “O que a sua inteligência artificial fará pelas empresas?”
Fundador de start-up: “Ela fornecerá insights.”
Gostaríamos de ganhar uma moeda de dez centavos para cada vez que um empreendedor deu essa resposta aos mentores e investidores do Creative Destruction Lab, um programa global para start-ups em estágio inicial que criamos na Universidade de Toronto.
Apesar de ser uma resposta padrão, “insights” é exatamente a maneira errada de pensar sobre como um avanço em IA criará valor. Na verdade, acreditamos que “insights” muitas vezes é um código para “Não sabemos o que fazer com as previsões da nossa IA.”
Uma resposta muito melhor seria descrever as decisões que as previsões irão melhorar, pois a IA só tem valor se levar a uma tomada de decisão melhor.
A boa notícia para os empreendedores é que as oportunidades para a IA melhorar decisões são incontáveis. O número de decisões tomadas pelas empresas está aumentando, e a necessidade de acertar em cada área operacional nunca foi tão grande. Considere que, em 1960, apenas 6% dos empregos exigiam habilidades centrais de tomada de decisão, como resolução de problemas, diagnóstico, estratégia e priorização, segundo pesquisa de David Deming, da Harvard Kennedy School. Em 2018, esse número havia chegado a 34%.
Mas, como mostraremos nas próximas páginas, implementar IA não se trata apenas de melhorar decisões específicas. Decisões em uma área de uma organização geralmente afetam outras áreas, portanto, introduzir IA frequentemente exige revisar e redesenhar sistemas inteiros de tomada de decisão. Vamos começar com um exemplo específico de uma iniciativa em que isso aconteceu — e como a IA acabou mudando completamente a forma como o sistema envolvido criava valor.
Como a Nova Zelândia venceu a America’s Cup
Fabricantes de veleiros e marinheiros vêm aprimorando suas técnicas há mais de 5.000 anos. Mesmo que o transporte marítimo comercial não dependa mais do vento, as inovações na vela nunca pararam.
O maior prêmio na vela (e o troféu mais antigo dos esportes internacionais) é a America’s Cup. Hoje em dia, a corrida depende tanto da tecnologia quanto das habilidades da tripulação. Milhões de dólares são investidos no design dos barcos. Como a física do vento, da água e das embarcações é bem compreendida, os competidores usam simuladores para identificar os designs mais eficazes e testar os barcos sem precisar construí-los. A equipe com o melhor simulador ganha uma grande vantagem — como a Emirates Team New Zealand descobriu em 2017, quando venceu o troféu.
Enquanto os membros da equipe se preparavam para a corrida de 2021, eles se perguntaram se seria possível acelerar o processo de design. Em parceria com a consultoria global McKinsey, identificaram o principal gargalo para a inovação: os marinheiros humanos. Leva tempo para uma tripulação humana velejar com um barco no simulador; não há como acelerar o ritmo com que os membros reagem às condições e manobram o barco. Os marinheiros operam em um ritmo humano — e isso não é rápido o suficiente.
Usando uma tecnologia semelhante à da IA que derrotou os melhores jogadores do mundo no jogo de tabuleiro Go, a equipe ensinou um programa de IA a velejar. O robô não precisava dormir ou comer e podia rodar milhares de simulações no mesmo tempo que a tripulação humana levaria para realizar apenas algumas. Após oito semanas, a IA começou a vencer os marinheiros no simulador.
Foi então que as coisas ficaram interessantes. A IA começou a ensinar novos truques aos marinheiros humanos. Como contou um membro da equipe de desenvolvimento à revista Wired: “O robô fazia coisas que pareciam contraintuitivas para os marinheiros, mas eles testavam na água e funcionava.”
Antes disso, os designers dos barcos precisavam dos humanos para testar qualquer inovação. Descobrir a melhor forma de usar um barco recém-desenhado poderia levar semanas.
A IA, por outro lado, podia experimentar múltiplas variações do barco simultaneamente, 24 horas por dia. Ela podia testar diferentes táticas de corrida. Acelerava o ciclo de iteração de design e o desenvolvimento de novas manobras. Uma vez que a IA descobria uma solução superior, os marinheiros humanos podiam copiá-la. Como disse um membro da equipe: “Acelerar o processo de aprendizado é extremamente valioso — tanto para permitir que a equipe de design explore ao máximo o espaço de possibilidades quanto para que os marinheiros maximizem o desempenho de um determinado design.” Naquele ano, a Emirates Team New Zealand conquistou o troféu, vencendo sete corridas contra três.
Por que esse uso da IA foi tão inovador? Deixando de lado a tecnologia impressionante que permitiu simulações em ambientes complexos, o impacto principal foi no nível do sistema. A IA não estava apenas fornecendo alguns insights para a Emirates Team New Zealand. Ela foi integrada a um sistema de tomada de decisão.
A preparação para a corrida envolve dois tipos de decisão: aquelas relacionadas ao design do barco e aquelas sobre as manobras de navegação. Embora simuladores já fossem usados há muito tempo no design de barcos, as manobras sempre foram elaboradas por humanos. A IA não pilotou o barco na corrida — as regras ainda exigem que barcos reais sejam pilotados por pessoas reais —, mas ela acelerou o processo de inovação e permitiu melhor coordenação entre o design do barco e as manobras. O sistema completo — com o barco simulado e o velejador-IA — permitiu melhorias nos dois tipos de decisão.
Por que a mudança sistêmica leva tempo
Pode levar um tempo até que o impacto sistêmico de uma nova tecnologia se torne evidente. Quando uma tecnologia surge, as pessoas inicialmente a aplicam de forma restrita. Quando a energia elétrica foi inventada como substituta do vapor, por exemplo, as empresas a utilizavam apenas onde a água necessária para gerar vapor era difícil de obter. Duas décadas após Edison acender a lâmpada elétrica, apenas 3% das empresas nos Estados Unidos usavam eletricidade.
Da mesma forma, em 1987, décadas após a introdução dos computadores nas empresas, o economista Robert Solow observou: “Você pode ver a era dos computadores em toda parte, exceto nas estatísticas de produtividade.” O potencial da computação era evidente, mas o impacto permanecia limitado.
O mesmo aconteceu com a inteligência artificial. Apesar de alguns nomes alternativos, as novas tecnologias de IA são, basicamente, avanços na estatística. Elas tornam possível prever resultados mais complexos e, com isso, aproveitam dados que, de outra forma, poderiam ser ignorados. E suas aplicações iniciais se concentraram naquilo que podiam entregar de imediato: previsões melhores e mais baratas do que as feitas por humanos.
Os softwares de tradução, uma aplicação precoce da IA, são um bom exemplo. Eles preveem como uma pessoa traduziria um determinado texto de um idioma para outro com base em como humanos reais traduziram textos anteriores. Outro exemplo são os sistemas de IA para classificação de imagens médicas, que previam o que radiologistas especialistas diriam que os exames mostravam. Ambas as aplicações utilizam a sabedoria coletiva, que muitas vezes gera previsões mais precisas do que aquelas feitas por uma única pessoa. Aplicações como essas podem ter um valor comercial enorme.
Veja o caso da empresa canadense Verafin, adquirida pela Nasdaq por 2,75 bilhões de dólares. Por quê? Porque suas tecnologias de IA para identificar fraudes financeiras estavam sendo usadas por centenas de instituições financeiras como substitutas das equipes de segurança que tradicionalmente faziam esse trabalho.
Essas novas aplicações podem impulsionar avanços importantes, mas dificilmente são transformadoras. Elas se encaixam nos negócios existentes sem grandes mudanças, substituindo diretamente os humanos que antes faziam previsões. Em todos os outros aspectos, os negócios permanecem inalterados.
Mas, quando pensamos no impacto da eletricidade e da computação, não pensamos em aplicações pontuais — pensamos em transformação. Graças à eletricidade, as fábricas não precisavam mais estar localizadas perto da água nem ter vários andares para otimizar o uso do vapor. Elas podiam ficar a centenas de quilômetros de uma fonte de água e ocupar um único andar, viabilizando um novo tipo de sistema de produção em massa. Os computadores tiveram um impacto semelhante. Evoluíram de máquinas de cálculo sofisticadas para o que Steve Jobs descreveu como “bicicletas para a mente” — não substitutos da mente.
E essa é a verdadeira lição da America’s Cup. A Emirates Team New Zealand não tirou as pessoas do processo. Sim, é possível imaginar uma solução totalmente automatizada que tome todas as decisões. Mas essa abordagem certamente é rara. A previsão feita pela IA fornece informações que melhoram as decisões — decisões essas que ainda são tomadas por pessoas. Curiosamente, com a IA, a diferença não está tanto em as máquinas fazerem mais, mas sim em quem são as melhores pessoas para tomar decisões.
Como a IA está mudando a tomada de decisões
Quando a Apple lançou a revolução dos smartphones, ninguém pensou: “É o fim da indústria de táxis.” Mas o compartilhamento de corridas só se tornou possível porque os telefones móveis conectados à internet permitiram que as pessoas chamassem carros por meio de um aplicativo e obtivessem informações de navegação a baixo custo. Em Londres, por exemplo, os motoristas de táxi levam de três a quatro anos para aprender todas as ruas da cidade e as melhores rotas. Hoje, a IA nos smartphones permite que qualquer pessoa preveja as melhores rotas, levando em conta as condições do trânsito. Se os smartphones não existissem, o setor de táxis talvez ainda estivesse prosperando.
A maioria das decisões exige duas habilidades de quem decide: a capacidade de prever os possíveis resultados de uma escolha e o julgamento. A previsão baseia-se, em grande parte, em dados. (Dadas as rotas disponíveis e as condições do trânsito, quanto tempo a viagem provavelmente levará?) Já o julgamento é uma avaliação subjetiva de fatores contextuais que não são facilmente traduzidos em dados. (Esse cliente prefere uma viagem rápida ou um caminho mais panorâmico?)
Motoristas de táxi possuem ambas as habilidades. Motoristas comuns são mais limitados; conseguem perceber as preferências dos passageiros (julgamento), mas têm menos aptidão para navegação (previsão). Porém, se forem combinados com softwares de navegação, eles passam a se equiparar aos motoristas de táxi. Acrescente uma plataforma que elimina a necessidade de taxímetro, de um método próprio de pagamento e de um despachante central que distribui os chamados, e qualquer motorista com acesso à plataforma pode oferecer corridas.
As plataformas e suas IAs tiveram dois efeitos importantes. Primeiro, muito mais pessoas puderam participar das decisões sobre corridas. Segundo, o controle dos motoristas sobre as decisões diminuiu. Como a plataforma de transporte por aplicativo conseguia combinar motoristas e passageiros e identificar as melhores rotas, cabia aos motoristas apenas oferecer um serviço confortável e agradável para os passageiros que lhes fossem designados. Esses dois efeitos enfraqueceram o poder dos taxistas tradicionais e transformaram o setor.
Em alguns casos, a IA apenas concentra a tomada de decisões sem mudar quem tem o controle. Veja o processo de contratação, que, na maioria das grandes organizações, é gerido pelo departamento de recursos humanos. Tradicionalmente, a contratação envolvia muitas pessoas do RH tomando diversas pequenas decisões, especialmente na triagem de candidatos, o que exigia equipes analisando centenas de currículos para selecionar os melhores para entrevistas. Com a IA, um único executivo de RH pode definir os critérios para decidir quem será entrevistado. O processo básico e o principal tomador de decisão permanecem os mesmos, mas são necessárias menos pessoas.
Em outros casos, a IA centraliza radicalmente a tomada de decisões, mudando completamente como e onde ela acontece. A verificação de cartões de crédito é um exemplo. Antes do surgimento de dispositivos conectados que validam automaticamente os cartões, os próprios lojistas decidiam se aceitavam ou não o cartão de um cliente. Eles podiam recusá-lo se suspeitassem de fraude — por exemplo, se a assinatura não combinasse com a do cartão ou se o cliente não tivesse um documento de identidade. E podiam facilmente aceitar cartões de clientes regulares. Mas sistemas baseados primeiro em verificações simples de banco de dados e agora em previsões por IA automatizaram esse processo. As compras com cartão são aprovadas com base em regras estabelecidas por um pequeno grupo de pessoas, provavelmente um comitê, que define os parâmetros de risco incorporados nos programas que controlam os dispositivos de verificação.
Em outros casos ainda, a introdução da IA não apenas mantém as decisões nas mãos dos mesmos tomadores de decisão, como também torna seu julgamento (mais descentralizado) mais importante. O uso da IA em imagens médicas é um bom exemplo. As decisões de tratamento decorrentes de um diagnóstico sempre foram feitas pelo médico do paciente. Mas, antes da chegada da previsão por IA, o médico muitas vezes recorria a um radiologista especializado, que realizava exames como ressonâncias, ultrassons ou raios X e usava seu julgamento para formular o diagnóstico. Na prática, as decisões dos radiologistas eram necessárias para que os médicos tomassem as suas próprias decisões. Com o diagnóstico auxiliado por IA substituindo o julgamento do radiologista, o único julgamento agora necessário nas decisões de tratamento é o do médico do paciente. Isso, consequentemente, torna o médico mais importante e poderoso — e o radiologista, menos.
Em todos esses casos, a aplicação da IA mudou como e por quem as decisões são tomadas. Mas a introdução da IA no processo decisório da sua empresa não afeta apenas você. Também afeta seus parceiros na cadeia de valor e o ecossistema em que você atua. O que funciona para você pode gerar problemas para eles. Vamos agora analisar como isso pode acontecer.
Como a IA desloca a incerteza
Imagine que você está administrando um restaurante. Os clientes chegam e fazem seus pedidos. Os cozinheiros então preparam os pratos. Em qualquer momento, há limitações quanto ao que pode ser feito, determinadas pela habilidade dos chefs, pelo número total de pedidos e pela disponibilidade de ingredientes e equipamentos. Se você permitir que os clientes peçam qualquer prato que desejarem, surgirão problemas.
O que você faz, portanto, é definir um cardápio. Você limita as opções dos clientes para que possa realmente preparar o que eles pedirem. Do ponto de vista da cozinha, o cardápio cria previsibilidade e evita surpresas inesperadas. Toda semana, você precisa encomendar ingredientes com base no cardápio. Se guacamole estiver no menu, você precisa de abacates. Você pede 100 quilos por semana. Às vezes, isso é demais, e o excedente vai para o lixo. Outras vezes, 100 quilos são insuficientes, e você perde vendas.
Vamos supor que você adote IA para prever a demanda (o que os clientes irão escolher) e descobre que ela funciona bem. Em algumas semanas, você pede apenas 30 quilos. Em outras, precisa de 300. Você desperdiça menos e vende mais. A lucratividade aumenta.
Mas seu fornecedor local estava acostumado a comprar 100 quilos para você toda semana. Agora ele enfrenta mais imprevisibilidade por sua causa. Os outros clientes dele também estão usando IA para previsão de demanda, e a demanda começa a oscilar drasticamente. Então o fornecedor decide adotar IA para fazer sua própria previsão de demanda. Ele costumava pedir 25 mil quilos de abacates por semana. Agora seu pedido varia entre 5 mil e 50 mil quilos. O fornecedor dele, por sua vez, precisa desenvolver IA, e seus pedidos também começam a variar. E isso continua até chegar aos agricultores, que precisam decidir o tamanho da colheita com um ano ou mais de antecedência.
Isso mostra que, embora a IA possa ser usada para resolver a incerteza de uma pessoa, esse efeito não se espalha para todas as decisões dentro de um sistema. O problema fundamental — que é alinhar a demanda com a oferta — ainda não foi resolvido. Como uma pedra lançada num lago, sua solução com IA gera efeitos em cadeia nas demais decisões do sistema.
Isso nos deixa com um paradoxo. O valor da IA vem da melhoria das decisões por meio da previsão do que acontecerá com fatores que, de outra forma, seriam incertos. Mas uma consequência disso é que suas decisões se tornam menos confiáveis para os outros. Introduzir IA na cadeia de valor significa que seus parceiros precisarão coordenar-se muito mais para absorver essa incerteza.
Coordenando sistemas para alinhar esforço e recursos
O gerente de restaurante precisa tomar várias outras decisões além de prever a demanda — por exemplo, o que oferecer no cardápio. Se o efeito em cadeia da IA fizer com que o produtor não consiga fornecer abacates suficientes, o restaurante precisa alterar o cardápio. Mas isso provavelmente só acontecerá se ele souber que os abacates não estarão disponíveis, o que exige coordenação entre os tomadores de decisão. Essa coordenação tem dois aspectos:
Sincronizar o trabalho.
Considere a operação de uma equipe de remo com oito remadores. Dois fatores determinam seu desempenho em uma corrida: se os membros estão remando em uníssono, e como ajustam a velocidade da remada à medida que a corrida avança para garantir que ninguém fique sem energia antes da linha de chegada. O timoneiro, que se senta na parte de trás do barco, é essencial para a segunda função, mas não para a primeira. Isso pode parecer surpreendente, já que o timoneiro coordena os remadores para manter o ritmo, gritando “Remar! Remar! Remar!”. Mas essa tarefa não exige uma pessoa separada; um dos remadores poderia fazê-la — e de fato isso acontece em competições onde os barcos não têm timoneiros. Porém, quando se trata de monitorar a estratégia durante a corrida e obter informações sobre o estado físico dos remadores — ou seja, coletar e agregar dados — o timoneiro é fundamental. Ele pode avaliar a necessidade de mudanças no ritmo da equipe e ajustar suas instruções conforme necessário. O timoneiro existe porque a equipe precisa garantir que as adaptações ocorram de maneira sincronizada.
Alocar recursos.
O desafio da coordenação também envolve uma categoria de problemas que Paul Milgrom e John Roberts chamam de problemas de alocação — situações em que é necessário atribuir recursos a uma atividade, sabendo que apenas uma certa quantidade será usada. Qualquer valor acima disso será desperdício; abaixo disso será insuficiente. Considere o envio de ambulâncias. Se todas as ambulâncias de uma rede recebessem uma mensagem de emergência e decidissem individualmente se responderiam, muitas vezes você acabaria sem nenhuma resposta ou com ambulâncias demais no mesmo chamado. Para garantir que apenas uma responda, é necessário um despachante central — humano ou automatizado — que receba as chamadas (ou seja, as informações) sobre a emergência e então atribua uma ambulância para atendê-la. Nesse caso, enviar a “ambulância errada” (talvez uma que esteja mais longe ou que não tenha o equipamento ideal) é muito menos problemático do que não enviar nenhuma ou enviar várias.
Tanto os timoneiros quanto os despachantes são sistemas de comunicação que evitam os resultados negativos que poderiam surgir da falta de sincronização ou de alocação inadequada de recursos. Da mesma forma, quando a IA causa problemas de coordenação, novos sistemas de comunicação podem ser necessários para resolvê-los. É por meio de investimentos inteligentes em coordenação que as organizações conseguirão realizar plenamente o potencial da IA.
Então, o que significa “inteligente” nesse contexto?
Combinando coordenação com modularidade
Idealmente, um sistema seria capaz de se coordenar inteiramente por meio da comunicação, como fazem os timoneiros de equipes de remo e os despachantes de ambulâncias. Mas a comunicação nem sempre é suficiente. Um restaurante, por exemplo, não consegue gerar alinhamento ao longo da cadeia de suprimentos apenas com comunicação, porque essa cadeia pode se estender por milhares de quilômetros e vários meses. O investimento necessário seria proibitivamente caro e demorado.
Qual é a solução? Vamos considerar as operações da Amazon. Ela fornece milhões de produtos em todo o mundo. Isso envolve adquiri-los, armazená-los em centros de distribuição, registrar os pedidos dos clientes e despachar os itens para eles. Mas também envolve ajudar os clientes a decidir o que comprar — ou seja, fornecer recomendações.
A Amazon enfrenta o mesmo problema que nosso restaurante: quer oferecer aos clientes exatamente o que eles desejam, no momento em que desejam. Mas os produtos não aparecem como mágica, pois suas cadeias de suprimento são complexas.
Suponha que o mecanismo de recomendação da Amazon, baseado em IA, preveja que o melhor produto para sugerir a um cliente provavelmente está indisponível. O que a Amazon deve fazer? É tentador pensar que, se um produto não está disponível, ele não deveria ser recomendado. O problema é: como saber se a previsão da IA estava correta e se o cliente realmente queria aquele item? Se você recomendar apenas o que tem em estoque, perde oportunidades de aprendizado e crescimento.
É exatamente por isso que a Amazon inclui em suas recomendações produtos que estão fora de estoque e que levarão mais tempo para chegar ao cliente. As decisões são coordenadas no sentido de que a Amazon informa ao cliente sobre o possível atraso. Os clientes podem optar por produtos disponíveis, mas às vezes escolherão os que estão indisponíveis. A partir disso, a Amazon aprende quanto esforço precisa fazer para manter estoque desses itens.
Alcançar esse equilíbrio exige um projeto cuidadoso. A Amazon tem uma organização modular, o que permite incorporar previsões de IA mais precisas às recomendações sem causar grandes impactos no restante da organização. No entanto, as decisões de estoque e de pedidos não podem ser totalmente independentes do sistema de recomendações da IA, justamente porque as escolhas e reações dos clientes geram informações que precisam ser processadas pelo departamento de logística.
A adoção da IA muitas vezes exige um sistema que encontre o equilíbrio ideal entre modularidade e coordenação. A modularidade isola as decisões de uma parte da organização das variações — os efeitos em cadeia — que a IA provoca em outras partes. Isso reduz a necessidade de previsibilidade. Já a coordenação compensa a falta de previsibilidade que acompanha a adoção da IA. Sistemas de IA bem-sucedidos promovem coordenação sempre que possível e modularidade sempre que necessário.
Como esperamos que esteja claro até aqui, a promessa da tecnologia de previsão da IA é semelhante à da eletricidade ou da computação pessoal. Assim como essas tecnologias, a IA começou resolvendo alguns problemas imediatos, gerando valor em aplicações isoladas e bem definidas. Mas, à medida que as pessoas passam a interagir com a IA, identificam novas oportunidades de criar soluções ou melhorar a eficiência e a produtividade. Restaurantes, por exemplo, provavelmente se integrarão mais profundamente às suas próprias cadeias de suprimentos e talvez tornem seus cardápios mais flexíveis. À medida que essas oportunidades forem concretizadas, elas trarão novos desafios — que, por sua vez, gerarão mais oportunidades. Assim, à medida que a IA se espalha pelas cadeias de suprimentos e pelos ecossistemas, descobriremos que todos os processos e práticas que antes considerávamos garantidos estão sendo transformados — não pela tecnologia em si, mas pela criatividade das pessoas que a utilizam.
Fonte:
Periódico Harvard Business Review, edição de novembro / dezembro de 2022
Sobre os autores:
Ajay Agrawal é professor titular da Cátedra Geoffrey Taber de Empreendedorismo e Inovação na Universidade de Toronto e fundador do Creative Destruction Lab.
Joshua Gans é titular da Cátedra Jeffrey S. Skoll de Inovação Técnica e Empreendedorismo na Universidade de Toronto e economista-chefe do Creative Destruction Lab.
Avi Goldfarb é titular da Cátedra Rotman de Inteligência Artificial e Saúde na Universidade de Toronto e cientista de dados-chefe do Creative Destruction Lab.
Eles são os autores do livro Poder e Predição: a Economia Disruptiva da Inteligência Artificial, do qual este artigo foi adaptado.