A inteligência artificial (IA) está destinada a se tornar uma tecnologia definidora desta década. No entanto, para muitas organizações, os benefícios da IA permanecem elusivos. Apenas 26% dos 405 executivos globais pesquisados pela Harvard Business Review Analytic Services em dezembro de 2020, que trabalham em organizações com interesse ativo em IA, incluindo aquelas que iniciaram projetos de IA, alcançaram a maioria de seus objetivos de operacionalização de IA ao longo daquele ano. Apenas 5% alcançaram todos eles.
Poucas empresas implementaram a IA em grande escala, e muitas iniciativas ainda estão presas em um modo piloto perpétuo. Aqueles que estão avançando estão descobrindo os desafios envolvidos na criação de diretrizes essenciais em relação à equidade, responsabilidade e transparência. No entanto, 80% daqueles que conseguiram colocar a IA em produção afirmam que o tempo e o esforço necessários para colocar seus modelos em prática valem a pena.
Além disso, os entrevistados acreditam que a IA é fundamental para o futuro de suas organizações. Setenta e seis por cento de todos os entrevistados afirmam que implantar com sucesso a IA é fundamental para alcançar os objetivos estratégicos de suas organizações. Essa descoberta, assim como as outras, sugere que existe algum desacordo organizacional quando se trata de conceituar o papel da IA, especialmente considerando o quão eficaz é a operacionalização da IA quando alcançada e quão importante é para as empresas no futuro.
Na verdade, a questão de quem está encarregado de iniciar, desenvolver e implantar a IA está longe de ser resolvida na maioria das organizações. Muitos projetos de IA são impulsionados pela liderança de cima para baixo e nem sempre pelos motivos certos. “Às vezes isso vem do alto escalão da empresa ou da sala de reuniões, onde há uma demanda para fazer IA apenas pelo bem de fazer IA”, diz o Dr. Iain Brown, chefe de ciência de dados da SAS UK&I, parte da empresa de análise de dados estabelecida há mais de 40 anos no Instituto SAS na Universidade Estadual da Carolina do Norte. O que às vezes falta é um problema de negócios real para a IA resolver. “É quase um meio para atingir um fim para iniciar esses projetos, sem pensar nas ramificações da execução, como funcionaria e se beneficiaria a organização”, ele acrescenta.
Muitas organizações estão apenas começando a desenvolver metodologias e processos para escalar o aprendizado de máquina, a automação inteligente e os modelos de IA de maneira responsável e produtiva. “Temos que examinar cada modelo individualmente à medida que está sendo desenvolvido agora”, diz JoAnn Stonier, diretora de dados da Mastercard, com sede em Purchase, NY. “É um trabalho muito detalhado e intenso, e não existe um padrão no mundo, porque tudo isso é muito novo.”
Este artigo explora os desafios enfrentados pelos pioneiros da IA. Também examina as medidas que as organizações estão tomando para operacionalizar a IA na prática e identificar o nível geral de maturidade das organizações quando se trata da implantação de IA. Por fim, o artigo destaca a evolução das habilidades, capacidades e experiência que desempenham um papel importante em algumas histórias de sucesso da IA e as oportunidades de aprendizado para a grande maioria das organizações que ainda não alcançaram seus objetivos de IA, bem como aquelas que estão começando sua jornada com a IA.
Por que os Projetos Empacam: Valor e Complexidade
A implementação da IA ainda está em seus estágios iniciais. “Estamos em algum lugar na interseção entre o aprendizado de máquina e o início da verdadeira inteligência artificial”, diz Stonier, da Mastercard. “A IA ainda não atingiu um nível que se assemelhe à inteligência humana, mas as máquinas estão definitivamente aprendendo, melhorando nosso desempenho e usando dados de forma autônoma. Estamos no ponto em que estamos tentando garantir que essa primeira geração de IA esteja tomando decisões sólidas e que compreendamos as decisões que estão sendo tomadas.”
O fato de que a implantação da IA ainda está em seus estágios iniciais é confirmado pelos respondentes da pesquisa, três quartos dos quais têm planos de testar a IA ou já o fizeram e agora estão avançando em direção a uma operacionalização mais ampla. No entanto, apenas 34% dizem que implantaram a IA em áreas específicas, e apenas 7% dizem que planejam implantá-la em toda a organização no próximo ano. Enquanto isso, três em cada dez que estão em produção ou em fase de teste tiveram projetos de IA interrompidos ou abandonados na fase de teste. Alguns desses projetos podem ser retomados. Mas outros podem não ser, principalmente devido à falta de visibilidade das organizações sobre o retorno que podem razoavelmente esperar para o que pode ser um investimento significativo de capital humano e recursos financeiros.
Os respondentes com IA em produção são mais propensos a dizer que tiveram projetos interrompidos ou abandonados na fase de teste do que aqueles que estão em fase de teste, sugerindo que aqueles na fase de teste podem esperar mais interrupções nos projetos. A principal razão para os projetos interrompidos e abandonados é o desafio em compreender o verdadeiro valor e o potencial de retorno sobre o investimento da capacidade que está sendo explorada, citado por 34%.
Os respondentes mencionaram uma variedade de fatores relacionados ao custo e valor: falta de recursos para analisar os modelos e fazer melhorias, incapacidade de escalar para um nível em que os benefícios superem o investimento e muitas “boas ideias”, mas falta de um caso de negócios convincente para investir em um modelo de produção. Um tema recorrente é que os retornos foram menores do que o esperado.
A complexidade dos projetos e modelos de IA é outro fator significativo identificado por 25% dos respondentes, sendo que muitos deles citam a dificuldade de escalar um projeto do estágio piloto para a produção. “Às vezes as coisas emperram porque todos têm boas intenções e processos que funcionam nos pilotos de dados”, diz Stonier. “Quando você coloca um modelo em ambientes de produção com conjuntos de dados muito maiores e muitas incógnitas, é um desafio maior fazer as revisões do que na fase de piloto.”
A sobreposição da inteligência artificial em sistemas mais antigos e legados também apresenta problemas. “O desenvolvimento desses modelos nem sempre considera os mecanismos de implantação disponíveis para o negócio e como eles vão migrar o que desenvolveram para um sistema operacional”, explica Brown, da SAS UK&I. Muitos sistemas existentes não são projetados para lidar com o fluxo de dados ou a complexidade dos algoritmos necessários para implantar capacidades de IA.
Gerenciar as expectativas é algo que precisa acontecer desde o início, especialmente quando uma equipe deseja saltar diretamente para um sistema de IA totalmente integrado de última geração, explica Mark Spykerman, diretor de informações da AmerisourceBergen, uma empresa global de saúde e distribuidora farmacêutica sediada em Conshohocken, PA. “A integração completa da IA pode acabar sendo muito cara e complexa. E se você não precisa dela integrada, está tudo bem tê-la como uma saída”, diz ele. “Às vezes, a versão 1.0 é muito mais barata de desenvolver e fornece a maior parte do valor. Podemos esperar pela versão 4.0 para ver se o valor estará lá.”
A AmerisourceBergen aprendeu uma lição valiosa no início, quando um programa de IA incipiente acabou sendo muito mais complicado do que o necessário. Os modelos de dados funcionaram bem, segundo ele. “Foram todas as outras partes disso: a integração em nossos sistemas, a limpeza de dados, a interação entre humanos e IA que foi mais difícil. A parte real da inteligência artificial desse programa representou menos de 10% do custo total.”
Essa experiência também ajudou a orientar os projetos de IA da empresa no futuro. “Um dos aspectos mais importantes na escolha dos projetos de IA para testar e perseguir é o nível de maturidade do grupo que deseja usá-lo”, diz Spykerman. “Não posso enfatizar o suficiente como isso é importante, porque isso não é um exercício de três meses em que, no final, a mágica acontece.”
Os custos de investimento, a complexidade e os sistemas legados podem ser fatores limitantes agora, mas não o suficiente para diminuir as esperanças e os sonhos de muitos executivos em relação à IA. No último ano, um fabricante global de embalagens flexíveis experimentou capacidades de IA em três fábricas para coisas como veículos de entrega autônomos, manutenção preditiva e monitoramento de máquinas – o suficiente para dar uma visão do que poderia ser possível nos próximos anos. Por enquanto, os esforços da empresa são fragmentados por necessidade. “Nossas máquinas têm uma vida útil muito longa, e muitas delas são anteriores à existência de sensores”, diz o diretor de TI. “Estamos experimentando agora, testando diferentes processos automatizados em diferentes fábricas e aprendendo enquanto avançamos. Mas isso nos fez pensar de forma mais ampla: como será a fábrica do futuro em nossa indústria? Gostaria realmente de pegar uma fábrica e implementar o modelo completamente – desde o recebimento até a fabricação, armazenamento e envio, e direto para o escritório e nossos clientes.”
Navegando na Fronteira da Gestão da Inteligência Artificial
Embora a natureza complicada da IA e suas possíveis aplicações sejam uma barreira considerável, isso pode ser exacerbado pela falta de um processo de gerenciamento de ponta a ponta na organização. Seja uma questão de liderança – quem está encarregado do esforço de IA – ou de foco em um problema de negócios que poderia se beneficiar da tecnologia, deve haver uma abordagem para orientar o caminho de IA da organização.
Há cinco anos, muitas das discussões sobre IA na AmerisourceBergen giravam em torno de reduções de custos e automação completa de processos, diz Spykerman da AmerisourceBergen. “Aprendemos a ajustar nossas expectativas em relação à IA para focar mais na melhoria da velocidade, na possibilidade de autoatendimento e na melhoria da experiência do cliente, e menos apenas em economia de dólares”, explica ele. “E isso realmente nos libertou para nos concentrar em lugares onde podemos criar novo valor com a IA.”
Na Highmark, os executivos estão analisando a implantação de IA sob a ótica da experiência do cliente. “Os objetivos da IA realmente não são sobre a IA”, explica Bob Gladden, vice-presidente de análise corporativa da seguradora e operadora de saúde com sede em Pittsburgh. “Nossos objetivos estão centrados no que precisamos fazer para proporcionar um atendimento mais eficaz aos nossos clientes. A IA fará parte da estratégia geral de onde queremos levar a assistência médica nos próximos quatro a seis anos, como identificar informações mais rapidamente do que um ser humano, mas não é um objetivo em si.”
Algumas organizações estão adotando uma abordagem de ideias abertas. Em uma fabricante global de equipamentos de rede, por exemplo, cada departamento dentro de uma unidade de negócios é responsável por investir uma parte de sua receita na construção de automação e IA, independentemente de eles quererem ou precisarem disso, explica um executivo operacional responsável por uma função de monitoramento de equipamentos. Sua equipe lida com dezenas de milhares de alarmes de possível interferência ou falha de rede todos os meses, quase todos falsos. “Queríamos elaborar um sistema para correlacionar os dados que temos e prever quais alarmes indicam um problema real e quais podem ser ignorados.” Portanto, com o objetivo de melhorar as operações, ele trabalhou com os especialistas em IA e automação dedicados da empresa para projetar um modelo que diferenciasse quais avisos eram reais e quais não eram.
“Minha equipe de IA está muito empolgada com este modelo – e estou realmente empolgado com a tecnologia e o que conseguimos aqui. Mas, do ponto de vista puramente comercial, os resultados que queríamos ver ainda não estão lá”, explica o executivo de equipamentos de rede. Em um momento, o modelo parou de funcionar, deixando a rede vulnerável, e ninguém percebeu por um tempo porque não havia mais ninguém monitorando manualmente. “Reconheço que esse processo é uma parte importante da jornada”, diz ele. “Estamos aprendendo. Os cientistas também estão aprendendo. Mas a confiabilidade é algo completamente não negociável.” O modelo, por mais impressionante que parecesse, não trouxe novas percepções, diz ele. “Mesmo que tenhamos percebido desde o início que o projeto não vale a pena, ainda temos que continuar com ele devido às dinâmicas organizacionais.”
Qualquer projeto de IA terá muitos stakeholders – desde o C-suite até as equipes que projetam e monitoram modelos de IA, passando pelos executivos de negócios e pelos trabalhadores mais afetados pela IA. Como parte da pesquisa, os respondentes foram divididos em três grupos – aqueles investigando a IA, aqueles pilotando projetos de IA e aqueles que conseguiram colocar um ou mais modelos de IA em produção. Em geral, a responsabilidade pela IA recai mais frequentemente sobre um executivo do C-suite no estágio de iniciação do piloto.
No entanto, entre as organizações nos estágios iniciais de sua jornada de IA, 52% afirmam que a equipe de TI é a principal defensora de novos projetos de IA. Para aqueles com IA em produção, a responsabilidade principal de iniciar pilotos de IA se desloca mais para executivos de negócios, equipes multifuncionais e centros de excelência em IA.
No que diz respeito à operacionalização de modelos de IA, no entanto, a responsabilidade se desloca principalmente para a liderança de linha de negócios e funcional (50%) e equipes de TI (44%), com as organizações em produção mais propensas a ter equipes multifuncionais designadas (41%) ou um centro de excelência em IA especializado (30%). A evolução do envolvimento das partes interessadas e o surgimento de centros de excelência em IA faz sentido, diz Spykerman. “É um pedido muito mais razoável dizer: ‘Eu só preciso de um ou dois meses do tempo de um cientista de dados’, em vez de dizer: ‘Preciso de um cientista de dados em tempo integral’. É aí que os serviços compartilhados e os centros de excelência entram em jogo, especialmente para grandes corporações globais, onde você pode ter escala.”
Essa distribuição de responsabilidade entre tantas partes interessadas diferentes demonstra duas coisas: como diferentes áreas da organização precisam trabalhar juntas para tornar a IA bem-sucedida e que ainda não há um consenso claro sobre a melhor maneira de gerenciar iniciativas de IA. Como acontece com todas as novas tecnologias, há uma tremenda pressão e tração entre as equipes que entendem a tecnologia e as equipes que serão mais afetadas por ela. Encontrar o equilíbrio certo entre essas forças muitas vezes opostas tem um impacto tremendo sobre se uma ideia de IA resultará em uma implantação de IA bem-sucedida.
“Muitas organizações construíram capacidades de ciência de dados dentro dos negócios, muitas vezes como parte da função de TI. Eles entendem como desenvolver algoritmos, mas podem não entender as complexidades e limitações das funções de negócios, como risco ou fraude”, explica Brown. Essa especialização estreita pode ser necessária, mas “cria um descompasso entre as expectativas de um modelo de IA e como ele está sendo usado pelo negócio. E normalmente acaba não resolvendo o problema certo, ou as organizações acabam construindo ‘elefantes brancos’: algo que parece ótimo, mas ninguém realmente pode usá-lo ou obter o valor esperado dele.
Em última análise, diz Spykerman, é importante gerenciar as expectativas sobre o que a IA pode e não pode realizar, especialmente para os clientes internos que podem ver a IA como uma bala mágica, bem como aqueles que a veem com grande suspeita. “A lacuna de expectativa pode ser enorme”, diz ele. Fechar a lacuna pode significar envolver equipes de negócios, equipes de ciência de dados e especialistas em desenvolvimento de modelos para “ver se há uma maneira melhor de resolver um problema do que um grupo de pessoas usando planilhas” e depois comparar como um modelo de IA realmente se sai.
Brown observa que é sempre melhor começar pelo problema de negócios primeiro. “Então, quem entender esse problema de negócios deve apoiar um recurso analítico – seja interno ou externo – para desenvolver uma solução para ele”, diz Brown. “O melhor cenário é quando você tem alguém que conhece ambos – que entende completamente o problema de negócios, mas também tem as habilidades em torno do desenvolvimento de soluções de IA e conhece as complexidades dos dados e dos algoritmos necessários para fazê-lo funcionar. Mas isso é muito raro.”
O executivo de equipamentos de rede observa essa lacuna nas dificuldades iniciais de IA de sua própria organização. “Sempre que uma nova tecnologia surge, geralmente é impulsionada pelas pessoas que estão muito próximas da tecnologia”, explica ele. “Com a IA, estamos em um estágio em que realmente precisamos de pessoas que possam se posicionar entre meu negócio e a tecnologia – uma camada intermediária.”
A necessidade de uma camada intermediária é amplamente reconhecida. Por exemplo, o diretor de TI do fabricante global descreve um impasse clássico entre “engenheiros versus TI” em um projeto de internet das coisas inteligentes. “Passamos muito tempo no piloto e tentamos contratar alguém para executá-lo em tempo integral. Fizemos entrevistas em todos os lugares, mas não conseguimos encontrar a pessoa certa com o conjunto de habilidades adequado”, diz ele. No final, o diretor de TI concluiu um curso de pós-graduação em IA e assumiu um novo cargo supervisionando a transformação digital de sua organização.
Resolver a lacuna entre os construtores e os usuários da IA e encontrar a estrutura de gerenciamento certa para a governança da IA será ainda mais desafiador à medida que a organização global busca expandir a IA mais profundamente na fábrica e além. “Consideramos uma organização central ou híbrida, mas acabamos escolhendo um modelo federado com governança global para a IA”, diz ele. “Sentimos que tínhamos que gerenciar nossa IA de acordo com a estrutura de nossa organização.”
Quase todas as organizações ainda estão navegando na fronteira da gestão da IA. Na Highmark, por exemplo, a organização de análise também mudou para “um modelo federado para análise”, que oferece oportunidades para análises descritivas e diagnósticas serem distribuídas. No entanto, Gladden indicou que “para esforços analíticos avançados e de IA que exigem experiência avançada, é muito mais eficiente centralizar esse trabalho”. Sem algum tipo de equipe centralizada que tenha alcance nas aplicações de negócios, seria difícil trazer insights de toda a organização e alcançar a escalabilidade necessária para aproveitar ao máximo o conhecimento em IA, explica Brown.
No caso das ciências de dados, a centralização faz sentido para fornecer um caminho de carreira para cientistas de dados. Ao mesmo tempo, tanto os dados quanto as análises ficam sob o comando do diretor de análise da Highmark, fora da TI e mais próximo dos negócios. “Isso ajudou a resolver alguns dos desafios, onde há uma obrigação de TI de manter processos sólidos, enquanto os analistas de análise devem ser capazes de ajustar um modelo rapidamente”, diz Gladden. “Ter dados e análises juntos força esses dois mundos a encontrar um meio-termo juntos.”
Superar o Desafio de Dados e Governança
A maioria das organizações deixa de fazer a primeira coisa necessária para a IA. E isso é dados utilizáveis, diz Sibito Morley, diretor de dados da Lumen, uma empresa de tecnologia corporativa com sede em Monroe, LA, especializada em integrações da quarta revolução industrial. Muitas vezes, as organizações falham nos programas de IA quando assumem que qualquer dado funcionará. “Você precisa ter dados aos quais a lógica possa ser aplicada”, explica ele, “e você precisa de contexto. Dados sem contexto podem destruir sistemas inteligentes e seu potencial de criar valor muito rapidamente.”
Uma empresa com a qual ele trabalhou em sua carreira anterior passou muitos dias nervosos rastreando uma possível violação de segurança, apenas para descobrir que o que parecia ser uma transmissão de números de Seguro Social individuais era, na verdade, parte de um processo de negócios legítimo envolvendo dados que compartilhavam um formato de nove dígitos semelhante. “As empresas estão melhorando no reconhecimento da conscientização contextual necessária para que os dados façam a IA funcionar”, diz Morley. “Mas ainda há uma lacuna.”
De fato, problemas com dados são o maior fator limitante para aqueles que têm IA em produção hoje. Cerca de 40% deles citam problemas com dados como um dos maiores desafios para operacionalizar com sucesso a IA.
As dificuldades com dados não decorrem da falta de experiência; 75% dos entrevistados que têm IA em produção acreditam que já têm talento suficiente em engenharia de dados – um nível de confiança muito maior do que aqueles que estão pilotando ou investigando. Em vez disso, os dilemas parecem ser revelados de forma mais clara quando os modelos de IA são implantados e lançados no ambiente real.
Em algumas indústrias, o problema é o acesso aos dados certos. “Os dados de saúde são notórios por serem difíceis de obter, difíceis de trabalhar e difíceis de produzir”, explica o diretor de programa de uma importante instituição de pesquisa em saúde. “Seja fazendo isso de forma caseira, como um sistema de cuidados, seja uma entidade comercial ou uma entidade de pesquisa que está desenvolvendo aplicativos, obter dados de que você precisa no formato desejado, ou criar maneiras proativas de coletar esses dados para que você possa fazer perguntas apropriadas, é um campo próprio da IA, e é um problema muito grande. Muito trabalho é investido na higienização e harmonização de dados, o que é uma etapa incrivelmente limitante para implantar efetivamente a IA.”
Em outros campos, há tanto dados que qualquer projeto de análise corre o risco de ser sobrecarregado com informações sem sentido e análises menos úteis. O diretor de TI de manufatura descreve como teve que conter as expectativas entre seus colegas de engenharia que queriam incluir cada pedaço de dados disponíveis em um único projeto. “Eles estavam tentando abordar demais. O projeto todo estava paralisado”, explica ele.
Na verdade, a IA está mudando a forma como as organizações criam, mantêm e usam dados. Na Highmark – assim como em muitas outras organizações – “os dados historicamente foram armazenados para eficiência, não para uso”, diz Gladden. “Agora estamos passando por um processo de mudança na forma como mantemos os dados na organização, para que as equipes de análise possam se tornar mais eficientes. Daqui para frente, será mais sobre a implantação dessas informações em nossas operações e como será o ciclo de feedback.”
A forma como os dados são curados tem grande influência no sucesso e no custo final de um modelo de IA. Spykerman descreve a evolução como uma busca para “aprender a obter dados melhor estruturados, porque você precisa de uma entrada melhor para obter uma saída melhor. Estamos observando como os processos de negócios estão mudando para tornar a IA mais aplicável.”
De longe, a maior preocupação em muitos campos é o viés – seja incorporado nos dados ou parte do desenvolvimento dos modelos. De onde quer que esse viés provenha, ele então se espalha para as decisões e afeta a coleta futura de dados e decisões. Existe uma possibilidade muito real de que um sistema de IA perpetue e até acelere resultados tendenciosos. “Se há uma coisa que você aprende com a IA, é que nem sempre sabe o que vai acontecer”, explica Spykerman. “Muitas vezes, obtivemos resultados inesperados. A conclusão é que nossos preconceitos subjacentes frequentemente entram em conflito com o que os dados realmente nos dizem.”
“Um dos desafios no desenvolvimento da IA é como evitar o viés nos dados”, diz o gerente de programa de uma importante instituição de pesquisa em saúde. “Quando você começa com um conjunto de dados – digamos, jovens do sexo masculino brancos – o que você faz para representar todos os outros? Porque, se você não tiver mecanismos de mitigação, você perderá diagnósticos ou rotulará incorretamente novas informações”, explica ele. “Elaborar métodos que ajudem a abordar o viés nos dados é algo que precisa ser feito desde o início e deve ser monitorado.”
Estar ciente do viés nos dados – e no mundo – é o primeiro passo. Mas é apenas o primeiro passo, diz Stonier, que está encarregada da governança da IA e do gerenciamento de modelos na Mastercard. Por exemplo, fornecedores de recursos humanos que desejam vender uma metodologia de correspondência para encontrar os melhores candidatos para vagas abertas podem ter removido o viés óbvio, “mas sabemos que existem coisas sutis na forma como as mulheres escrevem um currículo versus os homens. E a máquina, se não treinarmos isso dela, perceberá essas diferenças sutis e tomará decisões com base no que ensinamos a ela: que determinados empregos são mais adequados para homens e outros para mulheres, o que não é verdade. Vimos isso repetidamente nos dados e nos modelos, e não queremos que essa conclusão se perpetue no futuro.”
Entender os preconceitos nos dados já é um desafio. Compreender o que um modelo de IA fará com os dados aos quais pode acessar, como as decisões são tomadas com base nesses dados, como os dados podem ser alterados pelo modelo e quais insights e decisões o modelo está fornecendo a outros sistemas é uma tarefa que vai muito além da ciência de dados. “Em muitos casos no passado, as pessoas assumiram que era apenas um problema de dados”, diz Brown. “Existem questões reais relacionadas à forma como os dados foram coletados no passado pelas organizações. Mas também existem questões relacionadas à forma como os modelos são treinados e parametrizados com base nos dados, quem os constrói e o que eles estão procurando, o que pode levar a preconceitos se formando no processo de modelagem.”
A governança do modelo avalia e monitora a IA quanto à eficácia, preconceitos, riscos e retornos, testando os resultados de um modelo em relação ao que é esperado. “Você não pode simplesmente configurar um modelo e deixá-lo funcionar. Você precisa de uma camada de gerenciamento para ajustar os modelos e procurar exceções com base no que acontece”, diz Spykerman. A capacidade de manter esse nível de supervisão é uma das razões pelas quais a AmerisourceBergen criou pontos de ruptura em sua IA, para que os algoritmos de tomada de decisão não transfiram automaticamente informações de um sistema para outro. “Esse fluxo automatizado é de longe o mais eficiente, se funcionar. Mas também é de longe o mais perigoso e muito difícil de acertar.”
A pesquisa constata que 78% das organizações com IA em produção têm a responsabilidade designada para a governança do modelo, em comparação com 35% daquelas nas primeiras etapas do desenvolvimento de IA. No entanto, a questão de onde a governança do modelo se encaixa em uma organização é tão variada quanto qualquer outro aspecto do gerenciamento de IA. A escolha mais popular globalmente é um centro de excelência em IA, com 28% daqueles com IA em produção designando a responsabilidade pela governança do modelo para uma autoridade centralizada. As organizações em fase de pilotagem são mais propensas a depender de um grupo existente de dados e análises, a opção mais popular com 19%. No entanto, muitas organizações delegam a governança da IA para unidades de negócios individuais.
Muitos dos pioneiros em ética e governança da IA hoje estão nos campos da saúde e das finanças. “Na área da saúde, mais do que em qualquer outra indústria, nada se aproxima mais do núcleo do que significa ser humano do que as informações que você compartilha com seu médico ou sua seguradora”, diz Lisa Martinelli, vice-presidente de ética clínica integrada da Highmark. “Nós somos os guardiões dos segredos. Para continuar a ganhar o respeito e a confiança de nossos clientes, a ética deve entrar em jogo. Estamos considerando que é importante não apenas ser responsável, mas também ser capaz de demonstrar nossa responsabilidade. A noção de aplicar ética vai além da responsabilidade. Precisamos pausar e pensar: ‘Quais são as consequências do que vamos fazer?'”
Para uma empresa como a Mastercard, até um resultado que parece benigno, como um insight de que alguém tende a fazer compras online, poderia levar a resultados problemáticos se aplicado a um conjunto de dados sub ou super-representado, especialmente quando os dados são alimentados de um sistema analítico para outro, onde não há visão sobre a tomada de decisões ou preconceitos no conjunto de dados original. “Esses são insights que serão aplicados aos seus clientes”, diz Stonier.
Sua equipe está envolvida com unidades de negócios e a equipe de IA dedicada da empresa desde o início até a aplicação, em um processo de governança em constante evolução à medida que as capacidades avançam. “Os dados financeiros já são sensíveis”, diz ela. “Com o aumento do número de dispositivos que poderão nos monitorar no futuro, com a internet das coisas e um milhão de pontos de luz com o 5G, é aí que espero que todos comecem a pensar sobre isso, porque se errarmos, pode ser um desastre real.”
Ao mesmo tempo, as organizações que evitam a IA devido a dilemas éticos correm o risco de ficar para trás, diz Spykerman. “Já lidamos com questões éticas todos os dias com as decisões que tomamos como seres humanos. A IA pode ser um processo de tomada de decisão novo para a maioria de nós, mas é muito melhor abraçá-la, começar a entender as implicações para a sua organização e fazer parte da curva de aprendizado do que simplesmente declará-la muito arriscada.”
Definições Chave
Governança de modelo: A avaliação e monitoramento da IA desde sua concepção até a produção, levando em consideração fatores como eficácia, viés, risco, segurança e retornos, além do teste dos resultados de um modelo em relação ao esperado. A governança diz respeito aos papéis, responsabilidades e processos que supervisionam modelos, aos dados que eles usam, às decisões que são tomadas e aos sistemas nos quais estão incorporados.
Monitoramento de modelo: O acompanhamento do desempenho de um modelo de IA em produção para identificar possíveis problemas, como deterioração de desempenho, antes que afetem o negócio.
Operações de modelo: A gestão do ciclo de vida de um modelo complexo, incluindo a coordenação de atividades entre o desenvolvimento e a aplicação do modelo, relacionadas às operações de desenvolvimento (DevOps).
Pessoas e Processos: Desenvolvendo as Habilidades Certas
Nenhuma organização está completamente imune aos obstáculos que dificultam o desenvolvimento das capacidades de IA, mas 28% das organizações em fase de piloto não têm certeza se conseguirão superar esses desafios. Aqueles que estão investigando a IA são muito mais prejudicados do que outros pela falta de expertise em modelagem e engenharia de IA. Eles, como outros, carecem do talento e da expertise necessários para conduzir todos os aspectos da IA.
“Um dos principais desafios que enfrentamos é encontrar recursos qualificados”, diz um líder de programa de TI de uma grande montadora. “Esta é uma nova série de tecnologias e não muitas pessoas estão familiarizadas tanto com as tecnologias quanto com nossa indústria.” A expertise tradicional em software e gerenciamento de projetos é abundante, mas existem lacunas no talento necessário para oferecer na era da IA. Menos da metade de todos os entrevistados na pesquisa possui pessoas com as habilidades certas para lidar com a segurança de modelos de IA (43%) ou para gerenciar operações de modelos (48%).
Muito mais preocupante é a escassez de expertise em ética. Apenas um terço das organizações possui os recursos de ética de dados e IA necessários para operacionalizar e gerenciar sua arquitetura de aprendizado de máquina, constatou a pesquisa. Os entrevistados com IA em produção não estão imunes a esse risco; menos da metade possui a expertise em ética de dados e IA necessária.
Há um amplo reconhecimento de que a ética desempenha um papel importante no desenvolvimento em curso da IA. Martinelli, da Highmark, que é advogada de formação e especialista em ética de saúde, diz: “O valor real do discurso ético está na diversidade que podemos trazer para a discussão”.
A criação de um conselho de ética de dados deve começar com a determinação das pessoas adequadas para trazer à mesa. “Não é uma sala cheia de éticos”, diz ela. “No nosso espaço, por exemplo, queremos clínicos, pessoas que entendam bem a diversidade e a inclusão, que entendam nossa comunidade, que entendam nossos clientes. Depois, há a equipe de análise que entende os dados e o que estamos tentando fazer. O diálogo ético realmente considera diferentes perspectivas de partes interessadas e nossa responsabilidade perante essas partes interessadas.”
Mas a ética não é a única preocupação. À medida que a IA é desenvolvida, deve haver um processo de validação e aprovação. E à medida que os modelos são implantados, eles precisam ser monitorados – tanto as variáveis que entram no modelo quanto o desempenho do modelo. “Ninguém deve construir um modelo e depois esquecê-lo”, diz Gladden. No entanto, há uma lacuna significativa nas capacidades necessárias para o gerenciamento e governança de modelos. A maior deficiência está nas capacidades de auditoria de IA e operação de modelos. Apenas 36% das organizações têm atualmente a capacidade de auditoria interna de modelos de IA e aprendizado de máquina – para avaliar se um modelo afetará os objetivos de negócios ou representará riscos para as unidades de negócios ou para a organização como um todo.
Aqueles com IA em produção têm uma gama mais ampla de capacidades de gerenciamento e governança do que outros – uma progressão natural de acordo com a experiência adquirida à medida que os modelos de IA são implantados.
As operações e a governança do modelo “são fatores que às vezes são negligenciados porque, uma vez que algo é concluído e você começa a obter valor com isso, pode parecer missão cumprida”, diz Brown. Mas os modelos degradarão ao longo do tempo à medida que o comportamento muda. Novos dados podem se tornar disponíveis e os algoritmos podem precisar ser ajustados. “Você precisa tratar o modelo como um ativo e não permitir que ele se deteriore”, explica ele. “Deve haver um ciclo de feedback, como uma curva infinita, onde você está iterando a cada ciclo para garantir que as melhores decisões sejam tomadas constantemente, com pontos de verificação ao longo do caminho.”
Esses pontos de verificação são importantes. Mesmo quando os modelos de IA não estão integrados, as informações criadas pelos sistemas de IA podem fluir por toda a organização, diz Morley, da Lumen. Também é importante estabelecer uma maneira de monitorar a IA que se expande muito além das equipes que constroem e operam os modelos. “Quando você está construindo sistemas especializados ou estruturas de IA, você se aproxima demais dos detalhes e da lógica, torna-se muito, muito difícil ganhar perspectiva, não porque as pessoas não estão dispostas a ver seus erros – elas simplesmente não conseguem vê-los”, explica. “Você precisa ter uma maneira de inspecionar de fora, para que você esteja em um nível elevado o suficiente para identificar esses vieses.”
Há também a questão da escala e velocidade com que a IA pode afetar as ações. “Por exemplo, se eu tiver uma ideia ruim e aplicá-la ao processamento de empréstimos como ser humano, só posso processar tantos empréstimos em um dia”, explica Morley. “Mas quando você constrói uma IA para processar empréstimos e expande essa IA, essencialmente você pode ampliar essa lógica ruim um milhão de vezes em um período muito curto. Agora esse viés pode ter uma cauda muito longa”, ele adverte. Com sistemas mais complexos, especialmente aqueles com resultados determinísticos relacionados a seres humanos, “todos devemos estar muito mais cientes e conscientes na identificação e correção de vieses o mais rápido possível”, diz ele.
Para alcançar esse nível de operações e governança de modelo exigirá o desenvolvimento de capacidades-chave em torno de auditoria, monitoramento e supervisão – capacidades ainda ausentes em todos os níveis de desenvolvimento de IA.
Alcançar Agilidade na Velocidade da IA
Apesar dos atrasos e contratempos nestes primeiros dias de IA para empresas, os próprios modelos de aprendizado de máquina estão se desenvolvendo a uma taxa que supera a lei de Moore – uma observação de que a capacidade de processamento tende a dobrar a cada dois anos. Quando se trata de projetar, construir e pilotar IA, a velocidade com que novos modelos podem aprender, as decisões que esses modelos tomarão e os processos que eles controlarão estão aumentando a importância de as organizações planejarem cuidadosamente. Colocar um modelo em produção requer a infraestrutura para implantá-lo de forma confiável e a agilidade para monitorá-lo e ajustá-lo constantemente.
Uma das primeiras decisões é determinar quando faz sentido construir ou quando faz sentido comprar. Estabelecer a infraestrutura – hardware, software, recursos de rede e serviços necessários para mover-se da preparação de dados para a construção de modelos até a produção – pode ser “doloroso”, diz o executivo automobilístico. “Não há muitas empresas que podem lançar um projeto de IA por conta própria porque não têm a infraestrutura”, diz ele.
Trabalhar em parceria permite que as organizações evitem essa dor e se concentrem em seus projetos de IA. “Existem plataformas que permitem construir modelos, implantá-los em produção e fazer mudanças relativamente rapidamente”, diz ele, alertando que é importante entender a plataforma e suas limitações primeiro.
A maioria das organizações pesquisadas gerencia principalmente o trabalho crítico de IA internamente – desde o controle e governança de modelos (79%) até o gerenciamento de dados (79%) e monitoramento de modelos (69%), de acordo com a pesquisa. Mas eles estão trabalhando em estreita colaboração com terceiros de várias maneiras – principalmente quando se trata de infraestrutura. Quarenta e dois por cento usam soluções de ponto de IA, como bots pré-construídos, e 37% dependem das capacidades de IA fornecidas por provedores de serviços em nuvem. Trinta e oito por cento dizem que deveriam estar trabalhando mais de perto com seus provedores de nuvem em relação à funcionalidade de IA ou planejam fazê-lo no próximo ano.
A montadora está colaborando com seu provedor de nuvem em tecnologia de veículos autônomos por outro motivo importante: a capacidade de escalar mais rapidamente. Mais de três quartos (78%) das organizações com IA em produção já gerenciam alguma ou toda a operação de modelos na nuvem. Modelos de IA muitas vezes são montados “como uma indústria caseira de capacidades no laboratório”, diz Brown. Mover um modelo do laboratório para um ambiente pronto para produção – como lançar um aplicativo para um milhão de clientes ou ativar um veículo autônomo – requer um salto enorme em escala. “Com uma estratégia baseada em nuvem, o desenvolvimento pode acontecer em um ambiente contêinerizado e, conforme a potência de processamento é necessária para implantar em uma escala maior, ela pode ser incorporada a um ambiente maior na nuvem, se necessário”, explica ele.
Os provedores de soluções empresariais também estão adicionando funcionalidades de IA às suas plataformas. Vinte e nove por cento de todas as organizações pesquisadas usam IA como serviço de seus provedores de soluções empresariais, e outros 41% indicam que ainda não o fazem, mas que deveriam aproveitar a infusão de capacidades de IA disponíveis. Adotar uma abordagem de plataforma permite construir diferentes casos de uso com base nas mesmas tecnologias e processos subjacentes, explica Brown. “As organizações devem estar pensando em uma abordagem de plataforma, com um conjunto de capacidades de IA que podem atuar como uma espécie de base para todos os desenvolvimentos que estão sendo feitos em todo o negócio”, diz ele. “É mais fácil de governar, é mais fácil de manter e também lhe dá a funcionalidade de transparência e validação de que você precisa para garantir que sejam as decisões certas”.
A Lumen, com a experiência coletiva de desenvolver quase 500 automações de processos robóticos por ano que se alimentam de um número significativo de modelos de IA, acredita em uma abordagem de plataforma, mas com um toque. A empresa de tecnologia empresarial está desenvolvendo IA em várias plataformas e aproveitando ferramentas nativas de nuvem nas pilhas de nuvem mais amplamente utilizadas. “A verdadeira questão é como você impulsiona a reutilização de modelos? E como você impulsiona a interoperabilidade das saídas?” Morley diz. “Nós buscamos a modelagem comum e usamos uma base de dados comum entre eles, para que estejamos sempre operando com os mesmos dados e aproveitando modelos comuns sempre que possível.”
No entanto, há pouco consenso sobre o melhor método de entrega de modelos. Metade das organizações com IA em produção desenvolvem infraestrutura específica do modelo, enquanto 47% aproveitam a infraestrutura de implantação de software existente. Apenas 22% dizem que todos os modelos são gerenciados pela mesma equipe na mesma infraestrutura. Ao focar em capacidades e governança, as organizações serão mais capazes de desenvolver componentes de IA reutilizáveis e prontos para produção.
Quando se trata de projetar novos modelos, há um acordo geral de que uma abordagem de design ágil é a melhor, embora não seja universalmente praticada. Quarenta por cento dos entrevistados dizem que seus desenvolvedores de modelos fazem parte de um processo ágil de desenvolvimento de software e 14% têm um processo ágil de ciência de dados. “Em um espaço onde tudo está se movendo muito rapidamente, você precisa ser capaz de se adaptar e ajustar”, diz Gladden. “Uma das razões pelas quais a metodologia ágil é mais bem-sucedida do que uma metodologia cascata é que, com a cascata, quando você constrói a solução, os problemas já mudaram. Onde as empresas estão lutando é com a transição de um processo em cascata para um processo ágil. A necessidade de viver em ambos os universos é um grande desafio e não desaparece até que essa transição seja concluída.” A Highmark, como muitas outras organizações, utiliza ambas as metodologias, mas continua a fazer a transição para a ágil. Na verdade, as melhores metodologias de IA – e a linguagem usada para descrevê-las – podem acabar parecendo muito diferentes das metodologias tradicionais. “Costumava ser que a empresa lançava a ideia por cima do muro, e então alguém do outro lado a construía e a devolvia”, explica Morley. “A boa disciplina de IA exige que você trabalhe lado a lado com seus parceiros de negócios para construir modelos e desenvolver iterativamente mais do que nunca.” Mais organizações estão incorporando ciência de dados em um ambiente de negócios para permitir essa abordagem iterativa, acrescenta ele.
Uma vez que a IA está em produção, a agilidade é crucial, diz o executivo automobilístico. “Toda vez que você coloca algo em produção, aprende algo novo. Você começa a perceber que existem cenários que você não considerou durante o piloto. Você começa a obter mais informações que permitem confirmar se o modelo estava certo ou não”, diz ele. Para sistemas de veículos autônomos, qualquer modelo que não possa ser constantemente validado deve ser removido imediatamente da produção, explica ele. “Você tem que ter a capacidade de fazer ajustes muito rapidamente, então este é um processo ágil por natureza. Tem que ser.”
Conclusão
Mover um projeto de IA do laboratório para a produção pode parecer como lançar um foguete rumo ao desconhecido. Ajuda ter um plano e aprender a voar antes de dar esse salto. As organizações que lançaram com sucesso seus modelos de IA no universo dedicaram tempo para fazer isso da maneira certa.
Para dimensionar iniciativas de IA de forma responsável, as organizações devem confirmar que seus modelos são eticamente sólidos; que conseguem manter a equidade, responsabilidade e transparência na forma como os modelos tomam decisões; e que há uma base para governança e monitoramento de ponta a ponta.
“Devemos estar implementando as políticas certas, as práticas certas, os frameworks certos hoje para garantir que a IA seja feita da maneira certa no futuro”, diz Brown. “À medida que o problema de negócios é definido, à medida que os dados são determinados, à medida que o modelo é gerado e, em seguida, à medida que é implantado, cada um desses passos deve ter um processo em torno disso que seja intuitivo para garantir que esteja sendo monitorado, validado e corrigido, se necessário, para garantir que as decisões sejam as decisões certas que estão sendo tomadas pela organização.”
Estes destaques do texto fornecem informações valiosas sobre o estado atual da implementação de IA nas organizações:
1. Valor da IA: 80% dos executivos pesquisados que conseguiram implementar com sucesso a IA em produção acreditam que o tempo e os investimentos financeiros necessários para fazer os modelos de IA funcionarem valem a pena.
2. Habilidades: Apenas 48% das organizações acreditam ter as habilidades necessárias para gerenciar as operações de modelos de IA de forma eficaz. Isso sugere que há espaço para melhorias no desenvolvimento das capacidades adequadas para a IA.
3. Metas de Operacionalização: Enquanto 26% das organizações alcançaram a maioria de seus objetivos de operacionalização de IA no último ano, apenas 5% conseguiram atingir todos os seus objetivos. Isso destaca os desafios e complexidades da implementação de IA.
Esses resultados destacam a importância de investir em IA, desenvolver as habilidades necessárias e reconhecer que a implementação de IA é um processo contínuo com espaço para crescimento e melhoria.
Fonte desse estudo analítico: HBR Analytic Services
A Harvard Business Review Analytic Services é uma unidade independente de pesquisa comercial dentro do Grupo Harvard Business Review. Ela realiza pesquisas e análises comparativas sobre desafios de gerenciamento importantes e oportunidades de negócios emergentes. Buscando fornecer inteligência empresarial e insights de grupos de pares, cada relatório é publicado com base nas descobertas de pesquisas e análises originais, quantitativas e/ou qualitativas. As pesquisas quantitativas são realizadas com o HBR Advisory Council, o painel de pesquisa global da HBR, e pesquisas qualitativas são conduzidas com executivos de negócios seniores e especialistas em assuntos relevantes, tanto da comunidade de autores da Harvard Business Review quanto de fora dela.
Quem patrocinou esse estudo da HBR?
A PwC patrocinou essa pesquisa realizada pelo Harvard Business Review Analytic Services para analisar como as organizações estão evoluindo, desde a investigação sobre a inteligência artificial (IA) até a operacionalização da IA e a obtenção de benefícios significativos e retorno sobre o investimento (ROI). Este relatório se baseia em uma pesquisa detalhada e em entrevistas aprofundadas com executivos que transformaram suas organizações com a IA. Ele descreve os desafios significativos que essas empresas tiveram que enfrentar e as práticas-chave que estão evoluindo para abordá-los.
Quem é a PwC?
A PwC, ou PricewaterhouseCoopers, é uma das maiores redes de empresas de serviços profissionais do mundo. Ela fornece uma ampla gama de serviços, incluindo auditoria, consultoria, consultoria tributária, serviços de negócios e mais para organizações em diversos setores. A PwC é conhecida por sua presença global e por trabalhar com empresas de todos os tamanhos, desde pequenas empresas até grandes corporações multinacionais. Ela desempenha um papel importante em ajudar as empresas a abordar desafios complexos e a atingir seus objetivos de negócios.
Quem traduziu esse artigo para o português?
ChatGPT