IA em escala: por que o verdadeiro desafio é gerir valor, e não cortar custos

A IA altera a economia da tecnologia

A tecnologia empresarial tradicional tem sido, em geral, adquirida através de acordos relativamente previsíveis: licenças, subscrições, compromissos de infraestrutura e programas de implementação. Os custos podiam normalmente ser estimados com base no número de colaboradores, na capacidade dos sistemas ou num âmbito de trabalho acordado.

A IA não se encaixa comodamente nesse modelo.

O seu custo é moldado pelo consumo real. Pode variar de acordo com o modelo utilizado, a quantidade de informação processada, a extensão da resposta, o desenho do fluxo de trabalho e o número de vezes que um agente automatizado acede a outros sistemas ou modelos.

Duas tarefas aparentemente semelhantes podem, por isso, ter custos muito diferentes.

Isto torna-se particularmente importante quando a IA está incorporada nos processos de negócio. Uma única interação pode desencadear uma sequência de pesquisas, chamadas a modelos, validações e novas tentativas. O que parece um simples pedido de utilizador pode tornar-se, nos bastidores, um fluxo de trabalho surpreendentemente intensivo em recursos.

Ao mesmo tempo, o acesso à IA já não é controlado exclusivamente pelo departamento de tecnologia. Os colaboradores podem subscrever novas ferramentas, criar os seus próprios assistentes e gerar processos automatizados com relativamente pouco conhecimento técnico. Essa acessibilidade é uma poderosa fonte de inovação, mas também pode dar origem a compras fragmentadas, capacidades duplicadas e um consumo que ninguém vê na totalidade.

É por isso que o orçamento anual convencional não é suficiente. A IA exige uma gestão ativa da procura.

Começar por tornar o consumo visível

Uma organização não consegue gerir a IA de forma eficaz se não souber onde ela está a ser utilizada.

A primeira prioridade deve ser criar uma vista consolidada do consumo de IA entre departamentos, aplicações, fornecedores e plataformas de nuvem. Essa vista precisa de ir além das faturas. Os líderes devem conseguir ver que processo de negócio está a utilizar a IA, quem é o seu responsável, quanto custa e que resultado produz.

Métricas técnicas como chamadas a modelos ou volumes de processamento são úteis para os engenheiros, mas não são suficientes para as decisões de negócio. As medidas mais significativas serão provavelmente:

• Custo por consulta de cliente resolvida
• Custo por documento revisto
• Custo por oportunidade de venda qualificada
• Custo por lançamento de software
• Custo por reclamação, caso ou transação processada
• Receita, capacidade ou redução de risco geradas por um fluxo de trabalho habilitado por IA

Isto muda a conversa. Em vez de perguntar se a organização está a usar demasiada IA, os líderes podem perguntar se um determinado uso da IA está a produzir valor suficiente.

A visibilidade também gera responsabilização. Quando o consumo está associado a um produto, processo ou unidade de negócio identificável, a IA deixa de surgir como uma despesa tecnológica central inexplicada. Passa a ser um investimento de negócio com um responsável e um retorno esperado.

Utilizar o nível certo de inteligência para a tarefa

As organizações não usam as suas pessoas mais qualificadas para todas as atividades. Também não devem usar o seu modelo de IA mais poderoso — e normalmente mais caro — para todos os pedidos.

Muitas tarefas rotineiras, incluindo classificação, extração, resumo básico e redação estruturada, podem ser tratadas com eficácia por modelos mais pequenos ou menos caros. Os modelos mais capazes podem, então, ser reservados para trabalhos que exigem genuinamente um raciocínio mais profundo, uma maior precisão ou um desempenho especializado.

O objetivo não é escolher o modelo mais barato em todas as situações. É escolher a opção mais económica que cumpre de forma fiável o padrão exigido.

Essa decisão deve ter em conta mais do que o preço. A qualidade, a velocidade, a privacidade, a resiliência e o risco também contam. Em alguns casos, um modelo premium será totalmente justificado. Noutros, um modelo alojado mais pequeno, um modelo operado internamente ou até um modelo a correr localmente num dispositivo podem ser mais adequados.

A capacidade importante é a flexibilidade: a capacidade de direcionar cargas de trabalho diferentes para modelos diferentes e de alterar essas decisões à medida que a tecnologia, os preços e os requisitos evoluem.

Melhorar o fluxo de trabalho antes de otimizar o modelo

A escolha do modelo recebe muita atenção, mas um desenho ineficiente do fluxo de trabalho pode ser uma fonte ainda maior de desperdício.

Os sistemas de IA podem processar repetidamente informação de que não precisam, manter históricos de conversação desnecessariamente longos ou produzir respostas muito mais detalhadas do que a tarefa exige. Os agentes automatizados podem entrar em ciclos improdutivos, repetir ações que falharam ou aceder a serviços caros quando uma regra mais simples teria sido suficiente.

Estas questões raramente se resolvem apenas no âmbito da aquisição. Exigem uma engenharia ponderada e um bom desenho de processos.

As organizações devem examinar se conseguem:

• Enviar apenas a informação relevante para a tarefa
• Reutilizar resultados já gerados
• Definir formatos de resposta claros e limites de extensão adequados
• Estabelecer limites em torno das novas tentativas automatizadas e da utilização de ferramentas
• Encaminhar pedidos simples por modelos mais simples
• Escalar apenas os casos genuinamente complexos
• Redesenhar um processo deficiente antes de lhe acrescentar IA

Este último ponto é importante. Automatizar um processo ineficiente não o torna necessariamente eficiente. Pode simplesmente permitir que a ineficiência funcione mais depressa e numa escala maior.

Incorporar a governação na experiência

As políticas e a formação continuarão a ser importantes, mas não podem sozinhas carregar todo o fardo da gestão da IA empresarial.

Não é razoável esperar que a maioria dos colaboradores compreenda a economia de cada modelo, prompt ou fluxo de trabalho automatizado. Nem deveriam ter de consultar um documento de política sempre que utilizam um serviço de IA.

Uma boa governação deve, por isso, estar incorporada na própria tecnologia.

O ambiente de IA da organização deve conseguir aplicar regras de acesso aprovadas, identificar consumos anómalos, impor limites sensatos e direcionar os pedidos para o serviço mais adequado. Quando existem custos ou riscos adicionais justificados, deve existir um caminho claro para aprovação ou escalada.

Isto torna o consumo responsável no caminho natural para o utilizador. Também permite que a governação ocorra no momento da atividade, quando pode ainda influenciar o resultado, em vez de semanas depois, quando chega uma fatura.

O mesmo princípio aplica-se à orientação. Um conselho contextual fornecido enquanto alguém cria um fluxo de trabalho de IA tende a ser mais útil do que um curso de formação pontual concluído meses antes.

Tratar a economia da IA como uma capacidade permanente

A gestão da procura de IA não deve tornar-se um exercício temporário de redução de custos liderado apenas pela equipa de tecnologia.

Exige uma cooperação contínua entre tecnologia, finanças, aprovisionamento, risco e liderança de negócio. Em conjunto, estas funções precisam de prever a procura, monitorizar o consumo, avaliar fornecedores e ligar a despesa a resultados mensuráveis.

Esta capacidade deve, além disso, reconhecer que o mercado continuará a mudar. O modelo com melhor desempenho hoje pode não oferecer o melhor valor amanhã. Continuarão a surgir novos fornecedores, estruturas comerciais e opções de implementação.

A dependência a longo prazo de um único modelo ou fornecedor pode, por isso, introduzir risco financeiro e operacional. As organizações devem preservar a capacidade de mover cargas de trabalho, reavaliar as decisões de fornecimento e combinar capacidades adquiridas, desenvolvidas internamente e alojadas.

A antiga questão de comprar ou construir está a tornar-se demasiado estreita. A melhor questão é como reunir — e ajustar continuamente — a combinação certa de serviços, modelos e abordagens operacionais para cada carga de trabalho.

O controlo de custos deve apoiar a ambição

Existe o perigo de a despesa crescente com IA levar as organizações a tornarem-se excessivamente cautelosas precisamente quando a tecnologia começa a produzir resultados significativos.

Isso seria um erro.

Uma gestão financeira forte não é inimiga da inovação. É o que torna a inovação sustentada possível. Quando uma organização consegue identificar desperdício, pode redirecionar recursos para os fluxos de trabalho com maior potencial. Quando compreende o custo de um resultado, pode fazer escolhas informadas sobre onde escalar. Quando a governação está incorporada no ambiente, os colaboradores podem inovar dentro de limites claros e práticos.

As organizações que terão sucesso com a IA não serão necessariamente as que mais gastam — nem as que mais cortam. Serão as que compreendem onde a IA cria um valor distintivo e conseguem direcionar o seu consumo em conformidade.

A próxima fase da IA empresarial será, por isso, definida menos pelo acesso aos modelos e mais pela disciplina de gestão.

A questão já não é apenas “Quanta IA estamos a usar?”. É “O que estamos a alcançar com ela — e esse resultado justifica o investimento?”