IA na saúde: menos pressa, mais alinhamento

Por Mario Marchetti, CEO Latam da Sinch

Quando uma tecnologia passa a interferir em decisões que envolvem pacientes,

dados clínicos e profissionais de saúde, velocidade deixa de ser o único

parâmetro. Antes de escalar, é preciso saber onde a IA realmente faz sentido e

quais limites

precisam acompanhar seu uso. A pesquisa The AI Production Paradox, da Sinch,

ajuda a dimensionar esse desafio.

O estudo, realizado com 2.527 líderes empresariais de organizações com mais

de mil funcionários em dez países e seis setores, mostra que 62% das empresas

já têm agentes de IA em produção em seus canais de comunicação. A saúde,

no entanto,

apresenta a menor conversão de pilotos para produção entre os setores

analisados. O que não significa que o setor esteja ficando para trás, mas que

na saúde, a régua para colocar uma tecnologia em produção é necessariamente

mais alta.

E existe um dado que, para mim, merece atenção especial: 36% dos executivos

C-level do setor consideram seus mecanismos de segurança e governança, os

chamados guardrails, totalmente maduros. Entre diretores e gerentes

responsáveis pela

implementação, esse índice cai para 18%.

É possível que a liderança enxergue uma organização preparada para escalar

IA enquanto as equipes de tecnologia e operações ainda estejam lidando com

limitações de infraestrutura, integração de dados, segurança e governança.

Quando essas

duas visões não estão alinhadas, o risco é criar uma expectativa de

velocidade que a estrutura da empresa ainda não consegue sustentar.

A cautela do setor de saúde também aparece quando olhamos para os

investimentos. Globalmente, 75% das organizações apontam confiança,

segurança e compliance como prioridades de investimento em agentes de IA, acima

do desenvolvimento de IA, citado

por 63%. No a área, segurança, confiança e compliance também lideram, com

75% das respostas.

Segundo o levantamento, 74% das organizações que chegaram à produção

precisaram interromper ou fazer rollback de pelo menos um agente de IA por causa

de uma falha de governança. Exposição de dados pessoais ou de clientes

aparece entre os

principais motivos, citada por 31% dos respondentes, seguida por alucinações

ou riscos relacionados à marca, com 22%.

A pesquisa mostra que 84% das equipes de engenharia responsáveis por

comunicações com IA dedicam pelo menos metade do seu tempo à construção de

controles de segurança e guardrails. Isso significa que uma parcela

significativa da capacidade

técnica está sendo direcionada para construir a infraestrutura necessária

para que a IA possa operar com segurança.

Ao mesmo tempo, 55% das empresas precisam desenvolver soluções próprias para

preservar o contexto quando o consumidor muda de canal, na saúde, isso ganha

uma dimensão ainda maior. Imagine uma pessoa que inicia uma conversa pelo

WhatsApp, precisa

continuar por voz e depois retorna para o digital. Se cada mudança de canal

fizer com que ela precise explicar novamente quem é, qual é o problema e o que

já foi discutido, temos uma ruptura na experiência.

Entre as variáveis analisadas, a satisfação com a infraestrutura de

comunicação apresentou a relação mais forte com a confiança das

organizações em sua capacidade de implementar IA. Além disso, 87% dos

entrevistados consideram uma

infraestrutura de comunicação de alta performance essencial ou muito

importante para sua estratégia de IA.

O setor não precisa necessariamente correr para ser o primeiro a colocar um

agente de IA em produção, mas garantir que, quando esse agente estiver em

produção, ele seja capaz de entregar valor sem transformar velocidade em

risco.

A maturidade da IA não está apenas em ter um agente funcionando, está em ter

uma organização inteira preparada para confiar nele. E talvez seja justamente

esse o próximo salto da IA na saúde: não fazer a tecnologia falar mais, mas

criar as

condições para que ela saiba quando, como e por que se manifestar.