Para confiar na IA, empresas gastarão US$ 6,7 bilhões em 2029

A NTT Data estima um aumento de 2,7 vezes no orçamento global de soluções e serviços de confiança de inteligência artificial, risco e gerenciamento de segurança para empresas — a AI Trism (Trust, Risk e Security Management, termo cunhado pelo Gartner) —, passando de US$ 2,4 bilhões para US$ 6,2 bilhões entre 2024 e 2029. Essa categoria é uma das três que as empresas precisarão para formar o stack da inteligência confiável (Trust Stack, no original em inglês) para o B2B, ou seja, uma estrutura necessária para dar confiança no uso da IA às organizações e seus colaboradores, como prevê a consultoria. As outras duas são: - Observabilidade de IA: engloba a visualização de modelos, projetos e inferência, em um crescimento de três vezes no budget, de US$ 1,2 bilhão para US$ 3,6 bilhões em cinco anos; - IA em cibersegurança: com detecção, prevenção e resposta, que deve crescer 2,9 vezes até 2029, alcançando US$ 80 bilhões, contra US$ 28 bilhões em 2024. De acordo com Daniela Griecco, head de digital e analytics na NTT Data Brasil, a confiança na IA demandará que estruturas de segurança digital passem a atuar em uma arquitetura única, pois antes trabalhavam isoladas em silos. Esse trabalho começa a partir do uso de dados qualitativos, com rastreabilidade, consentimento e origem verificável das informações que abastecem os modelos. Cibersegurança na era da IA Para Fernando Galdino, diretor de consultoria de cibersegurança na NTT Data Brasil, o modelo tradicional de segurança digital muda na era da IA, em especial por três pontos: - A vulnerabilidade de software está mais rápida para encontrar falhas com o uso da IA, processo que caiu de 100 dias para minutos; - A segurança deixa de ser determinística com regras de sim ou não e passa a ser probabilística, baseada no nível de confiança da resposta; - O Zero Trust passa a exigir a verificação do contexto, da probabilidade de conteúdo e da reputação das fontes de informação, algo que Galdino compara ao jornalismo profissional, que traz toda essa carga de confiança. “Não é só verificar o conteúdo, mas a fonte e sua reputação. Isso é o grande elo de confiança da cadeia”, disse o executivo. “O conteúdo estará sempre sob julgamento (na era da IA).” Em sua visão, as camadas de proteção da era da IA demandam olhar o processo de construção de confiança como capacidade operacional: “Para escalar IA agêntica, a estrutura precisa ser confiável”, afirmou. Assim como Griecco, o especialista afirmou que a integridade dos dados passa a ser prioridade máxima, ao lado da confidencialidade. Também destacou que a segurança para IA impulsionará os investimentos em outras categorias de proteção, como segurança para cloud e identidade, e que há interseções com infraestrutura e aplicações. Galdino também explicou que o ideal seria começar com security by design na construção das infraestruturas que levarão ao uso de aplicações de IA. Contudo, como a IA está abundante e crescente dentro de todas as empresas, o caminho mais viável será atuar com observabilidade, segurança e governança, o que dará mais maturidade e confiança no uso da tecnologia. Agentes de IA Griecco reforçou que a jornada fica mais dinâmica com a chegada dos agentes autônomos nas organizações, pois o modelo precisa definir decisões em tempo real, algo diferente da governança tradicional de dados, que opera em prazos maiores ou dias. Diante disso, a executiva explicou que a governança de agentes deve ser feita em quatro etapas: Evidência e monitoramento: uso da observabilidade para explicar e interpretar isoladamente as decisões da IA; - Trust Stack em escala: etapa a ser realizada nos próximos 18 meses com a aplicação de políticas e validações contínuas desde o início dos projetos; - Confiança operacional: aplicação em todo o processo de forma sensibilizada e com decisões verificáveis na cadeia de ponta a ponta; - Confiança federada: compartilhamento de guardrails e registros globais entre diferentes organizações e setores da sociedade. A diretora enfatizou que a confiança e a governança operacional em IA não significam deixar que a totalidade dos processos seja decidida por agentes, pois a parte mais crítica dependerá de orquestração humana, assim como os funcionários deverão passar por letramento constante sobre os riscos da tecnologia. Imagem principal: Daniela Griecco, head de digital e analytics na NTT Data Brasil e Fernando Galdino, diretor de consultoria de cibersegurança na NTT Data Brasil (divulgação)