Segurança e governança em foco na implementação de IA
A adoção da inteligência artificial (IA) nas empresas enfrenta três grandes obstáculos apontados pela Hitachi Vantara: estruturação de dados, governança e infraestrutura. Desde que a IA generativa ganhou destaque, a cibersegurança tem sofrido com a ausência desses pilares, o que pode ser agravado com a chegada dos agentes de IA. Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, explica que esses agentes trazem riscos ao ambiente corporativo, pois podem agir de forma inesperada se não forem monitorados constantemente. Além disso, há uma compreensão equivocada sobre o funcionamento dessas ferramentas.
Segundo Gibson, muitas empresas depositam confiança excessiva nos resultados produzidos pela IA. Essa empolgação tem levado à implementação precipitada de soluções, criando vulnerabilidades que poderiam ser evitadas. O relatório global da Hitachi destaca que cerca de 91% dos agentes ainda apresentam problemas de “alucinação”, ou seja, geram respostas incorretas ou imprecisas, enquanto 76% dos dados corporativos permanecem não estruturados, justamente o tipo mais explorado pela IA.
Contexto brasileiro e cautela dos executivos
No Brasil, o cenário é um pouco diferente. O país passa por uma digitalização acelerada, muitas vezes sustentada por sistemas legados e ambientes heterogêneos. Executivos locais são vistos como mais conservadores na adoção da IA, segundo a Hitachi Vantara. Joshua Wick, líder global de riscos e compliance da empresa, comenta que os profissionais brasileiros preferem realizar uma análise detalhada antes de investir, demonstrando apreensão diante dos custos iniciais e dos estudos disponíveis até o momento.
Leia também: OpenAI lança GPT-6 Astra e marca o início da era da Inteligência Artificial Geral
Fonte: belzontenews.com.br
Leia também: Segurança de Dados é o Maior Desafio na Adoção de IA, Revela Estudo da Hitachi Vantara
Fonte: reportersorocaba.com.br
Essa postura cautelosa é avaliada como positiva pelos especialistas. Para Wick, a IA é uma ferramenta poderosa que deve ser empregada com parcimônia. Ele sugere que as organizações se perguntem se é possível resolver determinado problema sem recorrer à inteligência artificial antes de adotá-la.
Educação e testes como caminhos para mitigar riscos
Os executivos da Hitachi Vantara destacam que a educação dos usuários é fundamental para estruturar a adoção da IA e reduzir os riscos associados. Entender o funcionamento da tecnologia e as implicações do seu uso é essencial, mas essa capacitação demanda tempo, muitas vezes negligenciado pelas empresas. Gibson enfatiza que é necessário definir claramente os objetivos do uso da IA, conhecer os perigos envolvidos e evitar pressa na implementação. Testes prévios são indispensáveis para garantir segurança e eficiência.
Segurança de dados se torna prioridade crescente
O relatório global evidencia um aumento significativo na preocupação com a segurança de dados. Para 56% das lideranças, esse é o maior desafio na adoção da IA, um crescimento de 19 pontos percentuais em relação ao ano anterior. Esse foco se refletiu em uma queda na percepção de sucesso dos modelos de linguagem de grande escala (LLMs), como ChatGPT e Copilot, que passaram de 95% para 81%.
Leia também: OpenAI apresenta GPT-6 Astra: o avanço que marca o início da Inteligência Artificial Geral
Fonte: agendapublica.com.br
Paralelamente, cresce o investimento em governança e qualidade dos dados. A proporção de empresas que aprimoram os dados para treinamento subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também aumentaram, de 36% para 44%. O percentual de organizações sem estratégia para explicação dos modelos caiu de 42% para 24%.
Inovação com responsabilidade e foco na estruturação
Apesar dos desafios, os especialistas reforçam que governança e segurança não devem frear a inovação. Pelo contrário, são essenciais para que a IA seja usada em seu máximo potencial, garantindo a segurança dos negócios na medida em que avançam. Gibson prevê que, no futuro, será comum interagir com interfaces únicas capazes de gerar resultados sob demanda, mas que chegar a esse estágio requer uma estrutura sólida.
O avanço tecnológico é inevitável, mas a preparação e o cuidado com a implementação são determinantes para que a inteligência artificial traga benefícios reais e minimizados riscos.