Investigação revela preocupações sobre o impacto da IA generativa na cibersegurança, enquanto cibercriminosos começam a explorar a tecnologia para automatizar ataques.

A Sophos, empresa global especializada em cibersegurança, divulgou o relatório “Beyond the Hype: The Business Reality of AI for Cybersecurity”, baseado num inquérito a 400 líderes de TI sobre a utilização da Inteligência Artificial (IA) na segurança digital. Os resultados mostram que, apesar de 65% das organizações já terem adotado IA generativa (GenAI), 89% dos líderes de TI receiam que erros desta tecnologia possam expor as empresas a riscos de segurança.

O estudo revela que 98% das empresas já incorporaram algum tipo de IA na sua infraestrutura de cibersegurança, mas os profissionais da área alertam para os perigos do excesso de confiança na tecnologia.

87% dos inquiridos estão preocupados com a falta de responsabilidade em cibersegurança que pode resultar da dependência excessiva da IA enquanto que 75% dos líderes de TI admitem que os custos da GenAI são difíceis de quantificar e 80% acredita que a GenAI aumentará os custos de cibersegurança.

Cibercriminosos começam a explorar a GenAI para ataques

A Sophos X-Ops, equipa de inteligência de ameaças da Sophos, divulgou paralelamente um novo relatório, “Update: Cybercriminals still not fully on board the AI train (yet)”, que revela uma mudança gradual na forma como os cibercriminosos utilizam IA.

Embora ainda haja ceticismo nos fóruns clandestinos, há indícios de que hackers estão a usar GenAI para automatizar ataques, nomeadamente na Criação de e-mails de phishing em massa; Análise de dados roubados e Integração da IA em kits de engenharia social e SPAM.

Para Chester Wisniewski, Global Field CTO da Sophos, a abordagem à IA deve ser prudente: "O potencial da IA para acelerar o trabalho de cibersegurança é enorme, mas ainda requer supervisão humana. O nosso mantra deve ser ‘confiar, mas verificar’.”

Apesar disso, 84% dos líderes de TI estão preocupados com a pressão para reduzir equipas de cibersegurança, devido a expectativas irrealistas sobre a capacidade da IA de substituir operadores humanos.