GenAI está virando de cabeça para baixo o cenário de cibersegurança e o papel do CISO

GenAI está transformando o mundo da cibersegurança de ponta-cabeça e redefinindo o papel do CISO

“A Gen AI torna as coisas mais fáceis tanto para os defensores quanto para os atacantes”, disse Subha Tatavarti, diretora de tecnologia da Wipro Limited, em um painel focado em ameaças de segurança cibernética na era da IA na conferência Brainstorm AI da ANBLE em San Francisco esta semana.

A IA Generativa está tornando os ataques de phishing mais convincentes, e os grandes modelos de linguagem em particular criaram uma superfície de ataque massivamente exposta. Ao mesmo tempo, atores maliciosos estão vendendo no mercado negro chatbots direcionados a hackers semelhantes ao ChatGPT da OpenAI, que iniciarão ataques vetoriais tão rapidamente quanto o produto da OpenAI responderá perguntas ou resumirá texto. Mas o que é especialmente desafiador sobre o impacto da IA generativa na segurança cibernética é a velocidade com que ela atingiu o mercado (incluindo o mercado negro). Empresas de todos os setores estão agora correndo para não apenas entender os ataques emergentes habilitados por IA generativa e construir novas ferramentas de defesa, mas lidar com desafios em constante mudança relacionados ao uso interno dessas ferramentas, políticas e conformidade. Como resultado, o papel do CISO está sendo completamente transformado.

“Eu entendo a situação em que os CISOs se encontram hoje”, disse Tatavarti, acrescentando que será crucial para os CISOs inovarem rapidamente, incluindo fazendo suas próprias inovações além do que está disponível no mercado.

Tatavarti falou ao lado do diretor de estratégia da Checkpoint, Itai Greenberg, e do líder global de inovação em IA da EY, Rodrigo Madanes, durante uma sessão estratégica que explorou como a IA está impactando o cenário de segurança cibernética em evolução. Em meio à discussão sobre novos tipos de ameaças possibilitadas pela IA generativa, o impacto no papel do CISO foi um ponto claro que está tendo um impacto enorme.

• Os Range Rovers estão sofrendo uma queda de valor porque se tornara...
• Vinod Khosla vê riscos pela frente – mas não é a IA que o pre...
• O Fed pode estar direcionando os EUA para um pouso suave e sem rece...

“O papel do CISO é extremamente desafiador e está evoluindo rapidamente”, disse Madanes. “Eu acho que o que está acontecendo agora é que eles têm aplicado políticas existentes sobre dados e proteção, mas à medida que se envolvem na responsabilidade de proteger contra interfaces conversacionais implantadas, isso requer um conjunto de habilidades diferente, um conjunto de ferramentas que ainda não foram desenvolvidas, que no momento são em grande parte de criação própria”.

Da mesma forma, Greenberg disse que os CISOs devem pensar nas ferramentas que estão usando e nos dados que estão enviando para essas ferramentas, especialmente ferramentas públicas. Isso também inclui estabelecer cuidadosamente diretrizes, inclusive para quem pode remover dados desses sistemas.

Para muitos, isso parece ser um papel diferente dos CISOs de antes, que se concentravam mais nos aspectos técnicos, como terceirização de TI, do que em tomar decisões políticas importantes. Esse ponto inspirou uma discussão animada entre os participantes, que comentaram sobre os crescentes riscos de ser um CISO e especularam que o papel pode ser dividido em dois – um papel mais operacional e outro mais voltado para governança.

Apontando para o fato de que os CISOs agora estão sendo responsabilizados criminalmente pessoalmente por seu manuseio de ataques a suas empresas, um participante, Ross Camp, da empresa de segurança e proteção de dados Commvault, perguntou se deveríamos nos preocupar com a escassez de CISOs no futuro próximo. No mês passado, o ex-CISO da SolarWinds, Timothy Brown, foi acusado pela Comissão de Valores Mobiliários por defraudar investidores ao não divulgar riscos conhecidos de segurança que levaram ao massivo ataque de cadeia de suprimentos à empresa – e analistas e profissionais da lei acreditam que isso se tornará muito mais comum.

Em termos de como combater ataques de IA generativa com IA generativa, isso ainda é um trabalho em andamento. Mas em 2024, Madanes disse que a indústria estará em plena atividade para construir soluções.

“Eu acho que estamos apenas começando a ver as pessoas perceberem como serão os vetores de ataque que virão para agentes expostos ao mundo exterior – qual será a forma deles, e quais serão as soluções comerciais que precisam ser implementadas. Mas eu não acho que já estamos lá”, disse Madanes. “Eu acho que estamos correndo para construir soluções comerciais, avaliá-las e implementá-las.”

Greenberg, que forneceu grande parte dos insights sobre os novos tipos de ataques que estão surgindo, como phishing de nível superior e a disponibilidade de aplicativos como FraudGPT, defendeu a importância de múltiplas linhas de defesa e alertou contra acreditar que apenas uma ferramenta pode fazer o trabalho.

“Acho importante nós entendermos que não é um sistema, não é um produto que pode lidar com isso”, disse ele.