O Google utilizou uma combinação de sinais técnicos e padrões comportamentais para rastrear atividades suspeitas em suas plataformas.
Um relatório recente do Google revelou que agentes de governos estrangeiros estão explorando o Gemini, seu serviço de inteligência artificial, para fins maliciosos. A descoberta foi feita pelo Threat Intelligence Group (TIG), equipe de segurança da empresa, que identificou o uso indevido da IA por agentes de países como China, Irã, Coreia do Norte e Rússia. De acordo com o relatório, o Google utilizou uma combinação de sinais técnicos e padrões comportamentais para rastrear atividades suspeitas em suas plataformas, identificando a infraestrutura utilizada por esses agentes.
Entre os usos maliciosos detectados, destacam-se a criação de iscas convincentes para ataques de phishing, a realização de reconhecimento digital sobre alvos específicos e a geração de scripts para softwares. No entanto, a empresa afirma que suas proteções de segurança foram eficazes para impedir a criação de malware diretamente através do chatbot.
“As tentativas incluíram copiar e colar comandos disponíveis publicamente, seguidos de pequenas variações para instruções mais diretas, como a criação de ransomware ou outros tipos de malware. O Gemini, no entanto, respondeu com bloqueios de segurança e recusou-se a atender às solicitações“, explica o relatório.
Apesar das restrições impostas pelo Google, os agentes de ameaças continuam buscando maneiras de contornar as proteções da plataforma. O relatório destaca que o Irã se sobressai nesse cenário, sendo responsável por 75% do uso malicioso identificado no Gemini.
Mais de 10 grupos cibercriminosos iranianos foram flagrados tentando burlar as restrições da IA, especialmente para pesquisas voltadas ao sistema Android. Suas atividades incluem desde a busca por vulnerabilidades até a criação de identidades digitais falsas para fins fraudulentos.
Como usar IA com segurança
- Evite compartilhar dados sensíveis: nunca forneça senhas, informações bancárias ou documentos pessoais para IA.
- Use fontes confiáveis: prefira plataformas de IA conhecidas e bem avaliadas para evitar golpes.
- Leia os termos de uso: algumas ferramentas armazenam dados, e todas as informações fornecidas por você, portanto, se possível, leia os termos de uso da sua IA de preferência para saber como suas informações são processadas.
- Mantenha a privacidade: evite fornecer detalhes que possam identificar você ou sua localização exata.
- Atualize-se sobre segurança digital: entender boas práticas ajuda a evitar riscos na interação com IA.
Aqui no blog, você sempre fica por dentro das melhores dicas sobre segurança digital e como navegar na internet de forma segura. Não deixe de seguir a gente nas redes sociais.
