Agencias/Ciudad de México.- FraudGPT es el último ejemplo detectado que utiliza la tecnología de ‘chatbots’ basados en la inteligencia artificial (IA) generativa para incentivar la creación de ‘malware’ con una herramienta que se vende en foros de la Internet oscura (darkweb) y en Telegram.
El ‘chatbot’ de OpenAI, ChatGPT, puede utilizarse para crear ‘malware’ a partir de su función de apoyo para la escritura de código, y pese a los filtros de seguridad que sus responsables han implantado, como han demostrado investigaciones como las de Check Point y Forcepoint.
Sin embargo, la popularidad de la IA generativa y de los ‘chatbots’ ha supuesto la aparición de herramientas diseñadas específicamente para poner sus capacidades de programación al servicio de la creación de ‘malware’, como ocurre con FraudGPT.
-Even if you have no technical knowledge, another scammer will build an unrestricted LLM and sell it to you:https://t.co/jmZgDRU5ov
— Jack Funk (@jackfunk) August 1, 2023
Los investigadores de Netenrich han descubierto FraudGPT, una herramienta de IA que se distribuye en canales de Telegram desde el pasado 22 de julio y que se vende y promociona en la darkweb como “un bot sin limitaciones”.
Con este ‘chatbot’, cualquier actor de amenazas puede crear código malicioso, páginas de ‘phishing’, o buscar vulnerabilidades y filtraciones, entre otros contenidos dañinos, de forma tan simple y sencilla como escribir unas indicaciones. Con ello, pueden personalizar campañas de ‘phishing’ para engañar a sus víctimas.
Con anterioridad se ha detectado el caso de WormGPT, otra alternativa maliciosa a ChatGPT similar a FraudGPT que se lanzó el 13 de julio del 2023. Según los investigadores de Check Point, los estafadores proponen utilizar la API de uno de los modelos GPT-3 de OpenAI, conocido como text-davinci-003, en lugar de tomar como referencia ChatGPT, que es una variante de estos modelos diseñada específicamente para aplicaciones de chatbot.
Check Point comenta que la versión de la API del modelo GPT-3 la pueden utilizar aplicaciones externas con total libertad, como puede ser Telegram, una plataforma que los ciberdelincuentes han comenzado a utilizar para crear y distribuir ‘malware’. La compañía de ciberseguridad también comenta en su blog que algunos usuarios están publicando y vendiendo el código que utiliza text-davinci-003 para generar dicho contenido malicioso de forma gratuita.
AI models are “heralding an era of AI-enabled data attacks”. Our VP of Strategic Cyber AI, Nicole Carignan, spoke to @CityAM to discuss the rise of generative AI and the growing threat of AI-powered attacks to businesses. Read the full article here: https://t.co/yNvXETbSYv
— Darktrace (@Darktrace) August 8, 2023
