Modelos de inteligencia artificial sin restricciones: La nueva amenaza emergente en la industria de la encriptación

Con el rápido desarrollo de la tecnología de inteligencia artificial, modelos avanzados como la serie GPT y Gemini están cambiando profundamente nuestra forma de trabajar y vivir. Sin embargo, detrás de este avance tecnológico también se ocultan peligros potenciales: la aparición de modelos de lenguaje grandes (LLM) sin restricciones o maliciosos.

Los LLM sin restricciones se refieren a aquellos modelos de lenguaje que han sido diseñados o modificados intencionadamente para eludir los mecanismos de seguridad y las restricciones éticas integradas en los modelos convencionales. A pesar de que los desarrolladores de LLM convencionales invierten una gran cantidad de recursos para prevenir el abuso de los modelos, algunas personas u organizaciones, con fines ilegales, han comenzado a buscar o desarrollar modelos sin restricciones. Este artículo explorará las posibles formas de abuso de estas herramientas LLM sin restricciones en la industria de la encriptación, así como los desafíos de seguridad relacionados y las estrategias de respuesta.

Amenazas potenciales de LLM sin restricciones

Con la ayuda de LLM sin restricciones, incluso las personas sin habilidades profesionales pueden completar fácilmente tareas complejas como escribir código malicioso, crear correos electrónicos de phishing y planear fraudes. Los atacantes solo necesitan obtener los pesos y el código fuente del modelo de código abierto, y luego utilizar un conjunto de datos que contenga contenido malicioso o instrucciones ilegales para ajustar el modelo, creando así herramientas de ataque personalizadas.

Esta tendencia conlleva múltiples riesgos:

1. Los atacantes pueden personalizar modelos según objetivos específicos, generando contenido más engañoso que elude la revisión de contenido de los LLM convencionales.
2. El modelo se puede utilizar para generar rápidamente variantes de código de sitios web de phishing o personalizar textos de estafa para diferentes plataformas.
3. La accesibilidad de modelos de código abierto ha fomentado la formación de un ecosistema de IA subterráneo, proporcionando un caldo de cultivo para el comercio y desarrollo ilegales.

LLM típicos sin restricciones y su abuso en la encriptación

WormGPT: versión negra de GPT

WormGPT es un LLM malicioso que se vende públicamente en foros oscuros, afirmando no tener restricciones éticas. Se basa en modelos de código abierto como GPT-J 6B y ha sido entrenado con una gran cantidad de datos relacionados con malware. En el campo de la encriptación, WormGPT puede ser mal utilizado para:

• Generar correos electrónicos de phishing realistas, haciéndose pasar por intercambios o proyectos para enviar solicitudes de verificación de cuentas.
• Ayudar a atacantes con un nivel técnico inferior a escribir código malicioso para robar archivos de billetera o monitorear el portapapeles.
• Impulsar fraudes automatizados, guiando a las víctimas a participar en airdrops falsos o proyectos de inversión.

DarkBERT: la espada de doble filo del contenido de la dark web

DarkBERT es un modelo preentrenado en datos de la dark web, originalmente diseñado para ayudar a investigadores y agencias de aplicación de la ley a comprender la ecología de la dark web. Sin embargo, si es utilizado por actores maliciosos, podría llevar a:

• Implementar fraudes precisos, recolectar información de usuarios de encriptación y equipos de proyectos para realizar fraudes sociales.
• Copiar estrategias maduras de robo de criptomonedas y blanqueo de dinero en la dark web.

FraudGPT: herramienta multifuncional para el fraude en línea

FraudGPT es la versión mejorada de WormGPT, con funciones más completas. En el ámbito de la encriptación, podría ser utilizado para:

• Proyectos de encriptación falsificados, generando libros blancos, sitios web y copias de marketing realistas para ICO/IDO falsos.
• Generar páginas de phishing en lotes, imitando la interfaz de inicio de sesión de intercambios conocidos.
• Llevar a cabo actividades de ejércitos de redes sociales para promover tokens fraudulentos o desacreditar proyectos competidores.
• Realizar ataques de ingeniería social, establecer confianza con el usuario e inducir la divulgación de información sensible.

GhostGPT: un asistente de IA sin restricciones morales

GhostGPT es un chatbot de IA claramente posicionado sin restricciones morales. En el campo de la encriptación, podría ser mal utilizado para:

• Lanzar ataques de phishing avanzados, generando correos electrónicos fraudulentos de alta similitud.
• Generar código de contrato inteligente que contenga puertas traseras ocultas, para estafas de Rug Pull o ataques a protocolos DeFi.
• Crear un ladrón de encriptación con capacidad de transformación, difícil de detectar por el software de seguridad tradicional.
• Combinar scripts de conversación generados por IA para desplegar bots de estafa en plataformas sociales.
• En combinación con otras herramientas de IA, generar voces falsas de fundadores de proyectos o ejecutivos de exchanges para llevar a cabo fraudes telefónicos.

Venice.ai: riesgos potenciales de acceso sin censura

Venice.ai ofrece acceso a varios LLM, incluyendo algunos modelos con menos censura. Aunque se posiciona como una plataforma abierta para explorar las capacidades de la IA, también podría ser mal utilizada para:

• Eludir la censura para generar contenido malicioso, como plantillas de phishing o propaganda falsa.
• Reducir las barreras de entrada para la ingeniería de提示, facilitando a los atacantes obtener salidas que anteriormente estaban restringidas.
• Acelerar la iteración de los guiones de ataque, probar y optimizar rápidamente los scripts de fraude.

Estrategias de respuesta

La aparición de LLM sin restricciones marca un nuevo tipo de amenaza para la ciberseguridad, que enfrenta desafíos más complejos, a mayor escala y con capacidades de automatización. Para abordar estos desafíos, todas las partes del ecosistema de seguridad deben trabajar en colaboración:

1. Aumentar la inversión en tecnología de detección, desarrollar sistemas capaces de identificar y interceptar contenido generado por LLM maliciosos.
2. Mejorar la capacidad del modelo para prevenir el jailbreak, explorar mecanismos de marcas de agua y trazabilidad para rastrear el origen del contenido malicioso.
3. Establecer normas éticas y mecanismos de supervisión sólidos para limitar desde la fuente el desarrollo y abuso de modelos maliciosos.

Solo a través de la cooperación multilateral y la mejora continua de las capacidades de defensa se puede proteger la seguridad de la industria de encriptación en este juego de ataque y defensa en constante escalada.