Modelos de inteligência artificial sem restrições: uma nova ameaça na indústria de encriptação

Com o rápido desenvolvimento da tecnologia de inteligência artificial, modelos avançados como a série GPT e o Gemini estão transformando profundamente a nossa forma de trabalhar e viver. No entanto, por trás desse avanço tecnológico, também se escondem perigos potenciais - o surgimento de modelos de linguagem de grande escala (LLM) sem restrições ou maliciosos.

Os LLMs sem restrições referem-se a modelos de linguagem que foram especificamente projetados ou modificados para contornar os mecanismos de segurança e as restrições éticas integradas nos modelos mainstream. Embora os desenvolvedores de LLMs mainstream tenham investido muitos recursos para evitar o uso indevido dos modelos, algumas pessoas ou organizações, com fins ilegais, começaram a procurar ou desenvolver modelos sem restrições. Este artigo irá explorar as potenciais formas de abuso dessas ferramentas LLM sem restrições na indústria de encriptação, bem como os desafios de segurança relacionados e as estratégias de resposta.

Ameaças potenciais de LLM sem restrições

Com a ajuda de LLM sem restrições, mesmo pessoas sem habilidades profissionais podem facilmente realizar tarefas complexas, como escrever código malicioso, criar e-mails de phishing e planejar fraudes. Os atacantes só precisam obter os pesos e o código-fonte do modelo de código aberto e, em seguida, usar um conjunto de dados que contenha conteúdo malicioso ou instruções ilegais para fazer o ajuste fino, podendo assim criar ferramentas de ataque personalizadas.

Esta tendência trouxe múltiplos riscos:

1. O atacante pode personalizar o modelo com base em alvos específicos, gerando conteúdo mais enganador para contornar a revisão de conteúdo dos LLMs convencionais.
2. O modelo pode ser utilizado para gerar rapidamente variantes de código de sites de phishing ou personalizar textos de fraude para diferentes plataformas.
3. A acessibilidade de modelos de código aberto fomentou a formação de um ecossistema de IA subterrâneo, criando um terreno fértil para transações e desenvolvimentos ilegais.

LLMs típicos sem restrições e seu abuso na encriptação

WormGPT：versão preta do GPT

WormGPT é um LLM malicioso vendido publicamente em fóruns subterrâneos, que afirma não ter restrições éticas. É baseado em modelos de código aberto como GPT-J 6B e foi treinado em uma grande quantidade de dados relacionados a malware. No campo da encriptação, WormGPT pode ser abusado para:

• Gerar e-mails de phishing realistas, fingindo ser uma bolsa ou um projeto para enviar solicitações de verificação de conta.
• Ajudar atacantes com níveis técnicos mais baixos a escrever código malicioso para roubar arquivos de carteira ou monitorar a área de transferência.
• Impulsionar fraudes automatizadas, guiando as vítimas a participar de airdrops ou projetos de investimento falsos.

DarkBERT: a espada de dois gumes do conteúdo da dark web

DarkBERT é um modelo pré-treinado em dados da dark web, originalmente concebido para ajudar pesquisadores e agências de aplicação da lei a entender o ecossistema da dark web. No entanto, se for explorado por agentes maliciosos, pode levar a:

• Implementar fraudes precisas, coletar informações de usuários de encriptação e equipes de projetos para realizar fraudes sociais.
• Copiar estratégias maduras de roubo de moedas e lavagem de dinheiro da dark web.

FraudGPT: Ferramenta multifuncional para fraudes online

FraudGPT é a versão atualizada do WormGPT, com funções mais abrangentes. No campo da encriptação, pode ser utilizado para:

• Projetos de encriptação falsificados, gerando white papers, sites e textos de marketing realistas para ICOs/IDOs fraudulentos.
• Geração em massa de páginas de phishing, imitando a interface de login de exchanges conhecidas.
• Realizar atividades de exército de trolls nas redes sociais para promover tokens fraudulentos ou difamar projetos concorrentes.
• Realizar ataques de engenharia social, estabelecer confiança com os usuários e induzi-los a divulgar informações sensíveis.

GhostGPT: um assistente de IA sem restrições morais

GhostGPT é um chatbot de IA claramente posicionado como sem limites éticos. No campo da encriptação, pode ser mal utilizado para:

• Lançar ataques de phishing avançados, gerando e-mails fraudulentos com um grau de simulação extremamente alto.
• Gerar código de contrato inteligente com portas dos fundos ocultas, utilizado para fraudes de Rug Pull ou ataques a protocolos DeFi.
• Criar um encriptação furtivo com capacidade de metamorfose, difícil de ser detectado por software de segurança tradicional.
• Combinar scripts de conversa gerados por IA para implantar robôs de fraude em plataformas sociais.
• Em conjunto com outras ferramentas de IA, gerar vozes falsificadas de fundadores de projetos ou executivos de exchanges para realizar fraudes telefónicas.

Venice.ai：potenciais riscos de acesso sem censura

A Venice.ai oferece acesso a vários LLMs, incluindo alguns modelos com menos censura. Embora posicione-se como uma plataforma aberta para explorar as capacidades de IA, também pode ser mal utilizada para:

• Contornar a censura para gerar conteúdo malicioso, como modelos de phishing ou propaganda falsa.
• Reduzir a barreira de entrada para engenharia de prompts, facilitando para os atacantes a obtenção de saídas que antes eram restritas.
• Acelerar a iteração das falas de ataque, testar rapidamente e otimizar scripts de fraude.

Estratégia de Resposta

A emergência de LLM sem restrições marca a presença de novas ameaças à segurança cibernética, que são mais complexas, escaláveis e automatizadas. Para enfrentar esses desafios, todas as partes do ecossistema de segurança precisam trabalhar em colaboração:

1. Aumentar o investimento em tecnologias de detecção, desenvolvendo sistemas capazes de identificar e interceptar conteúdos gerados por LLM maliciosos.
2. Melhorar a capacidade do modelo de prevenir jailbreak, explorar mecanismos de marca d'água e rastreamento para identificar a origem de conteúdos maliciosos.
3. Estabelecer normas éticas e mecanismos de regulação sólidos, limitando desde a origem o desenvolvimento e abuso de modelos maliciosos.

Só através da cooperação mútua e da melhoria contínua da capacidade de defesa é que podemos proteger a segurança da indústria de encriptação neste jogo de ataque e defesa em constante escalada.