Mô hình trí tuệ nhân tạo không giới hạn: Mối đe dọa mới nổi trong ngành mã hóa

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, từ các mô hình trong loạt GPT đến Gemini đang thay đổi sâu sắc cách chúng ta làm việc và sinh hoạt. Tuy nhiên, phía sau sự tiến bộ công nghệ này cũng ẩn chứa những nguy cơ tiềm ẩn - sự xuất hiện của các mô hình ngôn ngữ lớn (LLM) không bị kiểm soát hoặc có ý đồ xấu.

LLM không giới hạn là những mô hình ngôn ngữ được thiết kế hoặc điều chỉnh đặc biệt để vượt qua các cơ chế an ninh và giới hạn đạo đức tích hợp trong các mô hình chính thống. Mặc dù các nhà phát triển LLM chính thống đã đầu tư nhiều tài nguyên để ngăn chặn việc lạm dụng mô hình, nhưng một số cá nhân hoặc tổ chức vì mục đích bất hợp pháp đã bắt đầu tìm kiếm hoặc phát triển các mô hình không bị giới hạn. Bài viết này sẽ khám phá các cách lạm dụng tiềm năng của các công cụ LLM không giới hạn trong ngành mã hóa, cũng như các thách thức an ninh liên quan và các chiến lược ứng phó.

Mối đe dọa tiềm tàng của LLM không giới hạn

Với LLM không giới hạn, ngay cả những người thiếu kỹ năng chuyên môn cũng có thể dễ dàng thực hiện các nhiệm vụ phức tạp như viết mã độc, tạo email lừa đảo, lập kế hoạch lừa đảo. Kẻ tấn công chỉ cần lấy trọng số và mã nguồn của mô hình mã nguồn mở, sau đó sử dụng bộ dữ liệu chứa nội dung độc hại hoặc lệnh bất hợp pháp để tinh chỉnh, từ đó có thể tạo ra công cụ tấn công tùy chỉnh.

Xu hướng này mang lại nhiều rủi ro:

1. Kẻ tấn công có thể tùy chỉnh mô hình dựa trên mục tiêu cụ thể, tạo ra nội dung lừa đảo hơn, vượt qua sự kiểm duyệt nội dung của LLM thông thường.
2. Mô hình có thể được sử dụng để nhanh chóng tạo ra các biến thể mã của trang web lừa đảo hoặc tùy chỉnh nội dung lừa đảo cho các nền tảng khác nhau.
3. Khả năng tiếp cận các mô hình mã nguồn mở đã thúc đẩy sự hình thành của hệ sinh thái AI ngầm, tạo điều kiện cho các giao dịch và phát triển bất hợp pháp.

Mô hình LLM không giới hạn điển hình và sự lạm dụng của nó trong ngành mã hóa

WormGPT：phiên bản đen của GPT

WormGPT là một LLM độc hại được bán công khai trên các diễn đàn ngầm, tuyên bố không có giới hạn đạo đức. Nó dựa trên các mô hình mã nguồn mở như GPT-J 6B và được đào tạo trên một lượng lớn dữ liệu liên quan đến phần mềm độc hại. Trong lĩnh vực mã hóa, WormGPT có thể bị lạm dụng để:

• Tạo email lừa đảo chân thực, giả mạo sàn giao dịch hoặc bên dự án để gửi yêu cầu xác minh tài khoản.
• Hỗ trợ những kẻ tấn công có trình độ kỹ thuật thấp viết mã độc để đánh cắp tệp ví hoặc theo dõi clipboard.
• Kích thích lừa đảo tự động, hướng dẫn nạn nhân tham gia vào các đợt airdrop hoặc dự án đầu tư giả.

DarkBERT: thanh kiếm hai lưỡi của nội dung mạng tối

DarkBERT là một mô hình được huấn luyện trước trên dữ liệu từ mạng tối, ban đầu được sử dụng để giúp các nhà nghiên cứu và cơ quan thực thi pháp luật hiểu về hệ sinh thái mạng tối. Tuy nhiên, nếu bị kẻ xấu lợi dụng, có thể dẫn đến:

• Thực hiện lừa đảo chính xác, thu thập thông tin người dùng mã hóa và thông tin đội ngũ dự án để thực hiện gian lận xã hội.
• Sao chép các chiến lược trộm tiền và rửa tiền trưởng thành trong mạng tối.

FraudGPT: Công cụ đa chức năng cho lừa đảo trực tuyến

FraudGPT là phiên bản nâng cấp của WormGPT, với chức năng toàn diện hơn. Trong lĩnh vực mã hóa, nó có thể được sử dụng để:

• Dự án mã hóa giả mạo, tạo ra whitepaper, trang web và nội dung tiếp thị chân thực để phục vụ cho ICO/IDO giả.
• Tạo hàng loạt trang lừa đảo, mô phỏng giao diện đăng nhập của các sàn giao dịch nổi tiếng.
• Tiến hành hoạt động đội quân trên mạng xã hội, quảng bá mã thông báo lừa đảo hoặc bôi nhọ dự án cạnh tranh.
• Thực hiện tấn công kỹ thuật xã hội, xây dựng lòng tin với người dùng và dụ dỗ tiết lộ thông tin nhạy cảm.

GhostGPT：trợ lý AI không bị ràng buộc bởi đạo đức

GhostGPT là một chatbot AI được xác định rõ ràng là không có giới hạn đạo đức. Trong lĩnh vực mã hóa, nó có thể bị lạm dụng để:

• Khởi động cuộc tấn công lừa đảo cao cấp, tạo ra email giả mạo có độ giả lập cực kỳ cao.
• Tạo mã hợp đồng thông minh có cửa hậu ẩn, dùng cho lừa đảo Rug Pull hoặc tấn công các giao thức DeFi.
• Tạo ra một công cụ đánh cắp mã hóa có khả năng biến hình, khó bị phát hiện bởi phần mềm bảo mật truyền thống.
• Kết hợp kịch bản lời nói do AI tạo ra, triển khai robot lừa đảo trên các nền tảng xã hội.
• Kết hợp với các công cụ AI khác, tạo ra giọng nói giả mạo của người sáng lập dự án hoặc giám đốc điều hành sàn giao dịch, thực hiện lừa đảo qua điện thoại.

Venice.ai: rủi ro tiềm ẩn về việc truy cập không kiểm duyệt

Venice.ai cung cấp quyền truy cập vào nhiều LLM khác nhau, bao gồm một số mô hình ít bị kiểm duyệt hơn. Mặc dù được định vị là nền tảng mở để khám phá khả năng AI, nhưng nó cũng có thể bị lạm dụng để:

• Vượt qua kiểm duyệt để tạo ra nội dung độc hại, chẳng hạn như mẫu lừa đảo hoặc tuyên truyền sai lệch.
• Giảm bớt rào cản kỹ thuật, khiến kẻ tấn công dễ dàng truy cập vào những đầu ra vốn bị hạn chế.
• Tăng tốc độ lặp lại kịch bản tấn công, nhanh chóng thử nghiệm và tối ưu hóa kịch bản gian lận.

Chiến lược đối phó

Sự xuất hiện của LLM không giới hạn đánh dấu rằng an ninh mạng đang phải đối mặt với những mối đe dọa mới phức tạp hơn, có quy mô lớn hơn và khả năng tự động hóa. Để đối phó với những thách thức này, các bên trong hệ sinh thái an ninh cần phối hợp nỗ lực:

1. Tăng cường đầu tư vào công nghệ kiểm tra, phát triển hệ thống có khả năng nhận diện và chặn nội dung do LLM độc hại tạo ra.
2. Nâng cao khả năng chống jailbreak của mô hình, khám phá cơ chế watermark và truy nguyên, để theo dõi nguồn gốc nội dung độc hại.
3. Xây dựng và hoàn thiện các quy tắc đạo đức và cơ chế giám sát, từ nguồn gốc hạn chế việc phát triển và lạm dụng các mô hình xấu.

Chỉ thông qua hợp tác đa phương, liên tục nâng cao khả năng phòng thủ, mới có thể bảo vệ an toàn cho ngành mã hóa trong cuộc chiến tấn công và phòng thủ đang ngày càng leo thang này.