Integrasi AI dan Web3 Menimbulkan Tantangan Keamanan Baru, DeFAI Menjadi Fokus
Baru-baru ini, Pekan Blockchain Istanbul berfokus pada tren penggabungan AI dan Web3, menjadi platform penting untuk diskusi keamanan Web3 tahun ini. Selama acara, banyak ahli industri melakukan diskusi mendalam tentang status aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) serta tantangan keamanannya.
Dengan pesatnya perkembangan model bahasa besar dan agen AI, sebuah model keuangan baru yang disebut "DeFAI" (Keuangan Kecerdasan Buatan Terdesentralisasi) sedang secara bertahap terbentuk. Namun, inovasi ini juga membawa risiko keamanan dan serangan yang belum pernah terjadi sebelumnya.
Seorang eksekutif perusahaan keamanan menunjukkan bahwa meskipun DeFAI memiliki prospek yang cerah, hal itu juga memaksa industri untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar tradisional, proses pengambilan keputusan agen AI dipengaruhi oleh berbagai faktor, yang membuatnya sangat tidak terduga, ini tidak hanya meningkatkan risiko, tetapi juga menciptakan peluang bagi penyerang potensial.
AI agen pada dasarnya adalah entitas cerdas yang dapat membuat keputusan dan mengeksekusi secara mandiri berdasarkan logika AI, di mana robot perdagangan AI adalah perwakilan paling khas. Saat ini, sebagian besar agen AI masih berjalan di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap berbagai ancaman serangan siber. Begitu agen AI dibajak, tidak hanya dapat menyebabkan kerugian dana secara langsung, tetapi juga dapat mempengaruhi stabilitas keseluruhan protokol.
Para ahli juga membahas sebuah skenario serangan tipikal: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi memantau informasi media sosial sebagai sinyal perdagangan, penyerang dapat mengelabui agen untuk melakukan tindakan yang tidak semestinya dengan memposting peringatan palsu, sehingga menyebabkan kerugian aset pengguna dan memicu volatilitas pasar.
Menyangkut risiko ini, para ahli yang hadir sepakat bahwa keamanan agen AI harus menjadi tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga. Pengguna perlu memberikan otorisasi dengan hati-hati dan memeriksa operasi berisiko tinggi dari agen AI; pengembang harus menerapkan langkah-langkah pertahanan berlapis sejak tahap desain; sementara perusahaan keamanan pihak ketiga harus menyediakan layanan audit keamanan yang komprehensif untuk agen AI.
Seorang ahli keamanan memperingatkan bahwa jika AI agen terus diperlakukan sebagai "kotak hitam", insiden keamanan di dunia nyata hanyalah masalah waktu. Dia menyarankan para pengembang yang sedang menjelajahi arah DeFAI, harus melakukan audit keamanan dan pengujian penetrasi secara profesional terhadap logika perilaku AI agen, sama seperti yang dilakukan terhadap kontrak pintar.
Sebagai salah satu acara blockchain paling berpengaruh di Eropa, Istanbul Blockchain Week telah menarik lebih dari 15.000 pengembang, pemangku kepentingan, investor, dan regulator dari seluruh dunia. Dengan dimulainya penerbitan lisensi proyek blockchain oleh Komisi Pasar Modal Turki, posisi industri acara ini semakin ditingkatkan.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
12 Suka
Hadiah
12
2
Bagikan
Komentar
0/400
LootboxPhobia
· 7jam yang lalu
Web3 sekali lagi membuat gebrakan baru, bikin pusing.
Lihat AsliBalas0
HalfBuddhaMoney
· 7jam yang lalu
Tidak bisa mengoperasikan AI ini, siapa yang diperdagangkan?
DeFAI kemanan risiko menarik perhatian, para ahli menyerukan lebih lama untuk membangun garis pertahanan bersama.
Integrasi AI dan Web3 Menimbulkan Tantangan Keamanan Baru, DeFAI Menjadi Fokus
Baru-baru ini, Pekan Blockchain Istanbul berfokus pada tren penggabungan AI dan Web3, menjadi platform penting untuk diskusi keamanan Web3 tahun ini. Selama acara, banyak ahli industri melakukan diskusi mendalam tentang status aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) serta tantangan keamanannya.
Dengan pesatnya perkembangan model bahasa besar dan agen AI, sebuah model keuangan baru yang disebut "DeFAI" (Keuangan Kecerdasan Buatan Terdesentralisasi) sedang secara bertahap terbentuk. Namun, inovasi ini juga membawa risiko keamanan dan serangan yang belum pernah terjadi sebelumnya.
Seorang eksekutif perusahaan keamanan menunjukkan bahwa meskipun DeFAI memiliki prospek yang cerah, hal itu juga memaksa industri untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar tradisional, proses pengambilan keputusan agen AI dipengaruhi oleh berbagai faktor, yang membuatnya sangat tidak terduga, ini tidak hanya meningkatkan risiko, tetapi juga menciptakan peluang bagi penyerang potensial.
AI agen pada dasarnya adalah entitas cerdas yang dapat membuat keputusan dan mengeksekusi secara mandiri berdasarkan logika AI, di mana robot perdagangan AI adalah perwakilan paling khas. Saat ini, sebagian besar agen AI masih berjalan di atas arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap berbagai ancaman serangan siber. Begitu agen AI dibajak, tidak hanya dapat menyebabkan kerugian dana secara langsung, tetapi juga dapat mempengaruhi stabilitas keseluruhan protokol.
Para ahli juga membahas sebuah skenario serangan tipikal: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi memantau informasi media sosial sebagai sinyal perdagangan, penyerang dapat mengelabui agen untuk melakukan tindakan yang tidak semestinya dengan memposting peringatan palsu, sehingga menyebabkan kerugian aset pengguna dan memicu volatilitas pasar.
Menyangkut risiko ini, para ahli yang hadir sepakat bahwa keamanan agen AI harus menjadi tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga. Pengguna perlu memberikan otorisasi dengan hati-hati dan memeriksa operasi berisiko tinggi dari agen AI; pengembang harus menerapkan langkah-langkah pertahanan berlapis sejak tahap desain; sementara perusahaan keamanan pihak ketiga harus menyediakan layanan audit keamanan yang komprehensif untuk agen AI.
Seorang ahli keamanan memperingatkan bahwa jika AI agen terus diperlakukan sebagai "kotak hitam", insiden keamanan di dunia nyata hanyalah masalah waktu. Dia menyarankan para pengembang yang sedang menjelajahi arah DeFAI, harus melakukan audit keamanan dan pengujian penetrasi secara profesional terhadap logika perilaku AI agen, sama seperti yang dilakukan terhadap kontrak pintar.
Sebagai salah satu acara blockchain paling berpengaruh di Eropa, Istanbul Blockchain Week telah menarik lebih dari 15.000 pengembang, pemangku kepentingan, investor, dan regulator dari seluruh dunia. Dengan dimulainya penerbitan lisensi proyek blockchain oleh Komisi Pasar Modal Turki, posisi industri acara ini semakin ditingkatkan.