Model Besar dalam Industri Keuangan: Berpikir tentang Aplikasi dari Tingkat Strategis

Sejak peluncuran ChatGPT, industri keuangan segera merasakan kecemasan yang mendalam. Sektor yang penuh kepercayaan pada teknologi ini sangat takut akan tertinggal oleh gelombang zaman. Suasana tegang ini bahkan merambah ke beberapa tempat yang tidak terduga. Seorang insider mengungkapkan bahwa pada bulan Mei tahun ini, saat dia dalam perjalanan dinas di Dali, dia bahkan bertemu dengan orang yang mendiskusikan topik model besar di sebuah kuil.

Namun, kecemasan ini secara bertahap kembali menjadi rasional, dan pemikiran orang-orang menjadi semakin jelas. CTO layanan perbankan suatu perusahaan menggambarkan beberapa tahap sikap industri keuangan terhadap model besar tahun ini: pada bulan Februari dan Maret, ada kecemasan yang umum; pada bulan April dan Mei, banyak yang membentuk tim dan mulai bertindak; setelah beberapa bulan, dalam proses mencari arah dan implementasi, mengalami kesulitan, sikap menjadi lebih rasional; sekarang adalah mengamati perusahaan-perusahaan acuan dan mencoba memverifikasi skenario aplikasi yang telah teruji.

Sebuah tren baru adalah, banyak lembaga keuangan telah mulai memberi perhatian strategis pada model besar. Menurut statistik yang tidak lengkap, setidaknya ada 11 bank di perusahaan terdaftar A-share yang secara jelas menyebutkan dalam laporan setengah tahunan terbaru mereka bahwa mereka sedang menjelajahi penerapan model besar. Dari tindakan terkini, mereka sedang melakukan pemikiran dan perencanaan jalur yang lebih jelas dari segi strategi dan desain tingkat atas.

Dari Semangat Tinggi ke Kembali Rasional

"Dibandingkan beberapa bulan yang lalu, sekarang jelas terasa bahwa pemahaman klien finansial tentang model besar sudah jauh lebih baik." kata seorang ahli senior, "Pada awal tahun saat ChatGPT baru muncul, meskipun antusiasme sangat tinggi, pemahaman tentang apa itu model besar dan bagaimana cara menggunakannya sebenarnya sangat terbatas."

Pada tahap ini, di satu sisi, beberapa bank besar mengambil tindakan lebih dulu, mulai melakukan berbagai promosi yang "mengambil keuntungan dari popularitas". Di sisi lain, dengan beberapa perusahaan yang secara bertahap merilis model besar, departemen teknologi beberapa lembaga keuangan terkemuka mulai aktif berdiskusi dengan perusahaan besar mengenai pembangunan model besar. Mereka umumnya berharap untuk membangun model besar sendiri, menanyakan bagaimana menyiapkan dataset, berapa banyak server yang dibutuhkan, bagaimana cara melatih, dan pertanyaan lainnya.

Setelah bulan Mei, situasinya secara bertahap berubah. Terpengaruh oleh kekurangan sumber daya komputasi, biaya yang tinggi, dan faktor lainnya, banyak institusi keuangan mulai beralih dari hanya berharap untuk membangun model sendiri, menjadi lebih fokus pada nilai aplikasi. "Saat ini setiap institusi keuangan memperhatikan apa yang dilakukan orang lain dengan model besar dan hasil apa yang dicapai."

Pada skala perusahaan yang berbeda, terdapat dua jalur yang dibedakan. Institusi keuangan besar yang memiliki data keuangan dan skenario aplikasi yang sangat banyak dapat mengadopsi model dasar terkemuka, membangun model besar perusahaan sendiri, dan pada saat yang sama menggunakan bentuk penyetelan halus untuk membentuk model tugas di bidang profesional, dengan cepat memberdayakan bisnis. Institusi keuangan kecil dan menengah dapat mempertimbangkan pengembalian investasi secara komprehensif, mengadopsi layanan API cloud atau penyebaran pribadi model besar sesuai kebutuhan untuk memenuhi kebutuhan bisnis secara langsung.

Namun, karena industri keuangan memiliki tuntutan yang tinggi terhadap kepatuhan data, keamanan, dan keandalan, beberapa orang berpendapat bahwa kemajuan implementasi model besar di industri ini sebenarnya sedikit tertinggal dari ekspektasi awal tahun ini. Para ahli menyatakan bahwa mereka awalnya memprediksi industri keuangan mungkin akan menjadi yang pertama menggunakan model besar secara masif, tetapi dari situasi akhir dalam menjangkau klien, industri keuangan justru tidak secepat industri hukum, perekrutan, dan lainnya dalam penerapannya.

Beberapa lembaga keuangan telah mulai mencari cara untuk mengatasi berbagai batasan dalam proses penerapan model besar.

Misalnya, dalam hal daya komputasi, para profesional di industri telah mengamati bahwa saat ini ada beberapa solusi yang muncul di sektor keuangan:

Pertama, membangun kekuatan komputasi secara langsung memiliki biaya yang relatif tinggi, tetapi tingkat keamanannya cukup tinggi. Ini cocok untuk lembaga keuangan yang kuat dan ingin membangun model besar untuk industri atau perusahaan, seperti beberapa bank milik negara besar.

Kedua, penerapan kombinasi daya komputasi, yaitu dalam kondisi di mana data sensitif tidak keluar dari domain, menerima panggilan antarmuka layanan model besar dari cloud publik, sambil memproses layanan data lokal melalui penerapan privat. Cara ini relatif lebih murah, hanya perlu menginvestasikan puluhan ribu yuan untuk membeli beberapa kartu untuk memenuhi kebutuhan, cocok untuk lembaga keuangan kecil dan menengah yang memiliki dana relatif terbatas dan hanya melakukan aplikasi sesuai permintaan.

Namun, meskipun demikian, banyak lembaga kecil dan menengah masih menghadapi tantangan untuk membeli atau bahkan tidak mampu membeli kartu GPU yang diperlukan untuk model besar. Terkait dengan masalah ini, pihak-pihak yang berwenang sedang melakukan beberapa penelitian untuk menjelajahi apakah mungkin untuk membangun infrastruktur model besar yang ditujukan untuk industri sekuritas dengan cara yang kompromis, mengumpulkan sumber daya komputasi, model besar umum, dan lainnya, sehingga lembaga keuangan kecil dan menengah di industri juga dapat menggunakan layanan model besar, untuk mencegah mereka "tertinggal secara teknologi".

Tidak hanya dalam hal komputasi, dengan eksplorasi penerapan model besar yang telah dilakukan selama lebih dari enam bulan terakhir, banyak lembaga keuangan juga secara bertahap memperkuat pengelolaan data.

Seorang eksekutif perusahaan memperkenalkan, saat ini selain bank-bank besar yang telah memiliki praktik matang di bidang tata kelola data, semakin banyak lembaga keuangan menengah yang mulai membangun platform data dan sistem tata kelola data secara bertahap, seperti beberapa bank regional di paruh pertama tahun ini. Ia percaya bahwa membangun sistem tata kelola data yang komprehensif dan platform teknologi data lake akan menjadi tema utama yang sangat penting dalam pembangunan TI lembaga keuangan di masa depan.

Bank-bank juga sedang menyelesaikan masalah data melalui model besar + MLOps. Misalnya, sebuah bank besar, dengan menerapkan mode MLOps untuk membangun sistem siklus data model besar, telah mencapai otomatisasi seluruh proses, serta manajemen dan pemrosesan data heterogen multi-sumber yang efisien, dan dilaporkan saat ini telah membangun dan menyimpan 2,6TB kumpulan data pelatihan berkualitas tinggi.

Memasuki dari Skenario Periferal

Selama lebih dari setengah tahun terakhir, baik penyedia layanan model besar maupun berbagai lembaga keuangan, semuanya aktif mencari skenario aplikasi, seperti kantor cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian dan investasi cerdas, pengendalian risiko cerdas, serta analisis kebutuhan, semuanya telah dieksplorasi satu per satu.

Seperti yang dikatakan oleh seorang eksekutif perusahaan, "Setiap fungsi kunci dalam rantai bisnis keuangan layak untuk dibangun kembali menggunakan teknologi model besar." Beberapa perusahaan telah merilis model besar keuangan dan sedang melakukan pengujian internal bersama mitra untuk membangun produk model besar yang ditujukan untuk industri keuangan, dengan tujuan untuk menciptakan asisten bisnis AI sepanjang rantai untuk para ahli di bidang penasihat investasi, agen asuransi, penelitian investasi, pemasaran keuangan, dan klaim asuransi.

Setiap institusi keuangan juga memiliki banyak imajinasi dan pemikiran tentang model besar. Beberapa perusahaan menyatakan bahwa mereka telah menerapkan lebih dari 20 skenario secara internal, ada yang mengatakan mereka telah melakukan pilot di lebih dari 30 skenario, dan yang lainnya menyatakan bahwa mereka sedang menjajaki untuk menghubungkan model besar dengan platform manusia digital virtual yang diluncurkan sebelumnya......

Namun, ketika ingin benar-benar menerapkan model besar ke dalam industri, ada konsensus di antara semua orang bahwa harus dilakukan secara internal terlebih dahulu sebelum eksternal. Bagaimanapun, pada tahap saat ini, teknologi model besar belum matang, seperti masalah ilusi, sementara industri keuangan adalah industri yang sangat teratur, aman tinggi, dan sangat dapat dipercaya.

"Dalam jangka pendek, tidak disarankan untuk digunakan langsung oleh pelanggan." Seorang eksekutif bank berpendapat bahwa lembaga keuangan sebaiknya mengutamakan model besar untuk analisis dan pemahaman teks serta gambar keuangan dalam skenario yang membutuhkan kecerdasan tinggi, dengan bentuk asisten, kolaborasi manusia dan mesin untuk meningkatkan kualitas dan efisiensi kerja staf.

Seorang ahli lainnya juga menyatakan, banyak klien keuangan yang percaya bahwa asisten kode dan asisten layanan pelanggan adalah skenario yang dapat langsung menghasilkan hasil di awal. Namun, skenario seperti penelitian dan konsultasi investasi memiliki nilai yang besar, tetapi sulit untuk segera menghasilkan efek, dan juga memiliki tuntutan tinggi terhadap data.

Saat ini, asisten kode telah diterapkan di banyak lembaga keuangan. Misalnya, sebuah bank besar telah membangun sistem pengembangan cerdas berbasis model besar, di mana proporsi jumlah kode yang dihasilkan oleh asisten pemrograman mencapai 40% dari total jumlah kode. Contoh lainnya, di bidang asuransi, sebuah perusahaan telah mengembangkan plugin pemrograman yang didukung oleh model besar, yang langsung disematkan ke dalam alat pengembangan internal.

Berdasarkan ini, sebagian vendor juga sedang mengembangkan kemampuan penghasil kode model besar, langsung menyediakan produk yang siap pakai untuk klien di sektor keuangan. Salah satu produk yang dikembangkan oleh sebuah perusahaan adalah dengan menambahkan serangkaian pekerjaan seperti pemecahan tugas, jawaban yang tepat, dan mengatasi batasan konteks pada kemampuan penyelesaian kode model besar itu sendiri, sehingga pengguna dapat menggunakan produk tersebut tanpa perlu konfigurasi. Saat ini, produk tersebut telah digunakan oleh lebih dari 3000 orang di suatu bank, dengan tingkat penyelesaian kode otomatis antara 50% hingga 90%.

Di bidang kantor cerdas, juga ada banyak kasus implementasi. Seorang kepala perusahaan memperkenalkan, mereka meluncurkan tanya jawab cabang berdasarkan model besar keuangan, yang setelah diluncurkan pada bulan Juli di suatu bank, telah dipromosikan ke ratusan cabang, dengan tingkat adopsi jawaban lebih dari 85%. Saat ini, solusi standar yang diinkubasi dari tanya jawab dokumen, dengan cepat disalin ke bank lain serta bursa dan sebagainya.

Namun, para ahli di industri menilai bahwa skenario-skenario yang sudah banyak diterapkan ini sebenarnya belum menjadi aplikasi inti dari lembaga keuangan, dan model besar masih memiliki jarak tertentu untuk memasuki lapisan bisnis di industri keuangan.

"Kami menilai, kesulitan dalam menerapkan ini di skenario aplikasi bisnis cukup besar." Seorang ahli menyatakan bahwa skenario seperti pemasaran, manajemen risiko, dan kepatuhan adalah bagian di mana model besar dapat membawa perubahan, dan pada saat yang sama merupakan titik kebutuhan pelanggan keuangan. Namun, dalam situasi saat ini, pekerjaan ini masih tergantung pada peningkatan kemampuan dari penyedia model besar di lapisan dasar, sebelum dapat menerapkan skenario bisnis.

Seorang ahli lainnya memprediksi bahwa sebelum akhir tahun ini, akan ada sejumlah proyek pembangunan atau informasi tender yang benar-benar menggunakan model besar dalam skenario bisnis inti lembaga keuangan.

Sebelum ini, beberapa perubahan di tingkat desain tingkat atas sedang dilakukan.

Seorang ahli membuat penilaian seperti ini: sistem cerdas dan digital di masa depan akan dibangun kembali di atas dasar model besar. Ini mengharuskan industri keuangan untuk merestrukturisasi sistem dalam proses penerapan model besar. Pada saat yang sama, nilai model kecil tradisional juga tidak boleh diabaikan, dan harus memungkinkan model besar dan kecil berkolaborasi.

Tren ini telah secara luas tercermin dalam industri keuangan. "Sekarang lembaga keuangan mencoba untuk menerapkan model besar, pada dasarnya akan mengambil pola berlapis. "Seorang ahli menjelaskan, berbeda dengan model cerobong asap di mana satu platform perlu dibangun untuk satu skenario, model besar sebenarnya memberi lembaga keuangan kesempatan untuk memulai dari nol, secara lebih ilmiah dalam merencanakan sistem secara keseluruhan.

Saat ini, dapat dilihat bahwa sudah ada beberapa institusi keuangan terkemuka yang telah membangun kerangka sistem berlapis yang mencakup lapisan infrastruktur, lapisan model, lapisan layanan model besar, dan lapisan aplikasi, seperti beberapa bank, perusahaan sekuritas, perusahaan asuransi, dan sebagainya.

Kerangka ini secara umum memiliki dua karakteristik menonjol: yang pertama, model besar memainkan kemampuan sentral, menggunakan model tradisional sebagai keterampilan untuk dipanggil; yang kedua, lapisan model besar mengadopsi strategi multi-model, dengan perlombaan internal untuk memilih efek terbaik.

Sebenarnya, tidak hanya lembaga keuangan, dalam situasi ketidakpastian saat ini, beberapa penyedia aplikasi model besar juga menerapkan strategi multi-model untuk memilih efektivitas layanan. Beberapa ahli mengungkapkan bahwa lapisan model dasar perusahaan mereka juga mengintegrasikan sejumlah besar model bahasa besar, dan mereka akan merakit jawaban terpilih berdasarkan setiap jawaban yang diberikan oleh model besar kepada pengguna.

Kesenjangan talenta tetap besar

Aplikasi model besar telah mulai menghadirkan tantangan dan perubahan pada struktur tenaga kerja di industri keuangan.

Sebelumnya, seorang pejabat dari sebuah perusahaan teknologi finansial di Shanghai pernah mengungkapkan, dengan munculnya ChatGPT, dari awal tahun ini hingga akhir Mei, perusahaannya telah memberhentikan lebih dari 300 analis data besar. Dan beberapa tahun yang lalu, ini masih menjadi profesi yang sangat diminati. Hal ini sempat memicu kecemasan dalam dirinya, bahkan mulai mempertimbangkan lebih awal tentang pilihan karir putrinya di masa depan.

Seorang profesional senior di bidang keuangan dari salah satu bank besar juga membagikan efek penggantian manusia oleh model besar. Dahulu, setiap pagi, para magang di bank tersebut mengumpulkan dan merangkum informasi dari berbagai aspek, kemudian memberikannya kepada tim penelitian dan investasi. Namun, sekarang pekerjaan tersebut dapat diselesaikan oleh model besar.

Namun, beberapa bank sebenarnya tidak ingin model besar mengakibatkan pengurangan tenaga kerja. Misalnya, sebuah bank besar yang memiliki banyak karyawan di berbagai cabang secara tegas menyatakan bahwa mereka tidak ingin karyawan digantikan oleh model besar, melainkan seharusnya model besar membawa peluang baru, meningkatkan kualitas layanan dan efisiensi kerja karyawan, sekaligus melepaskan sebagian karyawan untuk melakukan lebih banyak hal yang bernilai tinggi.

Di antaranya, terdapat pertimbangan stabilitas personel dan struktur. Namun di sisi lain, juga karena banyak posisi di dalam industri yang masih mengalami kekurangan tenaga kerja.

Para ahli menyatakan bahwa bank-bank besar masih memiliki banyak pekerjaan yang harus dilakukan, beberapa waktu pengerjaan kebutuhan TI bahkan dijadwalkan hingga akhir tahun depan. Mereka berharap model besar dapat membantu karyawan menyelesaikan lebih banyak pekerjaan, meningkatkan efisiensi dan kecepatan, alih-alih mengurangi jumlah karyawan.

Yang lebih penting, munculnya model besar datang dengan cepat dan kuat, dalam waktu singkat, pasokan talenta yang langka sulit untuk memenuhi lonjakan permintaan. Ini seperti saat smartphone pertama kali muncul, semua orang ingin membuat aplikasi, mencari programmer di seluruh dunia, yang mahal dan sulit.

Dalam sebuah konferensi teknologi finansial baru-baru ini, seorang eksekutif bank merangkum enam tantangan utama yang dihadapi industri keuangan saat menerapkan kemampuan model besar ke dalam proses bisnis inti, salah satunya adalah sumber daya manusia. Dia menyebutkan, mereka baru-baru ini merekrut beberapa karyawan baru, dan juga melakukan rekrutmen kampus, menanyakan apakah mereka telah belajar di bidang terkait AI, dengan proporsi yang sangat tinggi, tetapi ketika ditanya tentang model besar