Büyük Model Uygulamaları ile Finans Sektörünün Dönüşüm Araştırması

ChatGPT'nin piyasaya sürülmesinden bu yana, finans sektörü hemen güçlü bir kaygı hissetti. Bu teknolojiye inanç dolu sektör, hızla gelişen çağın dalgalarında geri kalmaktan korkuyor. Bu kaygı duygusu, sakin tapınaklara bile yayıldı. Bir sektör uzmanı, Mayıs ayında Dali'de iş gezisi yaparken tapınakta büyük modeller hakkında tartışan finans profesyonelleri ile karşılaştığını açıkladı.

Ancak, bu kaygı giderek mantıklı bir hale geliyor ve düşünceler daha netleşiyor. Softcom Bankacılık İşleri CTO'su, finans sektörünün büyük modellerle ilgili tutumunun birkaç aşamasını tanımladı: Şubat-Mart, genel kaygı; Nisan-Mayıs, ekipler kurulmaya başlandı; sonraki birkaç ayda, uygulama sürecinde zorluklarla karşılaşıldı ve mantıklı hale gelindi; şimdi, referans noktalarına odaklanmaya başlandı ve doğrulanmış senaryoları denemeye çalışılıyor.

Yeni bir trend, birçok finans kuruluşunun stratejik düzeyde büyük modelleri önemsemeye başlamasıdır. Tam olmayan verilere göre, A-shares'de yer alan en az 11 banka, en son altı aylık raporlarında büyük model uygulamalarını keşfetmeye devam ettiklerini açıkça belirtmiştir. Son dönemdeki hareketlere bakıldığında, stratejik düzeyde ve üst düzey tasarım aşamasında daha net düşünme ve yol haritası planlama sürecine girdikleri görülmektedir.

Coşku Yükselişinden Mantıklı Dönüşe

Yılın başında ChatGPT'nin ortaya çıkmasıyla birlikte, finansal müşterilerin büyük model anlayışı oldukça sınırlıydı, heyecan yüksekti ama nasıl kullanılacağı konusunda belirsizlik vardı. Bazı büyük bankalar öncülük ederek çeşitli "trendden yararlanma" tanıtımları yapmaya başladı. Aynı zamanda, bazı önde gelen finansal kuruluşların teknoloji departmanları, büyük firmalarla büyük model inşası konusunu aktif bir şekilde tartışıyordu. Genel olarak, kendilerine büyük model inşa etmeyi umuyorlar ve veri seti oluşturma, sunucu satın alma, eğitim yöntemleri gibi konularda sorular soruyorlar.

Mayıs ayından sonra durum yavaş yavaş değişti. Hesaplama gücü kaynaklarının kıtlığı, yüksek maliyetler gibi faktörlerin etkisiyle birçok finansal kurum, yalnızca kendi inşasını ummaktan daha çok uygulama değerine odaklanmaya başladı. Şu anda her finansal kurum, diğer kurumların büyük modeller kullanma durumuna ve sonuçlarına dikkat ediyor.

Özellikle büyük finansal kuruluşlar, sektördeki lider temel büyük modelleri benimseyebilir, kendi kurumsal büyük modellerini oluşturabilir ve aynı zamanda özel alan görev büyük modelleri oluşturmak için ince ayar yöntemlerini kullanarak işlerini hızlı bir şekilde güçlendirebilirler. Küçük ve orta ölçekli finansal kuruluşlar ise ihtiyaçlarına göre çeşitli büyük modellerin kamu bulut API'lerini veya özel dağıtım hizmetlerini benimseyebilir ve doğrudan güçlendirme ihtiyaçlarını karşılayabilirler.

Finans sektörünün veri uyumluluğu, güvenliği ve güvenilirliği gibi gereksinimlerinin yüksek olması nedeniyle, bazı kişiler bu sektörün büyük model uygulamalarında ilerlemenin, yılın başındaki beklentilerin biraz gerisinde olduğunu düşünüyor. Bazı finansal kuruluşlar, hesaplama gücü gibi alanlarda çözümler aramaya başladılar ve bu konuda birkaç yaklaşım bulunmaktadır:

1. Doğrudan kendi hesaplama gücünü oluşturmak, maliyeti yüksek ancak güvenliği iyi, sektörde veya işletmelerde büyük modeller oluşturmak isteyen büyük finansal kuruluşlar için uygundur.

2. Güç karışık dağıtımı, hassas verilerin alan dışına çıkmadığı durumlarda, kamu bulutundan büyük model hizmeti arayüzünü çağırmayı kabul ederken, aynı zamanda yerel veri hizmetlerini işlemek için özel dağıtım kullanır. Bu yöntem, maliyeti görece düşük olup, talebe göre hizmet veren küçük ve orta ölçekli finansal kuruluşlar için uygundur.

Küçük ve orta ölçekli kurumların GPU kartlarına erişim veya bunları karşılamakta zorluk çekmesi nedeniyle, ilgili departmanlar, menkul kıymetler sektörüne yönelik büyük model altyapısını kurmayı araştırıyor. Bu, hesaplama gücünü ve genel büyük model gibi kaynakları bir araya getirerek, küçük ve orta ölçekli finansal kurumların da büyük model hizmetlerinden yararlanabilmesini sağlamayı amaçlıyor.

Veri yönetimi açısından, giderek daha fazla orta ölçekli finans kurumu veri platformları ve veri yönetim sistemleri oluşturmaya başladı. Bazı bankalar, veri sorunlarını çözmek için büyük modeller + MLOps yaklaşımını kullanarak çoklu kaynaklı heterojen verilerin birleşik yönetimini ve etkili işlenmesini sağlıyor.

Dış çevre senaryosuna giriş

Geçtiğimiz altı ay boyunca, büyük model hizmet sağlayıcıları ve finans kuruluşları akıllı ofis, akıllı geliştirme, akıllı pazarlama, akıllı müşteri hizmetleri, akıllı yatırım araştırması, akıllı risk kontrolü, talep analizi gibi uygun senaryolar arayışındalar.

Her finansal kuruluşun büyük modellerle ilgili zengin fikirleri var. Ancak uygulama aşamasında genellikle önce iç, sonra dış stratejisi izleniyor. Çünkü mevcut büyük model teknolojisi henüz olgunlaşmamışken, finans sektörünün düzenleme, güvenlik ve güvenilirlik talepleri oldukça yüksek.

Şu anda, kod asistanı ve akıllı ofis gibi senaryolar birçok finans kuruluşunda uygulanmaya başladı. Ancak sektördeki uzmanlar, bu yaygın uygulama senaryolarının aslında finans kuruluşlarının temel uygulamaları olmadığını düşünüyor; büyük modellerin finans sektörünün iş katmanına derinlemesine ulaşması için hâlâ belirli bir mesafe var.

Bazı üst düzey tasarım değişiklikleri gerçekleştiriliyor. Gelecekteki akıllı ve dijital sistemler, büyük model temeli üzerine inşa edilecek, bu da finans sektörünün büyük modelin uygulanmasında sistemini yeniden yapılandırmasını gerektiriyor, aynı zamanda büyük modelin geleneksel küçük modellerle birlikte çalışmasını sağlaması gerekiyor.

Şu anda birçok önde gelen finans kurumu, altyapı katmanı, model katmanı, büyük model hizmet katmanı ve uygulama katmanı gibi çok katmanlı bir sistem çerçevesi oluşturmak için büyük modellere dayalı olarak çalışmalar yapmaktadır. Bu çerçevelerin genel olarak iki büyük özelliği vardır: birincisi, büyük model merkezi bir yetenek sergileyerek geleneksel modelleri beceri çağrısı olarak kullanır; ikincisi, büyük model katmanında çoklu model stratejisi benimsenerek iç yarışmalarla en iyi sonuç seçilir.

Yetenek açığı hâlâ büyük

Büyük modellerin uygulamaları, finans sektöründeki insan yapısını bazı zorluklar ve değişimlerle karşı karşıya bırakmaya başladı. Bazı pozisyonlar değiştirilme riskiyle karşı karşıya, ancak bazı bankalar büyük modellerin yeni fırsatlar sunmasını, çalışanların hizmet kalitesini ve iş verimliliğini artırmasını, aynı zamanda bazı çalışanların daha yüksek değerli işler yapmasını sağlamasını umuyor.

Daha da önemlisi, büyük model yeteneklerinin sağlanması, artan talebi karşılamakta zorlanıyor. Finansal kurumlar, büyük model yeteneklerini temel iş süreçlerine entegre ederken yetersiz yetenek bulma zorluğuyla karşı karşıya kalıyor. Büyük modeli doğrudan uygulamak için ihtiyaç duyulan yetenekler nispeten basitken, kendi sektör veya şirket büyük modelinizi oluşturmak istiyorsanız, sağlam bir dikey büyük model teknik ekibine ihtiyacınız var.

Bazı kuruluşlar, şirket personelinin yeteneklerini artırmak için ortak eğitim programları tasarlamak, ortak proje grupları kurmak gibi adımlar atmıştır. Bu süreçte, finansal kurumların personel yapısı da bir değişim ve dönüşüm sürecine girecek ve büyük model geliştiricilerinin daha kolay tutulması sağlanacaktır.