Büyük Modellerin Finans Sektöründeki Uygulamaları: Stratejik Bir Bakış Açısıyla Düşünmek

ChatGPT'nin ortaya çıkmasından bu yana, finans sektörü hemen güçlü bir kaygı hissetmeye başladı. Teknolojiye güven duyan bu sektör, çağın dalgalarının gerisinde kalmaktan korkuyor. Bu gergin ortam, hatta bazı beklenmedik yerlere kadar yayıldı. Bir sektörden biri, bu yıl Mayıs ayında Dali'de iş seyahatinde bulunduğunda, bir tapınakta büyük modeller hakkında birinin tartıştığını duyduğunu açıkladı.

Ancak, bu tür bir kaygı giderek rasyonelliğe dönüyor ve insanların düşünceleri daha net hale geliyor. Bir şirketin bankacılık işlerinden sorumlu CTO'su, bu yıl finans sektörünün büyük modellerle ilgili tutumunu birkaç aşamada tanımladı: Şubat ve Mart aylarında genel bir kaygı; Nisan ve Mayıs aylarında ekipler kurup harekete geçme; ardından gelen aylarda yön arayışında ve uygulamaya geçişte zorluklar yaşanmasıyla tutumun rasyonel hale gelmesi; şimdi ise ölçüt işletmeleri gözlemleyip doğrulanan uygulama senaryolarını denemek.

Yeni bir trend, birçok finans kuruluşunun büyük modelleri stratejik bir şekilde önemsemeye başlamasıdır. Tam olmayan verilere göre, A hisseleri piyasasında en az 11 banka, en son altı aylık raporlarında büyük modellerin uygulanmasını keşfetmeye başladıklarını açıkça belirtmiştir. Son dönemdeki hareketlere bakıldığında, stratejik ve üst düzey tasarım aşamasında daha net düşünme ve yol haritası planlaması yapıyorlar.

Coşku Dolu Bir Başlangıçtan Akılcı Bir Dönüşe

"Birkaç ay öncesine göre, şu anda finans müşterilerinin büyük model anlayışında belirgin bir artış var." diyor bir kıdemli kişi, "Yılın başında ChatGPT yeni çıktığında herkes oldukça hevesliydi, fakat büyük modelin ne olduğu ve nasıl kullanılacağı konusunda aslında çok sınırlı bir anlayışa sahiplerdi.

Bu aşamada, bir yandan bazı büyük bankalar öncülük ediyor ve çeşitli "popülerlik kazanma" tanıtımları yapmaya başlıyor. Diğer yandan, birçok üretici büyük modelleri peş peşe tanıtmaya başladıkça, bazı büyük finansal kuruluşların teknoloji departmanları büyük model inşası konusunu büyük firmalarla aktif olarak tartışmaya başlıyor. Genel olarak kendi büyük modellerini inşa etmek istiyorlar ve veri küplerinin nasıl hazırlanacağı, ne kadar sunucuya ihtiyaç duyulacağı, nasıl eğitim yapılacağı gibi konuları soruyorlar.

Mayıs ayından sonra durum yavaş yavaş değişmeye başladı. Hesaplama gücü kaynaklarının kıtlığı ve yüksek maliyet gibi faktörlerden dolayı, birçok finans kurumu yalnızca kendi modellerini inşa etme umudundan, uygulamanın değerine daha fazla odaklanmaya geçti. "Artık her finans kurumu, diğerlerinin büyük modellerle neler yaptığını ve nasıl sonuçlar elde ettiğini takip ediyor."

Farklı ölçeklerdeki işletmelere gelince, iki yol ayrımı yapılmıştır. Büyük finansal verilere ve uygulama senaryolarına sahip büyük finansal kurumlar, öncü temel büyük modelleri benimseyebilir, kendi kurumsal büyük modellerini oluşturabilir ve aynı zamanda ince ayar yöntemi kullanarak, uzmanlık alanlarına yönelik görev büyük modelleri geliştirebilir, böylece işlerini hızlı bir şekilde güçlendirebilirler. Küçük ve orta ölçekli finansal kurumlar ise yatırım getirilerini dikkate alarak, ihtiyaçlarına göre çeşitli büyük modellerin bulut API'lerini veya özel dağıtım hizmetlerini kullanarak doğrudan iş gereksinimlerini karşılayabilirler.

Ancak, finans sektörünün veri uyumluluğu, güvenliği ve güvenilirliği gibi konularda yüksek talepleri nedeniyle, bazı kişiler bu sektörün büyük model uygulamalarındaki ilerlemenin, yılın başındaki beklentilerden biraz geri kaldığını düşünüyor. Uzmanlar, başlangıçta finans sektörünün büyük modelleri ilk aşamada geniş çapta kullanabileceğini öngörmüşlerdi, ancak nihayetinde müşteri entegrasyonuna bakıldığında, finans sektörünün hukuki ve insan kaynakları gibi sektörlerden daha hızlı uygulamadığı görülüyor.

Bazı finansal kurumlar, büyük modellerin uygulanması sürecindeki çeşitli kısıtlamaları çözmek için yollar aramaya başladı.

Örneğin, hesaplama gücü açısından, sektör uzmanları finans sektöründe şu anda birkaç çözüm yaklaşımının ortaya çıktığını gözlemliyor:

Birincisi, doğrudan kendi hesaplama gücünü inşa etmek, maliyet açısından oldukça yüksektir, ancak güvenlik seviyesi yeterince yüksektir. Güçlü bir yapıya sahip olan ve kendi sektörlerini veya büyük modellerini inşa etmek isteyen finansal kurumlar için uygundur, tipik olarak bazı büyük devlet bankaları gibi.

İkincisi, hesaplama gücünün karışık dağıtımıdır; bu, hassas verilerin alan dışına çıkmadığı durumlarda, kamu bulutundan büyük model hizmeti arayüzlerini çağırmayı kabul ederken, aynı zamanda yerel veri hizmetlerini özel dağıtım yöntemiyle işleme almaktır. Bu yöntem, maliyet açısından görece daha düşüktür; sadece birkaç yüz bin yuan yatırarak birkaç kart almak yeterlidir ve finansal durumu görece zayıf, yalnızca ihtiyaç duydukları ölçüde uygulama yapan küçük ve orta ölçekli finansal kuruluşlar için uygundur.

Ancak yine de, birçok küçük ve orta ölçekli kurum, büyük modeller için gerekli GPU kartlarını satın alma veya bunlara erişim sağlama sorunuyla karşı karşıya kalıyor. Bu sorunla ilgili olarak, yetkili merciler bazı araştırmalar yürütüyor ve borsa sektörüne yönelik bir büyük model altyapısının oluşturulup oluşturulamayacağını, hesaplama gücünü, genel büyük model gibi kaynakları bir araya getirecek bir uzlaşma yolu aranıyor. Böylece sektördeki küçük ve orta ölçekli finans kurumlarının büyük model hizmetlerinden faydalanmasının yolu açılacak ve "teknolojik geri kalma" durumu önlenecek.

Sadece hesaplama gücü ile değil, son altı ayda büyük modellerin uygulanmasına yönelik keşiflerle birlikte birçok finans kurumu verilerin yönetimine de giderek daha fazla önem vermeye başladı.

Bir şirketin üst düzey yöneticisi, şu anda veri yönetimi alanında olgun uygulamalara sahip büyük bankaların yanı sıra, giderek daha fazla orta ölçekli finansal kurumun da veri merkezleri ve veri yönetimi sistemleri oluşturmaya başladığını, bu yılın ilk yarısında bazı bölgesel bankalar gibi olduğunu belirtti. O, eksiksiz bir veri yönetim sistemi ve veri gölü teknoloji platformu oluşturmanın, gelecekte finansal kurumların BT inşasında çok önemli bir ana tema olacağını düşünüyor.

Ayrıca bazı bankalar büyük model + MLOps yöntemiyle veri sorunlarını çözmektedir. Örneğin, bir büyük banka, MLOps modelini kullanarak büyük model veri kapama sistemini kurmuş, tüm sürecin otomasyonunu sağlamış ve çok kaynaklı heterojen verilerin birleşik yönetimi ve verimli işlenmesini gerçekleştirmiştir. Edinilen bilgilere göre, şu anda 2.6TB yüksek kaliteli eğitim veri seti oluşturulmuş ve biriktirilmiştir.

Dış çevre senaryosuna giriş

Geçtiğimiz altı aydan fazla bir süre boyunca, hem büyük model hizmet sağlayıcıları hem de çeşitli finansal kurumlar, herkes aktif bir şekilde uygulama senaryoları arıyor. Akıllı ofis, akıllı geliştirme, akıllı pazarlama, akıllı müşteri hizmetleri, akıllı yatırım araştırması, akıllı risk kontrolü, talep analizi gibi birçok alan tek tek keşfediliyor.

Bir şirketin üst düzey yöneticisinin söylediği gibi, "Finansal iş zincirindeki her bir ana işlev, büyük model teknolojisi ile yeniden yapılmayı hak ediyor." Bazı şirketler finansal büyük modelleri piyasaya sürdü ve finans endüstrisine yönelik büyük model ürünlerini ortak kuruluşlarla birlikte test etmektedir. Hedef, varlık yönetimi danışmanları, sigorta aracılık, yatırım araştırması, finansal pazarlama, sigorta tazminatı gibi finansal uzmanlar için tam kapsamlı bir AI iş asistanı oluşturmaktır.

Her finans kurumu, büyük modeller hakkında zengin hayaller ve tasarımlara sahiptir. Bazı şirketler, içlerinde 20'den fazla senaryo uygulamaya koyduklarını belirtirken, bazıları 30'dan fazla senaryoda pilot uygulama gerçekleştirdiklerini söylüyor, diğerleri ise büyük modeller ile daha önce piyasaya sürülen sanal dijital insan platformunu entegre etmeyi keşfetme aşamasında olduklarını ifade ediyor...

Ancak büyük modelleri gerçekten sektörde uygulamak gerektiğinde, herkesin bir görüş birliği var: önce iç, sonra dış. Sonuçta, mevcut aşamada büyük model teknolojisi olgun değil, örneğin yanılsama sorunu, oysa finans sektörü güçlü bir düzenleme, yüksek güvenlik ve yüksek güvenilirlik gerektiren bir sektördür.

"Kısa vadede doğrudan müşterilere kullanılmasını önermiyoruz." Bir bankanın üst düzey yöneticisi, finansal kurumların büyük modelleri öncelikle finansal metinler ve finansal görsellerin analiz edilmesi ve anlaşılması için zeka yoğun sahalarda, asistan biçiminde, insan-makine iş birliği ile iş gücünün verimliliğini artırmaları gerektiğini düşünüyor.

Bir diğer uzman da, birçok finans müşterisinin kod asistanı ve müşteri hizmetleri asistanının başlangıçta bazı sonuçlar elde edebileceği senaryolar olduğunu düşündüğünü belirtti. Ancak, yatırım araştırması, danışmanlık gibi senaryolar büyük bir değere sahip, ancak hızlı bir şekilde sonuç almak zor ve veri talepleri de yüksek.

Şu anda, kod asistanı birçok finans kurumunda uygulanmaya başladı. Örneğin, büyük bir banka büyük model tabanlı akıllı geliştirme sistemi kurdu ve kod asistanının ürettiği kod miktarı toplam kod miktarının %40'ını oluşturdu. Yine sigorta alanında, bir şirket büyük model tabanlı programlama yardımcı eklentisi geliştirdi ve bu doğrudan iç geliştirme araçlarına entegre edildi.

Buna dayanarak, bazı üreticiler büyük model kodu oluşturma yetenekleri etrafında finansal müşterilere kutudan çıkar çıkmaz kullanılabilecek ürünler sunmaktadır. Bir şirket tarafından geliştirilen bir ürün, büyük modelin kod tamamlama yeteneğine, görev ayrıştırma, kesin yanıtlar, bağlam sınırlamalarını aşma gibi bir dizi işlev ekleyerek kullanıcıların kutudan çıkar çıkmaz kullanabilmelerini sağlamaktadır. Şu anda, bu ürün bir bankada 3000'den fazla kişi tarafından kullanılmakta ve kod otomatik tamamlama oranı %50-%90 arasındadır.

Akıllı ofis alanında, birçok uygulama örneği de bulunmaktadır. Bir şirket yetkilisi, finansal büyük model üzerine geliştirdikleri şube soru-cevap sisteminin Temmuz ayında bir bankada hayata geçtikten sonra, yüzlerce şubede yaygınlaştırıldığını ve cevap kabul oranının %85'i aştığını belirtti. Şu anda, belgelerle ilgili soru-cevap sisteminin standart çözüm olarak hızla diğer bankalara ve borsalara kopyalandığı görülmektedir.

Ancak, sektör uzmanları, bu zaten yaygın bir şekilde uygulamaya konmuş senaryoların aslında finansal kurumların çekirdek uygulamaları olmadığını, büyük modellerin finans sektörünün iş katmanına derinlemesine girmesi için hala belirli bir mesafe olduğunu değerlendiriyor.

"Kendimiz değerlendiriyoruz, iş uygulama senaryoları açısından zorluk oldukça fazla." Bir uzmana göre, pazarlama, risk kontrolü, uyum gibi senaryolar, büyük modellerin devrim yaratabileceği alanlar ve aynı zamanda finansal müşterilerin ihtiyaç duyduğu noktalardır. Ancak mevcut durum itibarıyla, bu çalışmalar, temel büyük model sağlayıcılarının yeteneklerinin geliştirilmesine bağlı kalacaktır ve ardından iş senaryoları hayata geçirilecektir.

Diğer bir uzman ise, bu yılın sonuna kadar finansal kuruluşların temel iş sahalarında büyük modellerin kullanıldığı bir dizi proje inşaatı veya ihale bilgisi ortaya çıkacağını öngörüyor.

Ve bu arada, bazı üst düzey tasarım değişiklikleri gerçekleştiriliyor.

Bir uzman şu değerlendirmeyi yaptı: Gelecekteki tüm akıllı ve dijital sistemler, büyük modellerin temeli üzerine yeniden inşa edilecektir. Bu, finans sektörünün büyük modellerin uygulanmasını sağlarken sistemlerini yeniden yapılandırmasını gerektirir. Aynı zamanda, geleneksel küçük modellerin değerini de göz ardı etmemek ve büyük ile küçük modellerin birlikte çalışmasını sağlamak gerekir.

Bu trend finans sektöründe geniş bir şekilde yansımaktadır. "Şu anda finansal kurumlar büyük modelleri denemekte, temelde katmanlı bir model benimsemektedirler." Uzmanlar, geçmişte bir senaryonun bir platform inşa etmesini gerektiren silolama modelinden farklı olarak, büyük modellerin finansal kurumlara sıfırdan başlayarak daha bilimsel bir şekilde genel sistem planlaması yapma fırsatı sunduğunu belirtiyor.

Görülebilir ki, şu anda birçok önde gelen finans kurumu, büyük model temelinde altyapı katmanı, model katmanı, büyük model hizmet katmanı, uygulama katmanı gibi birçok katmandan oluşan katmanlı bir sistem çerçevesi oluşturmuştur, örneğin bazı bankalar, menkul kıymet şirketleri, sigorta şirketleri vb.

Bu çerçeve sistemlerinin genel olarak iki belirgin özelliği vardır: birincisi, büyük modeller merkezi yetenekleri ortaya koyar ve geleneksel modelleri beceri olarak kullanır; ikincisi, büyük model katmanları çoklu model stratejisi benimser, iç yarışmalar yapar ve en iyi sonucu seçer.

Aslında sadece finansal kurumlar değil, mevcut belirsiz durumda bazı büyük model uygulama sağlayıcıları da çoklu model stratejileri benimsemekte ve hizmet etkiğini optimize etmektedir. Bazı uzmanlar, kendi şirketlerinin altyapı model katmanının da birçok büyük dil modelini birleştirdiğini, her büyük modelin verdiği yanıtlara göre en iyi yanıtı bir araya getirip kullanıcılara sunduklarını açıkladı.

Yetenek açığı hala büyük

Büyük modellerin uygulamaları, finans sektöründeki insan yapısını bazı zorluklar ve değişiklikler getirmeye başladı.

Daha önce, Şanghay'daki bir finansal teknoloji şirketinden bir kişi, ChatGPT'nin ortaya çıkmasıyla, bu yılın başından Mayıs sonuna kadar çalıştığı şirketin 300'den fazla büyük veri analistini işten çıkardığını açıkladı. Birkaç yıl önce, bu hala çok rağbet gören bir meslekti. Bu durum, onun kaygı duymasına neden oldu ve hatta kızının gelecekteki meslek seçimi sorununu erken düşünmeye başladı.

Büyük bir bankadan finans alanında kıdemli bir uzman, büyük modellerin insanları nasıl ikame edebileceğine dair görüşlerini paylaştı. Bu banka, her sabah stajyerlerin çeşitli bilgileri derleyip yatırım araştırma departmanındaki kişilere sunduğu bir süreç yürütüyordu, ancak artık bu stajyerlerin yaptığı işler büyük modeller aracılığıyla gerçekleştirilebiliyor.

Ancak bazı bankalar aslında büyük modellerin iş gücü azaltmasını istemiyor. Örneğin, çok sayıda şubeye sahip büyük bir bankanın, çalışanlarının büyük modellerle değiştirilmesini istemediği açıkça ifade edilmiştir; bunun yerine büyük modellerin yeni fırsatlar sunması, çalışanların hizmet kalitesini ve iş verimliliğini artırması, aynı zamanda bazı çalışanları serbest bırakıp daha yüksek değerli işler yapmalarına olanak tanıması gerektiği belirtilmiştir.

Bu durumda, personel ve yapı istikrarı gibi faktörler de göz önünde bulundurulmaktadır. Ancak diğer yandan, sektörde birçok pozisyonda hala personel açığı bulunmaktadır.

Uzmanlar, büyük bankaların yapacak çok işi olduğunu, bazı BT taleplerinin süresinin hatta gelecek yılın sonuna kadar uzandığını belirtiyor. Onlar, büyük modellerin çalışanların daha fazla iş yapmalarına, verimlilik ve hızlarını artırmalarına yardımcı olmasını, personel azaltımını değil.

Daha da önemlisi, büyük modellerin yükselişi ani ve şiddetli oldu, kısa bir süre içinde, kıt olan yetenek arzı artan talebi karşılamakta zorlanıyor. Bu, akıllı telefonların ilk çıktığı zamanlar gibiydi; herkes uygulama yapmak istiyordu, her yerde programcı arıyordu, hem pahalı hem de zor.

Son zamanlarda düzenlenen bir finans teknolojisi konferansında, bir banka yöneticisi, finans sektörünün şu anda büyük model yeteneklerini temel iş süreçlerine entegre etme konusunda karşılaştığı 6 büyük zorluğu özetledi. Bunlardan biri de yetenek. Yöneticisi, son zamanlarda birkaç yeni çalışan aldıklarını ve aynı zamanda kampüs işe alımı yaptıklarını, AI ile ilgili alanlarda eğitim alıp almadıklarını sorduklarını, bu oranının oldukça yüksek olduğunu belirtti, ancak sonra büyük model...