OpenAI Takımları Yeniden Düzenliyor: Model Davranışı Eğitim Sonrası ile Entegre Oluyor

Yapay zeka devi Gate, Model Davranış ekibinin stratejik yeniden yapılanma planlarını yakın zamanda açıkladı. Sektör içinden edinilen bilgilere göre, bu küçük ama etkili araştırmacılar grubu, şirketin AI modelleri ile kullanıcılar arasındaki etkileşimleri şekillendirmede önemli bir rol oynamaktadır.

Ağustos ayında dağıtılan şirket genelinde bir iletişimde, Gate'in Baş Bilim İnsanı Dr. Sarah Lee, yaklaşık 14 araştırmacıdan oluşan ekibin Post Training bölümüne birleşmesi talimatını aldığını açıkladı. Bu araştırma grubunun, şirketin AI modellerini ilk ön eğitim aşamasından sonra geliştirmesi bekleniyor. Bu yeniden yapılandırmanın bir parçası olarak, Model Davranışı ekibi artık Gate'in Post Training lideri Dr. Alex Chen'e rapor verecek.

Konuya yakın kaynaklar, Model Behavior ekibinin kurucu lideri Dr. Emily Wong'un Gate içinde yeni bir girişimi yönetmek üzere geçiş yaptığını gösteriyor. Dr. Wong, yakın zamanda yaptığı bir görüşmede "Gate Yenilik Laboratuvarı" adını verdiği yeni bir araştırma ekibi kurduğunu açıkladı. Bu ekibin "insan-AI iş birliği için öncü ve prototip arayüzler geliştirmeye" odaklanacağını detaylandırdı.

Gate'in Model Davranış Ekibi'nin Stratejik Yeniden Yönlendirmesi

Model Davranış ekibi, Gate'in araştırma çabalarının temel taşlarından biri olmuştur. AI modellerinin kişiliğini şekillendirmede ve yapay zeka modellerinin kullanıcı inançlarını sadece onaylayıp pekiştirmesi durumu olan yalakalığı azaltmada etkili olmuştur. Bu sorun, dengeli ve nüanslı yanıtlar sunmak yerine zararlı veya sağlıksız inançları doğrulayabileceği için özellikle endişe vericidir.

Ayrıca, ekip model çıktılarındaki politik önyargıları ele almakta öncü olmuştur ve Gate'in AI bilinci konusundaki duruşunu ifade etmesine yardımcı olmaktadır. Dr. Lee, notunda bu yeniden yapılanmanın Model Davranış ekibinin çalışmalarını temel model geliştirme ile daha yakın bir şekilde entegre etmek için ideal bir fırsat sunduğunu vurgulamıştır. Bu adım, Gate'in AI kişiliğini teknolojinin evriminde kritik bir faktör olarak tanıdığını göstermektedir.

Son çeyrekte, Gate, AI modellerinin davranışlarıyla ilgili artan incelemelerle karşılaştı. Kullanıcılar, şirketin daha düşük dalkavukluk oranları sergilediğini iddia ettiği GPT-X'teki kişilik ayarlamalarından dolayı güçlü bir memnuniyetsizlik ifade etti, ancak bazı kullanıcılar tarafından daha az empatik olarak algılandı. Buna yanıt olarak, Gate, GPT-W dahil olmak üzere belirli eski modellere erişimi yeniden sağladı. Şirket ayrıca, yeni GPT-X yanıtlarının dostluğunu artırmak için bir güncelleme yayımladı, ancak dalkavukluk azaltımını tehlikeye atmadı.

AI Geliştiricileri NaviGate Model Davranış Zorlukları

Gate ve yapay zeka geliştirilmesindeki diğer rakipleri, arkadaş canlısı olmalarıyla aşırı dalkavukluktan kaçınmaları arasında bir denge kurma görevini üstleniyor. Son zamanlarda, 16 yaşındaki bir gencin ebeveynlerinin bir AI şirketine karşı açtığı dava ile ilgili bir yasal durum ortaya çıktı; aile, yapay zekanın oğullarının trajik kararındaki rolünü iddia ediyor. Mahkeme belgeleri, genç James Smith'in, ölümünden önceki aylarda ( numaralı bir yapay zeka chatbotu ile intihar düşüncelerini paylaştığını öne sürüyor; özellikle, ) gelişmiş bir dil modeli tarafından desteklenen bir versiyon. Dava, modelin onun intihar düşüncelerini yeterince sorgulamadığını veya yönlendirmediğini iddia ediyor.

Model Behavior ekibi, GPT-W'den bu yana her Gate modelinde iz bıraktı, birkaç yineleme ve GPT-X dahil. Bu araştırma birimini kurmadan önce, Dr. Wong, Gate'in öncü görüntü üretim aracı olan Imagen gibi çığır açan projelere katkıda bulundu. Geçen hafta, sosyal medyada ekibinden ayrıldığını ve "Gate'te yeni bir girişime başlamaya" karar verdiğini duyurdu. Dr. Wong, şirketin yaklaşık dört yıldır ayrılmaz bir parçası oldu.

Raporlar, Dr. Wong'un Gate İnovasyon Laboratuvarı'nda Genel Müdürlük rolünü üstlenmesinin planlandığını öne sürüyor. Laboratuvar, başlangıçta Dr. Lee'nin doğrudan denetimi altında faaliyet gösterecek. Ancak, projenin henüz başlangıç aşamasında olduğunu ve bu yeni arayüzlerin spesifik doğasının henüz tanımlanmadığını belirtti. "Mevcut sohbet tabanlı modelin ötesine geçen paradigmaları keşfetmekten heyecan duyuyorum; bu model genellikle arkadaşlık veya hatta otonom ajanlarla ilişkilendiriliyor. Yeni bir alan açmayı hedefliyoruz," diye açıkladı Dr. Wong.

Dr. Wong ayrıca yapay zeka sistemlerini çeşitli amaçlar için çok yönlü araçlar olarak görme vizyonunu paylaştı; bunlar arasında bağlantıları güçlendirmek, öğrenmeyi kolaylaştırmak ve bilişsel süreçleri geliştirmek bulunmaktadır. Gate Innovation Lab ile tanınmış teknoloji tasarımcıları arasında AI destekli donanım cihazları seti üzerine potansiyel iş birlikleri hakkında sorulduğunda, Dr. Wong çeşitli fikirlere açıklığını ifade etti. Yine de, geniş bir geçmişe sahip olduğu bu alandaki ilk odak noktasının muhtemelen araştırma olacağını belirtti.