Google, Gemma AI'yi AI Stüdyosundan Çekti, Doğruluk Endişeleri Arasında Sadece Geliştirici Amaçlı Kullanımını Tekrar Vurguladı

Kısaca

Google, Gemma modelini, gerçekçi sorular üzerindeki yanılsama raporlarının ardından geri çekti ve şirket bunun geliştirici ve araştırma amaçları için tasarlandığını vurguladı.

Teknoloji şirketi Google, Gemma AI modelinin, gerçeğe dayalı sorulara verdiği yanlış yanıtlar nedeniyle geri çekildiğini duyurdu ve modelin yalnızca araştırma ve geliştirici kullanımı için tasarlandığını açıkladı.

Şirketin açıklamasına göre, Gemma artık AI Studio üzerinden erişilebilir değil, ancak API aracılığıyla geliştiricilere sunulmaya devam ediyor. Bu karar, geliştirici olmayan kişilerin Gemma’yı AI Studio üzerinden gerçek bilgi talep etmek için kullanmalarından kaynaklandı; bu da Gemma'nın amaçlanan işlevi değildi.

Google, Gemma'nın asla tüketici odaklı bir araç olarak hizmet vermek üzere tasarlanmadığını açıkladı ve kaldırmanın, amacına dair daha fazla yanlış anlama önlemek için yapıldığını belirtti.

Google, açıklamasında Gemma model ailesinin, geliştirici ve araştırma topluluklarını desteklemek amacıyla açık kaynak araçlar olarak geliştirildiğini, gerçek bilgi yardımı veya tüketici etkileşimi için değil olduğunu vurguladı. Şirket, Gemma gibi açık modellerin, kullanıcıların model performansını keşfetmelerine, sorunları tanımlamalarına ve değerli geri bildirimde bulunmalarına olanak tanıyarak deneme ve yeniliği teşvik etmek amacıyla tasarlandığını belirtti.

Google, Gemma'nın bilimsel ilerlemelere katkıda bulunduğunu vurguladı ve Gemma C2S-Scale 27B modelinin, kanser tedavisi geliştirme konusunda yeni bir yaklaşımın belirlenmesine yardımcı olduğu örneğini verdi.

Şirket, AI endüstrisinin karşılaştığı daha geniş zorlukları kabul etti; bunlar arasında halüsinasyonlar—modellerin yanlış veya yanıltıcı bilgiler üretmesi—ve dalkavukluk—uygun ama yanlış yanıtlar üretmeleri yer alıyor.

Bu sorunlar özellikle Gemma gibi daha küçük açık modeller arasında yaygındır. Google, yanılsamaları azaltma ve AI sistemlerinin güvenilirliğini ve performansını sürekli olarak iyileştirme konusundaki taahhüdünü yineledi.

Google, AI Halüsinasyonlarını Önlemek İçin Çok Katmanlı Strateji Uyguluyor

Şirket, büyük dil modellerindeki halüsinasyonları en aza indirmek için çok katmanlı bir yaklaşım benimsemektedir (LLMs), veri temellendirme, titiz eğitim ve model tasarımı, yapılandırılmış yönlendirme ve bağlamsal kurallar ile sürekli insan gözetimi ve geri bildirim mekanizmalarını birleştirerek. Bu önlemlere rağmen, şirket halüsinasyonların tamamen ortadan kaldırılamayacağını kabul etmektedir.

Temel sınırlama, LLM'lerin nasıl çalıştığıyla ilgilidir. Gerçekliğe dair bir anlayışa sahip olmaktan ziyade, modeller, eğitim sırasında tespit edilen kalıplara dayalı olarak olası kelime dizilerini tahmin ederek işlev görür. Model yeterli bir temel bilgiden yoksun olduğunda veya eksik ya da güvenilmez dış verilerle karşılaştığında, inandırıcı görünen ancak gerçekte yanlış olan yanıtlar üretebilir.

Ayrıca, Google, model performansını optimize etmenin doğal olarak bazı ticaret dengeleri içerdiğini belirtmektedir. Daha fazla dikkat göstermek ve çıktıyı kısıtlamak, hayal gücünü sınırlamaya yardımcı olabilir; ancak bu genellikle belirli görevler arasında esneklik, verimlilik ve fayda açısından bir bedel ödenmesi anlamına gelir. Sonuç olarak, özellikle veri kapsamının sınırlı olduğu yeni, özel veya yeterince temsil edilmeyen alanlarda zaman zaman yanlışlıklar devam etmektedir.