Character.AI, 18 yaş altındaki kullanıcılar için açık uçlu sohbeti kısıtladı ve güvenlik önlemleri tanıttı.

Kısa Bilgi

Character AI, platformun ergen ölümlerine yol açtığını söyleyen yasama organları ve ailelerin hukuki baskısının ardından, Kasım ayı sonlarında 18 yaş altındaki kişilerin AI sohbet robotlarıyla açık uçlu konuşmalar yapmasını yasaklayacağını duyurdu.

Yapay zeka destekli sohbet robotu platformu Character.AI, yasaların ve ailelerin 18 yaş altı kullanıcıların platformun ergenler için potansiyel riskleri konusunda endişeleri nedeniyle AI sohbet robotlarıyla açık uçlu sohbetlere katılamayacaklarını duyurdu.

Değişikliğin 25 Kasım'a kadar yürürlüğe girmesi planlanıyor. Bu arada, platform, 18 yaş altı kullanıcılar için karakterlerle video, hikaye ve etkileşimli yayınlar gibi yaratıcı etkinliklere devam etmelerini sağlayacak bir deneyim değişikliği sunmayı planlıyor. Bu geçiş sürecinde, 18 yaş altı kullanıcılar için sohbet oturumları günde iki saatle sınırlı olacak ve tam uygulamaya geçiş öncesinde zamanın daha da kısıtlanması bekleniyor.

Ayrıca, Character.AI, kullanıcıların yaşlarına uygun özelliklerle karşılaşmalarını sağlamak için yeni yaş doğrulama önlemleri uygulayacaktır. Şirket, dahili bir yaş güvence sistemi geliştirmiştir ve doğruluğu ve güvenilirliği artırmak için bunu Persona da dahil olmak üzere üçüncü taraf araçlarla entegre edecektir.

Platform ayrıca, AI eğlencesinde güvenlik uyumunu ilerletmeye adanmış bağımsız bir kar amacı gütmeyen kuruluş olan AI Güvenlik Laboratuvarı'nın oluşturulması ve finanse edilmesini duyurdu. Laboratuvar, yenilikçi güvenlik yaklaşımlarının geliştirilmesine, dış uzmanlarla işbirliği yapmaya ve araştırma bulgularını paylaşmaya odaklanacak. Character.AI, laboratuvarın AI eğlencesine, diğer AI uygulamalarına uygulananlarla aynı düzeyde güvenlik odaklı dikkat sağlamasını amaçlıyor ve bu girişimde teknoloji şirketlerini, akademisyenleri, araştırmacıları ve politika yapıcıları dahil etmeyi planlıyor.

Character.AI, Regülasyon Endişeleri Ortasında Gençlerin Güvenliğini Artırmak İçin 18 Yaş Altı Platformunu Güncelliyor

Character.AI, 18 yaş altı kullanıcılar için platformunda değişiklikler duyurdu. Bu, gençlerle yapay zeka etkileşimleriyle ilgili artan endişelere yanıt olarak yapılmıştır. Son raporlar ve düzenleyicilerden gelen sorgulamalar, içerik kontrolleri olsa bile, açık uçlu yapay zeka sohbetleriyle ilgili potansiyel riskleri vurgulamıştır. Şirket, düzenleyicilerden, güvenlik uzmanlarından ve ebeveynlerden gelen geri bildirimleri gözden geçirerek, 18 yaş altı deneyimini değiştirmenin, genç kullanıcıları daha iyi korumak için gerekli olduğuna karar verdi.

Bu ayarlamalar platform için önemli adımları temsil ediyor ve genel olarak benzer hizmetler tarafından alınan önlemlerden daha temkinli. Amaç, genç kullanıcıların güvenliğini önceliklendirmekken, aynı zamanda yaratıcılık, keşif ve etkileşim fırsatları sunmaktır. Character.AI, platform yeni yaratıcı ifade ve topluluk etkileşimini teşvik eden özellikler geliştirirken kullanıcı korumasının merkezde kalmasını sağlamak için güvenlik uzmanları, düzenleyici organlar ve diğer paydaşlarla çalışmaya devam etmeyi hedefliyor.

Character.AI, kullanıcıların büyük dil modelleri tarafından desteklenen AI tabanlı karakterler veya bot kişilikleri ile etkileşimde bulunmalarını ve bunları oluşturmalarını sağlayan bir konuşma AI platformudur.