OpenAI, yapay zekâ araçlarının gençler üzerindeki etkisine yönelik artan endişelere yanıt olarak ChatGPT’de kapsamlı güvenlik güncellemeleri duyurdu. Yeni önlemler, otomatik yaş tahmini, özelleştirilebilir ebeveyn denetimleri ve bazı durumlarda yetişkinler için kimlik doğrulama gibi özellikler içeriyor.
Güncellemeler, Kaliforniya’da intihar eden bir gencin ailesi tarafından açılan dava sonrasında hız kazandı. Davada, ChatGPT’nin kendine zarar verme yönünde talimat verdiği iddia edilirken, bu olay yapay zekâ şirketlerinin sorumluluklarına dair küresel çapta tartışmaları da alevlendirdi. OpenAI CEO’su Sam Altman, kullanıcı özgürlüğü ile kullanıcı güvenliği arasındaki dengeyi kurmanın zorluklarına dikkat çekerek, gençlerin korunmasının öncelikli olacağını vurguladı.
Yeni sistemin merkezinde, kullanıcıların yaşını dil ve etkileşim kalıplarına göre değerlendiren bir algoritma bulunuyor. Bir kullanıcının 18 yaşın altında olabileceği şüphesi oluştuğunda, ChatGPT’nin daha sınırlı bir sürümü devreye giriyor. Bu sürüm, cinsel içerik ve hassas konulara erişimi kısıtlarken, ciddi duygusal sıkıntı işaretleri algılandığında harici destek mekanizmalarına yönlendirme yapabiliyor. Yetişkinlerden ise tam erişim için yaşlarını doğrulamaları isteniyor.
Ebeveyn denetimleri genişliyor
Eylül sonuna kadar ebeveynler, kendi hesaplarını gençlerin (13 yaş ve üzeri) hesaplarına bağlayabilecek. Bu sayede sohbet geçmişi kapatma, hafıza özelliğini devre dışı bırakma, belirli saatlerde erişimi kısıtlama ve kriz diline karşı uyarılar alma gibi seçenekler sunulacak. Böylece aileler, ChatGPT kullanımını hem daha şeffaf hem de daha güvenli hale getirebilecek.
YouTube ve Instagram gibi platformlar uzun süredir ekran süresi ve hesap bağlama araçları sunuyor. OpenAI’nin sistemi ise yalnızca doğum tarihlerine dayanmıyor; kullanıcıların gerçek zamanlı iletişim biçimlerini analiz ederek yaşa dair tahmin yapıyor. Ancak uzmanlar, bu yöntemin özellikle dar yaş aralıklarında hata payı taşıdığına dikkat çekiyor. OpenAI ise erken alınan tedbirlerin, olası risklerden sonra gelen özürlerden daha etkili olduğunu savunuyor.
Yeni uygulamalarla yetişkin kullanıcılar geniş erişim imkânlarını korurken, gençler için daha özenle tasarlanmış bir deneyim sunulacak. OpenAI’nin bu adımı, yapay zekânın sorumlu kullanımına yönelik önemli bir değişim olarak görülüyor. Şirket, teknolojinin gençlerin hayatında güvenli ve destekleyici bir rol üstlenmesini hedefliyor.