OpenAI, kullanıcıların ruh sağlığını korumaya yönelik geliştirdiği yeni güvenlik mekanizmasıyla, kriz anlarında aile üyelerinin veya arkadaşların devreye girmesine olanak tanıyan bir sistem başlattı.
Dijital asistanların bireysel yaşam üzerindeki etkisi artarken, OpenAI önemli bir güvenlik güncellemesini kullanıcılarına sundu. Şirket, kullanıcıların kendine zarar verme riski taşıyan süreçlerden geçtiği anlarda, belirledikleri yakınlarına haber verilebilmesini sağlayan Güvenilir Kişi sistemini aktif etti.
Güvenilir Kişi nasıl tanımlanır?
Sistem, kullanıcıların kendi belirledikleri bir yakını sisteme kaydetmesi prensibiyle çalışıyor. Tanımlanan kişiye, bu sorumluluğu kabul edip etmeyeceğine dair resmi bir davetiye iletiliyor. Davetiyenin geçerli sayılması için bir haftalık süre bulunurken, kullanıcılar istedikleri an güvenilir kişi listelerini güncelleme veya mevcut kişileri sistemden çıkarma hakkına sahip. Aynı şekilde, sürece dahil edilen kişi de dilediği zaman bu rolden ayrılma özgürlüğüne sahip.
Denetim mekanizması devreye giriyor
Sistemin en dikkat çekici yanlarından biri ise tamamen yapay zeka tarafından yönetilmemesi. Eğer ChatGPT kullanıcısının söylemlerinde kendisine zarar verme eğilimi sezilirse, durum önce özel eğitimli bir denetçi ekibi tarafından inceleniyor. Doğrulama yapıldıktan sonra güvenilir kişi bilgilendirilerek, kullanıcıya destek olması yönünde teşvik ediliyor. Şirket ayrıca, kullanıcıların gizliliğini korumak amacıyla sohbet dökümlerinin hiçbir aşamada üçüncü kişilerle paylaşılmayacağının altını çiziyor.
