OpenAI, kullanıcıların yapay zeka ile gerçekleştirdiği hassas görüşmelerde güvenlik ağını genişletiyor. Artık riskli sinyaller algılandığında, belirlenen bir yakına otomatik bildirim gitmesi sağlanacak.
Yapay zeka ile kurulan duygusal bağların ruh sağlığı üzerindeki etkileri teknoloji dünyasının en önemli gündem maddelerinden biri haline geldi. Uzun süreli ve yoğun içerikli etkileşimlerin bazı bireylerde kriz anlarını tetikleyebileceği endişesi, OpenAI’ı yeni bir güvenlik protokolü geliştirmeye itti. Şirket, bu sistemin tıbbi bir tedavi veya profesyonel psikolojik desteğin yerini tutmadığını, yalnızca olası bir tehlike anında ekstra bir koruma katmanı sunduğunu özellikle belirtiyor.
Güvenilir kişi sistemi nasıl işliyor
Sistemi aktif etmek isteyen 18 yaş ve üzerindeki kullanıcılar, ayarlar menüsünü kullanarak kendilerine en yakın gördükleri bir kişiyi sisteme tanımlayabiliyor. İlgili kişinin e-posta ve telefon bilgilerinin girilmesiyle başlatılan davet süreci, bir haftalık onay süresine tabi tutuluyor. Eğer yapay zeka, kullanıcının kendisine zarar verebileceğine dair kaygı verici bir diyalog akışı saptarsa, ilk etapta kullanıcıyı doğrudan uyararak destek alması konusunda teşvik ediyor.
Mahremiyet ve bildirim protokolü
OpenAI, kullanıcı gizliliğini korumak adına hassas bir denetim süreci kurguladı. Sistemin otomatik uyarıları, yapay zekanın ardından eğitimli özel bir uzman ekip tarafından gözden geçiriliyor. Ciddi bir risk durumu onaylanırsa, seçilen güvenilir kişiye e-posta, SMS veya uygulama üzerinden bilgilendirme iletiliyor. Bu bildirimlerde sohbetin içeriğine dair hiçbir detay veya metin paylaşılmıyor; yalnızca genel bir güvenlik endişesi dile getirilerek iletişime geçilmesi rica ediliyor. Şirket, bu yeni özelliğin yanı sıra acil durumlarda kriz merkezleri ve yardım hatları ile koordineli çalışma prensibini de sürdüreceğini vurguluyor.
