ChatGPT'den intihar sonrası denetim adımı
ChatGPT, 16 yaşındaki bir çocuğun intiharının ardından ebeveyn denetimi panelleri ve acil durum iletişim seçenekleri geliştirdiğini duyurdu.
OpenAI, yapay zeka tabanlı sohbet robotu ChatGPT için yeni güvenlik önemleri aldığını duyurdu. 16 yaşındaki Adam Reine isimli bir çocuğun intiharının ardından açılan dava sonrası atılan adımlar kapsamında ebeveyn denetim araçlarının devreye alınacağı belirtildi.
Şirket, özellikle genç kullanıcıların korunmasına yönelik ebeveyn denetimi panelleri ve acil durum iletişim seçenekleri geliştirdiğini açıkladı.
Reine’nin ailesinin açtığı “haksız ölüm” davası sonrası atılan adımlarla ilgili açıklama yapan şirket, “Özellikle genç kullanıcılar söz konusu olduğunda yardıma ihtiyacı olanlara destek olma sorumluluğu taşıyoruz” dedi.
Hangi özellikler devreye alınacak?
OpenAI’nin duyurduğu yenilikler arasında, ailelerin çocuklarının ChatGPT kullanımını görebileceği ebeveyn denetim panelleri ve kriz anında devreye girecek acil iletişim kişisi ekleme özelliği bulunuyor.
Özellikler kapsamında kişi, ebeveyn onayıyla belirlenecek ve yapay zeka gerektiğinde bir insan temas noktası sunacak. Şirket, bu araçların ailelere “daha anlamlı içgörüler” sağlamayı ve özellikle ruhsal bunalım gibi hassas durumlarda kullanıcı güvenliğini artırmayı hedeflediğini belirtiyor.
Reine’nin ailesinden iddialar
Aile, Reine’nin ruhsal kriz yaşadığı dönemde ChatGPT’den intihar yöntemleri konusunda tavsiyeler aldığını öne sürmüştü. Aile, Reine’nin düşüncelerini ChatGPT üzerinden onaylattığını ve intihardan 5 gün önce yazdığı mektupta yapay zekadan yardım aldığını tespit ettiklerini belirtti.
Öte yandan ChatGPT benzeri yapay zeka platformları, daha önce de benzer davalarla gündeme gelmişti. ABD’de 14 yaşındaki bir çocuk, Character.AI üzerinden kurgusal karakterlerle yaptığı görüşmeler sonrası intihar etmiş; Belçika’da ise “Eliza” adlı bir sohbet botu, bir adamın yaşamına son vermesinde etkili olmakla suçlanmıştı.
ChatGPT günlük 2,5 milyar taleple Google’a rakip oluyor
