ChatGPT, Kullanıcıların Seslerini İzinsiz Taklit Edebiliyor
Yapay zeka alanında yaşanan hızlı gelişmeler, heyecan verici olanakların yanı sıra beklenmedik sorunları da beraberinde getiriyor.
OpenAI tarafından geliştirilen popüler yapay zeka sohbet botu ChatGPT, son günlerde yeni özelliği Gelişmiş Ses Modu ile gündemde. Bu özellik, kullanıcıların ChatGPT ile daha doğal ve akıcı bir şekilde etkileşim kurmasını sağlamak için tasarlandı. Gelişmiş Ses Modu, önceden tanımlanmış birkaç ses seçeneği sunarak kullanıcıların ChatGPT ile sesli sohbetler yapmasına imkan tanıyor. Ancak, bu yeni özellikle ilgili bazı endişe verici gelişmeler de yaşanıyor.
OpenAI'ın blog yazısında belirttiği üzere, Gelişmiş Ses Modu'nun beklenmedik bir yan etkisi, yapay zekanın kullanıcıların seslerini taklit edebilmesi. Bu durum, özellikle gürültülü ortamlarda ve yapay zekanın kullanıcı sesini yanlış yorumladığı durumlarda ortaya çıkabiliyor. Bazı kullanıcılar, ChatGPT ile sohbet ederken yapay zekanın aniden kendi seslerini taklit ederek konuştuğunu bildirdi.
OpenAI Durumu İncelemeye Aldı
OpenAI, konuyla ilgili yaptığı açıklamada, GPT-4o modelinin ses üretiminin bir sistem komutuna dayandığını ve bu komutun ses sentezleme işlemi için yetkili bir ses örneğini kullandığını belirtti. Ancak, bu sistem komutunun her zaman kusursuz çalışmadığı ve testlerde yapay zekanın kısa ses kliplerinden kullanıcı sesine benzer sesler üretebildiği nadir durumlar yaşandığı ifade edildi.
OpenAI yetkilileri, "Ses üretimi, ChatGPT'nin gelişmiş ses modu için ses üretme yeteneğimizi kullanmamız gibi, düşmanca olmayan durumlarda da meydana gelebilir. Test sırasında, modelin istemeden kullanıcının sesini taklit eden bir çıktı ürettiği nadir durumlar da gözlemledik." şeklinde konuştu.
Bu durum, yapay zeka teknolojilerinin etik ve güvenlik boyutlarını bir kez daha gündeme getiriyor. Kullanıcıların bilgisi ve rızası olmadan seslerinin taklit edilebilmesi, kimlik hırsızlığı ve manipülasyon gibi ciddi riskler taşıyor. OpenAI, konuyu detaylı bir şekilde incelemeye aldığını ve sorunu çözmek için gerekli adımları atacağını açıkladı.
