Yapay Zekanın Yeni Tehlikesi! Voice Engine 15 Saniyede Yeni Ses Üretebilecek

OpenAI'nin yeni teknolojisi olan Voice Engine, sadece 15 saniyelik ses örnekleri kullanarak yeni sesler üretebilecek.

Yapay zeka şirketi OpenAI, yeni teknolojisi Voice Engine'i tanıttı.

Şirket, bir kişinin sadece 15 saniyelik konuşma kaydı ile seslerin klonlanabileceğini iddia etti. 

OpenAI'nin iki yıldır geliştirdiği yeni teknoloji, 15 saniyelik ses örneklerinden yeni sesler oluşturabiliyor. 

Şirket, teknolojinin kötüye kullanım risklerini göz önünde bulundurarak şu anda geniş çapta kullanıma sunmayı planlamadığını belirtti.

Voice Engine ile ilgili OpenAI'den yapılan açıklamada, "Voice Engine"in yalnızca yazılı metin ve 15 saniyelik tek bir ses örneği kullanarak konuşmacının sesine çok benzeyen bir konuşma üretebildiği bilgisi paylaşıldı.

Ses klonlama uygulaması olan Voice Engine'in 2022 yılında geliştirildiği belirtilen açıklamada, "kötüye kullanım potansiyeli"ne dikkat çekildi. OpenAI bu sebeple daha geniş bir sürüm için temkinli ve bilinçli bir yaklaşım benimsediğini açıkladı.

Ses klonlamanın başta seçimler olmak üzere pek çok alanda ciddi riskler taşıdığı belirtilen açıklamada, "İnsanların seslerine benzeyen konuşmalar üretmenin özellikle de seçim yılında ciddi riskler taşıdığının farkındayız." ifadeleri kullanıldı. OpenAI, ABD'nin de dahil olduğu çok sayıda uluslararası ortakla birlikte çalıştığını duyurdu.

Güvenlik endişelerine karşı, Voice Engine'in test aşamasındaki kullanıcı ortaklarına, kişi veya kuruluşların kimliklerinin kullanılmasının yasaklandığı, orijinal konuşmacının izni gerektiği ve seslerin yapay zeka tarafından üretildiğinin izleyicilere açıkça belirtilmesinin zorunlu olduğu ifade edildi.

Açıklamaya göre ayrıca, Voice Engine orijinal konuşmacının sesini koruyarak çeviri yapabilecek.

Video ve podcast gibi içerik üreticilerinin bu özellikten faydalanarak "kendi sesleriyle" dünyaya ulaşabileceği, çevrilen seste orijinal konuşmacının "aksanını" da koruyabileceği bilgisi paylaşıldı.