2022'de geliştirilen Voice Engine, OpenAI'in önde gelen yapay zeka aracı ChatGPT'de bulunan metinden konuşmaya özelliğinin ilk sürümünü kullanıyor. Ancak, bu teknolojinin yaygın olarak kullanılmasının potansiyel risklerinden dolayı, OpenAI tarafından bir blog yazısı yayınlandı. Yazıda, "Toplumun bu yeni yeteneklere nasıl adapte olabileceğini tartışmayı umuyoruz. Bu tartışmalar ve küçük ölçekli testlerin sonuçlarına dayanarak, bu teknolojinin geniş kapsamda kullanılıp kullanılmayacağına ve kullanılması durumunda nasıl kullanılacağına daha bilinçli bir şekilde karar vereceğiz" denildi.
OpenAI ayrıca, bireylerin seslerinin kullanımını korumaya yönelik politikaların araştırılması ve aldatıcı yapay zeka içeriği riski de dahil olmak üzere yapay zeka teknolojilerinin yeteneklerini ve sınırlamalarını anlamaya yönelik halkı bilgilendirme çağrısında bulundu.
OpenAI'nin aracı, teknik basitliği ve inandırıcı ses klonları oluşturmak için gereken az miktardaki orijinal sesle öne çıkarken, rakip şirketlerin benzer teknolojileri zaten kamuya açık durumda.
Örneğin, ElevenLabs gibi şirketler sadece birkaç dakikalık ses kaydıyla eksiksiz bir ses klonu oluşturabiliyorlar. Şirket, ABD'deki siyasi seçimlere aktif olarak katılan adayları taklit eden ses klonlarının tespit edilmesi ve oluşturulmasını engellemek için tasarlanmış bir güvenlik önlemi uygulamaya koydu.
Yorumlar
Yorum Yaz