What Could Go Wrong: AI Edition’ın bugünkü bölümünde, sesleri taklit etmek için yapay zeka kullanan bir teknoloji şirketi, rahatsız edici içerik okuyan ünlülerin kliplerini oluşturmak için kullanıldıktan sonra teknolojisine daha fazla “koruma” ekliyor.
Eleven Laboratuvarları (yeni sekmede açılır) herhangi bir dilde sesli kitaplara, oyunlara ve makalelere gerçekçi sesler üreten yapay zeka konuşma yazılımında uzmanlaşmış bir araştırma şirketidir. Voice Lab adlı araçlarından biri, kullanıcıların bir dakikalık bir konuşma klibi yükleyerek bir sesi “klonlamasına” olanak tanır. Oradan, metinden konuşmaya özelliğini kullanarak 2.500 karaktere kadar okumak için klonlanmış sesi kullanabilirsiniz. Ne düşündüğünü biliyorum: var hayır yol herkes başka birinin sesini yükleyerek bu sistemden yararlanabilir, değil mi?
4Chan’a girin. 4Chan posterleri, uygulamayı ırkçı, homofobik ve diğer saldırgan mesajları söyleyen ünlülerin ses kliplerini oluşturmak ve ardından çevrimiçi olarak yaymak için kullandı. Onları burada bağlantılandırmayacağım, ancak en çok dolaşan klipler arasında Emma Watson’ın Adolf Hitler’in Mein Kampf’ından bir alıntıyı okuması ve Joe Biden’ın ABD’nin Ukrayna’ya asker göndereceğini duyurması yer alıyor.
ElvenLabs, Voice Lab’in “kötü amaçlarla” kullanılmasını engellemek için adımlar attığını söylüyor ve teknolojisini yanlış ellerden uzun süre uzak tutmayı nasıl planladığını yayınlıyor. Twitter dizisi. (yeni sekmede açılır)
ElevenLabs, “üretilmiş herhangi bir ses klibini her zaman belirli bir kullanıcıya kadar izleme yeteneğine sahip olduğunu” iddia ediyor. Gelecek hafta, herhangi birinin bir klibin kendi teknolojisi kullanılarak oluşturulduğunu doğrulamasına ve bildirmesine olanak tanıyan bir araç yayınlayacak.
Şirket, kötü amaçlı içeriğin “ücretsiz anonim hesaplar” tarafından oluşturulduğunu ve bu nedenle yeni bir kimlik doğrulama katmanı ekleyeceğini söylüyor. Voice Lab, yalnızca ücretli katmanlarda kullanıma sunulacak ve ücretsiz sürümü sitesinden hemen kaldıracaktır. ElevenLabs şu anda politikalarını ihlal ederek zararlı içerik oluşturan tüm hesapları izliyor ve yasaklıyor.
Oyun için en iyi SSD (yeni sekmede açılır): piyasadaki en iyi katı hal sürücüleri
Oyun için en iyi PCIe 4.0 SSD (yeni sekmede açılır): yeni nesil indi
En iyi NVMe SSD (yeni sekmede açılır): SSD iyiliğinin bu şeritleri
En iyi harici sabit sürücüler (yeni sekmede açılır): ufkunuzu genişletin
En iyi harici SSD’ler (yeni sekmede açılır): oyun dizüstü bilgisayarları ve konsolları için eklenti yükseltmeleri
ElevenLabs, teknolojiyi bir ödeme duvarının arkasına koymanın “kötüye kullanımı her zaman engellemeyeceğini” kabul ediyor, ancak bunun “VoiceLab kullanıcılarını daha az anonim hale getirdiğini ve onları uygunsuz içeriği paylaşmadan önce iki kez düşünmeye zorladığını” söylüyor.
Peki ya insanların kendi sesleri yerine genel olarak ünlülerin seslerini kullanma sorunu? ElevenLabs, kullanıcıların herhangi bir ole ses dosyası yüklemek yerine yapay zekayı sesleriyle eğitmek için örnek bir bilgi istemi okumasını zorunlu tutmayı önerdi.
Ücretsiz hesaplar, metinden konuşmaya işlevini kullanmaya devam edebilecek, ancak yalnızca önceden hazırlanmış seslere erişimle. ElevenLabs, durumu izlemeye devam edeceğini ve etkilenen tüm hesapların geri ödeme alacağını söylüyor.
Daha bu hafta, OpenAI CEO’su yapay zekanın kötüye kullanılmasının “hepimiz için ışıkların sönmesi” olabileceğini söyledi. Ama cidden, internete herhangi bir sesin her şeyi söyletebileceği bir araç verseydin ElevenLabs ne olacağını düşündü? Hadi beyler.
Daha çok oyun haberleri yazısı okumak için kategorimize göz atabilirsiniz.
