Çin, yeni düzenlemelerle derin sahtekarlığı kısıtlıyor

Deepfakes bir sorundur. Bu, insanların dolandırmak, karalamak ve genel olarak yanlış bilgileri yaymak için yapay olarak zeki derin sentez programları kullanmasıyla yıllar içinde netleşti. Çin, derin sentez teknolojisi kullanılarak yapılan her şeyin bu şekilde etiketlenmesini gerektiren yeni bir yasa ile derin sahtekarlık sorununu çözmede bir adım attı.

Yönetmelikler son zamanlarda yapılan bir duyuru ile ortaya konulmuştur. (yeni sekmede açılır) Çin Siber Uzay İdaresi, Sanayi ve Bilgi Teknolojileri Bakanlığı ve hatta Kamu Güvenliği Bakanlığından toplu olarak (zdnet aracılığıyla) (yeni sekmede açılır)). Yasanın çıkarılmasına yol açan endişeler hakkında ayrıntılara giriyor ve etkilenen teknolojilerin çok uzun bir listesini gösteriyor.

“Derin sentez hizmetleri, kullanıcı ihtiyaçlarını karşılayıp kullanıcı deneyimini geliştirirken, aynı zamanda bazı vicdansız kişiler tarafından yasa dışı bilgi üretmek, kopyalamak, yayınlamak ve yaymak, iftira atmak, başkalarının itibarını ve şerefini küçük düşürmek için kullanılmaktadır” diyor (makine tercümesi) .

Ve yeni düzenlemelerin hedef aldığı sadece yüz protezi değil. Ayrıca, her türlü yüz manipülasyonu, jest manipülasyonu ve derin öğrenme, sanal gerçeklik, sentetik algoritmalar aracılığıyla metin/ses/görüntü oluşturma, sanal sahneler ve hatta metinden konuşmaya teknolojisi kullanılarak oluşturulan her şeyi içeren her şeyle ilgilidir. olarak etiketlendi. Liste devam ediyor. Gelişmeler, derin sahte içeriğin çıplak gözle tespit edilmesini son derece zorlaştırdığı için mantıklı.

Tabii ki, Intel’in FakeCatcher’ı gibi derin sahtekarlıkları tespit etmeyi amaçlayan bir teknoloji var. (yeni sekmede açılır) bu da yaklaşık %96 doğrulukla çalışır, ancak bir şeyin gerçek olup olmadığını doğrulamak için bu tür taktiklere başvurmamıza gerek olmadığını söylemeye gerek yok. Facebook’taki ortalama bir kişi, algılama uygulamalarında kaydırdıkları her şeyi çalıştırma zahmetine katlanmayacaktır ve bu kesinlikle duyurunun “iyi bir siber uzay ekolojisi” dediği şeyi bozma potansiyeline sahiptir.

Dürüst olmak gerekirse, derin sahtekarlıkların Çin’de bu kadar uzun süre kontrolsüz kalmasına izin verilmiş olması bir mucize. ABD’ye gelince, IACP’nin Polis Şefi Dergisi (yeni sekmede açılır) “Farkındalık eksikliği nedeniyle, yalnızca birkaç eyalette deepfake’e özgü yasalar var” diye açıklıyor. Seçimi etkileyen deepfake’ler Teksas’ta yasaklandı, deepfake porno Virginia’da yasaklandı ve California “seçimden sonraki 60 gün içinde kötü niyetli deepfake’leri ve rıza dışı deepfake pornografiyi” yasakladı. Her ne kadar doğru yönde atılmış bir adım olsa da, Çin’in fenomeni gözden geçirmiş yaklaşımı kadar kapsamlı değil.

Duyuru notlarına göre, bu düzenlemeleri getirmenin ardındaki gerekçenin bir kısmı, “derinlemesine sentez hizmetlerinin standartlaştırılmış gelişimini teşvik etmek”. Düzenlemelerin yaratıcılığın boğulmasına neden olup olmayacağı henüz görülmedi. Bence hepimiz en azından rıza dışı derin sahte pornografiye karşı yasaların arkasında durabiliriz.