Bir süre önce OpenAI Ceo’su Sam Altman’ın yapay zekanın kötüye kullanılmasının “herkes için ışıkların kapanması” anlamına gelebileceğini söylediğini hatırlayın. (yeni sekmede açılır) Pekala, bilgisayar korsanlarının ChatGPT’nin kötü amaçlı içerik üretmesini sağlamak için kısıtlamalarını aşmak için araçlar sattığını düşünürsek, bu o kadar da mantıksız bir ifade değildi.
kontrol noktası (yeni sekmede açılır) raporlar (Ars Technica aracılığıyla (yeni sekmede açılır)) siber suçluların ChatGPT içerik denetleme engellerini aşmanın ve bunu yaparak hızlı para kazanmanın oldukça kolay bir yolunu bulduğunu. 6 dolardan daha az bir ücret karşılığında, ChatGPT’nin kimlik avı e-postaları için kötü amaçlı kod veya tonlarca ikna edici kopya oluşturmasını sağlayabilirsiniz.
Bu bilgisayar korsanları bunu, uygulama aracılığıyla ChatGPT’nin kısıtlamasız bir sürümüne erişebilen popüler mesajlaşma uygulaması Telegram’da özel botlar oluşturmak için OpenAI’nin API’sini kullanarak yaptılar. Siber suçlular, müşterilerden her 100 sorgu için 5,50 ABD Doları gibi düşük bir ücret alıyor ve potansiyel müşterilere bununla yapılabilecek zararlı şeylerin örneklerini veriyor.
Diğer bilgisayar korsanları, GitHub’da herkese açık hale getirilen özel bir komut dosyası (yine OpenAI’nin API’sini kullanarak) oluşturarak ChatGPT’nin korumalarını aşmanın bir yolunu buldu. ChatGPT’nin bu karanlık sürümü, kimlik avı bağlantısını e-postada en iyi nereye yerleştireceğinize ilişkin talimatlar olsa bile, bir işletmeyi ve bankanızı taklit edecek bir kimlik avı e-postası için bir şablon oluşturabilir.
Daha da korkutucu olanı, Chatbot’u bir kötü amaçlı yazılım kodu oluşturmak veya mevcut bir kodu basitçe isteyerek iyileştirmek için kullanabilmenizdir. Kontrol noktası daha önce yazmıştı (yeni sekmede açılır) herhangi bir kodlama deneyimi olmayanların, özellikle ChatGPT’nin kötü amaçlı içerik oluşturmaya yönelik kısıtlamaları yalnızca daha sıkı hale gelen ilk sürümlerinde oldukça kötü amaçlı bazı kötü amaçlı yazılımlar oluşturmasının ne kadar kolay olduğu hakkında.
OpenAI’nin ChatGPT teknolojisi, daha açık uçlu sorulara daha sağlam ve sindirmesi kolay yanıtlar sağlamak için bir AI sohbeti içerecek olan Microsoft Bing arama motoru güncellemesinde yer alacak. Bu da telif hakkıyla korunan materyallerin kullanımıyla ilgili kendi sorunlarıyla birlikte gelir. (yeni sekmede açılır).
Ünlü ses benzerlerinin korkunç şeyler söylemesini sağlamak için ses klonlama kullanmak gibi AI araçlarını kötüye kullanmanın ne kadar kolay olduğunu daha önce yazmıştık. (yeni sekmede açılır). Yani, bazı kötü aktörlerin kötü şeyler yapmayı kolaylaştırmanın bir yolunu bulması an meselesiydi. Bilirsin, yapay zekaya ödevlerini yaptırmak dışında (yeni sekmede açılır).
Daha çok oyun haberleri yazısı okumak için kategorimize göz atabilirsiniz.
