Uydurma içerikleri izleme şirketi Sensity, ortalarında çocukların ve bayanların bulunduğu Telegram kullanıcılarının çıplak fotoğrafını oluşturulduğunu duyurdu. Sensity raporuna nazaran, 100 binden fazla kişinin çıplak manzaraları botlar tarafından para karşılığında oluşturuldu.
Deepfake içerikleri izleme şirketi Sensity’nin yayınladığı yeni rapora nazaran anlık iletileşme uygulaması Telegram’da, kullanıcılara istedikleri bayanların ‘deepfake’ teknolojisiyle hazırlanmış, çıplak fotoğraflarını gönderen bir bot olduğu tespit edildi.
Sisteme nazaran kullanıcılar, çıplak imajlarını elde etmek istedikleri şahısların fotoğraflarını Telegram’dan bota gönderiyor
Bot, deepfake teknolojisini kullanarak bayanların gerçek olmayan imajlarını hazırlıyor.
Şirketin yaptığı tahlile nazaran ortalarında çocukların da bulunduğu 100 bin kişi sistemin kurbanı oldu. Şirket botun diğer bir sitede daha faal olduğunu tespit etti. İşlenen manzara sayısını ise daha sonra 680 bin olarak açıkladı.
Uydurma imajlar nasıl oluşturuluyor?
Kullanıcıların gönderdiği bayan fotoğrafları bota yüklendikten sonra, yapay zeka sistemi fotoğrafın kıyafetsiz bir versiyonunu üretiyor. Daha sonra fotoğraf Telegram kanalları üzerinden yayılıyor.
Bot, geçen yıl Haziran ayında ortaya çıkan “DeepNude” isimli bir deepfake yazılımının açık kaynaklı bir sürümünü kullanıyor.
Kullanıcılar, fotoğraflar karşılığında ödeme yapmadan evvel bot, onlara fotoğrafın filigranlı bir versiyonunu gönderiyor.
Sensity’nin raporu, deepfake teknolojisinin haberleri çarpıtmaktan daha çok bayanları taciz etmek, küçük düşürmek üzere emeller için kullanıldığını gözler önüne seriyor.
Onedio
