Yapay zekâ modelleri her ne kadar heyecan verici olsa da bazı olumsuzluklara yol açabiliyor. Bundan birkaç gün önce, Papa’nın şişme mont giydiği bir görsel ortaya çıkmış ve kısa sürede sosyal medyada popüler olmuştu. Birçok insan tarafından gerçek sanılan bu görsel, aslında yapay zekâ aracı Midjourney tarafından oluşturulmuştu.
Son günlerde tek viral olan yapay zekâ görseli bu değildi. Eski ABD Başkanı Donald Trump’ın tutuklandığını gösteren ve yine Midjourney tarafından oluşturulan görüntüler de aynı şekilde sosyal medyada hızla yayıldı. Gerçek gibi gözüken bu görseller, hâliyle büyük endişelere yol açtı ve ileride internette gördüğümüz görsellerin gerçek olup olmadığını anlayabileceğimizi ortaya koydu. Tartışmalar sürerken Midjourney’den buna yönelik bir hamle geldi.
Midjourney’in ücretsiz deneme hakları, kötüye kullanım nedeniyle durduruldu
Midjourney’in kurucusu ve CEO’su David Holz, geçtiğimiz günlerde yaptığı bir duyuruyla yapay zekânın ücretsiz denemesini durdurduklarını açıkladı. Holz, buna neden olarak ise olağanüstü talebi ve kötüye kullanımı gösterdi.
Midjourney, daha önce herkese 25 ücretsiz görüntü oluşturma hakkı tanıyordu. Bu deneme süreci bitince ise aylık 10 dolarlık aboneliğe geçmek gerekiyordu. Ancak son zamanlarda dezenformasyona yol açan sahte görseller nedeniyle bu haklar ortadan kaldırıldı.
Holz, daha önce Midjourney’in deepfake görsel yapmak için kullanılamayacağını söylüyordu. Ancak 15 Mart’ta gelen 5. versiyon, fotoğrafların kalitesinin inanılmaz derecede gelişmesini ve gerçekten ayırt edilemeyen insan tasvirlerinin oluşturulmasını sağladı. Zaten bunun ardından da sosyal medyada gerçek sanılan sahte görseller ortaya çıkmaya başladı.
Alınan önlemler bu tarz sahte görsellerin önüne geçmek için yeterli değil
İçerikleri için pek de kısıtlayıcı politikalara sahip olmayan Midjourney, “farklı ülkelerden gelen şikayetlere göre” belirlediği bazı kelimeleri yasaklıyordu. Ancak bu kelimelerin tamamını içeren liste hiç paylaşılmadı. Sahte görsellerin yayılmasının ardından ise “tutuklandı” (Donald Trump görseli) gibi kelimeler eklenerek bu liste genişletildi.
Ancak bunun pek de bir değişikliğe yol açtığı söylenemez. The Verge tarafından yapılan denemelerde, “tutuklandı” yerine “kelepçelendi” gibi şeyler kullanıldığında yine benzer sonuçların çıktığı görüldü. Bu da daha sıkı kısıtlamalara ihtiyaç olabileceğini ortaya koydu.