Yapay zekâ teknolojisinin gelişmesi ile birlikte eskiden çok küçük bir azınlık tarafından kullanılabilen ve daha kolay tespit edilebilen deepfake içerikler artık hem daha sık hem de daha gerçekçi şekilde karşımıza çıkıyor. Meta'nın Gözetim Kurulu, son yaptığı incelemelerde iki ünlünün daha deepfake yöntemleriyle oluşturulmuş müstehcen içeriklerini tespit etti. Bu görsellerde elbette yapay zekâ kullanılmış.
Meta Gözetim Kurulu, biri Instagram'da biri de Facebook'ta olmak üzere iki vakayı ele aldı. Görsellerden birinin Hindistan'da tanınmış bir kadına benzeyecek şekilde oluşturulduğu belirtilirken, paylaşımın yapıldığı hesabın da yalnızca Hintli kadınların yapay zekâ tarafından oluşturulmuş görsellerini paylaştığı ifade edildi. İki defa şikâyet edilen görsele zamanında müdahale edilmediği için bu görsellerin yayında kaldığı ve en son kurula gelen başvuru üzerine, içeriğin "Zorbalık ve Taciz Topluluk Standardı'nı ihlal ettiği gerekçesiyle" kaldırılması kararı alındığı belirtildi.
Kurul, Meta'ya tavsiyelerde bulunacak.
İkinci görsel ise bir adamın çıplak bir kadının göğsünü okşadığı deepfake oldu.Görseldeki kadının Amerika'da ünlü birine benzerlik taşıdığı ifade edilirken, daha önce de paylaşılan bu görsel de Zorbalık ve Taciz ilkesini ihlalden dolayı kaldırıldı. İçeriği paylaşan kullanıcının itirazı ise reddedildi.
Kurul şimdi bu vakaları, Meta'nın ilkelerinin ve yaptırım uygulamalarının müstehcen görselleri ele almada ne derece başarılı olduğunu değerlendirmek için kullanacak. Daha sonra da aldığı kararları Meta'ya sunacak. Bu kararlar yaptırım şeklinde olmayacak, şirkete tavsiye olarak verilecek.