Teknoloji

Microsoft Mühendisi, Microsoft'u Devlete Şikâyet Etti

Microsoft'ta yapay zekâ mühendisi olan Shane Jones, Copilot Designer'ın oluşturduğu görsellerden dolayı Microsoft'u ABD Federal Ticaret Komisyonu'na (FTC) şikâyet etti.

Microsoft Mühendisi, Microsoft'u Devlete Şikâyet Etti
07-03-2024 11:17

Üretken ÖZETİ| yapay zekâlar için ciddi yatırımlar yapan firmalardan biri de Microsoft. Firmanın Copilot Designer adlı yapay zekâ aracı, yakın zamanda tüm Windows 11 bilgisayarlara entegre olacak. Öte yandan Microsoft içinde bu konuda daha fazla denetleme çalışması yapılması gerektiğine inananlar var. Bunlardan biri olan Yapay Zekâ Mühendisi Shane Jones, yaptığı incelemelerde üretken yapay zekânın +18 görseller oluşturabildiğini ortaya çıkardı. 

Jones'un yaptığı kırmızı takım testlerinde (sistemin açıklarını arama) elde ettiği sonuçlar rahatsızlık verici niteliklerdeydi. Örneğin yapay zeka aracı, kürtaj hakkı konusundaki görsellere iblisler ve canavarlar eklerken; farklı durumlarda gençlerin elinde silahların olduğu, kadınların şiddet ve cinsellik temalı görsellerin merkezinde yer aldığı, çocukların içki içip uyuşturucu kullandığı görseller oluşturması aracın henüz tam olarak hazır olup olmadığını sorgulattı.

Microsoft Copilot için yaş sınırı talebinde bulunuldu...

OpenAI

Aralık ayında bulgularını firmayla paylaşan Jones, ürünü pazardan kaldırtmayı başaramadı. Microsoft, kendisini OpenAI'a yönlendirirken OpenAI, Jones'a bir cevap vermedi. Bu nedenle de LinkedIn'den DALL-E 3'ü kaldırmalarını istediği bir açık mektup paylaşsa da daha sonra Microsoft'un isteğiyle bu mektubu geri çekti. 

Konuyla ilgili adım atılmaması nedeniyle önce ABD'li senatörlere ulaşan Jones, son olarak da Federal Ticaret Komisyonu'na bir mektup yazarak şikâyette bulundu. Microsoft'un tavsiyeleri reddettiğini söyleyen yazılımcı, Google'ın Android uygulaması için yaş kısıtı gelmesi ve bilgilendirmeler sunulması gerektiğini ifade etti. Jones, Microsoft'un bu konuda adımlar atmasını beklediğini belirtti. 


Editor : Şerif SENCER
SİZİN DÜŞÜNCELERİNİZ?
TÜRKİYE GÜNDEMİ
BUNLAR DA İLGİNİZİ ÇEKEBİLİR
ÇOK OKUNAN HABERLER