ChatGPT ve Midjourney gibi modelleri sürekli kullanıyor, sizlere de farklı içerikler çıkarıyoruz. Dünya genelinde herkesin kullanımına sunulmuş olan bu araçlar, ilk çıktıkları günden bu yana sürekli kısıtlanmaya çalışıldı. Burada en başta ülkelerin belirli limitler çizmeye çalıştığını gördük.
Çin, İngiltere ve Amerika Birleşik Devletleri (ABD) bu konuda en büyük adımı atmak isteyen ülkelerdi ve hâlâ da bu adımların arkasındalar. Fakat bu yapay zekânın -ülkeden ülkeye değişen anlamıyla- güvenli kullanımını sağlayacak yasalar için AB’nin de uzun zamandır çalıştığını unutmamak gerek. Zira kendileri, Yapay Zekâ Yasası’nın en büyük adımını attı.
38 saatlik görüşmenin ardından anlaşma sağlandı.
Perşembe günü ChatGPT gibi modeller üzerine yoğunlaşan görüşmeler, ertesi gün yerini yüz tanıma gibi sistemlere bıraktı ve yetkililer de bunlar üzerine konuştu.
Söz konusu yasanın en temelinde, yapay zekânın gelişimini güvenli kılmak yatıyor. İlk adımlarını 2021’de gördüğümüz bu yasa, ChatGPT’nin hız kazanmasıyla birlikte daha çok gündemimize gelmeye başladı. Bu yasalar, söz konusu yapay zekâ modeli/aracı ne kadar riskliyse o kadar katı kurallar koyacak. Ayrıca yapay zekâ sistemlerinin basit yazılımlardan farkını belirleyen açık kriterler listelenecek.
Hem askeri hem de emniyet güçleri taraflarına yönelik güncellemeler:
Askeri tarafta yapay zekâ destekli araçların, üye ülkelerin güvenlik konusundaki yeterliliklerini veya bunlardan sorumlu kuruluşları etkilememesi sağlanacak. Kolluk kuvvetleri de yapay zekâdan faydalanabilecek. Bu bağlamda izin alındığı takdirde, kamuya açık alanlarda uzaktan biyometrik tanımlama sistemlerini kullanabilecek.
Risk sınıflandırmaları da mevcut.
Öte yandan söz konusu yapay zekâ aracı yüksek risk grubuna girmese de kullanıcıyı bilinçli tutabilmek adına içeriğin yapay zekâ ile oluşturulduğunu açıkça bildirecek.
Yüksek riskli olarak damgalanan bazı yapay zekâ araçlarının kullanımına izin verilecek. Fakat bu araçlar, AB pazarına girebilmek için, belirlenen gereksinimleri karşılamak zorunda olacak. Tabii veri güvenliğini sağlamak, bunların en başında geliyor.
Fakat bazıları için kabul edilemez damgası da mevcut. Bu da bu risk grubuna giren araçların AB bünyesinde yasaklı olacağı anlamına geliyor. Bu bağlamda bilişsel manipülasyon, yüz bilgilerinin internetten veya kapalı kamera sistem görüntülerinden alınması, iş yerinde ve eğitim kurumlarında duygu belirtileri tanıma, sosyal puanlama, cinsel yönelim veya dini inançlar gibi hassas verileri çıkarmak için biyometrik sınıflandırma yapılması yasak kapsamına girecek.
Genel kullanıma yönelik yapay zekâ araçları için durum şu şekilde:
Bu araçları besleyen temel modeller pazara dahil olmadan önce belli bir şeffaflık sunuyor olmaları gerekiyor. Kendi sitesinde AB; oldukça karışık, devasa ve yüksek performanslı modellerin risk oluşturabileceğini belirtiyor. Bu yüzden belli bir yere kadar şeffaflık şart olacak.
Tabii bunların kontrolü için ayrı bir ofis açılması şart.
Onun için de en gelişmiş yapay zekâ modellerini kontrol edecek bir yapay zekâ ofisi kuruldu. Bağımsız uzmanların danışmanlığından yararlanacak olan bu ofis, hem güvenlik risklerini görecek hem de geliştirmeye yönelik fikirlerini paylaşacak.
Tabii ofisin üstünde yer alacak bir yönetim kadrosu da regülasyonların gerçekleşmesinde söz sahibi olacak. Endüstrinin önde gelen isimlerinin yer alabileceği bir tavsiye forumu da yönetimin sürekli gözü önünde olacak.
Avrupa Parlamentosu, önümüzdeki yılın başlarında Yapay Zekâ Kanunu konusunda oylama yapacak.
Fakat düzenlemelerin hiç birini 2025’ten önce pratiğe dökülmüş hâlde göremeyeceğiz.
Peki bu yasaya uyulmazsa cezası ne olacak?
Yasanın ihlal edilmesi durumunda farklı senaryolar söz konusu. Eğer yasaklı uygulamalar söz konusuysa şirketin yıllık gelirinin yüzde 7’si veya 35 milyon euro, kriterler yerine getirilmiyorsa yıllık gelirin yüzde 3’ü veya 15 milyon euro, eğer yanlış bilgi yayılıyorsa yıllık gelirin yüzde 1,5’i veya 7,5 milyon euro’luk cezalar söz konusu. “Veya” dediğimiz kısımlarda hangisinin daha yüksek olduğuna bakılacak.
Sizin bu yasa hakkındaki düşünceleriniz neler?