Oxford Üniversitesi ve Google Deepmind'den bazı bilim insanları, gelecek yıllarda yüksek kalitede üretilen yapay zekaların insanlara zarar verebileceği yönünde herkesi korkutan açıklamalarda bulundu. Bu açıklamaya göre bazı yapay zeka ürünleri, kötülüğü tüm dünyaya yayabilir ve insan ırkını ortadan kaldırmaya yönelik çalışmalarda bulunabilir.
Bilimsel bir makale hazırlayarak yayınlayana bilim insanlarından başyazar Micheal Cohel, bu soruyu sosyal medya hesabından konuyla ilgili şu sözleri sarf etti:
Varoluşsal bir felaket sadece mümkün değil, aynı zamanda muhtemel.Yapay zekaların eğitiminde "pekiştirmeli öğrenme" modeli kullanıldığına dikkat çeken araştırmacılar, yapay zekaların bir amaca istinaden hareket etmeyi öğrenmelerini sağladıklarını belirtiyor.
Puan sistemi
Bu öğrenme modeli göz önüne alındığında yapay zeka, karşılaştığı durumun amacına uygun bir dönüt veriyorsa puan alarak ödüllendiriliyor.
Yapay zeka, eğitimleri ileri seviyelere geldikçe sürekli ödül puanı almak için performansını iyileştirmeye gayret ediyor.
Ödül sistemi ters tepebilir
Bu öğretim modelinin bazı risklerinin olduğunun da dile getirildiği makalede şu ifadelere yer verildi.
Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekâya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu ödülün gönderilmesi olduğunu varsayabilir. Hiçbir gözlem bunu yalanlayamaz.Çalışmada yer alan araştırmacılar aynı zamanda, gittikçe yeni bir forma bürünen bu yapay zekaların, görev edindikleri amaçlarına ulaşmadan ödülü almak için farklı yollara başvuracağını ve kendi iradelerinin olabileceğini de dile getirdi.
Yani bir başka deyişle yapay zeka, ödülü kazanmasına engel olacak ve tehdit olarak algıladığı durumları ortadan kaldırmak isteyebilir.
Tüm bunlarla birlikte, insanlara zarar vermesi de oldukça güçlü bir ihtimal olarak göze çarpıyor.
Yapay zeka nedir?
Yapay zeka (AI), tanım olarak makinelerin deneyimleyerek öğrenmesini, yeni girdilere uyum sağlamasını ve insan benzeri görevleri gerçekleştirmesini sağlayan bir teknolojidir.
Günümüzde duyduğunuz çoğu örnek aslında yapay zeka ile çalışıyor. Örneğin satranç oynayan bilgisayarlardan kendi kendine giden arabalara kadar geniş yelpazeli öğrenme ve doğal dil işlemeye dayanmaktadır. Bu teknolojileri kullanarak bilgisayarlar, büyük miktarda veri işleyerek ve verilerdeki kalıpları tanıyarak belirli görevleri yerine getirmeleri konusunda eğitilirler.
www.idrak34.com