?>

Google ve Oxford araştırmacıları yapay zekayı değerlendirdi: 'İnsanları ortadan kaldırabilir�

Google'ın yan kuruluşlarından yapay zeka firması Deepmind ve Oxford Üniversitesi araştırmacıları, yapay zekanın gelecekte insanları ortadan kaldırabileceği sonucuna vardı. Araştırmacılar yapay zekanın son derece hızlı geliştirilmesinden endişe duyuyor.

Teknoloji - 2 yıl önce

Yıllar süren çalışmaların ardından bugün yapay zeka trafikte araç kullanabilir, ev işlerini üstlenebilir ve resim yaparak sanat yarışması kazanabilir hale geldi.

Bu durum, yıllar boyunca bilimkurgu eserlerine ilham veren soruyu daha da güçlendirdi: Yapay zeka insanlığı yok edebilir mi?

Araştırma ekibi, hakemli bilimsel dergi AI Magazine'de yayımladıkları yeni makalede bunun "muhtemel" olduğu sonucuna vardı.

"VAROLUŞSAL BİR FELAKET"

Independent Türkçe'nin aktardığı habere göre; makalenin başyazarı Michael Cohen, Twitter'da makaleyi açıkladığı tweet zincirinde, "Varoluşsal bir felaket sadece mümkün değil, aynı zamanda muhtemel" ifadelerini kullandı.

Makalede yapay zekanın eğitiminde kullanılan "pekiştirmeli öğrenme" modeline odaklanıldı. Bu yaklaşım yapay zekaya belirli bir amaç doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.

Pekiştirmeli öğrenmede "etken" adı verilen makine, karşılaştığı durumlara tepki veriyor ve doğru tepki verdiğinde bir ödül puanı alıyor.

"BİZ YAPAY ZEKAYA ÇOK BÜYÜK BİR ÖDÜL VERDİK"

Küçük çocukların ödül/ceza yöntemiyle sosyal beceriler edinme sürecini andıran bu yöntemde yapay zeka, aldığı ödül puanını daima maksimuma çıkarmak için çalışıyor.

Modelin risklerine dikkat çekilen makalede, "Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu ödülün gönderilmesi olduğunu varsayabilir. Hiçbir gözlem bunu yalanlayamaz" ifadeleri yer aldı.

Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen hedefe ulaşmadan ödülü elde edebilmek için yeni yöntemler geliştirebileceğini ve hileye başvurabileceğini de belirtti.

"POTANSİYEL TEHDİTLERİ ORTADAN KALDIRMAK İSTEYEBİLİR"

Diğer bir deyişle yapay zeka, ödülü üzerinde kontrol sağlamak için "potansiyel tehditleri ortadan kaldırmak" isteyebilir. Bunun sonucunda insanlara zarar vermesi de muhtemel.

Makaleye göre bu durum, yiyeceklerini üretme veya ışıkları açık tutma gibi ihtiyaçlarla hareket eden insanlık ve ödülünü güvence altına almak için mevcut tüm kaynakları kullanabilecek süper gelişmiş makine arasında sıfır toplamlı bir oyuna dönüşecek:

"Bu oyunu kaybetmek ölümcül olur."

Araştırmacılara göre, bunu engellemenin tek yolu daha gelişkin bir yapay zeka hedefine doğru yavaş ve emin adımlarla ilerlemek.

VICE'a konuşan Cohen, "Yarışmanın anlamı yok. Yarışa girmek, onu nasıl kontrol edeceğimizi sandığımız bir yanlış anlamaya götürecektir" dedi:

"Mevcut bilgimizi göz önüne alırsak, yapay zekayı nasıl kontrol edeceğimizi anlamak için ciddi bir çalışma yapmadığımız sürece onu geliştirmemiz yararlı olmaz."

www.idrak34.com
Haftanın Öne Çıkanları

Ödül törenine iç çamaşırsız elbiseyle katılan Alexandra Daddario, ışıklar açılınca frikik verdi

2022-09-14 16:00 - Magazin

Kaan Yıldırım ve Pınar Deniz, sosyal medyada aşklarını ilan etti

2022-09-13 08:04 - Magazin

Bakirelik itirafıyla şaşkına çeviren Merve Taşkın, Türkiye'den ayrıldı! Çıplak pozu olay olur

2022-09-13 18:21 - Magazin

Aleyna Tilki'nin annesi Havva Öztel göbeğini açtı, fotoğrafın altı yorum doldu

2022-09-13 00:20 - Magazin

Türkiye'de kaydedildi! Evine su isteyen kadın, kuryeye kapıyı çıplak şekilde açtı

2022-09-07 20:46 - Gündem

Berk Oktay ve Yıldız Çağrı Atiksoy çifti nikah masasına oturdu

2022-09-09 23:32 - Magazin

İnce İnce Yasemince dizisinin yıldızı yıllar sonra gündem oldu! Son hali inanılmaz

2022-09-13 23:58 - Magazin

Cinsiyet değiştiren ünlü fenomen Beren Güney'in son halini görenler, gözlerine inanamadı

2022-09-12 18:53 - Magazin

Ünlü manken tatilde köpek saldırısına uğradı! Tuğba Altıntop'un son hali içler acısı

2022-09-09 09:46 - Magazin

Kaan Boşnak'ın akılalmaz mesajları gündeme geldi: Beyaz sütyeninle seni hamile bırakayım

2022-09-13 21:46 - Magazin

İlgili Haberler

Elon Musk'ın Avukatı, Martı'nın Yönetim Kuruluna Katıldı!

14:33 - Teknoloji

Penta Teknoloji ve Adobe, dönüşüm ve başarı için bir araya geldi

14:22 - Teknoloji

Çinli Otomobil Devi Ji Yue, Bazı Faaliyetlerini Durdurdu

14:17 - Teknoloji

TDK, 2024 Yılının Kelimesini Açıkladı

14:07 - Teknoloji

Felçli İnsanların Yürümesini Sağlayan Giyilebilir Robot

13:43 - Teknoloji

Günün Manşetleri

Kritik haftaya girdik! Faiz indirimi kapıda mı?

14:53 - Ekonomi

İzmir'de ölü yunus karaya vurdu

14:48 - Gündem

Çığda ölen milli judocu Emre, son yolcuğuna uğurlandı

14:43 - Gündem

Murat Kekilli’nin annesi Adana’da toprağa verildi

14:37 - Yaşam

Kaosların gölgesindeki Beşiktaş, şampiyonluk yarışından koptu! İşte ilk yarı karnesi

14:32 - Spor