İnsanlarla tıpkı bugün olduğu gibi sohbet eden bu bot, ne oldu da mucidini kendisine düşman yapmıştı?
Ya da sanılanın aksine Joseph Weizenbaum onun değil, teknolojinin düşmanıydı…
ELIZA, basit bir dil işleme programıydı.
MIT’nin laboratuvarlarında dünyanın ilk sohbet botu ELIZA’yı geliştiren Joseph Weizenbaum, yapay zekânın sınırlarını keşfederken aslında insan doğasına dair çarpıcı gerçeklerle de yüzleşmişti. Bu bot, kullanıcının cümlelerindeki anahtar kelimeleri yakalıyor ve sorulara dönüştürüyordu.
Tıpkı ChatGPT ile gerçekleştirdiğimiz sohbet tadında, ELIZA’ya da “Hayat çok kötü” dediğimizde, “Neden kötü hissediyorsun?” diye sorarak diyaloğu sürdürebiliyordu. Weizenbaum bu deneyi başlattığında, amacı insanların bir makineyle nasıl etkileşim kuracağını gözlemlemekti.
Ancak ELIZA’nın yarattığı etki, beklenmedik boyutlara ulaşmıştı.
Programın en ünlü senaryosu DOCTOR, psikoterapist Carl Rogers’ın yansıtıcı dinleme tekniklerini taklit ediyordu. İnsanlar, ekran karşısında bir terapistle konuşuyormuşçasına duygularını ELIZA’ya açıyorlardı.
Bu durum ise Weizenbaum’u rahatsız etmişti. İnsanların, hiçbir gerçek anlayış yeteneği olmayan bir yazılıma bu kadar kolay güvenmesi, onu yapay zekânın etik boyutunu sorgulamaya sevk etti. “ELIZA Etkisi” adını verdiği bu olgu, insanların teknolojiye atfettiği anlamın, tehlikeli bir yanılsamaya dönüşebileceğini anlatmaya çalışıyordu.
Weizenbaum, ELIZA’nın başarısının ardından kariyerinde radikal bir dönüşüm yaşadı.
1976’da yayımladığı Computer Power and Human Reason adlı kitabında, insan ile makine arasındaki ontolojik farkı vurguluyordu. Ona göre bilgisayarlar, yalnızca “hesaplama” yapabilirdi. İnsanın sahip olduğu “yargı” yetisi ise deneyimlerden, ahlaki değerlerden ve tarihsel bağlamdan besleniyordu.
Tüm bu sebeplerden dolayı Weizenbaum, yapay zekânın insan hayatının belirli alanlarına müdahalesini “ahlaki bir sapkınlık” olarak nitelendirmeye başlamıştı.
Herkes, bu görüşlerinden sonra Weizenbaum’u teknoloji düşmanı ilan etti.
Weizenbaum’un öngörüleri ise bugün ChatGPT gibi dil modelleriyle yeniden gündeme geliyor. Günümüzde insanlar, bu araçlara duygusal bağlanıyor, kişisel sorunlarını anlatıyor, fal bile baktırıyor.
Özellikle TikTok gibi mecralarda “ChatGPT’ye şunu sorun, verdiği cevaba inanamayacaksınız” gibi birçok akımı görmemiz mümkün. Hâl böyle olunca, Weizenbaum’un neden böyle düşündüğünü anlamamak mümkün değil.
Weizenbaum’a göre insanlık, teknolojiyi yönetmek yerine ona boyun eğdikçe, kendi insanlıklarını da kaybediyor. Bu düşüncesini de çok güzel bir örnekle destekliyor: Bir askerin, drone ile öldürdüğü insanları görmemesi, vicdani sorumluluğunu azalttığı için onu daha duyarsız bir hâle getirebiliyor.
Aslında o, teknolojik ilerlemeye değil; onun, insani değerlerin önüne geçmesine karşıydı.
“Bilgisayarlar bize ne yapmamız gerektiğini söylememeli, sadece nasıl yapacağımızı göstermeli” fikrine hâkim olan mucit, ELIZA’yı yaratmasına rağmen yapay zekânın karanlık potansiyelini ilk görenlerden de birisiydi.
Artık ChatGPT ile sohbet ederken belki Weizenbaum’un şu sözlerini hatırlarız:
“Bir şeyi yapabiliyor olmamız, yapmamız gerektiği anlamına gelmez. İnsan olmanın anlamını korumak, teknolojiden daha değerlidir.”
Kaynaklar: 1, 2, 3ChatGPT ile ilgili diğer içeriklerimiz: