Meta, geçtiğimiz Salı günü Galactica adlı yapay zekasının bir demosunu yayınlamıştı. Bu yapay zekanın “bilimsel bilgiyi depolamak, birleştirmek ve değerlendirebilmek” amacıyla geliştirilmiş bir büyük dil modeli kullandığı belirtilmişti. Görünüşe göre bu yapay zeka henüz hazır değil.
Demo sürümünü deneyen kullanıcılar, yapay zekanın mantıklı gibi gözükse de herhangi bir anlamı olmayan, anlamsız cümleler kurduğunu ifade etti. Ayrıca yapay zekanın ırkçı olabildiği yönünde de etik açıdan eleştirilerde bulunuldu. Meta da yapay zekanın demo erişimini sonlandırdı.
Yapay zekanın sorunu ne anlattığını anlamamak mı?
LLM adı verilen büyük dil modellerine aslında o kadar da yabancı değiliz, OpenAI’ın GPT-3 gibi yapay zekaları verimli çalışıyor gibi gözüküyor, hatta öğrencilerin ödevlerini yapmakta kullandığı bir araç olarak görülüyor. Bu modeller milyonlarca metni okuyarak sözcüklerin arasındaki bağı istatistiksel olarak ortaya çıkarıyor ve sonrasında da yeni metinler ortaya çıkarıyor. Yani yapay zeka size bir hamburger tarifi verecekse yazdığı sos, köfte, ekmek ve diğer malzemeler değişiyor olsa da tarifte mutlaka sos, köfte, ekmek yer alıyor.
Meta’nın Galactica adlı yapay zekası, 48 milyondan fazla makale, ders kitabı ve ders notu, bilimsel site içeriği, ansiklopedi içeriyor. Meta’ya göre yapay zekayı beslemede kullanılan yüksek kaliteli içeriğin yüksek kaliteli çıktı vermesi bekleniyor.
Hedeflerin aksine bilimsel değeri olmayan metinler ortaya çıktı.
Yapılan denemelerin sonuçları ise hiç de beklendiği gibi değil. Yapay zeka; taraflı, otoriter bir tona sahip ancak gerçek anlamda bilimsel bir değeri olmayan metinler yazıyor. Ayrıca yaptığı atıflar da gerçekte olmayan yazarlara ve makalelere ait olabiliyor. Bu da ciddi bir sorun oluşturuyor.
Hamburger örneğinden devam edersek yapay zeka bize tarif verdiğinde ekmek olarak pasta tabanı, sos olarak enginar püresi, köfte olarak gergedan kıymasından yapılmış köfte içeren bir tarif veriyor. Bu tarifi de doğru hamburger böyle yapılırmış gibi bir tonlamayla aktarıyor. Referansları ise yarı gerçek, yarı uydurma olarak seçiyor.