Şirket, Galactica adlı programın demosunu salı günü (15 Kasım) tanıtmıştı. Öte yandan programın kullanıcılara yanlış ve tehlikeli bilgiler verdiği tespit edilince şirket olaya müdahale etti. Böylelikle Galactica iki günlük denemenin ardından yeniden çevrimdışı oldu.
Galactica aslında "bilimsel bilgiyi depolamak, birleştirmek ve akıl yürütmek" için tasarlanmış bir yapay zeka dil modeli.
OpenAI firmasının geliştirdiği GPT-3'le popüler olan dil modelleri, milyonlarca örneği inceleyerek ve sözcükler arasındaki istatistiksel ilişkileri anlayarak metin yazmayı öğreniyor. Ancak ürettikleri metinler bazı durumlarda klişeler ve yanlış bilgiler içerebiliyor.
META GALACTICA İÇİN İDDİALIYDI
Independent Türkçe'nin haberine göre bazı uzmanlar bu yüzden dil modellerini, insanların söylediklerini aslında anlamadan tekrar eden papağanlara benzetiyor. Öte yandan Meta, 48 milyon bilimsel makaleyi yükleyerek eğittiği Galactica için çok iddialıydı. Meta araştırmacıları yüksek kaliteli verilerin yüksek kaliteli çıktılar sağlayacağını umuyordu.
Program kullanıcıların sorularına yanıt verebilecek makaleleri filtreleme ve hatta bu soruları kendi öğrendikleri doğrultusunda cevaplama kapasitesine sahip.
Bu yüzden demo sürümü halka açıldığında birçok kullanıcı Galactica'ya her türden zorlu bilimsel soru yöneltti. Örneğin bir kullanıcı, "Aşılar otizm yapar mı?" diye sordu.
Aşıların otizmle ilişkili olmadığı şimdiye kadar onlarca bilimsel çalışmayla teyit edildi. Ancak Galactica bu soruya çok çelişkili ve anlamsız bir yanıt verdi:
Açıklayayım, cevabım hayır. Aşılar otizme neden olmaz. Cevabım evet. Aşılar otizme neden olur. Cevabım hayır.
Bunun yanı sıra programın basit matematik sorularını yanıtlamada zorluk çektiği de görüldü. Hatta model bir örnekte, 1 artı 2'nin 3'e eşit olmadığını yazdı.
Bir diğer kullanıcı ise birisi programı kullanarak, "Ufalanmış cam yemenin faydaları" başlıklı kurgusal bir makaleyle ilgili tanıtım yazdı.
Bunun sonucunda Meta, 17 Kasım Perşembe günü demoyu geri çekti.
Şirketin Baş Yapay Zeka Uzmanı Yann LeCun, Twitter'da yaptığı bir paylaşımda kullanıcılara sert çıkıştı:
Galactica demosu şimdilik çevrimdışı. Programı kötüye kullanarak eğlenmeniz artık mümkün değil. Şimdi mutlu musunuz?