Üretken yapay zekâların pek çok alanda kullanıldığını biliyoruz. Bu yapay zekâlardan biri de Pulumi AI. Pulumi'nin amacı ise kod altyapısı oluşturmayı sağlamak. AWS gibi servis sağlayıcıları üzerinden Pulumi AI'den destek alabilmenizi hedefleyen Pulumi, geçtiğimiz günlerde bazı kullanıcı istemlerini ve bu istemlere cevaben üretilen kodları paylaştı.
Aslında Pulumi'nin kodları paylaşmasından yana bir sorun yok, zaten firma da kodların yapay zekâ ile oluşturulduğunu ve hatalı olabileceğini belirtiyor. Bu sorunun nedeni ise Google'ın hatalı kodları endekslemesi ve hatta bu kodların en üst sırada çıkması.
Geliştiriciler, yapay zekânın uydurduğu kodlardan muzdarip
Bir geliştirici, sosyal medya hesabından yaptığı paylaşımda "Sonunda oldu. Bir numaralı Google arama sonucu, bir LLM tarafından yazıldığı belli olan (uyarı vardı) ve olmayan bir AWD özelliğini halüsine etmiş resmî bir Pulumu döküman sayfası oldu. Sonun başlangıcı." ifadelerini kullandı.
Normal şartlar altında da altyapı kodlarını bulmanın oldukça zor olduğunu, bulunan kodların da eski, eksik, hatalı ya da bozuk olduğunu belirten geliştiriciler, yapay zekânın da bu durumu daha kötü hâle getirdiğini ifade etti. Öte yandan bu durum sadece onları etkileyen bir sorunmuş gibi gözükmüyor.
Genel olarak yapay zekâ ile üretilmiş ancak doğruluğu kontrol edilmemiş bilgiler internete yayılıyor ve gerçek bilgiyi de hızlıca ekarte ediyor. Daha sonraki iterasyonlar da bu bilgileri doğruymuş gibi kullanıyor.
Pulumi'nin bugüne kadar 100 binden fazla yapay zekâ cevabını sistemden kaldırdığı ve temizlik yapmaya devam edeceği de belirtiliyor.