Bağımsız bir geliştirici, yapay zekâ modellerinin eğitimini zorlaştıracak bir projeye imza attı. "Nepenthes" olarak isimlendirilen bu proje, internet sitelerine entegre edildiği zaman yapay zekâ modellerini sonsuz bir döngünün içerisine sokuyor.
Yapay zekâ modellerini iyileştirmenin tek yolu, onları sonsuz büyüklükte verilerle eğitmek. Şirketler, bunu yapmak için de internet sitelerini kullanıyorlar. İşte Nepenthes, tam olarak buna odaklanıyor. Diyelim ki bir internet sitesine sahipsiniz ve Nepenthes'i entegre ettiniz. OpenAI'ın GPT modeli de bir şekilde sizin sitenizdeki verilere ulaştı. Nepenthes'in tuzağına düşen model, verilere ulaşmaya çalışırken kendini sonsuz bir döngü içerisinde bulacak ve boşu boşuna güç tüketecek.
Hem kötü amaçlı hem değil
404media'ya konuşan geliştirici, bunun teknik olarak kötü amaçlı bir algoritma olduğunu kabul ediyor. Ancak algoritmanın kullanım amacı, yapay zekâ şirketlerinin hiçbir kural tanımadan model eğitmesini engellemek. Hâl böyle olunca Nepenthes, aslında o kadar da kötü amaçlı değil.