Üretken yapay zekâ modelleri artık inanılmaz seviyelere ulaşmış durumda. Şu anda ChatGPT gibi sohbet botlarına istediğiniz soruyu sorup yanıt alabiliyorsunuz. Ne isterseniz de sizin için saniyeler içinde hazırlıyor. Tabii ki bu durumun kötüye kullanıldığı da oluyor. Örneğin öğrenciler, ödevlerini yapay zekâya yazdırabiliyorlar. Ya da internette yapay zekâyla yazılan içerikleri sık sık görebiliyoruz.
Yapay zekâyla yazılan metinleri tespit etmeye yarayan birçok araç var. Ancak bunların büyük bir çoğunluğu pek güvenilir yanıtlar vermiyor. Bugün The Wall Street Journal tarafından yayımlanan bir rapor ise OpenAI’ın ChatGPT’yle yazılmış şeyleri tespit etmeyi sağlayacak bir şey geliştirdiğini ortaya koyuyor.
OpenAI, ChatGPT ile oluşturulmuş metinleri tespit etmeyi sağlayan aracı kullanıma sunma konusunda kararsız
WSJ’nin raporuna göre şirket, ChatGPT’yle yazılmış herhangi bir metni tanımlayabilecek araç geliştirdi. Bir OpenAI sözcüsü ise bu aracın geliştirildiğini TechCrunch’a verilen bir demeçte doğruladı. Bu tarz bir araç, ödevleri yapay zekâya yaptırma gibi durumları anlamada çok işe yarayabilir.
Ancak OpenAI bir filigranlama aracı olarak tanımlanan bu teknolojiyi kullanıma sunmadan kararsız. Şirket, aracın ümit verici olduğunu ancak önemli riskleri de beraberinde getirdiğini söylüyor. Kötü amaçlı kişiler tarafından kullanılması veya İngilizce olmayan dillerde orantısız sonuçlar vermeme ihtimali bu riskler arasında. Yani kullanıma sunulup sunulmayacağı belli değil. Ne olacağını zaman gösterecek.
Peki bu araç nasıl çalışıyor?
Aracı biraz açalım. Gelen bilgilere göre şu anki tespit yöntemlerinden çok daha farklı olacak ve daha iyi sonuçlar verebilecek. Araç, sadece ChatGPT ile oluşturulan metinlerde çalışacak. Yani başka yapay zekâlarda çalışmayacak. Modelin seçtiği kelimelerde bazı minik değişiklikler yapacak ve en sonunda onlara “görünmez bir filigran” ekleyecek. Bunun sayesinde de ChatGPT ile oluşturulmuş metinler, farklı araçlar tarafından tespit edilebilecek.
Şirketin bu aracı çıkarıp çıkarmayacağını bilmiyoruz. Ancak yapay zekânın iyice yaygınlaştığı ve bu tarz kullanımların arttığını düşündüğümüzde gerçekten doğru sonuçlar veren bir yöntemin çıkması çok yararlı olacaktır.