OpenAI'dan Yapay Zekânın Risklerine Yönelik Yarışma - Webtekno

Son ÖZETİ| dönemin en öne çıkan teknolojileri arasında yer alan üretken yapay zekâlar için her şey güllük gülistanlık değil. Sahte görseller oluşturanlar, deepfake teknolojisini kullananlar yapay zekâları kötü amaçları için kullanabiliyordu. Şimdi buna farklı şekillerde yapay zekâyı manipüle edenler de eklendi. OpenAI, bu türden kullanımlara önlem almak için kitlelerin yardımına ihtiyaç duyuyor. 

Firmadan yapılan açıklamada, "Hazırlıklılık takımı" gibi ilginç isimli bir takım kurulduğu belirtilirken, bu ekibin amacının hem gerçek hem de varsayımsal riskleri azaltmak olduğu ifade edildi. Riskleri azaltmanın bir aşaması olarak da herkesten yapay zekâya saldırmaları istendi.

25 bin dolarlık ödül var

OpenAI, yapay zekânın potansiyelinin farkında ve yapay zekânın gelecekte, en gelişmiş modellerle birlikte tüm insanlık için faydalı bir araç olacağına inandığını açıklarken, bir yandan da bu teknolojinin taşıdığı riskin farkında olduklarını ifade ediyor. OpenAI'a göre bu riskler sadece sibergüvenlik ile de sınırlı değil, işin içinde kimyasal, biyolojik, radyolojik ve nükleer tehditler de bulunuyor. 

Firma, olası açıklara ve kötü niyetli kullanımlara karşı önlem almak için "AI Preparedness Challange" adını verdiği bir meydan okuma hazırladı. Bu meydan okumada kötü niyetli kişiler biz olacağız ve sonrasında programı kullanabildiğimiz kadar kötü niyetli kullanacağız. En "yıkıcı şekilde kötüye kullanım" gösteren kişiler ödül kazanacak. Bu ödül, 25 bin dolarlık API kredisi ve şirkette çalışma fırsatı olacak. Ayrıca yapılan çalışmalar da yayımlanacak. 

Meydan okuma zorlu gözüküyor

Burada bulunan formdan başvuru yapan kişiler, firmanın sağladığı destekle tüm OpenAI platformlarına erişebilecek. Sonrasında da bu platformları tamamen sömürmeye, istismar etmeye çalışacak olan kişiler, buldukları sorunların nasıl ortaya çıktığını ve nasıl engellenebileceğini de açıklayacak. 

Açıkçası verilecek olan ödüller pek de insanın iştahını kabartan cinsten ödüller değil ancak yeterince zamanınız varsa ve böyle bir açığı engelleyebileceğinizi düşünüyorsanız mutlaka denemeye değer.