OpenAI Yeni Güvenlik Takımını Duyurdu

OpenAI, ÖZETİ| daha önceki güvenlik ekibinin görevine son vermişti. Sonrasında da firma, CEO'su Sam Altman'ın da dahil olduğu yeni bir güvenlik ekibi kurduklarını açıkladı. Üç kişilik ekipte Altman'ın dışında yönetim kurulu üyeleri Adam D'Angelo ve Nicole Seligman oldu. Komite, "kritik güvenlik ve gizlilik kararlarında OpenAI projelerine ve operasyonlarına tavsiyede" bulunacak. 

Komitenin ilk görevi de belli oldu. Ekip, OpenAI'ın süreçlerini ve güvenlik önlemlerini değerlendirerek ve geliştirerek çalışmalarına başlayacak. Sonrasında da ekibin bulguları OpenAI Yönetim Kurulu ile paylaşılacak. Daha sonra yönetim kurulu bu bilgileri değerlendirerek alınacak aksiyonlara ve izlenecek yöntemlere karar verecek. 

Sutskever'in yerine Altman

OpenAI'ın Superalignment adlı eski güvenlik ekibinin başında Ilya Sutskever yer alıyordu. Sutskever'ın görevden ayrılmasından hemen sonra ekibin diğer lideri olan Jan Leike de firmadan ayrıldığını belirtmişti. OpenAI politika araştırmacısı Gretchen Krueger de istifasını sunmuştu. Yeni güvenlik kurulu ile birlikte OpenAI'nın yeni bir model test ettiği de belirtilmiş ancak bu modelin GPT-5 olup olmadığı belirtilmedi. 

Bu ayın başlarında OpenAI yeni bir ChatGPT ses modeli olan Sky'ı tanıtmıştı. Sky'ın sesinin ünlü oyuncu Scarlett Johansson'a benzerliği büyük tartışma çıkarmıştı. Bu durum hem yapay zekâ hayranlarının hem de uzmanların eleştirisini çekmişti. Yeni güvenlik komisyonunun bu tür sorunlara engel olabileceği belirtiliyor. Kurulda yer alan diğer isimler arasında ise firmanın hazırlık ekibinin başkanı Aleksander Madry, güvenlik ekibinin başı Lilian Weng, eğilim bilimi biriminin başı John Schulman, koruma ekibinin başı Matt Knight ve baş bilim insanı Jakub Pachocki'den oluşuyor.