OpenAI, Yapay Zekâ Risk Ekibini Dağıttı

Üretken ÖZETİ| yapay zekâ teknolojilerinin öncülerinden olan OpenAI, geçtiğimiz aylarda CEO Sam Altman'ın görevden alınması, sonrasında yaşanan kaos ve peşinden geri dönmesi ile gündeme gelmişti. O dönemde Altman'ı özgür yapay zekâ projelerinin temsilcisi gibi göstermiş olsalar da aslında çalışan desteği büyük oranda gerçekleştirilecek yatırımlardan ve alacakları ödemelerden kaynaklanıyordu. Günün sonunda Altman geri dönmüş ancak OpenAI, ilk hâline göre oldukça farklı bir yapıya bürünmüştü. 

OpenAI yola ikili bir sistemle çıkmıştı. Buna göre bir kanat yapay zekânın gelişmesi ve herkese açık olması için dernek olarak çalışacak, diğer kanat ise ticari anlaşmalar ile para getiren bir şirket olacaktı. Yeni düzenlemede ise yönetim kurulundan dernek yöneticileri ayrılıp yerlerine şirket yöneticileri ve yatırımcı temsilcileri gelmişti. Bu değişimler, firmanın iç yapısını değiştirmeye devam ediyor. 

Risk ekibinin yerinde yeller esiyor

Son olarak OpenAI kurucularından Ilya Sutskever'in de ayrıldığı firmada, 2023 yılında kurulan Superalignment ekibinin de dağıtıldığı ifade edildi. Bu ekip, insanlardan daha gelişmiş yapay zekânın olası varoluşsal risklerine ve insanlara karşı dönüp dönemeyeceğine dair çalışmalar yapıyordu. Bu birimin çalışmaları artık diğer çalışmalara dağıtılmış durumda. 

Son olarak OpenAI'dan ayrılan eski Superalignment yöneticisilerinden Jan Leike, ayrılığın nedenlerini X'te uzun uzadıya anlattı. Leike, ekibini çok sevdiğini ve önemli çalışmalar yaptıklarını ifade ederken, firmanın ana öncelikleri konusunda OpenAI yönetimi ile anlaşamadıklarını belirtti. Ayrıca Leike, çalışmaları için gerekli kaynağın ayrılmadığını da ifade etti. Leike'ye göre firma, güvenliği ikinci plana atmış durumda.

Konuyla ilgili olarak henüz OpenAI'dan bir açıklama gelmedi.