OpenAI, Emniyet ve Güvenlik Komitesi oluşturuyor.
OpenAI inişli çıkışlı olaylara yabancı değil; ChatGPT’nin arkasındaki firmanın yapay zekanın yaygınlaşması ve hesap verebilirlik olmadığı takdirde ne gibi etkilere yol açabileceği konusunda dikkatli davranmadığını düşünen bazı şirket üyeleri şirketten ayrıldı. OpenAI’nin gelecekte daha sorumlu bir yaklaşım benimseyecek bir ‘Emniyet ve Güvenlik Komitesi’ oluşturduğunu açıklamasının bir nedeni de bu olabilir.
Yeni Emniyet ve Güvenlik Komitesi, aralarında CEO Sam Altman’ın da bulunduğu OpenAI üyelerinden oluşuyor
Şirketin duyuru yazısında Bret Taylor, Adam D’Angelo, Nicole Seligman ve diğerleri gibi çeşitli OpenAI yönetim kurulu üyelerinin komite üyesi olduğu ve önümüzdeki üç ay boyunca girişimin güvenlik süreçlerini değerlendirmekten sorumlu olacakları belirtiliyor. Ekip üyeleri daha sonra bulgularını gözden geçirmeleri için OpenAI yönetim kurulunun tamamıyla paylaşacak. Emniyet ve güvenlikle uyumlu olan ve kabul edilen öneriler daha sonra yayınlanacak.
Yapılan açıklama:
“OpenAI kısa süre önce bir sonraki sınır modelini eğitmeye başladı ve ortaya çıkan sistemlerin bizi AGI’ye giden yolda bir sonraki yetenek seviyesine getirmesini bekliyoruz. Hem yetenekler hem de güvenlik konusunda sektör lideri olan modeller inşa etmekten ve piyasaya sürmekten gurur duyarken, bu önemli anda güçlü bir tartışmayı memnuniyetle karşılıyoruz.
Emniyet ve Güvenlik Komitesinin ilk görevi, önümüzdeki 90 gün boyunca OpenAI’nin süreçlerini ve güvenlik önlemlerini değerlendirmek ve daha da geliştirmek olacaktır. Güvenlik ve Emniyet Komitesi, 90 günün sonunda tavsiyelerini Yönetim Kurulu’nun tamamıyla paylaşacaktır. Yönetim Kurulu’nun tamamının incelemesinin ardından OpenAI, emniyet ve güvenlikle tutarlı bir şekilde kabul edilen tavsiyelerle ilgili bir güncellemeyi kamuoyuyla paylaşacaktır.”
OpenAI, kısa bir süre içinde, özellikle kuruluşun güvenlik ayağından çeşitli ayrılmalara tanık oldu. İstifaların nedeni, şirketin giderek daha yetenekli hale gelen yapay zeka konusunda sorumlu davranacağına dair güvenlerini kaybetmeleri. OpenAI’nin kurucularından Ilya Sutskever, bu ay içinde Altman’ın yapay zeka ile güçlendirilmiş çeşitli ürünleri piyasaya sürme takıntısı nedeniyle ayrıldı.
Bununla birlikte, OpenAI yapay zeka düzenlemelerini destekledi ve hatta kurum içi bir lobici tuttu. Buna ek olarak, ABD İç Güvenlik Bakanlığı Sam Altman’ın yeni kurulan Yapay Zeka Güvenlik ve Emniyet Kurulu’nun üyeleri arasında yer alacağını duyurdu ki bu da şirketin vizyonu konusunda tereddütleri olan herkesin güvenini artırabilir. Geriye kalan tek şey bu yeni ‘Emniyet ve Güvenlik Kurulu’nun işini ne kadar ciddiyetle yaptığı. Bunu 90 günlük sürenin sonunda öğreneceğiz gibi görünüyor.