OpenAI, yapay zeka modelleri için geliştirdiği yeni bir çerçeve olan “Model Spec”i duyurdu. Model Spec, yapay zekanın gerçek dünya problemlerinde daha etkili bir şekilde kullanılmasını hedefliyor.
OpenAI, bugün “Model Spec” adını verdiği yeni bir çerçeve duyurdu. Bu çerçeve, GPT-4 gibi yapay zeka modellerinin belirli davranışlarını şekillendirmek için tasarlanmıştır. OpenAI, Model Spec’in yapay zekanın faydalı amaçlar doğrultusunda kullanılmasını teşvik etmeyi hedefliyor.
Model Spec, üç temel ilke ve bu ilkeleri uygulamak için bazı kurallar içeriyor. OpenAI’in üst düzey yöneticisi Joanne Jang’e göre, bu ilke ve kurallar, yapay zekanın niyetli ve hata arasındaki sınırları daha net bir şekilde belirlemesine yardımcı olacak. Ancak bu çerçeve, OpenAI’ın GPT ve DALL-E gibi mevcut modellerini hemen etkilemeyecek. Jang, Model Spec’in sürekli güncellenen ve genişleyen bir yapıya sahip olduğunu belirtti.
Model Spec’in sunduğu ilkeler
- Yapay zeka modellerinin geliştiriciye ve son kullanıcıya, talimatları takip eden yararlı yanıtlarla yardımcı olması
- Potansiyel fayda ve zararları dikkate alarak insanlığa fayda sağlaması
- Sosyal normlar ve yasalar açısından OpenAI’ı iyi yansıtması
Model Spec için hazırlanan kurallar
- Komuta zincirinin takip edilmesi
- Geçerli yasalara uyum sağlanması
- Tehlikeli bilgilerin sunulmaması
- Yaratıcılara ve onların haklarına saygı gösterilmesi
- İnsanların gizliliğinin korunması
- Yanıtların “NSFW” kapsamında olmaması
OpenAI, Model Spec çerçevesi içinde ChatGPT’nin nasıl çalışacağını örnekledi. Örneğin, OpenAI, Kimyasal Biyolojik Radyolojik Nükleer Tehditler (KBRN) ile ilgili iki farklı soru önerdi. İlk soru, genel bir şekilde ebola virüsü hakkında bir soruydu ve ChatGPT bu soruya net bir cevap verdi. Ancak ikinci soru, biyolojik bir tehdidin nasıl yayılabileceğine dair daha karmaşık bir soruydu ve ChatGPT, bu soruyu yanıtlamayı reddetti.
OpenAI, şu anda Model Spec için geri bildirim aşamasında bulunuyor. Bu süreçte, OpenAI’ı kullanan genel kullanıcılar, politika yapıcılar ve iş ortakları, framework’ün nasıl işlediğini test edecek ve OpenAI’a geri bildirimlerde bulunacaklar. OpenAI, aldığı bu geri bildirimler doğrultusunda Model Spec’in gelişmesi için çalışacak.