Milyar dolarlık startup OpenAI, olayların inişli çıkışlı gidişatına yabancı değil. Şirketin bazı üyeleri, ChatGPT’nin arkasındaki firmanın artık yapay zekanın yayılmasına ve hesap verebilirlik olmadığı takdirde bunun neden olabileceği etkiye karşı dikkatli olmadığını hissettikleri için ayrıldılar. OpenAI’nin gelecekte daha sorumlu bir yaklaşım benimseyecek bir ‘Emniyet ve Güvenlik Komitesi’ kurduğunu duyurmasının bir nedeni de bu olabilir.
Yeni Emniyet ve Güvenlik Komitesi, aralarında CEO Sam Altman’ın da bulunduğu OpenAI üyelerinden oluşuyor
Şirketin duyuru gönderisinde, Bret Taylor, Adam D’Angelo, Nicole Seligman ve diğerleri gibi çeşitli OpenAI yönetim kurulu üyelerinin komite üyesi olduğu ve önümüzdeki üç ay boyunca girişimin güvenlik süreçlerini değerlendirmekten sorumlu olacağı belirtiliyor. Ekip üyeleri daha sonra bulgularını incelenmek üzere tüm OpenAI yönetim kuruluyla paylaşacak. Emniyet ve güvenliğe uygun kabul edilen öneriler daha sonra yayınlanacaktır.
“OpenAI yakın zamanda bir sonraki öncü modelini eğitmeye başladı ve ortaya çıkan sistemlerin bizi AGI yolunda bir sonraki yetenek seviyesine taşıyacağını öngörüyoruz. Hem yetenekler hem de güvenlik açısından sektör lideri modeller oluşturup piyasaya sürmekten gurur duysak da, bu önemli anda güçlü bir tartışmayı memnuniyetle karşılıyoruz.
Emniyet ve Güvenlik Komitesinin ilk görevi, önümüzdeki 90 gün boyunca OpenAI süreçlerini ve korumalarını değerlendirmek ve daha da geliştirmek olacak. 90 günün sonunda Emniyet ve Güvenlik Komitesi tavsiyelerini tüm Kurulla paylaşacak. Kurulun tamamının incelemesinin ardından OpenAI, emniyet ve güvenlikle tutarlı bir şekilde kabul edilen önerilere ilişkin bir güncellemeyi kamuya açıklayacak.”
OpenAI, özellikle organizasyonun güvenlik tarafında olmak üzere kısa sürede çeşitli sapmalara tanık oldu. İstifalarının nedeni, şirketin yapay zekanın giderek daha yetenekli hale gelmesi konusunda sorumlu davranacağına dair güveni kaybetmesi.
Dikkate değer kişilerden biri, Altman’ın yapay zeka tarafından desteklenen çeşitli ürünleri piyasaya sürme konusundaki takıntısı nedeniyle, ancak her türlü durum tespiti pahasına bu yılın Mayıs ayında ayrılan OpenAI’nin kurucu ortaklarından Ilya Sutskever’di.
Ancak OpenAI, yapay zeka düzenlemesini tercih etti ve hatta şirket içi bir lobiciyi işe aldı. Ayrıca ABD İç Güvenlik Bakanlığı, Sam Altman’ın yeni oluşturulan Yapay Zeka Güvenlik ve Güvenlik Kurulu üyeleri arasında yer alacağını duyurdu ve bu da şirketin vizyonu konusunda kararsız olan herkesin güvenini artırabilir. Geriye sadece bu yeni ‘Emniyet ve Güvenlik Komitesi’nin işini ne kadar ciddiye aldığının görülmesi kalıyor. Görünüşe göre bunu 90 günlük pencereden sonra öğreneceğiz.
Haber kaynağı: OpenAI
0 Yorumlar