OpenAI baş teknoloji sorumlusu Mira Murati, hükümet düzenleyicilerinin ChatGPT gibi gelişmiş yapay zeka modellerinin konuşlandırılması için güvenlik standartlarının geliştirilmesine “çok dahil olması” gerektiğine inanıyor.
Ayrıca, geliştirme için önerilen altı aylık bir duraklamanın daha güvenli sistemler oluşturmak için doğru yol olmadığına ve endüstrinin şu anda yapay genel zekaya (AGI) – yapay bir aracının yapabileceği varsayımsal bir entelektüel eşik – ulaşmaya yakın olmadığına inanıyor. insan düzeyinde biliş dahil olmak üzere zeka gerektiren herhangi bir görevi yerine getirmek. Onun yorumları bir röportaj Associated Press ile 24 Nisan’da yayınlandı.
İlgili: Elon Musk, gerçeği arayan yapay zeka platformu TruthGPT’yi başlatacak
OpenAI’nin GPT-4’ün piyasaya sürülmesinden önce aldığı güvenlik önlemleri sorulduğunda Murati, şirketin yalnızca makinenin istenmeyen davranışlara olan eğilimini engellemek için değil, aynı zamanda bu tür değişikliklerle ilgili aşağı yönlü endişeleri tespit etmek için eğitime yavaş bir yaklaşım benimsediğini açıkladı:
“Çok dikkatli olmalısınız çünkü başka bir dengesizlik yaratabilirsiniz. Sürekli denetlemeniz gerekiyor (…) O halde yeniden ayarlamanız ve her müdahale yaptığınızda başka nelerin bozulduğunu görme konusunda çok dikkatli olmanız gerekiyor.”
GPT-4’ün kullanıma sunulmasının ardından uzmanlar, bilinmeyen-bilinmeyenler AI’nın geleceğini çevreleyen, artan hükümet düzenlemesinden altı aylık bir ara Küresel yapay zeka gelişimi hakkında.
İkinci öneri, Elon Musk, Gary Marcus ve Eliezer Yudkowski gibi AI alanındaki aydınların dikkatini ve desteğini toplarken, Bill Gates, Yann LeCun ve Andrew Ng gibi birçok önemli isim karşı çıktı.
büyük anlaşma: @elonmuskY. Bengio, S. Russell,@tegmarkV. Kraknova, P. Maes,@Grady_Booch,@AndrewYang,@tristanharris& ben dahil 1.000’den fazla kişi, GPT-4’ü aşan eğitim sistemlerinde geçici bir duraklama çağrısında bulundu https://t.co/PJ5YFu0xm9
— Gary Marcus (@GaryMarcus) 29 Mart 2023
Murati, hükümetin katılımının artırılması fikrine desteğini dile getirerek, “bu sistemlerin düzenlenmesi gerektiğini” belirtti. , en azından şirket düzeyinde, bazı standartlar üzerinde anlaşın.”
Ancak gelişimsel bir duraklama konusunda Murati’nin tonu daha eleştireldi:
“Mektuptaki bazı ifadeler, GPT-4 veya GPT-5’in geliştirilmesiyle ilgili tamamen yanlıştı. GPT-5’i eğitmiyoruz. Önümüzdeki altı ay içinde böyle bir planımız yok. Ve GPT-4’ü aceleye getirmedik. Aslında, tamamen GPT-4’ün güvenli bir şekilde geliştirilmesine ve konuşlandırılmasına odaklanmamız altı ay sürdü.”
Şu anda “GPT-4 ve AGI gibi ürünler arasında bir yol” olup olmadığına yanıt olarak Murati, Associated Press’e “Güvenli, güvenilir, uyumlu bir AGI sistemine sahip olma noktasından çok uzağız” dedi.
Bu, GPT-4’ün AGI ile sınırda olduğuna inananlar için kötü bir haber olabilir. Şirketin şu anda güvenliğe odaklanması ve Murati’ye göre henüz GPT-5’i eğitmemiş olması, gıpta ile bakılan genel istihbarat keşfinin şu an için ulaşılamaz olduğunun güçlü göstergeleri.
Şirketin düzenlemeye artan odaklanması, hükümet incelemesine yönelik daha büyük bir eğilimin ortasında geliyor. OpenAI yakın zamanda GPT ürünlerine sahipti İtalya’da yasaklandı ve yüzleşir Uyum için son tarih 30 Nisan İrlanda’daki yerel düzenlemeler ve AB düzenlemeleri ile – bir uzman, karşılamanın zor olacağını söylüyor.
Bu tür yasaklar, Avrupa kripto para birimi sahnesinde ciddi bir etkiye sahip olabilir, çünkü kripto para birimine doğru artan bir hareket var. gelişmiş kripto ticaret botlarının benimsenmesi GPT API kullanan uygulamalar üzerine kurulmuştur. OpenAI ve benzer ürünler üreten şirketler Avrupa’da yasal olarak faaliyet gösteremezlerse, teknolojiyi kullanan tacirler başka yerlere gitmeye zorlanabilir.