OpenAI, hizalama ve özyinelemeli iyileştirmeye odaklanan küresel yapay zeka standartları öneriyor
Bu öneri, bir Anthropic araştırmacının kamuoyunda eleştirileriyle tetiklenen gelişmiş yapay zeka güvenliği üzerine daha geniş bir tartışmanın ardından geliyor.
CNBC'ye göre, OpenAI, yapay zeka için küresel standartların geliştirilmesini önerdi; bunlar arasında hizalama ve özyinelemeli kendini geliştirme konusunda rehberlik de var.
Öneri, yapay zeka güvenliği üzerine daha geniş bir tartışma ortasında geliyor. Sunulan maddede, Jacob Coxon'un yaklaşık iki hafta önce Anthropic ve OpenAI'nin kabul edilemez riskler aldığını savunduğu bir gönderinin uluslararası tartışmayı tetiklediği belirtiliyor.
Alıntı, OpenAI'nin standart önerisinin tam metnini sunmuyor veya herhangi bir küresel çerçevenin nasıl müzakere edileceğini veya uygulanacağını tanımlamıyor. Bu nedenle rapor, tamamlanmış bir uluslararası anlaşma yerine ortaya çıkan bir politika girişimine işaret ediyor.
Kaynaklar
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
OpenAI Altı Yeni Güvenlik Sorunu Açıkladı, Gelecekteki Olayları Bildirme Planını Duyurdu
AI şirketi, ek güvenlik endişeleri belirlediğini ve modellerinin "uyumsuz davranış" gösterdiği durumları takip etmek, araştırmak ve bildirmek için bir sistem başlatacağını söyledi
Yapay Zeka Liderleri Daha Yavaş Geliştirme ve Daha Sıkı Denetim Çağrısında Bulunuyor
Deutsche Welle Arabic'e göre, OpenAI'nin halka açık listeleme planlarını zamanlamanın doğru olmadığını söyleyerek rafa bıraktığı bildirildi.
British Columbia, Tumbler Ridge'deki okul saldırısı nedeniyle OpenAI ve Sam Altman'a dava açtı
Kanada eyaleti, ölümcül Şubat saldırısının OpenAI'nin tetikleyicinin ChatGPT kullanımını polise bildirmesi halinde önlenebileceğini iddia ediyor.
Kanada: British Columbia, ChatGPT'nin Tumbler Ridge okul saldırısındaki iddia edilen rolü nedeniyle OpenAI'ye dava açtı
Kanada eyaleti, OpenAI'nin ChatGPT ile yapılan bir kullanıcının konuşmalarından gelen uyarı işaretlerini görmezden geldiğini ve chatbotun güvenlik uygulamalarında değişiklik talep ettiğini iddia ediyor.
Kanada eyaleti, Tumbler Ridge'deki saldırıdan sonra OpenAI'ye dava açtı
British Columbia, Kaliforniya merkezli şirketi, dokuz kişinin hayatını kaybettiği bir silahlı saldırıdan önce ChatGPT'de yapılan tehditlere kolluk kuvvetlerini uyaramamakla suçluyor.
OpenAI, şirketin açık problemlerdeki yapay zeka ilerlemesini raporlamasıyla matematik danışmanlık grubu oluşturuyor
Şirket, sistemlerinin 100'den fazla açık matematik problemi çözdüğünü, yeni grubun ise araştırma yönlendirmeden tavsiye vereceğini söylüyor.
Comments
Loading comments…