CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor

Anthropic ve OpenAI, CNBC tarafından yayınlanan bir rapora göre, yapay zeka modellerinin toplumsal felaketler yaratması riskini yönetmeye yardımcı olmak için yerleşik AI değerlendiricilerini kullanmayı önermiştir.

Rapor, bu öneriyi artan kabiliyetlere sahip yapay zeka sistemleriyle ilişkili güvenlik endişelerine çözüm bulmak için AI endüstrisi içinde ortaya çıkan bir fikir olarak tanımlamaktadır. Bu yaklaşımın altında, potansiyel riskleri değerlendirmek ve önemli hasara dönüşmeden önce bunları işaretlemek için modellere veya sistemlere yerleştirilmiş AI tabanlı değerlendiriciler yer almaktadır.

Ancak CNBC'nin raporu, bu konseptin dikkatli incelemeyi hak eden belirgin sorunlarla karşı karşıya olduğunu göstermektedir. Rapor, mevcut alıntıda bu endişelerin tüm kapsamını detaylandırmamakla birlikte, önerinin güvenliği artırmaya yönelik olsa da henüz tam olarak çözülmemiş yeni riskler veya sınırlamalar getirebileceği şekilde sunulmaktadır.

Anthropic ve OpenAI, gelişmiş yapay zeka modellerinin önde gelen geliştiricileri arasında yer almakta ve her ikisi de daha önceden AI geliştirme konusundaki halka yönelik mesajlarının bir parçası olarak güvenlik araştırmasını vurgulamıştır. Şirketler, mevcut alıntıda değerlendiricinin önerisinin özellikleri hakkında doğrudan alıntılanmamıştır.

CNBC'nin raporu, daha geniş yapay zeka endüstrisi ve politika yapıcıların, diğer yapay zeka sistemlerini katastrof riski açısından denetlemek için yapay zeka sistemlerine güvenmenin faydaları ve dezavantajlarını tartması gerektiğini ileri sürmektedir; bu tartışma şirketler yeni güvenlik çerçeveleri keşfetmeye devam ettikçe devam etmesi muhtemeldir.