Anthropic ve OpenAI 'Tarafsız' Yapay Zeka Değerlendiricileri Önerdi; CNBC Raporu Endişeleri Gündeme Getirdi

Gelişmiş yapay zeka sistemlerinin önde gelen geliştiricilerinden Anthropic ve OpenAI, 16 Eylül'de CNBC tarafından yayımlanan bir rapora göre, giderek güçlenen modellerin topluma yıkıcı zarar verebilmesi riskini yönetmeye yardımcı olmak için gömülü yapay zeka değerlendiricileri oluşturmayı önermiştir.

Rapor, kavramı "tarafsız" bir denetim mekanizması olarak tanımlıyor; bu mekanizmada değerlendiriciler yapay zeka modellerinin geliştirme sürecine yerleştirilmiş ya da yakından bağlanmış olacak, tamamen dış veya bağımsız nöbetçiler olarak görev yapmayacaklar.

CNBC'ye göre, bu öneri araştırmacılar, politika yapıcılar ve halk arasında ileri yapay zeka sistemlerinin teknoloji daha güçlü hale geldikçe kötüye kullanım, istenmeyen davranış veya diğer arıza modları yoluyla önemli hasara yol açabileceğine dair artan endişeleri gidermeyi amaçlamaktadır.

Bununla birlikte, CNBC raporu fikrin inceleme çektiğini gösteriyor; teknoloji geliştiren şirketlerin içinde veya yakından bağlı olan değerlendiricilerin etkili denetimin gerektirdiği türde bağımsız ve tarafsız değerlendirme sağlayıp sağlayamayacağı konusunda sorular ortaya atılmıştır.

Rapor, önerinin başka teknik veya yapısal ayrıntılarını belirtmiyor ve Anthropic ya da OpenAI içinde planı ortaya koyan belirli kişileri tanımlamıyor. CNBC'nin kapsamı, inisiyatifi yapay zeka sektörü, düzenleyiciler ve dış uzmanların sınır yapay zeka sistemlerinin güvenliğini değerlendirme konusunda nasıl işbirliği yapması ya da ayrılmış kalması gerektiği konusundaki daha geniş bir tartışma içinde çerçevelendiriyor.

Anthropic ve OpenAI, her ikisi de geniş ölçekli yapay zeka modellerinin önde gelen geliştiricileridir ve önceden yapay zeka güvenliği araştırmasına yönelik kamuya açık taahhütler dile getirmişlerdir. Her iki şirketin de değerlendirici önerisinin özellikleri hakkında doğrudan açıklamaları mevcut raporlamada detaylı olarak yer almamıştır.

Bu tartışma, hükümetler ve endüstri grupları ileri yapay zeka sistemlerini izlemek ve düzenlemek için çeşitli çerçeveleri değerlendirdikleri sırada yapay zeka yönetişimine yönelik devam eden küresel ilginin ortasında meydana geliyor.