Anthropic ve OpenAI, Güvenlik Değerlendiricilerini Yapay Zeka Laboratuvarlarına Yerleştirmeyi Önerdi

TechCrunch'ın bir raporuna göre Anthropic ve OpenAI, bağımsız güvenlik değerlendiricilerini doğrudan kuruluşlarının içine yerleştirmeyi önermiştir. Bu plan, dış araştırmacılara şirketlerin yapay zeka sistemlerine ve geliştirme süreçlerine daha önce sunulmamış şekillerde erişim sağlayacaktır.

TechCrunch, araştırmacıların önerilen erişim düzeyini memnuniyetle karşıladığını ve bunu yapay zeka endüstrisi için benzeri görülmemiş olarak nitelendirdiğini bildirmiştir. Ancak, aynı araştırmacılar erişimin tek başına anlamlı denetimi garanti etmediği konusunda uyarıda bulunmuştur.

Rapora göre uzmanlar, gömülü değerlendiricilerin gerçek güvenlik kontrolleri sağlaması için, değerlendiricilerin bulgularına ilişkin şeffaflık, değerlendirilen şirketlerden yapısal bağımsızlık ve nihayetinde harici düzenlemenin başlatılması dahil olmak üzere birkaç koşulun karşılanması gerektiği konusunda uyarı vermiştir.

Rapor, bir şirket içine gömülü değerlendiricilerin, değerlendirmek için görevlendirilmiş oldukları kuruluşlara olan yakınlığı ve bağımlılığı göz önünde bulundurulduğunda, gerçekten bağımsız kalıp kalamayacakları sorusunu gündeme getirmektedir. TechCrunch'ın raporlaması, bu girişimi yapay zeka laboratuvarlarının sistemleri gittikçe güçlendiğinde kendilerini inanılır bir şekilde denetleyip denetleyemediklerinin bir sınavı olarak sunmaktadır.

Ne Anthropic ne de OpenAI'nin bu değerlendiricilerin kapsamı, finansmanı veya yetkisine ilişkin spesifik taahhütleri mevcut raporlama içinde belirtilmiştir. TechCrunch, bu tür gömülü değerlendirme programlarının ne zaman uygulanabileceğine dair bir zaman çizelgesi belirtmemiştir.