Anthropic kurucu ortağı yapay zekanın zorunlu 'kapatma düğmesi' tartışmasını çağırıyor
Jack Clark, tehlikeli yapay zeka sistemlerini kapatmak için bağımsız olarak doğrulanabilir bir mekanizmanın gerekli olabileceğini söylüyor.
Yapay zeka güvenliği şirketi Anthropic'in kurucu ortağı Jack Clark, yapay zeka sistemleri için zorunlu bir "kapatma düğmesi" uygulanması konusunda tartışma başlatılması çağrısında bulunmuştur. Clark, teknoloji ilerledikçe tehlikeli yapay zekanın kapatılması için bağımsız olarak doğrulanabilir bir yolun gerekli olabileceğini savunuyor.
Bu öneri, geliştiricilerin sadece iç denetim mekanizmalarına güvenmek yerine, risk oluşturduğu düşünülen yapay zeka sistemlerini devre dışı bırakmak için harici mekanizmalar oluşturmayı hedeflemektedir.
Kaynaklar
- Anthropic co-founder says mandatory AI ‘kill switch’ may be needed: Report — Anadolu Agency (Turkey)
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
Kongre, Yapay Zeka Düzenlemesi Konusunda Harekete Geçmek İçin Artan Baskı Altında
NPR Haber, milletvekillerinin yapay zeka gözetimini dikkate almaya daha fazla istekli olduğunu bildiriyor; ancak mevzuata giden yol belirsiz kalmaktadır.
Yapay Zeka Yöneticilerinin Düzenlemeye Yönelik Halka Açık Çağrıları Tekrarlayan Bir Deseni Yansıtıyor, Rapor Söylüyor
The Verge'den yeni bir analiz, öncü yapay zeka şirketi yöneticilerinin halkaya karşı ihtiyatlılık ve gözetim çağrısı yaparken firmalarının hızlı geliştirme faaliyetlerine devam ettiği tanıdık bir döngüyü ortaya koymaktadır.
Temsilci Chip Roy: Kongre Yapay Zekayı Düzenlemeli Değil, Denetlemeli
Teksas Cumhuriyetçisi yapay zeka konusunda kongre duruşmalarını destekliyor ancak yeni düzenleyici önlemleri onaylamaktan kaçınıyor
Blumenthal, Yapay Zekanın Kontrolünün Kaybedileceği Konusunda Uyarıyor, Denetim Gereğini Vurgulayarak
Demokrat senatörün uyarısı, Trump yönetiminin Çin'e karşı yapay zeka üstünlüğünü ana ulusal öncelik olarak çerçevelemesi sırasında geldi.
Rapor: Anthropic'in Claude Modeli Araştırmacıların OpenAI Sistemlerine Sızmasına Yardımcı Oldu
Siber güvenlik firması Hacktron, Anthropic'in Claude yapay zeka modelini kullanarak OpenAI'ın iç kod deposuna eriştiğini ve bulduğu açıkları raporlamadan önce bunu bildirdiğini söylüyor
Guardian Podcast'i Trump'ın Uyarılara Rağmen Yapay Zeka Endüstrisine Desteğini İnceliyor
Yeni bir bölüm, Başkan Trump'ın tech yöneticileri tarafından yapay zeka güvenliği için yapılan çağrıları neden görmezden geldiğini inceliyor; bu sırada sektörün bazı temsilcileri ciddi riskler konusunda uyarıyor.
Comments
Loading comments…