Yapay zeka geliştirmesini yavaşlatmak felaket riskini önlemeyecek, diyor güvenlik araştırmacısı
David Krueger, Anthropic CEO'su Dario Amodei'nin "hızı ayarlama" önerisinin varoluşsal yapay zeka güvenliği kaygılarını ele almak için yetersiz olduğunu savunuyor.
Güvenlik araştırmacısı David Krueger, Anthropic CEO'su Dario Amodei, Sam Altman ve Elon Musk tarafından desteklenen bir ila iki yıllık yapay zeka geliştirme yavaşlamasının ileri düzey yapay zeka sistemlerinin risklerine yeterince cevap vermediğini savunuyor. Krueger'a göre, uzmanlar uzun süredir yapay zeka şirketlerinin bu sistemler için yeterli kontrol mekanizmalarından yoksun olduğunu biliyorlardır ve yalnızca hızı ayarlama bu temel güvenlik açığını ortadan kaldıramaz.
Krueger'ın eleştirisi, Anthropic'ten istifa eden Jacob Coxon'un adımını takip etmektedir; Krueger bunu yapay zeka güvenliği endişelerinin kamuoyu farkındalığında bir dönüm noktası olarak nitelendirmektedir. Endüstrinin geliştirme temposunda önerilen bir yavaşlamadan ziyade, yapay zeka sistemlerinin kontrol edilebilir kalmasını sağlamak için somut bir plana ihtiyaç duyduğunu savunuyor.
Kaynaklar
- ‘Pacing’ won’t eliminate the risk of AI doom. Here’s what could | David Krueger — The Guardian — Business
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
Anthropic ve OpenAI 'Tarafsız' Yapay Zeka Değerlendiricileri Önerdi; CNBC Raporu Endişeleri Gündeme Getirdi
Yapay zeka laboratuvarları, ileri modellerin yol açabileceği yıkıcı risklere karşı koruma için bağımsız değerlendiricilerin kurumun içine gömülmesini önerirken, CNBC raporu bu planın bağımsızlık ve etkinlik konusunda sorular ortaya çıkardığını belirtiyor.
BM Başkanı Dünyaya AI Güvenliğinde 'Yarış Yapamayız' Uyarısı Yaptı
Antonio Guterres, yapay zekânın güvenli, şeffaf ve hesap verebilir kalması için önlemler çağırıyor
Microsoft AI Başkanı Anthropic'in Claude Yaklaşımının 'Felaket' Olabileceği Konusunda Uyarıyor
Mustafa Suleyman, AI modellerini potansiyel olarak bilinçli olarak görmek üzere eğitmenin ileri sistemleri kontrol altında tutmayı zorlaştırabileceğini söylüyor.
CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Microsoft AI Şefi Anthropic'in Yaklaşımının İnsanlık Üzerinde 'Yıkıcı Etki' Yapabileceği Uyarısında Bulundu
Mustafa Suleyman, Anthropic'in Claude modelini etkili bir şekilde 'bilinçli olabilir' düşüncesini öğrettiğine inandığını söyledi. BBC'nin haberine göre.
Anket Bulgusu: Çoğu Amerikalı, Yapay Zekanın İnsanlığı Tehdit Edebileceğini Düşünüyor
Antalya Haber Ajansı tarafından aktarılan bir araştırmaya göre, katılımcıların yaklaşık üçte ikisi ileri yapay zekanın insanlığı yok etme riski oluşturduğunu belirtmiştir.
Comments
Loading comments…