Eski Anthropic Araştırmacısı: AI Çalışanları Hızlı Gelişmeden 'Gerçekten Korkuyor'
Jacob Coxon, BBC'ye yaptığı açıklamada, bazı yapay zeka çalışanlarının, geliştirme kontrol edilmezse teknolojinin insanlık için varoluşsal bir risk oluşturabileceğinden korktukları söyledi.
Claude sohbet botunun sahibi olan yapay zeka şirketi Anthropic'in eski bir araştırmacısı, BBC'ye sektördeki çalışanların kontrolsüz teknolojik gelişmenin olası sonuçları konusunda "gerçekten korktuklarını" söylemiştir.
Jacob Coxon, BBC'nin haberine göre, yapay zekanın gelişme hızı yavaşlatılmaz veya daha iyi düzenlenmezse insanlığın geleceğini tehdit etme olasılığının güçlü olduğunu belirtmiştir.
Coxon'un yorumları, ileri yapay zeka sistemleriyle yakından çalışmış olan ve bu alandaki hızlı, büyük ölçüde düzenlenmemiş ilerlemeyle ilgili riskleri kamuoyuna duyurmayı tercih eden bireyler tarafından dile getirilen giderek artan endişelere eklenmektedir.
Eski OpenAI çalışanları tarafından da kurulmuş olan Anthropic, kendisini yapay zeka güvenliğine odaklanmış bir şirket olarak konumlandırmış olup, liderliği geliştirdiği teknoloji üzerinde dikkatli gözetimin gerekliliği konusunda daha önce açıklamalar yapmıştır.
BBC'nin haberinde Coxon'un şu anki rolü ya da Anthropic'ten ayrılışının kesin nedenleri hakkında ayrıntılı bilgi verilmemiştir. Şirkete Coxon'a atfedilen açıklamalara yönelik bir yanıt verip vermediği raporlanmamıştır.
Yapay zeka gelişiminin hızı konusundaki endişeler son yıllarda araştırmacılar, yöneticiler ve politika yapıcılar tarafından tekrar tekrar dile getirilmiş olup, teknolojinin uluslararası düzeyde nasıl yönetileceği konusundaki tartışmalar devam etmektedir.
Kaynaklar
- AI staff 'genuinely frightened' for humanity's future, ex-Anthropic researcher tells BBC — BBC Technology
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
Microsoft AI Başkanı Anthropic'in Claude Yaklaşımının 'Felaket' Olabileceği Konusunda Uyarıyor
Mustafa Suleyman, AI modellerini potansiyel olarak bilinçli olarak görmek üzere eğitmenin ileri sistemleri kontrol altında tutmayı zorlaştırabileceğini söylüyor.
CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Microsoft AI Şefi Anthropic'in Yaklaşımının İnsanlık Üzerinde 'Yıkıcı Etki' Yapabileceği Uyarısında Bulundu
Mustafa Suleyman, Anthropic'in Claude modelini etkili bir şekilde 'bilinçli olabilir' düşüncesini öğrettiğine inandığını söyledi. BBC'nin haberine göre.
Anthropic ve OpenAI 'Tarafsız' Yapay Zeka Değerlendiricileri Önerdi; CNBC Raporu Endişeleri Gündeme Getirdi
Yapay zeka laboratuvarları, ileri modellerin yol açabileceği yıkıcı risklere karşı koruma için bağımsız değerlendiricilerin kurumun içine gömülmesini önerirken, CNBC raporu bu planın bağımsızlık ve etkinlik konusunda sorular ortaya çıkardığını belirtiyor.
BM Başkanı Dünyaya AI Güvenliğinde 'Yarış Yapamayız' Uyarısı Yaptı
Antonio Guterres, yapay zekânın güvenli, şeffaf ve hesap verebilir kalması için önlemler çağırıyor
Anket Bulgusu: Çoğu Amerikalı, Yapay Zekanın İnsanlığı Tehdit Edebileceğini Düşünüyor
Antalya Haber Ajansı tarafından aktarılan bir araştırmaya göre, katılımcıların yaklaşık üçte ikisi ileri yapay zekanın insanlığı yok etme riski oluşturduğunu belirtmiştir.
Comments
Loading comments…