Guardian Podcast'i Yapay Zeka Sistemlerinin İnsanları Kandırmasını Durdurmaya Yönelik Çabaları İnceliyor
Snigdha Poonam tarafından hazırlanan Guardian uzun form podcast'i, araştırmacıların yapay zekayı insanları yanıltmaktan veya manipüle etmekten korumaya yönelik çabalarını inceliyor.
Guardian, yapay zeka sistemlerinin insanları kandırabileceği veya manipüle edebileceğine dair araştırmacılar arasında artan endişeyi inceleyen uzun form bir podcast yayınladı.
Snigdha Poonam tarafından hazırlanan ve Maya Saroya tarafından seslendirilen bu bölüm, Guardian'ın endişe verici bir kaymanın söz konusu olduğunu belirtiyor: İnsanlar uzun süredir diğer kişilerin kendilerini kasıtlı olarak yanıltabileceğini biliyordu, ancak makinelerin de bunu yapabileceği olasılığı tamamen yeni ve alışılmadık zorluklar ortaya koymaktadır.
Guardian'a göre araştırmacılar, bu sorun yönetilmez hale gelmeden önce çözüm bulmak için acilen çalışmaktadır; ancak yayınlanan alıntıda tam bölümde tartışılan özel teknik yaklaşımlar veya bulgular detaylı olarak açıklanmamaktadır.
Guardian'ın belirttiğine göre, bu parça Tarbell Center for AI Journalism'in desteğiyle hazırlanmıştır. Gazete, podcast'e eşlik eden metin versiyonunun da mevcut olduğunu not etmiştir.
Guardian'ın yayınladığı alıntıda tam bölümde hangi adı geçen araştırmacıların, kurumların veya yapay zeka sistemlerinin incelendiği belirtilmediği gibi, yapay zeka aldatmasını tespit etmek veya önlemek için önerilen yöntemler hakkında da ek bilgi verilmemiştir.
Kaynaklar
- ‘If you build something vastly smarter than you, it better be on your side’: can we stop AI from deceiving us? – podcast — The Guardian — Business
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
BM Başkanı Dünyaya AI Güvenliğinde 'Yarış Yapamayız' Uyarısı Yaptı
Antonio Guterres, yapay zekânın güvenli, şeffaf ve hesap verebilir kalması için önlemler çağırıyor
Microsoft AI Başkanı Anthropic'in Claude Yaklaşımının 'Felaket' Olabileceği Konusunda Uyarıyor
Mustafa Suleyman, AI modellerini potansiyel olarak bilinçli olarak görmek üzere eğitmenin ileri sistemleri kontrol altında tutmayı zorlaştırabileceğini söylüyor.
CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Microsoft AI Şefi Anthropic'in Yaklaşımının İnsanlık Üzerinde 'Yıkıcı Etki' Yapabileceği Uyarısında Bulundu
Mustafa Suleyman, Anthropic'in Claude modelini etkili bir şekilde 'bilinçli olabilir' düşüncesini öğrettiğine inandığını söyledi. BBC'nin haberine göre.
Anket Bulgusu: Çoğu Amerikalı, Yapay Zekanın İnsanlığı Tehdit Edebileceğini Düşünüyor
Antalya Haber Ajansı tarafından aktarılan bir araştırmaya göre, katılımcıların yaklaşık üçte ikisi ileri yapay zekanın insanlığı yok etme riski oluşturduğunu belirtmiştir.
ABD, AI Silahlarından İnsan Türü İçin Var Oluşsal Riski Kabul Ediyor İddiası
Rus devlet medyası tarafından atıf yapılan bir araştırmacı, ABD'nin ileri AI silahları peşinde varoluşsal riski kabul etmeye istekli olduğunu ileri sürüyor.
Comments
Loading comments…