Alan Turing Enstitüsü, İnsanların Beş Yıl İçinde Yapay Zekanın Kontrolünü Kaybedebileceği Konusunda Uyarıyor
Araştırmacılar, yapay zeka sistemleri insan yeteneğini stratejik açıdan önemli alanlarda aşmaya başladıkça, karar alma yetkisini bunlara devretme baskısının artabileceğini söylüyor.
Birleşik Krallık'ın yapay zeka ve veri bilimi ulusal enstitüsü olan Alan Turing Enstitüsü'nden araştırmacılar, teknolojinin hızla ilerlemeye devam ettiği için insanların önümüzdeki beş yıl içinde yapay zeka sistemleri üzerindeki kontrolünü kaybedebileceği konusunda uyarıda bulundu.
Enstitünün uzmanları, yapay zeka sistemlerinin stratejik açıdan önemli alanlarda insan yeteneklerini aşmaya başladığı için, makine odaklı karar alma hızı ve verimliliğinin, kuruluşlar ve hükümetler üzerinde insan denetkileri yerine daha önemli kararları yapay zeka sistemlerine devretme baskısı yaratabileceğini söylüyor.
Bu tür uyarılar, gelişmiş sistemleri insan niyetleriyle uyumlu tutmak için tasarlanmış güvenlik ve denetim mekanizmalarına kıyasla yapay zeka araştırma camiasında geliştirme hızı üzerine daha geniş bir tartışmayı yansıtıyor. Anlamlı insan kontrolünün kaybı endişeleri, son yıllarda yapay zeka güvenliği araştırmacıları arasında yapılan tartışmalarda önemli bir şekilde yer aldı; çünkü sistemler giderek daha geniş bir görev yelpazesinde daha yetenekli hale geldi.
Alan Turing Enstitüsü'nün değerlendirmesi, gelişmiş yapay zeka sistemleri etrafında sağlam yönetişim ve güvenlik çerçeveleri oluşturma penceresinin yetenekler hızla arttıkça daralabileceğini savunan yapay zeka araştırmacıları ve politika yapıcıların benzer uyarılarına ek olarak yer alıyor.
Kaynaklar
- Alan Turing Institute sees possibility of humans losing control over AI within five years — TASS (Russia)
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
OpenAI ve Anthropic'in yöneticileri BM toplantısında küresel YZ iş birliğine çağrıda bulundu
Sam Altman ve Dario Amodei, Başkan Trump'ın teknoloji üzerinde merkezi küresel bir denetim yapılması çağrılarını reddetmesinin ardından Birleşmiş Milletler'de yapay zeka güvenliği konusunda uluslararası koordinasyon için çağrıda bulundu.
Yapay Zekâ Liderleri Felakete Karşı Uyarırken, ABD ve Çin Yavaşlama Çağrılarını Geri Çeviriyor
Teknolojinin riskleri konusundaki uyarılar güçlenirken, Başkanlar Trump ve Xi'nin yapay zekâ güvenliğinde yalnızca sınırlı bir iş birliği üzerinde uzlaşması bekleniyor.
Eleştirmenler Uyarıyor: 'Yapay Zeka Dondurması' En Büyük Yapay Zeka Şirketlerinin Egemenliğini Pekiştirebilir
Önde gelen laboratuvarlar arasında yapay zeka geliştirmesindeki yavaşlama, daha küçük rakiplerin yetişmeye çalıştığı tam sırada pazar gücünü birleştirebilir, eleştirmenler uyarıyor.
ChatGPT'nin Mobil Uygulaması Sesli Ajan Özellikleri Ekliyor
Pro ve Plus aboneleri telefonlarında sesli komutlar aracılığıyla yeni bir İş sekmesini kullanabilecek.
Trump'ın Yapay Zekası 'Süper Zeka' Olarak Yeniden Markalaşacak mı? Uzmanlar Şüpheci
ABD başkanına yakın bazı kişiler, yapay zeka için 'süper zeka' terimini kullanmaya başladı, ancak uzmanlar bunun geniş çapta yayılmasının pek olası olmadığını söylüyor.
Anthropic neden Claude'un üretimine görünmez bir su işareti ekliyor?
Şirket, yapay zeka asistanı tarafından üretilen içeriği dünya çapında işaretlemeyi planlıyor ve bu da teknolojinin nasıl çalıştığı konusunda sorular doğurdu, Deutsche Welle Arabic'e göre.
Comments
Loading comments…