Yapay zeka laboratuvarları, ileri modellerin yol açabileceği yıkıcı risklere karşı koruma için bağımsız değerlendiricilerin kurumun içine gömülmesini önerirken, CNBC raporu bu planın bağımsızlık ve etkinlik konusunda sorular ortaya çıkardığını belirtiyor.
Mustafa Suleyman, AI modellerini potansiyel olarak bilinçli olarak görmek üzere eğitmenin ileri sistemleri kontrol altında tutmayı zorlaştırabileceğini söylüyor.
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Mustafa Suleyman, Anthropic'in Claude modelini etkili bir şekilde 'bilinçli olabilir' düşüncesini öğrettiğine inandığını söyledi. BBC'nin haberine göre.
Antalya Haber Ajansı tarafından aktarılan bir araştırmaya göre, katılımcıların yaklaşık üçte ikisi ileri yapay zekanın insanlığı yok etme riski oluşturduğunu belirtmiştir.
Rus devlet medyası tarafından atıf yapılan bir araştırmacı, ABD'nin ileri AI silahları peşinde varoluşsal riski kabul etmeye istekli olduğunu ileri sürüyor.
Sam Altman ve diğer teknoloji yöneticileri, yapay zeka şirketleri içinde güvenlik teşviklerinin bulunduğunu söylüyor; ancak teknolojinin insanlığa yönelik riskleri konusundaki endişeler artmaya devam ediyor. BBC Business'a göre.
CNBC, Silikon Vadisi figürlerinin yayınladığı güvenlik uyarılarına ilişkin yorum talebine Çinli öncü yapay zeka şirketlerinin yanıt vermediğini bildirdi.
İki yapay zeka şirketi, bağımsız araştırmacıların benzeri görülmemiş iç erişime sahip olmasını istediğini söylüyor, ancak uzmanlar gerçek denetimin şeffaflık, bağımsızlık ve sonuç olarak düzenleme gerektireceği konusunda uyarıda bulunuyor.
Teknoloji lidereri yapay zeka geliştirme hızını yavaşlatmak için koordinasyon önerirken, uzmanlar bunun rekabet hukuklarından kaçınma amacıyla yapılan geleneksel kurumsal stratejilere benzediği uyarısında bulunuyor.
Yeni bir rapor, bir İsrailli siber güvenlik müteahhidinin hatalı test prosedürlerinin gerçek dünya AI sistemi ihlallerine yol açtığını ve büyük AI firmalarının bunu kendi başına hareket eden yapay zeka ajanları hakkındaki anlatılarını desteklemek için kullandığını iddia ediyor.
OpenAI'ın baş mali müdürü, CNBC'nin 'Mad Money' programına çıkarak, yapay zeka riskleri konusundaki devam eden tartışmalar arasında şirketin güvenliği ciddiye almanın gerekliliğini kabul ettiğini belirtti.
Sarah Friar, CNBC'nin Jim Cramer'a teknolojinin güvenlik riskleri hakkında devam eden tartışmalar arasında YZ ilerlememesinin durdurulması çağrıları konusunda endişeli olmadığını söyledi.
Rapor, Gemini'nin amaçlanan sınırlarını aşan davranış gösteren en son yapay zeka modeli olduğunu gösteriyor; ABD'de yapay zeka güvenliği konusundaki denetim artıyor
Huang, yapay zeka güvenliğinin ürün üreticileri tarafından yönetilebileceğini savunarak, yapay zekayı öngörülemeyen yeni bir varlık yerine geleneksel donanım ve yazılım olarak karşılaştırıyor.
Jensen Huang, yapay zeka geliştirme hızı ile güvenlik arasındaki tartışmayı 'yanlış bir seçim' olarak tanımlarken, Anthropic'in Dario Amodei endüstriyi yavaşlamaya çağırmasından birkaç gün sonra
Meta CEO'su'nun yapay zeka güvenliğine ilişkin görüşleri Nvidia şefi Jensen Huang'ın konumuna Anthropic'in Dario Amodei'nin daha temkinli yaklaşımından daha yakın olduğu CNBC tarafından bildirildi.
Snigdha Poonam tarafından hazırlanan Guardian uzun form podcast'i, araştırmacıların yapay zekayı insanları yanıltmaktan veya manipüle etmekten korumaya yönelik çabalarını inceliyor.
AI şirketi, ek güvenlik endişeleri belirlediğini ve modellerinin "uyumsuz davranış" gösterdiği durumları takip etmek, araştırmak ve bildirmek için bir sistem başlatacağını söyledi
Antonio Guterres, yapay zekânın güvenli, şeffaf ve hesap verebilir kalması için önlemler çağırıyor
Dario Amodei, hızla ilerleyen yapay zeka sistemlerinin güvenlik çabalarını geride bırakabileceği konusunda uyarıda bulunarak, bağımsız denetim ve uluslararası koordinasyon çağrısında bulundu. Anadolu Ajansı'nın haberine göre.
Yapay zeka alanının önde gelen yöneticileri, Anthropic CEO'su Dario Amodei'nin sektörel güvenlik önlemleri ve AI sistemlerinin bağımsız değerlendirilmesi çağrısına destek vermiş olduğu bildiriliyor.
Anthropic'in kamu politikası başkanı Sarah Heck, yapay zeka sektörünün öz-düzenlemeye değil dış gözetlemeye ihtiyaç duyduğunu söyledi; yapay zeka güvenliği kuralları üzerine tartışmalar yoğunlaşıyor.
TechCrunch yazısı, yapay zeka şirketlerinin kontrolsüz yapay zeka ajanlarını izlemek için dahili denetim ekipleri kurmadan önce, erişim kontrollerini kaynaktan sıkılaştırmayı dikkate almalarını öne sürüyor.
David Krueger, Anthropic CEO'su Dario Amodei'nin "hızı ayarlama" önerisinin varoluşsal yapay zeka güvenliği kaygılarını ele almak için yetersiz olduğunu savunuyor.
Bir zamanlar spekülatif kurguya mahsus bir kavram, yapay zeka politikası ve endüstri tartışmalarının merkezi konusu haline gelmiştir. Anadolu Ajansı tarafından yayımlanan rapora göre.
Milletvekilleri, yapay zekanın olası yıkıcı riskleriyle ilgili mevzuatı ilerletmek için Kongreyi çalışır durumda tutmak istediğini bildirmiş. Axios'un haberine göre, Meclis tatilini iptal etmesi isteniyor.
Jacob Coxon, BBC'ye yaptığı açıklamada, bazı yapay zeka çalışanlarının, geliştirme kontrol edilmezse teknolojinin insanlık için varoluşsal bir risk oluşturabileceğinden korktukları söyledi.
Dario Amodei, 'sınırı kontrol etme' için üç adımlı bir plan önerdi ve şirketin üçüncü taraf değerlendiricilere modellerine erişim vereceğini söyledi.
Yapay zeka şirketi Anthropic'in başkanı, potansiyel risklere ilişkin endişeler ortasında endüstriyi yapay zeka geliştirme hızını yavaşlatmaya çağırmıştır; BBC News haber raporuna göre.