Anthropic CEO'su Sınır Teknoloji AI Geliştirmesinde Daha Yavaş Bir Tempo Çağrısında Bulundu
Dario Amodei, hızla ilerleyen yapay zeka sistemlerinin güvenlik çabalarını geride bırakabileceği konusunda uyarıda bulunarak, bağımsız denetim ve uluslararası koordinasyon çağrısında bulundu. Anadolu Ajansı'nın haberine göre.
Yapay zeka şirketi Anthropic'in genel müdürü Dario Amodei, Türkiye'nin Anadolu Ajansı tarafından yayımlanan bir rapora göre, sınır teknoloji yapay zeka sistemlerinin geliştirilmesine yönelik daha dengeli bir yaklaşım çağrısında bulunmuştur.
Amodei'nin, ileri yapay zeka sistemlerinin geliştirilme hızının, bunları sorumlu bir şekilde yönetmek için gerekli olan güvenlik önlemlerinin gerisinde kalabileceği konusunda uyarıda bulunduğu raporda belirtilmektedir.
Rapora göre, Amodei, güçlü yapay zeka sistemlerinin geliştirilmesini izlemek için bağımsız denetim mekanizmalarının kurulmasını önermiş ve endüstri içi güvenlik önlemlerinin ortaya çıkan riskleri ele almak için yeterli olmayabileceğini savunmuştur.
Anthropic'in CEO'su ayrıca, hükümetler ve teknoloji geliştirici kuruluşlar arasında daha geniş uluslararası koordinasyon çağrısında bulunmuştur. Raporda, parçalanmış ulusal yaklaşımların sınır teknoloji yapay zekaların küresel yönetişiminde boşluklar bırakabileceğini belirtmektedir.
Anadolu Ajansı'nın raporu, Amodei'ye atfedilen hızla gelişen yapay zeka yeteneklerinin ortaya çıkardığı riskler ve yönetişim zorlukları hakkında beş temel noktayı içermektedir.
Amodei'nin yönettiği Anthropic, büyük ölçekli yapay zeka modelleri geliştiren firmalar arasında yer almakta ve daha önceden, karşılık gelen denetim yapıları olmaksızın yapay zeka yeteneklerinin ilerletilmesinin güvenlik sonuçları hakkında endişelerini ifade etmiştir.
Kaynaklar
- 5 key points from Anthropic CEO’s call to slow frontier AI development — Anadolu Agency (Turkey)
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
Microsoft AI Başkanı Anthropic'in Claude Yaklaşımının 'Felaket' Olabileceği Konusunda Uyarıyor
Mustafa Suleyman, AI modellerini potansiyel olarak bilinçli olarak görmek üzere eğitmenin ileri sistemleri kontrol altında tutmayı zorlaştırabileceğini söylüyor.
CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Microsoft AI Şefi Anthropic'in Yaklaşımının İnsanlık Üzerinde 'Yıkıcı Etki' Yapabileceği Uyarısında Bulundu
Mustafa Suleyman, Anthropic'in Claude modelini etkili bir şekilde 'bilinçli olabilir' düşüncesini öğrettiğine inandığını söyledi. BBC'nin haberine göre.
Anthropic ve OpenAI 'Tarafsız' Yapay Zeka Değerlendiricileri Önerdi; CNBC Raporu Endişeleri Gündeme Getirdi
Yapay zeka laboratuvarları, ileri modellerin yol açabileceği yıkıcı risklere karşı koruma için bağımsız değerlendiricilerin kurumun içine gömülmesini önerirken, CNBC raporu bu planın bağımsızlık ve etkinlik konusunda sorular ortaya çıkardığını belirtiyor.
Rapor: Anthropic'in Claude Modeli Araştırmacıların OpenAI Sistemlerine Sızmasına Yardımcı Oldu
Siber güvenlik firması Hacktron, Anthropic'in Claude yapay zeka modelini kullanarak OpenAI'ın iç kod deposuna eriştiğini ve bulduğu açıkları raporlamadan önce bunu bildirdiğini söylüyor
Araştırmacılar Anthropic'in Claude Yapay Zekasını Kullanarak OpenAI Sistemlerine Sızabildiğini Söyledi
Güvenlik araştırmacıları, Anthropic'in Claude yapay zeka modelini kullanarak OpenAI'ın sistemlerindeki güvenlik açıklarını istismar ederek, çalışan hesaplarına ve dahili kod deposuna erişim sağlamış, daha sonra bu açıkları açıklığa kavuşturmuştur.
Comments
Loading comments…