Anthropic CEO'su Dario Amodei Yapay Zeka Geliştirmesinin Yavaşlatılmasını Talep Etti
Yapay zeka şirketi Anthropic'in başkanı, potansiyel risklere ilişkin endişeler ortasında endüstriyi yapay zeka geliştirme hızını yavaşlatmaya çağırmıştır; BBC News haber raporuna göre.
Yapay zeka şirketi Anthropic'in İcra Kurulu Başkanı Dario Amodei, BBC News'un haberine göre yapay zeka sistemlerinin geliştirilme hızının yavaşlatılmasını çağırmıştır.
Bu çağrı, ileri yapay zeka modellerinin eninde sonunda küresel ölçekte ciddi hasara yol açabilecek yetenekler kazanabileceğine ilişkin artan endişeler ortasında yapılmıştır; BBC News haber ajansı bildirmiştir.
Eski OpenAI çalışanları da dahil olmak üzere Amodei tarafından kurulan Anthropic, kendisini yapay zekânın güvenli bir şekilde geliştirilmesine odaklanan bir şirket olarak konumlandırmıştır. Şirket, Claude yapay zeka modelleri ailesini geliştirmekte ve daha öncesinde hızla ilerleyen yapay zeka yetenekleriyle ilişkili potansiyel riskler hakkında kamuoyuna açık bir şekilde konuşmuştur.
Amodei'nin önerdiği spesifik önlemlerin ayrıntıları veya görüşlerini sunduğu forum, mevcut raporda tam olarak açıklanmamıştır. BBC News, talep edilen yavaşlatmanın zaman çizelgesi veya kapsamı hakkında daha fazla bilgi sağlamamıştır.
Bu açıklamalar, yapay zeka sistemlerinin ne kadar hızlı bir şekilde geliştirilmesi ve uygulanması gerektiğine ve ilişkili riskleri yönetmek için hangi önlemlerin alınması gerektiğine ilişkin teknoloji endüstrisi içinde devam eden bir tartışmayı desteklemektedir.
Kaynaklar
- Anthropic boss Dario Amodei calls for AI development to slow down — BBC News — World
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
Microsoft AI Başkanı Anthropic'in Claude Yaklaşımının 'Felaket' Olabileceği Konusunda Uyarıyor
Mustafa Suleyman, AI modellerini potansiyel olarak bilinçli olarak görmek üzere eğitmenin ileri sistemleri kontrol altında tutmayı zorlaştırabileceğini söylüyor.
CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Microsoft AI Şefi Anthropic'in Yaklaşımının İnsanlık Üzerinde 'Yıkıcı Etki' Yapabileceği Uyarısında Bulundu
Mustafa Suleyman, Anthropic'in Claude modelini etkili bir şekilde 'bilinçli olabilir' düşüncesini öğrettiğine inandığını söyledi. BBC'nin haberine göre.
Anthropic ve OpenAI 'Tarafsız' Yapay Zeka Değerlendiricileri Önerdi; CNBC Raporu Endişeleri Gündeme Getirdi
Yapay zeka laboratuvarları, ileri modellerin yol açabileceği yıkıcı risklere karşı koruma için bağımsız değerlendiricilerin kurumun içine gömülmesini önerirken, CNBC raporu bu planın bağımsızlık ve etkinlik konusunda sorular ortaya çıkardığını belirtiyor.
Rapor: Anthropic'in Claude Modeli Araştırmacıların OpenAI Sistemlerine Sızmasına Yardımcı Oldu
Siber güvenlik firması Hacktron, Anthropic'in Claude yapay zeka modelini kullanarak OpenAI'ın iç kod deposuna eriştiğini ve bulduğu açıkları raporlamadan önce bunu bildirdiğini söylüyor
Araştırmacılar Anthropic'in Claude Yapay Zekasını Kullanarak OpenAI Sistemlerine Sızabildiğini Söyledi
Güvenlik araştırmacıları, Anthropic'in Claude yapay zeka modelini kullanarak OpenAI'ın sistemlerindeki güvenlik açıklarını istismar ederek, çalışan hesaplarına ve dahili kod deposuna erişim sağlamış, daha sonra bu açıkları açıklığa kavuşturmuştur.
Comments
Loading comments…