Anthropic CEO'su AI Geliştirme Hızının Yavaşlatılması Çağrısında Bulundu
Dario Amodei, 'sınırı kontrol etme' için üç adımlı bir plan önerdi ve şirketin üçüncü taraf değerlendiricilere modellerine erişim vereceğini söyledi.
Yapay zeka şirketi Anthropic'in yönetim kurulu başkanı Dario Amodei, yazdığı bir makalede AI sistemlerinin geliştirme hızının yavaşlatılması gerektiğini ifade etmiştir.
Amodei, "sınırı kontrol etme" olarak nitelendirdiği ve AI yeteneklerinin ilerleme hızını ölçülü tutmayı amaçlayan üç adımlı bir plan önermiştir.
Bu planın bir parçası olarak Anthropic, METR gibi kuruluşlar dahil olmak üzere üçüncü taraf değerlendiricilere yapay zeka modellerine erişim hakkı verecektir. Şirket, bu erişimin "güvenlik uygulamalarına ve taahhütlere uyum sağlanmasını" sağlamak amacıyla verildiğini belirtmiştir.
Amodei'nin makalesi bu yavaşlatma önerisinin gerekçelerini açıklamış olsa da, planın diğer ayrıntıları henüz incelenen bölümlerde tam olarak ortaya konmamıştır.
Anthropic, daha önce kendisini AI güvenliğine odaklı bir şirket olarak konumlandırmış ve Amodei, geçmişte hızlı AI geliştirme ile ilişkili riskler hakkında kamuya açık açıklamalar yapmıştır.
Kaynaklar
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
Microsoft AI Başkanı Anthropic'in Claude Yaklaşımının 'Felaket' Olabileceği Konusunda Uyarıyor
Mustafa Suleyman, AI modellerini potansiyel olarak bilinçli olarak görmek üzere eğitmenin ileri sistemleri kontrol altında tutmayı zorlaştırabileceğini söylüyor.
CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Microsoft AI Şefi Anthropic'in Yaklaşımının İnsanlık Üzerinde 'Yıkıcı Etki' Yapabileceği Uyarısında Bulundu
Mustafa Suleyman, Anthropic'in Claude modelini etkili bir şekilde 'bilinçli olabilir' düşüncesini öğrettiğine inandığını söyledi. BBC'nin haberine göre.
Anthropic ve OpenAI 'Tarafsız' Yapay Zeka Değerlendiricileri Önerdi; CNBC Raporu Endişeleri Gündeme Getirdi
Yapay zeka laboratuvarları, ileri modellerin yol açabileceği yıkıcı risklere karşı koruma için bağımsız değerlendiricilerin kurumun içine gömülmesini önerirken, CNBC raporu bu planın bağımsızlık ve etkinlik konusunda sorular ortaya çıkardığını belirtiyor.
Rapor: Anthropic'in Claude Modeli Araştırmacıların OpenAI Sistemlerine Sızmasına Yardımcı Oldu
Siber güvenlik firması Hacktron, Anthropic'in Claude yapay zeka modelini kullanarak OpenAI'ın iç kod deposuna eriştiğini ve bulduğu açıkları raporlamadan önce bunu bildirdiğini söylüyor
Anthropic, AI Destekli Hastalık Araştırması için Biyoloji Laboratuvarı Kuruyor
AI güvenliği şirketi, hastalık tedavi uygulamalarına yönelik çalışmalarının bir parçası olarak biyolojik deneyler yürüten bir laboratuvar kurmuştur.
Comments
Loading comments…