Teknoloji Liderleri'nin Yapay Zeka Geliştirmesini 'Yavaşlatma' Taahhüdü Eleştirilere Uğruyor
Sam Altman, Dario Amodei, Demis Hassabis ve Elon Musk'ın yapay zeka ilerlemesini yavaşlatmayı kabul ettikleri bildirilirken, bu hareketi güvenlik önlemi mi yoksa rekabeti sınırlamak mı amaçladığı sorusu gündeme geliyor.
Dünyanın en önde gelen yapay zeka şirketlerinin liderleri, The Verge'ün bir haberine göre hafta sonu boyunca yapay zeka geliştirmesinin hızını yavaşlatmayı gayri resmi olarak kabul ettiler. Haberde OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei, Google DeepMind kurucusu Demis Hassabis ve SpaceX başkanı Elon Musk bu gayri resmi anlaşmanın katılımcıları olarak adlandırıldı.
Habere göre, yöneticiler hedeflerinin yapay zeka ilerlemesinin "sınırını ayarlamak" olduğunu söylediler; bu tabir imzaladıkları taahhütü tanımlamak için kullanıldı. Anlaşmanın tam koşulları, kapsamı ve bağlayıcılığı mevcut haber raporlarında ayrıntılandırılmadı.
The Verge, şüphecilerin hızlıca taahhüdün arkasındaki niyetleri sorguladığını ve bunun güvenlikten öte amaçlara, örneğin öncü yapay zeka geliştiricileri arasındaki rekabetçi baskıyı sınırlamaya hizmet edebileceğini öne sürdüğünü bildirdi. Rapor, tartışmayı paktın gerçek bir güvenlik odaklı taahhüt mü yoksa baskın endüstri oyuncuları arasında bir kartel düzenlemesine mi benzer olduğu konusunda meydana geldiği şeklinde nitelendirdi.
Adı geçen kişilerin hiçbiri anlaşmaya dahil olan spesifik taahhütler, zaman çizelgeleri veya mekanizmalar hakkında detaylı kamu açıklamalarında bulunduğu bildirilmemiştir. The Verge'ün raporu taahhüttle ilişkili resmi bir mekan, belge veya düzenleyici kurum belirtmedi.
Bu gelişme, yapay zeka ilerleme temposu, büyük yapay zeka laboratuvarları arasındaki kurumsal rekabet ve endüstride güvenlik odaklı koordinasyon çağrılarına ilişkin devam eden daha geniş kamu tartışmasının ortasında gerçekleşti. Anlaşmayla ilgili başka detaylar, herhangi bir belirli kilometre taşı veya sorumluluk mekanizması da dahil olmak üzere, raporlama sırasında mevcut değildi.
Kaynaklar
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
Rapor: Anthropic'in Claude Modeli Araştırmacıların OpenAI Sistemlerine Sızmasına Yardımcı Oldu
Siber güvenlik firması Hacktron, Anthropic'in Claude yapay zeka modelini kullanarak OpenAI'ın iç kod deposuna eriştiğini ve bulduğu açıkları raporlamadan önce bunu bildirdiğini söylüyor
Araştırmacılar Anthropic'in Claude Yapay Zekasını Kullanarak OpenAI Sistemlerine Sızabildiğini Söyledi
Güvenlik araştırmacıları, Anthropic'in Claude yapay zeka modelini kullanarak OpenAI'ın sistemlerindeki güvenlik açıklarını istismar ederek, çalışan hesaplarına ve dahili kod deposuna erişim sağlamış, daha sonra bu açıkları açıklığa kavuşturmuştur.
CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Anthropic ve OpenAI 'Tarafsız' Yapay Zeka Değerlendiricileri Önerdi; CNBC Raporu Endişeleri Gündeme Getirdi
Yapay zeka laboratuvarları, ileri modellerin yol açabileceği yıkıcı risklere karşı koruma için bağımsız değerlendiricilerin kurumun içine gömülmesini önerirken, CNBC raporu bu planın bağımsızlık ve etkinlik konusunda sorular ortaya çıkardığını belirtiyor.
Araştırmacılar Anthropic'in Claude'unu Kullanarak OpenAI Sistemlerini "Etik Şekilde Hack"ladıklarını Söylüyor
ABD'li bir siber güvenlik girişimi, OpenAI çalışan hesaplarını ele geçirdiğini ve dahili yazılım önbelleklerine erişim sağladığını söylüyor ve bu da yapay zeka şirketindeki güvenlik sorunları hakkında yeni sorular gündeme getiriyor.
Anthropic, AI Destekli Hastalık Araştırması için Biyoloji Laboratuvarı Kuruyor
AI güvenliği şirketi, hastalık tedavi uygulamalarına yönelik çalışmalarının bir parçası olarak biyolojik deneyler yürüten bir laboratuvar kurmuştur.
Comments
Loading comments…