Rapor: Anthropic'in Claude Modeli Araştırmacıların OpenAI Sistemlerine Sızmasına Yardımcı Oldu
Siber güvenlik firması Hacktron, Anthropic'in Claude yapay zeka modelini kullanarak OpenAI'ın iç kod deposuna eriştiğini ve bulduğu açıkları raporlamadan önce bunu bildirdiğini söylüyor
Anthropic tarafından geliştirilen Claude adlı yapay zeka modeli, siber güvenlik araştırmacıları tarafından rakip şirket OpenAI'ın sistemlerine sızmak amacıyla kullanıldığı Anadolu Ajansı'nın haberine göre bildirilmektedir.
Rapor, Hacktron siber güvenlik ekibine atıfta bulunmakta ve ekibin bir güvenlik değerlendirmesinin parçası olarak OpenAI'ın iç kod deposuna erişmek için Claude'u kullandığını söylemektedir.
Hacktron'a göre, ekip açıkları OpenAI'a bildirmeden önce depoya içeriğini incelemeden erişmiştir, rapor belirtmektedir.
Tespit edilen özel açıklar, değerlendirmenin kapsamı ve OpenAI'ın yanıtı ile ilgili ayrıntılar mevcut raporda yer almamıştır.
Bu açıklama, aynı endüstrideki bir şirketin teknolojisinin rakibinin sistemlerini incelemek de dahil olmak üzere, siber güvenlik araştırmasında yapay zeka modellerinin artan rolünü vurgulamaktadır.
Anadolu Ajansı, OpenAI veya Anthropic'in bildirilen ihlal ile ilgili ayrıntıları teyit etmek için ayrı açıklamalar yapıp yapmadığını belirtmemiştir.
Kaynaklar
- Anthropic's Claude helped cybersecurity researchers breach OpenAI: Report — Anadolu Agency (Turkey)
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Anthropic ve OpenAI 'Tarafsız' Yapay Zeka Değerlendiricileri Önerdi; CNBC Raporu Endişeleri Gündeme Getirdi
Yapay zeka laboratuvarları, ileri modellerin yol açabileceği yıkıcı risklere karşı koruma için bağımsız değerlendiricilerin kurumun içine gömülmesini önerirken, CNBC raporu bu planın bağımsızlık ve etkinlik konusunda sorular ortaya çıkardığını belirtiyor.
Microsoft AI Başkanı Anthropic'in Claude Yaklaşımının 'Felaket' Olabileceği Konusunda Uyarıyor
Mustafa Suleyman, AI modellerini potansiyel olarak bilinçli olarak görmek üzere eğitmenin ileri sistemleri kontrol altında tutmayı zorlaştırabileceğini söylüyor.
Microsoft AI Şefi Anthropic'in Yaklaşımının İnsanlık Üzerinde 'Yıkıcı Etki' Yapabileceği Uyarısında Bulundu
Mustafa Suleyman, Anthropic'in Claude modelini etkili bir şekilde 'bilinçli olabilir' düşüncesini öğrettiğine inandığını söyledi. BBC'nin haberine göre.
OpenAI Başkanı: Halk 'Yapay Zekadan Haklı Olarak Korkmalı', Geliştiricilere Güven Çağrısı
Sam Altman ve diğer teknoloji yöneticileri, yapay zeka şirketleri içinde güvenlik teşviklerinin bulunduğunu söylüyor; ancak teknolojinin insanlığa yönelik riskleri konusundaki endişeler artmaya devam ediyor. BBC Business'a göre.
OpenAI Yatırımcıları Şirketle Yeni Finansman Turunun Gündemiyle İletişime Geçti, CNBC Bildiriyor
Rapor, yapay zeka şirketinin gelecek yıl beklenen halka arzına hazırlanırken yatırımcıların OpenAI'ya yeni bir finansman turası hakkında ulaştığını belirtiyor.
Comments
Loading comments…