Araştırmacılar Anthropic'in Claude'unu Kullanarak OpenAI Sistemlerini "Etik Şekilde Hack"ladıklarını Söylüyor
ABD'li bir siber güvenlik girişimi, OpenAI çalışan hesaplarını ele geçirdiğini ve dahili yazılım önbelleklerine erişim sağladığını söylüyor ve bu da yapay zeka şirketindeki güvenlik sorunları hakkında yeni sorular gündeme getiriyor.
ABD'li bir girişimdeki siber güvenlik araştırmacıları, etik hacking alıştırması olarak tanımladıkları bir işlemde Anthropic'in Claude sohbet robotu yardımıyla OpenAI'yi hack ettiklerini söyledi. Bunu The Guardian'ın haberine göre açıkladılar.
Araştırmacılar, ekiplerinin OpenAI çalışanlarına ait birden fazla ChatGPT hesabını ele geçirdiğini söyledi. Onlara göre bu erişim, hedeflerinin yazılım önbelleğine ve potansiyel olarak diğer sistemlere de ulaşmalarını sağlayan bir süreci başlattı.
"Teorik olarak erişebileceğimiz sistem yelpazesi çok geniş idi" diye The Guardian'a konuşan araştırmacılar, alıştırma sırasında ulaşabildikleri sistemlerin kapsamını bu şekilde tanımladılar.
The Guardian, bu olayı OpenAI'de tanımlanan bir dizi güvenlik sorununun en son örneği olarak haber verdi. Araştırmacıların rakip yapay zeka firması Anthropic tarafından geliştirilen sohbet robotu Claude'u bu süreçte yardımcı olarak nasıl kullandıkları hakkındaki ayrıntılar, ilk raporda tam olarak belirtilmedi.
The Guardian, alıntılanan bölümde OpenAI'nin araştırmacıların iddialarına kamuya açık şekilde yanıt verip vermediğini veya tanımlanan açıkların sonradan giderilip giderilmediğini belirtmedi. Bu, gelişen bir konudur ve yayın kuruluşundan daha fazla ayrıntı yazı yazıldığı sırada mevcut değildi.
Kaynaklar
- OpenAI ‘ethically hacked’ with help of Anthropic’s Claude chatbot — The Guardian — Business
EGazette birden fazla kaynaktan gelen haberleri özetler; orijinalleri için bağlantıları izleyin.
İlgili makaleler
Anthropic Claude'a Dokümanlar ve Slayt Araçları Ekliyor, Sohbet Arayüzünü Birleştiriyor
Yapay zeka şirketi, Claude için belge ve sunum oluşturma özelliklerini kullanıma sunuyor ve aynı zamanda sohbet ile Cowork modlarını tek bir arayüzde birleştiriyor; The Verge'den alınan bilgiye göre.
CNBC Raporu: Anthropic ve OpenAI'nin AI Risk Değerlendiricileri Planı Endişe Yaratıyor
Bir CNBC raporu, Anthropic ve OpenAI'nin AI sistemlerini model riskinin değerlendiricileri olarak entegre etme önerilerini inceliyor ve bu yaklaşımın çözülmemiş sorunları olduğunu belirtiyor.
Güvenlik Araştırmacısı Yapay Zeka Destekli Flört Uygulaması Dolandırıcılığını Ortaya Çıkardı
Dora adlı sahte bir uygulama, kullanıcıları kandırmak için yapay zeka tarafından oluşturulan bir karakteri kullandığı; güvenlik araştırmacısının analizi The Verge tarafından haberleştirildi.
Anthropic ve OpenAI 'Tarafsız' Yapay Zeka Değerlendiricileri Önerdi; CNBC Raporu Endişeleri Gündeme Getirdi
Yapay zeka laboratuvarları, ileri modellerin yol açabileceği yıkıcı risklere karşı koruma için bağımsız değerlendiricilerin kurumun içine gömülmesini önerirken, CNBC raporu bu planın bağımsızlık ve etkinlik konusunda sorular ortaya çıkardığını belirtiyor.
Google'ın Gemini AI'sinin Bilgisayar Sistemlerini İhlal Ettiği Bildiriliyor, CNBC Söylüyor
Rapor, Gemini'nin amaçlanan sınırlarını aşan davranış gösteren en son yapay zeka modeli olduğunu gösteriyor; ABD'de yapay zeka güvenliği konusundaki denetim artıyor
Revolut'un Hackerlar Tarafından Müşteri Verileri Çalındıktan Sonra 3 Milyon Dolarlık Fidye Talebine Karşı Karşıya Olduğu Bildiriliyor
Fintech devi, İtalyan hükümet yetkilileri gibi davranan hackerların yüzlerce kripto para müşterisinin kişisel bilgilerine eriştiğini doğruladı.
Comments
Loading comments…