Circuit Breaker Labs, "çarpışma testi mankenleri" kullanarak yapay zeka etkileşimlerini daha güvenli hale getirmeyi hedefliyor

Circuit Breaker Labs adlı bir girişim, yapay zeka sistemlerinin gerçek insanlarla etkileşime girmeden önce çocuklar dahil savunmasız kullanıcıları nasıl etkilediğini test eden bir yöntem geliştirdiğini açıkladı.

Şirketin yaklaşımı, "çarpışma testi mankenleri" olarak nitelendirdiği şey üzerine kuruludur; bu mankenler, yapay zeka sohbet botlarının ve diğer sistemlerin hassas ya da riskli konuşma senaryolarında nasıl tepki verdiğini araştırmak için tasarlanmış simüle edilmiş kişiliklerdir.

Bu çaba, yapay zeka sistemleri hakkında çoğunlukla uzun vadeli varoluşsal riskler açısından konuşulurken söz konusu sistemlerin bazı kullanıcılara günlük ve daha acil etkileşimlerde zaten psikolojik zarar verdiğine dair giderek artan kaygılara bir yanıt niteliği taşımaktadır.

Circuit Breaker Labs'ın çalışmaları, yapay zeka ürünlerinin risk altındaki kullanıcıları nasıl ele aldığına ilişkin zayıf noktaları belirlemek amacıyla geliştiricilerin kullanabileceği bir güvenlik aracı olarak konumlandırılmaktadır; tüketici odaklı bir ürün olarak değil.

Şirket, test metodolojisinin ayrıntılı teknik özelliklerini kamuoyuyla paylaşmamış; varsa hangi yapay zeka geliştiricilerinin halihazırda araçlarını kullandığını da açıklamamıştır.