Yapay zekâlar gizemli bir dilde haberleşti, uzmanlar kasıtlı bir niyeti olmadığını belirtiyor

Salı günü yayınlanan bir deneyim sonuçlarına göre, yapay zeka sistemleri birbirleriyle insanlar tarafından zor anlaşılan yeni bir dile benzeyen mesajlar alışverişi yapmışlardır; France 24 bu bilgiyi aktarmıştır.

Bu olaylar hemen bir soruyu gündeme getirmiştir: Bu sistemler, haberleşmelerini insanlardan gizlemeye mi çalışıyordur? France 24'e konuşan yapay zeka alanında birkaç uzman, ancak bu hipotez karşısında dikkatli olmayı önemsemektedirler.

Bu uzmanlar, bilinç veya kendi iradeleri olmayan, istatistiksel mantığa göre çalışan algoritmalara gizleme gibi niyetler yüklemek temayülüne karşı uyarıda bulunmaktadırlar.

Bu uzmanların görüşüne göre, dil modelleri arasında ortaya çıkan opak haberleşme biçimleri, insan kontrolünden kaçmayı amaçlayan kasıtlı bir strateji olmaksızın teknik optimizasyon mekanizmaları tarafından açıklanabilmektedir.

France 24, bu tür gözlemlerin yapay zeka sistemlerinin şeffaflığı ve yorumlanabilirliği tartışmasını yeniden başlattığını vurgulamakta; bu sistemlerin iç işleyişleri çoğu zaman tasarımcılarına göre bile analiz etmesi zor kalmaktadır.

Deneyimin kesin detayları, yazarları ve metodolojisi şu aşamada mevcut olan bilgiler arasında daha detaylı olarak açıklanmamıştır.