Circuit Breaker Labs busca hacer más seguras las interacciones con IA mediante "maniquíes de prueba de choque"

Una startup llamada Circuit Breaker Labs afirma haber desarrollado un método para evaluar cómo los sistemas de inteligencia artificial afectan a los usuarios vulnerables, incluidos los niños, antes de que dichos sistemas interactúen con personas reales.

El enfoque de la empresa se centra en lo que describe como "maniquíes de prueba de choque" —personas simuladas diseñadas para sondear cómo responden los chatbots de IA y otros sistemas en escenarios conversacionales sensibles o de riesgo.

Este esfuerzo responde a una creciente preocupación de que los sistemas de IA, aunque a menudo se discuten en términos de riesgos existenciales a largo plazo, ya han causado daño psicológico a algunos usuarios en interacciones más inmediatas y cotidianas.

El trabajo de Circuit Breaker Labs está concebido como una herramienta de seguridad que los desarrolladores podrían usar para identificar debilidades en la forma en que sus productos de IA gestionan a los usuarios en riesgo, y no como un producto de consumo en sí mismo.

La empresa no ha revelado especificaciones técnicas detalladas de su metodología de pruebas ni ha nombrado qué desarrolladores de IA, si los hay, utilizan actualmente sus herramientas.