Segun Wharton Knowledge, el avance de la inteligencia artificial ha alcanzado niveles que exigen nuevas formas de supervisión. Aunque las tecnologías se desarrollan a velocidad vertiginosa, las responsabilidades ante posibles consecuencias graves aún no están claramente definidas. Peter Conti-Brown, docente de la Escuela de Negocios de Wharton, propone que el modelo de regulación bancaria pueda servir como referencia para el control de las grandes empresas de inteligencia artificial. En lugar de depender de normativas establecidas años antes, este sistema se basa en diálogos continuos entre autoridades públicas y entidades privadas, permitiendo detectar y responder de forma proactiva a amenazas emergentes.
El análisis de Conti-Brown incluye la posibilidad de implementar pruebas de estrés específicas para inteligencias artificiales, similares a las que se aplican en el sector financiero. Estas pruebas evaluarían cómo reaccionan los modelos ante escenarios extremos, como fallos de datos o ataques de ingeniería social. Si se produjera un caso de manipulación o uso indebido de un modelo avanzado, los riesgos podrían volverse desmedidos. En tales escenarios, el impacto se distribuiría entre múltiples actores, pero en última instancia, el usuario final —el consumidor— sería quien asumiría las consecuencias económicas y de confianza. Este punto es especialmente crítico en entornos donde las decisiones automatizadas influyen en servicios como crédito, salud o empleo.
Para los peruanos, esta reflexión adquiere relevancia directa. En un contexto donde el uso de algoritmos inteligentes crece en sectores clave como el crédito, la salud y la educación, el riesgo de que sistemas automatizados tomen decisiones sin transparencia o sin revisión humana aumenta. Los bancos tradicionales han demostrado que, aunque enfrentan riesgos estructurales, su supervisión continua permite prevenir crisis. Si se aplica el mismo enfoque a la IA, el país podría evitar que decisiones tecnológicas impacten de forma inesperada a familias, pequeñas empresas o comunidades rurales. Por ejemplo, un sistema de evaluación de crédito que se basa en datos incompletos o sesgados podría rechazar a usuarios que, en realidad, tienen capacidad de pago. El consumidor, en este caso, no solo pierde acceso a servicios, sino que también enfrenta una pérdida de confianza en las instituciones.
Además, el modelo bancario no solo promueve la vigilancia activa, sino que fomenta la colaboración entre el sector público y privado. En Perú, donde las políticas de regulación tecnológica aún están en desarrollo, este tipo de diálogo puede convertirse en un pilar clave para construir marcos éticos y seguros. La implementación de pruebas de estrés, aunque técnica, podría ser una herramienta útil para evaluar la robustez de los sistemas que ya están en uso. Lo importante no es simplemente prevenir errores, sino que se identifique quién asume la responsabilidad cuando algo falla.
En resumen, la supervisión de inteligencias artificiales no debe ser un ejercicio técnico aislado. Debe integrarse en un proceso de diálogo constante, transparente y socialmente responsable. Para el peruano medio, esto significa que cada vez que utiliza un servicio automatizado, debe estar consciente de que las decisiones que toma no son completamente neutrales, y que el sistema puede tener puntos vulnerables. La innovación tecnológica debe ir acompañada de mecanismos que protejan a quienes la utilizan.