Acceso usuarios
Eduardo Sánchez Karhunen, José Francisco Quesada Moreno, Miguel Ángel Gutiérrez Naranjo
La falta de transparencia del aprendizaje profundo limita la confianza en la detección de intenciones. Si bien la teoría de sistema dinámicos ha permitido interpretar las RNNs, su aplicación en escenarios de alta cardinalidad, propios de productos reales, permanece inexplorada. Extendemos este marco analítico a benchmarks con hasta 150 intenciones. Mostramos que las RNNs convergen hacia una solución geométrica interpretable, organizando su espacio de fases en clústeres robustos para cada intención. Observamos que la dimensionalidad intrínseca crece de forma sublineal respecto a la complejidad de la tarea. Basándonos en esto, introducimos la Dimensionalidad Funcional (DF), una métrica novedosa que cuantifica la dimensión mínima necesaria para preservar dicha estructura semántica. Nuestro análisis revela DFs notablemente bajas, lo que sugiere que las RNNs resuelven tareas complejas mediante un subespacio eficiente y organizado, donde los clústeres se alinean con sus vectores de decisión. Todo ello ofrece un marco escalable para auditar e interpretar sistemas de diálogos en entornos de alta cardinalidad.
Trustworthy intent detection is limited by deep learning opacity. While dynamical systems theory has emerged as a powerful tool for interpreting Recurrent Neural Networks (RNNs), its application has been unexplored in high-intent, large scale scenarios common to real-world products. We extend this analytical framework to benchmarks with up to 150 intents. We find RNNs trained on these tasks still converge to an interpretable geometric solution, forming robust, intent-specific clusters in their hidden space. We show this space’s intrinsic dimensionality grows sub-linearly with task complexity. Building on this, we introduce Functional Dimensionality (FD), a novel, task-aware metric that quantifies the minimum dimensionality required to preserve this semantic structure. Our analysis reveals FD is remarkably low, suggesting RNNs solve complex tasks via an efficient, highly organized subspace. We show this subspace is structured for inference, with clusters aligning strongly with their corresponding readout vectors. These findings offer a scalable framework for auditing and interpreting high-intent dialogue systems.
