En este trabajo proponemos un método general de análisis de estabilidad no lineal basado en el cálculo de la dimensión fractal de las órbitas que sigue un sistema dinámico en el espacio de las fases, y estudiamos modelos matemáticos de dos diseños diferentes de reactores nucleares de potencia. Comenzamos ilustrando la aplicación del método no lineal de análisis de estabilidad al sistema caótico de Lorenz y luego investigamos el origen físico de las inestabilidades termohidráulicas tanto en una como en dos fases por un lado, y de la dinámica neutrónica por otro. Finalmente, acoplamos el problema termohidráulico al neutrónico desarrollando dos sistemas dinámicos que modelan el comportamiento de un reactor integrado de convección natural y de un reactor de canales paralelos verticales. En cada caso, construimos mapas de estabilidad en el espacio de parámetros prestando especial atención a las principales variables de diseño, identificando aquellas que contribuyen a inestabilizar el sistema.