In this dissertation we applied geometric methods to study underdetermined second order scalar ordinary differential equations (called general Monge equations), nonlinear involutive systems of two scalar partial differential equations in two independent variables and one unknown and non-Monge-Ampere Goursat parabolic scalar PDE in the plane. These particular kinds of differential equations are related to general rank-3 Pfaffian systems in five variables. Cartan studied these objects in his 1910 paper. In this work Cartan provided normal forms only for some general rank-3 Pfaffian systems with 14-, 7-, and 6-dimensional symmetry algebra. We applied our normal forms to [i] sharpen Cartan's integration method of nonlinear involutive systems, [ii] classify all general Monge equations with a freely acting transverse 3-dimensional symmetry algebra, of which many new examples are presented, and [iii] provide a broad classification of non-Monge-Ampere Darboux integrable hyperbolic PDE in the plane. We developed a computer software, called FiveVariables, that classifies general rank-3 Pfaffian systems. FiveVariables runs in the environment DifferentialGeometry of Maple, version 11 and later.

The center-focus and isochronicity problems are two classic problem in the qualitative theory of ordinary differential equations (ODEs). Although such problems have been studied during more than hundred years a complete understanding of them is far from be reached. Recently the computational algebra tools have been contributing significantly with the development of such problems. The aim of this thesis is to contribute with the studies of the center-focus and isochronicity problem. Using computational algebra tools we find conditions for the existence of two simultaneous centers for a family of quintic systems possessing symmetry. The studies of the simultaneous existence of two centers in differential systems is known as the bi-center problem. We investigate conditions for the isochronicity of centers for families of cubic and quintic systems and we study its global behaviour in the Poincaré disk. Finally, we study the existence of invariant surfaces and first integrals in a family of 3-dimensional systems. Such family is known as the May-Leonard asymmetric system and it appears in modelling, for instance it is a model for the competition of three species. / Os problemas do foco-centro e da isocronicidade são dois problemas clássicos da teoria qualitativa das equações diferenciais ordinárias (EDOs). Apesar de tais problemas serem investigados a mais de cem anos ainda pouco se sabe sobre eles. Recentemente o uso e desenvolvimento de ferramentas algebro-computacionais tem contribuído significativamente em seu avanço. O objetivo desta tese é colaborar com o estudo do problema do foco-centro e da isocronicidade. Utilizando ferramentas algebro-computacionais encontramos condições para a existência simultânea de dois centros em famílias de sistemas diferenciais quínticos com simetria. O estudo sobre a existência simultânea de dois centros é também conhecido como problema do bi-centro. Investigamos condições para a isocronicidade de centros para famílias de sistemas cubicos e quínticos e estudamos o comportamento global de suas órbitas no disco de Poincaré. Finalmente, tratamos da existência de superfícies invariantes e integrais primeiras para uma familia de sistemas 3-dimensionais encontrado entre outras situações na modelagem da competição entre três espécies e conhecido como sistema de May-Leonard.

The center-focus and isochronicity problems are two classic problem in the qualitative theory of ordinary differential equations (ODEs). Although such problems have been studied during more than hundred years a complete understanding of them is far from be reached. Recently the computational algebra tools have been contributing significantly with the development of such problems. The aim of this thesis is to contribute with the studies of the center-focus and isochronicity problem. Using computational algebra tools we find conditions for the existence of two simultaneous centers for a family of quintic systems possessing symmetry. The studies of the simultaneous existence of two centers in differential systems is known as the bi-center problem. We investigate conditions for the isochronicity of centers for families of cubic and quintic systems and we study its global behaviour in the Poincaré disk. Finally, we study the existence of invariant surfaces and first integrals in a family of 3-dimensional systems. Such family is known as the May-Leonard asymmetric system and it appears in modelling, for instance it is a model for the competition of three species. / Os problemas do foco-centro e da isocronicidade são dois problemas clássicos da teoria qualitativa das equações diferenciais ordinárias (EDOs). Apesar de tais problemas serem investigados a mais de cem anos ainda pouco se sabe sobre eles. Recentemente o uso e desenvolvimento de ferramentas algebro-computacionais tem contribuído significativamente em seu avanço. O objetivo desta tese é colaborar com o estudo do problema do foco-centro e da isocronicidade. Utilizando ferramentas algebro-computacionais encontramos condições para a existência simultânea de dois centros em famílias de sistemas diferenciais quínticos com simetria. O estudo sobre a existência simultânea de dois centros é também conhecido como problema do bi-centro. Investigamos condições para a isocronicidade de centros para famílias de sistemas cubicos e quínticos e estudamos o comportamento global de suas órbitas no disco de Poincaré. Finalmente, tratamos da existência de superfícies invariantes e integrais primeiras para uma familia de sistemas 3-dimensionais encontrado entre outras situações na modelagem da competição entre três espécies e conhecido como sistema de May-Leonard.