数学中的稳定性理论是指微分方程的解以及动态系统的轨迹在初始条件有小扰动时的稳定性。像热传导方程式就是稳定的偏微分方程，因为初始值的小扰动只会造成之后温度的小幅变化（这是偏微分方程中最大值定理（英语：maximum principle）的结果）。在偏微分方程中可以用Lp范数或是sup范数来量测二个函数之间的距离，而在微分几何中可以用Gromov–Hausdorff距离（英语：Gromov–Hausdorff convergence）来量测二个空间之间的距离。
在动态系统中，轨道（英语：orbit (dynamics)）为李雅普诺夫稳定的条件是，在前进轨道上的任何一点，都会在够小的邻域中，或是会维持在小的邻域内（也许会比原来的距离要远一点）。为了判断轨道的稳定性或是不稳定性，已发展出许多不同的准则。在较理想的情形下，此问题可以简化成一个已有相当多研究，和矩阵特征值有关的问题。另一种更通用的方式会用到李亚普诺夫函数。在实务上，会用到许多的稳定性判据。
许多微分方程的质性理论以及动态系统的类似理论都在处理其解及轨迹的渐近性质－若经过足够长的时间，系统会怎么变化。最简单的行为是平衡点（也称为不动点）及周期点。若对特定的轨道已有相当的了解，很自然会问下一个问题：若初始条件有一些小变化，是否还会有相似的特性。稳定性理论就是要回答以下的问题：相邻的轨道是否会持续保持相邻？与一轨道相邻的轨道最终是否会收敛到该轨道（后者的性质比较强）。前者的轨道有“稳定”的特性，后者的轨道有“渐近稳定”特性，最后收敛到的轨道有“吸引”（attracting）特性。
一个一阶常微分方程的自治系统，其平衡解维相空间的平滑动态系统的每个平衡点上，都存在 x 方块矩阵其特征值决定其邻近点的行为（Hartman–Grobman定理（英语：Hartman–Grobman theorem））。更准确的说法，若所有的特征值都是负实数，或是实部为负的复数，其平衡点是稳定，有吸引特性的不动点，邻近的点会以指数衰减的速率趋近平衡点，也就是李雅普诺夫稳定及指数稳定。若其特征值没有纯虚数或是零，则系统会会趋近平衡点或远离平衡点的扰动方向就和矩阵的特征空间，以及其对应特征值的实数为正值或是负值有关。在一些更复杂的轨域中也有类似的扰动描述。
最简单的轨道是不动点，也称为平衡点。若一力学系统在稳定平衡点下，轻推一下之后，系统最终会回到原来的位置，像摆的小振荡即为此例。若是有阻尼的系统，稳定状态会进一步形成渐进稳定。相反的，若是不稳定的平衡点，就像在山顶上的一个球，轻推一下可能就有大的位移，之后可能可以回到原始位置，也有可能无法收敛到原始位置。
有许多针对线性系统的稳定性测试方式，非线性系统的稳定性也可以透过其线性化系统的稳定性来判断。
令: R → R为光滑函数，存在一不动点 () = 。考虑由函数迭代产生的以下动态系统：
不动点稳定，若在点导数的绝对值严格小于1，不动点不稳定若导数严格大于1。这是因为在点附近，函数可以用斜率()来进行线性近似：
意思是导数可以看出函数在迭代会趋近不动点或是远离不动点，也可以看出迭代速率。若导数恰为1或−1，还需要其他的资讯来判断稳定性。
在有不动点的连续可微分映射: R → R上，也有类似的判断准则，用点的雅可比矩阵()来表示。的所有特征值绝对值都严格小于1，则是稳定不动点，若至少有一个特征值绝对值严格大于1，则则是不稳定。若=1，最大绝对值为1，需要进一步分析，无法用雅可比矩阵测试来判断。在微分流形上的微分同胚也有类似的准则。
一阶常系数线性微分方程不动点的稳定性可以用对应矩阵的特征值来分析。
考虑以下的自治系统
其中() ∈ R，为×的实数矩阵，有一个固定值的解
（换句话说，原点0 ∈ R是此动态系统的平衡点）。此解在 → ∞（未来）渐近稳定当且仅当矩阵所有的特征值都满足实部小于零的条件（Re() < 0）。而此解在 → −∞（过去）渐近稳定当且仅当矩阵所有的特征值都满足实部大于零的条件（Re() > 0）。若有任何一个特征值的实部大于零（Re() > 0），此解在 → ∞（未来）会发散。
为了判断线性系统在原点的稳定性，此结果在实务上的应用会透过劳斯–赫尔维茨稳定性判据实现。矩阵的特征值是其特征多项式的根。单变数，实系数的多项式若其根的所有实部都为负，称为赫尔维茨多项式。劳斯–赫尔维茨定理（英语：Routh–Hurwitz theorem）指出了赫尔维茨多项式的特点，可以在不实际找到所有根的情形下进行判断。
非线性系统不动点的渐近稳定性可以透过Hartman–Grobman定理（英语：Hartman–Grobman theorem）来判断。
假设是R中的1-向量场，在点会为0（() = 0）。则对应的自治系统状态m
有一个定值的解
令()为向量场在点处的×雅可比矩阵。若的所有特征值实值都是非零的负数，则其解在该点附近是渐近稳定。可以用劳斯–赫尔维茨稳定性判据来测试此一条件。
要确认动态方程的李亚普诺夫稳定性或是渐近稳定性，有另一种更通用的方式，是透过李亚普诺夫函数。