在數學，尤其是動力系統的研究中，穩定和不穩定集合或穩定和不穩定流形的概念為吸引子或排斥器概念中體現的一般概念提供了正式的數學定義。 在雙曲動力學的情況下，相應的概念是雙曲集的概念。

作用在土星環上的引力潮汐力提供了一個易于形象化的物理示例。 潮汐力將圓環壓扁至赤道平面，即使它們在徑向方向上拉伸它也是如此。 將環想象成圍繞土星運行的沙子或礫石顆粒（塵埃），潮汐力是這樣的，任何將顆粒推到赤道平面上方或下方的擾動都會導致該顆粒感受到恢復力，將其推回平面。 粒子有效地在諧波井中振蕩，并因碰撞而衰減。 穩定方向垂直于環。 不穩定的方向是沿著任何半徑，力會拉伸并將粒子拉開。 在相空間中彼此非常接近的兩個粒子將受到徑向力，導致它們徑向發散。 這些力的李雅普諾夫指數為正； 軌跡位于雙曲流形上，粒子的運動本質上是混亂的，在環中游蕩。 中心歧管與環相切，粒子既不壓縮也不拉伸。 這使得二階引力占主導地位，因此粒子可以被環中的衛星或小衛星夾帶，與它們鎖相。 衛星的引力有效地提供了一個有規律重復的小踢，每次繞軌道運行，類似于被踢的轉子，例如在鎖相環中發現的。

環中粒子的離散時間運動可以用龐加萊圖來近似。 該映射有效地提供了系統的傳輸矩陣。 與矩陣的xxx特征值相關聯的特征向量是 Frobenius–Perron 特征向量，它也是不變量測度，即環中粒子的實際密度。 傳遞矩陣的所有其他特征向量具有較小的特征值，并且對應于衰減模式。

下面提供了系統是迭代函數或具有離散時間動態的情況的定義。 類似的概念適用于時間演化由流給出的系統。

設 X {\displaystyle X} 是拓撲空間，而 f : X → X {\displaystyle f\colon X\to X} 是同胚。 如果 p {\displaystyle p} 是 f {\displaystyle f} 的不動點，則 p {\displaystyle p} 的穩定集定義為

W s ( f , p ) = { q ∈ X : f n ( q ) → p as n → ∞ } {\displaystyle W{s}(f,p)=\{q\in X:f{n }(q)\to p{\mbox{ as }}n\to \infty \}}

p {\displaystyle p} 的不穩定集合定義為

W u ( f , p ) = { q ∈ X : f ? n ( q ) → p as n → ∞ }。 {\displaystyle W{u}(f,p)=\{q\in X:f{-n}(q)\to p{\mbox{ as }}n\to \infty \}.}

這里，f ? 1 {\displaystyle f{-1}} 表示函數 f {\displaystyle f} 的反函數，即 f ° f ? 1 = f ? 1 ° f = i d X {\displaystyle f circ f{-1}=f{-1}\circ f=id_{X}} ，其中 i d X {\displaystyle id_{X}} 是 X {\displaystyle X} 上的恒等映射。

如果 p {\displaystyle p} 是最小周期 k {\displaystyle k} 的周期點，則它是 f k {\displaystyle f{k}} 的不動點，p {\displaystyle f{k}} 的穩定集和不穩定集 \displaystyle p} 定義為

W s ( f , p ) = W s ( f k , p ) {\displaystyle W{s}(f,p)=W{s}(f{k},p)}

和

Wu(f,p)=Wu(fk,p)。 {\displaystyle W{u}(f,p)=W{u}(f{k},p).}

給定 p {\displaystyle p} 的鄰域 U {\displaystyle U} ， p {\displaystyle p} 的局部穩定集和不穩定集定義為

W l o c s ( f , p , U ) = { q ∈ U : f n ( q ) ∈ U 對于每個 n ≥ 0 } {\displaystyle W_{\mathrm {loc} }{s}(f,p,U) =\{q\in U:f{n}(q)\in U{\mbox{ 對于每個 }}n\geq 0\}}

和

W l o c u ( f , p , U ) = W l o c s ( f ? 1 , p , U ) 。 {\displaystyle W_{\mathrm {loc} }{u}(f,p,U)=W_{\mathrm {loc} }{s}(f{-1},p,U).}

如果 X {\displaystyle X} 是可度量的，我們可以為任何點定義穩定和不穩定的集合

W s ( f , p ) = { q ∈ X : d ( f n ( q ) , f n ( p ) ) → 0 對于 n → ∞ } {\displaystyle W{s}(f,p)=\{q \in X:d(f{n}(q),f{n}(p))\to 0{\mbox{ for }}n\to \infty \}}

和

W u ( f , p ) = W s ( f ? 1 , p ) , {\displaystyle W{u}(f,p)=W{s}(f{-1},p),}

其中 d {\displaystyle d} 是 X {\displaystyle X} 的度量。 當 p {\displaystyle p} 是一個周期點時，這個定義顯然與前面的定義一致。

現在假設 X {\displaystyle X} 是緊致光滑流形，f {\displaystyle f} 是 C k {\displaystyle {\mathcal {C}}{k}} 微分同胚，k ≥ 1 { \displaystyle k\geq 1} . 如果 p {\displaystyle p} 是一個雙曲周期點，穩定流形定理保證。