[タイヒミュラー空間] リーマン面の複素構造の変形空間をタイヒミュラー空間という. リーマン面がコンパクト(種数 )であるとき,これは次のようなものである: 閉曲面 上の複素構造 と の自己同相写像のホモトピー類 の組 の集合に同値関係 を「リーマン面 から への双正則写像がホモトピー類 の中に存在すること」 で定義する. この同値類をタイヒミュラー類とよび, タイヒミュラー類の集合を種数 のタイヒミュラー空間といい で表す. タイヒミュラー空間には距離 が定義される: 2点 , に対して, リーマン面 から への微分同相写像 でホモトピー類 の中にあるもの全 体を考える. の歪曲率(等角写像からのずれを測るもの)を
[タイヒミュラーモジュラー群] 閉曲面 の自己同相写像のホモトピー類 全体のなす群を写像類群という. は に で作用し, の等長変換群 (これは双正則自己同相群と一致する)の元 を定める. この準同型 は例外的(すべての点が超楕円的)な 場合を除き単射であり, またコンパクトの場合には全射でもある. 写像類群と同型な をタイヒミュラーモジュラー群ともい い, で表す. は推移的ではないが, 真性(固有)不連続に作用する.また各点 の固定化群 は有限 群である. 従って商空間 には軌道体の構造が入る. これをモジュライ空間という.
[無限次元タイヒミュラー空間] コンパクトとは限らない(たとえば種数 の) リーマン面に対しても複素構造の変形空間が同様に定義される. しかし上記の定義における同相写像をすべて擬等角写像のカテゴリーで考える必要が ある. 複素平面の開集合の同相写像 が擬等角であるとは,なめらかさが保証されてい て (正確には超関数の意味での局所可積分な偏導関数が存在し),歪曲率が有限である ことをいう. すなわちこの場合タイヒミュラー空間は基点となるリーマン面 と擬等角同値な 複素構造の空間であり, それを で表す. 無限次元複素多様体であり,とくに局所コンパクトではな くなる. の写像類群も擬等角自己同相のホモトピー類からなる群として定義され, タイヒミュラーモジュラー群 が等長変換として に作用する. しかしこれが等長変換群と一致するかどうかは一般には未解決の問題である. さらに の作用も真性不連続とは限らない.いいかえると, による点の軌道が離散的でないような が現れる. そのような軌道の集積点集合を極限集合として定義し, 無限次元タイヒミュラー空間上の解析の足がかりとしたい.たとえば適当な定量化に より, タイヒミュラー空間の等長類に対する不変量が与えられることが期待される. 極限集合はクライン群や複素力学系のジュリア集合からの類似物である.
[クライン群の極限集合] リーマン球面 に作用するメビウス変換からなる離散群をクライン群という. 非初等的な(非可換な)クライン群 に対して,一点 の による軌道の集積点集合として極限集合 が定義される. 補集合 上では は真性不連続に作用する. は -不変な空でない最小の閉集合であり, である場合を除き内点をもたない. クライン群の作用は単位球 に拡張し, ポアンカレ計量を与えて3次元双曲空間に真性不連続に作用する等長変換群とみなせ る. このとき商空間 は完備双曲多様体(一般には軌道体)となる. の種々の不変量が の極限集合(あるいはそれを細分化したもの)の定量化で評価されることが知られて いる. たとえば,双曲ラプラシアンに関する固有値の底は非接的極限集合のハウスドルフ次 元で正確に復元できる. さらに, が有限生成の場合には,完備双曲多様体 の変形は, リーマン面 のタイヒミュラー空間でパラメトライズでき, 極限集合のハウスドルフ次元をタイヒミュラー空間上の関数として解析すること (とくにタイヒミュラー空間の境界での挙動を調べること)には意味がある.
The existence of such a group as in Theorem 2 is known as a counterexample to the Burnside problem and it is called Tarski monster.