Para falar dos conjuntos de Julia e Fatou, precisamos de alguns conceitos de análise:

Uma família $\mathcal{F}$ de funções entre espaços métricos $(X,d) \to (Y,d')$ é dita equicontínua em $x_0 \in X$ quando para todo $\epsilon >0$ existe $\delta>0$ tal que, para toda $f \in \mathcal{F}$, vale: $$d(x_0,x) < \delta \implies d'(f(x_0),f(x))< \epsilon$$

Dada uma sequência $(f_n)_n$ de funções com $f_n : X \to Y$, dizemos que a sequência converge localmente uniformemente quando para cada $z_0 \in U$, existe vizinhança $U_{z_0}$ tal que $f_n \to f$ uniformemente nessa vizinhança.

Dizemos que uma família $\mathcal{F}$ de funções $X \to Y$ é normal quando cada sequência infinita $(f_n)_n \subset \mathcal{F}$ contém uma subsequência de funções que converge localmente uniformemente em $X$.

Passando para o conceito de funções complexas:

Sejam $f : \overline{\mathbb{C}} \to \overline{\mathbb{C}}$ um mapa holomorfo e $\mathcal{F} := \{f^n\}$ a família das suas iteradas. Definimos o conjunto de Fatou $F_f$ de $f$ como o conjunto de pontos de $\overline{\mathbb{C}}$ onde a família de iteradas é normal (também chamado de domínio de normalidade de $f$).

O Conjunto de Julia $J_f$ de $f$ é o complemento do conjunto de Fatou. Pelas definições, $F_f$ é aberto e $J_f$ é compacto.

No caso em que a função $f$ é um mapa racional, usando o Teorema de Arzelá-Ascoli, podemos definir esses conjuntos em termos da equicontinuidade da sequência de iteradas: O conjunto de Fatou é o maior aberto onde a família de iteradas é equicontínua.

Em termos mais simples, o conjunto de Fatou são os pontos com vizinhanças onde a sequência de iteradas se comporta bem e o de Julia são os pontos que são sensíveis a pequenas variações.

Exemplo: Considerando o mapa $z \mapsto z^2$, se $|z| < 1$ ou $|z| > 1$ temos que a sequência de iteradas converge para $0$ e $\infty$, respectivamente. Se $|z|=1$ a sequência de iteradas não sai do círculo unitário e tomando vizinhanças de $z$ temos pontos que convergem para 0 e $\infty$. Então, o conjunto de Fatou desse mapa é $\overline{\mathbb{C}} \setminus S^1$ e o conjunto de Julia é $\mathbb{S}^1$.

No caso de $f$ ser um polinômio, podemos definir o conjunto de Julia cheio de f, denotado por $K_f$, como os pontos onde a sequência de iteradas é limitada. No exemplo anterior, o conjunto de Julia cheio é o disco unitário fechado.

Dados uma função $f:X \to X$ e um conjunto $A \subset X$, dizemos que $A$ é:

1. Invariante para frente quando $f(A) = A$.
2. Invariante para trás quando $f^{-1}(A) = A$.
3. Completamente invariante se (1) e (2) são válidos.

No caso de mapas racionais, por serem sobrejetivos, invariância para trás e completa são equivalentes: temos $f(f^{-1}(A))=A$ e se ocorre invariância para trás temos $f(A)=A$.

Proposição 1 (Invariância): Dada $f: \overline{\mathbb{C}} \to \overline{\mathbb{C}}$, seus conjuntos de Julia e Fatou são completamente invariantes.

Prova: Para o conjunto de Fatou, dado um aberto $U$, alguma sequência de iteradas $(f^{n_j})_j$ converge uniformemente em compactos de $U$ se , e só se, a sequência $(f^{n_j+1})_j$ converge uniformemente em compactos do aberto $f^{-1}(U)$. A invariância do Julia vem do fato que se um conjunto é completamente invariante, seu complemento também será.

Proposição 2 (Iteradas): Dado $n$ um inteiro positivo, vale que $J_f = J_{f^n}$ e $F_f=F_{f^n}$.

Prova: A sequência de iteradas geradas por $f^n$ é da forma $(f^{nm})_m$, então $F_f\subset F_{f^n}$. Por outro lado, se $z \in F_{f^n}$, temos vizinhança onde a família é normal, e para cada $k =1,\cdots,n-1$ temos que a sequência de iteradas $(f^k \circ f^{mn})_m$ é normal, mostrando a outra inclusão. Por argumento similar ao do teorema anterior, vale o mesmo para o conjunto de Julia.

Proposição 3 (Bacia de atração): Toda bacia de atração (de órbita atratora ou parabólica) e disco de Siegel está em $F_f$. A fronteira de qualquer bacia de atração ou disco de Siegel está em $J_f$ (em particular, pontos parabólicos estão em $J_f$). Todo ponto repulsor está em $J_f$.

Prova: Pela proposição anterior, podemos assumir que a bacia de atração ou disco de Siegel estão associados a pontos fixos. Seja então $A$ bacia de atração de ponto fixo atrator $z_0$. Se $V$ é uma vizinhança de $z_0$ onde $f$ é linearizável, então $V \subset F_f$; porém $A = \bigcup_n f^{-n}(V)$ e a invariância completa de $F_f$ garante que $A \subset F_f$. Argumento similar conclui qu toda bacia de atração de ponto fixo parabólico ou disco de Siegel está em $F_f$ também. A fronteira $\partial A$ de uma bacia deatração é necessariamente invariante por $f$, porém, dados quaisquer $z \in \partial A$ e $V$ vizinhança de $z$, $V$ contém pontos de $A$ cujas órbitas convergem para o ponto fixo atrator por iterados de $f$, enquanto que a órbita de $z$ está uniformemente distante de $z_0$; isso implica que $\partial A \subset J_f$. A fronteira de um disco de Siegel está em $J_f$ pois por dentro do disco podemos tomar subsequência de iterados de $f$ que convergem para a identidade (pois existe $n_j \nearrow \infty$ com $\rho^{n_j} \xrightarrow{} 1$ se $\rho = f'(z_0)$ é um ângulo irracional) enquanto que o mesmo não ocorre por fora. Finalmente, pontos repulsores estão em $J_f$ pois são fixos enquanto que vizinhanças suas são mandadas para fora delas mesmas.

Para as próximas propriedades que serão citadas, suas demonstração envolvem o seguinte teorema:

Teorema de Montel: Sejam $U \subset \overline{\mathbb{C}}$ e $\mathcal{F}$ uma família de mapas holomorfos $U \to \overline{\mathbb{C}}\setminus\{a,b,c\}$, ou seja, que omitem 3 valores. Então a família $\mathcal{F}$ é normal.

Uma consequência imediata desse teorema é a seguinte proposição:

Proposição 5: (Transitividade): Se $z_0 \in J_f$ e $W$ é uma vizinhança desse ponto, então a união das imagens $U = \bigcup_n f^n(W)$ contém toda a esfera $\overline{\mathbb{C}}$, exceto talvez dois pontos.

Corolário 1 (Julia com interior não vazio): Se o conjunto de Julia possui interior não vazio, então será igual a toda a esfera de Riemann.

Prova: Se $z$ é ponto interno, tem vizinhança contida em $J_f$ e a união das imagens será densa em $\overline{\mathbb{C}}$, concluindo o resultado por $J_f$ ser invariante e fechado.

Corolário 2 (Preimagens Iteradas são Densas): Se $z_0$ é ponto do conjunto de Julia $J_f$, então o o conjunto de suas premiagens iteradas: $$\{z \in \overline{\mathbb{C}} : f^n(z) = z_0 \text{ para algum $n$ inteiro positivo}\}$$ é denso em $J_f$.

Corolário 3 (Julia não tem pontos isolados): Se f tem grau maior ou igual que 2, então $J_f$ não tem pontos isolados.

Corolário 4 (Componentes do Julia): Se $f$ tem grau maior ou igual que 2, então $J_f$ é conexo ou possui quantidade não enumerável de componentes conexas.

Para classificar as componentes de Fatou de um mapa racional, precisamos entender o que são domínios hiperbólicos. Da classificação de superfícies de Riemann, tiramos dois fatos básicos:

Teorema: Toda superfície de Riemann não compacta pode ser mergulhada em $\overline{\mathbb{C}}$.

Teorema: Se $S$ é uma superfície de Riemann e $\tilde{S}$ é seu recobrimento universal, então valem:

1. $\tilde{S} \simeq \overline{\mathbb{C}} \implies S \simeq \overline{\mathbb{C}}$;
2. $\tilde{S} \simeq \mathbb{C} \implies S \simeq \mathbb{C}$ ou $S \simeq \mathbb{C}\setminus \{0\}$ ou $S$ é um toro complexo.

Em particular, todo subconjunto $S \subset \overline{\mathbb{C}}$ tal que $\# \overline{\mathbb{C}}\setminus S \geq 3$ tem recobrimento universal isomorfo ao disco $\mathbb{D}$. Chamamos $S$ então de domínio hiperbólico. A métrica de Poincaré no disco induz uma métrica em $S$.

Lema de Pick: Se $f: U \to U$ é um mapa holomorfo em um domínio hiperbólico, então $f$ é uma isometria local ou uma contração para a métrica de Poincaré.

Seja $f:\overline{\mathbb{C}}\rightarrow \overline{\mathbb{C}}$ um mapa racional de grau $d\geq 2$. Como vimos acima, as componentes do conjunto de Fatou são totalmente invariantes por $f$, então cada componente é mapeada sobre outra componente por $f$. Assim, a órbita de uma componente é uma sequência de componentes, e dizemos que uma componente é periódica de período $n$ sua órbita tem tamanho $n$ e é fixada por $f^{n}$. Um dos fatos fundamentais é que o comportamento dinamico das componentes periódicas tem uma descrição completa. De fato, considere uma componente $U$ periódica de um mapa racional $f$; passando a um iterado, podemos supor que a componente é fixa. Como o seu complemento tem uma infinidade de pontos (pois contém o conjunto de Julia, que não possui pontos isolados), $U$ é um dominio hiperbólico. Assim, podemos tomar a métrica de Poincaré em $U$. Pelo lema de Schwarz, $f|U$ é uma isometria local ou uma contração da métrica.

Lema 1: Seja $z_{0}\in U$. Se $f:U \rightarrow U$ é uma contração da métrica de Poincaré e existe $w\in U$ e uma sequencia de iterados $f^{n}(z_{0})$ que converge a $w$, então $w$ é um ponto fixo e $f^{n}(z)\rightarrow w$ para todo $z\in U$.

Assim, se $w$ é um ponto fixo atrator em $U$, então a componente $U$ é a sua bacia imediata. Logo, um dos comportamentos dinamicos de uma componente de Fatou é ser bacia de atração.

Lema 2: Se existe $z_{0} \in U$ tal que a sequencia $(f^{n}(z_{0}))_{n}$ converge ao bordo de $U$, então ela converge a um ponto fixo $w$ e $f^{n}(z) \rightarrow w$, para todo $z\in U$.

Neste ultimo caso, obtemos que $U$ é bacia de atração de órbita parabólica. Mais geralmente, a classificação das componentes estáveis do Fatou é dada pelo seguinte teorema:

Teorema: Seja $U$ uma componente fixa do conjunto de Fatou de um mapa racional $f$ de grau $d\geq 2$. Então, a dinamica de $f$ em $U$ é descrita por uma das seguintes possibilidades abaixo:

(i) (Bacia de Atração) Existe um ponto fixo atrator em $w\in U$ e $U$ é sua bacia de atração imediata;

(ii) (Bacia Super-atratora) Existe um ponto fixo super-atrator em $U$ e $U$ é sua bacia de atração imediata;

(iii) (Bacia Parabólica) Existe um ponto fixo parabólico $w$ de $f$ no bordo de $U$ e $U$ é uma componente de sua bacia de atração imediata;

(iv) (Disco de Siegel) Existe um biholomorfismo $\varphi :U\rightarrow \mathbb{D}$ que conjuga $f$ com uma rotação irracional do disco.

(v) (Anel de Herman) Existe um biholomorfismo $\varphi :U\rightarrow A_{R}$, onde $A_{R}$ é um anel, que conjuga $f$ a uma rotação irracional do anel.

O teorema dos Domínios não-errantes foi um verdadeiro divisor de águas na dinamica holomorfa. Era uma conjectura proposta por Fatou e Julia no inicio do século XX, onde os mesmos se perguntavam se existiam componentes estáveis que possuíam algum tipo de recorrência (no sentido de primeiro mapa de retorno), porém as ferramentas que existam na época não eram suficientes para dar uma resposta à pergunta. De fato, passaram-se cerca de 70 anos até obtermos uma resposta concreta.

Lembremos que uma componente $U$ do conjunto de Fatou de um mapa racional $f$ é dita errante se as imagens $f^{n}(U)$, $n\geq 0$, são disjuntas dois a dois. A pergunta de Fatou e Julia era, mais precisamente, se todas as componentes do Fatou eram não-errantes. E de fato, foi provado no artigo Quasiconformal Homeomorphisms and Dynamics I. Solution of the Fatou-Julia Problem on Wandering Domains, do matemático americando Dennis Sullivan, que a conjectura era verdadeira, ou seja, toda componente do Fatou se torna, após uma certa quantidade de iterados, periódica. Mais precisamente:

Teorema (Sullivan): Seja $f:\overline{\mathbb{C}}\rightarrow \overline{\mathbb{C}}$ um mapa racional de grau $d\geq 2$. Então, toda componente conexa do conjunto de Fatou é eventualmente periódica.

A demonstração desse teorema involveu a introdução de uma ferramenta fundamental na área, os chamados homeomorfismos quase conformes. De certa maneira, esses são objetos naturais para se trabalhar, pois se comportam bem com a dinâmica e são mensuráveis. Um definição possível é a seguinte:

Definição: Um homeomorfismo $f:U\rightarrow V$, onde $U,V$ são domínios de $\mathbb{C}$, é dito $K-$quase conforme se possui derivadas parciais em $L^{2}_{loc}(U)$ satisfazendo $$|\overline{\partial}f|\leq \frac{K - 1}{K + 1} |\partial f|.$$