Para falar dos conjuntos de Julia e Fatou, precisamos de alguns conceitos de análise:

Uma família $\mathcal{F}$ de funções entre espaços métricos $(X,d) \to (Y,d')$ é dita equicontínua em $x_0 \in X$ quando para todo $\epsilon >0$ existe $\delta>0$ tal que: \[ \text{Para toda $f \in \mathcal{F}$ vale: }d(x_0,x) < \delta \implies d'(f(x_0),f(x))< \epsilon \]

Dada uma sequência $(f_n)_n$ de funções com $f_n : X \to Y$, dizemos que a sequência converge localmente uniformemente quando para cada $z_0 \in U$, existe vizinhança $U_{z_0}$ tal que $f_n \to f$ uniformemente nessa vizinhança.

Dizemos que uma família $\mathcal{F}$ de funções $X \to Y$ é normal quando cada sequência infinita $(f_n)_n \subset \mathcal{F}$ contém uma subsequência de funções que converge localmente uniformemente em $X$.

Passando para o conceito de funções complexas:

Seja $f : \overline{\mathbb{C}} \to \overline{\mathbb{C}}$ um mapa holomorfo e escrevendo como $\{f^n\}$ a família das suas $n$-iteradas. Definimos o conjunto de Fatou $F$ de $f$ como o conjunto de pontos de $\overline{\mathbb{C}}$ onde a família de iteradas é normal (também chamado de domínio de normalidade de $f$), também denotado por $F(f)$

O Conjunto de Julia $J$ de $f$ é o complemento do conjunto de Fatou, também denotado $J(f)$. Pelas definições, $F$ é aberto e $J$ é compacto.

No caso da função $f$ ser um mapa racional, usando o Teorema de Arzelá-Ascoli, podemos definir esses conjuntos em termos de equicontinuidade da sequência de iteradas: O conjunto de Julia é o aberto onde a família de iteradas é equicontínua.

Em termos mais simples, o conjunto de Fatou são os pontos com vizinhanças onde a sequência de iteradas se comporta bem e o de Julia são os pontos que são sensíveis a pequenas variações.

Exemplo: Considerando o mapa $z \mapsto z^2$, se $|z| < 1$ ou $|z| > 1$ temos que a sequência de iteradas converge para $0$ e $\infty$ respectivamente. Se $|z|=1$ a sequência de iteradas não sai do círculo unitário e tomando vizinhanças de $z$ temos pontos que convergem para 0 e $\infty$. Então, o conjunto de Fatou desse mapa é $\overline{\mathbb{C}} \setminus S^1$.

No caso de $f$ ser um polinômio, podemos definir o conjunto de Julia cheio de f, denotado por $K_f$, como os pontos onde a sequência de iteradas é limitada. No exemplo anterior, o conjunto de Julia cheio é o disco unitário fechado.

Dada uma função $f:X \to X$ e conjunto $A \subset X$, dizemos que $A$ é:

1. Invariante para frente quando $f(A) = A$.
2. Invariante para trás quando $f^{-1}(A) = A$.
3. Completamente invariante se (1) e (2) são válidos.

No caso de mapas racionais, por serem sobrejetivos, invariância para trás e completa são equivalentes: temos $f(f^-1(A))=A$ e se ocorre invariância para trás temos $f(A)=A$.

Proposição 1 (Invariância): Dada $f: \overline{\mathbb{C}} \to \overline{\mathbb{C}}$, seus conjuntos de Julia e Fatou são completamente invariantes.

Prova: Para o conjunto de Fatou,dado um aberto $U$, alguma sequência de iteradas $(f^{n_j})_j$ converge uniformemente em compactos de $U$ se , e só se, a sequência $(f^{n_j+1})_j$ converge uniformemente em compactos do aberto $f^{-1}(U)$. A invariância do Julia vem do fato que se $A$ é completamente invariante, seu complemento também será.

Proposição 2 (Iteradas): Dado $n$ um inteiro positivo, vale que $J(f) = J(f^n)$ e $F(f)=F(f^n)$.

Prova: A sequência de iteradas geradas por $f^n$ é da forma $(f^{nm})_m$, então $F(f)\subset F(f^n)$. Por outro lado, se $z \in F(f^n)$, temos vizinhança onde a família é normal, e para cada $k =1,\cdots,p-1$ temos que a sequência de iteradas $f^k \circ f^{n}$ é normal, mostrando a outra inclusão. Por argumento similar ao do teorema anterior, vale o mesmo para o conjunto de Julia.

Proposição 3 (Bacia de atração): A bacia de atração $A$ de uma órbita periódica atratora está contida no conjunto de Fatou. Por outro lado, toda órbita periódica repulsora está no conjunto de Julia.

Prova: Pensando em $z_0$ como o ponto $m$-periódico como ponto fixo de $f^m$, então podemos pensar somente no caso de ser ponto fixo de $f$. O resultado segue fazendo a linearização e estudando o módulo do multiplicador $f'(z_0) = \lambda$ para verificar como as convergências ocorrem.

Proposição 4 (Pontos parabólicos): Todo ponto periódico parabólico pertence ao conjunto de Julia.

Prova: Similar ao caso anterior, usando a expansão local da função no ponto.

Para as próximas propriedades que serão citadas, suas demonstração envolvem o seguinte teorema:

Teorema de Montel: Seja $U \subset \overline{\mathbb{C}}$ e $\mathcal{F}$ uma família de mapas holomorfos $U \to \overline{\mathbb{C}}\setminus\{a,b,c\}$, ou seja, que omitem 3 valores, então a família $\mathcal{F}$ é normal.

Proposição 5: (Transitividade): Se $z_0 \in J(f)$ e seja $W$ uma vizinhança desse ponto. Então, a união das imagens $U = \bigcup_n f^n(W) \supset J(f)$ contém todos menos dois pontos de $\overline{\mathbb{C}}$.

Que possui as seguintes consequências:

Corolário 1 (Julia com interior não vazio): Se o conjunto de Julia possui interior não vazio, então será igual a toda a esfera de Riemann.

Se $z$ é ponto interno, tem vizinhança contida em $J$ e a união das imagens será densa em $\overline{\mathbb{C}}$ e segue de $J$ ser fechado.

Corolário 2 (Preimagens Iteradas são Densas): Se $z_0$ é ponto do conjunto de Julia $J(f)$, então o o conjunto de suas premiagens iteradas: \[\{z \in \overline{\mathbb{C}} : f^n(z) = z_0 \text{ para algum $n$ inteiro positivo}\}\] é denso em $J$.

Que é uma consequencia direta pra proposição 5.

Proposição 6 (Julia não tem pontos isolados): Se f tem grau maior ou igual que 2, então $J(f)$ não tem pontos isolados.

Proposição 7 (Componentes do Julia): Se $f$ tem grau 2 ou mais, $J(f)$ é conexo ou possui componentes conexas não-enumeráveis.

Seja $f:\hat{\mathbb{C}}\rightarrow \hat{\mathbb{C}}$ um mapa racional de grau $d\geq 2$. Como vimos acima, as componentes do conjunto de Fatou são totalmente invariantes por $f$, então cada componente é mapeada sobre outra componente por $f$. Assim, a órbita positiva de uma componente é uma sequência de componentes, e dizemos que uma componente é periódica de período $n$ se a sua órbita positiva possui $n$ componentes e portanto é fixada por $f^{n}$. Mais precisamente, dizer que uma componente $U_{0}$ é periódica de periodo $n$ se existem componentes $U_{1},U_{2},...,U_{n}$ tais que $f(U_{i})\subset U_{i+1}$ e $f^{n}(U_{n}) = U_{0}$. Um dos fatos fundamentais é que os comportamentos dinamicos das componentes tem uma descrição completa. De fato, considere uma componente $U$ periódica de um mapa racional $f$. Passando a um iterado, podemos supor que a componente é fixa. Como o seu complemento tem uma infinidade de pontos, pois contém o conjunto de Julia, $U$ é um dominio hiperbólico, e portanto podemos tomar a métrica de Poincaré em $U$. Pelo lema de Schwarz, $f|U$ é uma isometria local ou uma contração da métrica.

Lema 1: Seja $z_{0}\in U$. Se $f:U \rightarrow U$ é uma contração da métrica de Poincaré e existe $w\in U$ e uma sequencia de iterados $f^{n}(z_{0})$ que converge a $w$, então $w$ é um ponto fixo e $f^{n}(z)\rightarrow w$ para todo $z\in U$.

Assim, se $w$ é um ponto fixo atrator em $U$, então a componente $U$ é a sua bacia imediata. Logo, um dos comportamentos dinamicos de uma componente de Fatou é ser bacia de atração.

Lema 2: Se existe $z_{0} \in U$ tal que a sequencia $(f^{n}(z_{0}))_{n}$ converge ao bordo de $U$, então ela converge a um ponto fixo $w$ e $f^{n}(z) \rightarrow w$, para todo $z\in U$.

Neste ultimo caso, obtemos que se a órbita positiva em $U$ converge para o bordo de $U$, então estamos no caso parabólico, isto é, $U$ é bacia parabólica. Mais geralmente, a classificação das componentes estáveis do Fatou é dado pelo seguinte teorema geral:

Teorema :Seja $U$ uma componente fixa do conjunto de Fatou de um mapa racional $f$ de grau $d\geq 2$. Então, a dinamica de $f$ em $U$ é descrita por uma das seguintes possibilidades abaixo:

(i) (Bacia de Atração) Existe um ponto fixo atrator em $w\in U$ e $U$ é sua bacia imediata;

(ii)(Bácia Super-atratora) Existe um ponto fixo super-atrator em $U$ e $U$ é sua bácia imediata;

(iii)(Bacia Parabólica) Existe um ponto fixo $w$ de $f$ no bordo de $U$ e $f^{n}(z)\rightarrow w$, para todo $z\in U$.

(iv)(Disco de Siegel) Existe um biholomorfismo $\varphi :U\rightarrow \mathbb{D}$ que conjuga $f$ com uma rotação irracional do disco.

(v)(Anel de Herman) Existe um biholomorfismo $\varphi :U\rightarrow A_{R}$, onde $A_{R}$ é um anel topológico (i.e uma superfície de Riemann de grupo fundamental isomorfo a $\mathbb{Z}$) que conjuga $f$ a uma rotação irracional do anel.

O teorema dos Domínios não-errantes foi um verdadeiro divisor de aguas na dinamica holomorfa. Era uma conjectura proposta por Fatou e Julia no inicio do século XX, onde os mesmos se perguntavam se existiam componentes estáveis que possuíam algum tipo de recorrência (no sentido de Primeiro mapa de retorno), porém o toolkit que se tinha a época não era suficiente para dar uma resposta a pergunta. De fato, demorou cerca de 70 anos até se obter uma resposta concreta.

Lembremos que uma componente $U$ do conjunto de Fatou de um mapa racional $f$ é dita errante (ou Wandering) se as imagens das órbitas positivas $f^{n}(U)$, $n\geq 0$, são disjuntas dois a dois. A pergunta de Fatou e Julia era, mais precisamente, se todas as componentes do Fatou eram não-errantes. E de fato, foi provado no artigo Quasiconformal Homeomorphisms and Dynamics I. Solution of the Fatou-Julia Problem on Wandering Domains, do matemático americando Dennis Sullivan, que a conjectura era verdadeira, ou seja, toda componente do Fatou se torna, após uma certa quantidade de iterados, periódica. Mais precisamente:

Teorema(Sullivan):Seja $f:\hat{\mathbb{C}}\rightarrow \hat{\mathbb{C}}$ um mapa racional de grau $d\geq 2$. Então, toda componente conexa do conjunto de Fatou é eventualmente periódica.

Um fato fundamental é a introdução de uma ferramenta fundamental na área, os chamados homeomorfismos quaseconformes. De certa maneira, esses são objetos naturais para se trabalhar, pois se comportam bem com a dinâmica e são mensuráveis. Um definição possível é a seguinte:

Definição: Um homeomorfismo $f:U\rightarrow V$, onde $U,V$ são domínios de $\mathbb{C}$, é dito $k-$quaseconforme se $|\overline{\partial}f|\leq k |\partial f|$ e as derivadas parciais estão em $L^{2}_{loc}(U)$.

De posse desta classe de mapas, Sullivan consegue demonstrar a conjectura de Fatou. Como mencionamos acima, a classe dos homeomorfismos quaseconformes se tornou uma ferramente bem poderosa na dinâmica holomorfa, auxiliando a demonstrar muitos outros belos resultados como a desigualdade de Fatou-Shishikura, o teorema Straightening de Douady-Hubbard,etc.