$\def\Im{\text{Im}}$
Dizemos que uma função $f$ é estritamente crescente se, para todo $a < b$ no domínio de $f$, temos que $f(a) < f(b)$. Analogamente, definimos estritamente decrescente.
Proposição Sejam $I$ um intervalo e $f: I \to \Im(f)$ uma função contínua. Então $f$ é bijetora se, e somente se, $f$ é estritamente crescente ou estritamente decrescente.
Dem.: Note que se $f$ é estritamente crescente ou estritamente decrescente, temos que $f$ é injetora e portanto, bijetora.
Agora suponha que $f$ seja bijetora mas que não seja nem estritamente crescente nem estritamente decrescente. Neste caso existem $a, b, c \in I$ com $a < b < c$ tais que
Vamos analisar o primeiro caso, o segundo é análogo. Se $f(a) < f(c)$, existe $x_1 \in [a, b]$ tal que $f(x_1) = f(c)$. Se $f(c) < f(a)$, existe $x_2 \in [b, c]$ tal que $f(a) = f(x_2)$. Em ambos os casos, a função não é injetora.$\square$
1 Dê um exemplo de uma função bijetora que não seja nem estritamente crescente, nem estritamente decrescente. Note que, pelo resultado anterior, você tem duas opções: a função não ser contínua, ou o seu domínio não ser um intervalo.
Dada $f: A \to B$ bijetora, definimos a inversa de $f$, denotada por $f^{-1}$, a função $f^{-1}: B \to A$ tal que $f(f^{-1}(b)) = b$ para todo $b \in B$ e $f^{-1}(f(a)) = a$ para todo $a \in A$.
Proposição Se $f: A \to B$ é bijetora e estritamente crescente, então $f^{-1}$ também é estritamente crescente.
Dem.: Sejam $x, y \in B$ com $x < y$. Precisamos mostrar que $f^{-1}(x) < f^{-1}(y)$. Suponha que não. Como $f^{-1}$ é injetora, temos que $f^{-1}(x) > f^{-1}(y)$. Aplicando $f$ de ambos os lados, obtemos $x > y$, contradição.$\square$
Proposição Seja $f: I \to \Im(f)$ contínua e bijetora, onde $I$ é um intervalo. Então $f^{-1}: \Im(f) \to I$ é uma função contínua.
Dem.: Vamos fazer o caso em que $f$ é estritamente crescente (o outro é análogo). Seja $y \in \Im f$. Vamos mostrar que $f^{-1}$ é contínua em $y_0$. Seja $x_0 \in ]a, b[$ tal que $f(x_0) = y_0$. Seja $\varepsilon > 0$. Existe $\varepsilon' > 0$ tal que $0 < \varepsilon' < \varepsilon$ e tal que $[x_0 - \varepsilon', x_0 + \varepsilon'] \subset I$ (se $x_0$ é um extremo de $I$, precisamos fazer separadamente, mas os casos são bem análogos). Como $f$ é crescente, note que \[f(x_0 - \varepsilon') <f(x_0) < f(x_0 + \varepsilon').\]
Escolha $\delta > 0$ tal que $]y_0 - \delta, y_0 + \delta[ \subset ]f(x_0 - \varepsilon), f(x_0 + \varepsilon)[$. Assim, dado $y \in \Im f$ com $|y - y_0| < \delta$, temos \[y_0 - \delta < y < y_0 + \delta.\] Logo, $f(x_0 - \varepsilon) < y < f(x_0 + \varepsilon)$. Usando que a $f^{-1}$ é estritamente crescente, temos $f^{-1}(f(x_0 - \varepsilon)) < f^{-1}(y) < f^{-1}(f(x_0 + \varepsilon))$. Logo, $x_0 - \varepsilon < f^{-1}(y) < x_0 + \varepsilon$. Portanto, $f^{-1}(y_0) - \varepsilon < f^{-1}(y) < f^{-1}(y_0) + \varepsilon$. Isto é $|f^{-1}(y) - f^{-1}(y_0)| < \varepsilon$.$\square$