线性映射的像与原像

任何一个映射 $f:X\to Y$ 都引出两个基本对象，对 $A\subseteq X$ 的像 $f(A)$ 与对 $B\subseteq Y$ 的原像 $f^{-1}(B)$。对于线性映射 $\mathcal A:X\to Y$，对应研究子空间 $V\subseteq X$ 的像 $\mathcal A(V)$ 与子空间 $W\subseteq Y$ 的原像 $\mathcal A^{-1}(W)$。

对原像的研究从单点的原像开始，即纤维。考虑 $\mathcal A\boldsymbol x_1=\mathcal A\boldsymbol x_2=\boldsymbol y$，有 $\mathcal A(\boldsymbol x_1-\boldsymbol x_2)=\boldsymbol 0$。考察 $\boldsymbol 0$ 处的纤维 $\mathcal A^{-1}(\{\boldsymbol 0\})$，即核 $\ker\mathcal A$，它构成了 $X$ 的一个子空间。任取代表元 $\boldsymbol x_{\boldsymbol y}\in \mathcal A^{-1}(\{\boldsymbol y\})$，就有 $\mathcal A^{-1}(\{\boldsymbol y\})=\boldsymbol x_{\boldsymbol y}+\ker\mathcal A=\{\boldsymbol x_{\boldsymbol y}+\boldsymbol x:\boldsymbol x\in\ker\mathcal A\}$，这一步要求纤维非空，即 $\boldsymbol y\in \mathcal A(X)$，记像集 $\operatorname{im}\mathcal A= \mathcal A(X)$。此时得到线性映射的任意非空纤维都是核的平移。

现在将同一纤维中代表元的选取压缩掉，这归功于 $\boldsymbol x_1\sim\boldsymbol x_2\Leftrightarrow\boldsymbol x_1-\boldsymbol x_2\in\ker \mathcal A$ 给出了一个等价关系，即 $[\boldsymbol x]=\boldsymbol x+\ker\mathcal A$ 给出了一个等价类，每个等价类恰好就是一个非空纤维。所有等价类在 $[\boldsymbol x_1]+[\boldsymbol x_2]=[\boldsymbol x_1+\boldsymbol x_2]$ 与 $\lambda[\boldsymbol x]=[\lambda\boldsymbol x]$ 下自然构成向量空间，记作 $X/\ker\mathcal A$，称为 $X$ 关于 $\ker\mathcal A$ 的商空间，容易看出定义中 $\ker \mathcal A$ 可换作任意子空间得到一般商空间定义。由商空间中元素和纤维的像的对应，即 $[\boldsymbol x]\mapsto \mathcal A\boldsymbol x$，自然有同构 $X/\ker\mathcal A\simeq \operatorname{im}\mathcal A$。对任意子空间 $W\subseteq Y$，考虑限制映射 $\mathcal A|_{\mathcal A^{-1}(W)}$，有 $\mathcal A^{-1}(W)/\ker \left(\mathcal A|_{\mathcal A^{-1}(W)}\right)\simeq\operatorname{im}\mathcal A|_{\mathcal A^{-1}(W)}$，这等价于 $\mathcal A^{-1}(W)/\ker \mathcal A\simeq\operatorname{im}\mathcal A\cap W$。

同构的维数公式给出 $\dim(\mathcal A^{-1}(W)/\ker \mathcal A)=\dim(\operatorname{im}\mathcal A\cap W)$。对商空间 $X/U$，取 $U$ 的基 $\boldsymbol u_1,\cdots,\boldsymbol u_k$，扩充为 $X$ 的基 $\boldsymbol u_1,\cdots,\boldsymbol u_k,\boldsymbol v_1,\cdots,\boldsymbol v_r$，则 $[\boldsymbol v_1],\cdots [\boldsymbol v_r]$ 构成 $X/U$ 的基，故 $\dim(X/U)=\dim X-\dim U$。由此得 $\dim(\mathcal A^{-1}(W))=\dim \ker \mathcal A+\dim(\operatorname{im}\mathcal A\cap W)$，特别有 $\dim X=\dim \ker\mathcal A+\dim\operatorname{im}\mathcal A$。此即秩-零化度定理（rank-nullity theorem）。