积分-求导-极限(级数)各种交换顺序

  |  

摘要: 积分、求导、极限(级数)变换次序

【对数据分析、人工智能、金融科技、风控服务感兴趣的同学,欢迎关注我哈,阅读更多原创文章】
我的网站:潮汐朝夕的生活实验室
我的公众号:潮汐朝夕
我的知乎:潮汐朝夕
我的github:FennelDumplings
我的leetcode:FennelDumplings


在推公式的过程中,经常遇到积分、求导、极限(级数)之间交换次序的问题。在数学分析中我们讨论过一部分相关的问题,但是并不全面,本文收集一些常见的交换次序相关的定理,不加证明(想了解的话参考《陶哲轩实分析》),以后用到的时候可以参考。

借着对交换次序这一敏感操作的讨论和总结,我们顺便把二重极限与累次极限、二重积分与累次积分、二重级数与累次级数、二元函数的偏导数的关键概念复习一下。涉及到交换次序的条件的地方,用红色标出。本文讨论涉及到积分的地方指的是黎曼积分。


二重级数交换求和次序

由于二重级数的项的排列次序不唯一,根据研究目的,可以有多种二重级数部分和的定义方式,进而有不同的定义二重级数的收敛性的方式以及对应的级数的和。

这里我们首先介绍一下所关心的关于二重级数的定义和性质:

  • 二重级数及其部分和的定义。
  • 二重级数的收敛、绝对收敛的定义及其性质。
  • 累次级数的定义。
  • 累次级数的收敛、绝对收敛的定义和性质。
  • 表达二重级数与单级数关系的重排定理。

最后是关于累次级数交换求和顺序的 Fubini 定理。

二重数列的定义

函数 $f: \mathbb{N}\times\mathbb{N}\rightarrow\mathbb{R}$,记 $a_{mn} = f(m, n)$,称 $\{a_{mn}\}$ 为二重数列。其中 $m, n$ 各自独立地取正整数 $1, 2, 3, \cdots$。比如下面是一种可能得排列方式:

二重数列的极限的定义

设 $a_{mn}$ 为二重数列,$a \in \mathbb{R}$,如果对任意 $\epsilon > 0$,存在 $M$,使得当 $m,n > M$ 时,$|a_{mn} - a| < \epsilon$,则称二重数列当 $(m, n) \rightarrow\infty$ 时的极限为 $a$,记为 $\lim\limits_{m,n\rightarrow\infty}a_{mn}=a$

二重级数的定义

设 $\{a_{mn}\}$ 为二重数列,把它的项按任意次序排列并求和得到的表达式为二重级数。记为$\sum\limits_{m,n=1}\limits^{\infty}a_{mn}$,其中 $m, n$ 各自独立地取正整数 $1, 2, 3, \cdots$。比如下面是一种可能得排列方式。

如果 $a_{ij}$ 为函数,则称为函数项二重级数

$S_{mn} = \sum\limits_{i=1}\limits^{n}\sum\limits_{j=1}\limits^{m}a_{ij}$ 为二重级数 $\sum\limits_{m,n=1}\limits^{\infty}a_{mn}$ 的部分和

二重级数的收敛

二重极限 $\lim\limits_{m,n\rightarrow\infty}S_{mn} < +\infty$,则称二重级数 $\sum\limits_{m,n=1}\limits^{\infty}a_{mn}$ 收敛,$S = \sum\limits_{m,n=1}\limits^{\infty}a_{mn}$,称为二重级数的和。否则二重级数发散

如果 $S = \sum\limits_{m,n=1}\limits^{\infty}|a_{mn}|$ 收敛,称二重级数绝对收敛

单级数的一些性质在二重级数中也有,比如:

  • 非负项二重级数收敛,当且仅当其部分和有界
  • 二重级数收敛的必要条件为 $\lim\limits_{m,n\rightarrow\infty}a_{mn} = 0$
  • 绝对收敛的二重级数一定收敛
  • 对于函数项二重级数,可以与函数项级数类似地引进一致收敛的概念,并得到相应的柯西准则和判别法。

累次级数

累次级数的定义

$\{a_{mn}\}$ 为二重数列。从二重级数 $\sum\limits_{m,n=1}\limits^{\infty}a_{mn}$ 出发,按以下顺序排列并求和:首先将某一行元素依次相加,得到级数 $\sum\limits_{n=1}\limits^{\infty}a_{mn}$ 称为行级数。再将行级数依次相加,得到累次级数 $\sum\limits_{m=1}\limits^{\infty}\sum\limits_{n=1}\limits^{\infty}a_{mn}$。

累次级数(repeated series)是一个与累次积分(repeated integral)类似的概念。累次级数可以理解为各项均为级数的级数。

对于累次级数,可以用普通级数相关的概念来定义其收敛性和其他概念。

累次级数的收敛

对于累次级数 $\sum\limits_{m=1}\limits^{\infty}\sum\limits_{n=1}\limits^{\infty}a_{mn}$,若对于每个 $m$,行级数 $\sum\limits_{n=1}\limits^{\infty} a_{mn}$ 收敛于 $b_{m}$,且级数 $\sum\limits_{m=1}\limits^{\infty}b_{m}$ 收敛,则称累次级数 $\sum\limits_{m=1}\limits^{\infty}\sum\limits_{n=1}\limits^{\infty}a_{mn}$ 收敛。和为 $\sum\limits_{m=1}\limits^{\infty}b_{m}$ 的和。

若 $\sum\limits_{m=1}\limits^{\infty}\sum\limits_{n=1}\limits^{\infty}|a_{mn}|$ 收敛,则称累次级数 $\sum\limits_{m=1}\limits^{\infty}\sum\limits_{n=1}\limits^{\infty}a_{mn}$ 绝对收敛

  • 注意从一个累次级数收敛不能得出由同一个二重级数导出的另一累次级数收敛,并且及时都收敛也不一定相等。例如这个二重数列 $\{a_{mn}\}$,其两个累次级数分别收敛于 $-1$ 和 $1$,定义如下:
  • 若二重级数 $\sum\limits_{m,n=1}\limits^{\infty}a_{mn}$ 及行级数 $\sum\limits_{n=1}\limits^{\infty}a_{mn}$ 都收敛,则累次级数 $\sum\limits_{m=1}\limits^{\infty}\sum\limits_{n=1}\limits^{\infty}a_{mn}$ 也收敛,且与二重级数有相同的和,即:
  • 正项级数 $\sum\limits_{m,n=1}\limits^{\infty}a_{mn}$ 收敛的充要条件是部分和 $\sum\limits_{m=1}\limits^{\infty}\sum\limits_{n=1}\limits^{\infty}a_{mn}$ 有上界,即存在 $M$ 使得:
  • 正项级数 $\sum\limits_{m,n=1}\limits^{\infty}a_{mn}$ 与该正项级数导出的两个累次级数 $\sum\limits_{m=1}\limits^{\infty}\sum\limits_{n=1}\limits^{\infty}a_{mn}$、$\sum\limits_{n=1}\limits^{\infty}\sum\limits_{m=1}\limits^{\infty}a_{mn}$ 有相同的收敛性及其收敛到的和。

累次级数交换顺序的反例

考察以下无穷矩阵 $A$:

对于这个无穷矩阵,$\sum\limits_{i=0}\limits^{\infty}\sum\limits_{j=0}\limits^{\infty}a_{ij} = 1$,但 $\sum\limits_{j=0}\limits^{\infty}\sum\limits_{i=0}\limits^{\infty}a_{ij} = 0$

重排定理

设 $\Phi$ 是正整数集合 $\mathbb{N}^{+}$ 到序列 $\mathbb{N}^{+} \times \mathbb{N}^{+}$ 上的一一对应,则对二重级数 $\sum\limits_{m,n=1}\limits^{\infty}a_{mn}$ 可以得到级数:

$\Phi$ 称为二重数列 $\{a_{mn}\}$ 到序列 $\{a_{\Phi(k)}\}_{k=1}^{\infty}$ 的重排,或二重级数到单级数的重排。

关于由二重级数重排的单级数的收敛性,有以下结论:

如果级数 $\sum\limits_{m,n=1}\limits^{\infty}|a_{mn}|$,$\sum\limits_{m=1}\limits^{\infty}\sum\limits_{n=1}\limits^{\infty}|a_{mn}|$,$\sum\limits_{n=1}\limits^{\infty}\sum\limits_{m=1}\limits^{\infty}|a_{mn}|$,$\sum\limits_{k=1}\limits^{\infty}|a_{\Phi(k)}|$ 之一收敛,则另外三个也收敛,且和相等。记为 $S$。

无限和的Fubini定理

参考《陶哲轩实分析》$8-2。

设 $f: \mathbb{N}\times\mathbb{N} \rightarrow \mathbb{R}$,如果二重级数 $\sum\limits_{(n,m)\in \mathbb{N}\times\mathbb{N}}f(n, m)$ 绝对收敛,那么可以做以下交换求和次序的操作:

有限和的Fubini定理

$X, Y$ 是有限集合,设 $f: X \times Y \rightarrow \mathbb{R}$,那么:

根据有限和的 Fubini 定理,取 $X = \{i \in \mathbb{N}: 0\leq i \leq m\}$, $Y = \{i \in \mathbb{N}: 0\leq i \leq n\}$,可以做以下交换求和次序的操作:


二重积分交换积分次序

富比尼定理给出了使用累次积分的方法计算二重积分的条件。在这些条件下,不仅能够用累次积分计算二重积分,而且交换累次积分的顺序时,积分结果不变。

矩形区域二重积分的定义

$I$ 是 $\mathbb{R}^{2}$ 中的闭矩形,$I = [a, b] \times [c, d]$,作 $[a, b]$ 的分割,再做 $[c, d]$ 的分割:

于是两族平行线 $x = x_{i}, (i=0,1,\cdots,m)$,$y = y_{j}, (j=0,1,\cdots,n)$ 将 $I$ 分成 $mn$ 个子矩形 $[x_{i-1}, x_{i}] \times [y_{i-1}, y_{i}]$,构成 $y$ 的分割 $\pi = \pi_{x} \times \pi_{y}$,编号为 $I_{1}, I_{2}, \cdots, I_{k}$。

每个 $I_{i}$ 中任取一点 $\vec{\xi}_{i}, (i=1,2,\cdots,k)$,作黎曼和

记 $\Arrowvert \pi\Arrowvert = \max{\{diam(I_{1}), diam(I_{2}),\cdots, diam(I_{k})\}}$,其中 $diam(I_{i})$ 为矩形 $I_{i}$ 的对角线长度。称 $\Arrowvert \pi\Arrowvert$ 为分割 $\pi$ 的宽度。值点向量为 $\vec{\xi} = (\vec{\xi}_{1}, \vec{\xi}_{2}, \cdots, \vec{\xi}_{k})$

若存在 $A$ 使得对任意 $\epsilon > 0$ 存在 $\delta > 0$,使得 $\Arrowvert \pi\Arrowvert < \delta$ 时,不论 $\vec{\xi}_{i}$ 在 $I$ 中如何选择,都有:

称 $f$ 在 $I$ 上黎曼可积

$A = \lim\limits_{\Arrowvert\pi\Arrowvert\rightarrow 0}\sum\limits_{i=1}\limits^{k}f(\vec{\xi})\sigma(I_{i})$ 称为 $f$ 在 $I$ 上的二重积分,记为 $\iint\limits_{I}f(x,y)\mathrm{d}x\mathrm{d}y$。

累次积分的定义

对于 $I = [a, b] \times [c, d]$ 上的 $f(x, y)$,记 $f(x_{0}, y)$ 为把 $x$ 固定在 $x_{0} \in [a, b]$,$y$ 的函数。若对每一个 $x \in [a, b]$,$f(x, y)$ 在 $[c, d]$ 可积,那么可以定义:

若 $\phi(x)$ 又在 $[a, b]$ 上可积,则 $\int_{a}^{b}\phi(x)\mathrm{d}x = \int_{a}^{b}(\int_{c}^{d}f(x, y)\mathrm{d}y)\mathrm{d}x$ 称为累次积分,记为:

类似地可以定义另一个累次积分: $\int_{c}^{d}\mathrm{d}y\int_{a}^{b}f(x, y)\mathrm{d}x$。

累次积分交换顺序的反例

考虑以下二元函数 $f(x, y)$:

一方面 $\int_{0}^{1}(e^{-xy} - xye^{-xy})\mathrm{d}y = e^{-x}$,进而 $\int_{0}^{\infty}\int_{0}^{1}(e^{-xy} - xye^{-xy})\mathrm{d}y\mathrm{d}x = \int_{0}^{\infty}e^{-x}\mathrm{d}x = 1$。

另一方面 $\int_{0}^{\infty}(e^{-xy} - xye^{-xy})\mathrm{d}x = 0$,进而 $\int_{0}^{1}\int_{0}^{\infty}(e^{-xy} - xye^{-xy})\mathrm{d}x\mathrm{d}y = 0$。

富比尼定理(Fubini)

参考《陶哲轩实分析》$19-5。

若 $\int_{A\times B}|f(x, y)|\mathrm{d}(x, y) < \infty$,其中积分是关于空间 $A\times B$ 的积测度,且 $A$ 和 $B$ 都是 $\sigma$-有限测度空间,那么:

后两者是在两个测度空间上的累次积分,但积分次序不同;第一个是在乘积空间上关于乘积测度的积分。

特别地,如果 $f(x, y) = h(x)g(y)$,则:

基于富比尼定理,如果我们的被积函数绝对可积,那么累次积分就可以交换积分次序。

由数学分析的结论,如果 $f$ 在 $I$ 连续,则 $f$ 在 $I$ 可积,因此被积函数 $f$ 连续,也可以交换积分次序。

用富比尼定理计算高斯积分

化为极坐标,$x = r\cos{\theta}, y = r\sin{\theta}$,得到:

于是 $\int_{0}^{\infty}e^{-x^{2}}\mathrm{d}x = \frac{\sqrt{\pi}}{2}$。


二重极限交换极限次序

多元函数的重极限

设 $D \subset \mathbb{R}^{n}$,那么映射 $f: D \rightarrow \mathbb{R}$ 称为 n 元函数,其中 $D$ 为 $f$ 的定义域,$f(D) \subset R$ 称为 $f$ 的值域。

点 $\vec{a} \in \mathbb{R}^{n}$ 为 $D$ 的一个凝聚点 ($\vec{a} \in D’$),设 $l\in\mathbb{R}$,若对任意 $\epsilon > 0$,存在 $\delta > 0$,使得 $\vec{x} \in D$ 且 $0 < \Arrowvert \vec{x} - \vec{a} \Arrowvert < \delta$ 时,有:

称 $f$ 在 $\vec{a}$ 处有极限 $l$,记为 $\lim\limits_{\vec{x}\rightarrow\vec{a}}f(\vec{x}) = l$。

如果 $\vec{x} \in \mathbb{R}^{2}$,那么就是二元的情况,相应定义的就是二元函数的二重极限

二元函数的累次极限

设 $D \subset \mathbb{R}^{2}$,$f: D\rightarrow \mathbb{R}$,$D$ 在 x 轴和 y 轴的投影分别为 $X$, $Y$,即:

$x_{0}, y_{0}$ 分别为 $X, Y$ 的聚点,若对每一个 $y\in Y(y \neq y_{0})$,存在极限 $\lim\limits_{x\rightarrow\x_{0}}f(x, y)$,则记为:

若进一步还存在极限 $\lim\limits_{y\rightarrow y_{0}}$\phi(y),则称 $L$ 为 $f(x,y)$ 先对 $x\rightarrow x_{0}$,再对 $y\rightarrow y_{0}$ 的累次极限,记为:

类似地还可以定义先对 y 后对 x 的累次极限:

重极限与累次极限的关系

参考《陶哲轩实分析》$12-2-9

多元函数的重极限和累次极限是两个不同的概念,它们的存在性互相没有关联。以下是一些结论:

  • 如果 $f(x,y)$ 在点 $(x_{0}, y_{0})$ 存在重极限 $\lim\limits_{(x,y)\rightarrow (x_{0}, y_{0})}f(x, y)$ 以及累次极限 $\lim\limits_{y\rightarrow y_{0}}\lim\limits_{x\rightarrow x_{0}}f(x, y)$,则这两个极限相等。但注意无法推得另一个累次极限是否存在。
  • 如果 $f(x,y)$ 在点 $(x_{0}, y_{0})$ 同时存在重极限以及两个累次极限,则这三者相等。这个结论隐含了累次极限交换极限次序的条件
  • 如果 $f(x,y)$ 在点 $(x_{0}, y_{0})$ 的两个累次极限存在但不相等,则重极限不存在。

两个方向的偏导之间交换求导次序

对于多变量函数,一般会研究方向导数或者偏导数。

Clairout 定理给出了二元函数各个方向的偏导数可以交换次序的条件。

方向导数

设开集 $D \subset \mathbb{R}^{n}$,函数 $f: D \to \mathbb{R}$,$\vec{u}$ 为一个方向,$\vec{x_{0}}\in D$,若以下极限存在:

则称此极限为 $f$ 在 $\vec{x}_{0}$ 处沿方向 $\vec{u}$ 的方向导数。记为:

称 $f$ 在 $\vec{x}_{0}$ 处沿方向 $\vec{e}_{i}$ 的方向导数为 $f$ 在 $\vec{x}_{0}$ 处的第 i 个一阶偏导数,记为:

称 $\mathrm{D}_{i} = \frac{\partial}{\partial{x_{i}}}$ 为第 i 个偏微分算子。

Clairaut 定理

参考《陶哲轩实分析》$17-5。

$E$ 为 $\mathbb{R}^{n}$ 的开子集,$f: E \to \mathbb{R}^{m}$ 是 $E$ 上的二阶连续可微函数,则对 $\forall \mathbf{x_{0}} \in E$ 和 $1 \leq i, j \leq n$,偏导数的次序可以互换。即:


函数列极限与求导、积分交换次序

函数列的一致收敛

$\{f_{n}\}$ 在点集 $I$ 上收敛于 $f$,如果 $\forall \epsilon > 0$,存在与 $x$ 无关的 $N(\epsilon)$,使得 $n > N(\epsilon)$ 时,$|f_{n}(x) - f(x)| < \epsilon$ 对 $\forall x \in I$ 成立,则称 $\{f_{n}(x)\}$ 在 $I$ 上一致收敛于 $f(x)$。

函数项级数的一致收敛

$\{f_{n}(x)\}$ 是定义在点集 $I$ 上的函数列,$\sum\limits_{n=1}\limits^{\infty}f_{n}(x)$ 称为定义在 $I$ 上的函数项级数。

$s_{n}(x) = \sum\limits_{i=1}\limits^{n}f_{i}(x)$ 称为函数项级数的部分和。

若对任意 $\epsilon > 0$,存在与 $x$ 无关的 $N(\epsilon)$,使得 $n > N(\epsilon)$ 时,对 $forall x \in I$ 有 $|s(x) - s_{n}(x)| < \epsilon$,则称 $\sum\limits_{n=1}\limits^{\infty}f_{n}(x)$ 在 $I$ 上一致收敛于 $s(x)$。

函数项级数 $\sum\limits_{n=1}\limits^{\infty}f_{n}(x)$ 一致收敛于 $s(x)$ 相当于部分和函数的函数列 $\{s_{n}(x)\}$ 一致收敛于 $s(x)$。

一致收敛函数列的和函数的以下三个性质给出了函数列极限(级数)与求导、积分交换次序的条件。

和函数的连续性

参考《陶哲轩实分析》$14-3。

$\{f_{n}(x)\}$ 每一项在 $I$ 上连续,且 $\{f_{n}(x)\}$ 在 $I$ 上一致收敛于 $f(x)$,则 $f(x)$ 在 $I$ 也连续。

和函数的积分

参考《陶哲轩实分析》$14-6。

$[a, b]$ 上的可积函数列 $f_{n}(x)$ 在 $[a, b]$ 上一致收敛于 $f(x)$,则 $f(x)$ 在 $[a, b]$ 也可积,且:

和函数的求导

参考《陶哲轩实分析》$14-7。

若 $\{f_{n}(x)\}$ 满足:

  • 每一项 $f_{n}$ 在 $[a, b]$ 有连续的导数
  • $\{f’_{n}(x)\}$ 在 $[a, b]$ 一致收敛于 $g(x)$
  • $\{f_{n}(x)\}$ 至少在某一点 $x_{0} \in [a, b]$ 收敛

那么 $\{f_{n}(x)\}$ 在 $[a, b]$ 上一致收敛于某个连续可微函数 $f(x)$,且对 $x \in [a, b]$ 有 $g(x) = f’(x)$,即:


Share