問題文は例題3で定義された関数 $f(x, y)$ について、以下の3点を示すことを求めています。 (1) $f(x, y)$ は原点 $(0, 0)$ で連続である。 (2) $f_x(x, y), f_y(x, y)$ は原点 $(0, 0)$ で連続である。（これにより、$f(x, y)$ は $C^1$ 級であることがわかる。） (3) $f_{xy}(x, 0), f_{yx}(0, y)$ を求めることにより、$f_{xy}(x, y), f_{yx}(x, y)$ は原点 $(0, 0)$ で不連続であることを示せ。

1. 問題の内容

問題文は例題3で定義された関数 $f(x, y)$ について、以下の3点を示すことを求めています。

(1) $f(x, y)$ は原点 $(0, 0)$ で連続である。

(2) $f_x(x, y), f_y(x, y)$ は原点 $(0, 0)$ で連続である。（これにより、$f(x, y)$ は $C^1$ 級であることがわかる。）

(3) $f_{xy}(x, 0), f_{yx}(0, y)$ を求めることにより、$f_{xy}(x, y), f_{yx}(x, y)$ は原点 $(0, 0)$ で不連続であることを示せ。

2. 解き方の手順

(1) $f(x, y)$ が原点 $(0, 0)$ で連続であることを示す。

これは、$\lim_{(x, y) \to (0, 0)} f(x, y) = f(0, 0)$ を示すことで証明できます。$f(0,0)=0$ なので、$\lim_{(x, y) \to (0, 0)} f(x, y) = 0$ を示す必要があります。

$f(x, y) = \frac{xy(x^2 - y^2)}{x^2 + y^2}$ であるから、極座標変換 $x = r\cos\theta, y = r\sin\theta$ を用いると、

$f(r\cos\theta, r\sin\theta) = \frac{r\cos\theta \cdot r\sin\theta (r^2\cos^2\theta - r^2\sin^2\theta)}{r^2\cos^2\theta + r^2\sin^2\theta} = \frac{r^4\cos\theta\sin\theta(\cos^2\theta - \sin^2\theta)}{r^2} = r^2\cos\theta\sin\theta(\cos^2\theta - \sin^2\theta) = \frac{1}{2}r^2\sin(2\theta)\cos(2\theta) = \frac{1}{4}r^2\sin(4\theta)$

したがって、$|f(r\cos\theta, r\sin\theta)| = |\frac{1}{4}r^2\sin(4\theta)| \le \frac{1}{4}r^2$ となります。

$r \to 0$ のとき $\frac{1}{4}r^2 \to 0$ なので、$\lim_{(x, y) \to (0, 0)} f(x, y) = 0 = f(0, 0)$ となり、$f(x, y)$ は原点で連続です。

(2) $f_x(x, y), f_y(x, y)$ が原点 $(0, 0)$ で連続であることを示す。

例題の解答にあるように、$f_x = \frac{y(x^4 - y^4 + 4x^2y^2)}{(x^2 + y^2)^2}$ , $f_y = \frac{x(x^4 - y^4 - 4x^2y^2)}{(x^2 + y^2)^2}$ ($(x,y) \neq (0,0)$ のとき)

$f_x(0, 0) = 0, f_y(0, 0) = 0$ (例題の解答にある)

$f_x(x,y), f_y(x,y)$ が原点で連続であることを示すためには、$\lim_{(x, y) \to (0, 0)} f_x(x, y) = f_x(0, 0) = 0$ , $\lim_{(x, y) \to (0, 0)} f_y(x, y) = f_y(0, 0) = 0$ を示す必要があります。

極座標変換 $x = r\cos\theta, y = r\sin\theta$ を用いると、

$f_x(r\cos\theta, r\sin\theta) = \frac{r\sin\theta(r^4\cos^4\theta - r^4\sin^4\theta + 4r^4\cos^2\theta\sin^2\theta)}{(r^2\cos^2\theta + r^2\sin^2\theta)^2} = \frac{r^5\sin\theta(\cos^4\theta - \sin^4\theta + 4\cos^2\theta\sin^2\theta)}{r^4} = r\sin\theta(\cos^4\theta - \sin^4\theta + 4\cos^2\theta\sin^2\theta) = r\sin\theta(\cos^2\theta - \sin^2\theta + 4\cos^2\theta\sin^2\theta)$

したがって、$|f_x(r\cos\theta, r\sin\theta)| = |r\sin\theta(\cos^2\theta - \sin^2\theta + 4\cos^2\theta\sin^2\theta)| \le r(1 + 1 + 4) = 6r$ となります。

$r \to 0$ のとき $6r \to 0$ なので、$\lim_{(x, y) \to (0, 0)} f_x(x, y) = 0 = f_x(0, 0)$ となり、$f_x(x, y)$ は原点で連続です。

同様に、$f_y(r\cos\theta, r\sin\theta) = \frac{r\cos\theta(r^4\cos^4\theta - r^4\sin^4\theta - 4r^4\cos^2\theta\sin^2\theta)}{(r^2\cos^2\theta + r^2\sin^2\theta)^2} = \frac{r^5\cos\theta(\cos^4\theta - \sin^4\theta - 4\cos^2\theta\sin^2\theta)}{r^4} = r\cos\theta(\cos^4\theta - \sin^4\theta - 4\cos^2\theta\sin^2\theta) = r\cos\theta(\cos^2\theta - \sin^2\theta - 4\cos^2\theta\sin^2\theta)$

したがって、$|f_y(r\cos\theta, r\sin\theta)| = |r\cos\theta(\cos^2\theta - \sin^2\theta - 4\cos^2\theta\sin^2\theta)| \le r(1 + 1 + 4) = 6r$ となります。

$r \to 0$ のとき $6r \to 0$ なので、$\lim_{(x, y) \to (0, 0)} f_y(x, y) = 0 = f_y(0, 0)$ となり、$f_y(x, y)$ は原点で連続です。

したがって、$f_x(x, y), f_y(x, y)$ は原点 $(0, 0)$ で連続です。

(3) $f_{xy}(x, 0), f_{yx}(0, y)$ を求めることにより、$f_{xy}(x, y), f_{yx}(x, y)$ は原点 $(0, 0)$ で不連続であることを示す。

例題の解答で$f_{xy}(0,0)=-1$と$f_{yx}(0,0)=1$であることが示されています。

$f_{xy}(x,0)$を求める。

$f_x(x,0) = \frac{0(x^4 - 0 + 0)}{(x^2+0)^2} = 0$

$f_x(x,y) = \frac{y(x^4 - y^4 + 4x^2y^2)}{(x^2 + y^2)^2}$

$f_{xy}(x,0) = \lim_{k \to 0} \frac{f_x(x,k) - f_x(x,0)}{k} = \lim_{k \to 0} \frac{f_x(x,k)}{k} = \lim_{k \to 0} \frac{k(x^4 - k^4 + 4x^2k^2)}{k(x^2 + k^2)^2} = \lim_{k \to 0} \frac{(x^4 - k^4 + 4x^2k^2)}{(x^2 + k^2)^2} = \frac{x^4}{x^4} = 1$

$f_{xy}(x,0)=1$

$f_{xy}(x,y)$が原点で連続ならば$\lim_{(x,y)\to(0,0)} f_{xy}(x,y) = f_{xy}(0,0)=-1$となるはずだが、$f_{xy}(x,0)=1$より$\lim_{x\to0} f_{xy}(x,0)=1 \neq -1$なので、$f_{xy}(x,y)$は原点で不連続。

$f_{yx}(0,y)$を求める。

$f_y(0,y) = \frac{0(0 - y^4 - 0)}{(0 + y^2)^2} = 0$

$f_y(x,y) = \frac{x(x^4 - y^4 - 4x^2y^2)}{(x^2 + y^2)^2}$

$f_{yx}(0,y) = \lim_{h \to 0} \frac{f_y(h,y) - f_y(0,y)}{h} = \lim_{h \to 0} \frac{f_y(h,y)}{h} = \lim_{h \to 0} \frac{h(h^4 - y^4 - 4h^2y^2)}{h(h^2 + y^2)^2} = \lim_{h \to 0} \frac{(h^4 - y^4 - 4h^2y^2)}{(h^2 + y^2)^2} = \frac{-y^4}{y^4} = -1$

$f_{yx}(0,y)=-1$

$f_{yx}(x,y)$が原点で連続ならば$\lim_{(x,y)\to(0,0)} f_{yx}(x,y) = f_{yx}(0,0)=1$となるはずだが、$f_{yx}(0,y)=-1$より$\lim_{y\to0} f_{yx}(0,y)=-1 \neq 1$なので、$f_{yx}(x,y)$は原点で不連続。

3. 最終的な答え

(1) $f(x,y)$ は原点 $(0,0)$ で連続である。

(2) $f_x(x,y), f_y(x,y)$ は原点 $(0,0)$ で連続である。

(3) $f_{xy}(x,y), f_{yx}(x,y)$ は原点 $(0,0)$ で不連続である。