已知 $a,b \in R$，且 $a^{2}+2ab-3b^{2}=1$，则 $a^{2}+b^{2}$ 的最小值。
方法一
$\because a^{2}+2ab-3b^{2}=1$
$\therefore (a+3b)(a-b)=1$
设 $a+3b=m$，$a-b=\dfrac{1}{m}$
联立 $\left\{ \begin{array}{l} a+3b=m \\ a-b=\dfrac{1}{m} \end{array} \right.$ 得 $\left\{ \begin{array}{l} a=\dfrac{m}{4}+\dfrac{3}{4m} \\ b=\dfrac{m}{4}-\dfrac{1}{4m} \end{array} \right.$
$\therefore a^{2}+b^{2}=\left( \dfrac{m}{4}+\dfrac{3}{4m} \right)^{2}+\left( \dfrac{m}{4}-\dfrac{1}{4m} \right)^{2}$
$=\dfrac{m^{2}}{8}+\dfrac{5}{8m^{2}}+\dfrac{1}{4} \geq \dfrac{\sqrt{5}+1}{4}$（当且仅当 $m^{2}=\sqrt{5}$ 时等号成立）
方法二
设 $a^{2}+b^{2}=t$（$t>0$）
设 $a=\sqrt{t}\sin\theta$，$b=\sqrt{t}\cos\theta$
$\because a^{2}+2ab-3b^{2}=1$
$\therefore t\sin^{2}\theta-2t\sin\theta\cos\theta-3t\cos^{2}\theta=1=\sin^{2}\theta+\cos^{2}\theta$
$\therefore \cos\theta=0$ 时，$b=0$，$a=\pm 1$，$a^{2}+b^{2}=t=1$
$\cos\theta \neq 0$ 时，原式可化为 $(t-1)\tan^{2}\theta-2t\tan\theta-(3t+1)=0$
$\therefore t \neq 1$ 时，$\Delta=4t^{2}+4(t-1)(3t+1) \geq 0$
$\therefore 4t^{2}-2t-1 \geq 0$
$\therefore t \geq \dfrac{1+\sqrt{5}}{4}$ 或 $t \leq \dfrac{1-\sqrt{5}}{4}$（舍）
$\because \dfrac{1+\sqrt{5}}{4}<1$
$\therefore a^{2}+b^{2}$ 最小值为 $\dfrac{1+\sqrt{5}}{4}$。