f(x) = 1/2 * (x, Ax) - (b, x) ※Aは正値対称行列

赤:ニュートン法 青:共役勾配法 緑:最急降下法[1]

[1] 金谷健一,これなら分かる最適化数学,共立出版.