标量、向量、矩阵求导（两种布局方式）

首先以一个网上很多博文引用的例子来开篇，例子见下图

在了解向量和向量求导的时候，我看过以下一些公式： 首先Ax是个m维的列向量，它对x求偏导是个列向量对列向量求偏导的格式，所以可以套用上述公式(10)，那么得到的是： ∂ A x ∂ x = ( ∂ ( a 11 x 1 + a 12 x 2 + ⋯   + a 1 n x n ) ∂ x ∂ ( a 21 x 1 + a 22 x 2 + ⋯   + a 2 n x n ) ∂ x ⋯   ∂ ( a m 1 x 1 + a m 2 x 2 + ⋯   + a m n x n ) ∂ x ) m × 1 \frac{\partial Ax}{\partial x}= \left( \begin{matrix} \frac{\partial (a_{11}x_{1}+a_{12}x_2+ \cdots\ +a_{1n}x_n)}{\partial x}\\ \frac{\partial (a_{21}x_{1}+a_{22}x_2+ \cdots\ +a_{2n}x_n)}{\partial x}\\ \cdots\ \\ \frac{\partial (a_{m1}x_{1}+a_{m2}x_2+ \cdots\ +a_{mn}x_n)}{\partial x}\\ \end{matrix} \right)_{m\times1} ∂x∂Ax​=⎝⎜⎜⎜⎛​∂x∂(a11​x1​+a12​x2​+⋯ +a