解:
(1)
$\begin{aligned}&(ax - 3)(2x + 4)-x^{2}-b\\=&2ax^{2}+4ax-6x - 12-x^{2}-b\\=&(2a - 1)x^{2}+(4a - 6)x-(12 + b)\end{aligned}$
因为化简后不含$x^{2}$项和常数项,所以$\begin{cases}2a - 1 = 0\\12 + b = 0\end{cases},$
由$2a - 1 = 0$得$a=\frac{1}{2},$由$12 + b = 0$得$b=-12。$
(2)
$\begin{aligned}&(b - a)(-a - b)+(-a - b)^{2}-a(2a + b)\\=&(-a + b)(-a - b)+(a + b)^{2}-2a^{2}-ab\\=&a^{2}-b^{2}+a^{2}+2ab + b^{2}-2a^{2}-ab\\=&ab\end{aligned}$
把$a=\frac{1}{2},$$b = - 12$代入得:$\frac{1}{2}\times(-12)=-6。$