答案:(1) 解方程 $x^{2}-11x + 24 = 0$ 得: $x_{1}=8,x_{2}=3$. $\because AB>AO,\therefore AB = 8,AO = 3$.
(2) $\because$ 四边形 OABC 是矩形, $\therefore ∠OCB = ∠OAD = 90^{\circ},\therefore$ 若 $△ BOC$ 与 $△ AOD$ 相似,则存在 $△ BOC∽△ DOA,△ BOC∽△ ODA$ 两种情况. ① 若 $△ BOC∽△ DOA$,则 $\frac{BC}{OC}=\frac{DA}{OA}$,即 $\frac{3}{8}=\frac{DA}{3}$,解得 $AD=\frac{9}{8}$; ② 若 $△ BOC∽△ ODA$,可得 $AD = 8$ (与题意不符,舍去). 设直线 OD 解析式为 $y = kx$,则 $3 = -\frac{9}{8}k$,解得 $k = -\frac{8}{3},\therefore$ 直线 OD 的解析式为 $y = -\frac{8}{3}x$.
(3) $\because AD + DB = AB = 8,\frac{DA}{DB}=\frac{3}{5},\therefore AD = AO = 3.\because ∠DAO = 90^{\circ},\therefore△ AOD$ 是等腰直角三角形, $\therefore ∠ADO = 45^{\circ},DO = 3\sqrt{2}$,根据 $△ PAD$ 是等腰三角形,分以下 4 种情况讨论:
① 如下图所示,当 $AD = AP_{1}=3$ 时,点 $P_{1}$ 的坐标为 $(0,0)$;
② 如下图所示,当 $DA = DP_{2}=3$ 时,过 $P_{2}$ 作 x 轴的垂线,垂足为 E,则 $OP_{2}=3\sqrt{2}-3,△ OEP_{2}$ 是等腰直角三角形, $\therefore P_{2}E = OE=\frac{3\sqrt{2}-3}{\sqrt{2}}=3-\frac{3}{2}\sqrt{2},\therefore$ 点 $P_{2}$ 的坐标为 $(-3+\frac{3}{2}\sqrt{2},3-\frac{3}{2}\sqrt{2})$;
③ 如下图所示,当 $AP_{3}=DP_{3}$ 时, $∠DAP_{3}=∠ADO = 45^{\circ},\therefore△ ADP_{3}$ 是等腰直角三角形, $\therefore DP_{3}=\frac{AD}{\sqrt{2}}=\frac{3}{2}\sqrt{2},\therefore P_{3}O = 3\sqrt{2}-\frac{3}{2}\sqrt{2}=\frac{3}{2}\sqrt{2}$,过 $P_{3}$ 作 x 轴的垂线,垂足为 F,则 $△ OP_{3}F$ 是等腰直角三角形, $\therefore P_{3}F = OF=\frac{3}{2},\therefore$ 点 $P_{3}$ 的坐标为 $(-\frac{3}{2},\frac{3}{2})$;
④ 如下图所示,当 $DA = DP_{4}=3$ 时, $P_{4}O = 3 + 3\sqrt{2}$,过 $P_{4}$ 作 x 轴的垂线,垂足为 G,则 $△ OP_{4}G$ 是等腰直角三角形, $\therefore P_{4}G = OG=\frac{3}{2}\sqrt{2}+3,\therefore$ 点 $P_{4}$ 的坐标为 $(-3-\frac{3}{2}\sqrt{2},3+\frac{3}{2}\sqrt{2})$.
综上所述,当 $△ PAD$ 是等腰三角形时,点 P 的坐标为 $(0,0),(-3+\frac{3}{2}\sqrt{2},3-\frac{3}{2}\sqrt{2}),(-\frac{3}{2},\frac{3}{2}),(-3-\frac{3}{2}\sqrt{2},3+\frac{3}{2}\sqrt{2})$.
