7 cos^2x-10 sin x*cos x+3 sin^2 x=0

Разделим обе части уравнения на квадрат косинуса, получим:
$7-10tgx+3tg^{2}x=0$

Замена: tgx=t
$3t^{2}-10t+7=0, D=100-4*3*7=16=4^{2}$
$t_{1}= frac{10-4}{6}=1$
$t_{2}= frac{10+4}{6}=frac{7}{3}$

Вернемся к замене:
1) $tgx=1$
$x= frac{ pi }{4}+ pi k$ , k∈Z
2) $tgx=frac{7}{3}$
$x=arctg( frac{7}{3} )+ pi k$ , k∈Z