РЕШИТЕ СИСТЕМУ пож.
{x^2+5xy-2y^2=-2;
xy=3

$left { {{ x^{2} +5xy-2 y^{2}=-2} atop {xy=3}} right.$
xy=3; y= $frac{3}{x}$
Подставим в первое уравнение
x²+15-2*( $frac{3}{x}$ )²=-2
$x^{2} -15- frac{18}{ x^{2} } =-2 frac{x^{4} -15 x^{2} -18+2 x^{2} }{ x^{2} }=0$
${x^{4} -13 x^{2} -18 }=0$
Сделаем замену
Пусть x²=t, тогда $x^{4}$ =t², причём t>0
t²-13t-18=0
D=169+4*18=241
$t_{1}= frac{13+ sqrt{241} }{2}$
$t_{2}= frac{13-sqrt{241} }{2}$ (не удовлетворяет условию t>0)
x²=t
x1= $sqrt{ frac{13+ sqrt{241} }{2} }$
x2=- $sqrt{ frac{13+ sqrt{241} }{2} }$

Странно. Получились некрасивые числа, возможно где-то сделала арифметическую ошибку, но суть, надеюсь, ясна.