(Lokman GÖKÇE)
Değişken sayısını azaltmak için ikinci denklemde $z=x+y+1$ koyalım: $xy=(x+y+1)^2-7(x+y+1)+14$ olup buradan $$x^2+y^2-5(x+y)+xy+8=0 \tag {1}$$ denklemine ulaşırız. Burada $x=a+b$, $y=a-b$ değişken değiştirmesi yaparsak $x^2+y^2=2(a^2+b^2)$, $xy=a^2-b^2$ ve $x+y=2a$ olur. Bu değerleri $(1)$ denkleminde yazarsak $$3a^2+b^2+10a+8=0 \tag {2}$$ buluruz. Problemin bu aşamadan sonrasını analitik düzlemde düşünelim:
$(2)$ denklemi bir elips belirtir. Bu elipsin simetri merkezi $a$ ekseni üzerindedir ve asal-yedek eksenleri koordinat eksenlerine paraleldir. $\dfrac43 \leq a \leq 2 $ olduğunu görmek kolaydır. (elipsin yatay $a$ eksenini kestiği noktaları saptamak için $b=0$ yazın) Biz $a^2+b^2$ toplamının max değerini arıyoruz. $a^2+b^2= -2a^2 +10a - 8$ dersek $\dfrac43 \leq a \leq 2 $ aralığında $ f(a)=-2a^2 +10a - 8$ parabolü artandır ve $a_2=2 $ için $x=y=2$ olup $x^2+y^2=8$ en büyük değerine ulaşır.
NOT: $x^2+y^2$ toplamının en küçük değeri istenseydi $a_1=\dfrac43 $ için $x=y=\dfrac43 $ olup $x^2+y^2 = \dfrac{32}{9}$ elde edilirdi.