$x^2 + p^2y^2 = 3(xy + 4p) $ şeklinde denklemi düzenleyelim. Sağ taraf 3'e bölündüğünden sol tarafta bölünmeli. Bir tam sayının karesinin 3'e bölümünden kalanlar $0$ veya $1$ dir. Bu yüzden $ x^2 + p^2y^2 \equiv 0 \pmod 3 $ için $ x^2 \equiv 0 \pmod 3 $ ve $ p^2y^2 \equiv 0 \pmod 3 $ olmalıdır. Buradan iki durum gelir. 1. durum $ x \equiv 0 $ & $y \equiv 0 $ 2. durum $ x \equiv 0 $ & $p = 3 $ ilk durumu incelersek: $ x = 3k ve y = 3t $ diyelim. $ 9 (k^2 + t^2p^2) = 3(9kt + 4p) $ olur. $ 3 (k^2 + t^2p^2) = 9kt + 4p $ sadeleştirildiğinde bu elde edilir. $ 9kt \equiv 0 \pmod 3 $ olduğundan bu eşitliğin sağlanması için $ p = 3 $ olmalıdır. 2. durumda zaten $ p = 3 $ idi. Yani buradan aslında 1. durumun 2. durumun bir alt durumu olduğu anlaşılır bu yüzden sadece 1. durumu incelemek yeterlidir.
ikinci durumu incelersek: $ x = 3k $ diyelim. $ p= 3 $ durumun koşuludur zaten. Gerekli işlemleri yapınca $ 9 (k^2 + y^2) = 9(ky + 4) $ ve $ k^2 + y^2 = ky + 4 $ elde edilir. Son denklemde her iki tarafa $-2ky$ eklersek. $(k-y)^2 = 4 -ky $ elde edilir. $(k-y)^2 \geq 0$ olduğundan dolayı $ 4 \geq ky $ elde edilir. Aynı zamanda denklemden rahatça anlaşılabileceği gibi $k=0 $ için$ -3<y<3 $ tür. Simetriden aynı durum k içinde geçerlidir. $ k^2 + y^2 = ky + 4 $ denklemi çözüldüğünde gelen çözümler. 6 tanedir: $ (k,y) = (2,0), (-2,0), (0,2), (0,-2), (2,2),(-2,-2) $ dir. $ x = 3k $ dediğimizden Esas çözümler şunlardır: $ (x,y,p) = (6,0,3), (-6,0,3), (0,2,3), (0,-2,3), (6,2,3),(-6,-2,3) $
Alternatif bir çözüm vereyim. $$x^2-3xy+3y^2=(3-p^2)y^2+12p$$ olarak denklemi yeniden yazalım. Sol taraf $Δ<0$ dan dolayı $x^2-3xy+3y^2\geq 0$ sağlanmalıdır. ($y\not =0$ alıp $x/y=t$ tanımlayınca sol taraf $y^2(t^2-3t+3)$ olduğundan dolayı ve $y=0$ için bariz negatif olmayanlık geliyor).
$|y| \geq 3$ olsun. bu durumda $y^2\geq 9$ olduğundan $$x^2-3xy+3y^2 \leq (3-p^2).9+12p$$ olur. Ve buradan $p\geq 3$ asalları için $x^2-3xy+3y^2<0$ çelişkisi elde edildiğini göstermek kolaydır. O halde $|y|\geq 3$ için $p=2$ olduğunu görürüz.
a) $p=2$ olsun. Bu durumda $$x^2-3xy+4y^2=24$$ denklemi elde edilir. $4$ ile genişletirsek $$(2x-3y)^2+7y^2=96$$ denklemi elde edilir. $\pmod 7$ altında incelersek $(2x-3y)^2\equiv 5 \pmod 7$ elde edilir. Ancak bu $\pmod 7$ altında kare kalan değildir. Bu denklemin çözümü yoktur.
Geri kalan durumlarda $|y|\leq 2$ olmalıdır.
b) $y=0$ olsun. Bu durumda $x^2=12p=2^2.3.p$ elde edilir. $3p$ nin tam kare olabilmesi için $p=3$ olur. $x=6$ veya $x=-6$ gelir.
c) $y=1$ olsun. Bu durumda $p^2-12p+36=(p-6)^2=3x-x^2+36$ yani $(2p-12)^2+(2x-3)^2=135$ elde edilir. Buradan $3 \pmod 4$ asallar için $p|x^2+y^2$ ise $p|x$ ve $p|y$ lemmasını kullanırsak $3|2p-12$ yani $p=3$ tek olasılık olur. Çözüm gelmediği görülebilir.
d) $y=-1$ olsun. Bu durumda $(2p-12)^2+(2x+3)^2=135$ gelir. Yine $p=3$ gelmesi gerektiği ve çözümsüz olduğu görülebilir.
e) $y=2$ olsun. Bu durumda $4p^2-12p+9=6x-x^2+9$ $(2p-3)^2+(x-3)^2=18$. Benzer şekilde $p=3$ ve buradan $x=6$ veya $x=0$ elde edilir.
f) $y=-2$ olsun. Bu durumda $(2p-3)^2+(x+3)^2=18$ olur. Benzer şekilde $p=3$ ve buradan $x=0$ veya $x=-6$ elde edilir.
Tüm çözümler $$(x,y,p)=(-6,-2,3),(-6,0,3),(0,-2,3),(0,2,3),(6,0,3),(6,2,3)$$ bulunur.
Not: Hikmet'in yaptığı modüler analiz yardımıyla da $y=0$ hariç $p=3$ sonucunu direkt söyleyebilirdik.