Öncelikle $(m,n)=d$ olsun. $m=d\cdot a$, $n=d \cdot b$.
$4d^2ab(ad+bd-1) = (abd)^2+(ad)^2 + (bd)^2 + 1$ ifadesine $\bmod d$ de bakarsak, sol taraf $d$ ile bölünür, sağ taraf da $1$ kalır. Demek ki ortak bolenleri $d=1$ dir.
Öncelikle, ifadeyi $(1,-1)$, $(1,1)$, $(-1,1)$ çiftleri sağlıyacaktır.
Şimdi $m$ yi bölen en kücük $p$ asalını ele alalım:
İfadenin sol tarafı $p$ ile bölünür, sağ taraf $n^2 + 1 \equiv 0 \pmod p$ olmalı. Burada $n^2 \equiv -1 \pmod p$ ve $n^4 \equiv 1 \pmod p$ olacaktır. $n$ nin mertebesi $\text{ord}(n)=4$ olduğundan, $4 \mid p-1$, buradan da $p=4k+1$ şeklinde bir asal sayı çıkar.
En küçük $p=5$ olduğundan, en küçük $m=5$ alırsak, $n=13$ çıkar. İfade simetrik olduğundan $(5,13)$, $(13,5)$ ikilisi de çözümü sağlar.
Tüm çözümler; $(1,-1)$, $(1,1)$, $(-1,1)$, $(5,13)$, $(13,5)$ olmak üzere $5$ tanedir.