Bu çözümü AoPS'da "Rust" adlı bir kullanıcının bu soruya verdiği cevaptan esinlenerek yaptım, onun cevabını da
buradan inceleyebilirsiniz.
Öncelikle $a=b$ ise $a=b=c=1$ olması gerektiğini bir önceki çözümde göstermiştik. Genelliği bozmadan $a>b$ olsun. $$ab+1=p_1^{\alpha_1} p_2^{\alpha_2}\cdots p_k^{\alpha_k}$$ şeklinde asal çarpanlarına ayıralım. $a$ ve $b$ bu $k$ asalın hiçbirine bölünemez. $ab+1|a^2+b^2$ olduğundan $a^2+b^2$ ifadesi $i=1,2,\dots k$ için $p_i^{\alpha_i}$'ye bölünmelidir. $$a^2+b^2\equiv 0 \pmod{p_i^{\alpha_i}}$$ $$ab+1\equiv 0 \pmod{p_i^{\alpha_i}}$$ elde edilir. Bu iki denklikten $$-b^4\equiv a^2b^2\equiv (-1)^2\equiv 1 \pmod{p_i^{\alpha_i}}\Rightarrow b^4\equiv -1\equiv ab \pmod{p_i^{\alpha_i}}\Rightarrow a\equiv b^3 \pmod{p_i^{\alpha_i}}$$ bulunur. Buradan, $$c\equiv \dfrac{a^2+b^2}{ab+1}\equiv \dfrac{b^6+b^2}{b^4+1}\equiv b^2\pmod{p_i^{\alpha_i}}$$ bulunur. Tüm $i=1,2,\dots k$ için bu sağlandığından $$c\equiv b^2\pmod{ab+1}$$ olur. $ab+1>b^2+1>b^2$ olduğundan $t\geq 0$ için $c=b^2+t(ab+1)$ formatında olmalıdır. $t=0$ ise $c=b^2$ olur. Eğer $t>0$ ise $$c=\dfrac{a^2+b^2}{ab+1}=b^2+t(ab+1)\geq b^2+ab+1\Rightarrow a^2\geq ab^3+a^2b^2+2ab+1>a^2$$ olur. Çelişki. Yani $c=1$ veya $c=b^2$ olmalı, dolayısıyla her zaman tamkare olmalıdır.