(Vieta Jumping):
Öncelikle $a=b$ durumunu inceleyelim, $$c=\dfrac{a^2+b^2}{ab+1}=\dfrac{2a^2}{a^2+1}=2-\dfrac{2}{a^2+1}$$ olur. $a$ pozitif tamsayı olduğundan ifadenin tamsayı olması için $a=b=1$ olmalıdır, bu durumda $c=1$ olacaktır, yani tamkaredir. Eğer $a$ veya $b$'den biri $1$ olursa aynı şekilde $a=b=c=1$ bulunur.
Şimdi genelliği bozmadan $a>b\geq 2$ olsun. İfadeyi düzenleyip $a$'ya bağlı ikinci dereceden bir denklem olarak yazarsak, $$a^2-a\cdot bc+(b^2-c)=0$$ bulunur. Bu denklemin pozitif tamsayı çözümleri arasında $a+b$'nin en küçük olduğu $(a,b)$ çözümünü ele alalım. Bu denklem ikinci dereceden olduğundan $a$ dışında bir $d$ kökü de vardır. Vieta formüllerinden, $$a+d=bc$$ $$ad=b^2-c$$ elde edilir. İlk formülden $d$'nin tamsayı olduğunu görebiliriz ve eğer $bc-a$ pozitifse $d$ de pozitif olmalıdır. Şimdi bu ifadenin pozitif olmadığını kabul edelim, $a=bc+x$ olsun, $x\geq 0$'dır. $$a^2+b^2=abc+c\Rightarrow (bc+x)^2+b^2=(bc+x)bc+c\Rightarrow bcx+x^2+b^2=c$$ olur. Eğer $x=0$ ise $d=0$ ve Vieta'dan $b^2=c$ olur, yani $c$ tamkare olur. Eğer $x>0$ ise $$bcx+x^2+b^2=c\Rightarrow c\geq bc+b^2+1>c$$ olur. Çelişki. Dolayısıyla $bc-a$'nın pozitif olması gerekir. ($0$ olması durumunda ifadenin tamkare olduğunu gösterdiğimizden bu kısmı tekrar incelemeye gerek yok.)
$d$ sayısı hem pozitif tamsayı olması hem de denklemi sağlamasından dolayı $(d,b)$ ikilisi de denklemin bir çözümü olur fakat eğer $a>d$ ise $(b,d)$ çözümü $(a,b)$ ikilisinin toplamı en küçük olması kabulüyle çelişir. Dolayısıyla $d\geq a$'dır. Vieta teoreminden $$a+d=bc\geq 2a\Rightarrow \dfrac{2a}{b}\leq c=\dfrac{a^2+b^2}{ab+1}\leq \dfrac{a^2+b^2}{ab}=\dfrac{a}{b}+\dfrac{b}{a}\Rightarrow \dfrac{a}{b}\leq \dfrac{b}{a}\Rightarrow a^2\leq b^2$$ olur, çelişki. Dolayısıyla ifadenin tamsayı olduğu durumlarda $c=1$ veya $c=b^2$ olur, yani her zaman tamkaredir.