Çemberin denklemi $(x-2)^2+\left(y-\frac{1}{2}\right)^2=r^2$'dir. $xy=1$ hiperbolüyle kesişimlerini bulmak için $y=\frac{1}{x}$ yazarsak, $$(x-2)^2+\left(\frac{1}{x}-\frac{1}{2}\right)^2=(x-2)^2\left[1+\frac{1}{4x^2}\right]=r^2$$ $$\implies (x-2)^2(4x^2+1)=4x^2r^2$$ sağlanır. $4$ kesişim noktası olduğundan ve bu denklem dördüncü dereceden olduğundan her kök bize ayrı bir noktayı verecektir. Bu noktalardan eşkenar üçgeni oluşturanların ağırlık merkezi, çevrel çemberinin merkezi olan $\left(2,\frac{1}{2}\right)$ olacağından apsislerin toplamı $2\cdot 3=6$ olacaktır. Yani kullanılmayan $4.$ noktanın apsisi $x_0$ ise yukarıdaki denklemin köklerinin toplamı $6+x_0$'dır. $$4x^4-16x^3+(17-4r^2)x^2-4x+4=0$$ denkleminde köklerin toplamı, Vieta formüllerinden dolayı $\frac{16}{4}=4=6+x_0$'dır. Demek ki köklerden biri $x_0=-2$'dir. Yerine yazarsak, $$16(r^2-17)=0\implies r=\sqrt{17}$$ bulunur.
Güncelleme: Test mantığı ile soru yukarıda bitmiştir. Tamamen bitmesi için $r=\sqrt{17}$ durumunda $\left(-2,-\frac{1}{2}\right)$ dışındaki üç noktanın gerçekten eşkenar üçgen oluşturduğunu göstermek gerekir. $r=\sqrt{17}$ için kesişim denklemi $$4x^4-16x^3-51x^2-4x+4=(x+2)(4x^3-24x^2-3x+2)=0$$ haline gelir. Öncelikle $4x^3-24x^2-3x+2$'nin $3$ farklı (ve $-2$'den farklı) kökü olduğunu, sonrasında bu köklerden gelen kesişim noktalarının eşkenar üçgen oluşturduğunu gösterelim.
$f(x)=4x^3-24x^2-3x+2$ dersek, $f(-2)\neq 0$'dır. Ayrıca $f(-1)<0$, $f(0)>0$, $f(1)<0$ ve $f(+\infty)=+\infty$ olduğundan $(-1,0)$, $(0,1)$ ve $(1,\infty)$ aralıklarında üç farklı kökü vardır. Bu kökler $a,b,c$ olsun. Vieta formüllerinden $$a+b+c=6$$ $$ab+ac+bc=-\frac{3}{4}$$ $$abc=-\frac{1}{2}$$ olacaktır. Bunları kullanarak $$\frac{1}{a}+\frac{1}{b}+\frac{1}{c}=\frac{ab+ac+bc}{abc}=\frac{3}{2}$$ bulunur. Bu da köşeleri $\left(a,\frac{1}{a}\right)$, $\left(b,\frac{1}{b}\right)$ ve $\left(c,\frac{1}{c}\right)$ olan üçgenin ağırlık merkezinin $\left(2,\frac{1}{2}\right)$ olduğunu, yani çevrel çember merkezi ile ağırlık merkezinin çakıştığını gösterir. Bunu sağlayan tek üçgenin eşkenar üçgen olduğu kolayca görülebilir.