Kullandığım mantıkta pürüzler olabilir, o yüzden sonucum hatalı çıkarsa lütfen düzeltin.
Bir düzgün $n$-gende üç köşenin birleşmesiyle oluşabilecek en ufak açı $\frac{180^\circ}{n}$'dir. Bu açı da ardışık iki köşe ve üçüncü herhangi bir köşe seçilmesiyle elde edilir. Düzgün $n$-gende köşeler seçilerek oluşturulan üçgenlerin hepsinin dış teğet çemberi aynı olacaktır. Dolayısıyla bu seçme yöntemiyle elde edilen iki üçgenin eş olması için gerek ve yeterli şart açılarının aynı olmasıdır. Bu üçgenlerin ise herhangi bir açısı $1\leq k\leq n-2$ tamsayı olmak üzere $\frac{180^\circ}{n}\cdot k$ şeklindedir çünkü aslında düzgün $n$-gen bir kirişler $n$-genidir (bu tabir ne kadar doğru bilemem ama demek istediğim anlaşıldı umarım
). Üçgenin açıları $\frac{180^\circ}{n}k_1$, $\frac{180^\circ}{n}k_2$ ve $\frac{180^\circ}{n}k_3$ olsun. İç açıları toplamı $180^\circ$ olduğundan $k_1+k_2+k_3=n$'dir. Soru bu haliyle dağılım sorusu gibi gözükse de sıralama önemsiz olduğundan tam bir dağılım sorusu değildir. Permütasyon durumlarını ayıklamalıyız. Buradan sonrasında genel haliyle değil sorunun istediği haliyle devam edeceğiz.
$k_1=k_2=k_3$ ise $k_1=k_2=k_3=8$ elde edilir.
$k_1=k_2$ ama $k_2\neq k_3$ ise $2k_1+k_3=24$ durumuna döner. $k_3>0$ olduğundan $m\geq 1$ için $k_3=2m$ diyebiliriz. Buradan $m+k_1=12$ elde edilir. $11$ çözüm gelir ama bir tanesi $k_1=k_2=k_3=8$ durumunu çıkardığımızda $10$ tane durum kalır.
$k_1$, $k_2$ ve $k_3$ farklı ise $k_1<k_2<k_3$ kabul edebiliriz. $a,b>0$ için $k_3=k_2+a=k_1+a+b$ dersek $$3k_1+2a+b=24$$ elde edilir. $k_1=1,2,\dots,7$ olabilir. $k_1$ tek iken $b=2c-1$ yazarsak $\frac{23-3k_1}{2}$ adet $k_1$ çift iken $b=2c$ yazarsak $\frac{22-3k_1}{2}$ çözüm elde edilir. Dolayısıyla buradan $$\dfrac{23-3\cdot 1}{2}+\dfrac{22-3\cdot 2}{2}+\dfrac{23-3\cdot 3}{2}+\dfrac{22-3\cdot 4}{2}+\dfrac{23-3\cdot 5}{2}+\dfrac{22-3\cdot 6}{2}+\dfrac{23-3\cdot 7}{2}=37$$ bulunur. Toplamda $37+10+1=48$ tane farklı üçgen vardır.
Genelleştirme: Genel halini için şöyle bir yöntem izlenebilir. Permütasyonda sorun çıkartan kısım $k_i$'lerin bazılarının eşit olduğu durumlardır. $k_1=k_2$ için $2k_1+k_3=n$ denklemine bakalım. Bu denklemin $n$ tekse $\frac{n-1}{2}$ adet, çiftse $\frac{n-2}{2}$ adet çözümü vardır. Eğer $3\mid n$ ise bir tane $k_1=k_2=k_3$ çözümü vardır, değilse yoktur. Üç değişkenin eşit olduğu çözüm sayısı $a$, sadece iki değişkenin eşit olduğu çözüm sayısı $b$, üç değişkenin de farklı olduğu çözüm sayısı $c$ olsun. Dağılımdan $k_1+k_2+k_3=n$ olan sıralı üçlü sayısı $\dbinom{n-1}{2}$ bulunur. Yani $$a+3b+6c=\dbinom{n-1}{2}$$ olacaktır ve bizim aradığımız sayı $a+b+c$'dir.
Eğer $n=6k$ ise $a=1$, $b=\frac{n-2}{2}-1$ olacaktır. Buradan $c=\frac{n^2-6n+12}{12}$ bulunur. Dolayısıyla $a+b+c=\frac{n^2}{12}$ bulunur.
Eğer $n=6k+1$ ise $a=0$, $b=\frac{n-1}{2}$ ve $c=\frac{n^2-6n+5}{12}$ olur. $a+b+c=\frac{n^2-1}{12}$ bulunur. Bu şekilde ilerlenirse aranan sayıya $f(n)$ dersek $$f(n)=\begin{cases} \frac{n^2}{12} \quad &\text{eğer} ~~~n \equiv 0\pmod{6}~~~ \text{ise}\\ \frac{n^2-1}{12} \quad &\text{eğer}~~~ n \equiv 1,5\pmod{6}~~~\text{ise} \\ \frac{n^2-4}{12} \quad &\text{eğer}~~~ n \equiv 2,4\pmod{6}~~~\text{ise} \\ \frac{n^2+3}{12} \quad &\text{eğer}~~~ n \equiv 3\pmod{6}~~~\text{ise} \\ \end{cases}$$ elde edilir.