Yanıt: $\boxed{E}$
Çözüm 1: $(f \circ f)(a)=a$ olması için $f(a)=b$ iken $f(b)=a$ olmalıdır. Bunun için iki alt durum vardır: $a=b$ durumları veya $a\neq b$ durumları.
$a=b$ olan hiçbir $(a,b)\in f $ ikilisi yoksa: $f(1)=b$ için $b\ in\{ 2,3,4\}$ seçimleri vardır. Geri kalan elemanlar da tek yolla birbirine gidecektir. Örneğin $f(1)=2$ ise $f(2)=1$ olduğundan $f(3)=4$ ve $f(4)=3$ zorunlu olarak gelir.
$a=b$ olan ikili sayısı çift sayıda olmak zorundadır. (Neden?) $f(a)=a$ olan iki farklı $ a$ değeri olan $f$ fonksiyonlarına bakalım. Örneğin $f(1)=1,f(2)=2$ ise geri kalan iki eleman tek yolla birbirine gidecektir. Çünkü $f(3)=4$ ve $f(4)=3$ zorunlu olarak gelir. Dolayısıyla kendi kendiyle eşleşen elemanların seçimi $\dbinom{4}{2}=6$ yolla yapılır.
$a=b$ olan ikili sayısı dört tane ise $f(1)=1, f(2)=2, f(3)=3,f(4)=4$ olur. Bu durumda $1$ tane $f$ fonksiyonu yazmış oluyoruz. $f=I_A$ birim fonksiyonu olur.
Toplam $3+6+1=10$ tane istenen özellikte fonksiyon vardır.
Çözüm 2: $A=\{1,2,\dots ,n \}$ kümesi verildiğinde her $a\in A$ için $(f\circ f)(a)=a$ koşulunu sağlayan $f: A \to A$ fonksiyonlarının sayısı $a_n$ olsun. $a_1=1$ ve $a_2=2$ dir. $a_n$ dizisini oluşturan $f$ fonksiyonlarını iki grupta inceleyebiliriz:
$f(n)=n$ olanlar: Bunun için $\{1,2,\dots ,n-1 \}$ kümesi üzerinde tanımlı $f$ fonksiyonlarının sayısı $a_{n-1}$ dir.
$f(n)\neq n$ olanlar: Bunun için $f(n)$ değerinin seçimi $n-1$ yolla yapılır. Diyelim ki $f(n)=b \neq n$ olsun. Bu halde $f(b)=n$ dir. $A$ kümesinden $b$ ve $n$ atıldığı zaman geriye kalan elemanlarla oluşturulabilecek $f$ fonksiyonlarının sayısı $a_{n-2}$ dir.
Dolayısıyla $a_n=a_{n-1}+(n-1)a_{n-2}$ dir. Buna göre
$$a_3=a_2+2a_1=2+2=4$$ $$a_4=a_3+3a_2=4+6=10$$
bulunur.
Notlar:1. Bu problemin $n=7$, $n=8$ durumlarını forumda ilk kez 8 Mart 2012 tarihinde
Tersi kendisine eşit permütasyon fonksiyonlarının sayısı başlığı ile
burada sormuştum. Yaklaşık 40 gün sonra da 2012 Tübitak Lise Matematik Olimpiyatı 1. Aşama Sınavı'nda $n=7$ durumu sorulmuştu. Yani sınav sorusu yakalamış olduk
2.Çözüm 2'de verdiğimiz indirgemeli dizi yöntemini, üyelerimizden Ferhat Gölbol forumda açıklamıştı.