$Q_p$ kümesinde bu şartı sağlayan $a$'ların kümesine $Q'_p$ kümesi diyelim (Sorudaki örnek için $Q'_{11}=\{3,4\}$'dür). Herhangi bir $a\in Q'_{p}$ için $a\in Q_p$ ve $a+1\in Q_p$ olduğundan $x^2\equiv a\pmod{p}$ ve $y^2\equiv a+1\pmod{p}$ olacak şekilde $x,y\in \mathbb{Z}_p$ vardır. $y^2-x^2\equiv 1\pmod{p}$ olacaktır. $$y^2-x^2\equiv 1\pmod{p}\Longrightarrow (y-x)(y+x)\equiv 1\pmod{p}$$ olur. $x\neq y$ ve $x\neq p-y$ olduğu barizdir. Dolayısıyla $y+x\equiv m\pmod{p}$ ve $y-x\equiv \dfrac{1}{m}\pmod{p}$ olacak şekilde $m\in \mathbb{Z}_p$ vardır. Buradan $y\equiv \dfrac{m^2+1}{2m}\pmod{p}$ ve $x\equiv \dfrac{m^2-1}{2m}\pmod{p}$ olarak bulunur. $x$ ve $y$, $0$'dan farklı olduğundan $m\neq 1$ ve $m\neq p-1$'dir. Ayrıca eğer $p$, $4k+1$ formatında ise $m^2+1\equiv 0\pmod{p}$ olacak şekilde tam olarak $2$ tane $m$ olacağından (bu değerlerin $1$ ve $p-1$'den farklı olacağı barizdir). Sonuç olarak $p=4k+1$ formatında ise $m$'nin alabileceği $p-5$ değer, eğer $p=4k+3$ formatında ise $p-3$ değer vardır. Lakin bazı değerler için $m\neq n$ olmasına rağmen $\left (\dfrac{m^2-1}{2m}\right )^2\equiv \left (\dfrac{n^2-1}{2n}\right )^2$ olabilir. Bu durumları incelemeliyiz. Sadece $\left (\dfrac{m^2-1}{2m}\right )^2\equiv \left (\dfrac{n^2-1}{2n}\right )^2$ durumunu incelememiz yeterlidir.
$\left (\dfrac{m^2-1}{2m}\right )^2\equiv \left (\dfrac{n^2-1}{2n}\right )^2 \Longleftrightarrow \left (\dfrac{m^2+1}{2m}\right )^2\equiv \left (\dfrac{n^2+1}{2n}\right )^2$ olduğunun ispatını okuyucuya bırakıyorum.
İfadeyi düzenlersek $$\dfrac{(m+n)(m-n)(mn+1)(mn-1)}{mn}\equiv 0\pmod{p}$$ elde edilir. Yani her $m$ için $m$, $-m$, $\dfrac{1}{m}$ ve $-\dfrac{1}{m}$ sayılarından ($p$ modundaki denklerinden) aynı sayıyı elde ederiz. Dolayısıyla şartı sağlayan $a$'ların sayısı seçebileceğimiz $m$ sayısının $4$'te biridir (bu dört sayının birbirinden farklı olduğu görülebilir). Dolayısıyla $Q'_p$ kümesinin eleman sayısı veya başka bir deyişle şartı sağlayan $a$ sayısı $p=4k+1$ formatında ise $\dfrac{p-5}{4}$, eğer $p=4k+3$ formatında ise $\dfrac{p-3}{4}$ tanedir. Örnekteki $p=11$ için $\dfrac{11-3}{4}=2$ olduğu görülebilir.
Not: Çözümde, bazı yerlerde mod belirtmeden denktir "$\equiv$" işaretini kullandım. Bu durumdaki kısımlarda eşitlik değil, $p$ modunda denklik kastedilmiştir.
