(7 điểm)

a) Chứng minh rằng không tồn tại các số nguyên dương $x,y$ thỏa mãn $x^2-3xy+y^2=3$.

b) Tìm tất cả các số nguyên dương $m$ sao cho tồn tại vô hạn số nguyên dương $k$ thỏa mãn phương trình $x^2-kxy+y^2=m$ có ít nhất một nghiệm nguyên $(x,y)$ với $x>0,y>0$.

(AI giải đề cho tôi)
Bài 2.

a) Giả sử $x,y$ nguyên dương thỏa $x^2-3xy+y^2=3$, không mất tổng quát $x\ge y$. Xem phương trình bậc hai theo $x$: $x^2-3yx+(y^2-3)=0$ có nghiệm nguyên $x$, nên discriminant $\Delta =9y^2-4(y^2-3)=5y^2+12$ phải là số chính phương, tức $t^2-5y^2=12$ với $t$ nguyên. Xét modulo 5: $t^2\equiv 12\equiv 2(\mathrm{mod}5)$, vô lý vì các số chính phương modulo 5 chỉ thuộc $\{0;1;4\}$. Vậy không tồn tại $x,y$ thỏa mãn.

b) Nhận xét then chốt: nếu $m=a^2$ ($a\in {\mathbb{Z}}^{+}$) thì với mọi $k\in {\mathbb{Z}}^{+}$, cặp $(x,y)=(ka,a)$ là nghiệm dương vì $k^2{a}^2-k^2{a}^2+a^2=a^2=m$. Vậy mọi số chính phương $m$ đều thỏa.

Giờ chứng minh nếu $m$ không chính phương thì chỉ có hữu hạn $k$. Giả sử với một $k$ cho trước tồn tại nghiệm $(x,y)$, $x\ge y\ge 1$, chọn nghiệm có $x+y$ nhỏ nhất. Theo Vieta, nghiệm còn lại theo $x$ là $x^{\prime }=ky-x$ (nguyên, vì $x+x^{\prime }=ky$). Nếu $x^{\prime }\ge 1$ thì $x^{\prime }\ne x$ (nếu $x^{\prime }=x$ thì $m=x^2-2x^2+y^2=y^2-x^2\le 0$, mâu thuẫn), và $x^{\prime }<x$, nên $(x^{\prime },y)$ là nghiệm dương với tổng nhỏ hơn — mâu thuẫn với tính nhỏ nhất. Vậy $x^{\prime }\le 0$, tức $x\ge ky$. Đặt $r=x-ky\ge 0$, khi đó
$$m=x(x-ky)+y^2=(ky+r)r+y^2=kry+r^2+y^2.$$
Nếu $r=0$ thì $m=y^2$ là số chính phương — loại theo giả thiết. Do đó $r\ge 1$, suy ra $m\ge k\cdot 1+1+1=k+2$, tức $k\le m-2$. Ngoài ra $k=2$ cho $m=(x-y{)}^2$ chính phương (loại), còn $k=1$ chỉ cho một giá trị $k$. Vậy với $m$ không chính phương, $k$ chỉ có thể nhận hữu hạn giá trị trong $\{1,2,\dots ,m-2\}$, không thể có vô hạn $k$.

Kết luận: các số $m$ cần tìm là tất cả các số chính phương $m=a^2$, $a\in {\mathbb{Z}}^{+}$.