1. Der nForce 4 unterstützt wie bereits gesagt nur PCI Express.
2. 300€ sind wirklich knapp bemessen, da solltest du lieber noch ne weile sparen, mit dem System kannst du noch ne Zeit leben. Wenns AGP sein soll, kann ich das Abit AV8(-3rd Eye) empfehlen mit K8T800Pro mit guten Übertaktungsmöglichkeiten. Hat die meisten nForce 3 Boards hinter sich gelassen und deshalb ist meine Wahl ebenfalls auf das Board gefallen, siehe Signatur.
3. DDR 400 ist ein muss, zum Übertakten darfs dann auch teurer Speicher sein, wenn du nicht Übertakten willst dann reichen die Value-Series die die bekannten Hersteller im Programm haben. Der schnelle Speichercontroller des A64 mag es besonders wenn er mit Low-Latency Speicher gefüttert wird.

Mit DDR 333 den du vermutlich hast, hast du einen Geschwindigkeitsverlust, der aber nicht soooo groß ist das du sofort 400er Ram kaufen musst, kannst auch Übergangsweise den alten 333er verwenden. Bei 266 MHz ist der Unterschied dann doch schon größer, dann würd ich auf jeden Fall 400er Ram kaufen.