Du darfst nicht nur allein die Bitbreite des Speicherinterfaces sehen, sondern musst die Ram-Geschwindigkeit in deiner Rechnung mit einbeziehen und erhältst dann so die Bandbreite.
Bitbreite x Takt des Rams = Bandbreite
Die 5770 hat GDDR5-Ram und die GTX260 nur GDDR3-Ram. Somit relativiert sich das wieder ein wenig. Dennoch ist die GTX260 unterm Strich in den meisten Spielen ein wenig schneller, aber nur unerheblich.
DirectX11 wird dir für Wow nichts bringen, weil es nicht mal DirectX10 unterstützt und vermutlich nie wird. In DirectX11-Spielen jedoch hat die ATI5770 Vorteile, gegenüber der Geforce, weil damit viele Rechenoperationen resourcenschonender von statten gehen. Deswegen wird sich in Zukunft der Performance-Vergleich beider Karten nochmal zugunsten der ATI entwickeln.
Ich persönlich würde die ATI nehmen. Sie hat die neueren Features, ist aktuell fast genauso schnell und ist stromsparender.
Meiner Schwester hab ich kürzlich eine ATI5770 in den Rechner gebaut. Wow läuft mit sämtlichen Details auf Ultra und Full-HD flüssig. Und das sogar in Dalaran.
Allerdings ist da auch eine potente CPU verbaut, nämlich ein 955er AMD, der nicht mit deiner zu vergleichen ist.