Das einfachste ist wie gesagt, alle Dateien unter den entsprechenden Pfaden zu löschen:
Vista:
C:\Users\<Benutzername>\AppData\Local\Mozilla\Firefox\Mozilla Firefox\updates\0
XP:
C:\Dokumente und Einstellungen\<Benutzername>\Lokale Einstellungen\Anwendungsdaten\Mozilla\Firefox\Mozilla Firefox\Updates\0
Dann das automatische Update als Admin ausführen und es herrscht wieder Ruhe 
Das Problem bestand aber auch schon beim Update auf 2.0.0.3.
Ist denn hier mal jemand, der engen Kontakt zu den Firefox Entwicklern pflegt damit sich dieser Sache angenommen wird? Wäre schön, sonst ist das entweder nur nervig oder sogar gefährlich.
P.S. Ich habe unter Vista die "Benutzerkontrolle" abgeschaltet - die nervt nur...
P.P.S. Kann den XP Tipp leider nicht verifizieren: Auf meinem XP-PC verschwand das Update beim normalen Benutzer nach Installation des Updates im Admin-Modus von selbst.... Das verstehe doch wer will.
Gruß,
B.