Der Ort Nußdorf wird bereits 1081 in einer Urkunde genannt. Damals erhielt Markgraf Leopold von Österreich in Anerkennung seiner Leistungen als Vogt des Bistums Passau von diesem drei Höfe samt 70 Hörigen als Lehen, einen davon zu Nußdorf.
1194 wird der Ort im Saalbuch von Göttweig erwähnt. Der „Nuzberc“ wird 1226, der „Nuzpach“, später auch Schreiberbach, wird 1297 erstmals genannt. Wahrscheinlich geht der Name auf die Herren von Nuzdorf zurück, die seit Leopold dem Heiligen bis ins 13. Jh. markgräfliche Forstmeister waren. Schon damals war der Ort wegen seines guten Weines bekannt. Zu dieser Zeit gehörte Nußdorf zur Pfarre Heiligenstadt.

Seit dem 15. Jh. hatte der Ort eine dem hl. Thomas geweihte Kapelle und einen eigenen Priester. Erst 1783 wurde Nußdorf zur Pfarre erhoben, und 1887 wurde die neue Kirche fertiggestellt. Die alte Thomaskapelle wandelte man bei dieser Gelegenheit in eine Schule um.

In seiner ältesten Form dürfte Nußdorf ein T-förmiges Straßendorf entlang der heutigen Kahlenberger Straße, Greiner- und Hackhofergasse gewesen sein. Die Hammerschmidtgasse verband es mit Heiligenstadt und die Kahlenberger Straße mit Grinzing. Die jetzige Heiligenstädter Straße war bereits zur Römerzeit ein Verbindungsweg nach Asturis, dem heutigen Klosterneuburg gewesen.
Nussdorf war bis Ende 1891 eine eigenständige Gemeinde und ist heute ein Stadtteil Wiens im 19. Wiener Gemeindebezirk Döbling.

Noch im 19. Jh. fand man in dieser Gegend große Nussbaumalleen, und die alten Siegel der Gemeinde zeigen einen Baumstrunk, aus dem rechts und links je ein Zweig mit Blättern und Nüssen hervorwachsen. Typisch für die Ortschaft Nußdorf ist die Anlage als „fränkisches Reihendorf“, erkennbar an den Grundstücken entlang der Kahlenberger Straße. Sie geht auf die Neubesiedlung der Gegend nach der Vertreibung der Magyaren nach 960 zurück.