Seit dem Groß-Hamburg-Gesetz von 1937 gilt Harburg als an die S-Bahn angeschlossen. Das bezog sich über viele Jahrzehnte allerdings nur auf den Fahrkartentarif. Technisch war Harburg mit Dampf und Diesel ans Hamburger Schienensystem angebunden. Auch die Taktfrequenz der Züge konnte sich nicht mit der der klassischen S-Bahn-Linie zwischen Blankenese und Poppenbüttel messen: Allenfalls alle 30 Minuten fuhr ein silberner Zug von Harburg in Richtung Norden.
Die Linienbezeichnung S3 kam mit Gründung des HVV 1967. Bereits damals lagen Pläne in der Schublade, die Strecke zwischen Hamburg und Neugraben als elektrische S-Bahn auszubauen. Zeitweise wurde dies auch für den Zweig in Richtung Maschen angedacht – inklusive einer S.-Bahn-Station Wilstorf an der Wasmerstraße
Erst 1983 rollte tatsächlich die erste „richtige“ S-Bahn von Harburg-Rathaus in Richtung Hamburg. Ein Jahr später war die Strecke bis Neugraben ausgebaut. Die Bahnhöfe Heimfeld und Neuwiedenthal war neu entstanden. Dafür waren die Bahnhöfe Unterelbe, Tempowerk und Hausbruch entfallen. 2007 wurde die S-Bahn bis Stade verlängert. Die S3 ist seitdem Hamburgs Linie mit der höchsten Nutzerauslastung.