Gegründet wurde der HSV am 01. Juni 1919. Schwarz, Weiß und Blau sind die Vereinsfarben. Die Farben sind die der Gründerklubs Germania, HFC und Falke. Daraus setzt sich auch die HSV-Raute zusammen. Die soll auch die Verbundenheit mit der maritimen Geschichte der Stadt zeigen. Der Rhombus ist nämlich an eine Reedereiflagge angelehnt.

Schon 1922 gewann der HSV seine erste Deutsche Meisterschaft, auf die aber "freiwillig" verzichtet wurde. Das Finale gegen den 1.FC Nürnberg wurde beim Stand von 2:2 nach 189 Minuten abgebrochen. Daraufhin gab es ein Wiederholungsspiel. Doch auch dieses brachte keine Entscheidung. Nach 112 Minuten, beim Stand von 1:1, beendete der Schiedsrichter das Spiel, weil nur noch sieben Nürnberger auf dem Spielfeld standen. Zwei Nürnberger wurden vom Platz verwiesen, zwei fielen verletzt aus (das auswechseln von Spielern war damals nicht erlaubt). Der DFB erklärte den HSV zum Sieger der Finalspiele, jedoch mit der Weisung, auf den Titel zu verzichten. Der Süddeutsche Verband drohte nämlich mit der Abspaltung vom DFB. Somit gab es 1922 keinen Deutschen Meister.

Im Jahr darauf (1923) klappte es dann aber mit der Deutschen Meisterschaft, so wie auch 1928 und 1960. 1963 wurde der HSV das erste Mal DFB-Pokalsieger.

Die erfolgreichste Zeit hatte der HSV ab Mitte der 70´er bis Mitte der 80´er. 1979,1982 und 1983 wurde der HSV Deutscher Meister, 1976 und 1987 DFB-Pokalsieger, 1977 holte man den Europacup der Pokalsieger und als Krönung gewann der HSV 1983 den Europapokal der Landesmeister. Zudem erreichte man damals einen bis Heute unerreichten Bundesligarekord. Der HSV blieb von Januar 1982 bis Februar 1983 in 36 Spielen ohne Niederlage. Der HSV ist auch der einzig verbliebene "Dino" der Bundesliga, das heißt er ist seit der Gründung 1963 ohne (Abstiegs-)Unterbrechung dabei.