Der Stadtteil Mümmelmannsberg entstand im Januar 1972 zunächst mit einigen Häusern in den Straßen Max-Klinger-Straße, Mümmelmannsberg, Münterweg. Nach und nach wurden weitere Häuser bezogen, Sportplätze gab es jedoch zu jener Zeit noch nicht.

Auf der Freifläche östlich der Grundschule Mümmelmannsberg wurde - vorwiegend sonntags zwischen 10 und 12 Uhr - Fußball gespielt. Kinder, Jugendliche und Erwachsene spielten zusammen. Mit dem Bau der Bezirkssportanlage entstand der Entschluß der Freizeitkicker, einen Sportverein zu gründen.
Am 4. Dezember 1974 wurde daraufhin von 12 sportbegeisterten Bürgern der Mümmelmannsberger Sportverein gegründet. Bereits in der Gründungssatzung wurde verbindlich festgelegt, dass der Jugendarbeit besonderes Interesse gilt. Dieser Grundsatz ist heute noch uneingeschränkt gültig.

Nach der Auflösung des Waltershofer Sportvereins gelang es einem Gründungsmitglied, Trikots dieses Vereins zu bekommen. In diesen gelb-schwarzen Trikots spielten zuerst die Freizeitkicker und später dann der MSV Hamburg. Gelb-Schwarz wurden damit die offiziellen Vereinsfarben.
Das Vereinsemblem hat die Form eines auf die Spitze gestellten Schildes; auf gelben Grund ist - mit Bezug auf den Namen des Stadtteils - die Silhouette eines sitzenden Hasen mit abgeknicktem rechten Löffel zu erkennen.

Nach Fußball wurden zunächst die Abteilungen Tischtennis, Handball und Kinderturnen gegründet. Dem Bedarf entsprechend folgten weitere Abteilungen, vorwiegend für Jugendliche. Zur Zeit kann man in 16 Abteilungen Sport treiben.

Als erstes Vereinshaus wurden gebrauchte Schulcontainer angeschafft, in Eigenleistung aufgestellt und ausgebaut. Es bestand aus einem Jugendraum, einem Clubraum und zwei kleinen Büroräumen. Das Vereinsheim wurde am 7. Juli 1977 offiziell eingeweiht.

Am 23. Januar 1983 wurde der langjährige Vereinsvorsitzende Joachim Bewersdorf zum ersten und bisher einzigen Ehrenmitglied ernannt.

Im Sommer 1984 wurde das Vereinshaus wegen des U-Bahnbaus (Billstedt - Mümmelmannsberg) umgesetzt.

Im April 1987 wurde der Verein für hervorragende Jugendarbeit mit dem Sepp-Herberger-Preis sowie dem Preis der Uwe-Seeler-Stiftung ausgezeichnet.

Im Jahre 1989 wurde im Rahmen der Sanierungsarbeiten im gesamten Stadtteil Mümmelmannsberg auch der Neubau eines Vereinshaus beschlossen. Die Freie und Hansestadt Hamburg hat dieses Bauvorhaben großzügig gefördert. Das neue Haus am Ende der Kandinskyallee wurde im Mai 1992 eingeweiht. Es dient dem gesamten Stadtteil als Freizeit- und Kommunikationstreff.

Der MSV Hamburg ist mit zur Zeit rund 1000 Mitgliedern aus 20 Nationen nach wie vor die größte Personenvereinigung Mümmelmannsberg.