Im Jahre 1891 schlossen sich 11 junge Neckarelzer zu einer Sangesgruppe zusammen. Den Dirigentenstab zu diesem kleinen Verein übernahm damals Wilhelm Dittè. Gönner des Vereins war Ludwig Mutschler, Besitzer der Neckarelzer "Mutschlermühle", der auch das Liedgut beschaffte. Die Singstunden wurden zunächst bei Jäger Peter Leutz im heutigen Lindenhof abgehalten, später zog man um in den "Deutschen Kaiser" (Badischen Hof). Die Zahl der Sänger stieg dann kontinuierlich an und unter Leitung der dirigierenden Lehrer Strauch, Klein und Schäfer konnten schon besondere Leistungen erzielt werden.
In der Hauptversammlung am 1. 10.1897 beschlossen die Sänger ihre ersten Statuten. Im §1 heißt es dabei: der Zweck des Männergesangvereins in Neckarelz ist die Pflege des Gesangs im allgemeinen, insbesondere des mehrstimmigen Gesangs, zur geselligen Unterhaltung seiner Mitglieder
Zu Beginn des 20. Jahrhunderts spitzte sich in Deutschland und damit auch in Neckarelz die politische Lage zu und auch der Männergesangverein musste unter den Auswirkungen leiden. Die Arbeiterkreise lösten sich von der bürgerlichen Gesellschaft und man hielt es für nötig, für die Arbeiter einen eigenen Gesangverein zu gründen. Die Gründung des Arbeitergesangvereins "Neckarperle" im Jahre 1908 hatte durchaus positive Auswirkungen auf die gesangliche Qualität der beiden nun in Neckarelz sesshaften Vereine. Das Probelokal war im Saal des Gasthofes Alpenrose, heute Schreinerei Bechtold. Unter den Gründern ist vor allem Johann Jakob Frey hervorzuheben, der sich als Vorstand und Förderer des Vereins besondere Verdienste erwarb. Die beiden Lehrer Kellermann und Eckert versahen, mit Ausnahme während der Zeit des 1.Weltkrieges, in der beide Gesangvereine notgedrungen verstummten, das Amt des Dirigenten bis zum Jahre 1929.
Die sängerischen Kontakte wurden über den Mosbacher Sängerkreis hinaus bis in den Kreis Heidelberg und Karlsruhe geknüpft. Beim 20jährigen Vereinsjubiläum 1928 waren so etwa 1200 Sänger hier zu Gast, nicht viel weniger, als die damals 1600 Einwohner zählende Gemeinde aufweisen konnte.
Die Erfolge der beiden Männergesangvereine hatten zur Folge, dass auch das Interesse der Neckarelzer Damenwelt am Singen erwachte. 1931 wurde dem Arbeitergesangverein noch ein gemischter Chor angegliedert, dessen 1. Auftritt wurde mit 75 Sängerinnen und Sängern ein voller Erfolg.
Nach der Machtergreifung wurde der Arbeitergesangverein zwangshalber aufgelöst und das vorhandene Vermögen eingezogen. Einige Sänger schlossen sich dem parallelen bürgerlichen Gesangverein an. Mit dem Ausbruch des 2. Weltkrieges endeten jedoch auch dessen Sangestätigkeiten.
Als am 9. Mai 1945 die Waffen schwiegen, war Deutschland ein zerstörtes, schwer geschlagenes Land. In den Kriegswirren gingen alle erworbenen Urkunden, Pokale und Dokumente verloren. Was einzig blieb waren ein paar Fotos und die 1913 geweihte Fahne des Arbeitergesangvereins mit der Inschrift: "Wo rein der Gesang und wahr das Wort, da ist des freien Sängers Hort."
Die letzten Vorstände des Arbeitergesangvereins vor dem Kriege, Karl Kober und Karl Supper, waren dann auch die Initiatoren, die in der Wiedergründungsversammlung am 23. Feb. 1946, im Gasthaus zum Hirsch, das Singen im Verein wieder aufleben ließen 48 aktive Sänger aus 2 Vereinen vor dem Kriege vereinigten sich nun unter einem Vereinsdach, ab 1948 unter dem neuen Namen MGV "Neckarperle" Neckarelz.