Die Arbeitsgemeinschaft für mittelrheinische Musikgeschichte wurde am 22. April 1961 von Prälat Prof. Dr. Dr. h.c. Adam Gottron, der aufgrund seiner Studien zur Mainzer Musikgeschichte an der Universität Mainz eine Honorarprofessur für musikalische Landeskunde innehatte, und Prof. Dr. Franz Bösken als eingetragener Verein mit Sitz in Mainz gegründet. Sie versteht sich als Zusammenschluss von Musikforschern/-innen, praktischen Musikern/-innen, Musikerziehern/-innen und anderen an der Musik der Region und ihrer Geschichte Interessierten. Ihre Aufgabe besteht im weitesten Sinne in der Erforschung der Musikgeschichte des Mittelrheingebiets, insbesondere auch in der Erhaltung, Erschließung und Edition musikalischer Quellen und Dokumente. Das Mittelrheingebiet umfasst das gesamte Bundesland Rheinland-Pfalz, ferner das Saarland, von Hessen den Rheingau und Teile des ehemaligen Fürstentums Nassau, das frühere Großherzogtum Darmstadt, von Baden-Württemberg das Gebiet der ehemaligen Kurpfalz, schließlich die im ehemaligen Oberstift des Kurfürstentums Mainz in Unterfranken gelegenen Gebiete.
Die Arbeitsgemeinschaft publiziert die Mitteilungen der Arbeitsgemeinschaft für mittelrheinische Musikgeschichte (bislang 92 Hefte) und gibt die Buchreihe Beiträge zur mittelrheinischen Musikgeschichte (bislang 48 Bände), das Online-Lexikon Musik und Musiker am Mittelrhein 2 sowie die Notenreihe Musik am Mittelrhein heraus und veranstaltet Tagungen und Konzerte.