Wann genau die erste Synagoge in der Rheinstraße Nr. 4 erbaut wurde, ist nicht überliefert. Dr. Hans-Josef von Eyss geht von einem Bau im Zeitraum zwischen 1648 und 1679 aus, da im Dreißigjährigen Krieg (1618 – 1648) das Mainzer Domkapitel die Anweisung gab, alle Juden ohne Schutzbrief aus ihren Städten auszuweisen, was ein großes Bauprojekt eher unwahrscheinlich macht. Aus dem Jahr 1679 ist jedoch überliefert, dass sich die Betroffenen bei religiösen Streitigkeiten an die Synagoge wenden sollten. Zu diesem Zeitpunkt muss die Synagoge also bereits bestanden haben. Im Zuge der sogenannten Pfalzzerstörung 1689 durch französische Truppen fiel auch diese Synagoge dem großen Stadtbrand zum Opfer. [Anm. 2]

Es dauerte etwa zehn Jahre, bis die verarmte Binger Judengemeinde einen Neubau finanzieren konnte. Im Jahr 1700 konnte schließlich diese Synagoge, die vermutlich an derselben Stelle errichtet wurde wie die abgebrannte Synagoge, eingeweiht werden. Weitere Nachrichten über die Synagoge in der Rheinstraße sind erst aus dem Jahr 1789 überliefert, als auf dem Speicher der Synagoge ein Feuer ausbrach, das jedoch ohne größere Auswirkungen blieb. Im Jahr 1831 wurde die Synagoge, die für die stark angewachsene Judengemeinde viel zu klein geworden war, schließlich für baufällig erklärt. Ein Neubau an anderer Stelle wurde viel diskutiert. Da sich der Gemeindevorstand jedoch außer Stande sah, die nötigen Summen für einen Neubau aufzubringen, entschied man sich für einen Umbau und eine Erweiterung der alten Synagoge. Das dafür benötigte Geld wurde durch den Verkauf von Gebäuden, darunter auch das „Judenhospital“, einer Herberge für durchreisende arme und kranke Juden, sowie durch einen Zuschuss der Stadt und eine Anleihe der jüdischen Gemeinde erwirtschaftet. Mit dem Umbau der Synagoge ging auch eine Umgestaltung des Eingangsbereichs einher, der ursprünglich versteckt in der Judengasse lag. Der Eingang wurde nun mit einem geschmückten Portal und einem Vorhof auf die gut besuchte Rheinstraße nach Norden verlegt. Die umgebaute Synagoge wurde am 14./15. Dezember 1838 eingeweiht. Doch schon 1842 musste die Synagoge erneut erweitert werden, da das Gotteshaus zu klein für die stetig wachsende jüdische Gemeinde geworden war. Weitere Renovierungen und Anbauten, unter anderem der Einbau einer Orgel- und Chorempore, wurden 1853, 1871 und 1891 durchgeführt. [Anm. 3]

Nachdem sich 1872 die orthodoxen Gemeindemitglieder nach langen Spannungen von der Mehrheitsgemeinde losgesagt und die orthodoxe israelitische Religionsgesellschaft gegründet hatte, gab es in Bingen zwei jüdische Gemeinden. Die orthodoxe Gemeinde kaufte 1872 ein kleines Haus in der Amtsstraße auf, in der sich früher die Judenschule befunden hatte. Dort richteten sie eine eigene Synagoge ein, die bei den Binger Bürgern umgangssprachlich die „Synagoge der armen Juden“ genannt wurde.

Die größere liberale israelitische Religionsgemeinschaft blieb zunächst in der Synagoge in der Rheinstraße. Diese konnte trotz des Auszugs der orthodoxen Gemeinde langfristig nicht mit dem Wachstum der liberalen Judengemeinde mithalten. Ende des 19. Jahrhunderts befand sich die Synagoge außerdem in einem so schlechten baulichen Zustand, dass ein Neubau unvermeidbar war. Die alte Synagoge wurde schließlich verkauft, das Gebäude beherbergte in der Folge mehrere Geschäfte und Gasthäuser. [Anm. 4]

Der Innenraum der Synagoge war zweistöckig, wobei das Erdgeschoss Plätze für die Männer bot und die Empore für die Frauen vorgesehen war. Die Fenster waren mit Glasmalereien verziert und waren von Gemeindemitgliedern zum Gedenken an Verstorbene gestiftet worden. Im Osten führten einige Stufen zu einer Estrade (die Bima), auf dem sich der Vorbetertisch, der achtarmige Leuchter und Sitz des Rabbiners befanden. Dahinter erhob sich in einem Aufbau das Allerheiligste: der Schrein, in dem die Thorarollen aufbewahrt wurden. Eine feste Tür hinter einem gestickten Vorhang verschloss den Schrein. Hinter dem Aufbau des Allerheiligsten befand sich eine eigene Empore für Orgel und Chor. Über dem Synagogenraum wölbte sich eine Kuppel mit Oberlicht, die sich im hohen Vierungsturm befand. Die neue Synagoge verfügte über 218 Plätze für Männer und 171 Plätze für Frauen.

Am 21. September 1905 wurde die Synagoge unter Anteilnahme der gesamten Binger Bevölkerung, unabhängig der Konfessionen, feierlich eingeweiht. [Anm. 6]

Der hohe Integrationsgrad der Binger Judengemeinde fand spätestens mit der Machtübernahme der Nationalsozialisten am 30. Januar 1933 und der verstärkten antisemitischen Propaganda und Unterdrückungspolitik ein jähes Ende. In der Reichpogromnacht zwischen dem 9. und 10. November 1938 kam es in vielen deutschen Städten zu antijüdischen Gewaltmaßnahmen. In Bingen wurde der Gebetsraum der orthodoxen Gemeinde in der Amtsgasse geplündert, aber wegen der Nähe zu den benachbarten Gebäuden nicht in Brand gesteckt. Anders erging es der neuen Synagoge in der Rochusstraße. Bereits am 9. November drangen SA-Männer in die Synagoge ein und versuchten das Gotteshaus in Brand zu stecken. Nachdem sie wieder verschwunden waren, gelang es dem Synagogendiener aber die Flammen zu ersticken. Am Nachmittag des 10. Novembers kamen die NS-Unterstützer jedoch wieder, demolierten die geschmückte Außenfassade und zerstörten die Synagogeneinrichtung. Die Trümmer wurden mit Teer übergossen und gegen 17 Uhr erneut in Brand gesteckt. Diesmal konnte die Synagoge nicht mehr gerettet werden und das Hauptgebäude brannte bis auf die Außenmauern nieder. Die Feuerwehr unternahm keinen Löschversuch. [Anm. 7]

Die Ruine der Synagoge blieb in ihrer zerstörten Form jahrelang bestehen. Bereits im Dezember 1938 waren die Überreste der Synagoge dem nationalsozialistischen Regime ein Dorn im Auge. Das Gebäude wurde an den Binger Winzerverein zwangsverkauft, der jedoch vor allem am noch erhaltenen rechten Gebäudetrakt interessiert war. Trotz wiederholten Anmahnens der Stadt blieben die Grundmauern der Synagoge bestehen und wurden nicht abgerissen. Im Juli 1942 versuchte der Winzerverein die Ruine an die Stadt Bingen zu verkaufen. Da diese die Abrisskosten jedoch nicht übernehmen wollte, wurde der Kauf abgelehnt. Im Verlauf des Zweiten Weltkriegs zerstörten Bombardierungen weitere Teile der Stadt und auch der Synagoge, wobei die Fassadenfront erstaunlich gut erhalten blieb. Die Synagogenruine überdauerte den Krieg in ihrer zerstörten und ausgebrannten Form. In den Restitutionsverfahren Anfang der 1950er Jahre, in denen das enteignete Eigentum der jüdischen Einwohner:innen an diese oder ihre Nachfahren zurückgegeben wurde, ging das Binger Synagogengrundstück an die jüdische Gemeinde in Mainz über, die als Rechtsnachfolgerin der ausgelöschten Binger Judengemeinde fungierte. Die Ruine verkam in den folgenden Jahren immer mehr, während die intakten Gebäude, die vom Winzerverein erworben und genutzt worden waren, florierten. Dies führte nicht nur bei den Binger Einwohner:innen zu Unverständnis und Empörung. 1958 bot die Mainzer Gemeinde der Stadt Bingen die Ruine zum Kauf an, dem schließlich 1961 zugestimmt wurde. Es dauerte jedoch weitere neun Jahre, bis etwas mit dem Gelände geschah. 1970 legten Bagger schließlich die Ruine und die immer noch teilweise erhaltene Fassadenfront der Synagoge nieder. Heute befindet sich an dieser Stelle eine Wohnhausfront. [Anm. 8]

Im rechten Gebäudeteil wurde jahrelang die Freiwillige Feuerwehr untergebracht, während die Nordwand ein Bild des Hl. Florian schmückte, der eine brennende Stadt löschte. Während es sich dabei zwar nicht mehr um dieselbe Feuerwehr handelte, die 1938 dem Brand der Synagoge nur zuschaute, wirkte diese Entscheidung durchaus geschmacklos und irritierte nicht nur jüdische Besucher:innen.  Seit dem 8. November 2010 ist im ersten Stock dieses erhaltenen Gebäudeteils der ehemaligen Synagoge ein Erinnerungs- und Begegnungszentum unter der gemeinsamen Trägerschaft des Arbeitskreises Jüdisches Bingen und dem TifTuf, dem Förderverein für jüdisches Leben in Bingen heute, untergebracht. [Anm. 9]