Nach der Einbeziehung in das Römische Reich diente die Gegend um Ingelheim mit vielen ländlichen Höfen (villae rusticae) vor allem zur Versorgung der römischen Truppen im Stationierungsort Mainz. Durch das Gebiet zogen sich römische Straßen, die wichtigen Verbindungen zwischen Mainz und Trier bzw. Mainz und Köln. Grab- und Münzschatzfunde aus dem 2. und 3. Jahrhundert lassen auf einen erheblichen Wohlstand der romanisierten Bewohner schließen. Es scheint auch an der Straße von Mainz-Finthen nach Bingen, die sich als heutige "Mainzer Straße" bzw. "Binger Straße" durch Nieder-Ingelheim zieht, einen vicus (d.h. ein römisches "Gewerbegebiet") gegeben zu haben, dessen Name sich aber nicht erhalten hat. Als Durchzugsgebiet und aufgrund der Nähe zu Mainz war das Ingelheimer Gebiet vielen Kriegshandlungen ausgesetzt, die im dritten und vierten Jahrhundert zu wiederholten Plünderungen und massiven Zerstörungen geführt haben dürften und damit auch zum Ende des vicus sowie wohl auch aller Villae. Außerdem verloren diese Landgüter, die ja für den städtischen Markt produzierten, ihre wirtschaftliche Existenzgrundlage, da es immer weniger Militär in Mainz gab. Die Villa im benachbarten Heidesheim, aus deren linkem Eckrisalit die heutige "Georgskapelle" wurde, wurde nach Grabungsfunden bis ins späte 4. Jahrhundert genutzt; sie lag dann jahrzehntelang als Ruine da, bis ihre Baureste zu anderen Zwecken umgewidmet wurden.

Spätestens ab dem 5. Jh. wurde das Gebiet von „Franken“ bäuerlich besiedelt. Nach einem von ihnen (namens „Ingilo“?) wurde – wie in Rheinhessen üblich – ein Frankenhof Ingilenheim o. ä. genannt, woraus der heutige Name entstanden ist. Mindestens seit merowingischer Zeit (ab dem 6. Jh.) gab es in Ingelheim einen großen Königshof (villa regia oder curtis regia) mit dem dazugehörigen Königsland das Selztal hinauf („Ingelheimer Reich“, auch „Ingelheimer Grund“). Dazu gehörte ein großer Wald beim heutigen Binger Wald, der "Ingelheimer Wald", der noch immer im Besitz der Gemeinde ist. 
Die Bewohner dieses Gebietes hatten dadurch viele Jahrhunderte Sonderrechte, aber auch Sonderpflichten, u.a. die Fährdienste am Rhein durch die Bewohner Frei-Weinheims. Überregionale Bedeutung erlangte das Gebiet durch den Beschluss Karls des Großen, neben dem Königshof mit dem Bau einer prächtigen Kaiserpfalz mit Aula regia (Versammlungssaal nach Art einer Basilika) zu beginnen. Ihr gegenüber wurde ein einzigartiger doppelstöckiger Halbkreisbau mit einer Pfeilerhalle in der Mitte und einem nach innen vorgelagerten Säulengang errichtet, eine "Exedra" mit ca. 90 m Durchmesser. Beide zusammen bildeten mit einem geraden Nordbau ein besonders herausgehobenes Ensemble von repräsentativen Steingebäuden, die in römischer Technik mit vielen römischen Spolien gebaut wurden - womöglich ein Anspruch auf die Nachfolge römischer Kaiser noch vor der Kaiserkrönung im Jahre 800! Karls Sohn, Ludwig der Fromme, hielt sich besonders oft in Ingelheim auf. Er starb 840 auf einer Au (Insel) im Rhein gegenüber der Pfalz.
Seit Karl war diese mehrfach umgebaute Pfalz für zweieinhalb Jahrhunderte ein verkehrsgünstiger und wichtiger Stützpunkt der mittelalterlichen deutschen Könige bzw. Kaiser am Mittelrhein. Ringsherum muss es oft wahre Zeltstädte für die manchmal Tausende von Gästen gegeben haben. Sie diente u.a. für

Demgegenüber stieg nun das selzaufwärts gelegene Ober-Ingelheim zu größerer Bedeutung auf. Hier (und im kleineren Großwinternheim) hatten die Ingelheimer Adligen, die ursprünglich wohl mit der Verwaltung der Pfalz betraut worden waren, ihre großen Höfe, darunter die "Pfalzgrafen" und späteren „Grafen von Ingelheim“.
Das dortige Obergericht (Ingelheimer Oberhof) war über drei Jahrhunderte als eine wichtige Rechtsauskunftsinstanz, als Schiedsgericht und als Berufungsgericht für viele Ortsgerichte und kleine Oberhöfe in der weiteren Umgebung von Ingelheim tätig. Ein Teil der Akten der Ortsgerichte („Haderbücher“) ist noch erhalten und bildet in seiner Vielfalt und Informationdichte einen einmaligen Schatz deutscher spätmittelalterlicher Rechtsquellen. 
Auch Ober-Ingelheim umgab sich im Spätmittelalter mit einer Wehrmauer, hatte aber niemals unter Belagerungen oder Zerstörungen zu leiden. Von dieser umfangreichen Wehrmauer sind noch Tore und beachtliche Mauerreste erhalten, vor allem um die Burgkirche.

Ab 1375 wurde der vom Kaiser nicht mehr benötigte Ingelheimer Grund mit seinen Orten Nieder-Ingelheim, Ober-Ingelheim, Groß-Winternheim, Frei-Weinheim, Bubenheim, Elsheim, Schwaben­heim (damals: „Sauerschwabenheim) und Wackernheim vom böhmischen Kaiser Karl IV. an die Kurfürsten von der Pfalz verpfändet. Aber auch unter der pfälzischen Herrschaft, die 400 Jahre lang bis zur Französischen Revolution dauerte, behielten die Einwohner des Ingelheimer Grundes, „des riches lude“ (= des Reiches Leute), wie sie vor dem Oberhof genannt wurden, einen großen Teil ihrer früheren reichsunmittelbaren Privilegien. Diese ließen sie sich von jedem neuen Kurfürsten (gegen hohen Huldigungsaufwand) immer wieder bestätigen.

Karl IV., der eigentlich mit seinem tschechischen Taufnahmen Wenzel hieß, ließ auch in der nicht mehr für königliche Zwecke benutzten Aula regia ein Augustiner-Chorherrenstift einrichten, das er mit umfangreichen Pfründen ausstattete. Dessen vier Kanoniker mussten Tschechisch sprechen können, weil sie sich offenbar um die tschechischen Pilger der Karlswallfahrt kümmern sollten, die bis 1776 alle sieben Jahre von Böhmen, Österreich, Steiermark, Slawonien und Ungarn durch Ingelheim hindurch nach Aachen führte - im Gedenken an die als Heilige von ihm verehrten Wenzel, den tschechischen Nationalheiligen, und Karl den Großen (in dieser Reihenfolge!).

Nach dem Ende der napoleonischen Zeit gehörte das Ingelheimer Gebiet (ab 1816) zusammen mit „Rheinhessen“ zum Großherzogtum und späteren „Volksstaat“ Hessen, und dies bis 1945.

Die großherzogliche Provinzregierung in Mainz versuchte durch Neubau und Renovierung von Kirchen und Schulen Kriegswunden zu heilen und die Modernisierung fortzusetzen. Als Infrastrukturhilfe wurden Straßen gebaut, darunter die Straße durch den Ingelheimer Grund, die ihren Nachhall noch heute im Ingelheimer Straßennamen "Grundstraße" hat (Bauzeit 1829-32).
Das Rechtssystem der napoleonischen Zeit (der Code civil) blieb erhalten ebenso wie vorerst die Kantonseinteilung (bis 1835). Danach gehörten die Ingelheimer Orte zum neuen Landkreis Bingen, der ehemals kurmainzische und kurpfälzische Gebiete vereinte.

Die Revolutionen des 19. Jahrhunderts fanden auch in Ingelheim ihr mehrfaches Echo: Der Ober-Ingelheimer Dr. Martin Mohr war ein vom Volk gewähltes Mitglied des Frankfurter Paulskirchenparlamentes bis zu seiner Auflösung 1849 und den Aufständischen in der Pfalz schlossen sich auch Freischärler aus der Ingelheimer Region an, darunter allein aus Ober-Ingelheim angeblich ca. 270 Männer. Zwei Tage vor deren Gefecht bei Kirchheimbolanden ereignete sich in Ingelheim am 12. Juni 1849 sogar ein Attentat auf den Anführer der preußischen Truppen, den Kronprinzen und späteren Kaiser Wilhelm I. Aus einem Kornfeld etwa im heutigen Zentrum von Ingelheim wurde auf die Fahrzeuge des Kronprinzen ein Pistolenschuss abgefeuert, der aber nicht den Wagen des Kronprinzen traf, sondern den Postillon eines zweiten Wagens verwundete. Ein später verhafteter 26-jähriger Schneidermeister-Sohn aus Nieder-Ingelheim, Adam Schneider, wurde 1850 in Mainz mangels Beweisen freigesprochen.

Im noch ländlich-idyllischen Nieder-Ingelheim mit herrlichem Blick auf Rhein und Rheingau siedelten sich im 19. Jahrhundert einige (groß-)bürgerliche Familien an, die sich z. T. auch als Wohltäter Nieder-Ingelheims einen Namen machten:

Der nationalistische Geist des zweiten deutschen Kaiserreiches fand in Ingelheim seinen Ausdruck im Bau eines mächtigen "Bismarckturmes" auf dem Westerberg, der heute ein beliebtes Ausflugsziel darstellt (Einweihung 1912).

Ab 1904 gab es sogar noch eine zweite Eisenbahnstrecke, die Selztalbahn, die vom Frei-Weinheimer Hafen aus das Selztal hinauf bis Partenheim fuhr und dem Personenverkehr ebenso wie den Warentransporten dienen sollte, darunter auch Zuckerrübentransporten (daher das „Zuckerlottchen“ genannt). Sie erreichte aber niemals eine ausreichende Rentabilität, weil ihr die beginnende Automobilisierung immer mehr Kunden wegnahm, und wurde deshalb 1954/55 stillgelegt. 

Die sich verstärkende Industrialisierung und die bessere Verkehrsanbindung führten zu einem starken Bevölkerungswachstum in den Ingelheimer Orten, das sich in zahlreichen Neubaugebieten niederschlug. Neue Volksschulen, Kirchen und Krankenhäuser wurden gebaut, eine "Höhere Bürgerschule" war schon Ende des 19. Jahrhunderts in Ober-Ingelheim entstanden (1890).

Ober- und Nieder-Ingelheim wuchsen entlang der Grundstraße und der neu gebauten Bahnhofstraße immer enger zusammen, auch Frei-Weinheim entlang der Rheinstraße. Die Infrastrukturanforderungen einer Industriegesellschaft (Elektrizität, Gas, Wasser/Abwasser, Telefon, Straßen) machten eine zunehmende Zusammenarbeit nötig, aber ein Zusammenschluss zu einer Stadt scheiterte immer wieder.

Nach dem Ersten Weltkrieg gehörte Ingelheim zum französisch (und britisch) besetzten Rheinland und war daher auch von der versuchten Machtübernahme durch Separatisten und von Ausweisungen im Jahre 1923 betroffen.

Die Weltwirtschaftskrise nach 1929 wirkte sich in den Ingelheimer Orten nicht ganz so dramatisch aus wie in reinen Industriegebieten, da viele Ingelheimer Fabrikarbeiter noch immer Feierabend-Landwirte waren, die sich mit etwas Selbstversorgung besser helfen konnten.

Kulturell wurde die Zeit zwischen den Weltkriegen durch eine sehr rege Vereinstätigkeit geprägt, die in zahlreichen Musik- oder Sportveranstaltungen gipfelte. Begeisterte Zuschauer sahen viele Laienspiel-Theateraufführungen auf der Freilichtbühne hinter der Burgkirche. Deren Höhepunkt war sicherlich die Aufführung des "Schinderhannes" in Anwesenheit des Autors Carl Zuckmayer im März 1928.

Auch in den Ingelheimer Orten übernahm 1933 die NSDAP die Macht, die demokratisch gewählten Bürgermeister wurden abgesetzt und die Nationalsozialisten übernahmen überall, auch in den Vereinen, das Ruder.

Jüdische Bürger wurden diskriminiert und vor allem nach der Reichspogromnacht 1938, der auch die Ober-Ingelheimer Synagoge zum Opfer fiel, enteignet und in die Emigration getrieben. Die letzten verbliebenen jüdischen Personen wurden 1942 in Vernichtungslager deportiert; von ihnen kehrte eine einzige Person zurück. Ebenso wurden Roma und Behinderte deportiert und ermordet, auch in Ingelheim wurden Zwangs- und Fremdarbeiter beschäftigt.

Während des Krieges wurde die Stadt zwar wiederholt von Jagdflugzeugen beschossen, aber nur von wenigen Bomben getroffen, so dass sie durch Kampfhandlungen nicht nennenswert beschädigt wurde. Deshalb konnte sie eine große Anzahl Ausgebombter aus Mainz aufnehmen. In den letzten Kriegstagen, als die Amerikaner bereits kurz vor Ingelheim standen, wurde am 18. März der letzte Volkssturmkommandant der Stadt, Hermann Berndes, standrechtlich zum Tode verurteilt und gehängt, weil er die Bevölkerung aufgerufen hatte, die Waffen niederzulegen, um unnötige Opfer zu vermeiden.
Zwei Tage später besetzten US-amerikanische Truppen nazu kampflos die Stadt. Da Ingelheim zur französischen Besatzungszone gehörte, übernahmen französische Truppen am 10. Juni 1945 die Kontrolle.

Von bleibender Bedeutung war der angeordnete Zusammenschluss zur Stadt. Zum 1. April 1939 wurden die bis dahin selbständigen Ortschaften Ober- und Nieder-Ingelheim (mit Sporkenheim) und Frei-Weinheim durch Anordnung des hessischen NS-Reichsstatthalters Sprenger zur "Stadt Ingelheim am Rhein" vereinigt. Dieser Beschluss wurde 1947 durch den frei gewählten Stadtrat demokratisch bestätigt.