Die Markung von Gau-Odernheim war schon in vorgeschichtlicher Zeit von Menschen besiedelt, wie durch Gräberfunde und Ausgrabung zahlreicher Wohnstellen aus der Stein-, Bronze- und Eisenzeit bewiesen werden konnte. Einige römische Gräberfunde geben einen Hinweis auf eine größere Siedlung in diesem Gebiet um die Zeitenwende.
Die Ortschaft wurde– wie alle Orte, deren Name auf "„-heim"“ endet, in fränkischer Zeit als Ottenheim gegründet. Auch die Burg, von der nur noch das Verließ erhalten ist, soll auf eine Anlage fränkischer Könige zurückgehen. Von ca. 600 bis 1187 gehörte Otternheim zum Herrschaftsbereich der Bischöfe von Metz. Urkundlich erstmals erwähnt wurde es um 850. Von 1187 bis 1282 war das spätere Odernheim im Besitz der Herren von Bolanden.
Im Jahre 1282 erwarb König Rudolf von Habsburg den Ort und erhob ihn am 16. April 1286 zur freien Reichsstadt. Die Bürger des nun Odernheim genannten Ortes errichteten eine Mauer mit 16 Türmen und zwei Toren um die Stadt. Das 13. Jahrhundert war eine Zeit des Aufschwungs für die Stadt: Handel und Handwerk blühten, immer mehr Menschen siedelten sich innerhalb der Mauem der Stadt an. Ihr Status als Reichsstadt brachte der Stadt einen verhältnismäßig großen Wohlstand, er bewahrte die Gemeinde vor allzu großer Einflussnahme des Landadels und bedeutete weitgehende Selbstverwaltung, eigene Gerichtsbarkeit, Abhaltung eines Wochenmarktes und das Recht zur Erhebung von Steuern.
Im Jahre 1315 begannen die Könige und Kaiser, ihre Reichsstadt zu verpfänden, um so an Bargeld zu gelangen. Die Pfandherren - erst das Mainzer Erzstift (1315, 1353 ausgelöst), dann ab 1356 verschiedene andere Geldgeber und schließlich 1407 endgültig die Pfalzgrafen bei Rhein - bedrohten die städtischen Freiheiten (besonders 1482). Die Bürger versuchten ihre Rechte zu verteidigen. Dazu brannte die Stadt 1497 bis auf sechs Häuser vollständig ab. Kaum wieder aufgebaut, brach 1553 abermals Feuer aus. Zu der materiellen Not kam der Druck der kurfürstlichen Regierung. All dies führte 1579 schließlich zu einem Aufstand, den der Pfalzgraf Ludwig VI. zum Anlass nahm, die städtischen Freiheiten endgültig zu beseitigen. Gau-Odernheim wurde zu einem pfälzischen Amts- und Landstädtchen herabgestuft und blieb es bis zu den politischen Umwälzungen zu Ende des 18. Jahrhunderts.
Der Dreißigjährige Krieg von 1618-1648 verschonte auch Gau-Odernheim nicht: nach spanischen Soldaten folgten die Schweden, bis diese wieder von den Spaniern abgelöst wurden. Die Burg wurde ebenfalls im Verlauf dieses Krieges zerstört, 1648 wurden die Burgmannen entlassen und ihrer Lehen und Besoldungen entkleidet. Die Nachkriegsjahre waren durch die Rückzahlung der Kriegsschulden belastet, und noch bevor diese getilgt waren, wurde Odernheim erneut in einen Krieg verwickelt. Der Kurfürst von der Pfalz war mit den Oberhirten von Mainz, Trier, Speyer und Straßburg sowie dem Herzog von Lothringen wegen der sogenannten „Wildfänge“ in Streit geraten. Mainzische, lothringische und pfälzische Landsknechte hinterließen ihre Spuren in der Stadt.
1689 wurde Odernheim zum dritten Mal zerstört. Im folgenden Jahr lebten nur noch 53 Menschen seinen Mauern; 1704 waren es wieder 450. Aber auch die großen Kriege des 18. Jahrhunderts bürdeten der Stadt schwere Lasten auf - so der spanische Erbfolgekrieg (1701-1714), der österreichische Erbfolgekrieg (1740-1748) und der Siebenjährige Krieg (1756-1763). Es folgten endlich drei Jahrzehnte des Friedens, in denen eine langsame Aufwärtsentwicklung einsetzte, die dann durch die französischen Revolutionskriege erneut unterbrochen wurde. Mit Beginn der napoleonischen Herrschaft kam Gau-Odernheim 1797 unter französische Oberhoheit. Odernheim verlor seine Stadtrechte; die Güter des Adels, der Kirchen und Klöster wurden eingezogen. 1816 kam Rheinhessen und damit auch Odernheim zum Großherzogtum Hessen. Ab 1826 erfolgte der Abbruch der Stadtmauern, Tore und Türme, nur wenig ist davon heute noch erkennbar.
Im Jahr 1969 wurde Gau-Köngernheim ein Ortsteil von Gau-Odernheim.