Die Anfänge Elsheims reichen in die Frankenzeit zurück. Nach Brilmayer wird der Ort erstmals unter Karl dem Großen im Jahr 793 in einer Verkaufsurkunde von Gütern an das Kloster Fulda unter dem Namen Elisinhain genannt. Nach anderer Ansicht ist Ilgisheim erst 1144 belegt. Später hieß das Dorf Elisinheim (795), Igilsheim (1170), Egellnsheim, Egelsheim (1184), Igelesheim (1200), Egilsheim (1328), Ylsheim (1495) und schließlich Gau-Elsheim (1620).
Elsheim gehörte lange Zeit zu den freien Reichsdörfern des Ingelheimer Grundes. Diese Dörfer unterstanden den Königen und blieben von Beeinflussungen und Beeinträchtigungen durch die benachbarten Grund- und Gebietsherren weitgehend verschont. Im Jahr 1200 gehörte Elsheim zu den Orten, deren Einwohner verpflichtet waren, ein Stück der Gräben und Mauern der Stadt Mainz baulich zu unterhalten. Als Gegenleistung durften sie sich in Zeiten der Not hinter den Stadtmauern in Sicherheit bringen.
Die Rechtsstellung Elsheims änderte sich im Jahr 1375, als die Ortschaften des Ingelheimer Grundes von Kaiser Karl IV. an Kurpfalz verpfändet wurden. Elsheim und die anderen Dörfer wurden vom König nie wieder ausgelöst. So blieb Elsheim bei Kurpfalz, bis Ende des 18. Jahrhunderts die französische Besetzung der Rheinlande die politische Landkarte völlig veränderte.

Seit 1969 bildet der Ort zusammen mit Stadecken die Ortsgemeinde Stadecken-Elsheim.