Früher befand sich der christliche Friedhof direkt an der katholischen Kirche. Doch 1806 entschied man sich aus hygienischen Gründen dazu, den alten Friedhof aufzugeben und an den Ortsrand zu verlegen. Heute findet man den großen Friedhof am Rande der Stadt mit einen separaten Urnenfriedhof und zahlreichen Denkmälern. Mehr zur Geschichte des christlichen Friedhofs

Als sich im Jahre 1855 in Nieder-Olm eine jüdische Gemeinde bildete, dürfte auch der jüdische Friedhof angelegt worden sein.
Dass der jüdische Friedhof neben dem christlichen liegt, deutet darauf hin, dass die jüdische Gemeinde im 19. Jahrhundert mehr akzeptiert wurde, als in der Zeit davor.

Der Friedhof ist etwa 500 m² groß und es befinden sich dort 26 Gräber ohne Grabeinfassungen. Die alten, bei jüdischen Friedhöfen ungewöhnlichen Grabeinfassungen wurden 1982 aus Gründen der einfacheren Pflege entfernt (siehe unten: Plan von Peter Weisrock).

In den 1960er Jahren wurden die Gräber beschädigt, indem die Grabsteine von Ihren Sockeln gestürzt wurden (siehe unten: Zeitungsausschnitt). Die Polizei hielt es allerdings nicht für eine geplante, rassistische Demonstration, sondern vielmehr für einen unüberlegten, dummen Streich.

Heute ist der jüdische Friedhof sogar vom christlichen Friedhof aus zugänglich und nicht mehr nur durch ein eigenes Tor. Begraben wurde dort allerdings seit 1931 niemand mehr. Mehr zur Geschichte der jüdischen Gemeinde Nieder-Olm.