Die Gemarkung des späteren Arzheim war schon seit der jüngeren Steinzeit besiedelt. Aus römischer Zeit sind Gebäudereste in der Minnigswiese und am Bornbach nachgewiesen. Die Gründung des Ortes Arzheim ist wohl in fränkischer Zeit zu vermuten. Im Jahr 868 schenkte König Ludwig seine Herrenhöfe in Arenberg und Leutesdorf samt dem Herrenhof in Arzheim dem adeligen Frauenkloster Herford in Westfalen. In der Folgezeit hatten die Grafen von Diez (911/918), das Koblenzer St. Kastorstift (1000) und die Herren von Helfenstein Einfluss im Ort. Nach dem Aussterben der Herren von Helfenstein im Jahr 1579 belehnte der Trierer Erzbischof den Amtmann Otto von Rollshausen mit diesem Gut. 1626 gingen die ehemaligen Besitzungen der Helfensteiner, nach Zahlung einer Abfindung an das Kloster Herford, auf einige andere Herren über.
1688 brannte Arzheim vollständig ab. Bis dahin hatte das Dorf größtenteils auf der anderen Seite des Tales, auf dem Bohnacker, gestanden. Seit dem Wiederaufbau gruppieren sich die Häuser des Dorfes um die Kirche.
Bis 1803 war das Erzstift Trier Lehnsherr in Arzheim. Im Jahr 1937 wurden die Gemeinden Pfaffendorf, Horchheim, Neudorf und Niederberg, die Stadt Ehrenbreitstein, sowie Teile der Gemarkungen von Urbar und Arzheim (Teile Asterstein und Arzheimer Schanze) der Stadt Koblenz eingegliedert. In einem langwierigen Verfahren wurden zwischen 1968-1970 Arzheim und sechs weitere Gemeinden dem Koblenzer Stadtgebiet zugewiesen (Arzheim am 2.11.1970). Am 22.10.1981 beschloss der Stadtrat, Teile der Arzheimer Gemarkung (zwischen Asterstein und Brückengraben/ Johannsgraben/Blindbach) dem neuen Gemeindeteil Asterstein einzugliedern.