In der Mitte des Marktes ragt die Heunensäule empor. Die über 1000 Jahre alte Heunensäule wurde 1975 aus Anlass des 1000jährigen Domjubiläums auf dem Markt aufgestellt. Sie wiegt 16 Tonnen, ist 6,40 Meter hoch und hat einen Durchmesser von 1,20 Meter. Das Steinmaterial stammt aus den Bullauer Bergen bei Miltenberg am Main. Die Heunensäulen liegen dort in einem Felsenmeer, am Osthang der Berge, in der Schleife eines von Miltenberg nach Mainbullau führenden Weges. Insgesamt lagerten dort sieben der Giganten. Bei den Miltenberger Säulen handelte es sich allem Anschein nach um Reste eines Großauftrages an die dortigen Steinmetze, der nicht vollständig ausgeführt wurde oder um fehlerhafte Stücke. Nach einer Theorie waren die Heunensäulen einst für den Vorgängerbau des Martinsdomes bestimmt gewesen. Gestützt wird diese Vermutung durch erhaltene älteste Teile im Mauerwerk des Mainzer Doms, Felssandsteine, die auch aus der Miltenberger Gegend stammen. Wahrscheinlich sollten die Säulen für den Wiederaufbau des am Tag der Weihe 1009 abgebrannten Mainzer Doms verwendet werden.
Die Heunensäule auf dem Mainzer Markt wurde 1975 von Miltenberg nach Mainz transportiert. Der Pfälzer Bildhauer Gernot Rumpf schuf die Bronzeplastik, die die Säule auf allen Seiten umfängt. Auf der Ummantelung erscheinen zahlreiche Episoden aus der Stadtgeschichte: Römerzeit, Bischofssitz, Franzosenherrschaft, Besuche verschiedener Könige und Kaiser. Auch das Mainzer Rad in seinen verschiedenen historischen und modernen Ausprägungen ist dort festgehalten. Zwei Reliefs an der den Markthäusern zugewandten Seite weisen auf zwei besonders traurige Kapitel der Stadtgeschichte hin. Das brennende "Magenza" unter dem Davidstern ist ein Verweis auf die Pogrome, welche die einst blühende jüdische Gemeinde von Mainz immer wieder zerstörten, zuletzt die Vernichtung unter der nationalsozialistischen Herrschaft. Folgerichtig steht daneben das Bild von Mainz nach den schweren Bombardements im August 1942 und im Februar 1945.