Am Schillerplatz findet die adlige Repräsentation in Mainz ihren reinsten Ausdruck. Der Platz zwischen Altmünsterpforte und Gautor ist verkehrsgünstig gelegen. Hier im Randbereich der mittelalterlichen Siedlung war Raum für große Gebäude vorhanden. Als Bauherren der Adelshöfe traten vor allem die kurfürstlichen Familien selbst auf. Der Osteiner Hof und der benachbarte Bassenheimer Hof wurden nahezu gleichzeitig gebaut. Bauherr beider Adelspalais war der regierende Kurfürst von Ostein (1743-1763). Der Osteiner Hof wurde 1750 unter der Leitung des Architekten Valentin Thomann fertiggestellt. Er diente der Familie Ostein lediglich 50 Jahre als Wohnung; seitdem wird er für militärische Zwecke genutzt.

Mainz ist reich an derartigen barocken Palais - das hat seine Gründe. In französischer Zeit war im Osteiner Hof der Sitz der Verwaltung des Départements Donnersberg (Mont-Tonnèrre). Im 19. Jahrhundert befand sich hier die Militärverwaltung der preußischen und österreichischen Festungstruppen ("Gouvernement"). Ab 1890 wurde auch die Festungskommandantur in den Osteiner Hof verlegt, die zuvor zeitweilig im Stadioner Hof an der Großen Bleiche untergebracht worden war. Auch das Gouvernement hatte bis 1819 dort seinen Sitz gehabt. Vor dem Ersten Weltkrieg bewohnten die Gouverneure von Kathen und von Bücking das Gebäude, in dem auch die Fahnen der einzelnen Regimenter aufbewahrt wurden. In der Zeit zwischen 1918 und 1930 war der Osteiner Hof Sitz der französischen Besatzungsbehörden. 1933 schenkte die Stadt das Gebäude Adolf Hitler. Ab April 1933 war der historische Bau am Schillerplatz kurzfristig Sitz der Leitung der NSDAP, die aber schon bald in den benachbarten Schönborner Hof umzog. Im Gebäude blieben nur die Verwaltungen und Leitungen der Mainzer SA und SS. 1937 zog der Stadtkommandant der Wehrmacht in den Osteiner Hof ein und blieb dort bis Bombentreffen und ein anschließender Brand das Gebäude schwer beschädigten.

Während der Besatzungszeit wurde das 1947/48 wiederhergestellte Gouvernement dann von den französischen Oberbefehlshabern Guillement und Mangin genutzt. Von 1958 bis 1999 war der Adelhof auch Sitz des frz. Verbindungsoffiziers zur Landesregierung von Rheinland-Pfalz.

Heute ist der Osteiner Hof der Sitz des Standortältesten der Bundeswehr und der Sitz des Wehrbereichkommandos II. Die Bundeswehr beabsichtigt allerdings den Osteiner Hof aufzugeben. Seit 2008 wird das sanierungsbedürftige Gebäude für 9 Millionen Euro zum Verkauf angeboten.