Am 3. Dezember 1946 übergaben die so genannte „Gemischte Kommission“ und ihr vorbereitender Verfassungsausschuss dem provisorischen Landesparlament, der „Beratenden Landesversammlung“, einen ersten Verfassungsentwurf für das neue Land Rheinland-Pfalz. Der umstrittenste Punkt in den folgenden Verfassungsberatungen, die bis April 1947 dauerten, war die Schulfrage. Die Katholische Kirche und die CDU traten für konfessionsgebundene Volksschulen ein, während SPD und Liberale für Simultanschulen stritten. Sie sahen die oft kleinen Konfessionsschulen als in der modernen Industriegesellschaft nicht mehr zeitgemäß an. Allerdings hatten die christlichen Bekenntnisschulen, die von den Nationalsozialisten abgeschafft worden waren, besonders im Rheinland traditionell eine starke Rolle gespielt. Die Positionen in der Frage der Schulverfassung waren so verhärtet, dass schließlich festgelegt wurde, die Bevölkerung über die Schulartikel bei der Volksabstimmung über die Landesverfassung gesondert abstimmen zu lassen. Hier zeigte sich, dass die konfessionellen Verhältnisse, genau wie etwa die Schultraditionen, in den verschiedenen Teilen des künstlich geschaffenen neuen Landes, einiges an Konfliktpotential boten. [Anm. 1]

Infolgedessen gab es zwischen den Regionen beim Ergebnis der Volksabstimmung über die Landesverfassung am 18. Mai 1947 große Unterschiedene. Insgesamt fiel die Entscheidung angesichts schwieriger Nachkriegsbedingungen, der noch ungeklärten Frage der nationalen Zugehörigkeit des neuen Landes und der umstrittenen Schulfrage ziemlich knapp aus: Bei einer Wahlbeteiligung von 77,7% stimmten 53% der Rheinland-Pfälzer, die an die Urnen gingen, für die Verfassung und 47% dagegen. In der gesonderten Abstimmung über die Schulartikel – welche die von der CDU favorisierten Konfessionsschulen vorsahen – wurden landesweit 52,4% Ja- und 47,6% Nein-Stimmen abgegeben. Im neuen Regierungsbezirk Rheinhessen hatte die Bevölkerung jedoch mit 67% der abgegebenen Stimmen klar gegen die konfessionell orientierte Schulverfassung gestimmt. Und auch die Verfassung insgesamt fiel, wohl unter anderem wegen der umstrittenen Schulfrage, in Rheinhessen durch: 53,2 % lehnten diese ab. [Anm. 2]

Neben der Volksabstimmung waren die Rheinland-Pfälzer am 18. Mai 1947 ebenfalls dazu aufgerufen ihren ersten Landtag zu wählen. Von den 101 Sitzen im Landtag erhielt die CDU 48 (47,2%), die SPD 34 (34,4%), die LP/SV 11 (9,7%; Liberale Partei und Soziale Vereinigung schlossen sich später zur FDP zusammen) und die KPD 8 (8,7%). [Anm. 3] Nach der Landtagswahl wurde Dr. Wilhelm Boden (CDU), seit 1. Dezember 1946 bereits von der französischen Militärregierung eingesetzter vorläufiger Ministerpräsident, vom Landtag zum Ministerpräsidenten gewählt. Er trat jedoch schon am 9. Juli zurück, nachdem es ihm nicht gelungen war, eine Regierung zu bilden. Zu seinem Nachfolger wurde am gleichen Tag Peter Altmeier (ebenfalls CDU) gewählt, der über fast 22 Jahre hinweg, bis Mai 1969, Regierungschef bleiben sollte. Aufgrund der regionalen und konfessionellen Struktur des neuen Landes ging die CDU aus allen Landtagswahlen von 1947 bis 1987 als stärkste Partei hervor und stellte den Ministerpräsidenten. In seiner ersten Amtszeit regierte Altmeier mit einem All-Parteien-Kabinett aus CDU, SPD, Liberalen und KPD. In den folgenden Wahlperioden bildete die CDU entweder eine Koalition mit der FDP oder konnte mit absoluter Mehrheit alleine regieren. [Anm. 4]