Johannes Oekolampad wurde 1482 im damals zur Pfalz gehörenden Weinsberg bei Heilbronn als Sohn eines wohlhabenden Bürgers und dessen aus der angesehen Baseler Familie der Pfister stammenden Frau geboren. Sein Familienname lautete vermutlich Heußgen was zum Zwecke der Graecisierung in Hausschein (οἶκος= Haus und λαμπάς= Lampe)  abgewandelt wurde, und somit die für Humanisten gebräuchliche griechische Form Oekolampad ergab.

Er besuchte zunächst die Elementarschule in Weinsberg und später die Lateinschule in Heilbronn. Ab 1499 studierte er in Heidelberg Theologie, wo er erste Erfahrungen mit frühhumanistischem Gedankengut gesammelt haben dürfte. Nach seinem Abschluss als Magister 1503 immatrikulierte er sich an der Universität in Bologna für Rechtswissenschaften, kehrte jedoch bald wieder nach Heidelberg zurück. Zwischen 1506 und 1508 unterbrach Oeklompad sein Studium für eine Tätigkeit als kurpfälzischer Prinzenausbilder in Mainz. Danach kehrte er nach Heidelberg zurück, wo er 1510 sein Studium der Theologie mit erfolgter Priesterweihe beendete. Er übernahm eine von seinem Vater gestiftete Prädikatur in seiner Heimatstadt Weinsberg. 1512 veröffentliche er seine erste Publikation, die sich aus seinen in Weinsberg gehaltenen Predigten über Christi Passion und die Sieben Worte am Kreuz herleitete.

Bereits im selben Jahr lies er sich von seiner Prädikatur beurlauben und begann in Tübingen ein Studium der alten Sprachen, wo er in Kontakt zu Johannes Reuchlin und Philipp Melanchthon kam. 1513 wechselte er wieder nach Heidelberg. Dort befreundete er sich mit Wolfgang Capito. Diesem folgte er 1515 nach Basel. In Basel erwarb er den Baccalaureus sententiarius und arbeitete bei der Edition des Neuen Testaments des Erasmus von Rotterdam durch den Buchdrucker Johannes Froben mit. Der dadurch entstandene Kontakt zu Erasmus beeinflusste Oekolampads theologischen Werdegang nachhaltig. 1516 wurde er an der Universität Basel zum Lizentiaten in der Theologie promoviert und wirkte anschließend wieder als Prediger in Weinsberg. 1518 wurde er jedoch auf Betreiben Capitos zum Poenitentiarius am Basler Münster berufen und erlangte im selben Jahr die theologische Doktorwürde an der Universität Basel. Das ermöglichte ihm eine Berufung auf die Stelle eines Predigers am Augsburger Dom. Da sich die Konfrontation in Glaubensfragen im Zuge der Reformforderungen Luthers immer mehr zuspitzte, trat er 1520 als Mönch ins Birgittenkloster Altomünster ein, um so Ruhe vor den aufkommenden Diskussionen zu erlangen. Während seiner Zeit im Kloster übersetzte er alte Kirchenväter aus dem Griechischen ins Lateinische und Deutsche und setzte sich mit der Instition Kirche auseinander, was in seinem Werk „"Daß die Beichte Christen nicht beschwerlich sei"“ von 1521 gipfelte. Da er sich zudem in weiteren Veröffentlichungen wie dem "„Iudicium de Luthero“" öffentlich für Luther aussprach, musste er 1522 das Kloster wieder verlassen.

Nachdem er das Kloster verlassen hatte, fand er zunächst Unterschlupf auf der Ebernburg bei Franz von Sickingen. Dort traf er unter anderem auch auf die Reformatoren Martin Bucer, Johannes Schwebel und Kaspar Hedio. Bereits Ende 1522 reiste er jedoch weiter nach Basel, wo er 1523 auf Betreiben des Rates der Stadt zum Professor ernannt wurde.

Oekolampad wurde 1525 zum Leutpriester der Martinskirche in Basel ernannt und erarbeitete sich in den folgenden Jahren Verdienste sowohl um die Reformation in Basel, als auch im theologischen Disput über die Stadtgrenzen hinaus. 1526 war er Führer der reformatorischen Gesandschaft bei der Badener Disputation und nahm 1528 mit Zwingli an der Berner Disputation teil. Im selben Jahr heiratete er, nachdem die Reformation sich in Basel nahezu durchgesetzt hatte, Wibrandis Rosenblatt. Rosenblatt ehelichte nach dem Tod Oeklampads mit zunächst Wolfgang Capito und nach dessen Tod Martin Bucer zwei weitere wichtige Persöhnlichkeiten der Reformation in der Pfalz. 1529 wurde Oekolampad Antistes der reformierten Kirche in Basel und lehrte weiterhin Theologie an der Universität von Basel. Oekolampad nahm zusammen mit Zwingli am Marburger Religionsgespräch teil.

Neben seiner relativ kurzen Wirkenszeit in der Pfalz, ist er besonders durch seine guten Sprachkenntnisse, seinen dadurch ermöglichten Kenntnissen der spätantiken, theologischen Literatur und seinen unermüdlichen Einsatz für den Katechismus zu einem der führenden Köpfe der Reformation geworden und somit von nicht unerheblicher Bedeutung für die Reformation auf dem Gebiet des heutigen Rheinland-Pfalz.