Der Oberrheingraben ist eines der zentralen Segmente einer Grabenbruchzone, die sich von der Nordsee bis in das westliche Mittelmeer erstreckt (Mittelmeer-Mjösen-Zone). Die früher vertretene These, dass für die Entstehung eine subkrustale Wärmequelle (Plume) verantwortlich sei (Aktives Rifting), ist nach neueren Befunden aus der Geophysik und Geodynamik nicht haltbar. Ursache für die Entstehung der Grabenzone waren vielmehr Zugspannungen in Erdkruste und Erdmantel, die zum sogenannten Passiven Rifting führten, einer Dehnung der Erdkruste, die auch ihre Ausdünnung zur Folge hatte. Deswegen senkte sich die Erdoberfläche in der Grabenzone ab. Dagegen wölbte sich die Kruste-Mantel-Grenze (Moho) unter dem Graben auf.

Im Bereich des Oberrheingrabens wurden zeitgleich die Gebiete westlich und östlich zu den Grabenschultern von Vogesen/Pfälzerwald bzw. Schwarzwald/Odenwald emporgehoben. Ein Teil des entstandenen Reliefs wurde durch Sedimentation, die in den abgesunkenen Graben hinein erfolgte, sowie Erosion der gehobenen Schultern ausgeglichen.

Abriss der oberrheinischen Grabenentwicklung
Die Entstehung des Oberrheingrabens begann vor über 50 Millionen Jahren. Sie verlief im Wesentlichen in drei Phasen:

Phase I nahm ihren Anfang vor über 50 Millionen Jahren mit einer langsamen Aufwölbung der Erdkruste durch einen aufsteigenden Manteldiapir. Vor etwa 50 Millionen Jahren setzte in der überdehnten Scheitelzone ein Absinken einzelner Krustenteile ein.

In Phase II vor 50 bis 20 Millionen Jahren herrschte in Mitteleuropa ein Dehnungsregime. Die Dehnung wurde im Oberrheingrabengebiet an bereits vorhandenen Verwerfungen lokalisiert. Es kam über die gesamte Länge des Grabens zwischen Frankfurt und Basel zu einer Absenkung der Erdoberfläche und Ablagerung von Sedimenten. Die randlichen Gebiete hoben sich zu Grabenschultern heraus.