Schon in der Regierungszeit des Pfalzgrafen Ludwig II. (1253 - 1294) lebten jüdische Einwohner in der Umgebung von Heidelberg. Spätestens ab 1300 waren Juden in der Stadt Heidelberg selbst ansässig. Beim Verkauf des Dorfes Sandhofen an das Kloster Schönau 1300 wird "Anselm, unser Jude zu Heidelberg" als Zeuge erwähnt. Die Juden in Heidelberg standen als "pfalzgräfliche Juden" unter dem besonderen Schutz des Pfalzgrafen und waren nicht dem Heidelberger Stadtrat unterstellt. In der Regierungszeit des Pfalzgrafen Ruprecht I. entwickelte sich durch dessen liberale Politik eine "ansehnliche jüdische Gemeinde mit Synagoge und Friedhof am Fuße des Gaisbergs" (Chasia Turtel, Geschichte der jüdischen Gemeinde in Heidelberg, S. 1)
Die Judengasse wird 1390 erstmals erwähnt, bestand aber wohl schon vor 1348. Am Ende der Judengasse, zur Stadtmauer am Neckar hin, lag das Judentor, - an der Kreuzung mit der Unteren Straße stand die Synagoge. Die Existenz einer Judengasse lässt jedoch nicht darauf schließen, dass die Juden im mittelalterlichen Heidelberg in einem Ghetto lebten. Vielmehr konnten sie sich, zum Ärger der Heidelberger Stadtbürger, in der ganzen Stadt, sogar in der Hauptstraße, frei niederlassen.