Bereits im 13. Jahrhunderts wurden jüdische Familien in der Stadt ansässig.

Das mittelalterliche Wohngebiet konzentrierte sich auf die "Judengasse" (im 19. Jahrhundert in "Dreikönigstraße" umbenannt), an deren Ende das "Judentor" stand. Eine Hinweistafel am Ende der Dreikönigstrasse hält die Erinnerung an das im 18. Jahrhundert abgebrochene Judentor bis zur Gegenwart wach. 

Beim Pogrom während der Pestzeit 1349 wurde die Gemeinde vernichtet. Das Eigentum der Erschlagenen wurde konfisziert.

Doch unmittelbar danach 1350 nahm der regierende Pfalzgraf Ruprecht I. verfolgte Juden aus rheinischen Städten in Heidelberg auf, vermutlich um seine finanzielle Lage durch Schutzgeldzahlungen zu verbessern. Zahlreiche Juden verfügten über Hausbesitz und hatten von Ruprecht I. weitere Rechte verbrieft bekommen.

Infolgedessen entstand die Synagoge der mittelalterlichen Gemeinde in der Dreikönigstraße 25/Ecke Untere Straße (an der Stelle des heutigen Gebäudes Untere Straße 24). Sie hatte in ihrem Inneren eine Ausdehnung von 8,4 mal 14 m und war vermutlich als Saalbau konzipiert. Zu ihr gehörten ein ummauerter Vorhof, ein Garten sowie ein weiteres Gebäude.

Diese zweite mittelalterliche Gemeinde bestand bis zur Vertreibung aller Juden aus der Kurpfalz 1390. Alle Liegenschaften der Heidelberger Judengemeinde gingen ins Eigentum der Universität über.

Kurz nach der Vertreibung der Juden (im September/Oktober 1390) unter Ruprecht II. wurde die Synagoge in einem feierlichen Gottesdienst am 2. Weihnachtstag (26. Dezember 1390) vom Wormser Bischof zu einer Kirche zur Ehre Gottes, Maria und des Heiligen Stephanus geweiht. Sie war lange Zeit die Universitätskapelle und das Auditorium der Theologischen und Juristischen Fakultät, später auch der Medizinischen Fakultät. 1689 ist die Kapelle bei der Zerstörung Heidelbergs im Pfälzischen Krieg niedergebrannt. 
 
In den folgenden Jahrhunderten lebten nur sehr wenige jüdische Familien in Heidelberg. Stadtrat und Zünfte der Stadt sorgten immer wieder dafür, dass der regierende Kurfürst die Zahl „seiner“ Juden in Heidelberg begrenzte, um die jüdische Konkurrenz nicht größer werden zu lassen. Diesem Zwecke diente auch eine äußerst hohe kommunale Besteuerung der hier zeitweilig ansässigen Juden.       

Erst nach 1648 konnte sich einige Familien wieder in Heidelberg niederlassen. 
   
Anfang des 18. Jahrhunderts waren es elf Familien, deren Zahl im Laufe der folgenden Jahrzehnte auf 18 bis 20 Familien zunahm.

1701 wurde erneut ein jüdischer Friedhof in der Stadt eröffnet (es gab zwei Vorgängerfriedhöfe) in der Klingenteichstraße oberhalb des Klingentores. Er diente nicht nur Juden aus Heidelberg, sondern auch solchen aus dem Umland als Begräbnisstätte. 

Dieser alte Friedhof wurde 1876 geschlossen und ist daher auch nicht frei zugänglich. Es sind 180 Grabsteine vorhanden, der älteste aus dem Jahre 1784. Das schmiedeeiserne Eingangstor ist mit zwei runden Scheiben verziert, auf denen eine Taube mit einem Palmzweig im Schnabel als Zeichen des Lebens sowie ein Arm mit einer Sichel als Symbol für den Tod zu sehen sind.

Die hier Beigesetzten genießen nach ihrem Glauben Ruherecht bis zur Auferstehung. Deshalb dürfen die Gräber auch nicht verletzt werden.

1724 wurde in Heidelberg der erste jüdische Student immatrikuliert: Seligmann Elkan Heymann Bacharach aus Mannheim.

1728 promovierte erstmals ein jüdischer Student an der Universität. 

Bei den sogenannten "Hepp-Hepp"-Unruhen 1819 kam es zu schlimmen Pogromen gegen die jüdischen Familien. Mit Äxten und Brecheisen wurden die jüdischen Häuser und Läden demoliert und geplündert. Weder die Polizei noch die Bürgergarde griffen ein. Erst bewaffnete Studenten der Universität kamen den überfallenen Juden zu Hilfe. 

Im ausgehenden 18.Jahrhundert kam es zu vermehrtem Zuzug jüdischer Familien - wohl nie mehr als 20, die sich nur durch regelmäßige Schutzgeldzahlungen ein Wohnrecht in der Stadt sichern konnten.

Der neue Jüdische Friedhof wurde 1876 eröffnet und befindet sich innerhalb des Geländes des Bergfriedhofs. Er ist aber ein eigenständiger Friedhof und befindet sich im Eigentum der Jüdischen Kultusgemeinde und steht auch heute noch für Bestattungen zur Verfügung. Im Jahr 1904 erfolgte eine Erweiterung des Friedhofs in die höheren Hanglagen. 1907 schließlich wurde die Leichenhalle errichtet.

Die Errichtung einer Synagoge war der neu entstandenen Gemeinde vorerst allerdings nicht erlaubt worden; so fanden Gottesdienste in Privathäusern statt. 

12. April 1878:  Einweihung der damals neuen Synagoge in der Großen Mantelgasse auf dem heutigen Synagogenplatz. Gleich neben der Synagoge befand sich das Gemeindehaus.

Seit Ende des 19.Jahrhunderts zog der liberale Geist der Universität Heidelberg prominente jüdische Professoren und zahlreiche Studenten an, die die Universität aufblühen ließen.

In der Pogromnacht im November 1938 wurde die Synagoge von SA-Leuten in Brand gesetzt. Die Synagoge wurde völlig zerstört. Die aus der Synagoge entwendeten Torarollen und die rituellen Gegenstände wurden auf das Polizeirevier gebracht. Nationalsozialistisch gesinnte Heidelberger Bürger und vor allem Studenten verbrannten diese etwa eine Woche nach der Zerstörung der Synagoge auf dem Universitätsplatz.

Nach dem Ersten Weltkrieg hatte sich durch den Zuzug zahlreicher Juden aus Osteuropa auch eine orthodoxe Gemeinde („Verein gesetzestreuer Juden in Heidelberg“) gebildet; die offizielle Konstituierung erfolgte 1921. Sie besaß seit 1932 einen Betsaal in einem Hinterhaus in der Plöck. Dieser mit Hilfe von Spenden eingerichtete Synagogenraum bot ca. 50 Männern und 30 Frauen Platz; im Gebäude befand sich ein rituelles Bad.

Auch die orthodoxe Synagoge wurde am 10. November 1938 verwüstet, wurde jedoch wieder aufgebaut. Im Februar 1939 wurde die Synagoge auf Kosten der jüdischen Gemeinde abgebrochen.

1925 wurde die höchste Zahl jüdischer Einwohner erreicht: 1.412 Personen.

Im wirtschaftlichen wie auch im universitären Leben der Stadt spielte die jüdische Minderheit zu Beginn des 20. Jahrhunderts eine bedeutende Rolle.

Um1933 waren jüdische Gewerbetreibende noch in allen Zweigen der Wirtschaft tätig. Größere Betriebe waren die Badischen Möbelwerke, zahlreiche Großhandlungen und mehrere Zigarrenfabriken, davon eine mit etwa 230 Mitarbeitern.

1933 zählte die jüdische Bevölkerung Heidelbergs etwa 1.100 Personen. Einen organisierten Antisemitismus gab es in Heidelberg vor 1933 offenbar nicht; denn konkrete judenfeindliche Aktionen sind vor der NS-Machtübernahme nicht bekannt geworden; dabei hatte sich Heidelberg 1930 zu einer Hochburg der NSDAP entwickelt. Am Vorabend des 1. April 1933 zogen NS-Angehörige mit Transparenten durch Heidelberg und riefen die Bürger zum Boykott jüdischer Geschäfte auf.

Auf Druck der Heidelberger NSDAP vergab die Stadt keine öffentlichen Aufträge mehr; Beamte, Angestellte und Arbeiter wurden angewiesen, jüdische Geschäfte zu meiden. Der Druck auf die jüdischen Unternehmen wurde durch eine Kampagne des Lokalblattes „Volksgemeinschaft” noch verstärkt. Auf Grund des wirtschaftlichen Drucks gingen zwei Drittel der jüdischen Geschäfte Heidelbergs in Konkurs, die restlichen wurden von ihren Besitzern weit unter Wert verkauft.

Bis Ende 1938 war auch die "Arisierung" der jüdischen Geschäfte/Unternehmen in Heidelberg weitestgehend abgeschlossen; von den im Jahre 1933 bestehenden ca. 100 Unternehmen existierten zu diesem Zeitpunkt nur noch zwei Kleinbetriebe.

Die Universität Heidelberg enthob 1933 allein 55 Professoren und Dozenten aus „rassischen“ Gründen ihrer Ämter, unter ihnen die Juristen Ernst Levy und Walter Jellinek, der Romanist Helmut Hatzfeld, der Dermatologie Siegfried Bettmann und der Physiologe und Nobelpreisträger Otto Meyerhof.

Am 17. Mai 1933 beteiligte sich auch die Studentenschaft der Heidelberger Universität an der Bücherverbrennung durch die Nazis. 2013 wurde eine Gedenkplatte auf dem Universitätsplatz eingeweiht.

bis 1939 verließen mehr als 800 Heidelberger Juden ihre Heimatstadt. Ab 1939 wurden die Juden Heidelbergs immer mehr gegenüber der „arischen“ Bevölkerung abgeschottet; die in Heidelberg verbliebenen meist älteren Juden wurden gezwungen, in sogenannte „Judenhäuser“ umzuziehen.

Am 22. Oktober1940 wurden auch die Juden Heidelbergs im Rahmen der sogenannten „Bürckel-Aktion“ in das Lager Gurs deportiert. Von den etwa 300 aus Heidelberg deportierten Juden verstarben mehr als 80 Menschen in Gurs und anderen südfranzösischen Internierungslagern; etwa 100 Personen wurden von Gurs aus zwischen 1942 und 1944 in die Vernichtungslager Osteuropas verfrachtet, wo die allermeisten ebenfalls den Tod fanden; nur 70 Personen überlebten Gurs und andere Lager (durch Emigration). Nach der Deportation lebten in der Stadt und im Kreis Heidelberg nur noch knapp 100 Juden; meist waren es solche, die „in Mischehe“ verheiratet waren. Noch im Februar 1945 wurden einige von ihnen nach Theresienstadt deportiert.

Ein Gedenkstein erinnert an die Opfer der Deportation nach Gurs.

Nur 15 der Deportierten kehrten nach Kriegsende nach Heidelberg zurück.

Unmittelbar nach Kriegsende konnte sich in Heidelberg wieder eine kleine israelitische Gemeinde gründen. Sie hatte Betshäuser an wechselnden Orten in der Stadt.

1978 wurde der zunächst als Parkplatz genutzte Synagogenplatz zu einem Park umgestaltet; eine weitere völlige Neugestaltung wurde 2001 vorgenommen. Seitdem sind der Grundriss und verschiedene Details der früheren Synagoge in der Pflasterung hervorgehoben. Auch ein Gedenkstein ist im Bereich des früheren Toraschreines aufgestellt worden. An der Nordwand des Hauses Große Mantelgasse 3 (ehemaliges Rabbinerhaus) wurden 2004 Tafeln mit den Namen der 292 im Jahr 1940 aus Heidelberg nach Gurs deportierten Personen angebracht.