Rēzeknes Zaļā sinagoga radās pilsētas uzplaukuma laikā 19. gadsimta vidū. Caur Rēzekni – tolaik Režicu – tika izbūvēta pirmā dzelzceļa līnija, tāpēc pilsētā strauji pieauga iedzīvotāju skaits. Daudzi no tiem nodarbojās ar tirdzniecību, un galvenie šīs nozares pārstāvji pēc etniskās piederības bija ebreji.
Palielinoties ebreju kopienai, radās nepieciešamība pēc pulcēšanās vietas un sinagogas. 20. gadsimta 30. gados pilsētā bija 12 sinagogas, un Zaļā sinagoga bija viena no tām. Tā ir vissenākā koka ēka Rēzeknē un vienīgā koka sinagoga Baltijas teritorijā, kas gandrīz bez būtiskiem pārveidojumiem saglabājusies līdz mūsdienām.
Sinagogu uzcēla 1845. gadā par vietējo ebreju namsaimnieku saziedotajiem līdzekļiem. Ēka funkcionēja gan kā lūgšanu nams, gan izglītības iestāde jeb mācību māja, gan bibliotēka.
Pilsētas ekonomiskais uzplaukums 20. gs. 2. ceturksnī deva iespēju atjaunot un uzlabot jau laiku nokalpojušo sinagogu, tāpēc 1939. gadā tajā norisinājās vērienīgi pārbūves darbi. Pēdējais kapitālais remonts veikts 20. gadsimta 70. gados. Sinagoga savu darbību pārtrauca 1990. gadā, kad avārijas stāvokļa dēļ tā tika slēgta.
Lai ēku atjaunotu un saglabātu, 2013. gadā tika uzsākts starptautisks ēkas atjaunošanas projekts. Rekonstrukcijas gaitā atklājās, ka sākotnēji ēkas fasāde bijusi dzeltenīgā krāsā ar gaišziliem rustiem, bet 20. gadsimta sākumā tā pārkrāsota zaļos toņos, un tā sinagoga tika pie Zaļās sinagogas nosaukuma.
Kopš 2016. gada dievnams atkal ir pieejams apmeklētājiem.
