W 1917 roku konińscy Żydzi założyli komitet założycielski koedukacyjnego Gimnazjum Żydowskiego. Początkowo mieściło się ono w parterowym budynku przy ul. Wodnej i była to jedynie szkoła niższa obejmująca pięć klas. Rada Miejska sprzedała Komitetowi sąsiednią działkę za symboliczne 10 zł. Rozpoczęto budowę i wkrótce ukończony, trzypiętrowy gmach , zaprojektowany według klasycznego wzoru , należał do najbardziej imponujących gmachów w Koninie.

Gimnazjum Żydowskie działało do 1939 roku. Po wojnie mieściła się tu Szkoła Podstawowa nr 2, a po jej likwidacji Centrum Kształcenia Ustawicznego.