Prva srpska čitaonica u Rumi počela je sa radom 1861. godine. Rušena i obnavljana svoj kontinuirani rad započela tek posle Drugog svetskog rata. U posleratnom periodu radila je kao samostalna Ustanova da bi jedno vreme postala sastavni deo Kulturnog centra, a 1991. godine Skupština opštine Ruma ponovo je osniva kao samostalnu Ustanovu.
Gradska biblioteka raspolaže knjižnim fondom od 55.010 knjiga a svoju delatnost obavlja preko Odeljenja za odrasle, Zavičajnog odeljenja, Odeljenja sa stručnom i priručnom literaturom i Dečijeg odeljenja. Nema razvijenu mrežu ogranaka. Od priznanja za rad navodimo: 1954. god. – Nagrada saveta za prosvetu u kulturu NR Srbije, 1986.god. – Povelja Kulturno–prosvetne zajednice Srbije i 1988. god. – nagrada “Dositej Obradović” podružnice bibliotekara Srema. U svom programu ima kulturno–obrazovnu delatnost, izdavačku delatnoat, prikupljanje obrada, čuvanje i korišćenje knjiga, časopisa i novina.