Senatnē Balvi ietilpa Atzeles valstī. Vēstures avotos pirmoreiz minēti jau pēc latgaļu pakļaušanas, 1224. gadā. 1783. gadā Balvus piemin kā sādžu. 1865.gadā Balviem piešķirtas ciema tiesības un atļauts rīkot 4 gadatirgus. 20. gadsimta sākumā Balvi jau bija izauguši par pagasta centru. 1926. gadā ieguva miesta, bet 1928. gada 11. februārī - pilsētas tiesības, tādējādi Balvi kļuva par pirmo pilsētu Jaunlatgales apriņķī. 1938. gada 12. oktobrī tika apstiprināts Balvu pilsētas ģerbonis.