La Galleria venne istituita nel 1936 nelle sale di Palazzo d'Accursio abitate fino al 1859 dal legato pontificio. Incaricato dell'allestimento fu Guido Zucchini, ingegnere e storico dell'arte che un anno prima aveva organizzato in quegli spazi la mostra dedicata al Settecento Bolognese, un'importante iniziativa destinata anche a promuovere l'uso museografico dell'appartamento del Legato.
Il gusto per la ricostruzione d'ambiente prevale, infatti, nell'ordinamento espositivo, dove hanno trovato sistemazione opere pervenute al Comune in età postunitaria (eredità Palagi, 1860; Baruzzi, 1878) e nei primi decenni nel Novecento (lasciti Palagi, Pizzardi, Rusconi), oltre agli arredi settecenteschi già conservati in palazzo d'Accursio. A questo nucleo appartiene il gruppo di diciotto dipinti di Donato Creti donati al Senato nel 1744, accorpati nella galleria vidoniana affrescata da Mengazzino e Caccioli nel 1665.
Sono oltre duecento le opere esposte nelle venti sale delle Collezioni Comunali, dove, oltre a dipinti di ambito Nazionale -di Signorelli, Tintoretto, Nuvolone, Artemisia Gentileschi, Pietro Longhi- la produzione figurativa emiliana prevale con Vitale da Bologna, Lippo di Dalmasio, Jacopo di Paolo, Francesco Francia, Ludovico Carracci, Cittadini, Guido Cagnacci Giuseppe Maria Crespi, Ubaldo e Gaetano Gandolfi.
Alle arti decorative tra Cinque e Settecento sono dedicate le sale Rusconi, che si concludono con la celebre stanza a paese di Valliani e Martinelli (inizi sec. XIX); una sala documenta Palagi artista e collezionista. La sezione dell'Ottocento espone opere di Hayez, Fantuzzi, Serra, Mancini, Faccioli. Di scena, nella terza sala, la cultura di Alfonso Rubbiani, rappresentata da progetti di restauro e ricami Aemilia Ars.