La storia della galleria risale al 1872, anno in cui fu proposto l'ampliamento dell'antistante Piazza Colonna per adeguarla alle mutate esigenze della zona, dopo l'insediamento della Camera dei Deputati nel vicino Palazzo di Montecitorio. Al suo posto sorgeva all'epoca il seicentesco Palazzo Spada al Corso, edificato sul finire del Cinquecento. Alla fine dell'Ottocento il Comune di Roma espropriò l'edificio e qualche anno dopo lo demolì.

La costruzione dell'attuale edificio, iniziata nel 1914 e inaugurata nel 1922 su progetto dell'architetto Dario Carbone, è caratterizzata dal suo inconfondibile stile liberty. Sul soffitto sono sopravvissuti ai restauri che si sono succeduti i pannelli di vetro con le vetrate istoriate originali.

Destinata ad attività commerciali e uffici, era nota inizialmente come Galleria Colonna, cambiando poi nome nel 2009 in omaggio al grande attore italiano Alberto Sordi. L'iconica galleria, sin dalla sua costruzione, è sempre stata uno dei luoghi di ritrovo più eleganti della città.