Гороховая улица появилась в Санкт-Петербурге в 1720-х годах. По решению Комиссии о Санкт-Петербургском строении между Большой и Вознесенской першпективами проложили ещё одну длинную дорогу. Тогда её стали называть Средней першпективой, а в 1750-х — Адмиралтейской.

В 1756 году на этой улице в своём доме открывает торговую лавку купец Горохов. Человек этот приехал в молодости в Россию из Германии, на службу к Петру I. Его первая фамилия — Гаррах. Однако вскоре его российские коллеги переделали его фамилию на более «русский» манер, в Горох. А когда разбогатевший Гаррах решил открыть свою лавку, он приобрёл официальную фамилию — Горохов. Дело купца стало процветать, улицу часто неофициально стали называть по имени владельца известного тогда торгового заведения. В народе прозвали Адмиралтейскую першпективу Гороховой. С 1799 года стали выходить карты города, где упоминалось оба названия, официальное и неофициальное.

В 1801 году по проекту Д. Кваренги построен дом № 2. В 1828–1829 годах на Гороховой улице жил Н. В Гоголь.
В 1849 году улицу официально назвали Гороховой. С 1914 по 1916 года на Гороховой улице проживает Григорий Распутин.
С 1918 года улицу стали называть Комиссарской. Это название улица приобрела благодаря расположившемуся в доме № 2 Всероссийской чрезвычайной комиссии (ВЧК), которой руководил Ф.Э. Дзержинский. С 1927 года улицу переименовывают в Дзержинскую.
С 1991 года Гороховой улице возвращено историческое название.