Аналогичные по символике рельефные композиции расположены и под тремя центральными окнами. Известно, что барельефы были выполнены знаменитым скульптором, академиком А. М. Опекушиным, автором памятника А. С. Пушкину в Москве. Венчает строение карниз с аттиком, где располагается название учреждения. Современники восторженно отзывались о новом творении архитектора, однако позднее, в советское время, некоторые искусствоведы с пафосом уверяли, что фасад строения перенасыщен декором.
Аллегорические фигуры, сулящие богатство и процветание торговли, промышленности и финансов, на главном здании Центробанка РФ
В апреле 1894 года комплекс домов для Московской конторы Госбанка открылся для посетителей, а через месяц состоялось торжественное освящение строения, на котором присутствовали великий князь Сергей Александрович с супругой Елизаветой Фёдоровной. По некоторым данным, именно благодаря этому проекту Быковский получил звание профессора архитектуры. Его творение, построенное и оборудованное по последнему слову техники, стало одним из первых сооружений в Москве, специально приспособленным для ведения крупных денежных операций. Рядом возвели два здания, в которых обустроили квартиры чиновников. На первых ярусах строений размещались комнаты для подчинённых, второй и третий занимали квартиры старших контролёров, экзекутора, кассира и управляющего.
В начале ХХ века в связи с денежной реформой Сергея Витте и увеличением функций Государственного банка Российской империи здание Московской конторы расширили со стороны двора. По проекту архитектора И. А. Иванова-Шица были пристроены два симметричных корпуса, где разместились операционные залы. В 1927–1929 годах на месте старых флигелей в по проекту архитектора И. В. Жолтовского были выстроены два корпуса, фасады которых содержат детали декора в духе итальянского Ренессанса.
Примечательно то, что с момента постройки и до настоящего времени в здании всегда располагался банк. После Октябрьской революции комплекс на Неглинной улице был передан в ведомство Народного банка. В 1922 году на его основе создали Государственный банк СССР, ныне здесь — Центробанк России и музей, посвященный истории банка. Интереснейшая экспозиция рассказывает об истории национальной валюты, среди экспонатов представлены: старинные кассовые аппараты, печатные станки, самая тяжёлая отчеканенная в России монета номиналом в 50 тысяч рублей, золотые и платиновые слитки, коллекция ценных бумаг, а также поддельные ассигнации 1812 года. И, как и прежде, на посетителей банка и спешащих мимо прохожих смотрит лукавый Гермес.