现中山路与元纬路交叉口至金纬路与狮子林大街交叉口之间，以前有一条路，叫小关大街。“小关”的“关”，天津人习称带儿话韵，不同于西关街、北大关的称呼法。当初这条街西北起自金钟路，经锦衣卫桥大街，南至狮子林大街，路呈弓形，全长880米。
小关大街的历史至少也有700多年了。街名源于盐硝税关而得名。元朝初年，这里地处北运河与金钟河之间，三面环水，水运十分发达。元世祖在金钟河今贾家大桥附近（小关大街与中山路相交处）设关，征收盐硝税，此处称“硝关”，“硝”与“小”同音，讹读“小关”。明朝初年，天津建城，在城北门外的南运河岸设置“北大关”税衙和“钞关”。这儿也设了一个“钞关”，两关相比，西北处为“大关”，故此地称“小关”，又称“硝关”。尔后“小关”则逐渐演变成为这一带的地名。
“小关”得名很早，但起初尚未形成村落。“小关”附近出现最早的村落是锦衣卫桥村和周乔庄。锦衣卫桥村以桥得名，桥名起于官衙名。周乔庄的出现稍晚于锦衣卫桥。相传锦衣卫中的两个姓周和姓乔的都尉告老后，就在附近居住下来，后来建立村庄，即以周、乔两姓为村名，叫周乔庄。
从现有文献、碑记上看，小关村落的形成当在明中期以后。1982年6月9日有人在小关街上的小关第一小学的石台阶上发现了许多刻字，经考证，这是小关地方于明万历四十三年（1615年）创建关帝庙时的勒石刻碑，小关一小就是关帝庙旧址。据传小关大街的三元庵、玉皇庙也是明万历年间建起来的，后来庙已不存，但一直当作胡同的名称。
入清以后，当局沿袭明制，继续在这儿设置税卡，征收往来运盐船的盐税，“小关”一带人口逐渐增多。《续天津县志》在记述“城东北之小关口”时称：“其小关口当北河之冲，北场坨盐尽堆于此，倘有冲决，商本尽倾。”可见“小关”地理位置的重要和历史的久远。
几经沧桑，至清末民初，“小关”一带已是住户丛集，村落连成一片，逐步形成了里巷交错、街道纵横的居民区。自贾家大桥至土地庙（元通观胡同）形成一条街道（小关大街西段），除建有三元庵、玉皇庙、元通观、土地庙等庙宇外，街道两旁店铺林立，有榨油坊、药铺、米面庄、酱园、理发店等，大街西口还有金钟戏园。民国初年，据官府统计，当地有居民361户，已经形成一条颇具规模的街道。当年街口立有“小关公村”牌坊，整个小关大街，过去没有统称，仅是按段称呼：小关街、土地庙、吹风口、韦驮庙、关帝庙，1952年接顺统称小关街。1958年改称小关大街。
当年的“小关”关卡设在何处？父老们回忆，就在贾家大桥桥口那个地方。贾家大桥是金钟河上的一座老桥，该桥于1953年填河筑路时被拆除，其址就在早先河北区文化馆礼堂。今日的金钟路当年为金钟河，系北运河的支流。作为水陆要冲，又处于小关大街之头，这里在半个世纪前显得尤其热闹。据老人们讲：“那时桥口很繁华，坐西是山泉涌豆腐房，还烤芝麻烧饼，炸果篦、油条（长劈）、套环等，现炸现卖，吃着方便，还制售豆腐，豆浆。这里的豆浆，汁浓味醇，豆腐鲜嫩可口，顾客来吃早点，一碗豆浆端上来放一会，便浮起豆腐皮，用筷子挑起，就着香油炸的果子，吃着新烙出的烧饼，那白里透黄的豆浆，喝起来真是又香又甜又糊嘴。豆浆房对过是干货铺，这家卖的干货十分齐全；从花生、果仁、黑白瓜子、葵花籽到榛子、核桃、乌枣、柿饼、杏干、桃干以及脆枣等一应俱全。货既全，价又廉，生意作得很红火。干货铺前有炒锅，刚炒熟的花生米，个个带着小红皮，“买到手里您品尝，准保个个脆又香。”如今在这里已看不到往日的喧闹。
