千芝堂开设于明代末年，据出版于清乾隆十年（1744年）的老店经营目录记述，当时经营成药十五个门类、六二四种，并有饮片加工、炮制及批发业务。
光绪七年，吴霭亭将千芝堂盘了过来。吴曾供职太医院，所以一部分产品销往御药房，一部分销往市内大小药房，同时还销往华北、东北及京包铁路沿线。吴霭亭请王子丰担任掌柜，王子丰精明能干，买卖做得很有起色。1900年庚子事变时，王子丰低价收购有钱人手里的贵重药材，战乱后物价回稳，千芝堂赚了大钱。后来王子丰与吴霭亭产生矛盾，王子丰出走，筹资在崇文门外开办庆仁堂参茸庄。
千芝堂自王子丰走后，请吴受臣打理，吴受臣也很善于经营，1915年在珠市口南开办了南山堂药铺，后在阜成门大街开办琪卉堂药铺。
千芝堂主要品种有活络丹、舒络丹、三黄宝蜡丸、虎骨酒、虎骨膏等。 特色品种京制法半夏，通过安国药市行销全国。
清末民国以来，千芝堂经营范围除门市外还设有后柜批发和蒙藏药品专柜，并培养蒙藏语人员以便接待顾客。由于千芝堂的中药成本低、价格廉、疗效好，很受患者欢迎。随后吴振声相继开设一些分号，使千芝堂逐步发展成为二十余家的联营店堂。
解放后，由于国家对千芝堂老字号的重视和扶持，使千芝堂药店生意日见红火，特别是保持了饮片为主的经营特色。在计划经济时期，药品和其它商品一样，经常发生短缺某一种成药（或饮片）的情况，而千芝堂以饮片齐全闻名北京城，抓草药到千芝堂已成为北京人的共识。
八十年代千芝堂药店成为市药材公司供应中央首长和使馆外宾特供商品的专供点。经营范围和品种都有所增加，逐步发展成为拥有中成药、中药饮片、来料加工等服务项目的大药店。到1990年，千芝堂经营品种达到两千多种 。
