湟源县清真寺修建于清朝乾隆至嘉庆年间(1788—1797年),在城内东北隅建清真寺,占地两亩左右,建有礼拜堂五间,水房一处,平房三间,同治三年间被焚毁。民国初年,湟源回民慢慢增多,又筹资在县城东关北庄(现回民小学地址)兴建清真寺。民国十八年(1929年)再遭拆毁。民国二十二年(1933年)以马麒、马辅臣等赞助,于城东万安街路南购地三亩三分,重新建寺,修建大礼拜堂一座,南北厢房、水房、伙房、石砌台阶,并建唤醒楼一座,寺门三间,一色青砖,墙根虎皮花纹,四周围墙,气势雄伟,木雕砖刻,庄严肃穆。
1958年宗教改革后,清真寺被关闭,阿訇、满拉及勤杂人员被遣散,寺院被社队集体占用。1983年由湟源县人民政府批准重新开放,教众恢复了正常的宗教活动。