沭阳县，由于历史上在商贸流通方面与国家西部数省联系密切，自古便有一部分回民落户定居。但在封建时代，回民不受重视，沭阳并无弘扬伊斯兰教教义和回民族风俗的公共场所。清末民初，沭城一位张姓绅士，感于回民恪守清真教义的德行，主动献出家中部分房屋，并加以修整，成为清真寺，供伊斯兰教徒和回民礼拜、斋戒之用。该寺位于沭阳县城马巷北首（现沭城马巷43号），占地120平方米。古树掩映，地处幽静。坐西面东，院门北向，砖木结构，灰瓦盖顶，明清式建筑。匾额上书"清真寺"三个行书大字，清秀飘逸，观之不俗。三间大殿，四间廊房，整个院落设计古朴典雅，具有东方古老民族庭院式样之美。
首任阿訇马振才，后，其子马文山继任。1950年，泗阳籍回民沙雨亭，从青海伊斯兰学校毕业，来沭主持清真寺，弘扬伊斯兰教义。1952年，沙雨亭调回原籍。1956年以后，该寺曾被机关、居委会借用，后被私人占为住宅。中共十一届三中全会以后，落实党的宗教政策，恢复了清真寺。从1974年以来，县政府多次拨款，修复了寺内的大殿和附设房屋，1999年1月公布为沭阳县文物保护单位。1985年，沭阳县成立了清真寺管理委员会。现在，回民每逢斋戒日或婚丧嫁娶，大都在清真寺举行集会，或做礼拜，宣讲教义，或进行沐浴等民族风俗活动，充分体现少数民族的尊严受到政府和全县人民的尊重。