行政机关在审查、批准当事人要求暂缓履行或者分期履行罚款的处罚决定时，应当严格把握两点：
1．对当事人的申请一定要严格审查。对当事人当前的财产状况及是否有履行能力一定要调查清楚，否则，放纵违法行为将会严重影响行政机关执法的严肃性。这是因为，如果当事人事实上没有什么经济困难，有履行罚款决定的能力，却想利用行政处罚法的这一规定，逃避交纳罚款的义务而提出延期或分期履行罚款的申请，此时如果行政机关不作严格审查就批准其申请的话，就势必会损害了行政处罚决定的严肃性，客观上也放纵了违法行为，使当事人觉得有空子可钻，从而逃避交纳罚款的义务。反之，如果当事人确有经济困难，无力履行罚款决定，向行政机关提出暂缓或分期履行罚款的申请，而行政机关不作仔细调查，就驳回了当事人的申请，这也侵害了当事人的合法权益，使他们觉得行政机关不讲情理，影响行政机关的形象。所以行政机关必须对当事人的申请作出严格审查，在调查研究的基础上作出是否批准申请的决定。
2．暂缓履行或分期履行并不等于不履行。对确有经济困难的当事人，经行政机关批准，可以暂缓或分期履行罚款的义务。一旦当事人有了履行能力，就应当按照行政处罚决定的要求，履行罚款义务。行政机关也应当督促当事人在有了履行能力的情况下，及时履行交纳罚款的义务，否则就会影响行政机关执法的严肃性。行政处罚法没有规定行政机关可以撤销已经作出的罚款决定的行政处罚，这是因为行政处罚具有的确定性，行政处罚依法作出后，非经法律规定的程序不得随意变更与撤销。
