这句话是正确的。
法律原文：
《中华人民共和国行政处罚法》第二十三条 行政机关实施行政处罚时，应当责令当事人改正或者限期改正违法行为。
扩展资料：
案例：深圳市5家社会组织被给予警告的行政处罚，并被要求限期整改
2015年6月，深圳市社管局对社会组织开展抽检工作，共抽查10家，发现有5家在内部治理、规章制度、信息公开、财务收支等方面存在不同程度的违法违规问题。5家存在问题的社会组织中，1家被责令限期改正，4家被给予警告的行政处罚，并被要求限期整改。
根据市社管局的通报，目前抽查的10家社会组织中，深圳市房地产经纪行业协会在2015年1月28日年换届选举中，未按照规定选举产生会长、副会长，根据《深圳经济特区行业协会条例》，被责令限期整改。
深圳市影视制作行业协会注册地址与开展活动地址不符，且未提供完整财务资料接受检查；深圳市投资商会的理事罢免未经会员大会通过，财务制度不健全等；深圳市信用协会现场未见相关财务人员，只提供了2013年审计报告，无2014年财务资料；深圳市任达爱心护理院存在规章制度不健全，内部治理不完善，信息公开不充分，财务制度不健全等问题。上述4家社会组织被分别给予警告的行政处罚，并责令其根据市社管局开出的处罚措施进行整改。
参考资料：人民网-深圳市5家社会组织被要求限期整改