首先，发票是唯一的税务凭证，因此，4月份发生的错误发票应该及时纠正，除非出现极其特殊的情况，否则4月份已开发票的应该退回去给供货方。先行了解相关情况，确定原发票是否已留档，若有，可以在发票上增加“作废”字样，并说明原因，发票后面留下档案；若无，则可以申请退票，将其作废，并在申请中写明发票原因和原因，供增值税税务机关以及其他相关机构审查。此外，在纠正错误发票的过程中，可以增加内部审核的力度，以减少错误发票的发生。