《国家税务总局关于认真做好增值税专用发票发售、填开管理等有关问题的通知》（国税函〔2003〕785号）第四条规定，在未收回专用发票抵扣联及发票联，或虽已收回专用发票抵扣联及发票联但购货方已将专用发票抵扣联报送税务机关认证的情况下，销货方一律不得作废已开具的专用发票。《国家税务总局关于修订〈增值税专用发票使用规定〉的通知》（国税发〔2006〕156号）第二十五条规定，用于抵扣增值税进项税额的专用发票应经税务机关认证相符（国家税务总局另有规定的除外）。认证相符的专用发票应作为购买方的记账凭证，不得退还销售方。《国家税务总局关于红字增值税发票开具有关问题的公告》（国家税务总局公告2016年第47号）第一条规定，增值税一般纳税人开具增值税专用发票（以下简称“专用发票”）后，发生销货退回、开票有误、应税服务中止等情形但不符合发票作废条件，或者因销货部分退回及发生销售折让，需要开具红字专用发票的，按以下方法处理：（一）购买方取得专用发票已用于申报抵扣的，购买方可在增值税发票管理新系统（以下简称“新系统”）中填开并上传《开具红字增值税专用发票信息表》（以下简称《信息表》，详见附件），在填开《信息表》时不填写相对应的蓝字专用发票信息，应暂依《信息表》所列增值税税额从当期进项税额中转出，待取得销售方开具的红字专用发票后，与《信息表》一并作为记账凭证。购买方取得增值税专用发票未用于申报抵扣、但发票联或抵扣联无法退回的，购买方填开《信息表》时应填写相对应的蓝字增值税专用发票信息。根据上述规定，销货方在未取得购货方专用发票的发票联和抵扣联，是不得擅自将已开具的专用发票作废的，否则会出现稽核比对不符。对于购货方已认证相符的增值税专用发票是不得退还给开票方的。贵公司应在系统中申请开具红字专用发票，然后根据开票方开来的红字发票后作进项税额转出，再由开票方重新开具蓝字发票给贵公司。