对于发现公司有虚开增值税发票和外购发票抵税的情况，首先应该及时向市场管理部门报告。报告应包括发现的虚开发票的数量、具体项目内容、发票价值等等。通过以上内容，方便市场管理部门及时发现问题并进行处理。 此外，对于外购发票抵税的情况，对相关人员也应该进行严厉惩戒，并对经常出现这类情况的公司进行严格审查。同时，应加强对财务管理人员的培训，使他们能够正确理解相关法律法规和会计准则，以便提高公司的财务管理水平和风险防范能力。 此外，还可以采取一些预防措施来防止发生企业虚开增值税发票和外购发票抵税等问题，如：建立完善的内部控制制度，加强财务管理，定期对发票进行实地检查，增强财务人员的法律意识和会计知识，强化财务部门的监督检查，建立完善的会计核算系统，以及定期抽查发票。