是的，一般情况下，公司垫付费用，用发票和银行回单作为附件是可以的。发票是用来证明费用被支付，而银行回单是支付交易的凭据，它们都可以被认可为报销费用的有效证据。但在实际操作中，还需要考虑非常多的细节问题，比如费用报销是否需要申请及审批，如果员工自己去取费用时是否需要出示证件，发票金额是否需要审核，以及报销费用的比例是否有限定等等。这些细节的考虑都将影响到企业有效报销费用的程度，也是对企业财务管理的一种考验。此外，还可以通过引入报销系统来实现更加便捷高效的报销流程，从而有效提高企业的报销效率和整体财务管理水平。