可以只以银行付款回单作为原始凭证记账，但是还需要去税务局取完税凭证，完税凭证是去柜台领取的，不可以自助机领取，因为自助机一般只提供电子完税凭证，只有通过普通方式完成缴税后，才能领取完税凭证，完税凭证是一种证明纳税任务已完成的资料，具有重要的财务文件价值。 拓展知识：增值税缴税，在纳税者得到开票后，还需要按照《增值税普通发票税控系统使用说明》的要求，将发票和销售额等财务资料随同在线完税申报表上缴税，只有完成税收缴纳程序，才能拿到相应的完税凭证，其历史记录保存凭证，作为增值税纳税证明，这是依据国家税收法律的要求。