是的，预缴增值税都是通过公户扣除的，个人或企业发生的税费一般都通过纳税人的公户扣除。查询以前的银行扣缴信息，可以通过税务部门的接口，找到自己的税务登记号码，登录网站，就可以查询到以前的银行扣缴信息。当然也可以通过银行的官网来查询，登录官网，按照系统提示操作，可以查询到以前的银行扣缴信息。此外，如果希望自己记录以前的银行扣缴信息，可以使用记账软件，把自身税收情况记录下来，以便随时查询。拓展知识：从增值税系统改革的角度讲，纳税人在其税务管理过程中，有必要进行信息报送和系统积累，以便于更好地管理税收相关的信息，同时也为增值税改革提供了技术支持。