是的，小规模纳税人在开具给非小规模纳税人的发票时需要开具增值税普通发票，并按规定缴纳增值税。根据《中华人民共和国增值税暂行条例》的规定，小规模纳税人的增值税普通发票的税率为3%。因此，小规模纳税人开具给非小规模纳税人的增值税普通发票时，需要按照3%的税率缴纳增值税。同时，小规模纳税人还应根据《中华人民共和国发票管理办法》及相关税务部门的有关规定，如实填报发票内容、办理发票领用登记等。