延迟交货，向客户支付的罚款，是否需要对方开具发票

答：《中华人民共和国增值税暂行条例》（国务院第191次常务会议通过）第六条第一款规定：“销售额为纳税人发生应税销售行为收取的全部价款和价外费用，但是不包括收取的销项税额。” 

《中华人民共和国增值税暂行条例实施细则》（财政部国家税务总局第50号令）第十二条规定：“条例第六条第一款所称价外费用，包括价外向购买方收取的手续费、补贴、基金、集资费、返还利润、奖励费、违约金、滞纳金、延期付款利息、赔偿金、代收款项、代垫款项、包装费、包装物租金、储备费、优质费、运输装卸费以及其他各种性质的价外收费。……” 

销售方价外向购买方收的罚款，属于上述的价外费用范围，属于增值税应税销售行为，可以开具增值税发票，购买方向销售方收取的罚款，则不属于增值税应税销售行为，不需要开具增值税发票。