没进行税务登记的企业，不可以一直不申报税。企业应当依据有关法律法规、政策规定，及时准确地申报缴纳各项税款。根据《中华人民共和国税收基本法》、《中华人民共和国企业所得税法》、《中华人民共和国增值税法》等税收规定，企业应当按照以下原则缴纳税款： 1、税种和应缴税款的计算，应当遵循完整性，不得减税、逃税； 2、企业应当按照有关税收法规的规定，及时、准确、全面地申报缴纳各项税款； 3、企业应当主动准确地核实、申报有关税款，如有未报税或者漏报税种，应当及时补缴； 4、企业应当严格依照有关税收法规的规定，在规定的期限内申报并缴纳税款。 拓展知识：财政部对未申报税收的企业，将建立负面清单的管理和监管措施，对于未即时、错误或者不完整申报税收的企业，将依法进行处罚。