答案是肯定的。税务局代开的增值税专用发票可以开具，即使开票人使用字母也没有问题。根据《增值税专用发票管理办法》规定，税务局代开的增值税专用发票，在其中不需要填写收款人和复核人，只需填写开票人即可。 另外，在使用税务局代开的增值税专用发票时，购买者也需要确认清楚各项内容，并且妥善保存，以免影响到后期税收减免的福利。同时，对于发票的发票代码和发票号码，除了正确填写外，需要正确登记，以免出现发票无效、发票重复使用等情况。