不退税可以吗

可以。

根据税务规定:出口企业应按照《国家税务总局关于印发〈出口货物退(免)税管理办法(试行)〉的通知》(国税发〔2005〕51号)的有关规定办理出口退(免)税认定手续。出口企业在办理认定手续前已出口的货物，凡在出口退税申报期期限内申报退税的，可按规定批准退税;凡超过出口退税申报期限的，税务机关须视同内销予以征税。