可以。如果公安机关给予行为人行政处罚后，又发现其行为涉嫌刑事犯罪，可以追究刑事责任，但原羁押一日折抵刑期一日。违法行为性质严重已构成犯罪的,依法追究其刑事责任的同时,依法应予行政处罚的当然适用。行政违法行为涉嫌构成犯罪的，公安机关应将其转为刑事案件办理或者移送有权处理的主管机关、部门办理，无需撤销行政案件。
《中华人民共和国行政处罚法》第二十九条 违法行为在二年内未被发现的，不再给予行政处罚。法律另有规定的除外。
前款规定的期限，从违法行为发生之日起计算;违法行为有连续或者继续状态的，从行为终了之日起计算。
