男方违反离婚协议约定对孩子抚养义务，女方可以起诉变更抚养权。根据民法典的规定，我国对离婚后子女的监护采取单独监护的原则，即子女随父母一方共同生活，另一方虽仍有抚养教育义务，但是不与子女共同生活，仅对子女享有探视权。如何确定监护人，最主要的是应考虑子女最大利益原则。如果未能充分尽到抚养教育的义务，无法在生活上给孩子很好的照顾，也无法培养教育，对孩子健康成长极为不利。女方可以向法院起诉变更抚养权。
《民法典》第一千零八十四条父母与子女间的关系，不因父母离婚而消除。离婚后，子女无论由父或者母直接抚养，仍是父母双方的子女。离婚后，父母对于子女仍有抚养、教育、保护的权利和义务。离婚后，不满两周岁的子女，以由母亲直接抚养为原则。已满两周岁的子女，父母双方对抚养问题协议不成的，由人民法院根据双方的具体情况，按照最有利于未成年子女的原则判决。子女已满八周岁的，应当尊重其真实意愿。
