抚养权可以要回来，双方可以通过协议的方式变更抚养权，若有正当理由的，也可以通过诉讼途径要回孩子的抚养权。根据《最高人民关于适用婚姻家庭编的解释（一）》第五十七条规定，父母双方协议变更子女抚养关系的，人民应予支持。第五十六条规定，具有下列情形之一，父母一方要求变更子女抚养关系的，人民应予支持：（一）与子女共同生活的一方因患严重疾病或者因伤残无力继续抚养子女；（二）与子女共同生活的一方不尽抚养义务或有虐待子女行为，或者其与子女共同生活对子女身心健康确有不利影响；（三）已满八周岁的子女，愿随另一方生活，该方又有抚养能力；（四）有其他正当理由需要变更。
【本文关联的相关法律依据】
《最高人民关于适用婚姻家庭编的解释（一）》第五十五条离婚后，父母一方要求变更子女抚养关系的，或者子女要求增加抚养费的，应当另行提起诉讼。
