之后，清兵破钱塘，张煌言随鲁王逃至浙闽沿海，入据舟山。
隆武元年，公元1646年五月，清征南大将军贝勒博洛乘虚突破钱塘江，绍兴、杭州、义乌、金华等城相继失守，宗室乐安郡王、楚亲王、晋平郡王在金华殉国。
鲁王则在石浦守将张名振护卫下自台州出海到达舟山，张煌言随即赶回鄞县故里，与老父、继母、妻儿子女诀别，然后，追随鲁王一行至舟山。
哪里知道，舟山的总兵、隆武帝所封肃虏侯黄斌卿，拒绝接纳鲁王！
鲁王无奈，只得逃往福建长垣。
不久，鲁王去厦门，张名振留舟山待机。
张煌言与张名振待局势稍定后，重返浙东与舟山地区，组织招募义军。
张煌言被鲁王加授右佥都御史之官职。
永历元年，公元1647年，清苏松提督吴胜兆欲在苏州反正，起事前联络定西侯张名振支持。
张煌言劝张名振援吴胜兆，张名振遂命张煌言为监军，徐孚远副之，在四月初六自岑江出发。