1983年5月16日至6月14日，张序三率X950和Y832组成的远航航海实习编队，从湛江港起程，途经西沙群岛、纳吐纳群岛、南沙群岛最南端曾母暗沙、菲律宾西海岸，出巴林塘海峡到西太平洋，历时30昼夜，航程6721海里，完成人民海军首航南沙群岛及西太平洋任务。

1983年8月，张序三任海军学院院长。经海军首长同意，他着力抓了教学改革。制定了总体设想、新的教育计划、教学大纲，包括教材编写、教师队伍建设、图书馆、电化教学、作战模拟训练、导演室、专修室建设、教学法等规划，经汇报取得海军首长同意。经过实践的检验证明，这个改革是成功的，全面地提高了海军学院的教学质量。张序三提出的建立“海军指挥军官三级四层次培训体系”也被海军采用。

1985年7月，张序三被任命为海军副司令员。在职期间，他对海军的战略、战役战术研究，作战训练、装备建设，舰艇战斗编组、兵力机动使用，以及部队训练、装备同步建设等都做出了努力。特别是经过了三年多的努力，他主持完成了《海军战斗条令》、《海军舰艇条令》、《海军司令部工作条例》的修改；新编了《海军航空兵战斗条令》、《鱼雷核潜艇战斗条令》等，使海军法规初步配套。

1987年10月，张序三兼任海军参谋长。他针对海军各级司令部建设中的问题，采取措施，提高司令部的创新思维、指挥控制、存储记忆等三种能力，保证了首长对司令部的使用。为了解决辽东湾石油勘探开发与海军导弹武器试验的矛盾，张序三邀请相关部门和领导机关，与其研究“共存”的办法。经海军首长批准，他亲任组长，研制出精度较高的武器装备试验设备，解决了“共存”的矛盾。

1988年3月14日，在南沙赤瓜礁保卫战中，他亲自组织指挥了反击越南海军的战斗。张序三一直坚守在作战指挥室，协助海军司令实施指挥，取得了击沉越舰船一艘、重伤两艘的胜利，受到中央军委的通报嘉奖。
在此期间，张序三协助海军首长领导编簒《中国军事百科全书》的海军部分和《海军百科全书》，主编了《海军大辞典》。在领导海军装备建设中，张序三创造性地把海军五支科研力量扭成一股劲，使其合力作用大；科学地组织海军装备订货招标方法；并于每年多次商请国防科工委、总参谋部、中国船舶工业总公司的领导深入到最需要解决问题的单位，现场办公协商解决问题，推动了工作的开展。

1992年10月，张序三被任命为军事科学院政治委员。在任期间，他着重抓了军事科学院的政治建设、科研重点的调整和营造良好的科研环境，为军事科学院的全面建设和军事科研的发展做出卓越的贡献。

1993年10月，张序三被免去军事科学院政治委员职务后，主要从事全国人大工作，取得了很好的成绩。

2003年7月，张序三奉命离职休养，同时被中央军委授予独立功勋荣誉章。

1988年，张序三被授予海军中将军衔，曾荣获解放奖章。他曾出席中国共产党第14次全国代表大会；是第七、第八、第九届全国人民代表大会代表，八届全国人大常委会委员，第八届、第九届全国人大教科文卫委员会委员。