宋端宗崩逝时，行朝人心离散，大有一哄而散的意思。据《宋史·陆秀夫传》，这时，又是陆秀夫站了出来，对众臣慷慨陈词：
度宗皇帝一子尚在，将焉置之？古人有以一旅一成中兴者，今百官有司皆具，士卒数万，天若未欲绝宋，此岂不可为国邪？
陆秀夫以其忠直与坚韧，在流亡朝廷中的感召力已无出其右。四月十七日，众大臣在硇洲岛奉八岁的卫王赵昺为帝，史称帝昺，于当年改元“祥兴”，因陈宜中远走，陆秀夫被拜为左丞相。
陆秀夫拜相后，“外筹军旅，内调工役，凡有所述作，又尽出其手”，颠沛流离中，还每日手书《大学章句》以劝讲幼帝。
张世杰欲以一场大捷为祥兴朝启幕。祥兴元年（元至元十五年，1278年）五月，张世杰遣将张应科进攻雷州，可能想借此控扼琼州海峡，为西去占城打开通路。惜乎四战四败，连张应科都兵败而死。
无限河山泪，谁言天地宽。张世杰英雄失路，于六月初将行朝徙居崖山岛（今广东江门新会区崖门镇，现已与陆地相连）。崖山岛所在水域为珠江出海口之一，岛上有两山，东为崖山，西为汤瓶山，两山之脉向南延伸入海，如门束住水口，门阔仅里许，故又名崖门，有两山夹一海之地利。张世杰“以为天险，可扼以自固”。
宋军虽占有地利，但隐忧已然埋下。宋水军尚有数万，但包括家眷在内的行朝总人数据估计达到二十万人，这么多人困于崖山一隅之地，食物、饮水等后勤供给都是棘手的问题，一着不慎，就是全员断粮断水。
张世杰深感退无可退，担心再东躲西藏会导致士气离散，不战自溃，于是意欲在崖山与元军一决生死。据《宋史·张世杰传》，有人向张世杰建言抢夺海口：“北兵以舟师塞海口，则我不能进退，盍先据海口。幸而胜，国之福也；不胜，犹可西走。”张世杰回了一句狠话：“频年航海，何时已乎？今须与决胜负。”
言罢，张世杰命令士卒焚去岸上舍屋，舍陆就舟：将一千余条大船泊于海中，沉碇于海，船头朝内，船尾朝外，用大索联结起来，筑成水寨，“四周起楼棚如城堞”，远望如坚壁，将帝昺等人居于最当中的巨舰上，重重保护。
就在三年前，张世杰在焦山水战时也摆出了相似的“铁索阵”，为元军火攻所破。知兵的张世杰为何没吸取战败教训，可能与三年前的原因类似：宋军士气低迷，每逢大战都易发生溃逃，张世杰想用“铁索阵”以示背海一战，有死无逃。
更何况，张世杰自认采纳了焦山之败的火攻教训，下令在战船外面皆涂满湿泥，“缚长木以拒火舟”，果然挫败了元军将领张弘范的火攻战术。
但宋军如此士气，又何谈险中求胜呢？毕竟，无论是项羽的破釜沉舟，还是韩信的背水一战，其追求的效果都是激发士兵置之死地而后生的军心与战力。而张世杰布“铁索阵”的效果呢？《宋史·张世杰传》只给出四个字：“人皆危之”。
道理也很简单，但凡参加过焦山之战的老兵，看见张世杰如此布阵，心有余悸是正常的心理反应。
文天祥扼腕于张世杰“不知合变，专守法”，批评宋军的布阵是被动挨打，“行朝依山作一字阵，帮缚不可复动，于是不可以攻人，而专受攻矣”。
张世杰的运气其实已属不错，江南元军为了应付漠北战事，此前曾大量北调，给了他从容经营崖山的充裕时间窗口。一直到至元十六年（南宋祥兴二年，1279年）正月十三，张弘范方才率水军自潮阳抵达崖山。张弘范被忽必烈任命为此战主帅时，担忧蒙古诸将不服，请以蒙古重臣为主帅；忽必烈坚持不换帅，认为“委任不专”将败大事，并应张弘范所请，赐其有先斩后奏之权的尚方宝剑，以威服蒙古众将。
张弘范一到崖山，就勘察地形，见岛上东西都有山，北面水浅，便移水军至崖山以南；又给张世杰的外甥封了官，连续三次派他诱降张世杰，《宋史·张世杰传》记载，张世杰历数古代忠臣作为表率：“吾知降，生且富贵，但为主死不移耳。”
张弘范还不罢休，派人给崖山士民带信：“你们的丞相陈宜中遁逃了，另一个丞相文天祥又被我俘虏了，你们不降还能做什么？”
张弘范最狠辣的一招是，出奇兵截断了宋军的水源地。宋军连啃干粮十余天，渴极了，只得被迫喝海水，“饮即呕泄，兵士大困”。这样的部队还能有什么战斗力呢？
正月二十二日，出身西夏皇室后裔的副帅李恒率麾下三百艘战船与张弘范会师，屯兵崖山以北，对崖山宋军形成南北夹击之势。
面对张世杰的铁索阵，有元军将领献计架炮于山顶轰击宋舰，这炮说的可能就是襄阳炮。张弘范回应：“炮攻，敌必浮海散去。吾分追非所利，不如以计聚留而与战也。且上戒吾必翦灭此，今使之遁，何以复！”
李恒也附和称，宋军“薪水既绝，自知力屈，恐乘风潮之势遁去”，必须趁宋军遁逃前“急攻”。
张弘范和李恒这番话颇有信息量，透露出忽必烈欲聚歼残宋于崖山的意图。元军最忧虑的根本不是宋军的战斗力，而是宋军再次逃之夭夭。从这个角度而言，张世杰一决生死于崖山的战略部署，正中忽必烈与元军下怀。
这更能看出，张世杰多少有些意气用事了。他只是因为不想再逃了，就寻求决战。但决战就决战吧，张世杰又主动放弃水师机动性，被动地等待元军大举进攻。
但这不仅仅是张世杰一人的问题。机动本是水军的特长，但在宋季，南宋水军在大规模水战中基本采取被动防御，完全复制了步军的惧攻喜守的传统，以大船为主的水军缺乏机动性，作战全靠风力，无风则陷于被动；而反观新生的元朝水军，多以水军作为主攻的兵种，“灵活运用正面攻击、侧背迂回、水陆协同夹击等战法”，更擅运用“水哨马”“拔都兵船”等轻舟，“取其往来如飞，便于攻击之利”。总的来看，“宋军似以水军执行守城步兵的功能，而蒙军则以水军用作冲锋陷阵的骑兵。这种运用上的差别，不仅反映两军策略及士气上的差异，也反映两国军事传统的不同”。
二月初六清晨，张弘范兵分四路，对崖山宋军水师发动总攻。刚刚铺陈了不少崖山之战的前奏与背景，此战也的确干系重大，但为时仅一天的战事其实没有悬念，更无先胜后败之类的桥段。尽管宋军舰船更多，有舰千余艘，远超只有四五百艘船的元朝水军，但自处被动挨打之势，士卒缺水困乏，难以承受久战；从战前元军的部署来看，他们也是胜券在握，攻击欲望充沛，更关切是否能全歼宋军。
宋军此役的确尽力了，并没有上演丁家洲之战与焦山之战的溃逃一幕。元朝官方典籍《经世大典·政典·征伐·平宋》记录崖山之战时，在不长的篇幅中两次用了“殊死”这一表述。
崖山之战的前半程，也就是从清晨到中午，宋军尚在拼死抵抗，张世杰“以江淮劲卒各殊死斗，矢石蔽空”，“自朝至日中，战未决”。
但到了午后，宋军士卒体力开始不支，决死一战的哀兵挣扎也开始被元军更稳健且更持久的信心与勇气渐次压倒。张弘范仿佛是一名稳操胜券的草原猎手，气定神闲地为万般挣扎的困兽亲手送终。
战至傍晚，宋军已近全线崩溃。直到此时，才迎来了崖山之战最激荡的时刻。《宋史纪事本末·二王之立》记下了这慷慨悲歌的一幕：