光启四年（888）正月，孙儒杀秦彦、毕师铎，吞并了他们的兵马，接着攻打杨行密。杨行密听从袁袭的建议，觉得还是庐州好，城池完好，粮草充实，可做以后图谋的基地。果断放弃扬州，领军退回庐州。
此后，杨行密不断收编江淮武装势力，手下人才济济，如淮南第一名将李神福，五代十国第一神射手安仁义。
唐昭宗景福元年（892），消灭了淮南最大的一方军阀孙儒后，杨行密又重新回到扬州，朝廷封其为淮南节度使。
唐天复二年（902）三月，唐昭宗拜杨行密为东面诸道行营都统、检校太师、中书令，封吴王。
杨行密正式开启了十国的第一个地方割据政权：南吴。就像大唐是李渊建立的，人称李唐王朝，大宋是赵匡胤建立的，又称赵宋，杨行密建立的这个吴国，人称“杨吴”，杨行密也被称为“十国第一人”。
◆励精图治
苦大出身的杨行密，立国淮南后，深知乱世之中，老百姓生存不易，一心为百姓谋福利，救民于水火。
《资治通鉴》载：杨行密“赐与将吏，帛不过数尺，钱不过数百，而能以勤俭足用，非公宴未尝举乐，招抚流散，轻徭薄敛，未及数年，公私富庶，几复承平之旧”。
可见，虽割据一方，杨行密却能善抚士兵，聚拢人心，勤俭节约，励精图治，劝农兴业、减轻徭役，令江南经济得以迅速发展。以至于后来大宋之富庶、东京之繁华，无不得益于此。
唐昭宗李晔天祐二年（905），杨吴大将刘存攻下了湖北战略重镇鄂州。鄂州北近中原，南襟湘赣，鄂州的战略位置对于南吴，犹如荆州对于孙权，相当重要。占领鄂州，杨吴已经成为南方最强大的独立政权。
长江中下游一带，在杨行密的治理下，百姓得以休养生息，免遭中原一般的兵祸连结之苦。江南兵强马壮，使北方的后梁、后唐、后汉三朝，均不敢越淮河一步。直到后周的周世宗柴荣，才打破这种平衡。
◆戏精
开国之初，为了拉拢手下的大将朱延寿，杨行密娶了朱延寿的妹妹朱氏。
朱延寿野心很大，他认为自己不比杨行密差，做个将军有点屈才了，就和润州刺史安仁义秘密勾结，想篡位当皇帝。杨行密忍受不了小舅子朱延寿的逼宫，就想着除之而后快。杨行密以前曾得过眼病，后来治愈了。他决定当一回戏精，假装眼睛没有治好，和朱延寿演一场生死大戏。
为了装成一个两眼都看不见的瞎子，杨行密进进出出，都要侍从扶着才能走路。一次接见朱延寿的手下人时，还故意撞到柱子，弄得满脸是血，晕倒在地。
朱夫人扶起他，过了好久，杨行密才苏醒过来。哭道：“我这江山刚打下来，眼睛就坏了，这是上天要弃我啊！儿子都还小，不足以成大事，如果能够托付给妻弟延寿，我就没有什么遗憾了。”
眼睛看到的，不一定都是真相。杨行密骗过了所有的人，包括他的妻子朱氏。朱夫人听丈夫这么说，内心大喜，急忙派使者到他弟弟处，告诉朱延寿说你姐夫叫你快点去商量托孤之事。
杨行密长得人高马大，袖子里藏着铁锤，朱延寿一到，在寝门迎接的杨行密掏出小锤，几下就将朱延寿锤死。接着，杨行密休掉朱氏，让她改嫁他人。不费一兵一卒，就铲除了国内谋逆者，杨行密真是个帝级戏精。
杨行密以三十六英雄起自草莽，在江淮地区举起割据大旗，成功遏制了后梁朱温等中原政权南进的步伐，让淮南百姓远离战火硝烟。
《十国春秋》的作者吴任臣用《三国志》作者陈寿给曹操的评语来评价杨行密，“抑亦可谓非常之杰、不世出者矣”。说明在世人眼中，杨行密就是“五代十国版的曹操。”
◆托孤
杨行密“三十六英雄”里也有不会领兵打仗的，比如说徐温。
五代十国，有两个“温”神，声名显赫。一个是被伟人毛公赞过的“处四战之地，与曹操略同，而狡猾过之”的后梁开国皇帝朱温，另一个是被欧阳修论为“虽奸诈多疑，而善用将吏”的南唐奠基人徐温。
徐温，字敦美，海州胊山（今江苏东海县）人，贩私盐出身。作为杨氏集团最早的“三十六”天团之一，当其他的股东兄弟都大红大紫的时候，他还寸功未立。
自己不曾领兵打仗，要想立功受赏，那就给董事长出出点子，献计献策吧。于是徐温这个吃白饭的兄弟，瞬间小宇宙爆发，妙计频出，不断出彩，直接成为杨行密智囊团中的扛把子，幸运地跨入杨吴政权辅政大臣行列。
公元905年九月，五代十国的大幕刚刚拉开，一代枭雄杨行密，由于连年征战，积劳成疾，终于一病不起。最让杨行密放不下的就是立储大事，自己的儿子们，一个个都懦弱无能不成器，在这个大乱时代，无法自保。思来想去，他竟然萌生了让大将刘威主政的念头。
当时，杨行密的麾下大将大多出镇在外，留在身边的“三十六兄弟”中，只有右衙都指挥使徐温，便招他来商议立储之事。
徐温一听，杨行密要让刘威主政，顿时吓了一跳，道：“肥水不流外人田。如果大王让刘威主政，您辛辛苦苦打下的基业，岂不就要拱手让人了！陛下若要立储，自古都是‘立长不立幼’长子杨渥，忠厚仁孝，足堪重任。”
从内心来说，杨行密并不看好长子杨渥，觉得他做人做事都太水，做人不踏实，办事不牢靠。公元904年八月，借宣州观察使台濛去世之机，一纸诏令，将他外放出京，出任宣州观察使。
接到诏命的杨渥当时非常恐慌，感到自己可能会在争储大战中出局。正在左右为难之际，徐温来了。
徐温对杨渥道：“吴王卧病，而令嫡子出藩，必定是奸臣的阴谋。他日召您回京，不是我派遣的使者和吴王的令谕，您千万不要听命！”得到徐温的支持，杨渥哭着道谢，去宣州上任了。
徐温曾经对杨渥做过感情投资，现在该是收取回报的时候了。因此他力主“立长子杨渥”。
杨行密流泪叹道：“此生富贵，死不足惜。唯诸儿愚钝，不晓大计，望诸公善加辅弼！”徐温等人跪倒扣头，愿意誓死效忠杨吴。杨行密立下遗诏，传位给长子杨渥。
徐温立即派人火速前往宣州，召杨渥回京接受大位。
虽是英雄，也不免有憾。公元905年十一月，杨行密含恨离世，时年五十四岁，谥号吴武忠王，长子杨渥继立。
公元927年，四子杨溥称帝后，追尊杨行密为武皇帝，庙号太祖，史称南吴太祖。
杨渥生性喜好游玩作乐，是个典型的“虚子”，杨行密的担心不无道理，这孩子还真不是当皇帝的料子。
在父亲杨行密服丧期间，杨渥照样日夜饮酒取乐，丝毫没有什么悲伤的气氛。晚上，点燃几十只水桶粗的蜡烛进行击球游戏，一支蜡烛费钱数万。有时也骑马外出游玩，兴尽了野够了才回宫。
杨渥还是个睚眦必报的人，他一上任就杀掉了曾向父亲建言让刘威主政的大臣，又逼走了大将王茂章。
淮南左牙指挥使张颢、右牙指挥使徐温哭着劝谏，让杨渥做事要循天理，出言要顺民心，对国事要上点心，“贪爱沉溺即苦海，利欲炽燃是火坑。”
杨渥怒道：“你们如果认为我没有才能，那就杀死我自己当节度使吧！”完全把两位辅政大臣的一片好心当成了驴肝肺。
听杨渥这么说，徐温和张颢都开始害怕了，“大王这是想要我们项上这颗人头啊！我们就这么遭人恨吗？”
二人越想越怕，最后一致决定：杀死杨渥，瓜分南吴国土，向后梁称臣投降。
一场弑君篡国的阴谋，在刚刚拭干了血迹的杨吴大地悄悄地上演了！