3月16日黎明，日军1万余人向界河一带的45军主阵地全线进攻，并有一个联队向滕县东关警戒部队进犯。
8时许，日军山炮10余门在城东高地向东关城内、西关火车站一带猛轰，日军飞机10余架飞临滕县上空投弹、扫射，接着又集中火力猛攻东关土寨东南角，该地被轰塌约12米宽，后日军又集中轻、重机枪数十挺向塌口疯狂射击，掩护步兵攻击前进。
当日军火力停顿后，守军立即集中五六十人，待连长一声令下，将两三百枚手榴弹投入敌群，日军士兵应声倒毙，生还者寥寥无几。
日军继续以猛烈炮火向坍塌处疯狂轰击，守军迅速隐伏塌口两侧。日军炮击之后，组织五六十人经过外壕向塌口冲锋，守军窥伺日军爬上塌口的瞬间，又以几百枚手榴弹投向敌群，日军落荒而逃。
日军以同样方式多次冲锋，均以伤亡重大而溃逃，不得不暂时中止进攻。守备东关的部队同样也伤亡近百人，王铭章遂将团预备队一个连调来。
在沉寂的两个半小时内，守军乘机调度战斗部署，修补工事，搬运弹药，护送伤员。
16日下午2时，日军又向东关土寨东北角发起进攻，先以大炮猛烈轰击，轰塌一段寨墙之后，继续以密集机枪火力，掩护步兵前进。守兵在日军将由寨壕爬上塌口时，一齐抛掷大量手榴弹，日军被炸死一地。此时营、团的预备队都增加到第一线，为了补充伤亡，王铭章不得已将城外守备部队和进城领取弹药的一个连也留作营预备队，总共约2500人，加上滕县县长周同所属武装警察和保安队，约计3000人。
下午5时，日军又发起3次猛攻，增加了30余门各种火炮，其中有不少野战炮，还有每批10架以上的日机轮番到前线助战。日军攻击目标转到以东关正中的东关门为重点，炮兵火力不仅指向东关门，还延伸向东关城内、西关火车站等处，意在发挥最大的火力优势，以阻止守军预备队支援第一线。炮击之后，日军向东关发起冲锋多次，均被守城部队顿挫，但最终有40余人突入东关，这时已经接近黄昏，日军不习惯夜战，双方相距数十米对峙，守军突然冲入敌阵，猛劈猛砍，顷刻之间，即将日军全部消灭，收复东关。
至晚8时，枪炮声已趋沉寂，只有日军的照明弹、照明伞不时划破夜空，使滕县城内外照耀如同白昼。当天日机每批10余架不断狂炸或扫射，45军在界河一带的战况愈来愈烈，纵深防御阵地逐次被日军突破。
16日傍晚后，王铭章决心放弃滕县外围阵地，把41军所属部队撤回城内，集中守护兵力，共计剩下两个团多一点的兵力。在重新调整部署之后，王铭章命令全军深沟高垒，多掘防空洞，准备出击。
当夜，敌军第10师团另增配各兵种部队和重炮兵部队共约3万人包围了滕县城东、南、北三面。
17日上午6时，日军以五六十门山、野炮和重炮向城内猛轰，日机20余架低空扫射、投弹，城内外房倒屋塌，烟雾弥漫，全城上下顿成一片焦土。2小时后，日军开始向东关进攻，从东寨墙轰塌的突破口以坦克10余辆掩护步兵冲锋。防守东关的124师740团冒强烈炮火，誓死抵抗，在近距离内与日军反复肉搏，伤亡惨重，双方遗尸累累。
日军又以一部兵力，从轰塌城垣之东南角一段，用坦克七八辆掩护步兵百余人冲锋。守兵727团3连，以集束手榴弹击毁日军坦克2辆。由于火力悬殊太大，加以守方部队死伤殆尽而无法补充，日军终于冲上城角达四五十人。营长立即命令营预备队第一连向突入之敌反攻，该连在仅有两挺机枪的掩护下，向日军猛扑，一阵手榴弹投掷之后，举起大刀，跃入敌群猛砍，将突入之敌全部消灭，使滕县城东南角失而复得，而该连原有150余人，仅剩14人生还。
下午2时，日军突然以12门榴弹炮猛攻南城墙的广正门，日军又派二三十架飞机集中轰炸南关743团的两个连，这两个连因为昨夜刚刚赶到，匆忙布防，只构筑一些临时掩体，死伤甚多，被迫移至西关外火车站附近，而南城墙被日军重炮轰击达2小时，几被夷为平地。守军740团在受敌重炮轰击下，血肉与砖石齐飞，牺牲惨重。日军炮停止射击后，步兵约五六百人，在10余辆坦克掩护下，猛扑南城，守兵死伤殆尽。
下午3时，日军占领了南墙，与此同时，日军再次向东关发起炮击，寨墙多处倒塌，工事全被摧毁，而守军手榴弹又已用尽，日军五六百人在10余辆坦克掩护下，从广正门突入，守军死伤惨重。
激战至17日15时30分，日军由塌处突上城墙，迅速向东、西城墙扩大战果。守军残部由西门退至西关车站。不久，东关及西城门楼均为日军占领，仅余城内、北门及东北城角的守军仍在继续抗击。此时天色已暮，王铭章见日军已突入城关，还不见增援部队赶到，向孙震发出最后的电报：
17日晚，我援军尚未到，敌大部队冲入城，即督所留部队，与敌作最后血战。
电报发出，王铭章下令把电台砸毁，来到县城中心十字街口，指挥所部继续与日军作战，此时占领南城墙的日军在机枪火力掩护下，从西南城角向西城墙逼近。同时又集中炮兵火力袭击西门城楼和西门，守军大部死伤，西城楼和西门也被日军占领。
王铭章命令城内各部与日军展开巷战，自己登上西北城墙，亲自指挥警卫连一个排进攻西门城楼。因日军火力猛烈，城墙上毫无掩蔽，该排全部阵亡。王铭章决定到西关车站组织该地残部继续防守，行至西关电灯厂附近，遭到西门城楼的日军密集火力射击，王铭章不幸腹部中弹，趔趄倒地，随从们忙扶他起来，他疾呼：“抵住，抵住，死守滕县。”这时又一阵密集的枪弹扫来，王铭章又一次负伤。他见大势已去，危城难守，自己已负伤数处，不能行动，遂高呼：
“中华民国万岁，抗战到底。”
随即用手枪饮弹殉城。他的参谋长、副官长、少校参谋、第124师师参谋长及随从10余人，也都同时为国捐躯。滕县县长听说王铭章殉难，急忙从城北赶来，抚摸着王铭章的遗体大哭，悲痛欲绝，缓步登上城墙，环顾四周，长叹一声，坠城身亡。
王铭章为保卫滕县流尽了最后一滴血，成为台儿庄会战中国民党方面牺牲的最高指挥官。
王铭章牺牲后，守城官兵继续与日军搏斗，入夜之前，日军占领了东、南、西三面城墙，而东北、西北两个城角和北面城墙仍在守军手中。
夜9时，守军二三百人突出重围，但在城内，与大部队失去联系的零星小部队仍在顽强地战斗，彻夜枪声未停，最后城内受重伤的300名士兵以王铭章为榜样，宁死也不落入敌手，于是互相以手榴弹自炸，全部壮烈牺牲，至此滕县才算落入敌手。
滕县保卫战自1938年3月14日早晨开始，至18日中午结束，共4天半，计108小时。守军第41军守城部队自第122师师长王铭章以下伤亡5000余人。在滕县附近界河、龙山、南、北沙河一带作战的第45军，自第127师师长陈离以下也伤亡四五千人，滕县整个阵地化为灰烬。
进犯的日军伤亡也十分惨重，死伤达2000余人。
王铭章率部惊天地、泣鬼神的悲壮震惊了中外，写下了抗日战争史上最为辉煌壮丽的一页。122师用3000名子弟兵的生命为李宗仁赢得了4天宝贵的时间，为台儿庄大捷铺平了道路，正如李宗仁后来在其回忆录中指出的那样：
“若无滕县之死守，焉有台儿庄之大捷？台儿庄之战果，实滕县先烈所造成也。”
3月底，当台儿庄会战快要取得胜利时，第22集团军总司令孙震，怀着一种激动、欣喜、自豪抑或有些悲伤、不平的复杂心情，向国民政府军事委员会上报了一份《关于滕县战役的战斗详报》，在论述“此役所产生之成绩及影响”一节中，他这样写道：
在滕县血战中，我集团以绝对劣势之装备抵抗高度机械化敌兵，于极不利于防御之地形上阻敌锐进，达三昼夜之久，弹尽援绝，继以白刃，更继之以拳，复继之以齿，终继之以血，以头颅，以达成巩固津浦北段，保障徐海，争取余裕时间使友军得以从容布置之任务。虽牺牲殆尽，亦不稍顾。则中国军队战斗意志之坚强，奉行命令之彻底，官兵之视死如归，可谓超今逾古，罕有其匹，而死事之烈，报国之忠，虽与日月争光可也。
