崇武古城的地盘，在宋朝时称崇武乡守节里。也就是说，崇武古城之名，乃由过去的地名沿袭而来，并非建城重新命名。颇有意味的是，当年70多座不同城名的军事据点，唯有这座名为崇武的古城得以留存至今，莫非冥冥之中的上帝有意留下这么一座名实相符的军事古城，用以激励国人，重振武备，兴旺强盛？
崇武古城之前，这里就与军事有了一定的联系。宋太平兴国六年（981年）惠安置县，在这里设小兜巡检寨，调拨100名禁军守卫，后增至310人。元沿宋制，改巡检寨为巡检司，并加强了守军防卫。周德兴奉命经略福建，作为军事工程专家的他，在巡视泉州沿海曲折的海岸线时，一眼就看中了这里易守难攻的险要地势及突出的战略位置。
据《读史方舆纪要》及《福建通志》所载，崇武全城周长737丈，在福建沿海最初建成的所城中规模最大。此后，明清两代在原初基础上，又进行过18次修葺增筑，今天我们所见到的崇武古城，周长2457米，四面设城门，东、西、北城门各有月城，城基高5米，墙高7米，设有两层跑马道，共有城垛1304个，箭窗1300个，窝铺26座……从城墙、窗铺、门楼、月城、墩台到捍寨、演武厅等，结构严谨，布局完整，构成我国古代一套完整的战略防御工程体系。崇武卫所建成之初，周德兴根据整个福建沿海的战略形势及特殊地位，在这里驻扎军队1224名，其中旗军1000名、屯军224名。对此，《崇武所城志》以相当自豪的笔调写道：“雄峙海上，所以制险御侮非常也。凡沿海列戍，不啻星罗台布，而全城居民之多，滨海扼要之重，无过于崇武。”
然而，就是这样一项守疆卫土、利国利民的军事工程，却没有得到当地百姓的理解，人们对周德兴贬大于褒、毁甚于誉，不仅流传着一些贬损他的故事与传说，还有意雕刻他的塑像置于公共尿桶旁，任人撒尿侮辱。
崇武古城座落的地基被人视为风水宝地，古城耸立其上，认为破坏了当地风水；置卫所时居民大量内移，安土重迁的民众自然心怀不满；明朝实行严厉的海禁政策，崇武古城在担负着保家卫国功能的同时，也产生了监视民众，查禁沿海民众出海捕鱼及对外贸易的负面效应……正因为这种种原因与不满，周德兴成了他们编排与贬斥的对象，就连他因为儿子的“乱宫”之罪受到牵连，惨遭诛杀，也演变成被朱元璋赐葬绝穴的传说。
这种情形，固然反映了当地民众的迷信与愚昧，也与千百年的专制政体密不可分，是封建统治下的必然产物。百姓长期在强迫、压抑与愚弄的状况下生活，缺乏主体意识，哪怕与自己生存、生活息息相关的大事，也变得不甚理解，或者麻木不仁。由此可见，唤醒民众真正当家作主的主人翁精神，是加强国防、提高国力的一项重要内容。
倭寇为害福建时，闽南是其重点侵犯劫掠之地。据有关资料记载，仅明朝嘉靖年间（1522—1566年），倭寇直接进犯崇武及附近诸村就有7次。崇武卫城建立，确实发挥了进攻与防御兼而有之的重要功能，起到了“赖以戍边，实以保民”的重要作用。明永乐二十二年（1424年），一千多名倭寇从大岞登陆，“焚掠居民”。崇武卫所指挥官张荣率领军队主动出击，迎战倭寇。张荣力战身死，倭寇损失惨重，不得不败退而去。然而，在有记载的17次倭寇侵袭骚扰中，崇武古城也曾痛失敌手。虽然是唯一的一次，却给当地军民带来了无尽的灾难与悲痛。明嘉靖三十九年（1560年）四月初一，倭寇大量集结，“乘夜雨密蒙，潜梯城而上”，偷袭崇武。全城军民虽浴血奋战，死伤枕藉，最终因孤立无援而沦陷敌手。直至五月十日，兴泉道黄育吾率领军队反击，派人混入城内，夜间在倭寇食用的水中投毒，大批倭寇中毒而亡，黄育吾于第二天挥兵进攻，古城才得以收复。倭寇据城42日，杀害无辜，焚烧军民居所，无恶不作，致使崇武尸横遍野，掳掠一空，损失相当惨重。
戚继光也曾亲临崇武指导抗倭。那是明嘉靖四十二年（1563年）春，一股倭寇突袭崇武，在戚继光的指挥反击下，他们很快就尝到了“戚老虎”的厉害，不由得仓皇败退。
针对崇武的地理环境及抗倭需要，戚继光还亲自部署，在城内制高点建立中军台，加强墩堠管理；在原有基础上建立陆路军、城操军、征操军、兵马司等，进一步提高崇武卫所的军事防御能力。
有过无数次战斗洗礼，在吸取胜利的经验与失守的教训后，崇武古城的防御体系更加完善，真正成了一座固若金汤的海防军事重城。城内有军营、民居、粮仓、军器库、水井、下水道等生活设施与军事贮备，有公署、谯楼、庵堂、寺庙等社会管理、人文资源配套系统，由单一的军事城池发展为功能齐备的“小社会”。崇武城墙全用花岗岩砌筑，坚不可摧；城门分内门与外门，全部包以铁皮，涂以桐油，内门、外门之间设有一道板函重闸，形成三道坚固的门障；东西南北四座城门近处，全部筑有防御敌军靠近城门的敌台，台内砌有穴孔，安有铳炮，可容数十人，每有倭寇而至，台内铳炮弓弩齐发，“彼贼立毙”；城池还筑有内城，城墙跑道分上下两级，守城将士可环城跑马，调动自如，呼应灵便；城外四周，则掘有防城濠沟；经过戚继光的亲临指导部署后，军队不以城池划地为牢，而是拓展到城外乃至海上，通往崇武古城的各重要路口都布有暗哨，海上常年游弋着一支巡逻队伍……城池的建筑设施与军队守卫密切配合，构成了崇武古城相对完善、坚不可摧的军事卫所一体化防御系统。