玄武是一种由龟和蛇组合成的一种灵物。玄武的本意就是玄冥，武、冥古音是相通的。武，是黑的意思；冥，就是阴的意思。玄冥起初是对龟卜的形容：龟背是黑色的，龟卜就是请龟到冥间去诣问祖先，将答案带回来，以卜兆的形式显给世人。因此，最早的玄武就是乌龟。以后，玄冥的含义不断地扩大。龟生活在江河湖海（包括海龟），因而玄冥成了水神；乌龟长寿，玄冥成了长生不老的象征；最初的冥间在北方，殷商的甲骨占卜即‘其卜必北向’，所以玄冥又成了北方神。
它和其他三灵一样，玄武也由天下二十八星宿变成的：斗、牛、女、虚、危、室、壁。而古时后的人对玄武它的解释有以下的数种，‘玄武’即龟。《礼记.曲礼上》云：‘行，前朱鸟而后玄武...’‘玄武’乃龟蛇。《楚辞.远游》洪兴祖补注：‘玄武，谓龟蛇。位在北方，故曰玄。身有鳞甲，故曰武。‘玄武’为蛇合体、龟与蛇交。
《文选》卷十五张衡《思玄赋》曰：‘玄武宿于壳中兮，腾蛇蜿蜒而自纠。’李善注云：‘龟与蛇交曰玄武。’《后汉书.王梁传》：‘《赤伏符》曰：‘王梁主衡作玄武。’’李贤注云：‘亡武，北方之神，龟蛇合体。’‘玄武’为水神、北方之神。《后汉书.王梁传》：‘玄武，水神之名。’《重修纬书集成》卷六＜河图帝览嬉＞：‘北方玄武所生，...镇北方，主风雨。’
但玄武被后世的道士们升级做北方的大帝“真武大帝”。有别于其他三灵。其他的青龙和白虎，只做了山庙的门神，而朱鸟就成了九天玄女。
玄武在宋代身价培增，并被人格化。这与宋代各帝推波助澜分不开。宋初太祖时，即有真武、天蓬等为天之大将的传说。未真宗天禧元年，在军营中发生了一件事。在《事物纪原》卷七载：‘营卒有见蛇者，军士因其建真武堂。二年闰四月，泉涌堂侧，汲不竭，民疾疫者，饮之多愈。’真宗听说此事，下诏就地建观，赐名‘祥源’。这大约是中国最早的真武庙。
真武大帝的身世，后人多说是在隋炀帝时，玉帝将自己的三魂之一，化身投胎于挣乐国皇后，厌恶尘世，舍位入武当山上修行，成功飞升，镇守北方，号曰：玄武。
