首艘人力潜艇原理图在人类漫长的历史中搜索，你会发现潜艇的足迹可以追溯到很早的时候。古希腊时期，著名哲人亚里士多德就记述了潜水员使用从水面上输入空气的潜水装置。欧洲文艺复兴时期，据传达·芬奇曾经绘制了“水下战舰”的图纸。但他担心如果人们获得有关这类战舰的知识，战争将会变得更加可怕，故将设计图深藏不传。
人类历史上有文字记载的对潜艇进行研究的是意大利人伦纳德，他于1500年提出了“水下航行船体结构”的理论，给后人很大的启发。半个多世纪后的1578年，英国人威廉·伯恩出版了一本关于潜艇理论的著作——《发明》。他在书中提出，要建造一支能够潜入水中并能随意浮出水面的潜艇。
1620年，荷兰物理学家德雷尔成功制造出了一艘潜水船。整个船体像一个木柜，体内装有作为压缩水舱使用的羊皮囊。下潜时往羊皮囊中注水，上浮时则将羊皮囊中的水挤出。这艘潜水船装有从船内伸出的多根木浆，船内人员只要划动木浆，便会在水下运动，最多可载12名水手，能够潜入水中3至5米的深度。
德雷尔的潜水船可以说是现代潜艇的雏形，此后100年间世界上再没有任何有关潜水船发展情况的文字记载，直到1724年，俄国人叶菲姆·尼科诺夫制造出了一艘能在水下航行的潜艇。
尼科诺夫是一个木匠。1718年的一天，他带着自己设计的潜艇图纸去见彼得一世，请求允许他建造一艘能够在水下航行的船只，并得到了支持。1724年，尼科诺夫成功制造出了他自己设计的潜艇。这艘潜艇由橡木、松木板、皮革等材料制成，由于密封不严，试航时刚下水就沉了，尼科诺夫本人也差点送命。彼得一世并没有因此而怪罪，而是命他继续试验。经过一番努力，他终于制成了能在水下航行的潜艇。
潜水技术的进步同时也就意味着潜水技术的军事运用。1776年美国独立战争中，美国人布希尼尔发明了一艘乌龟形的潜艇，钻到了英国战舰“鹰”号的下面，并把一颗鱼雷钉在它的船底下，可是因为调整失灵而失败了。此次行动揭开了水下战斗的序幕，成为潜艇史上首次实战的战例。
1797年，发明天才富尔顿把一个建造潜水艇的计划献给法国政府，这艘叫做“鹦鹉螺”号的潜艇1801年试航，“鹦鹉螺”号的壳板是铜的，框架是铁的，艇长6.89米，型如雪茄，艇体最大直径3米。水面航行时用风帆推进，当它在水下航行或无风时，则把风帆折叠起来，用人力转动螺旋桨推动潜艇航行。
为了便于观察，富尔顿还在潜水艇艇体中央建造了一个凸起的指挥塔。为了解决艇员的水下呼吸问题，艇上带有压缩空气，可供4个人和两支照明蜡烛在水下使用3个小时。“鹦鹉螺”号的航速为每小时2海里，能潜至水深8至9米处。
1864年，美国南北战争时期，南军用一艘原始的潜艇击沉了北军一艘新造的巡洋舰。从此以后，潜艇的作用已开始为各国海军重视。
从军事的角度看，潜艇只不过是一种能在水下活动的军舰，但有4个因素能使潜艇的设计和作战使用比水面舰艇复杂的多：需要承受一定深度的海水压力；需要在三维空间上有控制的进行操纵；还必须具备在水面进行航行的能力；能在没有大气的条件下航行。
按照这些要求，1899年，美国发明家霍兰设计并建造了世界上第一艘真正实用的潜艇。它在水面游弋时，靠45马力的汽油引擎驱动，沉入水底时，靠蓄电池电马达提供动力，蓄电池则靠浮在水面时由汽油引擎充电。这艘取名“霍兰九号”的潜艇基本上具备了现代潜艇的各种特点。
