秦的水军也称为楼船之士，即乘船在江河湖海作战的部队，和步兵、车兵、骑兵既有联系又有区别。中国古代水师最早出现在南方的吴、越、楚等国，前484年五国将领曾“帅舟师自海入齐，齐人败之，吴师乃还”。战国时期，水兵有了很大的发展，从原来主要是为了载兵渡水成为用于水战的独立兵种，有的国家拥有许多不同类型的战船及其兵器装备，有一套自身的战法战术。那时的战船有各种各样的名称，如大翼、小翼、突冒、楼船、桥船等。战国前期的一个青铜鉴上，有错金镶嵌的“水陆攻战图”，其中有三组表现水战的情景，一只船有两层结构，上层武士数人分别手持各种长短兵器格斗，并有挥旗击鼓者，下层一列水手持桨划水，并身佩短剑，真实再现了当时水军的作战情况，也说明水战已成为一种习见的东西。墨子到楚国“为舟战之具，谓之钩拒”。这种舟师兵器，在对敌船的战斗中，“退者以物钩之，则不得退；进者以物拒之，则不得进”。
在水师蓬勃发展的时代，秦国水军逐渐诞生。秦原来是内陆国家，因此无舟楫之利和习水之人，战争全在陆地进行，水军建立较晚。到前4世纪后期随着秦国的强大，国土面积的扩大，建立水兵这一历史任务已摆在了秦国君面前。
前316年，秦将司马错灭蜀，后来又相继灭苴。他指出：巴蜀为水乡泽国，位居长江上游。秦据其地后从北和西面形成对楚的扇形包围，未来灭楚如有水师参战，便可顺江而下，朝发夕至，势如破竹，与陆上诸兵种形成对楚军的包围态势，省时省力又省钱。地理位置的优越性和灭楚战争的形势需要都要求秦人及时建立水军，秦水师的筹建大概从此时开始。
到前280年，司马错攻打楚时正式使用水师，他“率巴蜀众十万，大舫船万艘，米六百万斛，浮江伐楚，取商於之地为黔中郡”。①《史记·秦本纪》记载：秦昭王二十七年“又使司马错发陇西，因蜀攻楚黔中，拔之”。司马错灭蜀后接收整编巴蜀水师，所以秦水师才会在短短数年间取得较大发展。这时秦水师已具大船精兵，《史记·张仪列传》云：“秦西有巴蜀，大船积粟，起于汶山，浮江以下，至楚三千余里。舫船载卒，一舫载五十人与三月之食，下水而浮，一日行三百余里。”《史记·苏秦列传》亦云：“蜀地之甲，乘船浮于汶，乘夏水而下江，五日而至郢。汉中之甲，乘船出于巴，乘夏水而下汉，四日而至五渚。”
秦灭六国后水师更加强大，这应是整编楚国水师的结果。秦水兵称为楼船之士，秦当时要占领长江以南，没有大量的水兵是不可能的。秦始皇帝曾派遣尉屠雎将楼船之士五十万攻百越。始皇帝浮海射鲛，徐福跨海求仙药，都需动用大量坚固的船舶和富有海上航行经验的水师护送。这都说明秦水军已发展成海军，水兵规模及作战能力在统一后已发展到一个新的阶段。广州发现的造船厂遗址规模很大，长300米，遗址原来在海滩上。船台区有三个东西向平行排列的造船台。1号、2号两个造船台相同，是由枕木、滑台、木堆组成的水平式船台。从船台滑道的宽距推算，这里可造出长20—30米，宽6—8米的船，载重量约10吨左右。
①《华阳国志·蜀志》
秦王扫六合/徐卫民著．—西安：三秦出版社，2006.6