“哥萨克”一词首见于1240年的《蒙古秘史》，1380年在俄语中正式使用казаки，即“哥萨克人”这一称谓。关于哥萨克的起源有几种不同的说法：一种观点认为，哥萨克的历史早于古罗马的伊特鲁利亚人。
从遗传学上看，他们同生活在高加索和俄罗斯南部草原的突厥人有关联；还有一种观点认为，哥萨克是公元4-5世纪起，斯拉夫人、日耳曼人和突厥人向黑海沿岸和俄罗斯南部草原的民族大迁移中，以斯拉夫人和东正教为基础形成的；得到普遍公认的说法则是苏联史学家的观点：哥萨克是在14-17世纪出现的“自由民”，是随着俄国农奴制的确立而形成的，后逐渐演化成一种军事组织并在18－20世纪初发展到了它的全盛时期。
14世纪初，古罗斯和波兰-立陶宛的贫苦农民由于无法忍受封建农奴制的压迫开始大量南逃。
早期的哥萨克主要从事帮工或在边境服役，居无定所，四处流浪。为了求生存、御强敌，他们结成团伙打家掠舍、劫富济贫，在黑海和亚速海一带的哥萨克则成为海盗。顿河哥萨克历史博物馆藏有一幅大型油画，描写的就是哥萨克海盗满载俘虏和战利品归来的情景。
15世纪下半叶-16世纪初，这些分散的“自由民”为了对抗封建国家的压迫和抵御外族的入侵，在俄罗斯和乌克兰东南部的第聂伯河、顿河、伏尔加河、捷列克河及雅伊克河一带出现了由贫苦农民组成的，独立于中央政府的名为“自由哥萨克”的自治村社，16世纪下半期在上述地域相继建立了哥萨克军事州，从而使流动性极大的哥萨克处于相对稳定的状态，这对于他们从事正常的生产活动具有重要的意义。
时代的骄子，战争的宠儿
15世纪中叶，南方强大的奥斯曼帝国对斯拉夫国家构成了日益严重的威胁。这时，在抗击土耳其人和鞑靼人的进犯中捷报频传的哥萨克名声鹊起，成为波兰公国和羽翼未丰的莫斯科大公国在同南方异族的征战中越来越倚重的力量。正是这个时期在组织结构、军事风格、宗教信仰、民族特点、生活习俗和文化心理上奠定了哥萨克未来发展的轨迹。
在16-17世纪上半叶，对哥萨克鞭长莫及的俄国统治者为了利用哥萨克的力量保卫边疆，向其提供战斗装备、给养以至军饷，例如早在1618年沙俄政府就开始向顿河哥萨克发放军俸。随着军事活动在哥萨克社会生活中的地位日增，战利品和俸禄成为其重要的生活来源，但却在相当程度上迟滞了当地区经济。
哥萨克军不仅拿着御赐俸禄、免交土地税，而且在18世纪初以前拥有相当大的行政、司法和外交自治权，成为俄罗斯历史上享有最多