奥斯曼帝国境内的各族人民并没有被屠杀、迫害所吓倒。马其顿农民组织游击队，在山区展开了争取土地和民族自由的斗争。1889年5月，在首都四名医科学校的学生，建立了一个反专制统治的团体，取名奥斯曼同盟，后改名为同盟进步委员会①，欧洲人称它为"青年土耳其党"。很快，许多青年学生、军官、知识分子和国外流亡者参加了该党。它代表资产阶级和自由派地主的利益，主张保持奥斯曼帝国的领土完整，反对专制制度，要求恢复1876年宪法。
1889年青年土耳其党人艾哈迈德·里扎（1859～1930年）获准到巴黎参加巴黎博览会。他一到巴黎就成了在国外的青年土耳其党的领袖。里扎曾留学法国，任布尔萨教育局局长。他在1895年创办《协商》半月刊，宣传青年土耳其党的政治纲领，并秘密运往国内。
1897年发动军事政变的密谋，因事机泄漏而失败。青年土耳其党在首都的组织被破坏，许多人被捕，13人被判处死刑，68人被流放。这次事变使依靠上层政变来实现其政治主张的策略遭到了挫折。在国外的组织也分裂了。以萨巴赫丁为首的一派人，反对里扎的政治主张。1902年由萨巴赫丁主持，在巴黎召开了青年土耳其党大会，大会讨论了两个重要问题：一是"仅靠宣传和出版不能完成革命，因此有必要设法使军队也能参加革命运动"；二是关于列强的干涉问题，大会在这个问题上公开分裂了。以萨巴赫丁为首的多数派希望得到欧洲列强的干涉，以此作为在奥斯曼帝国实行有效改革的保证。以里扎为首的少数派，坚决反对外国干涉，他们发表声明说："所有外国都是以它们本身的利益为其行动指南的，而这种利益又不总是符合我国利益的"。会后，萨巴赫丁建立了一个新组织，名叫"个人主动与地方分权联盟"。
国内外高涨的革命形势，使青年土耳其党受到了鼓舞。他们把中央委员会从巴黎迁往马其顿的重镇萨洛尼卡，并在军队中成立革命组织。1906年由穆斯塔法·基马尔等人，在大马士革成立了"祖国与自由协会"，并在驻雅法和耶路撒冷的第五军团的军官中成立了支部。同年9月，驻萨洛尼卡的第三军团也建立了革命组织。
为了加强各派政治力量的团结，1907年青年土耳其党的两派和马其顿、亚美尼亚、阿拉伯各民族主义组织在巴黎举行代表大会，制定了共同纲领。其主要内容是：废黜素丹哈米德二世，恢复1876年宪法，保持奥斯曼帝国的完整，各民族不分宗教信仰在法律上一律平等，实现这些要求的方法是拒绝纳税，鼓动军队发动武装起义。
