1839年7月8日，约翰·洛克菲勒出生于纽约州哈得逊河畔的一个名叫杨佳的小镇。他的父母，个性截然不同：母亲是个一言一行都皈依《圣经》的虔诚的基督教徒，她勤快、节俭、朴实，家教严格；而父亲却是个讲究实际的花花公子，他自信、好冒险，善交际，任性而又以自我为中心。洛克菲勒作为长子，他从父亲那里学会了讲求实际的经商之道，又从母亲那里学到了精细、节俭、守信用、一丝不苟的长处，这对他日后的成功产生了莫大的影响。
父亲名叫威廉，人称“大个子比尔”，是个到处闯荡的木材商、马贩子，也是个走江湖的巫医，兜售所谓“立见奇效，包治百病”的灵丹妙药。此外，他还出卖土地，买卖毛皮，贩盐，推销杂货，几乎是无事不干的百事通。
父亲出外经商，一去就是几个月，家中对孩子们的教育主要由母亲承担。但偶尔归家的父亲也与母亲一样望子成龙，一有空就教约翰如何写商业书信，如何准确而迅速地付款，以及如何清晰地记账。他深知社会的现实和世道的冷酷，所以他常采用一些特殊的方式教育孩子，使他们在踏入社会之前就能坚强而且精明起来。
比尔很注意在游戏中创造机会启发约翰和他的弟弟，以培养他们预防不测的意识。当约翰还是个孩童时，父亲常常让小约翰从高椅子上纵身跳入自己怀抱。有一次父亲没有用双臂接他，他就重重地摔在地上。父亲严肃地对他说：“要记住，决不要完全信任任何人。哪怕是最亲密的人，也千万不要轻信！”这件事给约翰留下深刻的印象，以致于在日后的生意场上，他始终保持冷静、警觉的头脑，从而避免了多次失误。
然而，约翰对父亲血液里流淌的东西并没有全盘接受，他完全没有父亲那种花花公子的秉性，而是继承了母亲勤俭的美德。他把这种信念视为“商业训练”，一生中烙守“不俭则匮”的准则；从中他还引申出自己的结论：“只有数字作数。”
约翰·洛克菲勒14岁那年，在克利夫兰中心中学上学。放学后，他常到码头上闲逛，看商人做买卖。有一天，他遇到一个同学，两人边走边聊起来。那个同学问：“约翰，你长大后想干什么？”年轻的洛克菲勒毫不迟疑地说：“我要成为一个有10万美元的人，我准会成功的。”谁曾料到，几十年后，这个蜚声国内外的石油大王，其拥有的财富达10亿美元，是他童年梦想的10万倍！
约翰·洛克菲勒1855年中学毕业后，便决定放弃升大学，到商界谋生。为了寻找工作，他在克利夫兰的街上跑了几个星期，拿定主意要找一个前程远大的职业。他的眼界颇高。他后来回忆道：“我上铁路公司、上银行、上批发商那儿去找工作，小铺小店我是不去的。我可是要干大事的。”
