1939年9月，第二次世界大战在欧洲爆发了，情报也显示，德国已经在海森堡的主持进行原子弹的研究。美国罗斯福总统下达总动员令，成立了最高机密的曼哈顿计划，目标是赶在德国之前制造原子弹。主持人是雷斯理?格劳维斯少将（Leslie R. Groves），格劳维斯不顾陆军情报单位的反对，选定奥本海默为发展原子弹计划主任。奥本海默告诉军方，想制造原子弹，就必须集中一流科学家和最好的设备于一个社区内，并统一指挥部统筹。
1942年8月，奥本海默被任命为研制原子弹的“曼哈顿计划”的实验室主任，在新墨西哥州沙漠建立洛斯阿拉莫斯实验室（Los Alamos Laboratory），整个计划的经费是20亿美元，总工作人数15万。“氢弹之父”泰勒协助奥本海默组织在罗沙拉摩斯工作的团队，1943年有4000名科学家进驻罗沙拉摩斯（Los Alamos），著名的科学家费米、波耳、费曼、冯纽曼、吴健雄等大师级物理学家皆在其内，开始原子弹的研发工作，泰勒因执意研究「超级炸弹」，跟奥本海默起了不少冲突，后来泰勒作证指控奥本海默同情共产党，造成奥本海默处境的困难。洛斯阿拉莫斯实验室成功地制造了第一批原子弹，随后在阿拉摩高德沙漠上空引爆，并发出耀目闪光及冒起巨型蘑菇状云。1945年8月6日上午8时15分17秒，美国在太平洋蒂尼安岛上的空军基地朝日本广岛投下了第一枚原子弹。当原爆乍起，他想到了《摩珂婆罗多经》中的《福者之歌》：「漫天奇光异彩，犹如圣灵逞威，祇有千只太阳，始能与它争辉」。
