博物馆是一座白色建筑，线条简洁明快。正面由两层白色大理石贴面的护墙组成，正前方，竖立着两排共８根大理石圆柱，它们来自希腊的萨索斯岛，是希腊政府赠送的，据说是世界上最白的纹理最少的大理石。这一片纯白，象征着和平和“费厄泼来”体育精神。８根圆柱中，两根分别镌刻着历届奥运会及冬奥会的举办年份及主办城市的名字。一根刻着国际奥委会历任主席的名字。博物馆前右方，是一个巨大的火炬盆。９３年６月２３日下午，世界女子滑冰冠军德国姑娘维特将火炬盆点燃，奥林匹克火炬从此将长明不熄。博物馆四周为奥林匹克花园围绕。罗丹、布尔德尔、波特罗等大师的体育雕塑作品矗立其间。
这是世界上大的记录奥林匹克运动发展史的博物馆，也是世界上奥运资料最齐全的收藏所。馆内陈列着从公元前７７６年首届古代奥运会举办地奥林匹亚山的模型，到首届现代奥运会的纪念金币，从顾拜旦的生平照片、著作，到１９３６年以后历届奥运会使用过的火炬，以及古希腊运动会的遗物、由国际奥委会收集的与奥运会有关的纪念品、现代高科技的运动器械等。参观者可以从３面“电视墙”上欣赏到奥运史上无数个精采的“一瞬间”。博物馆的地下部分是奥林匹克研究中心，这里有大量的图书、音像资料和照片。其中有中国的跳水运动员许艳梅和伏明霞等的照片。