五大湖的湖盆主要由冰川刨蚀而成,第四纪冰期时,五大湖地区接近拉布拉多和基瓦丁大陆冰川中心,侵蚀力极强,原有低洼谷地的软弱岩层逐渐受到冰川的刨蚀,扩大而成今日的湖盆。当大陆冰川后退时,冰水聚积于冰蚀洼地中,便形成五大湖的水面。
地质结构来看:五大湖是始于约100万年前的冰川活动的最终产物。现在的五大湖位于当年被冰川活动反复扩大的河谷中。地面大量的冰也曾将河谷压低。现在的五大湖是该地区陆续形成许多湖泊的最后阶段。在地质历史上,五大湖地区曾属于河流的上游。
第四纪时,北美大陆北部广大地区受到大陆冰川的侵袭。五大湖地区接近拉布拉多和基瓦丁两个大陆冰川的中心,几次大冰期时都被冰川所覆盖,冰盖厚达2400米,具有强烈的刨蚀作用,使原有低洼谷地松散的沉积层和较软的岩层被冰川带走,将谷地拓宽和加深。五大湖以南即为冰川的南缘,冰川所携带的泥沙和大小石块在这里不断堆积,形成终碛丘,这样就形成了目前五大湖巨大的湖盆。