济水发源于河南省济源市西北的王屋山，东流至温县，南注黄河，与黄河同流，东行十余里，在荥阳北，出黄河，汇为荥泽（今已湮没）。此即所谓“南泆为荥”。再经原阳南、封丘北、菏泽南、定陶北，东入菏泽（今已湮没）；再由巨野县柳林镇北境出菏泽东北流，于巨野县西入大野泽（今已湮没）；再由巨野县东北出大野泽，过梁山东，北流至东阿县东，经平阴县北、济南城北，东流入海（故道大多成为今天的小清河）。当时在原阳和巨野之间，济水还分为南、北两个支流，一并汇入大野泽。据《汉书·地理志》记载，济水“过九郡，行千八百四十里”。

历史上，济水是一条名副其实的大河。早在周朝，就被列入“四渎”，享受朝廷的高规格祭祀。据《史记·封禅书》：周代，“天子祭天下名山大川：五岳视三公，四渎视诸侯……四渎者，江、河、淮、济也”。就是说，济水与长江、黄河、淮河一样，被列入四大河流，享受周天子的祭拜。秦一统天下后，名山大川的祭祀常态化，崤山以东祭祀的大河只有济水、淮水。据《汉书·地理志》记载，东郡临邑县（今山东东阿县）有泲庙，设于古济水旁边。隋唐以后，济水流经的济源、荥阳、原阳、曹县、定陶、菏泽等地都建起了济渎庙。就连不是济水流域的山西南部，也有不少济渎庙。