Mit dem Beginn der Industrialisierung entstand Mitte des 19. Jahrhunderts in den linksrheinisch gelegenen Gemeinden ein gravierender
Landschaftswandel. Die ursprünglich bäuerlich geprägte Kulturlandschaft mit Wiesen, Feldern und Obstwiesen veränderte sich innerhalb weniger
Jahrzehnte zu industriell geprägten Orts- und Stadtteilen. Für den mit der Industrie einhergehenden Bevölkerungszuwachs und den Gebietsreformen war eine Anpassung der Infrastruktur dringend
erforderlich. Das führte zur Zusammenlegung der Gemeinde Rumeln mit Kaldenhausen und danach die Eingliederung nach Rheinhausen. Das alles hatte auch Auswirkungen auf das Friedhofs- und
Bestattungswesen. Für den erhöhten Bedarf an Grabstätten wurde der Ruf nach einem kommunalen Friedhof immer lauter. Die Verwaltung in Rheinhausen gab daraufhin den Bau des Friedhofs in Auftrag.
Nach der Planung 1906 und der Bauphase im Jahr 1907 war der Bestattungsbetrieb noch vorübergehend konfessionell geteilt. Erweiterungen erfolgten in den Jahren 1939 sowie in den 50er
und 60er Jahren. Am 01.01.1975 kam es durch das Niederrheingesetz zur kommunalen Neuordnung und damit zur Eingliederung der Stadt Rheinhausen nach Duisburg. Ab diesem Zeitpunkt unterlag die
Verwaltung und Pflege der städtischen Grünflächenverwaltung Duisburgs. Aktuell wird der Friedhof Rumeln-Kaldenhausen, wie alle anderen Duisburger Friedhöfe, von den Wirtschaftsbetrieben der Stadt
Duisburg verwaltet und betreut.