Mit dem Beginn der Industrialisierung entstand Mitte des 19. Jahrhunderts in den linksrheinisch gelegenen Gemeinden ein gravierender Landschaftswandel. Die ursprünglich bäuerlich geprägte Kulturlandschaft mit Wiesen, Feldern und Obstwiesen veränderte sich innerhalb weniger Jahrzehnte zu industriell geprägten Orts- und Stadtteilen. Für den mit der Industrie einhergehenden Bevölkerungszuwachs und den Gebietsreformen war eine Anpassung der Infrastruktur dringend erforderlich. Das führte zur Zusammenlegung der Gemeinde Rumeln mit Kaldenhausen und danach die Eingliederung nach Rheinhausen. Das alles hatte auch Auswirkungen auf das Friedhofs- und Bestattungswesen. Für den erhöhten Bedarf an Grabstätten wurde der Ruf nach einem kommunalen Friedhof immer lauter. Die Verwaltung in Rheinhausen gab daraufhin den Bau des Friedhofs in Auftrag. Nach der Planung 1906 und der Bauphase im Jahr 1907 war der Bestattungsbetrieb noch vorübergehend konfessionell geteilt. Erweiterungen erfolgten in den Jahren 1939 sowie in den 50er und 60er Jahren. Mitte der 1950er Jahre konnte der damalige Tiefbauamtsleiter Karl-Heinz Seiffen, den Herrn Günter Diamant als Berater für die Bepflanzung gewinnen. Die Gehölze wurden von namhaften Baumschulen und der Sequoiafarm in Kaldenkirchen beschafft. Der Kontakt zur Sequoiafarm kam über Herrn Günter Diamant und die Deutsche Dendrologische Gesellschaft zustande. Die Sequoiafarm wurde von Frau Dr. Martin betrieben. Sie stand weltweit mit vielen Dendrologen in Kontakt. Auf der Sequoiafarm wurden dort seltene und nicht-heimische Gehölze aufgezogen. Von diesen Gehölzen wurden viele auf dem Gemeinde-Friedhof Rumeln-Kaldenhausen angepflanzt, aber auch auf Grünflächen in der Gemeinde. Durch das Wissen und das Zusammenwirken von von Frau Dr. Illa Martin, Herrn Günter Diamant sowie Herrn Karl-Heinz Seiffen entstand so der an seltenen Gehölzen artenreiche Friedhof, ein Arboretum mit Alleinstellungsmerkmal.
Am 01.01.1975 kam es durch das Niederrheingesetz zur kommunalen Neuordnung und damit zur Eingliederung der Stadt Rheinhausen nach Duisburg. Ab
diesem Zeitpunkt unterlag die Verwaltung und Pflege der städtischen Grünflächenverwaltung Duisburgs. Herr Heinz Blettgen betreute den Friedhof und ganz im Sinne von Herrn Günter Diamant legte er
besonderen Wert auf den Gehölzbestand bzw. er ergänzte ihn. Aktuell wird der Friedhof Rumeln-Kaldenhausen, wie alle anderen Duisburger Friedhöfe, von den Wirtschaftsbetrieben der Stadt
Duisburg verwaltet und betreut.