Ein Rathaus ist die Visitenkarte einer Stadt sowie Sitz des Rates, Oberbürgermeisters und der Verwaltung. Das soll sich in einem neuen Rathausbau widerspiegeln, der mitten in der Stadt verankert ist. Das ist vor mehr als 100 Jahren der Anspruch der Mülheimer Amtsträger für eine gut situierte und rasch wachsende Industriestadt. Am 30. Dezember 1903 tagt der Rat zum letzten Mal im ersten Rathaus. Im hundertsten Jahr nach Verleihung der Stadtrechte (1808) beschließt der Rat den Neubau – dem ein offener Architektenwettbewerb vorgeschaltet wird. Anfang 1915 – Mülheim ist seit sieben Jahren Großstadt – beziehen die ersten Beamten ihre Büros. Der Rat tagt erst 1916 zum ersten Mal im neuen Ratssaal.
176 Architekten reichen ihre Entwürfe ein. Sieben Beiträge zieht die mit namhaften Preisrichtern besetzte Jury. in die engste Wahl . Entwürfe von Mülheimer Architekten, von denen sich elf beteiligen, sind nicht mehr dabei. Aber nicht der erste Preisträger, sondern der Entwurf des Drittplatzierten wird verwirklicht. Die Architekten Arthur Pfeifer und Hans Großmann aus Karlsruhe mit dem Kennwort „Zwei Plätze“ wird Basis des Rathausneubaus. Ihr Entwurf beeindruckt Preisrichter und Stadtobere durch „städtebaulich angemessene Raumdimensionen und Dachtraufenhöhen, auch durch einen Gebäuderhythmus, der Plätze betont und platzartige Raumerweiterung durch Fassadenrücksprünge entwickelt“.
Bis zum Baustart 1913 ändern die Planer noch am Entwurf: Zu wenig Büros und Läden in den Arkaden des Erdgeschosses kommen nicht an. Der Notweg zwischen den Gebäuden wird breiter, der Turm höher und schlanker.
Ruhrhochwasser blockiert im Frühjahr 1913 das Betonieren des Fundaments. Einsprüche von Nachbarn gegen die Überbrückung des Notwegs haben kein Gewicht. Die Mobilmachung zum Ersten Weltkriegs stoppt die Arbeiten für ca. sechs Wochen.
Trotzdem können im Juni 1915 nach halbjähriger Verzögerung erste Abteilungen am Notweg einziehen. Der Rathausflügel mit dem großen, repräsentativen Sitzungssaal am Markt ist wegen seiner aufwendigen künstlerischen Gestaltung erst Ende 1915 fertig. Am 10. Februar 1916 wird die erste Ratssitzung im neuen Ratssaal abgehalten.