Die Gründung des Museums ist eng verknüpft mit der Person des Gmünder Fabrikanten, Kommerzienrats, Altertums- und Kunstsammlers Julius Erhard, der mit Schreiben vom 17. Juli 1890 seine Gmünder Alterthumssammlung (so ihr Name) der Stadt schenkte. Daran knüpfte Erhard die Bedingung, »daß dieser Sammlung eine ihrem Wert entsprechende Aufstellung und Pflege gesichert bleibt und daß der Allgemeinheit regelmäßig Besuchsmöglichkeit geboten wird«.
Am 4. Oktober 1890 beschloß der Gemeinderat, die Schenkung anzunehmen und den gestellten Bedingungen nachzukommen. Eröffnet wurde die Sammlung nach der offiziellen Übergabe an die Stadt am 10. November 1891 in Erdgeschossräumen des von Johann Michael Keller 1768/69 erbauten Waisenhauses (beim Spital). Der Präsentation der Bestände der Alterthumssammlung wurden die des Gewerbemuseums angegliedert, das 1876 auf Anregung von Hermnann Bauer als Vorbildersammlung entstand.