Zusammen mit Otto Falckenberg, Frank Wedekind, Ernst von Wolzogen und anderen gründete Gumppenberg 1901 das Kabarett ‚Die elf Scharfrichter’ und hatte seine größten Erfolge mit literaturkritischen Parodien naturalistischer und symbolistischer Autoren. 1901 erschien unter Pseudonym sein vielfach aufgelegter Parodienband ‚Das teutsche Dichterroß, in allen Gangarten vorgeritten“ (DBE)..