Metrik sowie Theaterwissenschaften.
Köster prägte über ein Vierteljahrhundert den Ruf der Leipziger Germanistik. Er war ein ausgezeichneter Kenner der Werke von Goethe, publizierte jedoch vergleichsweise wenige größere Schriften und wurde vor allem durch die Herausgabe der „Briefe der Frau Rath Goethe“ sowie einer kritischen Ausgabe der Werke von Theodor Storm bekannt.
Neben seinen Leistungen auf dem Gebiet der Literaturgeschichte gehörte Köster zu den ersten Wissenschaftlern, die sich um eine methodisch begründete wissenschaftliche Theaterforschung bemühten. Auch stellte er eine bühnengeschichtliche Sammlung zusammen. Diese wurde nach seinem Tod vom Deutschen Theater-Museum München erworben, fiel jedoch 1944 größtenteils einem Bombenangriff zum Opfer. Seine umfangreiche Bibliothek wurde auf seinen Wunsch in einer Auktion der Firma Walter de Gruyter & Co. am 26./27. Januar 1925 versteigert.
Zahlreiche seiner Schüler wurden später selbst bekannte Wissenschaftler oder Literaten, so Ernst Bergmann, Ernst Beutler, Reinhard Buchwald, Werner Deetjen, Alfred Götze, Erich Kästner, Anton Kippenberg, Paul Merker (Literaturhistoriker), Julius Petersen, Kurt Pinthus, Fritz Brüggemann und Friedrich Schulze..