Vācu tautības Latvijas pilsonis, tāpēc bieži uzvārds latviskots – Kušķis, vācu Herbert Kuschke. Latvijas hokeja valstsvienības vārtsargs, aizvadījis 16 (dažos avotos 18) oficiālās spēles, tajā skaitā sešas sausās (bez vārtu zaudējuma) spēles. Sārgāja Latvijas valstsvienības vārtus pirmajā oficiālajā valstsacīkstē (1932.), pamatvārtsargs Eiropas čempionātā (1932.), divos pasaules čempionātos (1933., 1939.), aizvadījis vienu spēli ziemas olimpiskajās spēlēs (1936.). Preses slejās daudzkārt atzīts par valstsvienības labāko spēlētāju gan atsevišķās spēlēs, gan izbraukuma turnejās.

Latvijas čempionātos spēlēja deviņas sezonas, no tām četras Union , pārējās ASK sastāvā. Par valsts meistartitula īpašnieku kļuva septiņas reizes. Trīsdemitajos gados H. Kuške arī tiesāja hokeja spēles. Šajā laikā strādāja par mācekli juvelieru darbnīcā, nodienēja Latvijas armijā, 1939. gada novembrī kā vācu tautības Latvijas pilsonis atbrīvots no Latvijas pavalstniecības un izceļoja uz Vāciju. Pēc Otrā pasaules kara mitinājās Dānijā, pēc tam piecdesmito gadu sākumā izceļoja uz Kanādu, kur dzīvoja Toronto un strādāja uzņēmumā IBM.