Az egykori Hont megyével is kapcsolatba került Szeberényi család tagjai jelentős szerepet töltöttek be mind a magyar, mind pedig a szlovák közművelődésben. Az evangélikus család leszármazottai közül többen papok és pedagógusok voltak, s a magyar, a szlovák és a német kultúrával egyaránt kapcsolatba kerültek. Általában a hazai evangélikus líceumokat látogatták, majd német egyetemeken tanultak, aztán legtöbb esetben szlovák gyülekezetek papjai lettek. Nemzeti hovatartozásuk megítélése nem könnyű, hiszen származásuk, vallásuk, környezetük, betöltött pozíciójuk és karrierjük egyaránt befolyásolta identitástudatukat.
Szeberényi Gusztáv teológiai doktor, evangélikus püspök, egyházi író a Trencsén megyei Kohanócon (Kohány) született 1816. október 8-án. Apja, dr. Szeberényi János ekkor épp a település papja volt. 1819-ben Selmecbányára hívták őt „tótajkú lelkésznek”.
Fia így már itt kezdte meg tanulmányait, s a középiskolát is Selmecen végezte. A család társalgási nyelve otthon a német volt. Hogy Szeberényi a magyart is jól elsajátítsa, apja a nyári szünet alatta szecsői református paphoz küldte. A selmeci líceumban már tagja volt a Homokay Pál alapította „magyar egyletnek”.
1835-ben Pozsonyba került, ahol olyan diákokkal lakott együtt, mint a későbbi selmeci líceumigazgató, a hazafinak és magyarnak is kiváló, a szabadságharcba is bekapcsolódó Breznyik János, vagy a kiscsalomjai lelkész, Geduly Tivadar. 1838-ban a jénai egyetem hallgatója lett. Egyik életrajzírója említi: „Innen 1840-ben tért haza azon elhatározással, hogy vagy német papi vagy pedig tanári állást igyekszik majd elnyerni, mert tótul nem tudott jól”.
Hazatérte után csakhamar Székács József ajánlatára meghívatott Világosra nevelőül Bohus János 3 fiához.” (Händel V., 1890.6. l.) 1842-ben apja mellett volt káplán, de rövid időn belül a Hont megyei Egyházmarót lelkésze lett, ahol tíz évet töltött „közhasznú áldásos tevékenységben, felkarolva és segítve a Sembry, Zmeskall, gr. Stainlein és Ivánka egyházhoz tartozó előkelő családok által”. (Händel V., 1890. 7. l.)
1853-ban Békéscsabára került, ahol sikeresen „emelte a sokszorosan megingatott közerkölcsi állapotokat”. Szeberényi működése alatt rendszeressé váltak Békéscsabán az istentiszteletek, a köznapi templomlátogatások is.
„Kezdeményezése folytán történt az, hogy a központi úgynevezett kisebb templomban, már évekkel ezelőtt, minden vasárnapon tartandó magyar istentisztelet rendeztetett be, s végzésével, megfelelő díjazás mellett, megbízatott a magyar iskola tanítója.” (Händel V., 1890. 8. l.) Békéscsabán irodalmi tevékenységet is kifejtett Szeberényi. A Szemián Pál Benjamin felett tartott gyászbeszéde még szlovákul jelent meg 1858-ban Gyulán. Ugyanott adta ki Kázeň címmel szlovák nyelvű prédikációját is. A nagy Agenda is szlovákul látott napvilágot Pesten 1867-ben. Szintén ugyanitt jelent meg 1876-ban a Konfirmációs tanítás és a Luther kis kátéja. A Kézi agenda már magyar, magyar–szlovák és magyar–német–szlovák kiadásban is megjelent.
Amint Händel Vilmos Emléklapjában olvassuk, „a confirmandusok kézikönyvének magyarítása” is Szeberényi „gondjaival történt”. Ezenkívül részt vett a Magyar Agenda szerkesztésében, s „megfáradt kezeiből kiesett a már szerkesztésben lévő Bányakerületi magyar énekeskönyv”. (Händel V., 1890. 8–9. l.) 1870-ben a bécsi teológiai fakultáson doktori címet szerzett.
1872-től a bányai kerület püspökévé választották. Nagy támogatója volt az iskoláknak, s azokról nemcsak azt vallotta, hogy azok az egyház „veteményes kertjei”, hanem azt is hangsúlyozta, hogy az iskolák állandó felvirágoztatása „legsajátosabb ügyünknek jobbra fordulását” jelenti.
Különösen a három líceum – soproni, pesti és selmeci – működését követte figyelemmel. Selmecen Breznyik Jánossal együtt felvirágoztatta a „kerületi segélyező-intézetet”, amely hatékonyan támogatta a szegény sorsú diákokat. Az evangélikus egyház jeles alakja 1890.augusztus 19-én halt meg Békéscsabán.