Az Ung megye keleti részén fekvő községről a 14. század közepétől van adat. A Sztáray-kódex egyik oklevelében az olvasható, hogy a Ramocsai családé volt Gejőc. Ebben az évszázadban a római katolikus felekezethez tartozó szomszédos Császlóchoz tartozott, mint ahogy az 1549-ben megalakult protestáns egyháznak is ott volt a központja. Több mint száz év telt el, amikor Kisgejőc lett a környékbeli településeknek is az anyaegyháza, és akkor épült föl fából az első kálvini-protestáns templom.
Sok, a magyar történelemben jelentős szerepet játszott család a Latorca-parti községből származik. Fegyverneky Izsák, aki 1568-ban Kisgejőcről indult el, Pest és Nógrád vármegye nemesei közé tatozott. A Benkő család II. Ferdinánd német-római császártól, és magyar királytól itt vette át címeres nemes levelét 1619-ben. Innen való az Egry, a Pankotay, a Ladányi, a Darányi és a Ritoók família nem egy, híressé lett tagja. A 16. és 17. század fordulóján a pestisjárvány elnéptelenítette a falut.
1806-ban feljegyezték, hogy a parókiával szemben áll még a fatornyú templom, amelyet 1844-ben kőből építettek újjá. Harminc méter magas tornyában két harang lakik. A 352 kilós harangot a község híres szülöttje, Egry Ferenc, a 19 - 20. század egyik legnevezetesebb magyar harangöntője készítette kisgejőci műhelyében, 1923-ban.
