Після звільнення Борис Дмитрович улаштувався на посаду канцеляриста в Харківській казенній палаті. Одночасно юнак наполегливо працював над собою, бо мав намір екстерном скласти іспити на звання народного вчителя. У 1881 році він успішно складає екзамен і «якимось чудом», як згадував сам, починає вчителювати. Педагогічній діяльності Борис Грінченко віддав понад десять років, він учителював по селах Харківщини й Катеринославщини: Введенське, Нижня Сироватка, Олексіївка. Робота в Олексіївській школі, якою опікувалася Христина Алчевська, була найтривалішою (шість років). Спочатку селяни обережно приглядалися до вчителя, який був зовсім не схожим на своїх попередників. Він розмовляв «по-мужицькому», навчав дітей рідною мовою, поводився просто й щиро. Не намагався виставляти себе паном, підтримуючи кожного, хто звертався до нього, надаючи допомогу всім, хто цього потребував. Твори Грінченка про дітей наповнені любов’ю, турботою та болем через важке й інколи безпросвітне життя маленької людини. Молодий учитель також глибоко переймався педагогічними проблемами, висловлюючи свої думки в розвідках «Народні вчителі й вкраїнська школа», «Яка тепер народна школа на Вкраїні», «На беспросветном пути. Об украинской школе». Грінченко писав підручники для своїх учнів, відомі його читанка «Рідне слово» та «Українська граматика до науки читання й писання». У педагога вистачало також сил працювати над літературними творами та виявляти свої етнографічні зацікавлення, збирати мовний матеріал у селянському середовищі. Згодом будуть надруковані три томи «Етнографічних матеріалів», фольклорні збірники «Думи кобзарські», «Веселий оповідач», «З уст народу».

Літературознавці вважають, що саме в Олексіївці Борис Грінченко сформувався як письменник. Іван Франко у 1893 році писав, що Грінченко «засипає мало не всі наші видання своїми, не раз многоцінними писаннями: повістями, віршами, статтями критичними й популярно-науковими, працює без віддиху, шле до цензури рукопис за рукописом, не зраджується ніякими невдачами ані критикою, часто неприхильною, а у всьому, що пише, проявляє, побіч знання мови української, також гарячу любов до України, щирий демократизм, бистре око на хиби української суспільності». Твори Борис Грінченко друкував у галицьких журналах «Зоря», «Правда», «Світ», «Житє і слово», «Літературно-науковий вісник», у чернівецький газеті «Буковина», а також у «Киевской старине», «Южных записках». На такі щасливі, натхненні хвилини творчості доводилося відбирати години сну та відпочинку.