Вместе с офицерами фрегата «Паллада» Гошкевич принимает участие в описи берегов Кореи и Русского Приморья (его именем назван залив в Японском море), на острове Сахалин ведет переговоры с японцами, находящимися в Аниве.

Гошкевич в составе дипломатической экспедиции22 ноября 1854 г. прибывает в японский порт Симода. Спустя три недели в храме Гёкусэндзи началось обсуждение проекта русско-японского трактата.

За семь лет (1858–1865) пребывания в Хакодатэ Гошкевичу многое удалось сделать. Были построены консульский дом, морской госпиталь, православная церковь, открылась школа русского языка, организовано подсобное хозяйство в деревне Камида. Гошкевич обучал японцев фотографии, шитью одежды европейского покроя, выпечке хлеба, приготовлению молочных продуктов и солений.

В 1865 г., возвращаясь в Россию, Гошкевич позаботился о том, чтобы японские юноши поехали для получения образования в учебные заведения Санкт-Петербурга. Над первой группой учеников, состоявшей из шести человек, Гошкевич шефствовал до ухода в отставку в июле 1867 г.