В 1871 из Дании переехал в Россию, около 10 лет служил в Омске и Иркутске в Сев. телеграфном агентстве. Отлично изучив русский яз. и лит-ру, Г. стал переводчиком с русского на датский и с датского на русский яз. В 1881 переехал в СПб.
Перевёл на датский яз. роман И. Гончарова «Обыкновенная история» (Копенгаген, 1877), что послужило поводом к дружеской переписке между Г. и Гончаровым. С 1885 в Дании начали выходить в пер. Г. произведения Л. Н. Толстого. С переводом «Крейцеровой сонаты» связано личное знакомство Г. с Толстым.
В 1890 и 1891 появились перв. перев. датской лит-ры, в т.ч. Г. Х. Андерсена и Г. Ибсена, выполненные Г. и его женой - Анной Г.
К 1895 вышел 4-томник Андерсена, в кот. вошли сказки, рассказы, автобиографии писателя, воспоминания о нем, письма, путевые очерки, стихи. Это были первые перев. Андерсена в России, выполненные с яз. оригинала (не с немецкого, как это было прежде).
Переводам Г. характерно глубокое проникновение в звучание, стилистику, суть датского яз. Супруги Г. не только перевели тексты, заботливо сохранив все детали оригинала, но и передали все волшебство, все тонкости и переливы сказок на датском яз. Это единственное фундаментальное собр. Андерсена на рус. яз. после 1917 не переизд.
Позже супруги Г. подготовили собр. соч. Г. Ибсена, сопровождаемое обширным исследованием «Жизнь и лит. деятельность Ибсена» и критич. экскурсами с включением отзывов критики по каждой пьесе (выдержало три изд., удостоено Пушкинской премии АН).
«Очень хвалят мой перевод “Гедды Габлер”, - писал Г. к Б. Бьёрнсону в 1891. - В отношении языка его считают мастерским. Я спокойно могу писать об этом, поскольку это, главным образом, заслуга моей жены». П. и А. Г. знакомили русских читателей с лит-рой скандинавских стран, предваряя переводы вст. статьями о тв-ве переводимых авторов.
Самой крупной совм. работой Г. было изд. с 1909 по 1913 13 сб. «Фиорды», куда вошли переводы романов, рассказов, публиц. произведений и др. 30 совр. скандинавских писателей и деятелей. Среди них нобелевские лауреаты Й. Йенсен и X. Понтоппидан (Дания), Б. Бьёрнсон и К. Гамсун (Норвегия), а также А. Стриндберг, Ф. Нансен и др.
Во время рев. событий Г. оказался в Дании, в Россию не вернулся.