Город был основан 21 мая 1870 года как русский военный пост Маука. С 1905 по 1945 годы находился в составе Японии как город Маока. В 1945 году был возвращён СССР, в 1946 году переименован в Холмск. Статус города по японской классификации получил в 1922 году, по советской — в 1946 году.