Перші письмові згадки припадають на XII ст. За свідченням літописів, новгород-сіверський князь Ігор Святославович, ведучи боротьбу проти половців, використовував низку городищ уздовж Дінця, серед яких було й Зміївське. Однак під час татаро-монгольської навали воно було зруйноване. У другій половині XVI ст. на цьому місці виник Зміївський сторожовий пост. У царському указі 1571 р. намічено шлях сторожових роз'їздів від Путивля до р. Мож і вниз до Змієва кургану».

Місто Зміїв був одним з осередків повстання під проводом С. Разіна на Слобідській Україні.

На території міста та поблизу нього збереглися залишки двох давньослов'янських поселень черняхівської культури (II— ІV ст. н. е)