Йыхви — уездный центр Ида-Вируского уезда. Впервые этот городок упоминается в хрониках и описаниях за 1241 год. Очень скоро он стал местом пересечения торговых путей — отсюда тропа, идущая от самой Нарвы, разделялась на Таллинский путь и на путь, ведущую к Тарту (ныне дорога 3) и до самой Риги.
В конце xiii века Йыхви стал центром церковного прихода, и в 1367 году тут упоминается церковь.
Сам город упоминается еще позже — только в 1491 году. В 1782 году произошел принципиальный перелом в развитии Йыхви: почтовый тракт, пролегавший до тех пор вдоль побережья между Петербургом и Таллином, перенесли чуть южнее, и он прошел чрез Йыхви. Развитию города способствовало также открытие в 1870 году железной дороги Санкт-Петербург — Таллин.
Основная достопримечательность города — храм Св. Михаила (j?hvi mihklikiriku) — неповторимый памятник архитектуры, который предположительно возник в xiv веке. Ее часто называют крепостной церковью, так как она была самой защищенной из сельских церквей Эстонии, и схожих ей нет даже в соседних лютеранско-католических странах. Церковь окружена рвом и оптом, перед церковью установлена защитная башня с множеством бойниц. Вдоль края крыши в Средние века проходил также древесный балкон для лучников.
В настоящее время под церковью, в подвале, расположился Музей Йыхвиской церкви-крепости (j?hvi kindlusliriku muuseum). Здесь можно подробно ознакомиться с древней историей Йыхви.
