В конце сентября под руководством инженера Галларта русские укрепили свой лагерь и приступили к осаде и бомбардировке Нарвы. Вскоре пришло известие о том, что на помощь осажденным идет шведский король Карл XII, уже заявивший о своих способностях победой над Данией. Шведская армия считалась тогда первой в Европе по воинскому искусству, опытности и дисциплине. Главнокомандующим русской армией был назначен герцог фон Круа, которого Петру I рекомендовал король Август. Сам Петр поспешил в Новгород, чтобы направить остальные полки к Нарве.

В сражении под Нарвой шведский король одержал полную победу над «армией мужиков». Вся русская артиллерия досталась неприятелю. Из отступавших в направлении Новгорода русских воинов до 6 тыс. человек погибло от шведских пуль, голода и холода. Хотя Петр не исключал неудачи, такого поражения он все же не ожидал. «Спасибо брату Карлу, — сказал он, — будет время, и мы ему отплатим за уроки». Царь отдал приказание немедленно укреплять города, готовить артиллерию и собирать новые полки.

В Европе победа шведов вызвала всеобщий восторг и насмешки над Петром. Г.В. Лейбниц сочинил в честь шведского короля стихотворение и выразил надежду, что Карл XII завладеет Московским государством вплоть до Амура. Однако правитель Швеции не воспользовался успехом и не вторгся со своим войском на российскую территорию. Он не понимал Петра, презирал «армию мужиков» и полагал, что одного удачного сражения достаточно для того, чтобы обеспечить политическое преобладание. Оставив в Ингерманландии и Лифляндии только 15-тысячное войско, Карл XII с лучшими частями армии направился к Польше, считая короля Августа своим главным врагом.