Фридрих родился 25 октября 1879 года в Ганновере в семье Олли и Джоанны Хаарманн, он был шестым и последним ребёнком пары. Отец, простой и грубоватый мужчина, считал, что жена портит сына своей чрезмерной опекой и слишком балует его. Фриц был тихим мальчиком, мало общался со сверстниками, предпочитая компанию своих сестёр и игры с ними. Он увлекался шитьём и готовкой.
Поведение Хаарманна учителей вполне устраивало, он не шалил и был эдаким паинькой, но вот успеваемость хромала: мальчику пришлось дважды оставаться на второй год. Есть сведения, что в возрасте 8 лет Фрица растлил один из его учителей. В 1895 году он отправился в военную школу, где показал себя прилежным учеником, но вскоре прервал занятия, так как с ним периодически стали случаться припадки наподобие эпилептических.
Семья Хаарманна подозревала, что их сын — гомосексуалист. Когда Фрицу было 16, его обвинили в растлении нескольких мальчиков и поместили в психиатрическую лечебницу. Врачи признали Хаарманна невменяемым, а потому перед судом он так и не предстал. Из больницы юноша сбежал в мае 1897 года и, не без помощи матери, добрался до Швейцарии. Обратно в Ганновер он смог вернуться только в апреле 1899-го. Пытаясь стать «нормальным», Хаарманн решил жениться на девушке Эрне Лоэрт, которая вскоре забеременела.
В 1900 году он продолжил военную карьеру. Фрица отправили в Эльзац, в 10-й стрелковый батальон, где он заработал славу меткого снайпера и отличного солдата. Это были самые счастливые месяцы его жизни, но из-за серьёзных проблем со здоровьем и постоянных головокружений с мечтой о карьере военного пришлось распрощаться. Тем не менее ему назначили пенсию, которую он получал вплоть до своего ареста в 1924 году.
По возвращении в Ганновер Фриц попытался начать своё дело. Вместе с Эрной они открыли рыбную лавку, но вскоре рассорились, девушка разорвала помолвку и выкинула Хаарманна из бизнеса, так как все документы на лавку были оформлены на неё. Тогда-то он и попал в криминальный мир. Фриц был мелким мошенником и, даже когда ему удавалось устроиться на обычную работу, воровал у коллег. Хаарманн находился под пристальным наблюдением полиции и получил несколько сроков, отсидев в тюрьме с 1905 по 1912 гг. практически безвылазно. В 1913-м его снова поймали, на этот раз на крупной краже, и приговорили к 5 годам заключения. Всю Первую мировую он провёл за решёткой.
После войны Германия находилась поистине в плачевном положении. Количество убийств и ограблений росло, расцвёл чёрный рынок, а гиперинфляция делала жизнь простых немцев просто невыносимой: купить самые простые вещи стало огромной проблемой. Штат полицейских после войны сократили, служителям порядка платили очень мало. Активно приветствовалась всяческая помощь правоохранительным органам — проще говоря, доносы. У полиции был свой штат информаторов, одним из которых был Хаарманн. За долгие годы жизни мелкого мошенника он оброс большим количеством знакомых в криминальном мире и регулярно подкидывал полицейским, у которых был на хорошем счёту, работу.
Своё первое убийство Фриц совершил в 1918 году. Он встретил на улице 17-летнего Фриделя Рота — парень сбежал из дома после ссоры с матерью. Хаарманн предложил юноше пожить у него, и Рот согласился. Вскоре мать подростка обратилась в полицию, и кто-то из свидетелей рассказал, что видел Фриделя с Фрицем. К этому моменту парень уже был мёртв, Хаарманн расчленил тело и спрятал голову у себя в квартире за печкой. Однако полицейские, которые пришли к мужчине с обыском, застали его с 13-летним обнажённым мальчиком. Его приговорили к 9 месяцам тюрьмы за совращение малолетнего. Удивительным образом отрезанную голову Рота детективы не нашли — она пробыла за печкой всё время, что Фриц отбывал наказание.
В октябре 1919 года произошла судьбоносная встреча: Хаарманн познакомился с 18-летним Гансом Грансом. Гранс впоследствии утверждал на допросе, что не был гомосексуалистом, но отчаянно нуждался в деньгах и решился предложить себя Хаарманну за деньги. Ганс был родом из Берлина, но сбежал из дома после конфликта с отцом. Вскоре Гранс стал любовником Фрица и его подельником.
Парочка открыла настоящую охоту на молодых людей. Хаарманн, который в роли информатора проводил большую часть дня на центральном вокзале Ганновера, присматривал будущих жертв именно там. Иногда юношей выбирал Гранс. Как правило, это были подростки и мужчины в возрасте от 15 до 18 лет, сбежавшие из дома, приезжие из других городов, иногда проститутки. Фриц практически безошибочно умел вычислять в толпе представителей нетрадиционной сексуальной ориентации, которых с лёгкостью заманивал к себе домой, обещая накормить и, возможно, помочь с работой.
У Хаарманна был свой «стиль» и план убийства: сперва он давал жертве поесть, отмечая, что после плотного обеда никто не в силах активно сопротивляться, затем набрасывался и вгрызался зубами в кадык, от чего несчастный терял сознание буквально в течение нескольких секунд. После разоблачения убийцы газеты пестрели деталями, вроде того, что Хаарманн пил кровь своих жертв и купался в ней, однако он сам это отрицал.
Затем Фриц аккуратно раздевал мужчин, чтобы одежда не запачкалась кровью — её в дальнейшем они с Гансом продавали. После этого разделывал тела. Хаарманн утверждал, что этот процесс не доставлял ему никакого удовольствия, а напротив, был крайне противен, но совершенно необходим для устранения улик. Он делал несколько разрезов, сливал кровь, вынимал внутренние органы, ломал кости, а затем срезал с них всю плоть. Он уничтожал черепа жертв вместе с мозгами, чтобы их невозможно было опознать. Кости и мясо он затем сбрасывал в реку. По слухам, он продавал филейные части мясникам под видом говядины, но это, скорее всего, выдумки горожан и журналистов. Во всяком случае сам Хаарманн, охотно сознавшийся в преступлениях, отрицал этот факт.
В мае 1924 года в местной речке детишки нашли человеческий череп, а вскоре и ещё один. Находке не придали большого значения, так как решили, что это проделки студентов-медиков. В июне в реке выловили ещё два черепа. Все они принадлежали мальчикам-подросткам. К тому времени в городе уже довольно долго циркулировали слухи об исчезновении юношей. 8 июня сотни местных жителей прочёсывали берег реки в поисках улик и обнаружили огромное количество человеческих костей — более 500.
Хаарманн, который был одним из подозреваемых в деле об исчезновении Рота и ещё одного мальчика, находился под пристальным наблюдением полиции. 22 июня 1924 года он был задержан после того, как 15-летний Карл Фромм рассказал детективам, что Хаарманн несколько дней удерживал его в доме и насиловал, угрожая ножом. Мужчину арестовали и доставили в участок, а в это время в его квартире проходил обыск. На стенах, мебели и постельном белье обнаружили множество пятен крови — Фриц объяснил её происхождение тем, что занимался нелегальной торговлей мясом. Полиция опросила соседей Хаарманна, которые рассказали, что часто видели его с молоденькими мальчиками, а несколько подростков — как он выносил из квартиры объёмные мешки и выкидывал их в реку. Кроме того, в доме было найдено множество вещей, принадлежавших пропавшим подросткам — их опознали родственники.
Когда Фрицу сообщили обо всех найденных уликах, он сознался в том, что с 1918-го по 1924-й насиловал, убивал и расчленял подростков. Когда его спросили, знает ли он точное число жертв, Хаарманн замялся и ответил, что их было от 50 до 70. Полицейским удалось связать его только с 27 убийствами.
Гансу Грансу предъявили обвинения в пособничестве. Судебный процесс начался 4 декабря 1924 года. Хаарманна признали виновным в убийстве 24 человек и приговорили к гильотинированию. Гранса обвинили в подстрекательстве к убийству и также приговорили к обезглавливанию, однако позже пересмотрели наказание и дали ему пожизненный срок, из которого он отсидел только 12 лет, а затем вышел на свободу.
Хаарманн заявил, что полностью согласен с приговором и принимает его, а также добавил, что, будь он на свободе, непременно убил бы опять. Его казнили в 6 утра 15 апреля 1925 года в Ганноверской тюрьме. Останки юношей, убитых Фрицем Хаарманном, захоронили в общей могиле, так как не представлялось возможным определить, кому конкретно они принадлежат. На месте захоронения установили памятник с именами жертв.