Тюрьма как институт исполнения наказания возник вместе с появлением первых государственных образований. Общество, преодолевшее стадию общинного строя, нуждалось в регулировании социальных и имущественных отношений, а лишение свободы, таким образом, становилось одним из видов санкций к преступившим закон индивидам. Даже до оформления юридических основ взаимодействия между людьми необходимость изоляции опасных элементов была одной из важнейших задач зарождающегося государства.
Древнерусское государство не стало исключением из правила. Первые упоминания о лишении свободы тех или иных лиц относятся ко времени княжения Владимира Святославича. Так, креститель Руси отправил в заключение своего племянника Святополка и его невестку — дочь польского короля Болеслава Храброго. Причиной такого решения были прокатолические и пропольские настроения родственников. Эта акция стала причиной похода Болеслава против Руси. Однако в каких условиях содержался узник и где — история умалчивает.
Древнерусское уголовное законодательство впервые оформилось в знаменитой «Русской правде», созданной во время правления Ярослава Мудрого. К этому же времени относится и Церковный устав — документ, регулировавший систему наказаний в религиозной сфере. Эти два документа вместе со свидетельствами летописцев позволяют восстановить, как и где содержались узники и за какие преступления можно было поплатиться личной свободой.
«Русская правда» прежде всего предполагала экономические санкции за преступления. Однако в её тексте можно встретить вид наказания «поток и разграбление». Он предусматривался за разбой, кражу коня или поджог дома. Исследователи по-разному трактуют эти слова, однако некоторые сходятся во мнении, что речь идёт о выдаче человека князю в качестве раба или заключённого, что в условиях Древней Руси фактически являлось одним и тем же, и о полной конфискации его имущества. Кстати, самого слова «тюрьма» в Древней Руси не существовало. Преступников обычно отдавали «на поруки» члену общины, однако если поручителя найти не удавалось, то оступившихся помещали в погреба, ямы или даже клетки.
В различных документах Северо-Западной Руси, преимущественно в судных грамотах или договорах с европейскими городами, упоминается «посажение в железа». Историки единодушно считают, что эти слова говорят скорее о самом наличии института предварительного заключения, чем о дополнительных мерах к обвиняемому. Однако применение кандалов и цепей было обычной практикой в Московской Руси, как и в средневековой Европе.
Государственные тюрьмы, подчинявшиеся центральной власти, можно условно разделить на две группы. Это непосредственно великокняжеские учреждения и места лишения свободы, подчинявшиеся власти наместников. Условия содержания в местных тюрьмах целиком зависели от особенностей трактовки центральных законов или от местного законодательства, что актуально для времени феодальной раздробленности. Немаловажным фактором было и личное отношение наместника к преступнику.
Помимо светских тюрем в Древней Руси существовали так называемые «церковные дома» — это преимущественно помещения в монастырях. В Никоновской летописи упоминается, что отступников от христианской веры нередко помещали в погреба архиерейских домов. Однако «церковные дома» предназначались не только для религиозных преступников — очень часто там отбывали наказание и светские лица. Перечень таких правонарушений, по которым человек мог отправиться «гостить» к служителям культа, был довольно широк. Это и сожительство, и убийство ребёнка, и сексуальные связи женщин с иноверцами, и избиение юношами своих родителей.
Условия содержания в «церковных домах» были довольно тяжёлыми. Ситуацию усугублял и тот факт, что они не были официально регламентированы. Заключённые отбывали наказание без доступа к свету, в тесноте и духоте, в полной изоляции от внешнего мира. Сроки нахождения в таких исправительных учреждениях также не были определены — преступник должен был осознать своё деяние и покаяться. Достижение результата определялось прежде всего духовными лицами.
Сострадание к заключённым проповедовалось среди князей как акт величайшей христианской добродетели. В «Изборнике» Святослава — сборнике философских трактатов и статей византийских «отцов церкви», созданном для обучения будущих князей, — было указано: «Алчного накорми, больного присети, к темнице дойди, видишь беду их и вздохни». Более того, сами священнослужители временами помогали облегчить участь преступников, проявляя к ним христианское сострадание.
Уже во времена централизации Московского государства система исполнения наказаний трансформировалась — она стала стандартизированной, всё большую роль начали играть религиозные преступления, своеобразным апогеем стали события церковного раскола во времена Алексея Михайловича — тогда монастырские тюрьмы пополнились огромным количеством «вероотступников». С освоением Сибири и Дальнего Востока появилась возможность ссылать уголовников и просто неугодных людей на задворки страны — именно во времена первых Романовых зародилась система каторг.