История первых поселений в ближайшей к городу черте восходит к палеолиту. Это подтверждается тем, что рядом с современной Рязанью было обнаружено рубило из кремния возрастом 75-80 тысяч лет.
Издревле на территории будущего города селились племена вятичей. В XI веке усилиями князя Святослава Игоревича эти земли вошли в состав Киевской Руси.
Источников, однозначно указывающих на дату основания города, не существует. Достоверно известно лишь то, что в середине XII века уже был построен первый кремль и некоторые укрепления. Это подтверждается и путевыми заметками некоторых иностранных путешественников, в частности арабским миссионером Абу Хамидом аль-Гарнати (1150 год).
После разрушительного монгольского нашествия и почти полного уничтожения Батыем в 1237 году Старой Рязани, административный центр переместился в Переяславль-Рязанский, у впадения реки Трубеж в Оку.
В период правления Ивана Грозного Переяславль-Рязанский вошел в состав земщины. В годы Смуты именно рязанцы стали инициаторами формирования Первого ополчения под командованием Прокопия Ляпунова.
В XVIII веке город становится центром Рязанской губернии. Это время характеризуется активным развитием торговли и градостроительства. Была открыта пивоварня, кожевенные мануфактуры, полотняная фабрика. Кроме экономических изменений в Рязани активизировалась культурно-просветительская деятельность: основан старейший в России драматический театр, открыта гимназия, заработала первая типография. В годы Отечественной войны 1812 года Рязань приняла большое число беженцев из Москвы и других разоренных французами городов.
Примечательно, что почти два года (с 1858 по 1860) вице-губернатором Рязани служил замечательный русский писатель М.Е. Салтыков-Щедрин. В конце XIX века торгово-экономическое значение города возрастает благодаря строительству через него железной дороги.
Во время Октябрьской революции Рязань перешла на сторону большевиков почти сразу после получения информации о вооруженном восстании в Петрограде.
В самом начале 1930-х годов город временно входит в состав Московской области, однако спустя буквально год возвращает себе статус административного центра новообразованной Рязанской области.
В годы Великой Отечественной город находился в осадном положении, но немцы были остановлены в 30-35 километрах к западу. В 1942 году в Рязани и в небольшом поселке Сельцы начала свое формирование Войско Польское, которое впоследствии принимало участие в сражениях на территории СССР, Польши и Германии.