Най-ранните следи от живот в Карлово датират от новокаменната епоха /VІ хил. пр. Хр./. В местността Ясъ тепе западно от града е съществувало неолитно селище. Тракийските племена, населявали земите около днешно Карлово през късножелязната епоха /VІ в. пр. Хр. – І в./, според изследователите влизат в сборния етноним одриси.
В близост до днешния град са съществували няколко селища и крепости: Карловското кале, малка късноантична крепост, датирана от ІV – VІ в. Намира се на планински скат над парка “Беш бунар”; Сушицкото кале – намира се в южните склонове на Стара планина, източно от сегашния кв. “Сушица”, продължило да съществува и през ХІІ-ХІV в.; крепостта над Параклиса “Св. Троица”, североизточно от Карлово, съществувала и през ХІІ-ХІV в.
Куршум джамия /покрита е с оловни листове/ е построена през 1485 г. от османския военачалник Али бей, син на Карлъ. Куршум джамия днес е най-старият запазен архитектурен паметник на културата в града.
В гр. Карлово към момента има около 115 къщи паметници на културата. През Възраждането в града се развиват над 30 вида занаяти: гайтанджийство, розопроизводство, басмаджийство, медникарство, кожарство, тъкачество, златарство, копринарство и др. Карлово се оформя като икономически проспериращ град с изключителен подем на занаятите и търговията, която надхвърля границите на Османската империя и е предимно в ръцете на българските производители и търговци. Едрите търговци Пулиеви, Гешови, Хаджидимитрови, Георгиеви и др. Развиват широка търговска дейност по всички пазари на Османската империя, с Влашко, Молдова, Русия, Франция, Англия и др.
През XVII в. тук като „изкусен книжовник“ и учител работи Аврам йерей Димитревич, представител на Карловско-Аджарската книжовна школа. През Възраждането Карлово е важен просветен и книжовен център. Тук работят изтъкнати възрожденски педагози и просветители: Райно Попович, Ботьо Петков - бащата на Христо Ботев, Христо Попвасилев, Брайко Хаджигенов, Димитър Попов и редица др.
В средата на ХІХ в. са построени двете църкви “Успение на Пресвета Богородица” /възстановена през 1851 г./, в която през 1859 г. Васил Левски е ръкоположен за йеродякон и “Св. Николай” /1847 г./, в която за първи път през 1858 г. се чества празникът на славянската писменост, а на 16.01.1878 г. е избран Първия градски съвет. В църковния двор се намира гроба на майката на Васил Левски Гина Кунчева.
През 1892 г. Карлово участва в Първото Пловдивско изложение. Павилионът е построен със средства на Евлогий Георгиев, в който са изложени произведения на местната индустрия и занаяти. Карловските изложители получават три златни, 19 сребърни, 13 бронзови медала и 2 почетни дипломи.
През 1926 г. е изградена една от първите водно-електрически централи в България ВЕЦ “Стара река”; ж.п. линията Пловдив – Карлово /1933 г./, Винарската изба /1933 г./; построени са банки, фабрики и училища.
Карлово е родно място на редица просветители, общественици, дарители, творци, военни дейци, строители на съвременна България.