Miasto zostało założone przez Konstancjusza I Chlorusa (ojca Konstantyna Wielkiego) w III w. jako rzymska warownia Constantia. W 570 r. w mieście założono biskupstwo (istniało do 1526 r.). W 780 r. Konstancja uzyskała prawa miejskie, a w 1192 r. stała się wolnym miastem cesarskim. W średniowieczu pomyślny rozwój Konstancji wiązał się z organizowaniem w mieście targów. W latach 1414-1418 w mieście miał miejsce sobór powszechny (wówczas, w 1415 r., spalono na stosie Jana Husa). W 1805 r. miasto weszło w skład Badenii, w 1848 r. miały miejsce niepokoje rewolucyjne ("Wiosna Ludów"). W mieście podziwiać można liczne zabytki. Romańsko-gotycka katedra z ottońską kryptą pochodzi z XI w. (przebudowana została w XV i XIX w.). Renesansowy ratusz miejski powstał w XV-XVI w., kościoły i klasztory pochodzą z XI-XIV w., zachowana brama miejska została wzniesiona w XIV w.