Unter dem Hochmeister Walter von Cronberg, wurde die Burg, Ende des 16. Jahrhunderts, ausgebaut, nachdem der Hauptsitz des Ordens im Zuge der Reformation und des Bauernkriegs nach Mergentheim verlegt worden war. Im Laufe der Zeit wurden einzelne Schlossbauten zu einem geschlossenen Gebäudekranz im inneren Schlosshof zusammengefasst.
Die berühmte Wendeltreppe, die West- und Nordflügel verbindet, wurde von Blasius Berwart im Jahr 1574 konstruiert. Seit 1626 umgibt das “äußere Schloss“ mit Verwaltungs- und Wirtschaftsgebäuden den Kern des Schlosses.
Dazu gehören:
 
  • der Hauptportalbau, der den Zugang von der Stadt eröffnet
  • die Brücke über den Wehrgraben
  • der Torturm
  • Kanzlei- und Archivgebäude
  • Marstall
  • das Bandhaus (früher Kelterhaus, Küferei- und Fruchtspeicher)
  • Reithalle
  • Scheune
  • Orangerie
                               
Im 18. Jahrhundert wurde neben den Umbauten im Flügel des Inneren Schlosses, die Schlosskirche gebaut, sowie das Priesterseminar. 1739 entstand nach den Plänen des Münchner Hofbaumeisters Francois Couvilliés die “Sala terrena“ am Südflügel, ein Rokoko-Gartenfesthaus. Im Jahre 1730 wurde die alte Schlosskirche abgebrochen und neu erbaut und die dadurch entstandene Fassade schloss den inneren Schlosshof.
Unter Napoleon erlosch 1809 mit der Säkularisierung und der Aufhebung des Deutschen Ordens der höfische Glanz der Residenz in Bad Mergentheim. Nach der darauf folgenden Eingliederung in das Königreich Württemberg wurden große Teile der wertvollen Bibliothek und der Einrichtung nach Stuttgart und Ludwigsburg verlagert.

Daraufhin wurde das Äußere Schloss von staatlichen Behörden und Verwaltungen in Anspruch genommen, während das Innere Schloss zunächst als Kaserne diente, jedoch später für städtische Einrichtungen diente. Daneben fanden aber auch noch Schulzimmer, eine Kleiderfabrik und eine Ballettschule Platz. Nach der Restauration im Jahre 1966 steht das Schloss als Museum der Öffentlichkeit zur Verfügung.