În perioada istorică a dominei reginei Tamara, de la sfârșitul secolului al XII-lea până la începutul secolului al XIII-lea, s-a născut nu numai poemul nemuritor al lui Shota Rustaveli "Cavalerul din pielea tigrului", ci și multe dintre cele mai faimoase monumente arhitecturale ale acestei țari uimitor de frumoasă: palatul Geguti (lângă orașul Kutaisi), mănăstirea din Betania (construită în cinstea Nașterii Fecioarei), mănăstirea Kinzvisi (la 25 km de Gori, cartierul Karelsky) și multe alte palate și catedrale. Printre acestea, cel mai remarcabil monument al arhitecturii georgiene poate fi numit complexul de mănăstiri din peșteră Vardzia, în regiunea Aspindza.
Primele clădiri ale acestui complex uimitor au apărut chiar în timpul domnitorului Tsar George al III-lea, iar forma finală a complexului de peșteri s-a format în timpul domniei reginei Tamara.
Manastirea moderna ocupa o suprafata de peste 500 de metri patrati și se întinde de-a lungul peretelui abrupt al Muntelui Erushketi si de-a lungul malului stâng al raului Kura. Pe 12 niveluri ale orașului monahal au fost sculptate aproximativ 600 de incaperi subterane. Un oraș din piatră cu străzi, piețe și 15 biserici, ale căror bolți stochează fresce unice, dintre care majoritatea au ajuns departe de a fi originale, dar totuși de o mare valoare istorică. Dintre cele mai bine conservate fresce, merită remarcate Invierea lui Lazăr și Intrarea în Ierusalim. În ciuda faptului că Vardzia a fost sculptată în stâncă de arhitecți străvechi, mănăstirea a fost dotată cu o conductă de apă proprie, izvor care a ajuns la mănăstire din munții vecini.
Dintre atracțiile locale, este deosebit de important de remarcat templul încorporat din piatra granulată, care este decorată cu picturile murale ale Reginei Tamara (una dintre cele patru picturi murale ale reginei, păstrată până în prezent). Tamara este descrisă alături de părintele George al III-lea și cuprinde în mâinile sale modelul bisericii în care este ea însăși.
Această caracteristică a orasului nu reprezinta un element ornamental aleator, ci este un detaliu natural. În timpul vieții reginei legendare, mănăstirea Vardzia a fost reședința preferată a domnitorului Georgiei. Personal, acesta a deținut 366 de camere în complex, dintre care, din motive de securitate, dormitorul reginei a fost ascuns în mod intentionat. Sistemul acustic al sălii de primire a ambasadorilor este, de asemenea, unic.
În prezent, se dezbate posibilitatea de a introduce orașul de peșteră din Vardzia in patrimoniului mondial UNESCO.