Гимназија је почела са радом 1. новембра 1791. године и имала је шест разреда, четири нижа („граматика“), и два виша („хуманиора“). Наставни језик је, као и у многим другим школама тог времена, био латински, а учили су се немачки, историја, земљопис, природне науке, антропологија, римске старине, физика, логика и моралка. Касније је уведен и грчки језик.
Зграда у 19. веку
Први директор је био Јован Грос, Словак који је докторирао у Јени, а следећи Андрија Волни, такође Словак. Стратимировић је бирао професоре и доводио директоре. Пошто међу Србима тог доба није нашао погодне личности определио се за Словаке. Тако је следећи директор Георгије Карло Руми, а од 1821. године Павле Магда.
Данашња зграда је саграђена 1891. године по пројекту Јулијуса Партоша, мађарског архитекте. Када је саграђена, уједно је била и Патријаршијски двор и сматрана је најрепрезентативнијом српском грађевином у Војводини.
Више о историји Карловачке гимназије: https://sites.google.com/site/karlgimn1/o-skoli/istorijat-skole