古文出自唐代文人韓愈倡導的古文運動，是與六朝時期流行的「今文」即駢文相對的概念。古文運動主張恢復先秦兩漢流行的質樸自由、以散行單句為主的文風，韓愈又提出「有道即有文」、「文以載道」的思想，在中國文學史上產生了極大影響。後來古文成為文言文的代稱。古文觀止雖然以古文為名號，但並不排斥駢文，一些精彩的駢文如《阿房宮賦》等也收錄在文集中。

觀止典出《左傳》的「季札觀周樂」一節：吳國公子季札在魯國觀《韶簫》之後，讚嘆道：「觀止矣！若有他樂，吾不敢請已。」意指韶簫是音樂水平的頂峰，欣賞過之後便不再欣賞其他音樂了。

二吳將文集取名「古文觀止」意指文集所收錄的文章代表文言文的最高水平，學習文言文至此觀止矣。