玉堂原本的意思是由美玉装饰的宫殿，后来有“历金门，上玉堂”的说法，意思为金榜题名，成为朝中重臣，而在汉代，朝中大臣都在玉堂署办公，宋代以后玉堂署改名为翰林院，于是玉堂便指的是翰林院。

玉堂一词出自战国时期，宋玉《风赋》：“然后倘佯中庭，北上玉堂，跻于罗帷，经于洞房，乃得为大王之风也。”