Cây Giáng sinh bắt nguồn từ một loài cây Evergreen (cây Thường Xanh) được dùng để trang trí ở Ai Cập và La Mã thời cổ đại. Một thông tin cho rằng khởi nguồn của cây Giáng sinh là những cành cây Thường Xanh nhỏ được treo ngược lên trần nhà. Ở nhiều quốc gia, người ta tin rằng việc này sẽ giúp họ tránh xa ma quỷ và bệnh tật.Ở các vùng phía bắc bán cầu, thời điểm màn đêm dài nhất năm rơi vào ngày 21, 22 tháng 12 hay còn được gọi là ngày Đông chí. Người xưa tin rằng khi đó vị thần mặt trời đang suy yếu và việc treo cây Thường Xanh lên sẽ giúp bảo vệ họ và mang lại niềm tin rằng các cây xanh, thực vật sẽ khoẻ trở lại. Sau khi qua ngày Đông chí, người dân tổ chức ăn mừng vì cho rằng đó là dấu hiệu thần mặt trời bắt đầu khoẻ lại, đồng thời ánh sáng ban ngày sẽ nhiều hơn.
Ngoài ra, nguồn gốc của cây Giáng Sinh còn gắn liền với những vở kịch thiên đường được biểu diễn khắp Châu Âu vào thời Trung Cổ. Thông qua nội dung nói về câu chuyện của Adam và Eva, đây cũng là một cách quảng bá các câu chuyện Kinh Thánh đến những người không thể đọc vào thời đó.
Người Ai Cập cổ đại thờ thần Ra hay còn được biết đến là thần mặt trời, người mang hình dạng đầu của một con chim ưng, đội vương miện với đĩa mặt trời trên đỉnh đầu. Vào ngày Đông chí, nhằm ăn mừng thần mặt trời khoẻ lại, người dân dùng cây cọ xanh lấp đầy nhà cửa, tượng trưng cho thời khắc ánh sáng mùa xuân đang đến.
Cây xanh đã có ý nghĩa đặc biệt với người dân vào mùa đông từ rất lâu về trước. Vào ngày Đông chí người La Mã đã dùng cây Fir (Chi Lãnh Sam) để trang trí nhà cửa, đền thờ của họ tại lễ hội Saturnalia, lễ hội vinh danh thần nông nghiệp Saturn này được cho là khởi nguồn của lễ Giáng sinh hiện nay. Vì họ biết rằng, thời tiết đã dần ấm lên và chẳng mấy chốc các trang trại và vườn cây sẽ lại xanh tốt và ra quả.
Tương tự ở Bắc Âu, các linh mục Druid cổ đại của dân tộc bí ẩn Celt cũng trang trí cho các ngôi đền của họ bằng cây thường xanh như một biểu tượng bất diệt. Các chiến binh Viking dữ tợn nghĩ rằng đây là loài cây đặc biệt của thần mặt trời Balder.
Nước Đức được ghi nhận là nơi bắt đầu truyền thống cây Giáng sinh vào thế kỷ 16, khi những người theo đạo Cơ Đốc bắt đầu dùng chúng để trang trí trong nhà. Một số nơi thì xếp các khúc gỗ theo hình kim tự tháp và trang trí chúng bằng các nhánh cây thường xanh và nến, mang hình dạng của cây Giáng sinh hiện nay. Nhiều người thì tin rằng nguồn gốc này bắt nguồn từ nhà cải cách tôn giáo - Martin Luther, vào một buổi tối mùa đông ông dạo bước qua cánh rừng, khi hàng triệu vì sao lấp lánh trên cao, vẻ đẹp của một loài cây nhỏ phủ tuyết trắng lại thu hút được sự chú ý của ông. Vì thế, ông mang về và đặt chúng trong nhà, để tái hiện lại khung cảnh lấp lánh ánh sao, ông đã treo nến lên cành cây. Theo ông, cây nến cháy sáng tượng trưng cho ánh sáng của chúa (Jesus Giê Su mang đến cho nhân loại), màu xanh của cây thông tượng trưng cho sự hằng hữu của chúa. Sau đó, truyền thống này lan rộng sang các khu vực khác của châu Âu.
Hầu hết người Mỹ ở thế kỷ 19 đều thấy cây Giáng sinh là một điều kỳ lạ và được xem là biểu tượng ngoại giáo, không được chấp nhận. Như nhiều phong tục lễ hội khác, cây Giáng sinh mất nhiều thời gian để được chấp nhận ở Mỹ. Cho đến những năm 1890, cây Giáng sinh mới thật sự phổ biến ở văn hoá nơi đây với nhiều vật phẩm trang trí Giáng sinh nhập khẩu từ Đức được người dân ưa chuộng. Khác với Châu Âu, sử dụng các cây nhỏ có chiều cao 1,2 mét, người Mỹ lại thích những cây Giáng sinh lớn và cao đến trần nhà hơn. Ở đầu thế kỷ 20, người Mỹ đã tự tạo ra nhiều đồ trang trí cây, sử dụng điện mang lại ánh sáng cho cây. Điều này tạo ra thay đổi rất lớn, giờ đây, cây Giáng sinh có thể phát sáng liên tục trong nhiều ngày. Dần dần, hình ảnh cây Giáng sinh bắt đầu xuất hiện tại các quảng trường thị trấn trên khắp đất nước và trở thành truyền thống của nước Mỹ.
