Tên nguyên thuỷ của nhà thờ là Nhà thờ Thánh Giu – se (Saint Joseph), do Giáo hoàng Innocentinus XI đã từng tôn phong Thánh Joseph là Thánh Bảo trợ nước ViệtNam và các nước lân cận. Chính vì vậy, ngôi thánh đường lớn nhất ở Hà Nội được tôn phong là “Nhà thờ lớn kính Thánh Giuse”.
Nhà thờ lớn Hà Nội do chính Giám mục Puginier tự tay vẽ kiểu và chỉ huy thi công xây dựng. Nhà thờ được thiết kế theo phong cách kiến trúc Gothique trung cổ châu Âu, rất thịnh hành trong thế kỷ 12 và thời Phục Hưng ở châu Âu, làm theo mẫu của Nhà thờ Đức Bà Paris với những mái vòm uốn cong, rộng, hướng lên bầu trời. Vật liệu xây dựng chính của nhà thờ là gạch đất nung, tường trát bằng giấy bổi. Nhà thờ có chiều dài 64,5m, chiều rộng 20,5m và hai tháp chuông cao 31,5m với những trụ đá to nặng bốn góc. Trên đỉnh là cây thánh giá bằng đá.
Phía sảnh trong nhà thờ, có một cửa đi lớn, hai cửa nhỏ hai bên tháp. Các cửa đi và toàn bộ các cửa sổ đều cuốn nhọn theo nghệ thuật Gothique, kết hợp với các cửa cuốn nhọn là những bức tranh Thánh bằng kính màu rất đẹp và hài hòa tạo ra nguồn ánh sáng tự nhiên bên trong lòng nhà thờ. Khu cung thánh được trang trí theo nghệ thuật dân gian truyền thống, chạm trổ hoa văn bằng gỗ sơn son thiếp vàng rất tinh vi độc đáo. Ở tòa gian chính có tượng thánh Giuse bằng đất nung cao hơn 2m.
Nhà thờ còn có một bộ chuông Tây, gồm bốn quả chuông nhỏ và một quả chuông boòng lớn. Đặc biệt là chiếcđồng hồ lớn gắn giữa mặt tiền nhà thờ. Đồng hồ có báo khắc, báo giờ, hệ thống chuông báo được liên kết với 5 quả chuông treo trên hai tháp.
Trung tâm quảng trường phía trước nhà thờ có đài Đức Mẹ bằng kim loại, xung quanh nhà thờ có đường kiệu, bồn hoa, phía sau có hang đá.
Bên ngoài nhìn nhà thờ có vẻ rất cổ kính với những lớp vôi cũ, rêu phong trên bức tường của thời gian. Nhưng khi bước qua cánh cửa lớn vào bên trong nhà thờ, du khách sẽ được chứng kiến một công trình kiến trúc hiện đại và dường như không biến đổi cùng với thời gian.
Nhà thờ lớn Hà Nội là một trong những trung tâm của các hoạt động Công giáo tại Hà Nội và các vùng phụ cận. Ngày thường, nhà thờ có 2 thánh lễ, ngày Chủ nhật có 7 thánh lễ. Ngoài ra, nhà thờ còn tổ chức lễ rước thánh Quan thầy của Tổng giáo phận Hà Nội là Thánh Giuse vào ngày 19 tháng 3 hàng năm.
