Đầu năm 1957, sau khi công tác tại đoàn văn công thuộc Sở Văn hóa khu tự trị Thái Mèo được 4 năm (1954-1957), ông Thuần xin cơ quan cho thi vào trường ĐH Tổng hợp Hà Nội. Do khu vực Tây Bắc xa xôi, nên việc vận động được người lên thay thế là rất khó, vì vậy lãnh đạo Ủy ban hành chính khu tự trị Thái Mèo nói với ông Thuần: Nguyện vọng của anh chúng tôi rất ủng hộ, nhưng chúng tôi rất cần anh ở đây, anh nên suy nghĩ lại!
Năm 1957, trường Đại học Tổng hợp có chủ trương đào tạo nhân tài cho đất nước nên siết chặt thi đầu vào. Với 3 môn thi là văn, toán, lý, ông làm bài vật lý tương đối tốt, còn môn toán có một bài cuối cùng rất khó. Lúc ấy ông nghĩ: nếu trượt thì phải trở lại Sở Văn hóa khu tự trị Thái Mèo công tác, hoặc xin ở lại một năm để năm sau thi tiếp, nhưng chắc lãnh đạo cơ quan sẽ không đồng ý điều này. Còn 15 phút nữa là hết giờ, ông tập trung cao độ để giải bài toán khó, đến lúc còn 3-4 phút thì mới tìm được cách giải và ông làm rất nhanh. Kết quả, ông đỗ cao thứ 4 trong số sinh viên vào khoa Toán khóa ấy. Phó giáo sư Thuần chia sẻ: Thi vào đại học là bước ngoặt lớn trong đời tôi, nếu không vào đại học có thể tôi đã trở thành một nhạc sĩ chứ không phải là một nhà khoa học như bây giờ.
Ông cho biết thêm, khóa 1 trường Đại học Tổng hợp tuyển khoảng 50-60 sinh viên mỗi lớp. Sau đó, do có sự tranh luận giữa các thầy giáo về phương pháp, mục tiêu đào tạo,thầy Hiệu phó Lê Văn Thiêm nêu ý kiến: không nên đào tạo ồ ạt, nên chú trọng chất lượng, đào tạo nhân tài cho đất nước. Vì vậy, đến khóa 2, các lớp Lý 2, Toán 2, Sinh 2, Hóa 2 mỗi lớp chỉ lấy từ 10-12 người, riêng lớp Toán 2 có 14 người, trong đó có 5 người lưu ban từ khóa 1. Ông Thuần chia sẻ, có những người học rất giỏi, nhưng do lơ là trong hoạt động chung, sinh hoạt lớp, nên bị lưu ban. Từ khóa 3, nhà trường lại tuyển khoảng 50-60 sinh viên mỗi lớp như khóa 1. Khi vào trường Đại học Tổng hợp, ông may mắn được học các thầy giỏi như GS Hoàng Tụy, GS Lê Văn Thiêm, GS Nguyễn Thúc Hào… Các thầy kiến thức rất uyên bác, thầy Hoàng Tụy đặt vấn đề rõ ràng và giảng bài rất lôi cuốn sinh viên. Theo ông Thuần, thầy Thiêm giỏi chuyên môn nhưng phương pháp sư phạm thì yếu, vì tay phải thầy viết, tay trái thầy xóa, sinh viên ở dưới khó ghi chép. Thầy Nguyễn Thúc Hào rất mô phạm, kiến thức và phương pháp sư phạm rất giỏi, lập luận chặt chẽ. Ngày đó thi rất khó, khi thi vấn đáp luôn có 2 thầy hỏi thi và rất nghiêm. Tại trường Đại học Tổng hợp thời ấy, phong trào lao động xã hội chủ nghĩa sôi nổi, thời gian lên lớp ít, điều đó ảnh hưởng đến việc học, nên nếu ai không có khả năng tự học sẽ khó khăn. Phó giáo sư Hồ Thuần cho biết thêm, khi ông vào trường Tổng hợp, một số người bạn thời trung học (học cùng trong thành Hà Nội) đã trở thành thầy giáo của ông, như: Nguyễn Thừa Hợp, Phan Đức Chính, Hoàng Hữu Đường… Ông Hồ Thuần thừa nhận, ông luôn chăm chỉ, nghiêm túc trong học tập, có khả năng trình bày vấn đề khá lưu loát, nên có khi thi vấn đáp ông mới trả lời được một phần câu hỏi thì thầy giáo đã bảo dừng lại và cho điểm cao, đồng thời không hỏi thêm gì nữa. Đến năm thứ 4, ông làm luận văn tốt nghiệp do thầy Hoàng Hữu Đường hướng dẫn. Luận văn được đánh giá tốt bởi xuất phát từ một bài toán đăng trên báo của Viện Hàn lâm khoa học Liên Xô, chính ông phát hiện ra một số lỗi và ông làm luận văn về vấn đề đó. Tài liệu tham khảo để làm luận văn khi đó chủ yếu là bằng tiếng Nga ở thư viện của trường, có cả những tài liệu do thầy Đường cho mượn. Kết thúc khóa học, ông được nhận giấy khen dành cho sinh viên xuất sắc của trường. Sau khi tốt nghiệp (1960), ông được giữ lại làm cán bộ giảng dạy tại khoa Toán, trường Đại học Tổng hợp.
Tờ giấy khen này được Phó giáo sư Hồ Thuần lưu giữ cẩn thận và ngày 6-11-2015 ông đã tặng cho Trung tâm Di sản các nhà khoa học Việt Nam.