Năm 1961, khi đang công tác tại Công ty than Hòn Gai, ông Hồ Sĩ Giao được Phó giám đốc kỹ thuật Văn Tôn động viên: Chuyên gia Liên Xô khen cậu làm được nhiều việc. Tuy nhiên, sau xã hội phát triển, thiếu cơ sở lý luận thì khó làm việc. Cậu nên về Hà Nội học đại học. Ông Giao mới chỉ tốt nghiệp lớp 7, nên ông đăng ký học bổ túc trước khi thi đại học. Ông được phân công về trường Bổ túc công nông Trung ương ở Hà Nội học một năm chương trình lớp 10.
Năm 1962, Hồ Sĩ Giao tốt nghiệp trường Bổ túc công nông Trung ương, muốn vận dụng các kiến thức về địa chất cho việc khai thác mỏ nên đăng ký học ngành Mỏ, khoa Mỏ – Địa chất, trường Đại học Bách khoa Hà Nội.
Thuở đó, trường Đại học Bách khoa Hà Nội có hai chương trình học là A và B. Tùy từng ngành mà theo học chương trình khác nhau. Trong khoa Mỏ – Địa chất, ngành Mỏ học chương trình A, ngành Địa chất thăm dò học chương trình B. Cùng một môn học nhưng chương trình A học nâng cao hơn, số lượng tiết nhiều hơn. Chẳng hạn, cùng môn toán giải tích, chương trình A học 75 tiết, chương trình B chỉ học 45 tiết. Hoặc môn Sức bền vật liệu, chương trình A học 90 tiết còn chương trình B học 60 tiết, Phó giáo sư Hồ Sĩ Giao chia sẻ. Tài liệu học các môn đều dịch từ sách tiếng Nga. Ông đã từng có thời gian làm việc với chuyên gia Liên Xô nên có thể đọc hiểu tài liệu bằng tiếng Nga.Trong bốn năm đại học, Hồ Sĩ Giao học đều tất cả các môn, nhưng yêu thích hơn cả vẫn là toán, lý. Ông đạt điểm tối đa ở hầu hết các môn, chỉ duy nhất môn thông gió mỏ hầm lò đạt điểm 4.
Giảng viên ngành Mỏ đa số là sinh viên tốt nghiệp khóa I, khóa II được giữ lại trường và một số người học tập ở Liên Xô, Trung Quốc về, gồm: ông Cao San dạy môn xây dựng mỏ; ông Đinh Hùng và Vũ Cao Đàm dạy môn thông gió mỏ; ông Lương Lãn dạy môn khai thác mỏ; ông Phan Điền; ông Nguyễn Đức Chung…
Trong quá trình học tập, sinh viên ngành Mỏ phải trải qua ba kỳ thực tập. Năm học thứ hai, cả lớp thực tập một tháng ở xưởng cơ khí. Sinh viên được giảng viên khoa Cơ khí hướng dẫn các kỹ năng đúc, hàn, rèn, phay, bào, tiện, nguội, phương pháp sản xuất kìm, ốc vít, bu lông…
Cuối năm học thứ 3, sinh viên đi thực tập địa chất ở thị trấn Đồng Mỏ, huyện Chi Lăng, tỉnh Lạng Sơn. Sinh viên được hướng sẫn cách quan sát các đứt gãy, uốn nếp, cấu tạo địa chất. Sau khoảng một tháng, đoàn về Hà Nội, thăm Bảo tàng Địa chất trên phố Phạm Ngũ Lão. Đoàn được nghe cán bộ bảo tàng giới thiệu về các loại cổ sinh vật.
Năm học thứ 4, sinh viên được chia đi thực tế ở các mỏ, hầm lò. Ông Hồ Sĩ Giao được phân công về thực tập ở mỏ than Thống Nhất (Cẩm Phả, Quảng Ninh) để tìm hiểu cách vận hành của mỏ. Trước đây chỉ biết làm thực tiễn, khi được học lý thuyết rồi thì làm thực tiễn tôi sẽ hiểu rõ hơn: Hiểu tại sao có quá trình mở vỉa, đào lò trước, đào lò sau, phải có lò thông gió, lò thượng, lò hạ…, cách đặt lò thông gió như thế nào. Hiểu thêm nguyên lý làm việc của máy đào lò, máng cào, băng tải, ông chia sẻ.
Theo Phó giáo sư Hồ Sĩ Giao, khóa của ông không cần làm đồ án tốt nghiệp, chỉ làm đồ án môn học do vào năm học cuối (1966) trường phải sơ tán lên Tràng Định, Lạng Sơn. Thời gian này, ông nhớ nhất chuyện tham gia cải tạo hang núi năm 1965. Ông và ba bạn cùng lớp: Đỗ Thụy Đằng, Trịnh Thế Phiệt và Hoàng Trọng Cẩm được trường cử hướng dẫn một nhóm hơn chục sinh viên khóa 10 ngành Chế tạo máy, liên khoa Cơ khí – Luyện kim, để cải tạo cái hang ở khu H7 làm xưởng chứa trang thiết bị của trường. Nhiệm vụ khó khăn nhất là xác định vị trí cần đào lỗ thông gió từ cuối hang lên trên sườn núi, mà trang thiết bị chỉ có thước dây, máy khoan, mìn, cuốc, xẻng… Vận dụng kiến thức về hình học và khai thác mỏ, 4 người xác định được vị trí đào lỗ thông gió, lỗ có đường kính khoảng 2m. Trong quá trình đào lỗ thông gió, nguy hiểm nhất là việc nhặt mìn câm. Ông kể lại: Chúng tôi sử dụng mìn bằng dây cháy chậm và kíp nổ thường. Có quả mìn nổ trước, có quả mìn nổ sau. Những quả nổ trước sẽ làm đá bắn tung tóe, cắt vào dây cháy chậm của của quả mìn khác khiến nó không nổ được. Vậy là chúng tôi phải dùng cuốc, xẻng đào đá lên để tìm từng quả mìn câm. Chỉ cần chạm vào kíp nổ là mất mạng nên không dám để sinh viên mới nhập học (khóa 10) làm. Bốn người chúng tôi thay nhau làm, vừa làm vừa động viên nhau. May mắn không gặp sự cố gì nghiêm trọng. Sau khi mìn câm được nhặt hết, các sinh viên khóa 10 dọn hết đất đá. Vui nhất là khoảnh khắc người đứng trong lỗ thông gió và người ở hang có thể bắt tay nhau, công việc đã hoàn thành!, Phó giáo sư Hồ Sĩ Giao rất nhớ cảm giác đó.
Sau hơn một tháng, nhiệm vụ cải tạo hang hoàn thành. Ban giám hiệu tiếp tục phân công 4 sinh viên này tham gia công việc nổ mìn phá đá để làm đường dẫn vào H9. Trong quá trình làm, chúng tôi phải nổ đến mấy chục nghìn mét khối đá, Phó giáo sư Giao chia sẻ.
Sinh viên có gia đình ở Hà Nội đều ngoại trú và họ chỉ được nhận học bổng 6-9 đồng/tháng, trong khi sinh viên nội trú được 18 đồng/tháng. Ông Hồ Sĩ Giao là cán bộ đi học nên được hưởng mức 42 đồng. Lúc đó, người em trai Hồ Sĩ Cửu cũng là sinh viên cùng trường, học khóa 5 ở liên khoa Cơ khí – Luyện kim, học bổng 18 đồng/tháng. Hàng tháng, tổ trưởng lên phòng kế toán nhận học bổng cho các bạn trong tổ mình. Hai anh em Hồ Sĩ Giao gộp chung học bổng là 60 đồng, vừa đủ chi tiêu hàng tháng: mỗi người đóng 15 đồng tiền ăn cho nhà bếp, còn lại là tiền ăn sáng, mua sách, vở, bút, quần áo…
Hầu hết khu ký túc xá của sinh viên đều là nhà lá. Sinh viên ở theo tổ. Ngành Mỏ khóa 6 có khoảng 37-38 người, chia thành 2 tổ, ở hai phòng. Mỗi phòng rộng 18m vuông, kê toàn giường 2 tầng. Bữa cơm trưa, tối của sinh viên thường có thịt lợn kho, đậu phụ và rau muống luộc. Theo tiêu chuẩn, bữa sáng mỗi sinh viên được một chiếc bánh mì. Tổ trưởng cầm phiếu mua bánh mì cho cả phòng, với giá 1 – 1,5 hào/chiếc. Mỗi lần mua, nhân viên nhà bếp sẽ đánh dấu lên phiếu. Tuy nhiên, với sức ăn của thanh niên, một chiếc bánh mì vẫn chưa đủ, nên nhiều hôm các ông trộm một ít nước tẩy Javen ở phòng thí nghiệm của khoa Hóa học để tẩy dấu mực trên phiếu rồi lại dùng phiếu đó mua thêm bánh.
Giữa năm 1966, sau khi tốt nghiệp, ông Hồ Sĩ Giao được giữ lại làm cán bộ giảng dạy. Tháng 11-1966, khoa Mỏ – Địa chất của trường Bách khoa tách ra và thành lập trường Đại họ Mỏ – Địa chất, ông chuyển sang đó công tác. Sau 2 năm tốt nghiệp, tháng 7-1968 ông nhận bằng tốt nghiệp do kỹ sư Đặng Xuân Đỉnh – Hiệu trường trường Đại học Mỏ – Địa chất ký. Điều này khiến ông rất bất ngờ! Học Bách khoa lại nhận bằng của Mỏ – Địa chất. Ông tâm sự: Đó là tình trạng chung của sinh viên khóa 6, khoa Xây dựng và khoa Mỏ – Địa chất ở trường ĐH Bách khoa Hà Nội. Sinh viên khoa Xây dựng được trường Đại học Xây dựng cấp bằng, chúng tôi được trường Đại học Mỏ – Địa chất cấp bằng.