Năm 1961 , Nguyễn Kim Ngọc tốt nghiệp tại trường cấp III Thường Tín và có nguyện vọng thi vào ngành địa chất bởi từ nhỏ chưa đi đến đâu, chưa từng thấy núi rừng. Nhưng ông lại “chán ngấy việc học”, nên dự định ở nhà giúp gia đình vài năm, sau đó sẽ thi vào khoa cơ khí của Đại học Nông nghiệp. Nhưng cả gia đình không ai đồng ý với suy nghĩ này, vì thế ông chọn thi vào ngành địa chất của trường đại học Bách khoa Hà Nội. Năm1962, Nguyễn Kim Ngọc thi đỗ và trở thành sinh viên K7, lớp địa chất công trình, trường Đại học Bách khoa Hà Nội.
Năm thứ nhất, cả lớp đi lao động tại nông trường Vân Lĩnh – Phú Thọ trong một tháng với công việc chính là rẫy cỏ cho vườn chè. Ông kể: “Vì xuất phát nhà nông, nên công việc với tôi không khó, nhưng ăn uống thì vất vả: Sáng sắn luộc, trưa cơm độn sắn với canh sắn, chiều canh sắn chan cơm độn sắn. Cả tháng trời ăn sắn đến ớn”. Sang học kỳ 2 của năm nhất, cả lớp đi thực tập môn địa chất đại cương ở Đồng Mỏ – Lạng Sơn. Với nhiệm vụ tổ phó, ông phải đi mượn dụng cụ cho cả lớp (quần áo, địa bàn, búa, bản đồ), tạm ứng học bổng, tem gạo, sau khi kết thúc thực tập thì đem trả dụng cụ đã mượn. Ông chia sẻ: “Lần đầu tiên đi thực tập, tôi cùng với mấy bạn trong lớp diện bộ quần áo lao động, mang đôi giày leo núi, khoác chiếc áo mưa vải bạt rủ nhau lên Bờ Hồ dạo một vòng, hãnh diện lắm”.
Lớp địa chất công trình có 30 sinh viên, trong đó có 5 người là bộ đội về học. Thời gian đầu tất cả đều ở chung trong kí túc xá, nhưng sau đó do chiến tranh phá hoại miền Bắc nên các sinh viên là bộ đội phải chuyển ra ngoài sinh hoạt tập trung ở doanh trại.
Đến năm thứ 4, ông được bộ môn cử đi hỗ trợ thầy Nguyễn Trọng Hùng trong các chuyến đi thực địa ở Lào Cai, Phú Thọ, Tuyên Quang để thu thập số liệu phục vụ cho việc làm luận án tại Liên Xô. Khi trở lại trường thì trường đã sơ tán về Thuận Thành – Bắc Ninh. Vì hoàn cảnh chiến tranh, tất cả sinh viên lớp địa chất công trình khi đó đều không phải làm đồ án tốt nghiệp và ngày 15-11-1966 được trường cấp giấy chứng nhận đã hoàn thành khóa học. Ngày này cũng đúng là ngày có quyết định thành lập trường Đại học Mỏ – Địa chất và Nguyễn Kim Ngọc được phân công về làm việc tại khoa Địa chất công trình của trường.
Năm 1969, ông được trường Đại học Mỏ – Địa chất cử đi làm nghiên cứu sinh tại trường Đại học Địa chất Dầu khí Bucarest, Rumani. Trong hồ sơ của Nguyễn Kim Ngọc gửi sang Rumani, không có bằng tốt nghiệp đại học mà chỉ có giấy chứng nhận tốt nghiệp. Năm 1973, khi chuẩn bị bảo vệ luận án, phía Rumani yêu cầu phải có bằng tốt nghiệp đại học thì mới được cấp bằng Tiến sĩ. Nguyễn Kim Ngọc nhờ vợ ở nhà làm thủ tục gửi phòng Đào tạo của trường Đại học Mỏ – Địa chất để xin cấp bằng tốt nghiệp và gửi sang Rumani. Sau khi về Việt Nam, bằng tốt nghiệp đại học được ông lưu giữ như một kỷ niệm về những năm tháng sinh viên.Ông chia sẻ: “Thời sinh viên sôi nổi đó đã xác lập cho tôi lòng tự tin, tinh thần trách nhiệm, tính tổ chức kỷ luật, cẩn trọng trong phát ngôn và cũng đào tạo tôi thành một kỹ sư ngành địa chất thủy văn”.
