Dù ở vị trí công tác nào, ông cũng để lại trong tâm trí của mọi người hình ảnh một vị tướng chân thành, giản dị nhất mực.

Tổng Thư ký Hội Tin học TP. HCM Phạm Thiện Nghệ - một trong những học trò của GS. Nguyễn Đình Ngọc - xúc động nhớ lại: "Tôi là học trò của thầy Ngọc trong những năm 1970- 1973 ở trường ĐH Khoa học Sài Gòn. Thầy Ngọc đã dạy tôi môn Lý thuyết đàn hồi và lập trình "điện toán" ngôn ngữ PL1 ở bậc cử nhân, môn Toán và Địa triều ở bậc Tiến sĩ Đệ Tam cấp. Cho đến tận đến tận bây giờ, trong ký ức của tôi vẫn ăm ắp những kỷ niệm về thầy. Thầy Ngọc không những là người thầy lớn của chúng tôi mà còn là một trí thức yêu nước, một nhà khoa học lừng lẫy, một chiến sĩ cách mạng âm thầm cống hiến".

Ông Nghệ bộc bạch: "Theo nhận định của tôi, GS Nguyễn Đình Ngọc là một trong những người đầu tiên xây dựng nền CNTT Việt Nam. Đóng góp của GS cho sự phát triển của tin học nước nhà không chỉ ở giai đoạn sau khi đất nước đã hoàn toàn thống nhất mà phải kể đến cả thời kỳ trước giải phóng. Tôi e rằng không có nhiều người biết được việc thầy Ngọc đã đảm nhiệm nhiều chức vụ quan trọng, liên quan đến ngành CNTT ngay từ thời kỳ của chế độ Sài Gòn. Ngày đó, với mục đích phục vụ công tác  tình báo cho cách mạng, thầy Ngọc vừa là giảng sư ngoại ngạch của ĐH Khoa học Sài Gòn, vừa thường xuyên cộng tác làm việc cho hệ thống tính toán của Quân lực Việt Nam Cộng hoà với các cương vị: Cố vấn Trung tâm Điện toán - Bộ Tư lệnh Hải quân Sài Gòn, cố vấn Trung tâm Điện toán - Bộ Tổng Tham mưu Quân đội Sài Gòn, cố vấn Trung tâm Điện toán - Chính phủ Sài Gòn, Cố vấn Trung tâm Điện toán - Tổng nha Cảnh sát. Nhờ vậy, thầy đã cung cấp kịp thời, chính xác nhiều thông tin quan trọng cho các cấp chỉ huy, góp phần vào công cuộc giải phóng miền Nam, thống nhất đất nước".

Có một chuyện mà mãi sau ngày giải phóng miền Nam, thống nhất đất nước, giới trí thức Sài Gòn mới được biết rộng rãi: Vào tháng 9/1969, trong một lần họp Hội đồng Khoa học của trường ĐH Khoa học Sài Gòn, thầy Nguyễn Đình Ngọc đột nhiên đứng phắt dậy tuyên bố: "Hôm nay tôi có thông tin về một nhà cách mạnh lừng lẫy của phong trào độc lập Việt Nam, ông Hồ Chí Minh đã mất. Tôi đề nghị chúng ta có một phút mặc niệm cho Người". Lúc đó, cả Hội đồng giáo sư đều nhất loạt đứng dậy mặc niệm. Các giáo sư của Đại học khoa học Sài Gòn chỉ nghĩ rằng GS. Nguyễn Đình Ngọc là một người thân với cộng sản chứ không hề biết ông là chiến sỹ điệp báo. Hành động này của thầy Ngọc có thể nói là một hành động "can trường" xuất phát từ lòng kính yêu Bác tràn đầy.

Sau năm 1975, GS. Nguyễn Đình Ngọc được Bộ trưởng Bộ Công an mời ra Bắc. Do giàu kinh nghiệm công tác trong ngành máy tính nên ông được giao nhiệm vụ tham gia tiếp cận hệ thống máy tính của Mỹ để lại và tiếp nhận các hệ thống máy tính mới của Liên Xô. ở Bộ Công an, GS. Nguyễn Đình Ngọc đã đảm nhiệm vị trí Cục trưởng Cục Khoa học, Viễn thông và Tin học và được phong hàm Thiếu tướng Công an nhân dân.

GS. TS Chu Hảo - một cộng sự của cố GS Nguyễn Đình Ngọc - cũng bồi hồi kể lại: “Tôi và anh Ngọc đã có nhiều dịp làm việc cùng nhau trong những chương trình của Nhà nước về điện tử, tin học và viễn thông. Giai đoạn mà tôi làm việc nhiều nhất với anh Ngọc là khi chúng tôi cùng công tác tại BCĐ Quốc gia về CNTT, cùng giữ cương vị Phó trưởng ban”.

Trong suốt quá trình làm việc với cố GS. Nguyễn Đình Ngọc, GS. Chu Hảo ấn tượng nhất với hình ảnh một người khiêm tốn, giản dị đến mức hơi lập dị và nắm rất chắc, sâu về một số vấn đề chuyên môn ở mức cao. "Anh Ngọc luôn là người cập nhật được những thông tin mới về tình hình KHCN trên thế giới. Đặc biệt, sau khi Việt Nam nối mạng Internet toàn cầu, anh Ngọc dường như là người triệt để nhất trong việc khai thác, sử dụng thông tin qua mạng Internet để phục vụ nghiên cứu KH”, GS Chu Hảo cho biết.

TS. Nguyễn Kim ánh, Phó hiệu trưởng trường Đại học FPT cũng có không ít kỷ niệm với GS. Nguyễn Đình Ngọc, chị kể: "Mặc dù là một chuyên gia tầm cỡ của CNTT Việt Nam, một vị tướng của ngành Công an nhưng cuộc sống cá nhân của chú Ngọc lại hết sức giản dị, thậm chí là quá đơn giản và hơi khắc khổ. Trong công việc, chú Ngọc có sức làm việc "kinh khủng". TS. ánh hồi tưởng: “Tôi còn nhớ có những hôm chú Ngọc làm việc 24/24, quên ăn quên ngủ, thậm chí là ở lại văn phòng, không về nhà. Nhiều khi, những người làm việc cùng chú Ngọc như chúng tôi cũng bị cuốn theo cường độ làm việc khẩn trương của chú. Đặc biệt, chú Ngọc là người rất chú ý đến việc cập nhật thông tin, cập nhật tư liệu cho mọi người. Không những thế, chú Ngọc cũng rất xông xáo, sâu sát tình hình thực tế. Chú đã đi khắp các địa phương để xem xét, hướng dẫn địa phương triển khai các chương trình CNTT. Cá nhân tôi rất khâm phục chú Ngọc. Chú là người mà tôi thấy hội tụ những đặc điểm cao quý của người làm cách mạng".

Theo Ictnews