Tháng 8 năm 1945, Ông tham gia lãnh đạo khởi nghĩa và giành chính quyền ở huyện Hải Lăng, tỉnh Quảng Trị. Tháng 9 năm đó ông được bầu làm Ủy viên Ủy ban tỉnh Quảng Trị. Khi toàn quốc kháng chiến bùng nổ, năm 1946, ông gia nhập Vệ quốc đoàn và trưởng thành từ chính trị viên Chi đội Thiện Thuật, đến Trung đoàn trưởng Trung đoàn 101 (Trung đoàn Trần Cao Vân-Trung đoàn Chủ lực của Trị Thiên Huế). Ngày 18.5.1950,  ông được cử vào Bộ Tư lệnh Liên khu 4. Từ năm 1950 đến 1953, ông là Phó chỉ huy trưởng Phân khu Bình Trị Thiên rồi Tư lệnh kiêm Chính ủy Quân khu 4. Từ năm 1953 đến năm 1957, ông là Cục trưởng Cục Quân lực thuộc Bộ Tổng Tham mưu. Năm 1954, ông là Ủy viên Đảng ủy tiếp quản Thủ đô,là một trong số 11 uỷ viên,do ông Trần Quốc Hoàn làm Bí thư. 

Từ năm 1957 đến 1960, ông giữ chức Phó chủ nhiệm Tổng cục Hậu cần. Năm 1960,Viện Kỹ thuật Quân sự trực thuộc Tổng cục Hậu cần, Bộ Quốc phòng được thành lập trên cơ sở Viện Nghiên cứu Quân giới. Ông đã được cử làm Viện trưởng đầu tiên,từ năm 1960 đến năm 1963.  

Từ năm 1963 đến năm 1965, ông giữ chức Thứ trưởng Bộ Quốc phòng kiêm chủ nhiệm Tổng cục Hậu cần. Sau đó, ông là Phó Tổng Tham mưu trưởng quân đội nhân dân Việt nam qua các giai đoạn (1965 -1974 và 1975 -1976). Ông là phó chủ nhiệm Tổng cục Kĩ thuật trong thời gian từ năm 1974 đến năm 1975.

Sau khi đất nước hoàn toàn thống nhất, ông được giữ chức Bộ trưởng Bộ Vật tư (1976-1982). Từ năm 1982-1990, Ông trở lại BQP và giữ chức thứ trưởng BQP.Từ 1982-1986, Ông còn kiêm giữ chức Chủ nhiệm Tổng cục Kinh tế. Ông là Uỷ viên Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khoá IV, đại biểu Quốc hội các khoá III,V,VII. Ông đã được Nhà nước tặng thưởng huân chương Hồ Chí Minh và nhiều huân chương khác.

Ông mất ngày 13 tháng 8 năm 2009 tại tp HCM.

Thượng tướng Trần Sâm là người quyết định đưa máy tính điện tử vào ứng dụng trong quân đội và đã đề nghị Nhà nước nhập chiếc máy tính đầu tiên là Minsk-32 cho quân đội .(Năm 1972, Nhà nước đã cho nhập 2 chiếc máy tính điện tử Minsk-32,một cho Tổng cục Thống kê và một cho BQP).Lúc bấy giờ địch đang bắn phá miền Bắc,nên việc đặt máy của quân đội ở đâu là một câu hỏi không dễ trả lời. Có nhiều đề xuất. Có ý kiến đề nghị đặt máy ở Lầu Công Chúa ( đường Phan đình Phùng,Hà nội ) và cũng có nhiều ý kiến lo ngại địch bắn phá nên yêu cầu cần đặt máy ở nơi khác, cách xa Hà nội. Thế rồi, cuối cùng máy được đặt ở một địa điểm rất quen thuộc hiện nay: 34ATrần phú-Hà nội. Đó là quyết định của thứ trưởng BQP- thiếu tướng Trần Sâm.

Vào dịp tết Mậu tý vừa qua, gia đình tôi có vào thăm thủ trưởng Trần Sâm đang ở quận Tân Bình. Thủ trưởng đã vượt qua tuổi 90, chỉ còn đủ sức đi lại từng bước chập chững trong buồng ngủ,thế nhưng thủ trưởng còn khá minh mẫn.Khi gặp tôi ,thủ trưởng nói đùa có phải là Sùng Lãm (tướng Sùng Lãm) không, rồi Ông nhắc đi nhắc lại nhiều lần rằng khi thủ trưởng đang làm thứ trưởng Bộ quốc phòng thì đã rất quan tâm đến khoa học kỹ thuật, đến máy tính Minsk-32 mà khi đó còn ít người biết đến cái máy tính điện tử là gì.Thủ trưởng bảo: mình ngày xưa học hành thì ít thôi nhưng không hiểu sao lại rất mê khoa học và quý những người làm khoa học,quý tri thức!

Ở thời điểm địch đang bắn phá miền Bắc ác liệt,những quyết định liên quan đến một thiết bị hiện đại như máy tính điện tử- lại là chiếc máy tính đầu tiên của quân đội,quả là nhiều gay cấn! Chúng tôi,những người làm Tin học trong quân đội vô cùng biết ơn Thượng tướng,người thủ trưởng BQP đã có những quyết định quan trọng tạo ra nhiều thuận lợi cho việc đưa Tin học vào ứng dụng trong Quân đội. Chính Thượng tướng cũng là người cắt băng khai trương việc sử dụng máy Minsk-32 vào phục vụ cho các tính toán trong quân đội và Nhà nước.Trong suốt những năm máy Minsk-32 hoạt động,mỗi khi gặp khó khăn trở ngại gì là chúng tôi xin gặp thượng tướng để giải quyết và bao giờ cũng được sự quan tâm tháo gỡ của Thượng tướng. Ông là người thủ trưởng BQP nhưng rất  gần gũi,thân mật, gắn bó với Trung tâm Toán- máy tính quân đội.

Chúng tôi ,những cán bộ đã nghỉ hưu, những người đã từng có thời kỳ sống và làm việc trong tập thể Trung tâm Toán-Máy tính Quân đội vô cùng thương tiếc vĩnh biệt Thượng tướng!

Nguyễn Lãm 

(VAIP) Hội Tin học Việt Nam vô cùng thương tiếc vĩnh biệt Thượng tướng Trần Sâm người có công đưa máy tính điện tử ứng dụng trong Bộ quốc phòng.