Cha mất sớm, 27 tuổi Nguyễn Sư Mạnh mới lều chõng đi thi và đỗ Đệ tam giáp đồng Tiến sĩ xuất thân đời vua Hồng Đức thứ 15 (1484). Tên ông được khắc trong bia “Hồng Đức thập ngũ niên Giáp Thìn khoa Tiến sĩ đề danh kí” ở Văn Miếu - Quốc Tử Giám.
Sau khi đỗ đạt, Nguyễn Sư Mạnh được bổ làm quan và làm Thượng thư Bộ Lễ, tước Sùng Tín hầu, vốn là người biết nhiều, hiểu rộng, được vua Lê cử đi sứ Trung Quốc vào năm 1500. Đến nay, còn nhiều giai thoại về chuyến đi sứ này của ông. Một trong những giai thoại kể lại: Khi yết kiến vua nhà Minh, không biết vô tình hay hữu ý mà Nguyễn Sư Mạnh không cài khuy áo, để hở cả bụng. Thấy vậy, vua nhà Minh nổi cơn giận dữ, cho rằng sứ thần nước Nam thất lễ, hạch sách và khép ông vào tội "khi quân", định trục xuất về nước. Nguyễn Sư Mạnh vội quỳ mà tâu rằng:
 |
| Nhà thờ Lưỡng quốc Thượng thư Nguyễn Sư Mạnh |
- Muôn tâu, vì đường sá xa xôi, bụng thần lại chứa đầy chữ, mà sau nhiều ngày đi đường âm u, ẩm ướt, sợ “khú” mất chữ thánh hiền nên thần mạo muội xin được phanh áo ra hong, mong nhà vua đại xá.
Nghe vậy, vua Minh phần muốn thử tài, phần muốn nhân cơ hội này hại người nước Nam nên ra chiếu: “Nếu sứ thần nước Nam là người hay chữ thì hãy giúp thiên triều chép lại thiên Vi Chính trong sách Luận ngữ mới bị thất lạc”.
Nguyễn Sư Mạnh không một chút suy tư nhận lời ngay và hỏi lại rằng: Bẩm đại vương cần thiên Vi Chính trong bao nhiêu ngày? - Trong 30 ngày phải hoàn tất. Vua Minh nói và hạ lệnh cho sứ thần nước Nam không được ra khỏi dinh thự trong 30 ngày và cho người theo dõi, giám sát chặt chẽ, chắc mẩm Nguyễn Sư Mạnh sẽ không làm nổi.
Gần hết thời hạn quy định mà thấy sứ thần chỉ ngồi đánh cờ. Đến ngày thứ 25, vua Minh sai người nhắc nhở, Nguyễn Sư Mạnh trả lời: “Ngày mai thần sẽ viết”. Đến ngày thứ 29, ông đưa thiên Vi Chính cho vua Minh. Nhận sách, vua Minh khen sứ thần nước Nam có trí nhớ tuyệt vời, sách chép lại y như bản chính, chỉ có chữ “công” thừa một dấu chấm. Không thể chê vào chỗ nào được nên vua Minh mượn cớ này để hạch tội, song Nguyễn Sư Mạnh đã khẳng khái nói:
- Nếu thần viết thừa dấu chấm thì chắc chắn bản gốc của thượng quốc cũng thừa. vua Minh bèn đem bản gốc ra so sánh thì y như lời Nguyễn Sư Mạnh, chữ “công” cũng thừa dấu chấm thật.
Vua nhà Minh không còn lí gì để làm hại sứ thần nước Nam. Sau đó, đã xuống chiếu sắc phong cho ông chức Thượng thư của Trung Hoa. Bốn chữ “Lưỡng quốc Thượng thư” đã được khắc tại từ đường họ Nguyễn ở Cổ Đô.
Nguyễn Sư Mạnh được nhà Lê tin dùng, được ban quốc tính, được gả công chúa và phong chức Vinh Lộc Đại Phu, giao cho trông coi Viện Hàn lâm, kiêm Đông các Đại học sĩ.
Nguyễn Sư Mạnh là sứ giả duy nhất của một nước lân bang khi vào yết kiến “thiên triều” lại không thèm cài khuy áo. Thời ấy, triều đình phương Bắc luôn ỷ thế nước lớn coi thường các nước nhỏ, thậm chí bắt cống nạp đủ thứ. Việc làm này của Nguyễn Sư Mạnh thể hiện bản lĩnh và tài năng của sứ giả Đại Việt.
