25살이 되던 해 그는 증광별시 문과에 급제했다. 증광별시란 나라의 경사를 기념하여 치르는 과거다. 임오군란이 평정되고 민중전이 장호원에서 환궁한 것을 기리기 위해 시행한 관료선발 시험이었다. 조정백관은 5년 이상 급료가 밀리고 구식 군졸들은 13개월이나 급료를 받지 못하고 있는 판이었다.
그는 관료 출세 경로인 규장각 대교 자리에 잠시 있다가 홍문관 수찬(정6품), 홍문관 응교(정4품)가 되었다.

순 영어로 교육 받은 육영공원(좌원[관료] 14명, 우원[양반 자재] 21명)에서 최고 성적을 낸 그는 곧 미국 워싱턴에 설치한 초대 주미공사관 참찬관(공사 바로 아래 직급)으로 가서 근무했다. 몸이 아파 귀국한 뒤 정3품 통정대부로 승정원 동부승지(당상관)가 되었다. 다시 미국 공사관에서 근무한 뒤 돌아와 승정원 우부승지, 며칠 뒤 내무참의, 승정권 좌부승지, 성균관 대사성, 종2품 가선대부로 세자를 가르치는 시강원의 검교사서, 교환서 총판, 이조참판, 육영공원 책임자인 변리사무, 한성부 좌윤, 공조참판 등 요직을 역임한다. 그때 나이 고작 34살이었다.

그가 생모의 3년상을 치르는 동안 동학혁명이 일어나고 귀경할 무렵 영어 잘하는 사람들 모임인 정동구락부(손탁호텔)가 부상한다.

외부대신이 된 그는 사람들과 뜻을 모아 독립협회를 그가 근무하는 외부건물에서 발기시켰다. 이상재 민상호 이채연 남궁억 등 14인이었다. 독립협회 보조금도 그가 가장 많이 냈다. 당일 전체 모금액이 510원인데 그와 양형 두 형제가 100원씩을 냈다. 협회 창립 위원장이 된 그는 대회장에서 역설했다.
‘폴란드처럼 남의 종이 되지 않으려면 뭉쳐야 한다.’
그는 단지 청나라에서 독립만을 주장한 건 아니었다.

대한제국이 성립하고 학부대신이 된 그는 칙령 145호로 소학교령을 공포했다. 그의 책임 아래 심상과 3년, 고등과 2년(3년)으로 장동 정동 계동 묘동 등 4개 관립소학교가 개교한다. 이어 학부령 1호로 한성사범학교 규칙과 한성사범학교 부속소학교 규칙을 공포한다. 또 후쿠자와 유키치와 유학생 파견에 관한 계약을 체결해서 일본 게이오 의숙에 학생을 보낸다.

을사년 가을(11.17.) 그는 정동 중명전에서 체결된 늑약 현장에 있었다.
경술년 여름(8.22.) 그는 남산 북쪽 기슭 통감관저에서 체결된 국치문서에 일본측 데라우치 마사다케와 함께 대한제국을 대표해서 수결했다.

3.1운동이 일어나자 그는 자치라면 모를까 독립은 무리하면서 지금은 공부 등에 힘써 후일을 도모할 때라는 실력양성론에 기초한 견해를 신문에 기고했다.
그는 제법 글씨를 잘 써서 이름이 높았다. 일설에는 서대문 밖 독립문 돌이마에 새긴 글씨가 그가 쓴 것이라고들 한다. 독립협회 일을 본 것이나 글씨에 관한 이야기로 비춰봐서 헛된 말만은 아닌 듯도 싶다.

생각과 다르게 그는 죽을 때까지 거의 일본 옷을 입어보지 않았고, 정작 일본말을 할 줄 몰라서 통역을 데리고 다녔다. 그 통역이 이인직(<혈의 루>의 작가)이다.
죽은 그의 명정은 총독부중추원부의장정2위대훈위후작이공지구였다.