1867년(고종 4년) 경과(慶科, 조선 때 경서에 정통한 사람을 가려내는 과거) 정시(庭試, 나라에 경사가 있을 때 대궐 안에서 보이던 과거)의 문과(文科, 대과)에 급제한 다음 다음해 승정원(承政院)의 사변가주서(事變假注書, 조선 때 승정원에 속한 정7품 벼슬로 주서가 사고를 당할 때 그 일을 대신 맡아보게 하기 위하여 정원 이외로 두었음)에 임명됐다.

몇달 뒤 아버지의 상을 당하고 이어 1870년 어머니 상을 당해 관직을 사직하고 5년간 거상(居喪)했다.
1873년 복직해 권지(權知, 과거 합격자로서 승문원, 성균관, 교서관, 훈련원, 별시위 등에 나눠 배치돼 임용 대기 중인 견습 관원으로 문과 출신의 경우 3관인 성균관, 승문원, 교서관에 나눠 배치 됨) 승문원(承文院) 부정(副正, 소감을 고친 종3품 벼슬)에 임명됐고 승문박사(承文博士)를 겸직했다.

1875년 부사과(副司果, 오위의 종6품), 훈련도감(訓鍊都監, 조선 5군영의 하나로 수도 수비의 책임을 맡았으며 군사훈련을 하였던 곳으로 훈국이라고도 함)의 종사관(從事官, 5품에서 6품관)을 지낸 뒤 약 3년간 흥양현감(興陽縣監, 종6품 수령)을 지냈는데 백성과 정부의 신망을 받았다.

그 결과 내직으로 승진, 1877년 사과(司果, 5위의 정6품 벼슬), 1878년 남학교수(南學敎授, 서울의 중앙 및 동, 서, 남 4곳에 나라에서 세운 학교로 중학, 동학, 서학, 남학이라 하며 교수는 종6품), 이어 호조, 공조, 병조, 예조의 참의(參議, 정3품 차관보)를 차례로 역임했다.

1879년 돈녕도정(敦寧都正, 종친부에 속하지 않는 종친과 외척에 대한 사무를 처리하던 관청인 돈녕부의 정3품 당상관)을 지냈다.
1880년 일본이 요구한 인천 개항 공사주차(公使駐箚)와 해관 세칙(海關稅則) 등의 현안문제를 타결짓기 위한 제2차 수신사(修信使, 일본에 가던 사신)로 임명돼 58명의 수행원을 거느리고 일본에 다녀왔다.

비록 일본 정부와의 협상에는 실패했으나, 황쭌셴(黃遵憲)의 조선책략(朝鮮策略)과 정관응(鄭觀應)의 이언(易言)을 가지고 돌아와 고종을 비롯한 위정자들이 개화 정책을 채택하는데 직접적인 영향을 미쳤다. 그 뒤 예조참판(參判, 종2품 차관)으로 승진했다.

1880년 말 우리나라에 온 일본 변리공사(辨理公使) 하나부사(花房義質)와 인천 개항 문제를 협의, 20개월 뒤에 인천을 개항하기로 합의했다. 아울러 정부가 개화 정책을 추진하기 위한 중추 기구로 통리기무아문(統理機務衙門)을 설치하자 12월 통상 관계를 전담하는 당상경리사(堂上經理事)에 발탁됐다.

1881년 위정척사운동(衛正斥邪運動)이 격화되면서, 보수 유생들로부터 집중적인 비난을 받았다.
때문에 여러 차례 사직소를 올린 끝에 관직에서 물러났으나 얼마 뒤 통리기무아문이 개편되면서 통상사(通商司, 구한말에 통리기무아문에 속해 외국과의 상거래에 관한 일을 맡아보던 관청)의 당상(堂上, 정3품 이상 급)에 임명됐다.

1882년 3월과 5월 사이 미국과 영국, 독일 차례로 수호통상조약을 체결할 때 조약 체결을 담당한 전권 대신들의 부관으로 임명돼 협상의 실무 책임을 맡았다. 4월 부제학(副提學, 홍문관의 정3품)에 임명됐고, 이어서 호조참판(參判, 종2품 차관), 공조참판(종2품 차관), 경기감사(종2품 관찰사)를 역임했다.

임오군란의 사후 수습책으로 정부에서 일본 및 청나라와 제물포조약(濟物浦條約) 및 조청상민수륙무역장정(朝淸商民水陸貿易章程)을 체결할 때도 전권 부관으로 임명돼 협상의 실무 책임을 맡았다.

그 뒤 1883년 8월 규장각((奎章閣, 조선 정조 즉위년에 설치한 왕실 도서관으로 고종 32년에 규장원으로 고쳤다가, 34년에 다시 이 이름으로 고쳤다. 역대 임금의 글이나 글씨, 고명, 유교, 선보, 보감과 어진을 보관하고 책을 편찬했음)의 직제학(直提學, 정3품)을 거쳐, 1884년 초 지춘추관사(知春秋館事, 춘추관의 정2품)를 역임한 다음 9월에 예조판서(判書, 정2품 장관)와 독판교섭통상사무(督辦交涉通商事務)를 겸임함으로써 대외 교섭의 최고 책임자가 됐다.

온건개화파로서 중도 개혁 노선을 견지했는데 급진개화파의 갑신정변이 실패로 끝난 직후 조정에서 뒷수습을 담당할 적임자로 선택됐다.

그래서 좌의정(左議政, 정1품 정승) 겸 외무독판(外務督辦, 구한 말에 통리교섭통상사무아문의 으뜸벼슬)의 중직을 맡아 1885년 초 일본과 한성조약을 체결했다.