서학(西學)이 조선후기 사상사에 끼친 영향은 심대하며, 서학의 전파를 주도했던 예수회와 그 대표적 인물 가운데 하나인 마테오 리치의 역사적 역할은 아무리 강조해도 지나치지 않다. 그는 중국 선교 과정에서 적응주의 노선과 과학선교 방식을 채택했다. 이와 같은 선교 노선에 따라 르네상스기 유럽의 과학과 기술이 동아시아 사회에 전파되었다. 마테오 리치의 학문 체계에서 수리과학을 포함한 철학은 신학과 일체화되어 있었는데, 이것이 그가 과학선교 방식을 채택한 이론적 배경이 되었다. 바로 이와 같은 이론적 배경 하에서 기하원본(幾何原本)이 번역되었던 것이다. 한편 청(淸)의 강희제(康熙帝) 때에는 서양 과학의 ‘중국원류설’을 사상적 기반으로 하여 중서산학(中西算學)의 회통을 표방하는 수리정온(數理精蘊)이 편찬․간행되기에 이르렀다. 18세기 후반 조선사회에서 기하원본과 수리정온으로 대변되는 서양 수학서는 ‘리수(理數)를 크게 밝힌 책’, ‘고산가(古算家)의 제일대전서(第一大全書)’로 높이 평가되었다. 그것은 천문역산의 실무를 담당하는 관상감 관원들이 반드시 익혀야 할 책이었다. 이처럼 기하원본과 수리정온은 서양 수학 전공자들 사이에서 대체로 긍정적인 평가를 얻었지만 수리정온의 경우에는 그 미비점을 지적하는 견해도 적지 않았다. 이는 마테오 리치의 기하원본과 청조(淸朝)에서 간행된 수리정온에 대한 미묘한 입장 차이라는 점에서 주목할 만하다. 서양 수학에 대한 일부 지식인들의 긍정적인 평가에도 불구하고 기하원본과 수리정온이 조선후기 지식인 사회에 끼친 영향이 광범했다고 보기는 어렵다. 그것은 당시 사회에서 ‘기하지학(幾何之學)’, ‘도수지학(度數之學)’을 바라보는 일반적 태도와 무관하지 않다. 당시에는 도(道)를 담론하는 형이상(形而上)의 학문이 군자들이 추구해야 하는 ‘큰 학문’으로 인정되었고, 수학과 같은 ‘예술(藝術)’은 형이하(形而下)의 학문으로서 ‘작은 기술’에 불과한 것으로 취급되었기 때문이다. 그 배후에는 수학을 독립적인 가치를 지닌 개별 학문 분야로 인정하기 보다는 리학(理學)의 보조 수단 내지 하위 범주로 간주했던 전통적인 리수관(理數觀)이 작동하고 있었다. 서양 수학을 포함한 산학(算學) 일반을 소기(小技)로 여기는 조선후기의 학문 풍토 속에서 열정적으로 서양 수학을 탐구한 일군의 학자들이 있었다. 이익(李瀷)을 필두로 이용휴(李用休)-이가환(李家煥)을 거쳐 이벽(李檗)-정약전(丁若銓)․정약용(丁若鏞)으로 이어지는 ‘근기남인계(近畿南人系) 성호학파(星湖學派)’, 서명응(徐命膺)-서호수(徐浩修)-서유구(徐有榘)로 이어지는 달성(達城) 서씨가(徐氏家), 노론(老論)-낙론계(洛論系)의 황윤석(黃胤錫)․홍대용(洪大容)과 홍계희(洪啓禧), 이가환․홍대용과 밀접한 학문적 교유 관계를 형성하고 있던 정철조(鄭喆祚), 노론(老論)-호론계(湖論系)에 속하는 홍양해(洪量海), 그리고 관상감의 실무를 담당했던 이태창(李泰昌), 문광도(文光道), 김영(金泳)과 같은 관리들이 그들이었다. 이들이 서양 수학에 관심을 기울이게 된 동기와 경로, 서양 수학을 탐구한 목적은 동일하지 않았다. 서양 수학의 연원과 가치에 대해서도 통일된 관점을 보였던 것은 아니다. 대체적으로 이들이 서양 수학을 포함한 수학 일반에 주목했던 이유는 세 가지 정도로 정리할 수 있다. 첫째는 사대부 교양으로서의 필요성이었다. 전통적으로 ‘수(數)’는 ‘육예(六藝)’의 하나로 중시되었는데, 조선의 지식인들은 심성(心性) 수양의 효율적인 수단으로서 수학의 가치를 인정하였다. 둘째는 실무적 필요성이었다. 천문역법의 추산(推算)을 위해서 뿐만 아니라 재정․회계, 양전(量田) 등의 국가적 사업을 위해서도 정밀한 수학 계산이 항상적으로 요구되었다. 셋째는 상수학(象數學) 내지 율력산수지학(律曆算數之學)에 입문하기 위한 필수적 절차였다. ‘수(數)’에 대한 탐구를 통해 ‘리(理)’에 도달하고자 했던 것이다. 조선후기 서양 수학을 열정적으로 탐구했던 사람들의 학문적 지향이 반드시 일치하는 것은 아니지만 그들의 연구가 기존의 학문 체계에 균열을 일으키고 새로운 지향점을 모색했다는 점에서는 어느 정도의 공통성을 찾을 수 있다. 먼저 그들은 도학(道學) 위주의 학문 풍토를 비판하면서 수학의 학문적 가치를 나름대로 수립하고자 노력했다. 아울러 그들은 ‘후출유공(後出愈工)’의 관점에서 서양 수학의 우수성을 인정함으로써 서학 수용의 논리적 근거를 마련했다. 그들이 추구한 수학이 기존의 상수학적 틀에서 벗어나고 있다는 점도 주목할 만하다. 전통적 리수관(理數觀)에서 벗어나 새로운 수학의 세계를 개척하고 있었던 것이다.