文藝復(fù)興時期，歐洲的幾何學(xué)得到了廣泛的發(fā)展，形成了運用代數(shù)解決幾何問題的解析幾何學(xué)說。

16世紀末以后，西方幾何學(xué)陸續(xù)傳入中國，與我國古代算術(shù)相結(jié)合，使中國數(shù)學(xué)研究出現(xiàn)一個中西融合貫通的局面；鴉片戰(zhàn)爭以后，近代數(shù)學(xué)開始傳入中國，中國數(shù)學(xué)便轉(zhuǎn)入一個以學(xué)習(xí)古代算術(shù)，幾何學(xué)以及西方現(xiàn)代數(shù)學(xué)為主的時期。

1582年，意大利傳教士利瑪竇到中國，1607年以后，他先后與徐光啟翻譯了《幾何原本》前六卷、《測量法義》一卷，與李之藻編譯《圜容較義》和《同文算指》。1629年，徐光啟被禮部任命督修歷法，在他主持下，編譯《崇禎歷書》137卷?！冻绲潥v書》主要是介紹歐洲天文學(xué)家第谷的地心說。作為這一學(xué)說的數(shù)學(xué)基礎(chǔ)，希臘的幾何學(xué)，歐洲玉山若干的三角學(xué)，以及納皮爾算籌、伽利略比例規(guī)等計算工具也同時介紹進來。

在傳入的西方數(shù)學(xué)中，影響最大的是《幾何原本》?！稁缀卧尽肥侵袊谝徊繑?shù)學(xué)翻譯著作，絕大部分數(shù)學(xué)名詞都是首創(chuàng)，其中許多至今仍在沿用。徐光啟認為對它“不必疑”、“不必改”，“舉世無一人不當學(xué)”。《幾何原本》是明清兩代數(shù)學(xué)家必讀的數(shù)學(xué)書，對他們的研究工作頗有影響。

清初學(xué)者研究中西數(shù)學(xué)有心得而著書傳世的很多，影響較大的有王錫闡《圖解》、梅文鼎《梅氏叢書輯要》(其中數(shù)學(xué)著作13種共40卷)、年希堯《視學(xué)》等。梅文鼎是集中西數(shù)學(xué)之大成者。他對傳統(tǒng)數(shù)學(xué)中的線性方程組解法、勾股形解法和高次冪求正根方法等方面進行整理和研究，使瀕于枯萎的明代數(shù)學(xué)出現(xiàn)了生機。年希堯的《視學(xué)》是中國第一部介紹西方透視學(xué)的著作。

清康熙皇帝十分重視西方科學(xué)，他除了親自學(xué)習(xí)天文數(shù)學(xué)外，還培養(yǎng)了一些人才和翻譯了一些著作。雍正即位以后，對外閉關(guān)自守，導(dǎo)致西方科學(xué)停止輸入中國，對內(nèi)實行高壓政策，致使一般學(xué)者既不能接觸西方數(shù)學(xué)，又不敢過問經(jīng)世致用之學(xué)，因而埋頭于究治古籍。乾嘉年間逐漸形成一個以考據(jù)學(xué)為主的乾嘉學(xué)派。

隨著《算經(jīng)十書》與宋元數(shù)學(xué)著作的收集與注釋，出現(xiàn)了一個研究傳統(tǒng)數(shù)學(xué)的高潮。其中能突破舊有框框并有發(fā)明創(chuàng)造的有焦循、汪萊、李銳、李善蘭等。他們的工作，和宋元時代的代數(shù)學(xué)比較是青出于藍而勝于藍的；和西方代數(shù)學(xué)比較，在時間上晚了一些，但這些成果是在沒有受到西方近代數(shù)學(xué)的影響下獨立得到的。

1840年鴉片戰(zhàn)爭以后，西方近代數(shù)學(xué)開始傳入中國。首先是英人在上海設(shè)立墨海書館，介紹西方數(shù)學(xué)。第二次鴉片戰(zhàn)爭后，曾國藩、李鴻章等官僚集團開展“洋務(wù)運動”，也主張介紹和學(xué)習(xí)西方數(shù)學(xué)，組織翻譯了一批近代數(shù)學(xué)著作。在這些譯著中，創(chuàng)造了許多數(shù)學(xué)名詞和術(shù)語，至今還在應(yīng)用，但所用數(shù)學(xué)符號一般已被淘汰了。戊戌變法以后，各地興辦新法學(xué)校，上述一些著作便成為主要教科書。

在翻譯西方數(shù)學(xué)著作的同時，中國學(xué)者也進行一些研究，寫出一些著作，較重要的有李善蘭的《尖錐變法解》、《考數(shù)根法》；夏彎翔的《洞方術(shù)圖解》、《致曲術(shù)》、《致曲圖解》等等，都是會通中西學(xué)術(shù)思想的研究成果。

由于輸入的近代數(shù)學(xué)需要一個消化吸收的過程，加上清末統(tǒng)治者十分腐敗，在太平天國運動的沖擊下，在帝國主義列強的掠奪下，焦頭爛額，無暇顧及數(shù)學(xué)研究。直到1919年五四運動以后，中國近代數(shù)學(xué)的研究才真正開始。