十四至十六世紀在歐洲歷史上是從中世紀向近代過渡的時期，史稱文藝復興時期。中世紀束縛人們思想的宗教觀、神學和經院哲學逐步被摧毀，出現了復興古代科學和藝術的文化運動。在自然科學方面，如哥倫布地理上的大發現、哥白尼的日心說、伽利略在數學物理上的創造發明等革命性事件相繼發生。
這一時期，在數學中首先發展起來的是透視法。藝術家們把描述現實世界作為繪畫的目標，研究如何把三維的現實世界繪製在二維的畫布上。他們研究繪畫的數學理論，建立了早期的數學透視法思想，這些工作成為十八世紀射影幾何的起點。其中最著名的代表人物有：義大利的達.芬奇Leonardo da Vinci?、阿爾貝蒂?Leone Battista Alberti?、弗朗西斯卡?Piero della Francesca?、德國的丟勒?Albrecht Durer?等。 文藝復興時期更出版了一批普及的算術書，內容多是用於商業、稅收測量等方面的實用算術。印度─阿拉伯數碼的使用使算術運算日趨標準化。L.帕奇歐裡?Pacioli?的《算術、幾何及比例性質之摘要》?Summa de arithmetica, geometrica, proportioni et proportionalita, 1494?是一本內容全面的數學書；J?維德曼?Widman的《商業速演算法》1489?中首次使用符號「+」和「-」表示加法和減法；A.裡澤?Riese?於1522年出版的算術書多次再版，有廣泛的影響；斯蒂文?Simon Stevin?的《論十進》?1585?系統闡述了十進分數的理論。
代數學在文藝復興時期獲得了重要發展。最傑出的成果是義大利學者所建立的三、四次方程的解法。卡爾達諾在他的著作《大術》?Ars magna，1545?中發表了三次方程的'求根公式，但這一公式的發現實應歸功於另一學者塔爾塔利亞?Tartaglia?。四次方程的解法由卡爾達諾的學生費拉里?Ferrari?發現，在《大術》中也有記載。稍後，邦貝利?Bombelli?在他的著作中闡述了三次方程不可約的情形，並使用了虛數，還改進了當時流行的代數符號。
符號代數學的最終確立是由16世紀最著名的法國數學家韋達?Viete?完成的。他在前人工作的基礎上，於1591年出版了名著《分析方法入門》?In artem analyticam isagoge?，對代數學加以系統的整理，並第一次自覺地使用字母來表示未知數和已知數，使代數學的形式更抽象，應用更廣泛。韋達在他的另一部著作《論方程的識別與訂正》?De aequationum recognitione et emendatione, 1615?中，改進了三、四次方程的解法，還對n = 2、3的情形，建立了方程根與係數之間的關係，現代稱之為韋達定理。
在文藝復興時期，三角學也獲得了較大的發展。德國數學家雷格蒙塔努斯?Regiomontanus?的《論各種三角形》De triangulis omnimodis?是歐洲第一部獨立於天文學的三角學著作。書中對平面三角和球面三角進行了系統的闡述，還有很精密的三角函式表。哥白尼的學生雷蒂庫斯?Georg Joachim Rhaeticus?在重新定義三角函式的基礎上，製作了更多精密的三角函式表。
文藝復興時期在文學、繪畫、建築、天文學各領域都取得了巨大的成就。數學方面則主要是在中世紀大翻譯運動的基礎上，吸收希臘和阿拉伯的數學成果，從而建立了數學與科學技術的密切聯絡，為下兩個世紀數學的大發展作了準備。