李善蘭自幼酷愛數學。9歲時，他發現父親的書架上有一本中國古代數學名著——《九章算術》，感到十分新奇有趣，從此就迷上了數學。14歲時他又靠自學讀懂了徐光啟與利瑪竇合譯的古希臘數學名著歐幾里得《幾何原本》前六卷。李善蘭發現歐氏幾何嚴密的邏輯體系，清晰的數學推理，與偏重實用解法和計算技巧的中國古代傳統數學思路有很大的不同，他在學習《九章算術》的基礎上，吸取了《幾何原本》的新思想，結合兩種文明的長處和特點，這使他的數學水平有了很大的提高。

幾年后李善蘭到省府杭州參加鄉試，由于他酷愛數學，“故于算學用心極深”而對八股文章下工夫不夠，做得不好，所以未考中落榜。但他卻毫不介意，而是利用在杭州的機會，留意搜尋各種數學書籍，買回了李冶的《測圓海鏡》和戴震的《勾股割圓記》，仔細研讀。同時還在嘉興等地與數學家顧觀光、張文虎、汪曰楨以及戴煦、羅士琳、徐有壬等人相識，經常在學術上相互切磋。自此數學造詣日臻精深，時有心得，輒復著書，1845年前后發表了具有解析幾何思想和微積分方法的數學研究成果──“尖錐術”。 　

李善蘭與英國傳教士偉烈亞力等人合作翻譯《幾何原本》后九卷

 從1852年到1859年期間，李善蘭在上海墨海書館與英國傳教士、漢學家偉烈亞力等人合作翻譯出版了《幾何原本》后九卷。除此之外，李善蘭還翻譯《代數學》13卷、《代微積拾級》18卷、《談天》18卷、并與人合作翻譯《重學》20卷和《圓錐曲線說》3卷等大量的數學論著，《植物學》等西方近代科學著作，還翻印了《奈端數理》（即牛頓《自然哲學的數學原理》）四冊（未刊），這是解析幾何、微積分、哥白尼日心說、牛頓力學、近代植物學傳入中國的開端。

李善蘭的翻譯工作是很有獨創性的，許多重要的中文數學名詞術語，“代數”、“函數”、“方程式”、“微分”、“積分”、“級數”、“植物”、“細胞”等都是他創造的。他匠心獨具地選用的這些中文的科學名詞，不僅意思貼切，很容易理解，而且又是雅而不俗。這些名詞不僅在中國流傳，而且東渡日本，沿用至今。李善蘭為近代科學在中國的傳播和發展作出了開創性的貢獻。

1860年起他先后在徐有壬、曾國藩軍中作幕僚，與化學家徐壽、數學家華蘅芳等人一起積極參與洋務運動中的科技學術活動。1867年他出版了《則古昔齋算學》，匯集了二十多年來在數學、天文學和彈道學等方面的著作，計有《方圓闡幽》、《弧矢啟秘》、《對數探源》、《垛積比類》、《四元解》、《麟德術解》、《橢圓正術解》、《橢圓新術》、《橢圓拾遺》、《火器真訣》、《對數尖錐變法釋》、《級數回求》和《天算或問》等13種24卷，共約15萬字。

1868年，李善蘭被薦任北京同文館天文算學總教習，直至1882年他逝世為止，從事數學教育十余年，其間審定了《同文館算學課藝》、《同文館珠算金□》等數學教材，培養了一大批數學人才，是中國近代數學教育的鼻祖。

李善蘭潛心科學，淡于利祿。晚年官至三品，授戶部正郎、廣東司行走、總理各國事務衙門章京等職，但他從來沒有離開過同文館教學崗位，也沒有中斷過科學研究特別是數學研究工作。他的數學著作，除《則古昔齋算學》外,尚有《考數根法》、《粟布演草》、《測圓海鏡解》、《九容圖表》，而未刊行者，有《造整數勾股級數法》、《開方古義》、《群經算學考》、《代數難題解》等。

李善蘭創立的“尖錐”概念，是一種處理代數問題的幾何模型，他對“尖錐曲線”的描述實質上相當于給出了直線、拋物線、立方拋物線等方程。他創造的“尖錐求積術”，相當于冪函數的定積分公式和逐項積分法則。還在各種三角函數和反三角函數的展開式，以及對數函數的展開式，在使用微積分方法處理數學問題方面取得了創造性的成就。 尖錐術理論主要見于《方圓闡幽》、《弧矢啟秘》、《對數探源》三種著作，成書年代約為1845年，當時解析幾何與微積分學尚未傳入中國。

1859～1867李善蘭從研究中國傳統的垛積問題入手，寫了一本有關高階等差級數的著作《垛積比類》，獲得了一些相當于現代組合數學中的成果。例如，“三角垛有積求高開方廉隅表”和“乘方垛各廉表”實質上就是組合數學中著名的第一種斯特林數和歐拉數�？梢哉J為，《垛積比類》是早期組合論的杰作。