A lo largo de los siglos XVI y XVII el Algebra se convirtió en un lenguaje potente que permitió abordar los problemas científicos más variados. En el siglo XVII, sobre todo por la influencia de R. Descartes (1596-1650) y de P. Fermat (167-1665), los métodos algebraicos fueron desplazando a la Geometría Euclidiana de su puesto dominante. La Geometría Analítica fue capaz de expresar la Geometría de los Elementos de Euclides en términos de ecuaciones, proporcionando a la Geometría en particular y a todas las matemáticas un lenguaje eficaz y una enorme potencia de cálculo.
La nueva Geometría apareció demandando ampliación de temas y de métodos. Descartes pedía en su Geometría (1637) que se admitieran en su seno curvas más complejas que las cónicas y que tuvieran cabida en la Geometría otras, que los antiguos geómetras llamaban curvas mecánicas, como la Espiral, la Cuadratriz y otras semejantes, que aparecieron en la Geometría al abordar los tres Problemas Clásicos, que los griegos no las consideraron curvas dignas de la Geometría y denominaron curvas mecánicas. En este sentido, Descartes propuso la utilización en Geometría de nuevos instrumentos, distintos de la regla el compás, que permitieran trazar curvas y aceptarlas en Geometría con tal que pudieran imaginarse descritas por un movimiento continuo o varios sucesivos, en los que los últimos movimientos vinieran determinados por los anteriores, para que de este modo siempre se tuviera un conocimiento exacto de su medida.
Descartes puso como ejemplo de nuevo instrumento geométrico un aparato parecido al Mesolabio de Eratóstenes, conocido como Compás de Descartes que permitía calcular raíces cuadradas, cúbicas y de orden superior con el que se podía calcular la ecuación de diferentes curvas como como x4 = a2(x2 + y2) Por su parte, P. Fermat propuso la idea de que, en el plano cartesiano, cada relación entre sus coordenadas representaba una curva, dejando establecida una clara identificación entre ecuación y curva. Fermat estudió la familia de curvas de ecuación y = xn, siendo n un número entero, positivo o negativo. A las curvas de esta familia se les llamó parábolas de Fermat (o hipérbolas si n < 0). Con estas ideas el número de curvas admitidas en la Geometría se amplió y, de las apenas diez que conocían los griegos, apareció un conjunto infinito de curvas.
A lo largo del siglo XVII la Geometría Analítica siguió ampliando sus aplicaciones y mejorando sus recursos metodológicos y se puede afirmar que, en el siglo XVIII, los métodos algebraicos habían desplazado al lenguaje y al estilo de la Geometría de los Elementos de Euclides.
Además, el Cálculo Infinitesimal, con soporte algebraico, permitió estudiar nuevas curvas con sentido físico, como la braquistócrona y la isócrona, según las exigencias de la Física de Newton. La braquistócrona era la trayectoria curva que debía llevar una partícula que descendía desde un punto inicial A (del que partía con velocidad cero y sin rozamiento) bajo la acción de la gravedad hasta llegar otro punto B, para recorrerla en el mínimo tiempo. La isócrona (o tautócrona) era una curva tal que cualquier partícula situada en puntos diferentes A, B, C, D… de la misma y sometida únicamente a la acción de la gravedad invertía el mismo tiempo en llegar al punto más bajo, O. Es decir, la curva tal que el tiempo de descenso libre de la partícula hasta el punto O, era independiente de su posición inicial.
Indudablemente, la adaptación del lenguaje algebraico al espacio geométrico dio paso a que las expresión algebraica de un problema se convirtiera en el lenguaje de la Física Newtoniana, ya que el espacio de la física era el espacio euclidiano. L. Euler (1707-1783) en su Mecánica (1736-37), escribió por primera vez la Mecánica de Newton en el lenguaje del Análisis Matemático, alejándose del lenguaje geométrico de Newton y clarificando la Mecánica. Con este logró el lenguaje algebraico pasó a ser el idioma de la Geometría y de la Física.
La relación entre el Análisis Matemático y la Geometría era estrechísima desde los orígenes del Cálculo y las ideas geométricas fueron inicialmente la fuente de inspiración del Cálculo Infinitesimal. Por eso, al principio no se distinguían entre los conceptos de curva y de función de una variable. Euler, quizás inspirado en Fermat, observó la diferencia, y amplió el estudio de curvas a las superficies como función de dos variables, trabajo de G. Monge (1746-1818) continuó por esta línea.
La Geometría Analítica y el Cálculo Infinitesimal convirtieron con la poderosa herramienta de las ecuaciones diferenciales se utilizaron en Mecánica y en otras ramas de la Física y, aunque se hacían interpretaciones geométricas de las ecuaciones diferenciales y de sus soluciones, El Cálculo Infinitesimal no se había aplicado al estudio de objetos geométricos puros.
A mediados de siglo XVIII el método sintético de la Geometría estaba casi agotado y en ese momento los resultados más importantes que se produjeron en la Geometría se expresaron mediante métodos algebraicos o diferenciales. Se comenzaron a estudiar los objetos geométricos considerándolos como representaciones en el espacio de ecuaciones polinómicas (y = f(x,y) o g (x,y,z) = 0) . Este punto supone el nacimiento de la Geometría Diferencial y una separación de la geometría con dibujo de figuras. (La geometría sintética volverá a aparecer con la Geometría Descriptiva y para buscar modelos de geometrías no euclidianas con la Geometría Proyectiva).
Euler en su artículo Sobre la curva más corta que une dos puntos arbitrarios de una superficie arbitraria (1732) fue el primero que publicó la ecuación diferencial una geodésica entre dos puntos de una superficie. En su obra Introductio in analysin infinitorum (1748), estudió multitud de temas de curvas y superficies mediante Cálculo Diferencial, es decir, desde el punto de vista analítico. Euler expuso en la obra un estudio sistemático de las propiedades de las curvas (representación, puntos críticos, singularidades, curvatura, etc.), también representó las curvas en el espacio en coordenadas paramétricas y realizó un estudio analítico de las curvas y superficies en el espacio.
La contribución más importante de Euler en Geometría Diferencial está en su obra Investigaciones sobre la curvatura de superficies. En este trabajo, definió la curvatura en un punto P de una superficie como el producto de las dos curvaturas principales en dicho punto (Son las curvaturas en las direcciones en las que la curvatura normal alcanza sus valores mínimo y máximo (son perpendiculares entre si). También realizó un estudio sobre superficies desarrollables en su trabajo Sobre sólidos cuyas superficies pueden ser desarrolladas sobre un plano (1772).
F.Gauss (1777-1855) sintetizó los resultados de las relaciones entre el Análisis Matemático y la Geometría que había hasta entonces y las desarrolló ampliamente elaborando una teoría general sobre superficies en su obra Disquisitiones generates circa superficies curvas (1827), que es considerada como la obra maestra de la teoría de la Geometría Diferencial Clásica de superficies. La obra es el principio de la Geometría de B. Riemann (1826-1866) y de la Geometría Diferencial de variedades
Gauss partió de la base de que la Geometría estudiaba no sólo el espacio, si no que estudiaba las curvas y las superficies. Estableció la noción fundamental de curvatura de una superficie, trabajó con las líneas de geodésicas sobre una superficie y especuló con la idea de que así como las rectas eran las geodésicas del plano, las líneas de geodésicas sobre una superficie desempeñaban el mismo papel que las rectas en el plano.
También observó que existían superficies en las que la suma de los ángulos de triángulos formados por las geodésicas no era dos rectos y que una Geometría sobre esa superficie contradeciría el Quinto Postulado de Euclides y que, por lo tanto, una geometría sobre una superficie de ese tipo sería una Geometría no Euclidiana. Estas consideraciones llevaron a Gauss a concebir la posibilidad de que existieran Geometrías no Euclidianas, pero nunca publicó esos resultados. Sólo vieron la luz cuando Bolyai publicó su geometría no Euclidianas.
Con K. F. Gauss el Análisis Matemático aportó a la Geometría los métodos y los conceptos que habían ido surgiendo en la etapa en la que el Algebra, la Geometría Analítica y el Cálculo Infinitesimal que eran las herramientas primordiales de la Mecánica. Propiciando la creación de la Variable Compleja y de la Geometría Diferencial. Además, Gauss fue el primero en considerar una nueva propiedad en la Geometría: la orientación.
A comienzos del siglo XIX la Geometría recibió un potente espaldarazo, hasta el punto que se conoce como el siglo de la Geometría, ya que esta materia amplió sus contenidos y reconvirtió su estructura interna.
Desde finales del siglo XVIII, gracias al impulso de G. Monge (1746-1818) alcanzó gran importancia de la Geometría Descriptiva, que se impartía en las Escuelas Politécnicas y otros centros de enseñanza superior franceses, que se ocupaban de la formación de los ingenieros.
Monge, en su obra Aplicaciones del algebra a la geometría (1805) Aplicaciones del análisis a la geometría, introdujo importantes conceptos y utilizó de forma sistemática las ecuaciones en derivadas parciales en el estudio de las superficies.
Monge es considerado por muchos como uno de los pilares fundamentales de la gran expansión que experimentó la geometría en el siglo XIX. Ya que su labor pedagógica fue decisiva en la formación de generación de geómetras franceses, V. Poncelet (1788-1867) o P. Dupin (1784-1873) que dieron gran impulso a la Geometría Diferencial.
Por otra parte, la aparición de las Geometrías no Euclidianas a comienzos del siglo XIX supuso una revolución en las matemáticas que merece mención aparte.