Nació en la pequeña ciudad alemana de Marktbreit, donde su padre era notario público.
Asistió a las universidades de Aschaffenburg, Tübingen, Berlin y Würzburg donde se graduó como médico.

Si bien comenzó sus estudios de postgrado en psiquiatría, rápidamente se dedicó a su gran vocación, la neuropatología. Esto se favoreció enormemente cuando comenzó a trabajar con el distinguido neurólogo Franz Nissl en un asilo para enfermos mentales de Frankfurt.
Nissl y Alzheimer se embarcaron en una exhaustiva investigación de la patología del sistema nervioso, estudiando en particular la anatomía normal y patológica de la corteza cerebral.

El trabajo se compiló en seis tomos en la obra titulada “Estudio Histológico e Histopatológico de la Corteza Cerebral”, publicado entre 1906 y 1918. Nissl era probablemente el más innovador de los dos, enérgico, imaginativo y entusiasta. Alzheimer era un dedicado y cuidadoso laboratorista, reconocido por las detalladas y hermosas descripciones de sus hallazgos microscópicos. Entre ambos médicos surgió una profunda y duradera amistad.

En 1903 Alzheimer acompaño a Kraepelin a la clínica psiquiátrica universitaria en Munich, donde finalmente en 1908 es nombrado director del laboratorio de anatomía clínica. Durante estos años en Munich, Alzheimer describió la enfermedad que llevaría su nombre, pero a la vez realizó importantes investigaciones microscópicas de otras enfermedades neurológicas. Por ejemplo, describió cambios cerebrales típicos de la arterioesclerosis y la pérdida de células nerviosas en la corea de Hungtinton.

En un congreso de 1906 en Munich, Alzheimer describó “Una peculiar enfermedad de la corteza cerebral” a partir del caso de una mujer de 51 años que había muerto en el asilo mental de esa ciudad. La mujer presentaba desde hacía 5 años, el deterioro típico de la demencia. La investigación anátomo patológica del cerebro demostró una corteza cerebral más fina que lo normal. Alzheimer notó además otras dos anormalidades. Una, descrita previamente, se trataba de la denominada placa senil. La otra anormalidad era una especie de ovillo neurofibrilar. Esta descripción fue absolutamente original y se convertiría en la descripción anátomo patológica de esta difundida enfermedad.

En Munich Alzheimer pasó sus mejores 10 años. Estudiantes de varios países constantemente ocupaban los 20 asientos de su laboratorio. Alzheimer recorría las estaciones de microscopio, dedicando un buen tiempo a cada uno. Siempre con un cigarro encendido en la mano, al final del día había cenizas al costado de cada uno de los microscopios de sus estudiantes.

Su salud le impidó asumir el cargo de Profesor de Psiquiatría en la Universidad de Breslau. Murió  por insuficiencia cardíaca secundaria a una endocarditis a la edad de 51 años. El diagnóstico de la enfermedad de Alzheimer todavía ahora sigue basándose en los mismos parámetros que en 1906. Esto es uno de los ejemplos de la magnitud de la calidad del descubrimiento de Alzheimer.