Consiguió su doctorado en 1878 con una tesis sobre la teoría y práctica de la tinción histológica. Desarrolló métodos para la detección y diferenciación de diversas enfermedades de la sangre. La más significativa de sus innovaciones fue el uso de diferentes tintes, por ejemplo los azules de metileno y de indofenol, como tintes selectivos para diferentes tipos de células.
Su principal contribución a la medicina fue la teoría de la inmunidad de cadena lateral, que establecía la base química para la especificidad de la respuesta inmunológica. Con esta teoría se intentó explicar la capacidad de ciertas toxinas para producir tanto un efecto tóxico como una respuesta inmune en los mamíferos. Ehrlich postuló que las células tienen en su superficie moléculas receptoras específicas, o cadenas laterales, que sólo se unen a determinados grupos químicos de las moléculas de toxina; si las células sobreviven a esta unión, se produce un excedente de cadenas laterales, algunas de las cuales son liberadas a la sangre en forma de antitoxinas circulantes, lo que hoy llamaríamos anticuerpos. Esta teoría sentó las bases de las modernas teorías inmunológicas. También hizo importantes aportaciones en el campo de la quimioterapia, que incluyen el uso del 606, la llamada "bala mágica" o salvarsán, una preparación de arsénico orgánico empleada en el tratamiento de la sífilis.
En 1908 compartió el Premio Nobel de Fisiología y Medicina con el bacteriólogo ruso Iliá Mechnikov en reconocimiento al trabajo de ambos en el terreno de la química inmunológica. Recibió también la Gran Medalla de Oro Prusiana de la Ciencia (1903) y la Medalla Liebig (1911); fue nombrado miembro honorario de más de ochenta sociedades médicas y científicas nacionales y extranjeras, y recibió varios doctorados honoríficos. Murió, el 20 de agosto de 1915, en Hamburgo.