Estudió Medicina en las facultades de Medicina de Míchigan y Harvard; en esta última es donde conoció a John F. Enders que, junto con Frederick Robbins, compartirían el Premio Nobel de Fisiología o Medicina del año 1954, por sus trabajos sobre virología y Bacteriología. Fue médico del Centro Médico Infantil de Boston.
Los trabajos de Weller, Enders y Robbins, mejoraron las técnicas de cultivo de virus en tejidos vivos, concretamente el virus de la poliomielitis. Estos trabajos permitieron que otro equipo de investigadores, de la Universidad de Pittsburg, dirigidos por Jonas Edward Salk, pudieran obtener la primera vacuna.