En 1919, Chadwick volvió a Cambridge y prosiguió su colaboración con Rutherford, quien había descubierto en 1917 la desintegración atómica artificial al estudiar el átomo de nitrógeno y continuaba trabajando con otros elementos ligeros. Rutherford había teorizado sobre la existencia de nuevos núcleos atómicos, formados en su concepción por protones y electrones.
En 1932, durante el estudio de una radiación detectada por W. Bothe (1891-1957), logró identificar sus componentes como partículas con una masa equivalente a la del protón, pero carentes de carga, descubriendo así la existencia de los neutrones, componentes del núcleo atómico junto con los protones, y que harían posible el descubrimiento de la fisión atómica. Chadwick dio a conocer sus trabajos en la revista Nature; sin embargo, no se ocupó de la función del neutrón en el núcleo atómico, trabajos de los que se hizo cargo, casi de forma inmediata, el físico alemán Werner Heisenberg, y que supusieron el comienzo de la física cuántica.
La construcción de un ciclotrón, que Rutherford no veía con buenos ojos, fue causa de que ambos se enemistaran y Chadwick marchara a Liverpool para realizar allí labores de docencia. Durante la Segunda Guerra Mundial, el científico apoyó la construcción de la bomba atómica y marchó a trabajar a Estados Unidos.