Soule nació en Kennebunk, condado de York, Maine y fue a una escuela pública en California, donde se había mudado cuando era niño. Aprendió el oficio de maquinista y trabajó un tiempo en una imprenta de periódicos. En 1859 comenzó a estudiar derecho y fue admitido en el Colegio de Abogados de California en 1861. Inicialmente sin éxito en los negocios, posteriormente se mudó a San Francisco y se convirtió en un abogado de éxito.
Interesándose en la política, fue delegado de las Convenciones Demócratas del Estado de California de 1871, 1873 y 1877. En la Convención Nacional Demócrata de 1880, fue presidente de la delegación de California y, en nombre del Estado de California, apoyó la nominación de Winfield S. Hancock.
En 1878 fue elegido demócrata para representar a California en el cuadragésimo sexto Congreso y reelegido para el cuadragésimo séptimo Congreso. Sirvió desde el 4 de marzo de 1879 hasta el 4 de marzo de 1883. Se postuló para la reelección en 1882, perdió, pero, cuando la elección original declinó, fue elegido para cubrir la vacante en el Cuadragésimo octavo Congreso y sirvió desde el 31 de enero. de 1884 al 3 de marzo de 1885. Fue sucedido como candidato demócrata por William W. Morrow, quien fue elegido sobre Soule, postulándose como independiente, en 1884.
Como congresista estadounidense, Soule fue presidente del Comité de Reclamaciones de Guerra (47º Congreso) y del poderoso Comité de Medios y Arbitrios (48º Congreso) y se le atribuye haber redactado la Ley de Inmigración Antichina de 1882, la primera legislación promulgada por los Estados Unidos que restringe específicamente la inmigración. También fue una figura fundamental en la promulgación de la Ley Arancelaria McKinley de 1890, considerada por sus beneficiarios como el pináculo de la legislación proteccionista en la historia de Estados Unidos. Esta ley redujo significativamente los ingresos aduaneros, lo que requirió una nueva fuente de ingresos. Ese mismo año, el Congreso aprobó la Ley Sherman Antimonopolio, que declaró ilegales todas las combinaciones "que restrinjan el comercio" y la monopolización.
Soule se postuló dos veces como demócrata para un escaño en el Senado de los Estados Unidos, para las elecciones a los Congresos cuadragésimo noveno y quincuagésimo, perdiendo ante el republicano George Hearst y el demócrata George C. Perkins, respectivamente. Murió de neuralgia en San Francisco, mientras defendía una causa ante la Corte Suprema del Estado, dejando esposa, dos hijos y una hija. Está enterrado en el cementerio de Odd Fellows en Columbia.
Después de una prospección fallida en la mina Yellow Dog en el valle del río Kern, Soule compró la propiedad en julio de 1882 y estableció un rancho, así como una carretera de peaje hacia el valle del río Kern, que se llama "The Soule Grade".
