Ellsworth nació en Malta, Nueva York, el 11 de abril de 1837. Asistió a la Academia Militar de los Estados Unidos en West Point, pero renunció después de dos años. Luego trabajó como periodista en Chicago, Illinois.
Cuando estalló la Guerra Civil en 1861, Ellsworth formó el 11.º Regimiento de Infantería Voluntaria de Nueva York, conocido como los "Zuavos de Fuego". Los zuavos eran un regimiento extravagante que vestía uniformes zuavos, inspirados en los uniformes de los regimientos zuavos del ejército francés.
El 11.º Regimiento de Infantería Voluntaria de Nueva York fue asignado al Ejército del Potomac del general Benjamin Butler. El 24 de mayo de 1861, se ordenó al regimiento que ocupara Alexandria, Virginia, que estaba ubicada al otro lado del río Potomac desde Washington, D.C.
Cuando los zuavos entraron en Alejandría, se encontraron con una bandera confederada ondeando en Marshall House, un hotel de la ciudad. Ellsworth ordenó a sus hombres que quitaran la bandera y se subió al mástil para bajarla él mismo.
Cuando Ellsworth llegó a la cima del poste, James W. Jackson, el propietario de Marshall House, lo mató a tiros. Jackson fue inmediatamente asesinado por un miembro del regimiento de Ellsworth.
La muerte de Ellsworth fue un duro golpe para la causa de la Unión. Era una figura popular y su muerte ayudó a galvanizar el apoyo a la Unión. Su funeral se celebró en la ciudad de Nueva York y fue enterrado en el cementerio de Greenwood.
La muerte de Ellsworth también inspiró la composición de una canción popular, "La balada de Ellsworth". La canción cuenta la historia de la vida y la muerte de Ellsworth y fue cantada por soldados de ambos lados de la Guerra Civil.
La muerte de Ellsworth fue un acontecimiento importante en la Guerra Civil. Ayudó a conseguir apoyo para la causa de la Unión e inspiró la composición de una canción popular. Ellsworth es recordado como un héroe de la Guerra Civil y su memoria todavía se honra en la actualidad.