De ouders van Casper waren Hendrik Borgstijn (*1881) en de Culemborgse Gijsberta "Berta" van den Ham (1882-1937). Ze trouwden op 22 april 1918 in Culemborg en enkele maanden later werd Casper geboren.
Op dit moment is er nog weinig van deze tak van de familie Borgstijn bekend.

Casper trok eind jaren dertig met zijn ouders richting Schiedam, alwaar hij werkzaam was in de scheepsbouw.
Zijn moeder overleed op 55-jarige leeftijd op 5 juni 1937 in Kethel en Spaland, dat in 1941 werd geannexeerd door Schiedam. Zijn vader verhuisde daarna weer naar Culemborg.
Casper werd gearrsteerd in Hamburg en naar kamp Neuengamme overgebracht. Hij verbleef daar in blok 11 en had gevangenennummer 21008. Laatste bericht vandaar op 12 juli 1944. Hierna werd Casper op transport gesteld naar Bergen-Belsen en is daar op 3 december 1944 door tuberculose om het leven gekomen.