A mindössze 160 centiméteres magasságú Jacob Schiffről valószínűleg kevesen gondolták volna, hogy az amerikai zsidóság „óriása” lesz. A lázadó frankfurti fiatalember 1865. augusztus 6-án szállt partra New Yorkban, hogy hátrahagyja a szigorú otthoni légkört, és megcsinálja szerencséjét Amerikában. Apja, Moses Schiff a Rothschildoknak dolgozott, és a frankfurti gettó, a Judengasse tekintélyesebb személyei közé tartozott. Családja vérvonalát egészen Áron főpapig lehetett visszavezetni, ezért a környék lakossága nála fizette be az elsőszülött gyermekek megváltásához szükséges öt ezüstöt. Családját erős ortodox szellemben nevelte, és hevesen ellenezte a judaizmus reformjára irányuló törekvéseket.
Jacob azonban nem osztotta buzgalmát: „A második fiam, a tizenhét éves Jacob nagy gondot okoz nekem, mert már most szűkösnek érzi Frankfurtot ambíciói számára” – írta róla az apja. Egyes feljegyzések szerint szülei engedélye nélkül utazott el Amerikába, ahol rövidesen tőzsdeügynök lett, és igazolta a hite felhígulásával kapcsolatos aggodalmakat (életrajzírója szerint többnyire tartotta az étkezési szabályokat, ám a homár és a bacon mégis utat talált a családi asztalra). Karrierje meredeken ívelt felfelé: 1874-ben csatlakozott a Kuhn, Loeb & Co. bankházhoz, ahol rövidesen a legfőbb döntéshozóvá vált, emellett feleségül vette az egyik alapító, Solomon Loeb lányát is.
Mikor Joseph Seligman 1880-ban meghalt (róla részletesebben az előző részben írtunk), Schiff vált az amerikai zsidóság első emberévé. Hatalmas pénzügyi befolyásra tett szert, többek között 1897-ben Edward Harriman az ő támogatásával szervezte újjá a Union Pacific vasútvonalat, majd a páros versenyre kelt J. P. Morgannal és körével a Northern Pacific megszerzéséért is. A rivalizálás döntetlennel ért véget, a két fél közös céget alapított, ami azonban gyors véget ért Theodore Roosevelt trösztellenes törvényeinek köszönhetően.