Når det kommer til fossilprotokollen, trak New York den korte ende af stokken: Empire State er rig på små, marine boliger, hvirvelløse dyr, der dateres til det tidlige Paleozoic æra, hundreder af millioner af år siden, men giver en virtuel blank, når det kommer til dinosaurer og megafauna-pattedyr. (Du kan bebrejde New Yorks relative mangel på sedimenter akkumuleret i løbet af Mesozoic og Cenozoic Eras.) Det er stadig ikke at sige, at New York helt var blottet for forhistorisk liv, nogle bemærkelsesværdige eksempler, som du kan finde på følgende slides. (Se a liste over dinosaurer og forhistoriske dyr opdaget i hver amerikansk stat.)
For lidt over 400 millioner år siden i løbet af Silurian periode, var store dele af Nordamerika, inklusive New York State, under vandet. Den officielle statsfossil i New York, Eurypterus var en type marine hvirvelløse dyr kendt som en havsskorpion, og var en af de mest frygtede undervands rovdyr inden udviklingen af forhistoriske hajer og kæmpe marine krybdyr
. Nogle eksempler på Eurypterus blev næsten fire meter lange og dværgede den primitive fisk og hvirvelløse dyr, som de byttede på.Det er ikke et kendt faktum, men forskellige dinosaur fodaftryk er blevet opdaget i nærheden af byen Blauvelt i New Yorks Rockland County (ikke så langt fra New York City). Disse spor dateres til det sene Trias periode for ca. 200 millioner år siden og inkluderer nogle forfærdelige beviser for at køre pakker med Coelophysis (en dinosaurus bedst kendt for sin udbredelse i fjerntliggende New Mexico). I afventende afgørende bevis for, at disse fodaftryk virkelig blev fastlagt af Coelophysis, foretrækker paleontologer at henføre dem til en "ichnogenus" kaldet Grallator.
I 1866, under opførelsen af en mølle i New York, opdagede arbejderne de næsten komplette rester af et fem ton Amerikansk Mastodon. "Cohoes Mastodon", som det er blevet kendt, vidner om, at disse kæmpe forhistoriske elefanter strejfe om New Yorks vidunder i tordnende besætninger, så sent som for 50.000 år siden (uden tvivl sammen med deres nære samtid pleistocæn epoke, the Uld mammut).
Som mange andre stater i det østlige USA var New York relativt lun, geologisk set, indtil den sene Pleistocene-epoke - da den blev krydset af alle slags megafauna-pattedyr, lige fra mammuter og mastodoner (se tidligere slides) til sådanne eksotiske slægter som Giant Short-Faced Bear og Giant Beaver. Desværre blev de fleste af disse pattedyr i større størrelse udryddet i slutningen af den sidste istid og bukkede under for en kombination af menneskelig predation og klimaændringer.