杨新海释放后，曾与别人结伙进行乞讨盗窃活动，他似乎并不适应合伙干的方式，一次失手后，他开始单干，杀人，强奸，盗窃，抢劫，2000年到2003年，在河南、山东、安徽、河北，他杀害了65个人。
2000年9月19日夜，河南省周口市川汇区北郊乡郭庄村，村西头一间单独的平房内，一对老夫妇被杀害了，他们的年龄与杨新海的父母相仿，这是杨新海的第一宗命案。
2000年10月1日安徽省阜阳市颖州区王店镇肖营村椿树庄，天亮雨停后，人们发现62岁的老太太亓俊英及她7岁的孙子张亚涛和12岁的孙女张亚腾在雨夜被杀死在家中——亓俊英的右太阳泶处被砸了一个大窟窿，右下巴似乎是用刀捅的，也是一个窟窿，牙都露出来了。小亚涛的脖子被捅了一刀，但伤口并不深，一段绳子直勒进他脖子的肉里。小亚腾死在里屋她自己的床上，没有穿衣服，前脑门正中间被砸了一个大洞。有被奸尸的迹象。这是杨新海的第二宗命案。
杨新海26起命案的受害者大都有与亓俊英一家相近的情况，甚至和杨新海自己的家有几分相像，偏僻的小村落，偏僻简陋的房屋，没有围墙，或者围墙很低，房门很容易拨开，家里有小女孩，杨新海总是在夜深人静的时候潜入，用锤子、刀或者绳子作为凶器，杀死家里的每一个人，然后对妇女女孩的尸体进行性侵害，有时也包括男孩。然后，浓重的夜色中，一身血腥的杨新海经常徒步几十里逃窜，在他感觉安全的时候才会停下喘息。
刚开始杀人的时候，他也曾一连几天睡不着觉，受害者的头颅碎裂的声响、他们在垂死之际沉闷的喘息、还有鲜血的味道，都曾让他窒息，但是很快，他就变成了嗜血的魔鬼，不会再停下来了。
参与追捕和审讯的警察，用过“吃苦耐劳”这个词形容杨新海的野外生存能力，他能长时间在荒郊野外野兽般的游荡，饥饿的时候，到种过红薯的地里刨点儿漏掉的东西吃。2000年第一场雪落下，杨新海在野地里发现一条冻僵的蛇，他挖一个坑把死蛇埋了，而他身上的罪恶依然活跃着。而且，越来越旺盛。
2001年8月15日，漯河市临颖县纺车刘村，村民邸之仙（女，42岁），女儿刘菲菲（14岁），儿子刘志童（11岁），一家三口被杀死在家中，是被条状钝器击打头部致死，死后遭受过性侵犯。作案手法娴熟，手段残忍，作案目标选的是一处没有围墙的农户，现场有大量翻动的迹象。
那年秋天的一个夜里，周口市西华县康楼乡发生一起命案，没有围墙的院子里，有2人惨遭杀害。
2001年冬天的一个夜里，在平顶山叶县县城东南的一个村里，又有一家围墙低矮的农户被洗劫，屋里熟睡的2人死于非命。
半年以后的2002年7月28日凌晨，邓州市孟楼镇白楼村再次被血腥的气氛笼罩。张保乾（男，77岁）、妻子尚群英（女，69岁）、孙女孙惠玲（16岁）、张惠亚（12岁）被杀死在家中。年轻的受害人遭到了性侵犯，室内被翻了个七零八落。
2002年10月22日，西平县宋集乡毛寨村村民范春和（男，34岁），女儿范俊丽（6岁）被杀死在睡梦当中。
2002年11月8日夜，上蔡县邵店乡高李村委刘庄自然村又有5人被夺去性命。2002年11月16日凌晨，尉氏县张市镇刘庄村65岁的张桂花（女）和14岁的孙女惨遭毒手。
2002年12月1日，鹿邑县王皮留镇闫湾村一家三口，被用类圆形钝器砸死在睡梦里。
2002年12月13日，杨新海又在鄢陵县马栏镇司家村欠下了两条人命债。
2002年12月15日夜，安徽省临泉县岔庙乡后范村李心得（男，42岁），女儿李杨丽（12岁），儿子李洋洋（8岁）被杀死。杨新海是翻过矮墙进院，破坏了反锁的门鼻进入室内。凶器是铁锤，女童遭到性侵犯，现场惨不忍睹。
之后，2003年，河南省，1月6日在西平县、1月27日在通许县、2月5日在襄城县、2月18日在西华县、3月28日在民权县，杨新海接连犯下命案，造成19人死亡，一人重伤。
2003年4月2日，杨新海在山东省曹县桃源乡三里寨村翻墙入院、拨门入室，杀死两人，强奸一人。