본문 바로가기

Python

Scrapy 에러

2018-05-27 20:06:41 [scrapy.core.scraper] ERROR: Spider error processing <GET http://www.jobkorea.co.kr/starter/?schLocal=&schPart=10016&schMajor=&schEduLevel=&schWork=&schCType=&isSaved=1&LinkGubun=0&LinkNo=0&Page=1&schType=0&schGid=0&schOrderBy=0&schTxt=> (referer: None)


parse라는 함수를 제대로 명시하지 않고 임의의 이름을 지어주거나 탐색하려는 태그가 존재하지 않을 경우 발생한다.

규칙을 찾았다고 생각했으나 잘 보면 태그가 조금 다른 부분이 있다. /span[0] 대신 //span을 써서 모든 문장을 가져오는 식으로 해결했다.