많은 양의 작업을 정해진 갯수의 프로세스로 동시에 처리하기

2016-08-24

여러 사이트를 동시에 크롤링 하는 등의 작업을 위해서는 동시에 웹페이지 내용을 가져오는 것이 거의 필수적입니다. 하지만, 가져올 페이지가 10000개라고 동시에 10000개를 모두 가져 올 수는 없습니다. 서버 사양이나 네트워크 대역폭을 감안하여, 동시에 수십개 정도 사이트를 수집하는 정도가 일반적입니다.

동시에 작업을 처리하는 방법은 많지만, 개인적으로 요즘은 사용법이 단순하고 쉬운 Parallel 패키지를 자주 사용하고 있습니다. Parallel은 PHP의 pcntl 함수를 사용하기 편하게 클래스로 만든 것인데, 한가지 부족한 점은 많은 양의 작업을 대상으로 그 중 일정한 갯수만 동시에 처리하는 기능입니다. 이 점을 보완하기 위해 작은 클래스를 하나 만들어 보았습니다.

우선 Parallel 패키지는 컴포져(Composer)를 이용해 설치 할 수 있습니다. 다만 pcntl 모듈을 꼭 필요합니다.

동시에 여러 작업을 처리하기 위해 WorkerPool 클래스를 생성하실 때 동시 처리 최대 작업 갯수를 파라미터로 전달하면 됩니다.

WorkerPool::start() 메소드를 통해 작업을 시작하기 위해서는 KzykHys\Thread\Runnable 인터페이스를 구현한 Job 클래스를 생성해서 파라미터로 전달합니다.

WorkerPool 클래스와 작업을 실제 처리 할 Job 클래스를 이용해 많은 양의 작업을 정한 프로세스 갯수만큼 동시에 처리하는 방법은 다음 코드와 같습니다.

한가지 잊지 말아야 할 것은 모든 작업이 끝나고 프로그램이 종료될 수 있도록 WorkerPool::wait() 메소드를 마지막에 꼭 호출 해 주어야 합니다.

Tags