기본 콘텐츠로 건너뛰기

[ SOLR ] DataImport 처리할 때 주의할 점.



  Solr 에 외부 데이터를 Import 할 때 사용하는 것이 DataImport 패키지다. Solr 를 다운로드하면 존재하는 별도의 라이브러리로 Solr 에서 Batch Import 역할을 담당한다. 다양한 데이터 소스로 부터 데이터를 처리하는 방법을 제공하고 있기 때문에 실제 적용할 때는 관련된 Wiki 정보를 확인해 보면 된다.

  Solr 에서 자체적으로 제공하는 UpdateHandler 와는 다르게 동작하는 것으로 파악이 된다. 즉, UpdateHandler에서 처리하는 Chain 들의 처리를 DataImport에서 따로 설정해서 처리를 하여야 한다는 점이다. 이런 처리를 수행할 때 주의할 점이 존재한다.

  데이터를 가져올 특정 테이블에 HTML 태그들을 포함하는 "content" 컬럼이 존재할 경우에 이를 가져와서 HTML 이 존재하는 정보 (원본 데이터 그대로) 화 HTML 이 제거된 정보를 사용하여야 하는 경우라면 아래와 같이 설정을 하여 처리를 하게 된다.


            
    
        transformer="TemplateTransformer, HTMLStripTransformer"
            query="SELECT * from 대상테이블">
            ...
            content"  name="content_plain" stripHTML="true" />
            content"  name="content_html"  stripHTML="false" />
            ...
            template="${entity명.컬럼명1}-${entity명.컬럼명2}-${entity명.컬럼명3}" />

        <!-- SQL 의 SUB Query와 같이 Entity를 Sub document 로 처리하고 doc_id를 지정하면 된다. -->
        <entity name="서브Entity이름"
            transformer="HTMLStripTransformer"
            query="select * FROM 서브테이블">
            ...
            <field column="</span><span style="color: #660000;"><b>description</b></span><span style="color: #333333;">"  name="content_plain" </span><span style="color: #660000;"><b>stripHTML="true"</b></span><span style="color: #333333;"> />
            <field column="</span><span style="color: #660000;"><b>description2</b></span><span style="color: #333333;">" name="content_html"  </span><span style="color: #660000;"><b>stripHTML="false"</b></span><span style="color: #333333;"> />
            ...
        </entity>
    </entity>
</document>

  위의 예제는 Master - Detail 구조의 테이블에서 데이터를 가져와서 처리하는 것이다. 단, RDB에서는 Master-Detail 구조일지라도 Solr 의 Entity로 처리하기 위해서는 Flat 구조의 레코드로 구성해야 하기 때문에 content_plain, content_html 에 MultiValued 구성을 하였고, Unique 를 보장하기 위해서 컬럼1 + 컬럼2 + 컬럼3 의 템플릿을 구성하여 Solr Document 의 Key를 구성하고 있는 것이다.

  위의 예에서 문제가 될 수 있는 부분이 동일한 컬럼인 “Content” 를 가지고 stripHTML Transform을 true/false 로 활용하는 부분이다. 이 처리는 내부적으로 첫번째 처리되는 Transformer의 결과가 관리되고 있는 컬럼의 실제 값으로 치환이 되기 때문에 두번째 동작하는 Transformer는 이미 변경된 컬럼 값을 가지고 동작하게 된다는 것이다. (이 처리는 UpdateHandler에서 Chain 처리와 동일하게 동작한다고 생각하면 된다)

  따라서 결과적으로 content_plain 필드의 처리를 위해서 Strip HTML 처리를 한 결과가 content 컬럼의 값으로 갱신이 되었기 때문에 두 번째인 content_html 은 HTML 태그가 존재하는 원본 데이터이기를 예상하지만 실제 처리 결과는 이미 HTML 태그가 제거된 값으로 처리된다. 따라서 content_plain 과 content_html 은 동일한 값을 가지게 된다.

  순서를 바꿔서 하면 될 듯 하지만 동일한 컬럼에 대해서 동일한 Transformer 가 처리되는 것과 동일하기 때문에 두 번째는 무시되는 상황이 발생한다. true/false 가 다르므로 제대도 동작할 것이라고 판단했지만, 실제 처리 결과는 두 번째가 무시된 결과로 두 필드가 모두 HTML 태그를 포함한 값으로 나온다.

  이를 해결하는 방법은 서브 Entity 처리에서 보이는 것과 같이 컬럼을 다르게 하여 Transformer 를 적용하면 해결이 된다. 서로 다른 컬럼인 경우는 각자 처리가 되기 때문이다. 그러나 이렇게 하는 경우는 대량의 데이터를 처리할 경우에 성능에 문제가 발생한다.

라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

OData 에 대해서 알아보자.

얼마 전에 어떤 회사에 인터뷰를 하러 간 적이 있었다. 당시 그 회사는 자체 솔루션을 개발할 기술인력을 찾고 있었고 내부적으로 OData를 사용한다고 했다. 좀 창피한 이야기일 수도 있지만 나름 기술적인 부분에서는 많은 정보를 가지고 있다고 했던 것이 무색하게 OData란 단어를 그 회사 사장님에게서 처음 들었다. 작고, 단순한 사이트들만을 계속해서 작업을 하다 보니 어느덧 큰 줄기들을 잃어버린 것을 느끼기 시작했다. 명색이 개발이 좋고, 기술적인 기반을 만들려고 하는 인간이 단어조차도 모른다는 것은 있을 수 없는 것이라서 다시 새로운 단어들과 개념들을 알아보는 시간을 가지려고 한다. OData (Open Data Protocol) 란? 간단히 정리하면 웹 상에서 손쉽게 데이터를 조회하거나 수정할 수 있도록 주고 받는 웹(프로토콜)을 말한다. 서비스 제공자 입장에서는 웹으로 데이터를 제공하는 방식으로 각 포탈 사이트들이 제공하는 OPEN API 포맷을 독자적인 형식이 아니라 오픈된 공통규약으로 제공 가능하며, 개발자는 이 정보를 다양한 언어의 클라이언트 라이브러리로 어플리케이션에서 소비할 수 있도록 사용하면 된다. 공식 사이트는 www.odata.org 이며 많은 언어들을 지원하고 있다. 좀더 상세하게 정의를 해 보면 OData는 Atom Publishing Protocol  (RFC4287) 의 확장 형식이고 REST (REpresentational State Transfer) Protocol 이다. 따라서 웹 브라우저에서 OData 서비스로 노출된 데이터를 볼 수 있다. 그리고 AtomPub 의 확장이라고 했듯이 데이터의 조회만으로 한정되는 것이 아니라 CRUD 작업이 모두 가능하다. Example 웹 브라우저에서 http://services.odata.org/website/odata.svc 를 열어 보도록 하자. This XML file does not appear to have any style in...
댓글 6개
자세한 내용 보기

C# 에서 Timer 사용할 때 주의할 점.

예전에 알고 지내시던 분의 질문을 받았다. Windows Forms 개발을 하는데, 주기적 (대략 1분)으로 데이터 요청을 하는 프로그램을 작성하기 위해서 Timer 를 사용하는데, 어떤 기능을 처리해야 하기 때문에 Sleep 을 같이 사용했다고 한다. 여기서 발생하는 문제는 Sleep 5초를 주었더니, Timer 까지 5초 동안 멈춘다는 것이다. Timer 라는 것은 기본적으로 시간의 흐름을 측정하는 기능이기 때문에 Sleep 을 했다고 해서 Timer 가 멈추는 일은 생겨서는 안된다. 그러나 실제 샘플을 만들어 보면 ... Timer 가 Sleep 만큼 동작이 멈추는 것을 확인할 수 있다. Windows Forms 는 UI Thread 를 사용하는 것으로 최적화 되어 있으며 여기서 Timer 를 쓰면 UI Thread 에 최적화된 System.Windows.Forms.Timer 가 사용된다. 여기서 문제의 발생이 시작되는 것이다. Sleep 을 사용하게 되면 UI Thread 가 Sleep 이 걸리기 때문에 여기에 속한 Timer 까지도 멈추는 것이다. 이런 문제를 해결하기 위해서는 System.Threading.Timer 를 사용해야 한다. 이 Timer 는 별도의 Thread 에서 동작하기 때문에 Sleep 의 영향을 받지 않는다. 언뜻 보면 쉬운 해결 방법인 것 같지만 Thread 가 분리되었기 때문에 Timer 가 돌아가는 Thread 에서 UI Thread 의 메서드나 컨트롤에 접근하기 위해서는 별도의 명령을 사용해야 하는 문제가 존재한다. 자~ 그럼 여기서 Timer 에 대해서 다시 한번 정리해 보도록 하자. .NET 에서 제공하는 Timer 들 .NET 에서는 기본적으로 3가지 Timer를 제공하고 있다. (MSDN) System.Windows.Forms.Timer - 사용자가 지정한 간격마다 이벤트를 발생시키며 Windows Forms 응용 프로그램에서 사용할 수 있도록 최적화 되어 있다. System...
댓글 7개
자세한 내용 보기

[Logging] NLog 사용법 정리...

SCSF 에는 기본적으로 Enterprise Library가 사용된다. 예전에도 그랬지만 기능은 훌륭하고 많은 부분에서 최적화(?)된 것일지도 모르지만, 역시나 사용하기에는 뭔가 모르게 무겁고, 사용하지 않는 기능이 더 많다라는 느낌을 지울수가 없다. 이번 프로젝트도 SCSF를 기반으로 하고 있지만, Enterprise Library를 걷어내고 각 부분에 전문화된 오픈 소스를 사용하기로 하였다. 예전에는 Log4Net을 사용했지만, 대량 사용자 환경에서는 메모리 누수와 기타 문제점이 존재한다는 MS 컨설턴트(?)의 전해진 말을 들은 후로는 사용하지 않는다. 대안으로 사용하는 것이 NLog 이다. 조금 후에는 3.0 버전도 나온다고 홈 페이지에 기재되어 있지만, 그 때가 되면 프로젝트는 끝나기 때문에 현재 2.1.0 버전을 사용하기로 했다. [원본 출처] http://cloverink.net/most-useful-nlog-configurations-closed/ 위의 참조 자료에는 다양한 정보들이 존재하므로 꼭 링크를 통해서 관련된 정보를 확인하고 이해하는 것이 좋을 듯 하다. 여기서는 당장 필요한 부분만을 정리하도록 한다. [ Logger 찾기 ] 기본적으로 Logger가 존재하는 클래스를 기반으로 Logger 정보를 구성한다. Logger logger = LogManager.GetCurrentClassLogger(); 주로 Namespace 기반으로 Logger를 설정하는 경우에 유연하게 사용할 수 있다. 또 다른 방법으로는 지정한 문자열로 특정 Logger를 직접 선택하는 방법도 제공된다. 이를 혼용해서 Namespace와 직접 지정 방식을 같이 사용할 수도 있다. 물론 Logger 환경 설정에서 Wildcard (*)를 지정할 수도 있다. Logger logger = LogManager.GetLogger("Database.Connect"); Logger logger = LogManager.Get...
댓글 1개
자세한 내용 보기