J Intell Inform Syst 2017 September: 23(3): 69~94 http://dx.doi.org/10.13088/jiis.2017.23.3.069
전역 토픽의 지역 매핑을 통한 효율적 토픽 모델링 방안
최호창
국민대학교 비즈니스IT전문대학원 ([email protected])
김남규
국민대학교 경영대학 경영정보학부 ([email protected])
․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․
최근 빅데이터 분석 수요의 지속적 증가와 함께 관련 기법 및 도구의 비약적 발전이 이루어지고 있으며, 이 에 따라 빅데이터 분석은 소수 전문가에 의한 독점이 아닌 개별 사용자의 자가 수행 형태로 변모하고 있다. 또 한 전통적 방법으로는 분석이 어려웠던 비정형 데이터의 활용 방안에 대한 관심이 증가하고 있으며, 대표적으 로 방대한 양의 텍스트에서 주제를 도출해내는 토픽 모델링(Topic Modeling)에 대한 연구가 활발히 진행되고 있다.
전통적인 토픽 모델링은 전체 문서에 걸친 주요 용어의 분포에 기반을 두고 수행되기 때문에, 각 문서의 토 픽 식별에는 전체 문서에 대한 일괄 분석이 필요하다. 이로 인해 대용량 문서의 토픽 모델링에는 오랜 시간이 소요되며, 이 문제는 특히 분석 대상 문서가 복수의 시스템 또는 지역에 분산 저장되어 있는 경우 더욱 크게 작용한다. 따라서 이를 극복하기 위해 대량의 문서를 하위 군집으로 분할하고, 각 군집별 분석을 통해 토픽을 도출하는 방법을 생각할 수 있다. 하지만 이 경우 각 군집에서 도출한 지역 토픽은 전체 문서로부터 도출한 전 역 토픽과 상이하게 나타나므로, 각 문서와 전역 토픽의 대응 관계를 식별할 수 없다.
따라서 본 연구에서는 전체 문서를 하위 군집으로 분할하고, 각 하위 군집에서 대표 문서를 추출하여 축소된 전역 문서 집합을 구성하고, 대표 문서를 매개로 하위 군집에서 도출한 지역 토픽으로부터 전역 토픽의 성분을 도출하는 방안을 제시한다. 또한 뉴스 기사 24,000건에 대한 실험을 통해 제안 방법론의 실무 적용 가능성을 평 가하였으며, 이와 함께 제안 방법론에 따른 분할 정복(Divide and Conquer) 방식과 전체 문서에 대한 일괄 수행 방식의 토픽 분석 결과를 비교하였다.
주제어 : 분할 정복 접근법, 빅데이터, 텍스트 마이닝, 토픽 모델링
․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․․
논문접수일 : 2017년 7월 21일 논문수정일 : 2017년 9월 14일 게재확정일 : 2017년 9월 19일 원고유형 : 일반논문 교신저자 : 김남규
1. 서론
최근 빅데이터 분석 수요의 지속적 증가와 함 께 관련 기법 및 도구의 비약적 발전이 이루어지 고 있다. 또한 IT 기술의 발달 및 스마트기기의 보급률 증가로 인해 많은 양의 데이터가 생성되 고 있으며, 관련 분석 기술 또한 빠른 속도로 대
중화됨에 따라 이를 통해 새로운 통찰(Insight)을 얻고자 하는 시도가 지속적으로 증가하고 있다.
IDC(International Data Corporation)의 최근 보고 는 세계 빅데이터 시장이 매년 11.9%의 지속적 성장을 할 것으로 예상하고 있으며, 2020년에는 해당 시장의 규모가 2,100억 달러에 이를 것으로 전망하고 있다(IDC, 2017). 이렇듯 빅데이터 분
석은 가까운 미래에 다양한 산업 분야의 핵심 기 술로 자리잡으며 그 중요성이 더욱 강조될 것으 로 예상된다.
기존의 빅데이터 분석은 대부분 전문적 지식 을 갖춘 소수의 사람들에 의해 수행되어 각 수요 자에게 전파되었다. 하지만 최근 컴퓨터 프로그 래밍 교육의 활성화와 다양한 상용 프로그램의 개발은 분석에 대한 진입장벽을 점차 낮추고 있 으며, 최신 기술 동향에서는 빅데이터 분석을 시 민 데이터 과학(Citizen Data Science) 및 자가 서 비스 전달을 수반한 고급 분석(Advanced Analytics with Self-Service Delivery)과 같은 새로 운 용어로 표현하고 있다(Gartner, 2015). 이에 따 라 향후 빅데이터 분석은 전문가 중심의 수행에 머물지 않고 사용자의 자가 분석에 의한 맞춤형 분석 서비스 형태로 제공되며, 수요자의 필요에 의해 특정 분석 결과만을 선별 및 통합하는 방향 으로 진화할 것으로 예상된다.
이러한 현상과 함께 비정형 데이터의 분석 기 술이 대중화됨에 따라 다양한 비정형 데이터의 수집, 분석, 그리고 활용에 대한 관심이 증가하 고 있다. 특히 의사소통의 매체로 가장 널리 사 용되는 텍스트 데이터에 대한 분석 시도가 급증 하고 있으며, 소셜 네트워크 서비스(Social Network Service, SNS)로 대표되는 웹 플랫폼의 활성화와 바이럴 마케팅(Viral Marketing) 등 웹 을 이용한 신종 기법의 등장에 따라 텍스트 데이 터의 양은 기하급수적 증가 추세를 보이고 있다.
따라서 텍스트의 분석을 통해 유용한 정보를 도 출하고 이를 산업 각 분야에 활용하기 위한 노력 이 매우 활발하게 이루어지고 있으며, 이와 더불 어 텍스트 분석을 위한 이론 및 기법을 총칭하는 텍스트 마이닝(Text Mining)에 대한 관심 역시 고조되고 있다.
텍스트 마이닝의 다양한 응용 가운데, 특히 방 대한 양의 문서로부터 주요 이슈를 추출하고 각 이슈에 해당하는 문서를 식별하여 이들을 군집 으로 제공하는 토픽 모델링에 대한 연구(Kim et al., 2017; Steyvers and Griffiths, 2007)가 매우 활 발하게 수행되고 있다. 토픽 모델링은 일반적 문 서 군집화 기법과는 달리 문서의 의미적 요소를 반영한 결과를 제시하기 때문에 매우 유용한 기 법으로 평가받는다. 하지만 전통적인 토픽 모델 링은 전체 문서에 걸친 주요 용어의 분포에 기반 을 두고 수행되기 때문에, 각 문서의 토픽을 식 별하기 위해서는 전체 문서에 대한 일괄 분석이 이루어져야 한다. 이로 인해 대용량 문서의 토픽 모델링에는 매우 오랜 시간이 소요되며, 분석 대 상 규모가 증가함에 따라 분석 시간이 지수적으 로 증가하는 확장성(Scalability)의 문제가 발생한 다. 이러한 현상은 특히 여러 문서들이 복수의 시스템 또는 지역에 분산 저장되어 있는 경우 더 욱 큰 부담으로 작용할 수 있다.
이러한 한계를 극복하기 위해 대량의 문서를 하위 군집으로 분할하고 각 군집별 분석을 통해 토픽을 도출하는 방안, 즉 토픽 모델링에 분할 정복 접근법을 적용하는 방안을 생각할 수 있다.
이는 대량의 문서에 대한 일괄 토픽 모델링을 수 행하는 대신 분할된 소량의 문서에 대한 토픽 모 델링을 반복 수행하는 방법으로, 제한된 시스템 자원으로 대량의 문서에 대한 분석을 수행할 수 있으며 분석 속도 측면에서도 효율성을 기대할 수 있다. 또한 문서가 여러 지역 또는 사이트에 산재해 있는 경우, 이들을 모두 취합하여 분석을 수행할 필요 없이 각 지역 또는 사이트에서 분석 을 수행하는 것이 가능하기 때문에 시간과 비용 을 매우 절약할 수 있을 것이다.
하지만 이러한 방식, 즉 전체 문서를 하위 군
<Figure 1> Difficulties in Mapping Global and Local Topics
집으로 분할하여 각 군집별 토픽을 도출하는 방 식은 크게 두 가지 측면에서 난제를 야기한다.
우선 이렇게 도출된 지역 토픽들과 애초에 도출 하고자 했던 전역 토픽들, 즉 전체 문서에 대한 일괄 분석을 통해 도출할 수 있었던 토픽들과의 관계가 불명확하다는 것이다. 예를 들어 <Figure 1>은 전체 문서에 대한 토픽 모델링을 통해 전역 토픽(Global Topics)을 도출하기 어려운 상황에 서, 전체 문서를 세 개의 군집(LA, LB, LC)으로 분 할하고 각 군집별로 토픽 모델링을 수행하여 지 역 토픽(Local Topics)을 도출한 예이다. 이 때
<Figure 1>에서 LA_T1 ~ LA_Tn, LB_T1 ~ LB_Tn, LC_T1 ~ LC_Tn의 지역 토픽들로부터 G_T1 ~ G_Tn의 전역 토픽을 도출해 낼 수 있는 방법이 없다. 이는 각 문서에 존재하는 지역 토픽을 식 별할 수는 있지만, 각 문서가 어떤 전역 토픽을 다루고 있는지 파악할 수 있는 방법이 없음을 의 미한다. 또 다른 문제는 방법론의 정확성 측면에 서 발생한다. 즉 전체 문서에 대해 일괄적으로 수행한 토픽 모델링 결과를 가장 이상적인 정답 이라고 가정했을 때, 분할 정복 접근법을 통해 수행한 토픽 모델링 결과가 이와 얼마나 차이가
있는지 측정하기 위한 방안이 마련되어야 한다.
이러한 어려움으로 인해 분할 정복 접근법에 따 라 토픽 모델링을 수행하는 방안에 대한 연구는 토픽 모델링을 다룬 다른 연구들에 비해 상대적 으로 충분히 이루어지지 않았다.
본 연구에서는 위의 두 가지 난제를 해결하기 위한 방안을 다음과 같이 제시하고자 한다. 우선 전체 문서를 하위 군집으로 분할하고, 각 하위 군집에서 대표 문서(Delegate Documents)를 추출 하여 축소된 전역 문서 집합(RGS, Reduced Global Set)을 구성한 후, 대표 문서를 통해 RGS 에 대한 토픽 모델링 결과와 각 지역 토픽 모델 링 결과를 대응시킴으로써 첫 번째 난제를 해결 하고자 한다. 또한 이상적인 분석에서 동일 토픽 으로 식별된 문서들이 분할 정복 접근법에 따른 분석을 통해 여전히 동일 토픽으로 식별되는지 여부를 파악하여 제안 방법론의 정확도를 파악 하고자 한다.
본 연구의 이후 구성은 다음과 같다. 우선 2장 에서는 텍스트 분석, 토픽 모델링, 그리고 토픽 모델링의 성능 이슈 등 본 연구와 관련한 선행 연구의 성과를 요약하고, 3장에서는 본 연구에서 제안하는 방법론을 간단한 예를 통해 소개한다.
또한 4장에서는 제안 방법론을 실제 뉴스 데이 터에 적용한 결과를 분석하고, 마지막 장인 5장 에서는 본 연구의 기여 및 한계를 요약한다.
2. 관련 연구
2.1 텍스트 분석
최근 4차 산업혁명에 대한 관심이 증가함과 함께 인공지능(Artificial Intelligence) 및 빅데이
터 처리 기술에 대한 수요가 급증하고 있다. 이 와 더불어 해당 기술의 적용 대상이 되는 다양한 데이터에 대한 관심 또한 증가하고 있으며, 특히 텍스트로 대표되는 비정형 데이터를 분석에 적 용하기 위한 시도가 학계 및 산업계 전반에서 매 우 활발하게 시도되고 있다. 텍스트는 현실 세계 에서 정보의 표현과 교환을 위해 사용되는 가장 대표적인 의사소통 수단으로(Witten, 2004), 최근 웹 플랫폼의 활성화에 따라 방대한 양의 텍스트 데이터가 생성됨과 함께 텍스트 정보 분석의 중 요성이 더욱 강조되고 있다.
이러한 텍스트의 분석을 위해서는 전통적인 데이터 마이닝 기법을 포함하는 여러 분야의 기 술들이 포괄적으로 사용되며, 해당 기술들은 텍 스트 마이닝이라는 새로운 분야의 기술로 분류 되고 있다(Hotho et al., 2005; Mooney and Bunescu, 2006; Sebastiani, 2006). 텍스트 마이닝 은 일반적으로 문서 수집, 파싱(Parsing), 필터링 (Filtering), 구조화, 빈도 분석 및 유사도 분석의 순서로 수행되며, 특히 자연어 형태로 저장되는 텍스트를 벡터 또는 행렬과 같은 형식으로 정형 화하는 기술인 구조화는 텍스트 분석의 핵심기 술이라 할 수 있다. 텍스트 구조화에는 각 문서 를 용어의 출현 빈도에 따라 벡터로 표현하여 문 서의 특성을 나타내는 벡터공간모델(Vector Space Model)이 주로 사용된다(Salton, 1971;
Salton et al., 1975). 이에 따라 각 용어의 빈도수 를 고려하여 이를 가중치로 활용하기 위한 여러 지표들이 개발되어 왔으며, 이 중 용어의 절대 빈도수 및 상대적 빈도수를 동시에 고려한 지표 인 TF-IDF(Term Frequency – Inverse Document Frequency) 및 이를 변형한 지표가 가장 대중적 으로 사용되고 있다(Han et al., 2011). 이렇게 구 조화된 텍스트 데이터는 (문서 수) × (용어 수)의
행렬로 표현될 수 있으며, 이때 각 문서는 용어 수에 해당하는 만큼의 차원을 갖는다. 그 결과 전체 문서의 행렬은 매우 높은 차원으로 구성되 기 때문에, 이 행렬을 변환 과정 없이 분석에 사 용하는 것은 매우 비현실적이다. 따라서 이를 분 석 가능한 수준의 차원으로 표현하기 위한 차원 축소기법과 함께, 특정 문서들에서 동시에 출현 하는 용어들의 의미적 유사성을 활용하기 위한 기법에 대한 연구가 활발하게 수행되고 있다.
2.2 토픽 모델링
토픽 모델링은 각 문서를 임의의 주제들로 구 성된 집합으로 간주하고, 각 문서를 구성하는 주 제와 각 주제에 해당하는 용어의 중요도를 확률 적으로 제시하는 기법으로 정의할 수 있다(Kim et al., 2017; Steyvers and Griffiths, 2007). 이때 문 서들 간의 유사도는 기본적으로 코사인 유사도 (Cosine Similarity)를 이용하여 측정될 수 있으며, 용어의 의미적 유사도를 반영하기 위한 여러 기 법들이 지속적으로 개발되고 있다. 특히 텍스트 분석에 주로 활용되는 상용 프로그램인 SAS Enterprise Miner은 잠재 의미 분석(Latent Semantic Analysis)을 적용하여 토픽 모델링을 수 행하고 있으며(Deerwester et al., 1990; Koll, 1979), R을 비롯한 오픈소스 소프트웨어를 사용 하는 많은 연구에서는 잠재 디리클레 할당 (Latent Dirichlet Allocation)을 적용하여 해당 분 석을 수행하고 있다.
토픽 모델링은 기본적으로 유사성에 따라 분 석 대상을 군집으로 형성하여 제시하기 때문에 전통적인 군집화의 한 부류로 파악할 수 있다.
하지만 토픽 모델링은 각 개체가 여러 군집에 동 시에 포함될 수 있는 연성 군집화(Soft
Clustering)을 사용한다는 점과 분석 결과를 단순 한 식별자가 아닌 의미를 가진 용어 집합으로 제 시한다는 점에서 일반적인 군집화 기법과는 차 이가 있다. 이러한 특징으로 인해 토픽 모델링은 현재 여러 분야에서 매우 다양한 목적으로 활용 되고 있다(Byun et al., 2016; Kim and Kim, 2016;
Lee et al., 2016; Livermore et al., 2016). 하지만 토픽 모델링의 활용이 증가함에 따라 해당 기법 의 구조적 한계에 대한 지적도 활발하게 제기되 고 있다.
2.3 토픽 모델링의 성능 이슈
전통적 토픽 모델링의 대표적인 구조적 한계 는 분석 대상으로 새로운 문서가 추가될 경우, 이를 결과에 반영하기 위해 전체 문서에 대한 분 석을 다시 수행해야 한다는 점이다. 이러한 한계 는 전체 분석의 시간 및 비용의 막대한 증가를 야기할 뿐 아니라, 분석 대상이 끊임없이 생성되 는 현실 상황에서 해당 기법의 적용을 매우 비효 율적으로 만든다. 따라서 이러한 한계를 보완함 과 함께 새로운 방법론을 통해 알고리즘을 개선 시키기 위한 여러 연구들이 지속적으로 수행되 고 있다(AlSumait et al., 2008; Blei and Lafferty, 2006). 특히 본 연구에서 주목하고 있는 개념인 분할 정복 접근법은 방대한 양의 문제를 해결이 용이한 단위로 분할하고, 여기서 도출한 결과를 통합하여 전체 문제를 해결할 수 있다는 개념으 로 정의될 수 있다. 이 개념은 전통적인 데이터 마이닝 분야에서는 지리적으로 떨어진 위치의 데이터들을 효율적으로 군집화 하기 위한 연구 (Forman and Zhang, 2000), 데이터의 밀도에 기 반하여 군집화 알고리즘을 효율적으로 개선하기 위한 연구(Liang and Chen, 2016), 다차원의 대규
모 데이터 집합을 효율적으로 군집화하기 위한 캐노피 알고리즘을 소개한 연구(McCallum et al., 2000) 등에서 다양한 문제의 해결을 위해 활용된 바 있다.
한편 토픽 모델링에서의 분할 정복 접근법은 기본적으로 대규모 데이터를 시간에 따른 하위 군집으로 분할하여 각 군집별 이슈를 추출하고, 이렇게 도출된 이슈들 간의 유사성을 파악하여 시간에 따른 이슈들의 흐름을 확인하는 단계로 구성된다(Mei and Zhai, 2005). 또한 토픽 모델링 의 성능을 다룬 최근 연구로는 텍스트 데이터에 서 주기적, 반복적으로 등장하는 패턴을 효과적 으로 추출하기 위한 프레임워크를 제안한 연구 (Wang et al., 2015), 방대한 양의 주제 관련 웹 페 이지를 효율적으로 군집화 하기 위한 새로운 알 고리즘을 제안한 연구(Wang et al., 2009), 캐노피 알고리즘 기반의 텍스트 클러스터링을 위한 새 로운 알고리즘을 제안한 연구(Song et al., 2012) 등이 있다. 하지만 토픽 모델링의 성능 향상을 위해 대량의 문서를 분할하여 군집별 토픽을 추 출하고, 이들 군집 또는 군집별 토픽의 통합을 통해 다시 전체 문서의 토픽을 도출하는 방안을 제안한 연구는 찾아보기 어렵다.
3. 제안 방법론
3.1 연구 모형
본 장에서는 효율적 토픽 모델링 수행을 위한 방안을 제시한다. 구체적으로 대량의 문서를 하 위 군집으로 분할한 후 군집별로 지역 토픽을 도 출하고, 군집별 대표 문서를 추출하여 전역 토픽 을 도출한 뒤, 전역 토픽과 지역 토픽의 관계를
파악하여 각 문서에 할당하는 방안을 제시한다.
제안 방법론의 전체적인 개요는 <Figure 2>를 통 해 제시하며, 분석 단계에 따른 구체적 설명은 이후 절에서 다루도록 한다.
우선 분석을 위해 수집된 문서 집합인 전역 군 집(Global Set)을 하위 지역 군집(Local Set)으로 분할한 후, 이들을 대상으로 지역 군집별 주요 토픽을 추출한다. 다음으로 각 지역 군집에서 일 부 문서를 임의로 선발하여 지역 대표 문서 (Delegate)로 지정하며, 이들을 통합하여 모든 문 서의 특질을 대표할 수 있는 축소된 전역 집합을 생성한다. 이후 축소된 전역 집합으로부터 전역 토픽을 추출하고 이를 지역 대표 문서의 지역 토 픽 정보와 비교함으로써, 지역 토픽으로부터 전 역 토픽의 성분을 추출하는 규칙을 도출한다. 마 지막으로 이 규칙을 각 문서의 지역 토픽 가중치 에 적용하여 각 문서의 전역 토픽을 배정한다.
본 장에서는 가상 예를 통해 제안 방법론의 각 단계를 소개하며, 실제 데이터를 분석한 결과는 다음 장인 4장에서 제시한다.
3.2 문서 군집 생성 및 토픽 추출
본 절은 <Figure 2>의 ① ~ ⑤에 해당하는 과 정, 즉 전체 문서의 분할을 통해 생성한 지역 군 집에서 각 지역 토픽을 추출하는 과정과 각 지역 군집에서 추출된 대표 문서로 구성되는 축소된 전역 집합에서 전역 토픽을 추출하는 과정을 설 명한다.
우선 전체 문서를 적정 수의 하위 지역 군집으 로 분할한다(①). 군집의 수는 문서의 수 또는 문 서를 관리하는 기관 및 사이트와 같은 다양한 기 준에 의해 결정될 수 있다. 이때 각 군집별 주제 및 시기는 서로 동일하거나 상이할 수 있다.
<Figure 2> Research Overview
<Figure 2>에서는 설명의 편의를 위해 두 개의 군집으로 분할하는 경우를 표현하였으나, 제안 방법론은 군집의 수와 무관하게 동일한 방식으 로 동작한다. 이와 더불어 각 지역 군집별로 토 픽 모델링을 수행하여 군집을 구성하는 문서들 의 주요 지역 토픽을 추출한다(②). 해당 분석의 결과로, 지역 군집에 속한 문서들의 토픽 정보를 식별하는 지역 군집별 문서/토픽 행렬이 <Figure 3>과 같이 생성된다. <Figure 3>은 두 군집의 주 제가 상이한 경우를 가정하고 있으며, Local A와
Local B는 각각 정치 및 생활/문화 관련 문서로 구성되어 있다.
토픽 모델링은 많은 텍스트 분석 연구에서 문 서의 구조화 및 주요 토픽 추출을 목적으로 활용 되고 있다. 이 기법의 주요 원리를 간략히 요약 하면 다음과 같다. 우선 토픽 모델링은 일반적으 로 단어 꾸러미(Bag of Words) 개념을 사용하며, 이는 각 문서를 해당 문서에서 등장한 용어들의 집합으로 인식한다. 각 문서는 많은 수의 단어를 포함하기 때문에 차원 축소 과정을 통해 적절한
(a) Topics and Document/Topic Matrix of Local A (b) Topics and Document/Topic Matrix of Local B
<Figure 3> Example of Document/Topic Matrix for Local Sets
수의 단어 군집으로 표현되며, 이 과정에서 도출 된 차원의 수가 토픽의 수에 해당한다. 이에 따 라 각 문서는 개별 토픽에 대한 대응도인 문서 가중치(Document Topic Weight)를 갖게 되며, 일 반적으로 문서 가중치의 “평균 + 1σ”을 통해 산 출되는 문서 임계값(Document Cutoff)을 통해 각 문서의 토픽 포함 여부를 판단한다. 즉, 문서 임 계값 이상의 문서 가중치를 갖는 문서가 해당 토 픽을 포함하고 있는 것으로 해석된다. 또한 이 과정을 통해 각 문서와 토픽의 문서 가중치를 2 차원 행렬로 나타낸 것을 문서/토픽 행렬 (Document/Topic Matrix)이라 한다.
다음으로 전역 토픽 추출을 위해 각 지역 군집 에서 단순 무작위 추출법(Simple Random Sampling)을 통해 각 군집을 대표하는 문서를 추 출하고(③), 이들을 통합하여 축소된 전역 집합 군집인 RGS를 생성한다(④). RGS로부터 전역 토픽을 추출하는 과정은 일반적인 토픽 모델링 과 동일하다(⑤). 예를 들어 <Figure 4>는 지역 군집 Local A와 Local B의 대표 문서로 각각
Doc. 1, 3, 5와 10, 12, 14가 선정되어 RGS를 구 성하는 경우를 보인다. <Figure 4>의 <Figure 3(a)>와 <Figure 3(b)>에 나타난 토픽과 유사하지 만 완전히 동일하지는 않은 전역 토픽이 발견되 며, 이 때 문서/토픽 행렬은 대표 문서와 전역 토 픽간의 대응도를 나타낸다.
<Figure 4> Example of Document/Topic Matrix for RGS
(a) Local A to RGS Topic Weight Conversion Matrix
(b) Local B to RGS Topic Weight Conversion Matrix
<Figure 5> Local to RGS Topic Weight Conversion Matrix 3.3 전역 토픽 성분 도출 및 지역 문서의
전역 토픽 배정
본 절은 <Figure 2>의 ⑥ ~ ⑧에 해당하는 과 정, 즉 지역 대표 문서를 활용하여 지역 토픽으 로부터 전역 토픽의 성분을 도출하고, 이를 통해 각 문서 모두에 대해 전역 토픽을 할당하는 과정
을 소개한다. 이후 설명에서 “Local i”의 “Topic j”를 Li_Tj로, RGS의 “Topic k”를 RGS_Tk로 나타 내기로 한다.
지역 대표 문서의 경우 <Figure 3>의 지역 토 픽 모델링 뿐 아니라 <Figure 4>의 전역 토픽 모 델링에도 참여하기 때문에, 지역 토픽과 전역 토
(a) Assignment of Global Topic Weights to Local A
(b) Assignment of Global Topic Weights to Local B
<Figure 6> Assignment of Global Topic Weights to Local Documents 픽의 정보를 모두 갖고 있다. 예를 들어 Local A
의 Doc.1은 지역 토픽 모델링의 결과로 LA_T1 ~ LA_T5의 지역 토픽 5개에 대해 (0.013, 0.009, 0.048, 0.022, 0.021)의 문서 가중치를 가지며, 이 와 동시에 전역 토픽 모델링의 결과로 RGS_T1 ~ RGS_T5의 전역 토픽 5개에 대해 (0.312, 0.024,
0.003, 0.004, 0.050)의 문서 가중치를 갖는다. 본 절의 목적은 LA_T1 ~ LA_T5으로부터 RGS_T1, RGS_T2, RGS_T3, RGS_T4, RGS_T5의 값을 예측 하는 규칙 RuleA와 LB_T1 ~ LB_T5으로부터 RGS_T1, RGS_T2, RGS_T3, RGS_T4, RGS_T5의 값 을 예측하는 규칙 RuleB에 대한 도출 과정을 소
Notation Description
di(LA_Tj) 문서 Doc. i의 Local A 지역 토픽 “Topic j”에 대한 문서 가중치 di(RGS_Tk) 문서 Doc. i의 전역 토픽 “Topic k”에 대한 문서 가중치 w(LA_Ti, RGS_Tk) Local A 지역 토픽 “Topic i”의 전역 토픽 “Topic k” 변환에 대한 가중치
<Table 1> Notations for Deriving and Appling Weight Conversion Rules 개하는 것이다. 이를 위해 제안 방법론은 각 지
역 토픽 모델링의 결과로 나타난 문서/토픽 행렬 에서 지역 대표 문서에 해당하는 부분만을 발췌 하고(⑥), 이를 RGS에 대한 토픽 모델링을 통해 도출된 문서/토픽 행렬과 비교한다. 지역 토픽으 로부터 전역 토픽의 성분을 도출하는 구체적인 과정은 <Figure 5>의 예를 통해 설명할 수 있다.
<Figure 5(a)> 및 <Figure 5(b)>는 각각 Local A 와 Local B로부터 전역 토픽의 성분을 도출하는 예를 보이고 있다. 예를 들어 <Figure 5(a)>에서 LA_T1 ~ LA_T5으로부터 RGS_T1의 가중치를 도출 하는 과정을 살펴보자. <Figure 5(a)>의 세 번째 테이블에서 점선 사각형으로 표시된 ‘0.021’이라 는 값은 LA_T2 값의 ‘1’ 증가가 RGS_T1 값의
‘0.021’의 증가를 가져옴을 나타낸다. 즉 RGS_T1 는 다른 지역 토픽들에 비해 LA_T2의 영향을 많 이 받으며, 이러한 결과는 지역 대표 문서 Doc.
1, Doc. 3, Doc. 5에서 LA_T2의 값이 높을수록
RGS_T1의 값이 높게 나타나는 현상을 반영하고
있다. 제안 방법론에서는 지역 대표 문서를 매개 로 하여 지역 토픽 가중치를 전역 토픽 가중치로 변환하는 방법을 제안하며, 실제 변환은 행렬 곱 연산을 활용하여 수행하였다(⑦).
제안 방법론의 마지막 단계는 앞에서 도출한 전역 토픽 성분 도출 결과를 활용하여 모든 지역 문서에 전역 토픽 대응도를 배정하는 과정으로 (⑧), 자세한 과정은 <Figure 6>을 통해 설명한다.
<Figure 6(a)>에서 좌측 상단의 문서/토픽 행렬 은 <Figure 3(a)>에서 도출된 것이며, 우측 상단 의 토픽 가중치 변환 행렬은 <Figure 5(a)>에서 도출한 것이다. 규칙의 적용을 위해 몇 가지 표 기법을 정리하여 <Table 1>에 제시하였다.
<Table 1>의 표기법을 사용하여, Local A에 속한 문서 Doc. i의 지역 토픽 가중치로부터 전 역 토픽 가중치를 도출하기 위한 규칙을 정의하 면 다음과 같다(단 N은 Local A의 전체 지역 토 픽 수).
예를 들어 Local A에 속한 Doc. 2의 전역 토픽
RGS_T1에 대한 문서 가중치를 구한 결과는 다음
과 같다.
d2(RGS_T1) = (0.006 × 0.020) + (0.021 × 0.062) + (0.016 × 0.030) + (0.007 × 0.022) + (0.011 × 0.045) = 0.003
즉 Doc. 2의 전역 토픽 RGS_T1에 대한 문서 가중치는 0.003으로 계산된다. 이러한 방식으로 지역 대표 문서뿐 아니라 대표에 포함되지 않은 모든 지역 문서에 대해 전역 토픽 문서 가중치를 배정할 수 있다.
(a) Cosine Similarity between Global Topics and RGS Topics
(b) Topic Mapping between Global Topics and RGS Topics
<Figure 7> Comparing Global Topics and RGS Topics 3.4 RGS의 대표성에 대한 검증 방안
본 절은 제안 방법론의 설명과는 별개로, 제안 방법론의 우수성을 평가하기 위한 검증 과정을 소개한다. 제안 방법론의 우수성은 크게 두 가지 측면에서 검증이 이루어져야 한다. 우선 RGS의 대표성에 대한 분석이 이루어져야 한다. 즉 제안 방법론은 RGS로부터 전역 토픽을 도출하지만, 어디까지나 RGS는 전체 문서가 아닌 전체 문서
의 일부이므로 실제 전체 문서로부터 도출한 토 픽과는 차이가 있을 수 있다. 따라서 실제 전체 문서에서 도출한 토픽과 제안 방법론의 RGS로 부터 도출한 토픽과의 차이에 대한 분석이 이루 어져야 한다. 또한 전역 토픽 배정의 정확성에 대한 분석이 수행되어야 한다. 즉 전체 문서에 대한 일괄 분석과 제안 방법론에 의한 분할 분석 에 의해, 각 문서의 토픽 배정이 얼마나 상이하
게 나타나는지 파악할 필요가 있다. 본 절에서는 RGS의 대표성에 대한 검증 방안에 대해서만 간 략히 소개하며, 전역 토픽 배정의 정확성 분석에 대한 방안은 다음 장에서 실험과 함께 소개한다.
우선 전체 문서 모두에 대해 일괄 토픽 모델링 을 수행하여 문서/토픽 행렬을 도출한다. 다음으 로 이 행렬에서 RGS에 포함된 문서, 즉 지역 대 표 문서들에 대한 부분만을 발췌하면, 각 문서는 실제 전역 토픽 수만큼의 차원을 갖는 벡터 (V_Ideal)로 표현될 수 있다. 한편 이들 문서는 이미 <Figure 4>의 과정을 통해 RGS로부터 도출 한 토픽에 대해 벡터(V_RGS)로 표현되어 있다.
V_Ideal과 V_RGS는 동일한 문서에 대한 벡터이 며, 동일한 수의 차원으로 구성된다. 따라서 이 두 벡터 간의 코사인 유사도를 계산하여 실제 전 역 토픽과 RGS 토픽간의 유사도 행렬을 도출할 수 있다(<Figure 7(a)>).
<Figure 7(a)>를 구성하는 각 셀의 값은 해당 토픽 쌍의 코사인 유사도를 나타내며, 각 Ideal 토픽, 즉 실제 전역 토픽에 대해 가장 큰 값을 갖 는 RGS 토픽을 찾을 수 있다. 예를 들어 Ideal_T1 의 경우 RGS 토픽들 중 RGS_T5 와 가장 유사한 것으로 나타나며, 유사도는 “0.937”로 매우 높음 을 의미한다. 이러한 방식으로 나머지 Ideal 토픽 들에 대해서도 대응되는 RGS 토픽들을 식별할 수 있으며, 토픽 쌍의 코사인 유사도 평균이 높 을수록 RGS 토픽이 실제 전역 토픽을 잘 대표한 다고 볼 수 있다.
이상 본 장에서는 제안 방법론의 개념을 간단 한 예를 통해 소개하였다. 다음 장인 4장에서는 제안 방법론을 통해 실제 뉴스 데이터를 분석한 실험 결과를 소개한다.
4. 실험
4.1 실험 개요
본 절에서는 실험 환경 및 데이터에 대해 간략 히 소개한다. 실험의 핵심인 토픽 모델링은 SAS Enterprise Miner Workstation 14.1을 사용하여 수 행하였으며, 별도의 한글 전용 형태소 분석기는 사용하지 않았다. 실험 데이터의 경우 2012년 7 월부터 2013년 6월까지의 기간 동안 국내 한 포 털사이트에 게시된 뉴스를 사용하였으며, IT과 학, 정치, 경제, 사회, 생활, 세계, 스포츠, 연예의 총 8개의 카테고리에서 3,000건씩, 총 24,000건 의 문서를 사용하였다.
4.2 제안 방법론의 적용
본 절에서는 3장에서 소개한 순서에 따라 실 제 뉴스를 분석한 결과를 소개한다. 먼저 전체 24,000건의 뉴스를 각 2,400건씩 10개의 지역 군 집으로 분할하고, 이들 각 군집에서 10개의 토픽 과 토픽별 5개의 핵심 용어를 <Figure 8>과 같이 도출하였다. 이때 각 지역 군집은 토픽 모델링의 결과로 문서/토픽 행렬을 갖게 된다. <Table 2>
는 Local 1 지역 군집의 문서/토픽 행렬의 일부를 보여준다.
다음으로 각 지역 군집에 포함된 문서의 일부 를 무작위로 추출하여 지역 대표 문서를 선정하 고, 이를 통합하여 RGS 데이터를 생성하였다.
본 실험에서는 각 지역 군집에서 문서의 1/10을 대표 문서로 추출하였으며, 그 결과 RGS는 총 2,400개의 문서로 구성되었다. 이후 RGS에 대한 토픽 모델링을 수행하여 10개의 주요 토픽을 추 출하고, <Figure 9>과 같이 문서/토픽 행렬을 생 성하였다.
<Figure 8> Local Topics and Key Terms
<Table 2> Document/Topic Matrix of Local 1 (Part)
(a) Topic of RGS (b) Document/Topic Matrix of RGS
<Figure 9> Topics and Document/Topic Matrix of RGS (Part)
<Table 3> Local 1 to RGS Topic Weight Conversion Matrix
<Table 4> Converted Document/RGS Topic Matrix (Part) 위의 과정을 통해, RGS에 참여한 지역 군집의
대표 문서들은 RGS의 전역 토픽뿐 아니라 원 소 속 지역 군집의 토픽 정보도 함께 가진다. 따라 서 이들이 갖는 두 가지 유형의 문서/토픽 행렬 에 대한 행렬 곱 연산을 수행하여, 지역 토픽 가 중치로부터 전역 토픽 가중치를 도출하기 위한 규칙을 생성하였다. 실제 실험을 통해 도출한 Local 1 토픽과 RGS 토픽간 가중치 변환 행렬은
<Table 3>과 같다.
마지막으로 <Table 3>의 가중치 변환 행렬을 적용하여 <Table 2>에 제시된 Local 1 문서의 지 역 토픽 가중치를 전역 토픽 가중치로 변환하였 으며, 그 결과의 일부가 <Table 4>에 소개되어 있다. 이와 유사한 방식으로 Local 2 ~ Local 10
에 대해서도 전역 토픽 변환 규칙을 도출하였으 며, 각 군집의 규칙에 따라 모든 문서에 대해 전 역 토픽을 배정하였다.
4.3 제안 방법론의 성능 분석
본 절에서는 제안 방법론의 성능을 RGS의 전 체 문서에 대한 대표성과 전역 토픽 배정의 정확 성 측면에서 분석한다.
우선 실제 전역 토픽의 도출을 위해 분석 대상 문서 24,000건 전체에 대한 일괄 토픽 모델링을 수행하여 10개의 토픽을 추출하고, 전체 문서에 대한 문서/토픽 행렬을 도출하였다. 다음으로 이 행렬에서 RGS에 포함된 문서 2,400개에 대한 부
<Table 5> Cosine Similarity between Global Topics and RGS Topics
<Figure 10> Mapping between Global Topics and RGS Topics 분 행렬만을 추출하였다. 또한 이 행렬과 <Figure
9>의 RGS에 대한 문서/토픽 행렬 간에 대해 유 사도 분석을 수행하여, 실제 전역 토픽 10개와 RGS 전역 토픽 10개 간의 코사인 유사도를
<Table 5>와 같이 행렬로 정리하였다. <Table 5>
에서 각 행은 RGS의 전역 토픽을, 각 열은 실제
전역 토픽을 나타낸다. 이 실험에서 10개의 실제 전역 토픽 각각은 서로 다른 10개의 RGS 전역 토픽에 대응되었으며, 대응 결과는 <Figure 10>
에 나타나있다. 또한 대응되는 토픽의 유사도는 평균 “0.8545”로 매우 높게 나타났으며, 이는 RGS를 통해 도출한 전역 토픽이 전체 문서에 대
(a) Key Terms of Global Topics
(b) Key Terms of RGS Topics
(c) Number of Co-occurred Key Terms in the Corresponding Topics
<Figure 11> Analyzing Co-occurred Key Terms 한 일괄 분석을 통해 도출한 실제 전역 토픽을
잘 설명하고 있음을 의미한다.
추가로 본 실험에서는 대응되는 토픽간 내용 의 부합 정도를 파악하기 위해, 각 토픽을 구성 하는 주요 용어의 일치 수준을 확인하였다. 구체 적으로 실제 전역 토픽 10개와 RGS 전역 토픽
10개, 총 20개 토픽에 대해 각 토픽별로 가장 높 은 용어 가중치를 갖는 주요 용어 10개를 선정하 여, 이들간 일치 수준을 확인하였다. 그 결과 대 응 토픽간 주요 용어의 일치 수준은 10개 중 평 균 “7.1개”로 비교적 높게 나타남을 확인하였다 (<Figure 11>).
<Table 6> Document Cutoff for RGS Topics
(a) Number of Documents in Global Topics
(b) Number of Documents in RGS Topics
(c) Number of Co-occurred Documents in the Corresponding Topics
<Figure 12> Number of Documents in Each Topic 다음으로 본 절에서는 전역 토픽 배정의 정확
성 분석 결과를 소개한다. 이를 위해 본 실험에 서는 일괄 토픽 모델링에서 동일한 토픽을 갖는 것으로 분류된 문서들이 제안 방법론에 의한 분 석을 통해서도 여전히 동일한 토픽으로 분류되 는지 여부를 측정하였다.
우선 모든 문서에 대해 각 문서가 특정 RGS 토픽을 포함하는지 여부를 결정하기 위해 문서 임계값을 설정하였으며, 이를 위해 일반적으로 사용되는 기준인 문서 가중치의 “평균 + 1σ”를 적용하였다. <Table 6>은 24,000개 전체 문서에 대한 RGS 토픽 10개의 문서 임계값을 산출한 결
과를 나타낸다.
<Table 6>의 기준을 적용했을 때, 24,000개 전 체 문서에 대한 일괄 분석으로 도출한 실제 전역 토픽 10개의 토픽별 문서 수는 <Figure 12(a)>에 나타나있다. 한편 <Figure 12(b)>는 각 RGS 토픽 을 포함하는 것으로 식별된 문서의 수를 나타낸 다. 또한 대응되는 토픽 쌍에 동시에 출현한 문 서의 수는 <Figure 12(c)>에 요약되어 있다.
<Figure 12>에 따라 실제 전역 토픽의 문서와 RGS 전역 토픽의 문서 간 일치 수준을 분석하였 으며, 평가에 사용한 척도는 <Table 7>과 같다.
<Table 7>에서 Freq(RGS_Ti)는 RGS 토픽의 i번
Measure Definition Recall(RGS_Ti, Ideal_Tj) Co_Freq(RGS_Ti, Ideal_Tj) / Freq(Ideal_Tj)
Precision(RGS_Ti, Ideal_Tj) Co_Freq(RGS_Ti, Ideal_Tj) / Freq(RGS_Ti)
F1 Measure(RGS_Ti, Ideal_Tj)
<Table 7> Accuracy Measures
<Table 8> Result of Accuracy Analysis
째 토픽에 속한 문서 수를, Freq(Ideal_Tj)는 실제 전역 토픽의 j번째 토픽에 속한 문서의 수를 나 타낸다. 한편 Co_Freq(RGS_Ti, Ideal_Tj)는 RGS_Ti 와 Ideal_Tj가 서로 대응 관계에 있을 때, 이들 두 토픽에 동시에 포함된 문서의 수를 나타 낸다.
<Table 7>의 정의에 따라 재현율(Recall), 정밀 도(Precision), F1 Measure를 계산한 결과는
<Table 8>에 요약되어 있다. 또한 이 실험에서 10개 토픽 전체에 대한 F1 Measure의 평균은
“0.672”로 나타났다.
본 실험에서 문서 임계값 기준의 변경에 따라 각 토픽에 속하는 문서의 수가 변경되며, 재현율 과 정밀도, 그리고 F1 Measure의 값 또한 영향을 받게 된다. 임계값 기준이 강화되면 RGS의 각 토픽에 속하는 문서의 수는 감소하므로, 정밀도 는 증가하고 재현율은 감소할 것으로 예상된다.
반대로 임계값 기준이 완화되면 정밀도는 감소
하고 재현율은 증가할 것으로 예상된다. 하지만 정밀도와 재현율의 조화 평균(Harmonic Mean)으 로 산출되는 F1 Measure 값은 임계값 기준의 변 화에 따라 어떠한 변화 양상을 보일지 예측하기 어려우므로, 이에 대한 실험을 수행하였다. 실험 결과 <Figure 13>과 같이 정밀도와 재현율은 예 상했던 방향의 변화를 보였으며, F1 Measure는 이에 비해 큰 폭의 변화를 보이지 않음을 알 수 있었다. 또한 실험에 따르면 문서 임계값 기준으 로 “평균 + 1.4σ”의 값을 적용한 경우 전체 토픽 의 F1 Measure 평균이 “0.6862”의 값을 가지며 가장 높게 나타나는 것으로 확인되었다.
본 장에서는 제안 방법론의 실무 적용 가능성 을 평가하기 위해 제안 방법론을 실제 뉴스 기사 24,000건의 분석에 적용한 실험 결과를 소개하였 다. 이를 통해 24,000건의 문서에 대한 일괄 토픽 모델링을 수행하는 대신, 각 2,400건으로 구성된 소규모 문서 군집 10개에 대한 개별 토픽 모델링
<Figure 13> Changes in F1 Measures with varied to Document Cutoff
을 수행하고 각 군집별로 240건씩 선정된 대표 문서 2,400건에 대한 전역 토픽 모델링을 수행하 여, 대규모의 일괄 토픽 모델링 없이도 전체 문 서에 대한 전역 토픽 배정이 가능함을 보였다.
또한 추가 실험을 통해 대표 문서 2,400건에서 도출한 전역 토픽이 전체 문서 24,000건에서 도 출한 토픽과 매우 유사함을 확인하였으며, 제안 방법론을 통해 도출한 토픽 모델링의 결과를 일 괄 방식의 토픽 모델링의 결과와 비교할 수 있는 방안 또한 제시하였다.
5. 결론
최근 대용량 문서로부터 토픽을 도출하는 토 픽 모델링의 성능에 관한 이슈가 꾸준히 제기되 고 있다. 특히 전체 문서에 대한 일괄 분석을 수 행하는 것에 비해 전체를 소규모 군집으로 분할
하여 군집별 분석을 수행하고, 이 결과를 취합하 는 방안에 대한 모색이 이루어지고 있다. 이에 본 연구에서는 지역 군집의 일부 문서를 대표로 추출하여 축소된 전역 집합 군집을 생성하고, 대 표 문서를 매개로 지역 토픽으로부터 전역 토픽 의 성분을 도출하는 방법을 통해, 궁극적으로 군 집별 토픽 모델링 결과를 전역으로 취합할 수 있 는 방안을 제시하였다. 또한 실제 뉴스 24,000건 을 활용한 실험을 통해 제안 방법론의 실무 적용 가능성을 파악하였으며, 추가 실험을 통해 제안 방법론에 따른 분할 분석 방식이 대량의 문서에 대한 일괄 분석과 유사한 결과를 효율적으로 도 출할 수 있음을 확인하였다.
본 연구의 학술 및 실무적 기여는 다음과 같 다. 우선 분할 수행된 토픽 모델링의 결과를 합 리적으로 통합하기 위한 새로운 방안을 제안하 였다는 점에서 학술적 기여가 인정될 수 있다.
또한 지역 토픽으로부터 전역 토픽의 변환 가중
치를 도출하는 부분은 본 연구에서 채택한 방법 이외에도 기계학습 기반의 모형 등 다양한 모형 이 적용될 수 있으므로, 이 부분에 대한 소폭 변 형을 통해 분석 정확도를 향상시키는 방식으로 후속 연구가 수행될 수 있을 것이다. 이와 함께 서로 다른 환경에서 수행된 토픽 모델링의 결과 를 체계적으로 비교하는 방안을 제시하였다는 점 또한 본 연구의 기여로 인정받을 수 있다. 한 편 제안 방법론은 기본적으로 성능의 이슈를 다 루고 있다는 점에서 실무적 기여를 더욱 크게 인 정받을 수 있다. 즉 시스템 자원의 한계 또는 시 간 측면의 비용으로 인해 대용량 문서의 일괄 토 픽 모델링 수행이 어려운 경우, 제안 방법론을 통해 추가 설비의 확충 없이 이를 분할하여 소량 의 문서에 대한 토픽 모델링을 여러 시스템에서 병렬 수행함으로써 대량의 문서에 대한 일괄 토 픽 모델링과 유사한 결과를 얻을 수 있다. 이러 한 실무적 기여는 분석 대상 문서가 지역적으로 또는 시스템적으로 여러 곳에 분산되어 있는 경 우 더욱 크게 나타날 것으로 예상된다. 이와 더 불어 제안 방법론은 분할 분석된 결과를 하나로 취합하는 구조를 갖기 때문에 여러 개의 장비를 통한 분석의 동시 수행이 가능하며, 이에 따라 대용량 문서의 분석에서 기존 방법에 비해 더욱 단축된 분석 시간을 기대할 수 있다.
이러한 기여에도 불구하고 본 연구는 향후 다 음의 측면에서 보완이 이루어져야 한다. 우선 분할 정복 접근 방식의 토픽 모델링에 대한 전 체적 측면의 보강이 필요하다. 이 방법은 현실 적 제한에 의해 수행이 어려운 대규모 문서의 토픽 분석을 효율적으로 가능하게 하지만, 전역 및 지역 토픽의 연결 관계 파악이 어려운 구조 적 한계를 갖는다. 따라서 이 분야의 연구는 다 른 분야의 토픽 모델링 연구에 비해 상대적으로
더딘 발전을 보이고 있으며, 이론적 배경 및 실 증적 검증에 대한 연구가 충분히 수행되지 못했 다. 따라서 추후 연구에서는 전통적 토픽 모델 링 및 해당 방법의 분석 시간 비교를 포함하는 이론적 배경에 대한 연구와 해당 방법에서 분할 군집 개수에 따른 소요 시간 및 결과 정확도의 변화 양상 파악 등의 실증적 검증이 추가적으로 진행되어야 한다. 이와 함께 제안 방법론에 대 한 보강 또한 추가적으로 이루어져야 한다. 가 장 시급한 보완점으로 전역 문서 군집의 분할 기준이 체계적으로 마련될 필요가 있다. 본 연 구의 실험에서는 연구자의 판단에 따라 전체 문 서를 10개의 지역 군집으로 분할하였다. 하지만 제안 방법론의 실무 적용을 위해서는 분할 군집 수에 따른 분석 결과를 살펴보고, 이를 고려하 여 최적 지역 군집의 개수를 설정하는 방안이 마련되어야 한다. 다음으로 본 연구에서 사용된 문서의 수보다 훨씬 방대한 양의 데이터에 대한 추가적 실험을 통해, 제안 방법론의 견고성을 다방면에서 확인할 필요가 있다. 이와 함께 각 지역 군집의 주제가 유사하거나 상이할 경우 제 안 방법론에 따른 분석 결과가 어떻게 도출되는 지, 대표 문서의 선정 과정에 토픽 정보가 활용 된다면 제안 방법론의 성능이 개선될 수 있을지 등에 대한 깊은 고찰이 필요하다.
참고문헌(References)
AlSumait, L., D. Barbará and C. Domeniconi,
“On-Line LDA: Adaptive Topic Models for Mining Text Streams with Applications to Topic Detection and Tracking,” 2008 Eighth IEEE International Conference on Data
Mining, (2008), 1~12.
Blei, D. M. and J. D. Lafferty, “Dynamic Topic Models,” Proceedings of the 23rd International Conference on Machine Learning, (2006), 113~120.
Byun, S., D. Lee, and N. Kim, “Methodology for Identifying Issues of User Reviews from the Perspective of Evaluation Criteria – Focus on a Hotel Information Site,” Journal of Intelligence and Information Systems, Vol.22, No.3(2016), 23~43.
Deerwester, S., S. T. Dumais, G. W. Furnas, T. K.
Landauer and R. Harshman, “Indexing by Latent Semantic Analysis,” Journal of the American Society for Information Science, Vol.41, No.6(1990), 391~407.
Forman, G. and B. Zhang, “Distributed Data Clustering can be Efficient and Exact,” ACM SIGKDD Explorations Newsletter, Vol.2, No.2(2000), 34~38.
Gartner, Gartner's 2015 Hype Cycle for Emerging Technologies Identifies the Computing Innovations that Organizations Should Monitor, Gartner, 2015. Available at http://www.gartner.com/newsroom/id/3114217 (Accessed 19 June, 2017).
Han, J., J. Pei and M. Kamber, Data Mining:
Concepts and Techniques, Elsevier, Amsterdam, 2011.
Hotho, A., A. N¨urnberger and G. Paaß, “A Brief Survey of Text Mining,” Ldv Forum, Vol.
20, No. 1(2005), 1~37.
IDC, Big Data and Business Analytics Revenues forecast to reach $150.8 Billion this Year, Led by Banking and Manufacturing Investments, IDC, 2017. Available at http://www.idc.com/getdoc.jsp?containerId=pr
US42371417 (Accessed 19 June, 2017).
Kim, D. and N. Kim, “Mapping Categories of Heterogeneous Sources using Text Analytics,” Journal of Intelligence and Information Systems, Vol.22, No.4(2016), 193~215.
Kim, N., D. Lee, H. Choi and W. X. S. Wong,
“Investigations on Techniques and Applications of Text Analytics,” The Journal of The Korean Institute of Communication Sciences, Vol.42, No.2(2017), 471~492.
Koll, M. B., “WEIRD: An Approach to Concept-Based Information Retrieval,” ACM SIGIR Forum, Vol.13, No.4(1979), 32~50.
Lee, D., H. Choi and N. Kim, “A Method for Evaluating News Value based on Supply and Demand of Information using Text Analysis,”
Journal of Intelligence and Information Systems, Vol.22, No.4(2016), 45~67.
Liang, Z. and P. Chen, “Delta-Density based Clustering with a Divide-and-Conquer Strategy: 3DC Clustering,” Pattern Recognition Letters, Vol.73, (2016), 52~59.
Livermore, M. A., A. Riddell and D. Rockmore,
“Agenda Formation and the US Supreme Court: A Topic Model Approach,” Arizona Law Review, (2016), Forthcoming.
McCallum, A., K. Nigam and L. H. Ungar,
“Efficient Clustering of High-Dimensional Data Sets with Application to Reference Matching,” Proceedings of the Sixth ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, (2000), 169~178.
Mei, Q. and C. X. Zhai, “Discovering Evolutionary Theme Patterns from Text: An Exploration of Temporal Text Mining,”
Proceedings of the Eleventh ACM SIGKDD International Conference on Knowledge Discovery in Data Mining, (2005), 198~207.
Mooney, R. J. and R. Bunescu, “Mining Knowledge from Text using Information Extraction,” ACM SIGKDD Explorations, Vol.7, No.1(2006), 3~10.
Salton, G., The SMART Retrieval System— Experiments in Automatic Document Processing, Prentice-Hall, New Jersey, 1971.
Salton, G., A. Wong and C. S. Yang, “A Vector Space Model for Automatic Indexing,”
Communications of the ACM, Vol.18, No.11(1975), 613~620.
Sebastiani, F., “Classification of Text, Automatic,”
The Encyclopedia of Language and Linguistics, Vol.14, (2006), 457~462.
Song, Y., J. Du and L. Hou, “A Topic Detection Approach Based on Multi-Level Clustering,”
Proceeding of the 31st Chines Control Conference, (2012), 3834~3838.
Steyvers, M. and T. Griffiths, Probabilistic Topic Models : Handbook of Latent Semantic Analysis, Psychology Press, Oxfordshire, 2007.
Wang, J., H. Deng and J. Han, “Torpedo : Topic Periodicity Discovery from Text Data,”
Next-Generation Analyst III, (2015), 94990A~ 94990A-10.
Wang, L., P. Chen and L. Huang, “An Efficient Clustering Algorithm for Large-Scale Topical Web Pages,” Proceedings of the 18th ACM Conference on Information and Knowledge Management, (2009), 1851~1854.
Witten, I. H., Text Mining, Practical Handbook of Internet Computing, CRC Press, Florida, 2004.
Abstract
Efficient Topic Modeling by Mapping Global and Local Topics
1)Hochang Choi*․Namgyu Kim**
Recently, increase of demand for big data analysis has been driving the vigorous development of related technologies and tools. In addition, development of IT and increased penetration rate of smart devices are producing a large amount of data. According to this phenomenon, data analysis technology is rapidly becoming popular. Also, attempts to acquire insights through data analysis have been continuously increasing. It means that the big data analysis will be more important in various industries for the foreseeable future. Big data analysis is generally performed by a small number of experts and delivered to each demander of analysis. However, increase of interest about big data analysis arouses activation of computer programming education and development of many programs for data analysis. Accordingly, the entry barriers of big data analysis are gradually lowering and data analysis technology being spread out.
As the result, big data analysis is expected to be performed by demanders of analysis themselves.
Along with this, interest about various unstructured data is continually increasing. Especially, a lot of attention is focused on using text data. Emergence of new platforms and techniques using the web bring about mass production of text data and active attempt to analyze text data. Furthermore, result of text analysis has been utilized in various fields. Text mining is a concept that embraces various theories and techniques for text analysis. Many text mining techniques are utilized in this field for various research purposes, topic modeling is one of the most widely used and studied. Topic modeling is a technique that extracts the major issues from a lot of documents, identifies the documents that correspond to each issue and provides identified documents as a cluster. It is evaluated as a very useful technique in that reflect the semantic elements of the document.
Traditional topic modeling is based on the distribution of key terms across the entire document. Thus, it is essential to analyze the entire document at once to identify topic of each document. This condition
* Graduate School of Business IT, Kookmin University
** Corresponding Author: Namgyu Kim School of MIS, Kookmin University
77 Jeongneung-ro, Seongbuk-gu, Seoul 136-702, Korea
Tel: +82-2-910-5425, Fax: +82-2-910-5209, E-mail: [email protected]
causes a long time in analysis process when topic modeling is applied to a lot of documents. In addition, it has a scalability problem that is an exponential increase in the processing time with the increase of analysis objects. This problem is particularly noticeable when the documents are distributed across multiple systems or regions. To overcome these problems, divide and conquer approach can be applied to topic modeling. It means dividing a large number of documents into sub-units and deriving topics through repetition of topic modeling to each unit. This method can be used for topic modeling on a large number of documents with limited system resources, and can improve processing speed of topic modeling. It also can significantly reduce analysis time and cost through ability to analyze documents in each location or place without combining analysis object documents.
However, despite many advantages, this method has two major problems. First, the relationship between local topics derived from each unit and global topics derived from entire document is unclear. It means that in each document, local topics can be identified, but global topics cannot be identified. Second, a method for measuring the accuracy of the proposed methodology should be established. That is to say, assuming that global topic is ideal answer, the difference in a local topic on a global topic needs to be measured. By those difficulties, the study in this method is not performed sufficiently, compare with other studies dealing with topic modeling.
In this paper, we propose a topic modeling approach to solve the above two problems. First of all, we divide the entire document cluster(Global set) into sub-clusters(Local set), and generate the reduced entire document cluster(RGS, Reduced global set) that consist of delegated documents extracted from each local set. We try to solve the first problem by mapping RGS topics and local topics. Along with this, we verify the accuracy of the proposed methodology by detecting documents, whether to be discerned as the same topic at result of global and local set. Using 24,000 news articles, we conduct experiments to evaluate practical applicability of the proposed methodology. In addition, through additional experiment, we confirmed that the proposed methodology can provide similar results to the entire topic modeling. We also proposed a reasonable method for comparing the result of both methods.
Key Words : Divide and Conquer, Big Data, Text Mining, Topic Modeling
Received : July 21, 2017 Revised : September 14, 2017 Accepted : September 19, 2017 Publication Type : Regular Paper Corresponding Author : Namgyu Kim
저 자 소 개
최 호 창
현재 국민대학교 비즈니스IT전문대학원 석사과정에 재학 중이다. 국민대학교 경영학부 에서 학사 학위를 취득하였으며, 주요 관심분야는 텍스트 마이닝, 데이터 마이닝 및 소 셜네트워크분석 등이다.
김 남 규
현재 국민대학교 경영정보학부에서 부교수로 재직 중이다. 서울대학교 컴퓨터공학과에 서 학사 학위를 취득하고, KAIST 테크노경영대학원에서 Database와 MIS를 전공하여 경 영공학 석사 및 박사학위를 취득하였다. 한국지능정보시스템학회 부회장, 한국정보기술 응용학회 부회장, 한국경영정보학회 이사, 한국CRM학회 이사, 한국IT서비스학회지 편 집위원, JITAM 편집위원, 한국인터넷정보학회논문지 편집위원을 역임하였다. 주요 관심 분야는 텍스트 마이닝, 데이터 마이닝 및 데이터베이스 설계 등이다.
