Paper6 Task-Aware Representation of Sentences for Generic Text Classification paper review ACL - 2020 Task-Aware Representation of Sentences for Generic Text Classification 이미 정의된 K 개의 클래스를 분류하도록 학습한 Classifier 에 추가된 클래스를 가지고 전이학습을 시킬 때 이전의 학습해서 K 개의 클래스를 분류하기 위한 정보를 담고 있던 linear layer 를 버리고 새로운 linear layer 를 밑바닥부터 학습해야 하는 문제를 해결할 방법 제시한 논문 1. 저자가 뭘 해내고 싶어했는가? Text classification 에 대한 SOTA(State-of-the-art) approache 들은 BERT-style transformer 구조 위에 linear layer 를 추가해서 이용함 이러한 approac.. 2022. 6. 22. Sentiment Classification in Customer Service Dialogue with Topic-Aware Multi-Task Learning paper review AAAI Conference - 2020 Sentiment Classification in Customer Service Dialogue with Topic-Aware Multi-Task Learning 고객과 상담사의 대화에서 발화의 감성을 분석하기 위해 제안한 Topic-Aware Multi-Task Learning(TML) 아키텍처를 제안 1. 저자가 뭘 해내고 싶어했는가? 대화에서의 감성분석에서의 이전 연구들은 일부 유형의 대화에서 전반적인 정보를 포착하는데 중요한 주제 정보를 크게 무시했음 이 논문에서 Customer Service(고객 서비스) 대화와 같은 중요한 유형의 대화에서 감성 분류작업에 초점을 맞추고 분류 성능을 향상시키기 위해 Overall 정보를 잡아내는 새로운 접근 방식을 제안함.. 2022. 6. 21. Grey-box Adversarial Attack And Defence For Sentiment Classification - 번역 Grey-box Adversarial Attack And Defence For Sentiment Classification 중요하다고 생각하는 부분만 적는다는 마음으로 글을써본다. Abstract 감성분석을 위한 grey-box Adversarial attack 과 defence 프레임워크를 소개한다. 우리의 결과들은 일단 학습되면, attacking 모델은 고품질의 Adversarial example 들을 SOTA attacking 방법들보다 상당히 빠르게 만들 수 있다는 것을 보여준다. 코드를 보고 싶다면 Github 로 가서 보면 됩니다. 1. Introduction 이 분야의 연구는 크게 Adversarial machine learning 으로 분류되고 작게는 target 모델들을 바보로 만드는 .. 2022. 4. 28. Universal Adversarial Triggers for Attacking and Analyzing NLP - 번역 (3) Universal Adversarial Triggers for Attacking and Analyzing NLP (3) 영어실력의 부족으로 번역에 문제가 좀 있을 수 있으니 오역의 부분이 있다면 댓글을 달아주시면 좋을듯 함 5. Attacking Conditional Text Generation 우리는 6개의 서브워드 토큰을 사용하여 공개적으로 배포된 117M parameter 버전의 GPT-2 에 대해 trigger 를 만들었다. 공격은 trigger 로서 “TH PEOPLEMan goddreams Blacks” 를 반환한다. 이 터무니없는 sequence 는 모델이 인종차별적인 output 들을 만들도록 유발한다. Table 1 의 마지막 2개의 example 들은 다른 user input 들이 주어.. 2022. 4. 25. 이전 1 2 다음