메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터

주제분류

사회과학
경영학 경제학 관광학 교육학 군사학 무역학 문헌정보학 법학 사회과학일반 사회복지학 사회학 신문방송학 심리과학 정치외교학 지리/지역개발학 지역학 행정학
공학
건축공학 공학일반 기계공학 산업공학 자원/재료공학 전자/제어계측공학 전자/정보통신공학 조선/해양공학 컴퓨터학 토목/환경공학 항공우주공학 화학/생물공학
자연과학
물리학 생물학 생활과학 수학/통계학 자연과학일반 전문/지구과학
의약학
간호학 수의학 약학 의학 의학일반 치의학 한의학
인문학
독일어문학 러시아어문학 문학 언어학 역사학 영어문학 인문학일반 일본어문학 종교학/신학 중국어문학 철학 프랑스어문학 한국어문학
예술체육학
건축 디자인 무용 미술 미용 사진 연극 영화 예술체육학일반 음악 의상 체육
농수해양학
농수해양학일반 농학 수산학 식품과학 임학 축산학 해상운송학
복합학
과학기술학/기술정책 뇌/인지과학 여성학 학제간연구

정기구독(개인)

소속 기관이 없으신 경우, 개인 정기구독을 하시면 저렴하게
논문을 무제한 열람 이용할 수 있어요.

회원혜택

로그인 회원이 가져갈 수 있는 혜택들을 확인하고 이용하세요.

아카루트

학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.

영문교정

영문 논문 작성에 도움을 드리기 위해, 영문 교정 서비스를
지원하고 있어요.
고객센터 제휴문의

...

저널정보

저자정보

표지
이용수
내서재
0
내서재에 추가
되었습니다. 내서재에서
삭제되었습니다.

내서재에 추가
되었습니다. 내서재에서
삭제되었습니다.

이 논문의 연구 히스토리 (2)

2023

EDAD: 도메인 적응과 지식 증류를 통합한 효율적 도메인 적응 증류
서승원 ,  황상흠 대한산업공학회지 2023.04 학술저널

2022

EDAD: 자연어 처리에서의 효율적 도메인 적응 증류
서승원 ,  황상흠 한국정보과학회 학술발표논문집 2022.06 학술대회자료

초록·키워드

오류제보하기
In the field of natural language processing, a lot of progress has been made with the advent of Transformer having a self-attention mechanism. At the same time, the recently increasing model size causes difficulties in deploying the model for online serving that requires fast inference. To address this issue, one can employ model compression techniques when a target domain is coherent with the training corpus (i.e., a general domain) of pre-trained models such as BERT. However, the additional domain adaptation step is required along with model compression when we leverage such pre-trained models for special target domains such as medicine, law, finance, etc. In this paper, we propose an Efficient Domain Adaptive Distillation (EDAD) method to efficiently create a lightweight model capable of fast inference for a target domain by integrating knowledge distillation, which is one of the popular model compression methods, and domain adaptation processes. Experimental results demonstrate that EDAD can train a compact model for a target domain with much lower computational costs by integrating the two individual processes, adaptation and compression, into a single process and shows comparable performance with existing methods for named entity recognition (NER) tasks in the medical domain.
#Named Entity Recognition #Natural Language Processing #Domain Adaptation #Knowledge Distillation

목차

1. 서론
2. 선행 연구
3. 방법론
4. 실험
5. 결론
참고문헌

참고문헌 (18)

참고문헌 신청
Araci, D. (2019), FinBERT: Financial sentiment analysis with pre-trained language models, arXiv preprint arXiv:1908.10063. google schola Beltagy, I., Lo, K., and Cohan, A. (2019), SciBERT: A Pretrained Language Model for Scientific. Text. EMNLP-IJCNLP, 3615-3620. google schola Chowdhery, A., Narang, S., Devlin, J., Bosma, M., Mishra, G., Roberts, A., Barham, P., Chung, H. W., Sutton, C., Gehrmann, S., … and Fiedel, N. (2022), PaLM: Scaling language modeling with pathways. arXiv preprint arXiv:2204.02311. google schola Devlin, J., Chang, M., Lee, K., and Toutanova, K. (2019), BERT: Pre-training of deep bidirectional transformers for language understanding, in Proc. Conference North Amer. Chapter Assoc. Comput. Linguistics: Hum. Lang. Technol., 4171-4186. google schola Gu, Y., Tinn, R., Cheng, H., Lucas, M., Usuyama, N., Liu, X., Naumann, T., Gao, J., and Poon, H. (2021), Domain-specific language model pretraining for biomedical natural language processing, ACM Transactions on Computing for Healthcare, 3(1), 1-23. google schola

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

선박 메인 엔진의 이상 탐지와 원인 규명: 내부 센서 및 외부 환경 요인을 고려한 설명 가능한 인공지능 기반 방법론
박민규 ,  김현주 ,  이상봉 외 1명 대한산업공학회지 2023.10
복수의 성과요소로 구성된 연구개발 프로젝트의 실물옵션 기반 경제적 가치 평가 모형 개발: 반도체 사례를 중심으로
홍택승 ,  문새다슬 ,  이희연 외 1명 대한산업공학회지 2023.06
드론을 포함한 3종 운송수단의 배송경로 최적화
김동현 ,  정지혜 ,  최인찬 대한산업공학회지 2023.02
조건부 변분오토인코더 및 협업필터링을 활용한 복지 프로그램 추천
김성은 ,  지민기 ,  문일철 외 1명 대한산업공학회지 2023.02
악성 댓글에 대한 한국어 혐오표현 및 편견 탐지 분류 모형 결과 분석 및 개선방안 연구
이세영 ,  박새롬 대한산업공학회지 2022.12

최근 본 자료

전체보기

댓글(0)

0