beginner's mind

딥러닝을 통한 한글 문장의 감성분석은 어떻게 할까? – 1편

감성 분석 (Sentiment Analysis) 감성 분석이란 자연어처리 기술을 사용하여 문장 혹은 문서에서의 표현이 긍정 , 부정 혹은 중립인지를 판별하는 기술이다 . 아래 그림 1 과 같이 약 15 만건의 훈련용 데이터세트의 각 행에 id ...
영문 오픈소스 LLM에 한글 데이터세트로 파인튜닝하기

한글 경량화 Private LLM 개발 메타에서 2월에 Llama 거대 언어모델을 발표하였다. 커뮤니티의 연구자들은 그간 내부구조와 코드를 공개할 것으로 기대했던 OpenAI의 챗GPT의 다른 행보에 따라 거대언어모델에 관심이 높던 상태에서 Llam...
딥러닝을 통한 한글 문장의 질의응답 예측은 어떻게 할까? – 1편

질의응답 (question&answer) 질의응답이란 자연어처리 기술을 활용하여 주어진 문장에 대하여 질문을 던졌을 때 이에 대한 답을 예측하는 인공지능의 분야를 뜻한다 . 한국어 Machine Reading Comprehension 분...
안면 인식 시스템은 어떻게 작동하는 걸까?

안면 확인 vs 안면 인식 안면 확인 (face verification) 은 안면 영상과 해당 사람의 이름이나 ID 등을 입력했을 때 , 데이터베이스로부터 해당 ID 나 이름을 찾아서 입력된 영상이 저장된 영상과 맞는 지를 확인하는 시스템이다 . 즉...
인공지능((AI) 기반 신약개발: 패러다임 변화 - Part 1

신약개발 패러다임 변화 : 가설기반에서 인공지능 기반으로 ‘ n 전통적 신약개발의 위기 일간지에서 본 한 제약회사의 기사가 눈에 들어온다. 다국적 제약회사보다 임상 빨랐지만 자금력에 밀려 신약꿈이 좌절되었...
머신러닝 개발 중에 모델을 모니터하고 딥러닝 모델을 개선하는 방법 중 하나 - callback

딥러닝 모델을 callback 없이 개발하는 것은 브레이크 없는 차를 운전하는 것과 같다 만약 딥러닝 모델을 개발하고 있다고 해보자 . 만약 머리 속에 시간이 많이 소요되는 훈련 중에 프로세스를 조정할 방법에 대해 아무 생각이 없다면 그 프로젝트는...
딥러닝을 통한 한글 문장의 감성분석은 어떻게 할까? – 2편

1 편에서 감성분석 처리절차 , Bert 언어모델 , Kobert, 네이버 영화펑 코퍼스 로드까지 살펴보았다 . 이제 이어서 KobertTokenizer 환경 준비부터 모델 훈련 평가까지의 절차를 살펴보도록 하자 . KobertTokenize...
컴퓨터가 문장에 있는 단어의 품사를 어떻게 알아낼까? -1편

우선 주어진 문장에서 Part of Speech 라는 문장 속 단어의 품사를 판별한다 . 만약 웹사이트에 있는 문장들이건 혹은 챗봇을 통해 입력된 문장이 되었건 , 의미 있는 문맥으로 구성된 문장들을 컴퓨터가 자연어처리를 하려고 할 경우에 , 문...
누적된 날씨 관련 시계열(timeseries) 데이터로부터 미래 온도는 어떻게 예측할까?

시계열 (timeseries) 이번 호에서는 시계열 (timeseries) 데이터로부터 24 시간 이후의 온도를 예측하는 문제를 다뤄보고자 한다 . 이러한 미래 온도를 예측하는 문제에서 사용하는 시계열이란 데이터는 지금까지 다루어 왔던 데이터 ...
복수의 GPU가 있다면 분산 훈련을 실행해보자

4 개의 GPU 로 분산 훈련 (Distributed Training) 을 시행하면 1 개의 GPU 로 훈련하는 것보다 4 배로 성능이 빨라질까? 결론부터 이야기하면 , 4 배로 빨라진다 . 물론 복수 기계 간의 네트워크 속도나 어떤 병렬 학...