Natural Language Processing

멘토

과제 및 면접

과제 O | 면접 O

세션 시간

세션 시간 토요일 오후 2시 - 4시

모집 인원

모집인원 6명

NLP 2024 봄 커리큘럼

모집 인원 6명 (2개 팀)

활동 시간 매주 토요일 오후 2시 - 4시

활동 방법 주 1회 대면 정기 세션 + 팀별 미팅(대면 권장)

•

세션 장소는 추후 결정되며, 이전 기수는 신촌에서 진행했습니다.

NLP가 무엇인가요?

NLP(Natural Language Processing)은 우리말로 자연어 처리라고 하며, 인간의 언어를 컴퓨터가 이해하고 활용할 수 있도록 만드는 기술입니다. ChatGPT의 등장 이후 인공지능에 대한 대중의 관심이 폭발적으로 증가했고, 특히 NLP의 중요성이 전 세계적으로 대두되었죠. 최근 2년간 대규모 언어 모델(LLM)이 셀 수 없이 등장했고, 관련 연구는 연일 쏟아지고 있습니다. 이제는 이미지, 비디오, 영상을 비롯한 다양한 모달리티로의 확장에 대한 연구가 활발히 이루어지는 추세이지만, 언어 모델에 대한 연구는 여전히 쉬지않고 이루어지고 있습니다. 인간의 사고와 소통은 모두 언어를 매개로 이루어집니다. 결국 인공지능 연구의 종착지라고 불리는 인공일반지능(AGI)에 도달하기 위해서는 언어를 통해 인간과 AI가 소통하는 방법에 대한 연구가 필수적입니다.

NLP 팀에서는 논문 리뷰를 통해 자연어 처리의 발전 과정을 전반적으로 공부하고, 관련 개념을 바탕으로 프로젝트를 진행합니다. AI 및 NLP에 대한 사전 지식이 필요하지는 않지만, 짧은 기간 안에 프로젝트를 수행해야 하는 만큼 최소한의 개발 경험이 요구될 수 있습니다.

`24년 딥 다이브 봄 기수 NLP 팀은 아래 목표를 갖고 있습니다.

NLP 전반에 대한 배경지식을 쌓고, 기존의 연구를 분석하는 방법을 익히기

과정 중심의 자연어 처리를 활용한 딥러닝 프로젝트를 end-to-end로 경험하기

모집인원과 대상이 어떻게 되나요?

모집 인원은 6명으로 최대 두 팀을 구성하여 활동합니다. 인공지능과 자연어처리에 관심이 있는 분이라면 누구나 지원할 수 있습니다. 데이터 전처리 경험이 있다면 도움이 되지만, 기본적인 파이썬 코딩 능력만 있어도 충분합니다. 필요한 지식과 기술은 daiv.에서 함께 공부하면 됩니다 약 3개월의 시간동안 집중해서 학습하고 성장을 향한 열정과 의지만 있다면, 주저하지 말고 도전하세요! 단, 자연어 처리 뿐만 아니라 인공지능 분야에서는 논문 읽기가 빠질 수 없습니다. 영어에 대한 거부감과 논문을 읽는 데 부담이 없어야 합니다.

(Optional) 면접 안내

지원 인원에 따라 면접 절차가 추가될 수 있습니다.

일시 4월 28일 일요일 오후 4시-10시

형식 일대일 면접, 온라인 ZOOM 또는 전화

예상 소요 시간 인당 약 20분 이하

4월 27일 오후 10시 이전에 면접 대상자에게 안내 메일이 발송될 예정입니다.

면접에서는 지원서에 작성한 내용과 과제에 대한 간단한 질문이 주어집니다.

기술적인 내용에 대해서는 묻지 않으니, 부담없이 참여하시면 됩니다!

주차별 계획

활동 내용과 시간은 진행 상황을 고려하여 변경될 수도 있습니다.

정기세션에서는 리뷰한 논문을 발표하고, 관련 내용에 대한 논의를 진행합니다.

주차	활동 내용
1주차	OT: 딥러닝과 자연어처리 개요
2주차	인코더-디코더 아키텍처와 어텐션 메커니즘
3주차	Language Models: GPT, BERT
4주차	Large Language Models: PEFT, Prompt Engineering
5주차	프로젝트: 데이터 전처리
6주차	프로젝트: 모델 구현
7주차	프로젝트: 데모 준비
8주차	프로젝트: 데모 준비
9주차	프로젝트: 리허설

사전 과제

신입 팀원 과제

1. NLP 지원서 작성 (필수)

•

인공지능 분야에 관심을 갖게 된 계기, 특별히 자연어처리를 공부하고 싶은 이유에 대해서 간단히 말씀해주세요. 

•

AI 관련 경험이 아니더라도, 개발 및 팀 프로젝트 경험이 있다면 과정을 중심으로 소개해주세요.

•

NLP 기술을 활용하여 수행하고 싶은 프로젝트에 대해 설명해주세요. 

2. Deep Learning 아티클 정리 (선택)

인공지능계의 석학이신 Yann Lecun, Yoshua Bengio, Geoffrey Hinton이 머신러닝과 딥러닝의 전반을 소개한 내용을 담아 네이처지에 게재한 글입니다. 인공지능 분야를 공부하다보면, 논문을 읽을 일이 정말 많습니다. 이 글은 입문자에게 이 분야에 대한 전반적인 지식을 제공할 뿐만 아니라, 논문 읽기에 대한 문턱을 낮추는 데도 많은 도움이 됩니다.

www.cs.toronto.edu

https://www.cs.toronto.edu/~hinton/absps/NatureDeepReview.pdf

•

논문에서 “도입부, Supervised Learning, Distributed representations and language processing, Recurrent neural networks, The future of deep learning” (약 3장 분량) 부분을 읽고, 이해한 내용을 정리해주세요. 

•

내용을 번역하기보다는 딥러닝의 발전 과정에 대한 본인의 해석을 담아주세요. 형식과 분량은 자유입니다. 템플릿 복제 허용 상태로 개인 노션에 작성 후 링크를 공유합니다. 

과제를 작성한 후 노션 링크를 구글폼에 첨부해주시기 바랍니다.