코스 교수자. 프라나브 라즈푸르카르 박사(하버드 대학교 조교수)
코스 개요. 이 과정에서는 PyTorch, Lightning, Hugging Face와 같은 최첨단 AI 개발 도구에 대해 자세히 알아보고, VSCode, Git, Conda를 사용하여 워크플로를 최적화하는 방법을 살펴봅니다. AWS와 Colab의 클라우드 컴퓨팅 성능을 활용하여 초고속 GPU 가속으로 대규모 딥 러닝 모델을 훈련하는 방법을 배우게 됩니다. 또한 가중치 및 편향을 사용하여 많은 수의 실험을 관리하는 모범 사례를 익히게 됩니다. 이 과정에서는 연구 논문을 체계적으로 읽고, 새로운 아이디어를 생성하고, 이를 슬라이드나 논문으로 발표하는 방법도 알려드립니다. 최고의 AI 연구자들이 사용하는 귀중한 프로젝트 관리 및 팀 커뮤니케이션 기술도 배울 수 있습니다.
코스 목표.
- AI 연구에 일반적으로 사용되는 도구와 기법을 숙달하세요.
- 문헌 검색을 수행하고, AI 연구 논문을 읽고 요약할 수 있습니다.
- 모델 개발, 교육 및 평가를 위해 다양한 프레임워크와 라이브러리를 사용할 수 있습니다.
- 실험 관리, 하이퍼파라미터 검색 및 모델 성능 비교를 수행할 수 있습니다.
- 연구 아이디어를 생성, 반복 및 평가하는 능력.
- 연구 논문을 작성 및 정리하고 고품질 슬라이드를 제작할 수 있는 능력.
- 팀 및 프로젝트 관리에서 효과적으로 작업할 수 있는 능력.
코스 카탈로그.
I. 프로그램 소개 및 기초(1-2장, 59페이지)
- 1장: 샌드위치 완성하기 - AI 언어 모델을 통한 흥미로운 발전
- 학습 목표:
- 제로 및 소규모 샘플 학습을 사용하여 언어 모델과 상호 작용하여 그 기능을 테스트하세요.
- GPT-3의 텍스트 완성 및 Codex의 코드 생성 기능을 사용하여 간단한 애플리케이션을 구축하세요.
- 언어 모델링이 잠재적으로 사회적 편견을 반영할 수 있는 해로운 경향을 이해합니다.
- 해당 참고 사항: 하버드 CS197 강의 1 강의 노트
- 학습 목표:
- 2장: 파이썬의 정석 - 소프트웨어 엔지니어링 기초
- 학습 목표:
- VSCode 에디터를 사용하여 Python 코드 베이스를 효율적으로 편집하세요.
- 코딩 워크플로에서 Git 및 Conda 사용에 능숙합니다.
- 디버깅에는 인쇄문이 아닌 중단점과 로그 포인트를 사용하세요.
- 린팅을 사용하여 오류를 찾고 Python 코드 스타일을 개선하세요.
- 해당 참고 사항: 하버드 CS197 강의 2 강의 노트
- 학습 목표:
II. 문헌 읽기 및 모델 미세 조정(3~4장, 41페이지)
- 3장: 거인의 어깨 - AI 연구 논문 읽기
- 학습 목표:
- 문헌 검색을 수행하여 관심 주제와 관련된 논문을 찾아보세요.
- 머신 러닝 연구 논문을 읽고 그 내용을 요약해 보세요.
- 특정 영역의 이전 작업을 요약합니다.
- 해당 참고 사항: 하버드 CS197 강의 3 강의 노트
- 학습 목표:
- 4장: 재즈 핸즈와 인조율하기 - 허깅 페이스를 사용하여 언어 모델 미세 조정하기
- 학습 목표:
- 데이터 세트 라이브러리를 사용하여 자연어 처리 데이터 세트를 로드하고 처리할 수 있습니다.
- 텍스트 시퀀스를 세그먼트화하고 세그먼트화에 사용되는 단계를 이해합니다.
- 인과 관계 언어 모델링을 위한 데이터 세트 구축 및 학습 단계.
- 해당 참고 사항: 하버드 CS197 강의 4 강의 노트
- 학습 목표:
III. 비주얼 트랜스포머를 사용한 PyTorch 심층 분석(5~7장, 33페이지)
- 5장: 라이트닝 맥토치 - 라이트닝을 사용한 비전 트랜스포머 미세 조정하기
- 학습 목표:
- 코드와 상호 작용하여 비주얼 트랜스포머에서 사용할 이미지 데이터 로딩 및 토큰화를 살펴보세요.
- 비주얼 트랜스포머를 빌드하는 데 사용되는 PyTorch 아키텍처와 모듈의 코드를 파싱합니다.
- 파이토치 라이트닝을 사용한 예시 교육 워크플로우에 익숙합니다.
- 해당 참고 사항: 하버드 CS197 강의 5강 노트
- 학습 목표:
- 6-7장: 파이토치와 함께 문워킹하기 - 파이토치 기초 다지기
- 학습 목표:
- PyTorch에서 텐서 연산을 수행합니다.
- Autograd의 맥락에서 신경망의 순방향 및 역방향 전파를 이해합니다.
- PyTorch 교육 코드의 일반적인 문제 감지.
- 해당 노트: 하버드 CS197 강의 6강 및 7강 노트
- 학습 목표:
IV. 실험 관리 및 하이퍼파라미터 검색(8~9장, 22페이지)
- 8-9장: 실험 조직이 기쁨을 불러일으킨다 - 가중치와 편향 및 히드라를 사용한 모델 훈련 구성하기(실험 조직이 기쁨을 불러일으킨다 - 가중치와 편향 및 히드라를 사용한 모델 훈련 구성하기) Hydra)
- 학습 목표:
- 가중치 및 편향을 통해 실험 로깅 및 추적을 관리합니다.
- 가중치 및 편향 스윕을 사용하여 초모수 검색을 수행합니다.
- Hydra로 복잡한 구성을 관리하세요.
- 해당 노트: 하버드 CS197 강의 8강 및 9강 노트
- 학습 목표:
V. 연구 아이디어 및 에세이 작성(10~13장, 23페이지)
- 10-11장: 나는 꿈을 꾸었다 - 연구 아이디어 창출을 위한 프레임워크
- 학습 목표:
- 연구 질문, 실험 설정, 결과 등 연구 논문의 부족한 부분을 파악합니다.
- 관심 과제, 평가 전략 및 제안된 방법론의 요소를 고려하여 연구 논문을 기반으로 아이디어를 생성합니다.
- 아이디어를 반복하여 품질을 개선하세요.
- 해당 노트: 하버드 CS197 강의 10강 및 11강 노트
- 학습 목표:
- 12~13장: 오늘은 동화였다 - 연구 논문 구조화하기
- 학습 목표:
- 연구 논문의 요소와 그 순서를 해체합니다.
- 연구 논문 작성의 글로벌 및 로컬 구조를 문서화하세요.
- 해당 참고 사항: 하버드 CS197 강의 12, 13 강의 노트
- 학습 목표:
VI. 클라우드에서의 딥 러닝 및 모델 미세 조정(14~17장, 31페이지)
- 14-15장: 클라우드 나인의 딥 러닝 - 딥 러닝을 위한 AWS EC2: CheXzero를 사용한 설정, 최적화 및 실습 교육(클라우드 나인의 딥 러닝 - AWS EC2 for Deep AWS EC2에서의 딥 러닝: 설정, 최적화 및 CheXzero를 사용한 실습 교육)
- 학습 목표:
- 딥 러닝을 위한 AWS EC2 인스턴스를 설정하고 연결하는 방법을 알아보세요.
- GPU를 사용하기 위해 딥러닝 코드를 수정하는 방법을 알아보세요.
- 실제 코드 베이스를 사용하여 모델 트레이닝 프로세스를 실행하는 실무 경험을 쌓으세요.
- 해당 노트: 하버드 CS197 강의 14강 및 15강 노트
- 학습 목표:
- 16~17장: 꿈을 실현하기 위한 조정 - 안정적인 확산 모델 미세 조정하기
- 학습 목표:
- 드림부스 템플릿 노트북을 사용하여 안정적인 확산 모델을 만들고 미세 조정합니다.
- AWS 가속을 사용하여 GPU를 사용하여 안정적인 확산 모델을 훈련합니다.
- 익숙하지 않은 코드베이스와 드림부스, Colab, Accelerate, Gradio 등 새로운 도구에 대해 자세히 알아볼 필요 없이 바로 사용할 수 있습니다.
- 해당 노트: 하버드 CS197 강의 16강 및 17강 노트
- 학습 목표:
VII. 연구 효율성과 팀워크(18~19장, 19페이지)
- 18장: 연구 생산성 향상 - 시간과 노력을 관리하기 위한 팁
- 학습 목표:
- 업데이트 미팅과 작업 세션을 사용하여 동일한 정보를 공유하고 프로젝트를 진행하는 방법을 알아보세요.
- 다양한 도구와 기법을 사용하여 팀 커뮤니케이션과 프로젝트 조직을 개선하는 방법을 알아보세요.
- 프로젝트의 단계와 관련된 다양한 작업을 고려하여 프로젝트 작업을 구성하는 전략을 알아보세요.
- 해당 참고 사항: 하버드 CS197 강의 18 강의 노트
- 학습 목표:
- 19장: AI 닌자 - AI 연구의 진보와 영향력 만들기
- 학습 목표:
- 상사와의 관계 관리, 기술 개발 등 연구를 꾸준히 진전시키는 방법을 알아보세요.
- 작업의 영향력을 높이는 방법에 대해 더 깊이 이해하세요.
- 해당 참고 사항: 하버드 CS197 강의 19강 노트
- 학습 목표:
VIII. 슬라이드 제작 및 통계 테스트(20-21장, 25페이지)
- 20장: 보석처럼 빛나는 - 고품질 슬라이드 제작을 위한 팁
- 학습 목표:
- 주장-증거 접근 방식의 핵심 원칙을 적용하여 효과적인 프레젠테이션 슬라이드를 만드세요.
- 일반적인 슬라이드 프레젠테이션의 일반적인 함정과 이를 피하기 위한 전략을 파악하세요.
- 이 강의에서 배운 기법을 연구 발표 슬라이드의 실제 사례에 적용하여 효과를 개선하세요.
- 해당 노트: 하버드 CS197 강의 20 노트
- 학습 목표:
- 21장: 모델 대결 - 모델 성능 비교를 위한 통계 테스트
- 학습 목표:
- 맥네마 테스트, 짝을 이룬 t-테스트, 부트스트랩 방법 등 머신러닝 모델을 비교하는 데 사용할 수 있는 다양한 통계 테스트에 대해 알아보세요.
- Python에서 이러한 통계 테스트를 구현하여 동일한 테스트 세트에서 두 모델의 성능을 평가할 수 있습니다.
- 통계적 우월성, 비열등성 및 동등성 테스트를 포함하여 주어진 연구 문제에 적합한 테스트를 선택할 수 있는 능력.
- 해당 노트: 하버드 CS197 강의 21 노트
- 학습 목표:
과제
- 과제 1: 코드 언어
- 과제 2: AI 첫걸음(AI初探)
- 과제 3: 토치(횃불)
- 과제 4: 기쁨을 불러일으키기
- 과제 5: 아이디어 발상 및 정리
- 과제 6: 안정적인 확산 및 연구 운영
X. 코스 프로젝트
- 프로젝트 세부 정보. 인공지능을 의학에 적용하는 최첨단 연구 프로젝트를 구축하게 됩니다. 이 과정은 명확하게 정의된 연구 방향을 제공하여 연구 질문을 공식화하고 엔드투엔드 연구를 수행할 수 있도록 합니다. 수업에서 배운 연구 도구와 기술을 활용하여 이 프로젝트를 완료하게 됩니다. 이 최종 프로젝트를 통해 의료 AI 분야의 실제 연구를 수행하는 귀중한 경험을 쌓고 개념부터 전체 원고까지 프로젝트를 처리할 수 있습니다.
XI. 마무리 발언(축하)
이 학습 카탈로그가 도움이 되었기를 바랍니다! 공부에 행운을 빕니다!
다운로드 주소
© 저작권 정책
기사 저작권 AI 공유 서클 모두 무단 복제하지 마세요.
관련 문서
댓글 없음...
한국어 
简体中文 
English 
日本語 
Русский 
Español