2024년도 2학기 특론: 인공지능 수학여행 (AIGS703M-01) 강의계획서

1. 수업정보

학수번호 AIGS703M 분반 01 학점 3.00
이수구분 전공선택 강좌유형 강의실 강좌 선수과목
포스테키안 핵심역량
강의시간 화, 목 / 14:00 ~ 15:15 / 무은재기념관 강의실 [306호] 성적취득 구분 G

2. 강의교수 정보

임경순 이름 임경순 학과(전공) 인공지능대학원
이메일 주소 gsim@postech.ac.kr Homepage
연구실 인공지능연구원 143호 전화 054-279-3582
Office Hours

3. 강의목표

- 강의 목적: 본 과목은 인공지능 관련 분야들인 미적분, 확률 이론, 선형대수, 통계학, 데이터 사이언스에 대한 역사적 고찰을 통해 머신러닝, 딥러닝에 대한 이해를 증진하는 것을 목적으로 한다.

- 교육 방법 : 인공지능 관련 수학은 어렵다고 알려져 학생들이 인공지능 분야 공부를 시작할 때 망설이는 주요 이유 가운데 하나다. 수학자들에겐 수학적 명제를 유도하고 증명하는 것이 중요하다. 하지만 공학자들에겐 수학적 개념을 직관적으로 이해하고 이것을 실제로 구현할 수 있는 실행 능력이 더 중요하다. 본 과목은 실행에 의한 학습(learning by doing)을 목표로 인공지능 관련 학문에 대한 역사적 고찰을 통해 머신러닝, 딥러닝에 대한 수학적 이해를 높이기 위해 개발한 새로운 유형의 과목이다. 본 과목에서는 우선 확률/통계, 선형대수, 최적화 이론, 데이터사이언스, 머신러닝, 딥러닝 분야에서 나타나는 주제와 개념을 개괄적으로 설명한다. 다음으로 파이썬 언어를 활용해서 이 개념들을 컴퓨터에서 실제로 구현해 본다. 본 과목의 핵심 학습 전략이다.

- 강의 전반적 내용

강의 초반부에서는 수학의 기원과 동서양의 수학사, 미적분과 최적화 이론의 발전, 확률 이론과 통계적 사고의 발달, 선형대수 기법의 발전, 통계학과 데이터 사이언스의 등장 등에 대해 수학의 역사를 통해 살펴본다. 이 역사, 수학 여행을 통해 학생들은 인공지능에 필요한 수학에 대해 개념적 이해를 얻게 된다.

강의 중반 이후에서는 인공지능 관련 분야의 발전 과정을 살펴본다. 여기서는 머신러닝, 신경망과 딥러닝, 생성형 AI의 발전 과정에 대해서 개괄적으로 다룬다.

4. 강의선수/수강필수사항

미적분, 선형대수, 확률 통계에 대한 기초 수학울 배운 학생이면 모두 가능함

5. 성적평가

성적 평가

기말고사(50%), 조별 발표(20%), 기말보고서/구두시험(10%), 과제물/Quiz(10%), 출석(10%)

발표 점수 산정: 발표문 제출 시간 엄수(3), 발표 내용(10), 발표 능력(3), 답변 능력(4), 자유 토론 운영 능력 (5), 지정 토론 질문 능력 (10) 등 총 35점으로 전체 점수에 비율을 적용해 반영

파이썬 코딩 실력 성적 반영 여부 : 파이썬 코딩 실력 자체는 Python Quiz Session을 운영하는 경우를 제외하고는 전체 학생을 대상으로 하는 성적 평가에는 반영하지 않는다.

수업은 강의 및 실습, 그룹별 발표 및 토론 6회, 과제물 제출 혹은 Python Quiz, 기말시험 및 기말보고서/구두시험 등으로 진행된다.

6. 강의교재

도서명 저자명 출판사 출판년도 ISBN

7. 참고문헌 및 자료

기본 교재 및 참고 도서

기본 교육 자료 : 강의 시작 전에 전체 강의 내용을 pdf 파일로 제공함.

참고 도서 :

Stephen M. Stigler, The History of Statistics (Harvard University Press, 1986), 스티븐 스티글러 (조재근 옮김), 『통계학의 역사』 (한길사, 2002). 통계학사 강의 참고용
Kevin Murphy, Probabilistic Machine Learning: An Introduction (MIT Press, 2022), 케빈 머피 (이판호 옮김), 『확률론적 머신러닝: 기본편』 (에이콘, 2024). 머신러닝 기초 이론 참고용
Sebastian Raschka et al., Machine Learning with Pytorch and Scikit-Learn (Packt Publishing, 2022), 세바스찬 라시카 외 (박해선 옮김), 『머신러닝 교과서: 파이토치 편』 (길벗, 2023). 파이썬 머신러닝 라이브러리 실습 참고용

8. 강의진도계획

강의 진도

1. 과목 소개 : 인공지능 수학여행
2. 수학의 기원과 미적분의 출현
3. 확률 이론의 등장
4. 선형 대수학의 발전
5. 통계학과 데이터사이언스
6. 머신러닝 개요
7. 딥러닝 이전의 컴퓨터 비전 : 예비 강의
8. 신경망과 딥러닝의 발전
9. 생성형 AI의 등장 : 다음 학기 강의 미리보기

9. 수업운영

-강연과 실습/발표를 번갈아 하면서 진행하는 3학점(3-0-3) 강의

- 학생 자습용 파이썬 기초 라이브러리 실습 : Python, Numpy, Matplotlib, Pytorch_basic (학생들이 스스로 학습하는 것을 원칙으로 함. 교수가 관련 기본 코드를 사전에 배부하고 교수 실습 시간에 Python Quiz 시간을 운영함)

- 교수 지도로 조교가 진행하는 머신러닝, 딥러닝 라이브러리 실습 : Numpy/Scipy(확률/통계, 선형대수), Scikit-learn(머신러닝), Pytorch(딥러닝) 등등

- 학생 발표의 두 가지 유형
1. 인공지능과 관련된 포괄적인 일반 주제 발표 (윤리적, 법적, 사회적 이슈 포함)
2. 인공지능 관련 논문 분석 및 해설

- 기말 보고서 유형 : 인공지능 관련 Essay Review (구두시험으로 대체할 수도 있음)

조별 발표 진행 방식

발표 그룹은 담당 교수의 허락을 받아 인공지능 관련 발표 주제를 자유롭게 선정한다.
발표 그룹은 지정 토론 그룹에게 적어도 발표 24시간 전에 발표 초안을 보내주어야 한다.
발표는 30분 이상 45분 이내로 하고 발표자와 답변자는 다수 인원이 담당하여도 무방하다.
발표문 마지막에 2-3개의 토론 주제를 제시하여 종합 토론을 유도한다.
지정 토론은 발표 내용에 대한 점검, 평가, 보완을 중심으로 전개하며 10분 이내로 질문을 독점할 수 있다.
지정 토론이 끝나면 발표 그룹은 강의 종료 5분 전까지 자유 토론을 진행한다.
강의 종료 5분 전이 되면 발표 그룹은 그동안 나왔던 토론 내용을 정리하고 발표를 마무리한다.

10. 학습법 소개 및 기타사항

A Historical and Mathematical Journey to AI will be a bilingual course. All lecture materials will be provided simultaneously in Korean and English. However, the lectures will be conducted in Korean, which is the language that the lecturer can use easily. Of course, each lecture may be briefly summarized in English. The exams will be given in both Korean and English. Presentations can be made in the language that the presenter can use conveniently, i.e., in both Korean and English.

A Historical and Mathematical Journey to Artificial Intelligence with Python (인공지능 수학여행)

Instructor: Prof. Dr. Gyeong Soon Im

- Course Objective: This course aims to enhance understanding of machine learning and deep learning through a historical review of artificial intelligence-related fields such as calculus, probability theory, linear algebra, statistics, and data science.

- Teaching Method:
The mathematics related to artificial intelligence is known to be difficult, which is one of the main reasons why students hesitate to start studying artificial intelligence. For mathematicians, it is important to derive and prove mathematical propositions. However, for engineers, it is more important to intuitively understand mathematical concepts and have the ability to implement them in practice.
This is a new type of course developed to enhance mathematical understanding of machine learning and deep learning through a historical review of artificial intelligence-related studies, with the goal of learning by doing. This course first provides an overview of topics and concepts appearing in the fields of probability/statistics, linear algebra, optimization theory, data science, machine learning, and deep learning. Next, we will actually implement these concepts on a computer using the Python language. This is the core learning strategy of this course.

- General content of the lecture
In the early part of the lecture, we look at the origins of mathematics, the history of mathematics in East and West, the development of calculus and optimization theory, the development of probability theory and statistical thinking, the development of linear algebra techniques, and the emergence of statistics and data science. Through this historical and mathematical journey, students will gain a conceptual understanding of the mathematics necessary for artificial intelligence.
After the middle of the lecture, we will look at the development of artificial intelligence-related fields. Here, we cover the developments in machine learning, neural networks, deep learning, and generative AI.

A 3-credit (3-0-3) lecture that alternates between lectures and practical exercises/presentations.

- Python basic library practice for student self-study: Python, Numpy, Matplotlib, Pytorch_basic (The course encourages students to study on their own. The professor distributes relevant basic codes in advance and runs a Python Quiz during professor practice time.)

- Probability/statistics, machine learning, and deep learning library practice conducted by a teaching assistant under the guidance of the professor: Numpy/Scipy (probability/statistics, linear algebra), Scikit-learn (machine learning), Pytorch (deep learning) et al.

- Two types of student presentations
1. Presentation on a comprehensive general topic related to AI (including ethical, legal, and social issues)
2. Analysis and commentary on papers related to AI

- Final Report Type
Essay Review on Artificial Intelligence (may be replaced by an oral exam)

Grade Evaluation

Final exam (50%), group presentation (20%), final report/oral exam (10%), assignment/quiz (10%), attendance (10%)

Calculation of presentation score: A total of 35 points, including punctuality for presentation submission (3), content of presentation (10), presentation ability (3), answering ability (4), free discussion management ability (5), and designated discussion question ability (10). Reflected by applying a percentage to the total score.

Whether Python coding skills are reflected in grades: Python coding skills themselves are not reflected in the overall student grade evaluation, except when running a Python Quiz session.

The class will consist of lectures and practical training, 6 group presentations and discussions, assignment submissions or Python Quiz, a final exam, and a final report/oral exam.

How to proceed with group presentations

The presentation group freely selects a presentation topic related to AI with the permission of the professor in charge.
The presentation group must send a draft of the presentation to the designated discussion group at least 24 hours before the presentation.
The presentation should be no less than 30 minutes but no more than 45 minutes, and multiple presenters and respondents may be responsible.
At the end of the presentation, suggest 2-3 discussion topics to encourage comprehensive discussion.
The designated discussion will focus on reviewing, evaluating, and supplementing the presentation content, and will be able to monopolize questions for 10 minutes.
After the designated discussion is over, the presenting group will conduct an free discussion until 5 minutes before the end of the lecture.
Five minutes before the end of the lecture, the presentation group summarizes the discussion that has taken place and concludes the presentation.

Basic training materials and reference books

Basic Teaching Materials: The entire lecture content is provided as a pdf file before the lecture begins.

Reference books :
Stephen M. Stigler, The History of Statistics (Harvard University Press, 1986), 스티븐 스티글러 (조재근 옮김), 『통계학의 역사』 (한길사, 2002). 통계학사 강의 참고용
Kevin Murphy, Probabilistic Machine Learning: An Introduction (MIT Press, 2022), 케빈 머피 (이판호 옮김), 『확률론적 머신러닝: 기본편』 (에이콘, 2024). 머신러닝 기초 이론 참고용
Thomas Cormen et al., Introduction to Algorithms (MIT Press, 2022) 4th ed., (문병로 외 옮김), 『Introduction to Algorithms』 (한빛아카데미, 2024). 알고리즘 참고용
Sebastian Raschka et al., Machine Learning with Pytorch and Scikit-Learn (Packt Publishing, 2022), 세바스찬 라시카 외 (박해선 옮김), 『머신러닝 교과서: 파이토치 편』 (길벗, 2023). 파이썬 머신러닝 라이브러리 실습 참고용

Lecture progress

1. Course Introduction: Artificial Intelligence Math Journey
2. Origin of Mathematics and the Emergence of Calculus
3. Emergence of Probability Theory
4. Development of Linear Algebra
5. Statistics and Data Science
6. Introduction to Machine Learning
7. Computer Vision Before Deep Learning: Preliminary Lecture
8. Development of Neural Networks and Deep Learning
9. Emergence of Generative AI: Preview of Next Semester Lecture

11. 장애학생에 대한 학습지원 사항

- 수강 관련: 문자 통역(청각), 교과목 보조(발달), 노트필기(전 유형) 등

- 시험 관련: 시험시간 연장(필요시 전 유형), 시험지 확대 복사(시각) 등

- 기타 추가 요청사항 발생 시 장애학생지원센터(279-2434)로 요청