Bài giảng Khoa học máy tính - Bài 1: Giới thiệu môn học - Nguyễn Phương Thái
Bài giảng 1. Giới thiệu môn học
Giảng viên: Nguyễn Phương Thái
Bộ môn Khoa học Máy tính
Trang web cá nhân: http://coltech.vnu.edu.vn/~thainp/
Trợ giảng: Nguyễn Kim Anh
Nội dung bài giảng
- Lịch sử môn học
- Vai trò của lý thuyết thông tin
- Nội dung môn học
- Yêu cầu với sinh viên
Lịch sử môn học
C. E. Shannon, “A mathematical theory of communication,” Bell System Technical
Journal, vol. 27, pp. 379-423 and 623-656, July and October, 1948.
Lịch sử môn học (tiếp)
- Lần đầu tiên xác suất được áp dụng vào phân tích truyền thông.
- Ý tưởng đột phá là “thông tin” (bất kể nguồn loại gì) về căn bản là mang tính số
(digital).
- Khái niệm “entropy” thông tin ra đời, dùng để đo “độ phức tạp” hay “độ ngẫu
nhiên” của nguồn thông tin.
- Các kênh thông tin có một dung tích mà nếu ta truyền tín hiệu với tốc độ nhỏ hơn
nó thì tồn tại một cách mã hóa tín hiệu mà nhờ đó ta có thể đạt được xác suất lỗi
nhỏ tùy ý.
- Bài báo cũng đặt nền tảng cho ngành nén dữ liệu, mã hóa và giải mã tín hiệu với
khả năng phát hiện lỗi và sửa lỗi.
- Nhờ bài báo này, truyền thông có thể hiểu nôm na là bao gồm 3 bước chính: mã
hóa tín hiệu, truyền tín hiệu qua kênh thông tin, và giải mã tín hiệu.
Vai trò của Lý thuyết Thông tin
Vai trò của Lý thuyết Thông tin (tiếp)
- Trong kỹ thuật điện tử: các giới hạn của lý thuyết truyền thông
- Trong khoa học máy tính: độ phức tạp Kolmogorov
- Trong vật lý: lý thuyết thông tin lượng tử
- Trong toán học: các bất đẳng thức, các định lý giới hạn, kiểm định giả thuyết thống
kê, lượng thông tin Fisher
- Triết lý của khoa học
- Trong kinh tế học
Nội dung môn học
- Nhắc lại kiến thức cơ bản về XSTK
- Entropy, entropy tương đối, và thông
tin tương hỗ
- Nén dữ liệu
- Dung lượng kênh
Mục tiêu môn học
Môn học này giúp sinh viên:
- Biết được ảnh hưởng của lý thuyết thông tin trong các lĩnh vực như thống
kê, học máy, kinh tế, v.v.
- Hiểu các khái niệm cơ bản của lý thuyết thông tin như entropy, thông tin
tương hỗ
- Có thể vận dụng để giải các bài toán cần xác định lượng tin
- Hiểu mô hình truyền thông theo quan điểm của Shannon
Yêu cầu với sinh viên
- Tham gia học trên lớp và làm bài tập (1 điểm chuyên cần)
- Kiểm tra giữa kỳ (hệ số 0.4)
- Thi cuối kỳ (hệ số 0.5)
9 trang
18180
Free
Bạn đang xem tài liệu "Bài giảng Khoa học máy tính - Bài 1: Giới thiệu môn học - Nguyễn Phương Thái", để tải tài liệu gốc về máy hãy click vào nút Download ở trên
File đính kèm:
- bai_giang_khoa_hoc_may_tinh_bai_1_gioi_thieu_mon_hoc_nguyen.pdf
