Bài giảng Ngôn ngữ học máy tính - Nguyễn Tuấn Đăng - Quan hệ của ngôn ngữ học máy tính với các ngành khoa học khác

Quan hệ của Ngôn ngữ học máy 
tính với các ngành khoa học khác
• Linguistics (Syntax, Semantics, etc.)
• Artificial Intelligence (AI)
• Machine Learning (particularly, probabilistic 
or statistic ML techniques)
• Machine Learning (particularly, probabilistic 
or statistic ML techniques)
• Theory of Computation
• Information Retrieval
• Philosophy of Language, Formal Logic
Lịch sử: thập niên 1940-1950
• Sự phát triển các lý thuyết ngôn ngữ hình thức
(Chomsky, Kleene, Backus).
– Đặc tả hình thức các lớp văn phạm (context-free, regular).
– Kết hợp với lý thuyết automata.
• Lý thuyết xác suất:
– Sử dụng các khái niệm trong lý thuyết thông tin như
entropy để đánh giá các mô hình ngôn ngữ.
1957-1983: Symbolic và xác suất
• Symbolic
– Sử dụng văn phạm hình thức như là cơ sở cho xử
lý ngôn ngữ tự nhiên (Chomsky, Harris).
– Sử dụng logic và lập trình logic để xây dựng các cơ
chế suy luận cú pháp và ngữ nghĩa (Kaplan, Kay,
Pereira).
– Tiếp cận vấn đề “hiểu ngôn ngữ tự nhiên” và các
hệ thống tạo sinh (Woods, Minsky, Schank,
Winograd, Colmerauer).
– Xử lý diễn ngôn.
1957-1983: Symolic và xác suất
• Mô hình xác suất
– Phương pháp xác suất để nhận dạng giọng nói,
chữ viết, ...
1983-1993: tiếp cận thực nghiệm
• Sử dụng các phương pháp xác suất để gán
nhãn từ loại, phân tích cú pháp, giải quyết mơ
hồ từ vựng, etc.
• So sánh các mô hình xác suất và symbolic
trong xử lý ngôn ngữ tự nhiên.
1993 - hiện tại 
• Những tiến bộ trong phần mềm và phần cứng
khởi nguồn cho các nghiên cứu: trích xuất
thông tin, dịch máy, kiểm tra chính tả và lỗi cú
pháp, nhận dạng tiếng nói và xử lý tổng hợp.
• Phương pháp ngẫu nhiên và symbolic được
kết hợp cho ứng dụng thực tiễn.