Trích chọn collocation tiếng Việt từ kho ngữ liệu văn bản
TẠP CHÍ KHOA HỌC SỐ 2/2016
117
TRÍCH CHỌN COLLOCATION TIẾNG VIỆT
TỪ KHO NGỮ LIỆU VĂN BẢN
Đỗ Thị Ngọc Quỳnh1
Trường Đại học Thủ đô Hà Nội
Tóm tắt: Collocation đóng vai trò quan trọng trong các ứng dụng xử lý ngôn ngữ tự
nhiên cꢀng như biên soạn từ điển. Tuy nhiên, ở Việt Nam hiện nay, nghiên cứu về
collocation là một lĩnh vực khá mới mẻ. Bài báo này tập trung vào nghiên cứu một số
phương pháp trích chọn collocations nhằm tìm ra mô hình hiệu quả cho việc trích chọn
collcations trong tiếng Việt. Các phương pháp được nêu ra bao gồm một số phương pháp
thống kê cổ điển thường được sử dụng như: frequency, t-test, chi-square, mutual
information, đồng thời đề xuất một số phương pháp tổng hợp nhằm tăng độ chính xác của
quá trình trích chọn. Không chỉ dừng lại ở các phương pháp, chúng tôi cꢀng tiến hành
nghiên cứu ảnh hưởng của việc tiền xử lý dữ liệu lên độ chính xác của chương trình trích
chọn. Dữ liệu thử nghiệm bao gồm cả dữ liệu thô, chưa qua xử lý, dữ liệu đã được qua
một bộ gán nhãn từ loại và dữ liệu đã được phân tích cú pháp. Thông qua việc chạy các
chương trình với đầu vào dữ liệu khác nhau, so sánh độ chính xác của các phương pháp,
chúng tôi đề xuất mô hình trích chọn hiệu quả cho tiếng Việt sử dụng độ đo ngôn ngữ.
Từ khóa: collocation, t-test, chi-square, mutual information, độ đo ngôn ngữ, cụm từ cố
định.
1. GIỚI THIỆU
Collocations được hiểu là một thể hiện của hai hoặc nhiều từ tương ứng với một cách
nói thông thường. Chúng cũng được biết đến như là một lớp của các nhóm từ nằm giữa
thành ngữ và sự kết hợp từ tự do [4]. Tuy nhiên, rất khó để có thể phân địch rạch ròi giữa
một cụm từ và một collocation. Thành ngữ và cụm từ thể hiện trong ngôn ngữ không chỉ
về mặt ngữ pháp, đặc biệt, nghĩa của chúng không phải là sự kết hợp nghĩa của từng thành
phần, không thể đoán ý nghĩa của một thành ngữ từ nó chứa. Hơn nữa, nghĩa của thành
ngữ thường mạnh hơn nghĩa của cụm từ không phải là thành ngữ.
1 Nhận bài ngày 10.01.2016, gửi phản biện và duyệt đăng ngày 25.01.2016.
Liên hệ tác giả: Đỗ Thị Ngọc Quỳnh; Email: [email protected]
118
TRƯỜNG ĐẠI HỌC THỦ ĐÔ HÀ NỘI
Đã có nhiều nghiên cứu về collocation được tiến hành bằng tiếng Anh nhưng chưa có
định nghĩa tiêu chuẩn về collocation, bởi điều này phụ thuộc vào quan điểm và mục đích
của các nhà nghiên cứu.
Trong bài báo này, chúng tôi chấp nhận định nghĩa: collocation là một sự kết hợp các
từ thường xuất hiện cùng nhau trong phạm vi bình thường trong văn bản, vị trí và ngữ pháp
tương đối cố định.
Collocations có ứng dụng rộng rãi trong các lĩnh vực ngôn ngữ [2, 21, 23], biên soạn
từ điển [11] cũng như vấn đề xử lý ngôn ngữ tự nhiên [4, 16, 18, 25, 27]. Do đó, việc khai
thác các collocations được lựa chọn trong mỗi ngôn ngữ là thực sự cần thiết, nó giúp cải
thiện tính chính xác và tính chất của việc áp dụng xử lý ngôn ngữ tự nhiên, cũng như giúp
việc tìm hiểu một ngôn ngữ mới dễ dàng hơn. Ngoài ra, việc biên dịch collocation cải thiện
chất lượng của dịch máy. Các kiến thức về collocations có thể cải thiện hiệu suất của hệ
thống tìm kiếm thông tin. Phương pháp thống kê đã cho thấy một sự hiện diện đáng chú ý
trong khai thác collocation. Đo tần số được sử dụng để xác định một loại cụ thể của
collocations. Thông tin tương hỗ đã được sử dụng để trích xuất các cặp từ có xu hướng xảy
ra trong một cửa sổ kích thước cố định (thường là 5 từ), trong đó có chiết xuất từ có thể
không liên quan trực tiếp. Việc sử dụng của t-test để tìm những từ có sự xuất hiện các mô
hình hợp tác tốt nhất trong phân biệt giữa hai từ đã được đề xuất trước đây. Người ta cũng
áp dụng tỷ lệ khả năng thử nghiệm để khai phá collocation.
2. CÁC NGHIÊN CỨU LIÊN QUAN
Một ví dụ điển hình của collocation là ví dụ của Halliday: strong vs. powerful tea ([10]
Halliday 1966: P150). Đó là một quy ước trong tiếng Anh để nói strong tea chứ không
phải powerful tea, mặc dù bất kỳ người nói tiếng Anh cũng sẽ hiểu. Sự kết hợp của từ mà
không theo một quy tắc ngữ pháp hoặc ngữ nghĩa là định nghĩa của collocations. Do đó,
sắp xếp từ có thể được hiểu như là một sự kết hợp của các từ mà không tuân theo một quy
tắc ngữ pháp hoặc ngữ nghĩa ở tất cả các văn bản. Theo một số quan điểm, collocations cố
định và không linh hoạt. Nghĩa của collocation không thường được suy ra từ nghĩa của các
từ thành các phần và thay thế một từ với một từ đồng nghĩa hoàn toàn có thể thay đổi ý
nghĩa của collocation.
Collocations cũng được hiểu như là sự kết hợp ngữ dụng mang phong cách riêng của
các đơn vị từ vựng: heavy rain, light breeze, great difficulty, grow steadily, meet
requirement, reach consensus, pay attention, ask a question. Không giống như các thành
ngữ (kick the bucket, lend a hand, pull someone’s leg), ý nghĩa của chúng là khá minh bạch
và dễ dàng để giải mã. Khác với các từ hay gặp thường xuyên, (big house, cultural
TẠP CHÍ KHOA HỌC SỐ 2/2016
119
activity; read a book) collocations thành ngữ được đánh giá mang phong cách riêng
(Mel'cuk năm 2003).
Như đã được chỉ ra bởi nhiều nhà nghiên cứu (Cruse, 1986; Benson, 1990; McKeown
and Radev, 2000), collocations không thể được mô tả bằng các quy tắc chung về cú pháp
và ngữ nghĩa. Chúng là cứng nhắc và không thể đoán trước và do đó cần phải được ghi
nhớ. Chúng tạo thành cái gọi là bán thành phẩm của ngôn ngữ (Hausmann, 1985) hay
những hòn đảo của độ tin cậy (Lewis, 2000) mà trên đó các người nói xây dựng các lời
phát biểu của họ.
Trong bài báo đầu tiên về logic mờ, Raj Kishor Bisht và HSDhami [3] cho thấy một
cách để kiểm tra khả năng liệu một sự kết hợp từ có thể được coi như sắp xếp từ theo
collocations hay không. Fuzzy logic cho phép sự hình thành của một mô hình dựa trên
logic bằng cách sử dụng các lý do đằng sau các phương pháp hiện có. Các mô hình có sự
đơn giản dựa trên logic và thực hiện tốt hơn so với các mô hình thống kê hiện có.
Trong nghiên cứu về collocation, tiếng Đức là ngôn ngữ được nghiên cứu nhiều thứ
hai. Đầu tiên là nghiên cứu của Breidt (1993) và gần đây hơn, Krenn và Evert (Krenn và
Evert năm 2001; Evert và Krenn, 2001 Evert năm 2004). Breidt sử dụng MI và t-score sau
đó so sánh các kết quả khi thay đổi các thông số khác nhau, chẳng hạn như kích thước cửa
sổ, sự hiện diện so với sự vắng mặt của lemmatization, kích thước văn bản và sự hiện diện
so với sự vắng mặt của POS và thông tin cú pháp. Sau đó, Krenn và Evert (2001) sử dụng
một đoạn chunk-er tiếng Đức để trích xuất các cặp cú pháp như PNV. Công việc của họ là
thiết lập các cơ sở của phương pháp chính thức và hệ thống giá trong khai thác collocation.
Zinsmeister và Heid (2003, 2004) tập trung vào việc kết hợp NV và ANV xác định bằng
cách sử dụng một phân tích cú pháp ngẫu nhiên.
Ngoài ra còn có một số phương pháp để trích xuất các nghiên cứu sắp xếp từ các ngôn
ngữ khác. So với hơn 20 năm trước đây, lĩnh vực xử lý ngôn ngữ tự nhiên đã đạt được
nhiều thành tích (như ghi nhãn, phát hiện chủ đề, hoặc các thông tin phục hồi...). Tuy
nhiên, hầu hết trong số này đã được thực hiện cho các ngôn ngữ phương Tây và giá trị của
chúng bị mất khi áp dụng cho các ngôn ngữ khác. Chỉ gần đây, các nhà nghiên cứu Việt
Nam chú ý ngôn ngữ học và các loại tiêu chuẩn Việt Nam. Các điều khoản kho dữ liệu cần
thiết không được xây dựng trong một tiêu chuẩn nhất định và cho đến nay hầu như không
có các tài liệu được phổ biến. Đó là khó khăn cho những người không chuyên tìm hiểu
hoặc nghiên cứu trong lĩnh vực này.
Trong tài liệu [26] (về phát hiện đề án phân loại và các tài liệu web trong tiếng Việt),
tác giả đã cho nhãn hiệu dựa trên N-gram thử nghiệm để trích xuất các cụm từ có ý nghĩa
(collocation) từ n-gram trên cơ sở các số liệu thống kê thử nghiệm. Bài viết này cung cấp
120
TRƯỜNG ĐẠI HỌC THỦ ĐÔ HÀ NỘI
một vài phương pháp thống kê để xác định sắp xếp từ, chẳng hạn như các thông tin tương
hỗ, giả thuyết thử nghiệm kỹ thuật (công nghệ thử nghiệm giả thuyết), giả thuyết Null (null
hypothesis) vào các thử nghiệm độc lập của n-gram và để kiểm tra tính hợp lệ của lý thuyết
... Trong đó, tác giả đã sử dụng phương pháp thử nghiệm giả thuyết cho n-gram (n <= 2),
dựa trên khi Chi-Square để tìm ra collocation. Giá trị Chi-Square được tính toán từ một tập
dữ liệu lớn (dữ liệu Vnexpress (199MB) và Wikipedia (270MB) trong khoảng 200 thể loại)
và được dựa trên một giá trị ngưỡng để xác định collocation (mà tác giả gọi là
coloThreshold).
3. PHƯƠNG PHÁP ĐỀ XUẤT CHO TRÍCH CHỌN COLLOCATION
TRONG TIẾNG VIỆT
3.1. Khái niệm Collocation trong tiếng Việt
Giống như các ngôn ngữ khác, có rất nhiều collocation tồn tại trong tiếng Việt. Ví dụ
như chúng ta nói rửa rau để diễn tả hành động làm sạch rau quả trước khi nấu, nhưng
chúng ta không thể dùng rửa gạo với nghĩa tương tự mà phải nói là vo gạo.
Theo như cách dịch trong các cuốn từ điển Anh – Việt, Collocation nghĩa là “sự sắp
xếp vào một chỗ, sự sắp đặt theo thứ tự”. Trong lĩnh vực ngôn ngữ, collocation có thể hiểu
nôm na là “(cách) dùng từ, (cách) kết hợp từ”. Tiếng Việt có một khái niệm rất gần với ý
nghĩa của từ collocation, đó chính là cụm từ cố định. Cụm từ cố định là đơn vị do một số từ
hợp lại, tồn tại với tư cách một đơn vị có sẵn như từ, có thành tố cấu tạo và ngữ nghĩa cũng
ổn định như từ [31]. Nghĩa của cụm từ cố định được xây dựng và tổ chức theo lối tổ chức
nghĩa của cụm từ và nói chung là mang tính hình tượng. Chính vì vậy, nếu chỉ căn cứ vào
bề mặt, vào nghĩa của từng thành tố cấu tạo thì nói chung là không thể hiểu được đích thực
của toàn cụm từ. Ví dụ: anh hùng rơm, đồng không mông quạnh, tiếng bấc tiếng chì…
Thêm nữa, cụm từ cố định có ý nghĩa như một chỉnh thể tương ứng với một chỉnh thể cấu
trúc vật chất của nó. Có nghĩa là nó có tính thành ngữ rất cao, ví dụ, chỉnh thể ý nghĩa của
cụm từ cố định: rán sành ra mỡ, ăn mày đòi xôi gấc, say như điếu đổ… có tính thành ngữ
cao đến mức tối đa. Cụm từ cố định cần được phân biệt với những đơn vị lân cận, dễ lầm
lẫn với chúng, là từ ghép và cụm từ tự do.
Nếu tạm thời chấp nhận tên gọi mà chưa xác định ngay nội dung khái niệm của chúng,
thì có thể tóm tắt một trong những bức tranh phân loại cụm từ cố định tiếng Việt như sau
[29]:
TẠP CHÍ KHOA HỌC SỐ 2/2016
121
Hình 3.1: Phân loại cụm từ cố định Tiếng Việt.
Việc phân loại các cụm từ cố định tiếng Việt trên đây không phải là đã vạch ra những
ranh giới tuyệt đối giữa các loại và không phải các đơn vị trong mỗi loại đều thể hiện
những thuộc tính thuần khiết của loại. Có những đơn vị trung gian được cấu tạo theo lối
thành ngữ nhưng tính tự do, kém ổn định vẫn còn rõ nét. Có những đơn vị đã đạt được tính
thành ngữ khá cao nhưng tính bền chắc, tính chỉnh thể về cấu trúc lại kém ổn định. Nghĩa
là số thành tố cấu tạo nên chúng có thể còn tăng hay giảm được một cách tuỳ nghĩa.
3.2. Mô hình trích chọn cho Collocation tiếng Việt
3.2.1. Mô hình đề xuất
Do cả 4 phương pháp theo phương pháp thống kê cổ điển (frequency, t-test, chi-
square, mutual information) đều nhận đầu vào là tập các bigram và thông tin về tần suất
xuất hiện của chúng, chúng tôi chia quá trình trích chọn collocations dựa trên các phương
pháp thống kê làm 3 bước chính:
Bước 1: Trích chọn bigram;
Bước 2: Chạy thử nghiệm trên các mô hình;
Bước 3: Đánh giá kết quả thu được.
3.2.2. Trích chọn bi-grams
Mô hình trích chọn bigrams cho bộ dữ liệu đã được tách từ
Với đầu vào là một file văn bản đơn thuần, chương trình sinh các bigram thỏa mãn hai
điều kiện sau:
- Hai từ tạo thành bigram phải nằm trong cùng 1 câu và có khoảng cách giữa chúng
không quá window_size từ nhất định.
- Hai từ tạo thành bigram phải không được là một trong số các từ: {là, hả, hử, à, ừ,
và, không, rất, sẽ, đã, rồi, được, đây, đó, nay, này, kia, sao, tại, ở, về, thì, rằng, để,
122
TRƯỜNG ĐẠI HỌC THỦ ĐÔ HÀ NỘI
nhiều, ít, chỉ, với, bằng, của, cho, các, có, vẫn, những, lại, mà, kia, quá, một, cꢀng,
như, đây, đấy, đó, sau, khi, một, trong, cả, tới, từ, đến, bị}
Vì các từ tạo thành collocation có quan hệ với nhau nên ta giới hạn hai từ tạo thành
bigram phải nằm trong cùng một cửa sổ có độ lớn window_size từ. Các nghiên cứu về
collocations trong tiếng Anh cho thấy, độ lớn cửa sổ thích hợp nhất cho hai từ tạo thành
bigram là 5 từ. Tiếng Việt đã có một số nghiên cứu được tiến hành nhằm tìm ra độ lớn cửa
sổ thích hợp nhất. Trong phạm vi của luận văn này, chúng tôi sử dụng độ lớn cửa số =1.
Mô hình trích chọn bigrams cho bộ dữ liệu đã được gán nhãn
Một số nghiên cứu cho tiếng Đức[15, 28] hay nghiên cứu cho tiếng Anh của Justeson
và Katz[27] đã khẳng định việc trích chọn các collocations theo các mẫu cho trước sẽ đem
lại hiệu quả cao hơn. Do đó, chúng tôi tiến hành thử nghiệm phương pháp này cho tiếng
Việt, với các mẫu trích chọn có dạng: VN, VA, NA và NN. Trong đó N là danh từ, A là
tính từ, V là động từ. Chúng tôi trích chọn các bigram dựa trên mẫu nên độ lớn cửa sổ
không cần giới hạn trong bước này. Giả sử một bigram có cấu trúc dạng w1w2; khi đó,
w1w2 là kết quả sau khi chạy chương trình khi và chỉ khi nó thỏa mãn 2 điều kiện sau:
- w1 là một động từ hoặc 1 danh từ
- w2 là một danh từ hoặc tính từ xuất hiện đầu tiên sau w1 trong cùng một cụm danh từ
(tương ứng với w1 là danh từ) hoặc động từ (tương ứng với w1 là động từ) và không có
động từ nào xen ngang giữa w1 và w2.
3.3. Phương pháp kết hợp sử dụng độ đo ngôn ngữ
3.3.1. Trích chọn bigram
Với mục đích của chương trình chiết xuất collocations là cụm danh từ, cụm động từ,
và sự phức tạp, thời gian chạy là khá lớn. Trong giới hạn của bài báo này, chúng tôi chỉ tập
trung lựa chọn các collocation có thể trích xuất như N + A hoặc N + N hoặc V + A hoặc V
+ N. Dữ liệu đầu vào đã được phân tích cú pháp, sau đó đi qua một chương trình được
phát triển bởi chúng tôi để lọc ra các cụm danh từ/ động từ. Cụm danh từ / động từ sẽ được
sắp xếp theo tần suất xuất hiện của danh từ và động từ chính.
Ví dụ, động từ CÓ (xuất hiện 120 lần trong cụm từ): CÓ khả_năng (40 lần), CÓ
chức_vụ (20 lần), CÓ thẩm_quyền (30 lần) ... là những trường hợp có thể có với động từ
CÓ trong dấu ngoặc đơn là tần số xuất hiện.
Quá trình này chiết xuất sắp xếp từ từ bigrams dựa trên hai giả định:
- Hai từ phải xuất hiện cùng nhau nhiều lần, trên bình thường trong văn bản.
- Từ phải thuộc cùng một cụm danh từ/ động từ.
TẠP CHÍ KHOA HỌC SỐ 2/2016
123
Dựa trên hai giả định, chương trình thực hiện các bước lọc dựa trên thống kê để trích
xuất bigram mà có thể là các collocations. Kết thúc giai đoạn đầu tiên, chúng tôi sẽ có
được một danh sách các nhóm bigram là động từ và danh từ chính.
Chương trình đọc dữ liệu từ tập tin văn bản nhập vào các câu đã được dán nhãn và
phân tích cú pháp. Bigram được thực hiện bước này theo sự lựa chọn wwi và phải đáp ứng
hai điều kiện:
- w là danh từ / động từ trong cụm danh từ/động từ.
- wi là một danh từ hoặc tính từ ngay sau w và không có bất kỳ sự gián đoạn nào.
Bigram là kết quả của chương trình sẽ được lưu trữ như một từ điển với thông tin và
tần số của danh từ/ động từ của cụm từ. Trong chương này, chúng tôi sẽ ký hiệu freqi là tần
số của wwi. Bảng 3.1 minh họa một số của tần số bigram cùng với thông tin về danh
từ/động từ của cụm từ.
Bảng 3.1: Một số bigrams và thông tin về vị trí và tần số xuất hiện
124
TRƯỜNG ĐẠI HỌC THỦ ĐÔ HÀ NỘI
3.3.2. Độ đo ngôn ngữ
Giai đoạn này liên quan đến nghiên cứu của Joachim Wermter và Udo Hahn [1]. Tính
chất non- or limited modifiabilty của collocation cùng với thông tin từ vựng thêm vào (như
supplements) là thuộc tính ngôn ngữ mà chúng tôi dựa vào để xây dựng độ đo
collocativity. Ngầm giả định rằng một PNV triple là ít thay đổi (và do đó nhiều khả năng là
một collocation) nếu nó có một supplement đặc trưng hơn so với những bổ nghĩa khác. Giả
định này có thể biểu diễn theo cách sau: Cho n số lượng những supplements khác nhau của
một PNV triple (PNVtriple). Xác suất P của một supplement, Suppk, k =[1, n] được mô tả
bằng số lần xuất hiện của nó trên tổng số lần xuất hiện của tất cả các supplement:
MOD modifiability của một PNV triple có thể được mô tả bằng bổ sung có thể xảy ra
nhất của nó:
Tần số tương đối cụ thể PNV triple (t là số lượng của các loại ứng cử viên):
Sau đó, chúng tôi sẽ kết hợp nó như là một yếu tố thứ hai để tính chỉ số COLL:
Dựa vào chỉ số COLL, chúng ta sẽ có những ứng viên tốt nhất.
4. KẾT QUẢ THỰC NGHIỆM
TẠP CHÍ KHOA HỌC SỐ 2/2016
125
Phương pháp kiểm thử chủ yếu trong các nghiên cứu về collocations đến thời điểm
này [19, 26,] vẫn là phương pháp thủ công. Do vậy, trong giới hạn của bài báo này, chúng
tôi cũng áp dụng phương pháp kiểm thử bằng tay để đánh giá độ chính xác của chương
trình trích chọn. Với mỗi tập kết quả, chúng tôi lấy ra 500 kết quả đầu tiên. Từ 500 kết quả
đó, chúng tôi cho sinh ngẫu nhiên 200 kết quả. 200 kết quả thu được từ quá trình sinh ngẫu
nhiên này sẽ được đánh giá bằng tay từ đó dùng để đánh giá độ chính xác của chương
trình.
Bảng 4.1: Đánh giá độ chính xác của các phương pháp trên 2 bộ dữ liệu
The data has extracted
Method
The data has been parsed
word only
Freq-based
T-test
62%
75%
81%
70%
84%
88%
70%
Chi-square
PMI
65%
68%
Our extraction
63%
100%
90%
80%
70%
60%
50%
40%
30%
20%
10%
0%
Separated word
POS_Tagger & Parsed
Hình 4.1: Biểu đồ thể hiện độ chính xác của các phương pháp trên 2 bộ dữ liệu
126
TRƯỜNG ĐẠI HỌC THỦ ĐÔ HÀ NỘI
Có thể thấy rằng, phương pháp chúng tôi đề xuất khác thích hợp cho việc trích chọn
collocation trong tiếng Việt. Kết quả thu được qua cả hai giai đoạn đều khá tốt. Bảng sau là
kết quả một số bigram được trích chọn sau giai đoạn 2:
Bảng 4.2: Kết quả một số bigram được trích chọn sau giai đoạn 2
w1 w2
Collocation
T-Test
PMI
Chịu trách_nhiệm
Tạo điều_kiện
42.19207
30.97935
29.68824
265870
89095
6
5
0
Nội_dung phong_phú
Hoàn_thành nhiệm_vụ
Tóc bạc
1580157
794392
1013424
1218850
443097
889301
127054
29793
5
9
7
8
7
0
5
24.54164
16.69102
Khắc_phục hậu_quả
Mừng thọ
15.25679
14.80863
Chiếm_đoạt tài_sản
Một_cách nghiêm_túc
Chúc_thọ ông
14.11181
6.946184
6.488518
5. KẾT LUẬN
Về mặt lý thuyết, trong giới hạn của bài báo, chúng tôi đã tìm hiểu các khái niệm và
kỹ thuật chung áp dụng cho trích chọn collocations. Từ đó, chúng tôi đưa ra cơ sở lý thuyết
liên quan đến collocations cho tiếng Việt: định nghĩa, đặc trưng, phân loại và ứng dụng.
Dựa trên cơ sở lý thuyết đó, chúng tôi xây dựng các phương pháp trích chọn, nghiên cứu
tác động của việc tiền xử lý văn bản lên chương trình trích chọn, tìm ra độ lớn cửa sổ, thao
tác tiền xử lý văn bản phù hợp cho chương trình trích chọn, đồng thời đề xuất một số
phương pháp kết hợp nhằm tăng độ chính xác.
Về mặt thực nghiệm, chúng tôi đã xây dựng hệ thống trích chọn collocations dựa trên
tất cả các phương pháp đã trình bày, tiến hành chạy thực nghiệm và đánh giá độ chính xác
của các phương pháp, từ đó tìm ra, đề xuất, xây dựng mô hình hiệu quả cho trích chọn
collocation trong tiếng Việt sử dụng độ đo ngôn ngữ. Mô hình trích chọn collocation là
TẠP CHÍ KHOA HỌC SỐ 2/2016
127
cụm danh từ và động đạt được độ chính xác khá cao (88%, độ chính xác cao nhất đối với
dữ liệu đã được gán nhãn so với các phương pháp thống kê khác), hoàn toàn có thể mở
rộng để trở thành một hệ thống trích chọn collcoations hiệu quả cho tiếng Việt.
Trong thời gian tới, chúng tôi dự định sẽ tiếp tục nghiên cứu sâu hơn việc vận dụng
các thông tin cú pháp vào chương trình trích chọn, mở rộng phương pháp trích chọn
collocations là cụm danh từ, động từ để có thể trích chọn các loại collocations còn lại;
đồng thời, nghiên cứu ứng dụng từ điển collocation vào các ứng dụng xử lý ngôn ngữ tự
nhiên (như dịch máy, sinh ngôn ngữ…).
TÀI LIỆU THAM KHẢO
1. Joachim Wermter and Udo Hahn, Collocation extraction based on Modifiability statistics.
2. Benson & Morton (1989), “The structure of the collocational dictionary”, In International
Journal of Lexicography 2, pp.1-14.
3. Raj Kishor Bisht, H.S.Dhami, The Application of Fuzzy logic to collocation extraction.
4. Caroll J.,Minnen G., Pearse D., Canning Y., Delvin S. and Tait J. (1999), “Simplifying text for
language-impaired readers”, In preceedings of 9th Conference of European Chapter of the ACL
(EACL ’99), Bergen, Norway, June.
5. Choueka, Yaacov, Fraenkel, Aviezri S., Klein, S.T.. (1988), "Compression of Concordances in
Full-Text Retrieval Systems" (ed.) Proc. SIGIR, pp.597-612.
6. Church, K. and Hanks, P. (1989), Word association norms, mutual information, and
lexicography. In Proceedings of the 27th annual meeting on Association for Computational
Linguistics, pp.76-83.
7. Firth J. R. A synopsis of linguistic theory 1930-1955, In Studies in Linguisti Analysis, pp.1-32.
Oxford: Philological society.
8. Cowie, A. P (1981), "The treatment of collocations and idioms in learners' dictionaries". In
Applied Linguistics, Vol.II, No. 3, pp.223-235.
9. Cruse, D.A Lexical semantics (1991), Cambridge University Press.
10. Halliday, M. (1966), Patterns in words. The Listener, Vol. LXXV, no. 1920: pp.53-55.
11. Adam Kilgarriff and David Tugwell. WORD SKETCH: Extraction and Display of Significant
Collocations for Lexicography. Proc.ACL workshop on COLLOCATION: Computational
Extraction, Analysis and Exploitation. Toulouse, July, pp.32-38.
12. Darren Pearce (2001), Using conceptual similarity for collocation extraction. In Proc. of the
4th UK Special Interest Group for Computational Linguistics (CLUK4).
13. Dekang Lin. Extracting Collocations from Text Corpora. In First Workshop on Computational
Terminology, pp.57-63, Montreal.
14. Deking Lin (1998c), Using Collocation Statistics in Information Extraction. In Proceedings of
the 7th Message Understanding Conference.
128
TRƯỜNG ĐẠI HỌC THỦ ĐÔ HÀ NỘI
15. Elisabeth Breidt. Extraction of V-N-Collocations from Text Corpora: A feasibility Study for
German. In Proceedings of the Workshop on Very Large Corpora: Academic and Industrial
Perspectives, Ohio State University, Columbus, OH, pp.74-83.
16. Eric Gaussier, David A. Hull, Salah Ait-Mokhatar. Term Alignment in Use: Machine-Aided
Human Translation. In J. Veronis (Ed.), Parallel Text Processing Alignment and Use of
Translation Corpora. Kluwer Academic Publishers.
17. Frank Smadja and Kathleen McKeown (1994), Translating Collocations for Use in Bilingual
Lexicons. In Proceedings of a Workshop about Human Language Technology held at
Plainsboro, New Jerey, USA, March 8-11.
18. Frank Smadja (1993), Retrieving Collocations from text: Xtract. In Computational Linguistics,
Vol 19, pp.143-177.
19. Justeson, John S., and Slava M. Katz (1995), Technical terminology: some linguistic
properties and an algorithm for identification in text. In Natural Language Engineering,1:9-27
Cambridge University Press.
20. Gitsaky C.Daigaku N. and Tailor R. (2000), English collocations and their place in the EFL. In
Iranian Journal of Applied Linguistics, 6, pp.137-169.
21. Wan Yin Li, Qin Lu, James Liu. TCtract-A Collocation Extraction Approach for Noun
Phrases Using Shallow Parsing Rules and Statistic Models. In 20th Pacific Asia Conference
on Language, Information and Computation (PACLIC¡¦06), Wuhan, China, November 1-3,
2006, p. 109- 116.
22. Howarth P. and Nesi H (1996), The teaching of collocations in EAP. Technical report
University of Leeds, June.
23. Sasa Petrovic. (2007), Collocation Extraction measures for text mining applications. Diploma
Thesis num. 1693.
24. Janyce Wiebe and Theresa Wilson and Matthew Bell. Identifying Collocation for Recognizing
Opinions. In Proceedings of the ACL-01 Workshop on Collocations: Computational luạn
vănExtraction, Analysis, and Exploitation, pp.24-31.
25. Nguyen Cam Tu (2008), Hidden topic discovery toward classification and clustering in
Vietnamese web documents, Master Thesis in College of Technology, Viet Nam National
University.
26. Johannes Matiasek and Marco Baroni. Exploiting long distance collocational relations in
predictive typing. In project FASTY (IST-2000-25420).
27. Johannes Violeta Seretan, Eric Wehrli (2006), Accurate Collocation Extraction Using a
Multilingual Parser. In Proceedings of the Workshop on Multilingual Language Resources and
Interoperability, Sydney, Australia, pp.40-49.
28. Hoàng Thị Châu (1970), “Vài nhận xét về quá trình tiêu chuẩn hoá tiếng Việt thể hiện qua
cách dùng từ dịa phuong trong sách vở, báo chí truớc và sau Cách mạng Tháng Tám”, Tạp chí
29. Christopher D. Manning, Hinrich Schutze (1999), Foundations of statistical natural language
processing Part 2.
TẠP CHÍ KHOA HỌC SỐ 2/2016
129
30. Mai Ngọc Chừ, Vu Ðức Nghiệu & Hoàng Trọng Phiến (1997), Cơ sở ngôn ngữ học và tiếng
Việt. Nxb Giáo dục, Hà Nội.
EXTRACTING OF VIETNAMESE COLLOCATION
FROM TEXT CORPORA
Abstract: Collocations have wide application in the fields of languages, compiled a
dictionary as well as the problem of natural language processing. Therefore, the
extraction of collocations in each language is really necessary, to improve the accuracy
and the nature of the application of natural language processing, as well as help to learn
a new language easier. However, in Vietnam, the study of collocation is quite a new field.
This paper focused on researching some method of extracting collocations methods to
find efficient model for the Vietnamese collocations extraction. The mentioned methods
were based on some classic statistical methods commonly used such as frequency, t-test,
chi-square, mutual information... We also suggested some general method using
linguistic measure to increase the accuracy of the process of extraction. Input data
included the data has been through a POS-tagging and data has been parsed. By running
the program with different methods and combination of multiple methods together,
comparing the accuracy of the method, we draw out the efficient method of extracting of
Vietnamese Collocation from Text Corpora.
Keywords: collocation, t-test, chi-square, mutual information.
13 trang
11900
Free
Bạn đang xem tài liệu "Trích chọn collocation tiếng Việt từ kho ngữ liệu văn bản", để tải tài liệu gốc về máy hãy click vào nút Download ở trên
File đính kèm:
- trich_chon_collocation_tieng_viet_tu_kho_ngu_lieu_van_ban.pdf
