Harpy 1976 là cỗ máy thắng cuộc đua «nghe hiểu tiếng nói» do ARPA, cơ quan nghiên cứu của Bộ Quốc phòng Mỹ, tổ chức trong năm năm từ 1971. Bài này kể lại cuộc đua ấy: bốn quan niệm về việc nghe, một bảng điểm bất ngờ và kỹ thuật tìm kiếm chùm (beam search) còn sống đến nay. Điều đáng chú ý là cỗ máy thắng lại là cỗ máy ít cố gắng «hiểu» nhất.
Tóm tắt nhanh
Năm 1971, ARPA đặt ra một đề thi cụ thể: máy phải nghe tiếng nói liền mạch với vốn từ 1.000 chữ, sai về nghĩa dưới 10%. Đến tháng 9/1976, trong bốn hệ thống chính, chỉ Harpy của Carnegie Mellon đạt và vượt chỉ tiêu, với 5% câu sai nghĩa. Nó thắng nhờ biên dịch toàn bộ ngữ pháp thành một mạng lưới dựng sẵn từ trước, rồi khi nghe chỉ giữ lại một «chùm» đường đi tốt nhất và bỏ phần còn lại. Dù vậy, chương trình không có giai đoạn hai.
Diễn biến chính
1969: Pierce chê nhận dạng tiếng nói
Năm 1969, John Pierce của Phòng thí nghiệm Bell gửi tạp chí của Hội Âm học Hoa Kỳ một lá thư tựa đề «Whither speech recognition?» (nhận dạng tiếng nói rồi sẽ đi về đâu). Theo các bản trích gián tiếp, ông nói rất gay gắt về những lời hứa hẹn trong lĩnh vực này. Hàm ý của ông: máy chỉ nghe được nếu nó thông minh.
1971: ARPA viết đề thi
Phản ứng của ARPA là làm ngược lại. Tháng 11/1971, một nhóm chuyên gia do Allen Newell của Carnegie Mellon dẫn đầu đặt chỉ tiêu: nghe tiếng nói liền mạch của nhiều người nói, vốn từ 1.000 chữ, sai về nghĩa dưới 10%, và trình diễn vào năm 1976. Chương trình được gọi là «nghe hiểu» chứ không phải «nhận dạng». Raj Reddy về sau nhận xét chỉ tiêu ấy rất tham vọng, vì gần như chưa ai có kinh nghiệm với tiếng nói liền mạch.
1969–1974: bốn quan niệm về việc nghe
Ở Carnegie Mellon, nhóm của Reddy dựng Hearsay, một hệ «bảng đen» nơi nhiều chuyên gia nhỏ lần lượt viết phỏng đoán lên một bảng chung. Hearsay-I được trình diễn tháng 6/1972 với đề tài cờ vua. Ở BBN, Bill Woods làm HWIM, trợ lý quản lý chuyến công tác; trong quá trình phát triển, người thật được cho đóng vai những mô-đun chưa viết xong. Liên minh SRI và SDC muốn máy theo được cả hội thoại thật.
Ngay tại Carnegie Mellon còn có Dragon của Jim và Janet Baker, trình diễn tháng 4/1974. Dragon dùng mô hình Markov và đi theo mọi con đường trong một mạng lưới. Nó nghe chính xác hơn nhưng chậm hơn Hearsay đời đầu khoảng 5–10 lần.
1974–1976: Harpy ra đời
Nghiên cứu sinh Bruce Lowerre giữ lại ý tưởng mạng lưới dựng sẵn của Dragon nhưng bỏ tính cẩn thận quá mức. Toàn bộ ngữ pháp, các câu hỏi được phép và cách phát âm của 1.011 chữ được biên dịch thành một mạng khoảng 15.000 nút, việc này tốn 13 giờ máy tính. Khi nghe, Harpy chỉ giữ một nhúm đường có điểm gần với đường tốt nhất, và không quay lui. Mỗi bước chỉ khoảng 3% số nút được so khớp, và độ rộng của chùm tự co giãn theo độ rõ của âm thanh.
Theo lời Reddy kể lại, ông xin Allen Newell dùng cả chiếc máy tính lớn thứ hai của khoa trong sáu tháng đến một năm và nhận được câu trả lời gọn: «Được». Lowerre bảo vệ luận án vào mùa xuân 1976 dưới sự hướng dẫn của Reddy.
Tháng 9/1976: bảng điểm
Tỷ lệ câu sai về nghĩa: SDC/SRI 76%, BBN (HWIM) 56%, Hearsay-II 9% trên 22 câu của một người nói (26% với phiên bản đề khó hơn), còn Harpy 5% trên 184 câu của năm người nói. Harpy dùng chưa tới một phần mười sức máy cho phép, khoảng 5 đô la tiền máy cho mỗi câu. Chính nhóm Hearsay viết rằng Harpy là hệ thống duy nhất rõ ràng đạt và vượt chỉ tiêu của ARPA. Họ cũng ghi nhận một chuyên gia kiểm tra chữ bên trong Hearsay-II thực chất là «một phiên bản thu nhỏ của Harpy».
Cuối 1976 và về sau: không có giai đoạn hai
Việc phát triển Hearsay-II dừng lại cuối năm 1976 và chương trình không có giai đoạn tiếp theo. Báo cáo của Carnegie Mellon tự nhận đã hoàn thành đúng hạn và trong ngân sách. Nhưng kỹ thuật tìm kiếm chùm của Harpy sau đó trở thành một trong những kỹ thuật phổ biến nhất để máy khớp tiếng nói, rồi đi sang dịch máy và giải mã trong các mạng nơ-ron. Tấm bảng đen cũng tiếp tục được dùng ở những lĩnh vực khác.
Điều còn tranh cãi hoặc cần thận trọng
- Có chuyện kể rằng ARPA thấy mình bị lừa và cắt hợp đồng với Carnegie Mellon từ năm 1974. Điều này mâu thuẫn với tài liệu của các nhóm, cho thấy chương trình chạy đến mùa thu 1976. Điều chắc chắn chỉ là không có giai đoạn hai.
- Cuộc đua không hoàn toàn cùng một sân: Harpy và Hearsay-II thi cùng đề, còn hai đội kia giải những đề phức tạp hơn nhiều.
- Harpy thắng trong «căn phòng» do chính Carnegie Mellon thiết kế, nơi mọi câu được phép nói đã nằm sẵn trên bản đồ. Nó khó mở rộng cho vốn từ lớn hơn nhiều hoặc tri thức phức tạp.
- Nhiều câu nói nổi tiếng, của Pierce lẫn Reddy, đến qua bản trích lại hoặc hồi ức sau hơn bốn mươi năm. Chuyện Heilmeier, người đứng đầu ARPA lúc đó, không mặn mà với nghiên cứu tiếng nói cũng chỉ là lời kể.
Vì sao câu chuyện này đáng nhớ?
Harpy không thắng vì ngốc. Nó dồn phần «hiểu» vào trước khi nghe, đông cứng lại thành tấm bản đồ, rồi trong lúc nghe thì dám bỏ không thương tiếc. Kỷ luật của nó rất đời thường: chốt thiết kế sớm, chạy thử nhiều, sửa lỗi liên tục.
Cuộc đua mang tên «hiểu», nhưng thứ nó để lại là một cách quên có chọn lọc. Chính Reddy năm 2018 cho rằng máy nghe giỏi hôm nay chủ yếu nhờ sức tính toán mạnh lên cả triệu lần. Câu hỏi video để ngỏ vẫn còn nguyên: khi một cỗ máy trả lời đúng, đó là nó hiểu, hay chỉ là nó đã bỏ ngoài tai đúng những thứ cần bỏ?
Câu hỏi thường gặp
Harpy là gì?
Harpy là hệ thống nghe hiểu tiếng nói do Bruce Lowerre và nhóm của Raj Reddy làm tại Carnegie Mellon. Năm 1976 nó đạt chỉ tiêu của ARPA với 5% câu sai về nghĩa.
Chỉ tiêu của ARPA trong cuộc đua nghe hiểu tiếng nói là gì?
Theo chỉ tiêu tháng 11/1971: nghe tiếng nói liền mạch của nhiều người nói, vốn từ 1.000 chữ, sai về nghĩa dưới 10% và trình diễn năm 1976.
Tìm kiếm chùm (beam search) có liên quan gì đến Harpy?
Harpy chỉ giữ một nhúm đường đi có điểm gần với đường tốt nhất ở mỗi bước và không quay lui. Về sau cách này được gọi là tìm kiếm chùm và được dùng rộng rãi trong nhận dạng tiếng nói, dịch máy và giải mã của mạng nơ-ron.
Vì sao Harpy thắng Hearsay-II?
Theo chính nhóm Hearsay, Harpy làm phần suy nghĩ từ trước nên lúc nghe rất rẻ, hiểu rõ hơn cách các chữ dính vào nhau khi nói nhanh, và được chốt sớm, chạy thử, sửa lỗi nhiều hơn. Nhưng nó bị gói trong ngữ pháp dựng sẵn.
ARPA có cắt tiền chương trình vì bị lừa vào năm 1974 không?
Đây là chuyện còn tranh cãi và mâu thuẫn với tài liệu, vốn cho thấy chương trình chạy đến mùa thu 1976. Điều chắc chắn là chương trình không có giai đoạn hai.
Nguồn tham khảo
- Erman, Hayes-Roth, Lesser, Reddy — The Hearsay-II Speech-Understanding System (ACM Computing Surveys 12(2), 1980)
- D. R. Reddy — Multi-System Approach to Speech Understanding (CMU, NASA NTRS)
- J. J. Wolf — Voice Technology and BBN (NASA NTRS)
- D. E. Walker — Research on Speech Understanding and Related Areas at SRI (NASA NTRS)
- Huang, Baker, Reddy — A Historical Perspective of Speech Recognition (CACM 57(1), 2014)
- A. M. Turing Award Oral History: Raj Reddy, phỏng vấn John Markoff (2018)
- Juang & Rabiner — Automatic Speech Recognition: A Brief History of the Technology Development (2005)
- CMU — Speech Understanding Systems: Summary of Results of the Five-Year Research Effort (1977)
- D. Klatt — Review of the ARPA Speech Understanding Project (JASA 62(6), 1977)
- B. T. Lowerre — The HARPY Speech Recognition System (luận án, CMU, 1976)
Bài viết tóm tắt từ video của kênh; nội dung mang tính giới thiệu.
