NETtalk, mạng nơ-ron học đọc to tiếng Anh của Terry Sejnowski và Charlie Rosenberg, là nhân vật chính của câu chuyện này. Nó ra đời từ mùa hè năm 1984, được công bố năm 1987, vào lúc mạng nơ-ron vừa thoát khỏi nhiều năm bị bỏ rơi. Điều khiến nó đáng nhớ là người ta không chỉ đọc rằng một cỗ máy biết học, mà còn nghe được quá trình đó, từ tiếng bập bẹ đến câu nói rõ ràng.

Tóm tắt nhanh

NETtalk là mạng nơ-ron nhiều lớp, khởi đầu với các mối nối ngẫu nhiên và không có luật đọc nào. Qua hàng chục lượt đọc bộ dữ liệu, nó học cách chuyển chữ cái thành âm, rồi đưa kết quả sang DECtalk để phát thành tiếng. Nó chưa đọc giỏi bằng hệ thống soạn luật bằng tay, và chính hai tác giả cũng nói nó không phải mô hình đúng của việc trẻ em học đọc. Nhưng nó cho thấy tri thức có thể nằm rải rác trong hàng vạn mối nối nhỏ, và đó là bước ngoặt về cách người ta nhìn mạng nơ-ron.

Diễn biến chính

Trước 1984: mạng nơ-ron bị bỏ hoang

Năm 1969, Marvin Minsky và Seymour Papert in cuốn Perceptrons, chứng minh những mạng nơ-ron đơn giản nhất thời đó có giới hạn nghiêm trọng. Theo lời Sejnowski nhìn lại, tiền rút đi, sinh viên rẽ hướng khác, và cả lĩnh vực gần như bị bỏ hoang gần hai mươi năm. Trí tuệ nhân tạo thời ấy chủ yếu là trí tuệ của luật: muốn máy làm gì thì viết ra từng điều kiện.

Đầu thập niên 1980, một thế hệ mới quay lại. Sejnowski và Geoffrey Hinton dựng máy Boltzmann, chứng minh mạng nhiều lớp vẫn học được. Lan truyền ngược, phương pháp cho máy đoán, đo độ sai rồi chỉnh các mối nối theo hướng bớt sai, cũng xuất hiện. Năm 1986, nhóm của David Rumelhart in bộ sách hai tập về xử lý phân tán song song, trở thành tài liệu nền cho cả một thế hệ.

1982–1983: DECtalk, đối thủ cũng là cái miệng

Bài toán đọc to tiếng Anh nổi tiếng khó vì chính tả không nhất quán: brave và gave đọc theo một kiểu, còn have lại khác; chữ read đọc hai kiểu tùy thì. Dennis Klatt ở MIT đã giải bằng tay nghề con người: bộ luật chữ ra âm do nhà ngôn ngữ soạn, cộng từ điển ngoại lệ khoảng sáu nghìn từ. Phần mềm được cấp phép cho hãng DEC năm 1982, và DECtalk ra đời năm 1983.

Mùa hè 1984: hai người cha của NETtalk

Terry Sejnowski học vật lý ở Case Western, làm nghiên cứu sinh ở Princeton dưới sự hướng dẫn của John Wheeler, rồi rẽ sang nghiên cứu bộ não. Giữa thập niên 1980 ông có phòng thí nghiệm ở khoa Lý sinh, Đại học Johns Hopkins. Charlie Rosenberg, nghiên cứu sinh khoa học nhận thức ở Princeton, sang làm khách trong phòng thí nghiệm ấy mùa hè 1984, với đề tài dạy mạng nơ-ron đọc to. Họ thử cả máy Boltzmann lẫn lan truyền ngược, nhưng chỉ công bố kết quả của lan truyền ngược.

Mạng nhìn qua cửa sổ bảy chữ cái, với 80 nơ-ron ẩn, 26 tín hiệu đầu ra mô tả khuôn miệng và gần 19.000 mối nối. Bảy chữ không phải vì lý thuyết sâu xa nào, mà vì máy của họ chỉ chịu nổi chừng ấy. Dữ liệu dạy gồm 1.024 từ trong lời kể của một em lớp một và một cuốn từ điển hơn 20.000 từ, mỗi chữ cái phải gắn tay với âm đúng, tốn khoảng 250 giờ công.

1984–1987: từ bập bẹ đến đọc trôi

Lúc đầu mạng chỉ phân biệt nguyên âm với phụ âm, nên đọc mọi nguyên âm thành một âm và mọi phụ âm thành một âm: nghe như tiếng ê a. Sau đó nó bắt đầu ngắt từ, ra những chữ giả có nhịp, rồi sau chừng mười lượt đã đọc được đoạn văn. Sau 50 lượt, nó đọc đúng 95% số âm trong lời kể của em lớp một; với những câu chưa từng học, đúng 78%. Với mạng lớn hơn đọc cả từ điển, độ chính xác lên đến khoảng 90% sau năm lượt.

Nhiều chi tiết gợi đến người học thật: lỗi sai thường là âm na ná, chữ c đọc là x khó học hơn chữ c đọc là k, học xen kẽ tốt hơn học dồn. Khi nhìn vào bên trong, hai tác giả thấy các nơ-ron ẩn tự tách nguyên âm khỏi phụ âm. Khi gây nhiễu lên các mối nối, mạng kém đi từ từ chứ không sụp, và học lại nhanh hơn lần đầu.

1987–1990s: lên báo, thành bài đo chuẩn, rồi vào mùa đông

Bài báo ra trong số đầu tiên của tạp chí Complex Systems năm 1987. Đến năm 1988 tờ New York Times đăng bài mang tít Học, rồi nói. Bộ từ điển của hai người được tặng cho kho dữ liệu chung ở Carnegie Mellon, sau đó ở Đại học California, Irvine, và NETtalk thành bài đo chuẩn: trên máy Connection Machine nó học nhanh hơn khoảng 52 lần, trên máy Warp khoảng 340 lần.

Cũng năm 1987, hội nghị về hệ thống xử lý thông tin thần kinh lần đầu họp gần Denver với khoảng 600 người; đến năm 2019 con số là hơn 14.000. Sang thập niên 1990, máy còn yếu, dữ liệu còn ít, những phương pháp toán học gọn hơn vượt lên, và tiền cùng sự chú ý lại rút đi, cho đến khi máy nhanh hơn và dữ liệu dồi dào trở lại.

Điều còn tranh cãi hoặc cần thận trọng

  • Cảnh bật băng trước khán phòng chỉ đến từ lời kể lại; phần mô tả khán phòng im phăng phắc là dựng lại cho dễ hình dung.
  • Chuyện lên chương trình Today, chuyện nhại giọng Tây Ban Nha của một cậu bé ở Los Angeles, và chuyện nhiều nhà khoa học bừng tỉnh nhờ cuộn băng chủ yếu dựa vào lời kể của chính Sejnowski.
  • Câu nói nhà nghề rằng soạn sách mất ba tháng còn nuôi lớn chỉ mất vài ngày là chuyện người trong nghề truyền tai nhau.
  • Các con số thuộc các thí nghiệm khác nhau: 95% là trên bộ dạy, 78% với từ mới, 90% là của mạng lớn hơn với từ điển. Trộn lẫn chúng sẽ biến NETtalk thành thần đồng.
  • Khẳng định DECtalk vẫn đọc tốt hơn đúng về tinh thần, nhưng chưa có phép so cùng thước đo.

Vì sao câu chuyện này đáng nhớ?

Bước ngoặt của NETtalk có lẽ không nằm ở độ chính xác mà ở tai người nghe. Lan truyền ngược từng chỉ là những dòng công thức; sau cuộn băng ấy, nó thành một câu chuyện ai cũng hiểu: máy sai, máy sửa, máy khá dần lên. Hình ảnh đứa bé giúp mở cửa cho tiền, sinh viên và cả một thế hệ nhà nghiên cứu.

Nhưng hình ảnh ấy cũng là con dao hai lưỡi, vì nó gieo ý rằng máy học như người, điều chính hai tác giả đã gạch đi. NETtalk không hiểu nghĩa, chưa từng nói, và cửa sổ bảy chữ khiến nó không nắm được ngữ điệu. Ngày nay giọng nói AI đã trơn tru và ấm áp; câu chuyện này nhắc ta phân biệt giữa giọng nói nghe thuyết phục và điều thật sự có phía sau.

Câu hỏi thường gặp

NETtalk là gì?

NETtalk là một mạng nơ-ron do Terry Sejnowski và Charlie Rosenberg xây dựng để học đọc to văn bản tiếng Anh. Không ai viết sẵn luật đọc cho nó; nó học từ các ví dụ chữ và âm.

Giọng nói của NETtalk có phải do chính mạng tạo ra không?

Không. Theo bài báo năm 1987, mạng chỉ xuất ra âm vị và trọng âm, còn âm thanh nghe được do DECtalk, cỗ máy đọc chữ của Dennis Klatt, phát ra.

NETtalk được dạy bằng dữ liệu gì?

Có hai bộ dạy: 1.024 từ trong lời kể của một em học sinh lớp một, và một cuốn từ điển hơn 20.000 từ. Việc gắn từng chữ cái với âm tương ứng tốn khoảng 250 giờ công.

NETtalk có đọc giỏi hơn DECtalk không?

Không có phép so cùng thước đo nào được đưa ra, nhưng nhận định chung là DECtalk, với luật soạn tay và từ điển ngoại lệ, vẫn đáng tin hơn. Mục tiêu của hai tác giả cũng không phải là đọc hoàn hảo.

NETtalk có thật sự học giống một đứa trẻ không?

Có vài điểm giống, như lỗi thay bằng âm na ná hay chữ c mềm khó học hơn. Nhưng chính hai tác giả viết rằng mạng quá đơn giản để làm mô hình cho việc trẻ học đọc.

Vì sao NETtalk quan trọng với lịch sử mạng nơ-ron?

Nó biến lan truyền ngược từ công thức thành điều người ta nghe được, thành bài đo chuẩn cho máy mới, và theo lời Sejnowski là khoảnh khắc nhiều nhà khoa học quyết định theo hướng này.

Nguồn tham khảo

  • T. J. Sejnowski và C. R. Rosenberg, Parallel Networks that Learn to Pronounce English Text, Complex Systems 1, 1987, tr. 145–168.
  • D. H. Klatt, bài về Klattalk/DECtalk, Journal of the Acoustical Society of America 82(3), 1987.
  • T. J. Sejnowski, bài trên PNAS, 2020, về sự hồi sinh của mạng nơ-ron và hội nghị NeurIPS 1987.
  • Phỏng vấn Sejnowski trên case.edu/think, 2025, và tài liệu của tdlc.ucsd.edu.
  • Sejnowski, The Deep Learning Revolution; P. Domingos, The Master Algorithm; các tài liệu thứ cấp như Wikipedia.

Bài viết tóm tắt từ video của kênh; nội dung mang tính giới thiệu.