Joseph Weizenbaum và ELIZA, chương trình thường được gọi là chatbot đầu tiên, là một câu chuyện lạ của lịch sử trí tuệ nhân tạo: người tạo ra nó ở MIT vào thập niên 1960 lại dành nửa đời còn lại để cảnh báo chống lại chính nó. Bài viết này tóm tắt tập «Huyền Sử AI» kể về ông, từ cô thư ký xin được ở riêng với cỗ máy đến lần ELIZA chạy lại năm 2024. Câu chuyện đáng quan tâm vì hôm nay hàng triệu người đang tâm sự với chatbot.

Tóm tắt nhanh

Weizenbaum viết ELIZA để cho đồng nghiệp thấy giao tiếp giữa người và máy hời hợt đến mức nào. Nhưng nhiều người lại tin vào «tấm gương» ấy, kể cả giới chuyên môn, và có người đề xuất dùng nó làm nhà trị liệu. Ông viết sách và tranh luận suốt nhiều năm, không phải vì máy lừa được người thường, mà vì có những việc cần một con người đứng ra chịu trách nhiệm.

Diễn biến chính

Giữa thập niên 1960: cô thư ký và căn phòng ở MIT

Năm 1967, Weizenbaum kể trên tạp chí của giới làm máy tính rằng cô thư ký của ông, người đã xem ông viết chương trình suốt thời gian dài, gõ vài câu rồi hỏi ông có phiền ra khỏi phòng không. Ông coi chuyện này là bằng chứng chương trình giữ được ảo giác thấu hiểu, nhưng với cái giá là giấu đi những chỗ nó hiểu sai. Lúc đó ông còn nói chương trình chắc chắn là vui.

1964–1966: ELIZA ra đời

MIT khi ấy chạy Project MAC với tiền của Bộ Quốc phòng Mỹ, cho nhiều người dùng chung một chiếc IBM 7094 theo kiểu chia sẻ thời gian. ELIZA viết bằng ngôn ngữ MAD-SLIP, chỉ có chừng năm mươi từ khóa: thấy chữ «mẹ» thì hỏi về gia đình, thấy «tôi» và «bạn» thì lật câu lại, không có gì thì nói «xin hãy nói tiếp». Kịch bản DOCTOR chọn vai nhà trị liệu kiểu Carl Rogers, còn cái tên lấy từ Eliza Doolittle trong vở Pygmalion. Bài báo đăng tháng 1 năm 1966 mở đầu bằng ý rằng giải thích là làm tan biến phép màu, đúng với mục đích phá phép của ông.

Từ 1923 đến 1963: người từng sống sót

Weizenbaum sinh ngày 8 tháng 1 năm 1923 ở Berlin trong một gia đình Do Thái và sang Mỹ tháng 1 năm 1936. Năm 1942 ông vào Không lực Lục quân Mỹ, muốn làm giải mã nhưng bị từ chối vì thân phận công dân gốc nước thù địch nên đi làm dự báo thời tiết. Sau chiến tranh ông góp tay lắp một máy tính ở Wayne State, rồi làm ERMA, hệ thống xử lý séc cho Bank of America, ở General Electric. Năm 1963 MIT mời ông về làm phó giáo sư.

1966: «vài trăm bệnh nhân mỗi giờ»

Kenneth Colby, bác sĩ tâm thần ở Stanford, thấy ở ELIZA một nhà trị liệu tiềm năng. Năm 1966, Colby cùng hai đồng sự đăng bài về một phương pháp trị liệu bằng máy tính, trong đó có ý rằng một hệ thống như vậy có thể tiếp vài trăm bệnh nhân mỗi giờ. Cần nói rõ chương trình trong bài ấy là của nhóm Colby, không phải ELIZA. Theo lời kể, Weizenbaum bực vì một người trong nghề nhìn việc lắng nghe nỗi đau như một dây chuyền, giống những tấm séc chạy qua máy ERMA.

1972–1975: DOCTOR gặp PARRY, và Carl Sagan

Colby làm ra PARRY, chương trình đóng vai bệnh nhân hoang tưởng. Ngày 18 tháng 9 năm 1972, qua ARPANET, DOCTOR và PARRY được nối để trò chuyện với nhau; Vinton Cerf ghi lại trong văn bản RFC 439, kết thúc bằng câu đùa DOCTOR đòi 399,29 đô la. Năm 1975, Carl Sagan hình dung những buồng trị liệu bằng máy xếp hàng như buồng điện thoại, mỗi buổi vài đô la.

1976–1977: cuốn sách và «kẻ dị giáo»

Cuốn Computer Power and Human Reason (1976) kể ba cú sốc: người dùng gắn bó rất nhanh với chương trình đơn giản, đồng nghiệp coi ELIZA là lời giải cho bài toán hiểu ngôn ngữ, và bác sĩ tâm thần tin nó có thể thành liệu pháp tự động. Ông phân biệt «quyết định» (tính toán) với «lựa chọn» (đòi phán đoán và trách nhiệm), và viết rằng ta không nên giao cho máy những việc đòi hỏi sự minh triết. John McCarthy đáp bằng bài điểm sách An Unreasonable Book, gọi cuốn sách là nặng giọng lên lớp đạo đức và rời rạc. Năm 1977, trên New York Times, Weizenbaum nói: «Tôi đã thốt ra lời dị giáo, và tôi là kẻ dị giáo.»

1988–2008: về Berlin

Ông nghỉ hưu ở MIT năm 1988 và trở về Berlin năm 1996. Ông mất ngày 5 tháng 3 năm 2008, thọ tám mươi lăm tuổi, vài tuần sau một buổi tranh luận ở Diễn đàn Kinh tế Thế giới tại Davos. Ngày nay một viện nghiên cứu về xã hội mạng ở Berlin mang tên ông.

2021–2024: ELIZA sống lại

Suốt nhiều thập niên, các phiên bản ELIZA lan truyền đều là bản viết lại, nổi tiếng nhất do Bernie Cosell dựng từ bài báo 1966. Năm 2021, Jeff Shrager và một chuyên viên lưu trữ của MIT tìm thấy mã gốc in trên giấy trong hồ sơ của Weizenbaum. Tháng 12 năm 2024, một nhóm kỹ sư nạp mã đó vào hệ chia sẻ thời gian của MIT dựng lại trên IBM 7094 giả lập, và ELIZA lại hỏi «theo cách nào?» như năm 1966.

Điều còn tranh cãi hoặc cần thận trọng

  • Cô thư ký: mọi điều về buổi chiều ấy đều đến từ lời kể của Weizenbaum, chi tiết xê dịch đôi chút qua các năm, và tên cô không được nêu.
  • Carl Sagan: phần lớn người đời biết ý tưởng buồng trị liệu qua lời Weizenbaum trích lại trong sách phản bác chính ý tưởng đó.
  • Kenneth Colby: ông thật lòng muốn giúp những bệnh nhân không có ai để nói chuyện; bài báo 1966 là về chương trình của nhóm ông.
  • Davos 2008: câu hỏi gay gắt của ông chỉ được một bài tạp chí kể lại.
  • «Chatbot đầu tiên»: đây là cách gọi phổ biến, không phải điều được thống nhất tuyệt đối.
  • Các chi tiết dựng cảnh: khung cảnh ông khép cửa bước ra hay cảm giác «người ngoài» suốt đời là cách kể, không phải tài liệu.

Vì sao câu chuyện này đáng nhớ?

Weizenbaum không sợ việc máy đánh lừa được người thường; năm 1967 ông còn gọi nó là vui. Điều ông không chịu nổi là khi chuyên gia, những người đáng ra hiểu rõ nhất, sẵn sàng giao cho máy phần việc cần một con người chịu trách nhiệm. Một tấm gương có thể an ủi, nhưng không thể chịu trách nhiệm khi lời an ủi ấy sai.

Hôm nay có những ứng dụng trị liệu và người bạn đồng hành ảo. Câu hỏi vì thế đã đổi: không còn là máy có hiểu ta không, mà là ta có nên để máy làm việc này không, và nếu nó sai thì ai đứng ra nhận.

Câu hỏi thường gặp

ELIZA là gì và ai tạo ra nó?

ELIZA là chương trình trò chuyện do Joseph Weizenbaum viết ở MIT giữa thập niên 1960. Nó dò từ khóa trong câu người dùng gõ rồi lật câu lại thành câu hỏi, với khoảng năm mươi từ khóa.

Vì sao ELIZA đóng vai nhà trị liệu?

Kịch bản DOCTOR mô phỏng nhà trị liệu theo trường phái Carl Rogers, vốn chủ yếu phản chiếu lời bệnh nhân và không cần biết gì về thế giới bên ngoài. Đó là vai một cỗ máy không hiểu gì vẫn có thể giả được.

Hiệu ứng ELIZA là gì?

Đó là xu hướng con người gán sự thấu hiểu cho một chiếc máy chỉ biết lật câu. Thuật ngữ này nay đã có mặt trong sách giáo khoa.

Weizenbaum phản đối điều gì ở trị liệu bằng máy?

Ông không phản đối việc máy đánh lừa người thường. Ông phản đối việc chuyên gia giao cho máy những việc cần một con người đứng ra chịu trách nhiệm, trong sách năm 1976 ông phân biệt quyết định với lựa chọn.

Mã nguồn gốc của ELIZA có còn không?

Có. Mã gốc từng thất lạc và các bản lan truyền là bản viết lại. Năm 2021, Jeff Shrager cùng một chuyên viên lưu trữ của MIT tìm thấy nó trong hồ sơ của Weizenbaum, và đến tháng 12 năm 2024 nó được chạy lại.

Nguồn tham khảo

  • J. Weizenbaum, ELIZA: A Computer Program for the Study of Natural Language Communication Between Man and Machine (CACM 9(1), 1/1966) — bản PDF
  • J. Weizenbaum, Contextual Understanding by Computers (CACM 10(8), 8/1967) — bản PDF
  • J. Weizenbaum, Computer Power and Human Reason: From Judgment to Calculation (W. H. Freeman, 1976)
  • J. McCarthy, An Unreasonable Book (1976) — bài điểm sách
  • V. Cerf, RFC 439: PARRY Encounters the DOCTOR (21/1/1973) — RFC 439
  • Lane, Hay, Schwarz, Berry, Shrager, ELIZA Reanimated (arXiv:2501.06707, 2025) — arXiv
  • The New Republic, The Inventor of the Chatbot Tried to Warn Us About A.I. (2024)
  • 99% Invisible, The ELIZA Effect
  • University of Houston, Engines of Our Ingenuity #2902
  • Wikipedia: ELIZA; Joseph Weizenbaum

Bài viết tóm tắt từ video của kênh; nội dung mang tính giới thiệu.