Norbert Wiener, cha đẻ của điều khiển học, là nhà toán học Mỹ đã cảnh báo về mục đích của máy móc từ năm 1960, khi một chiếc máy tính còn chiếm trọn một căn phòng. Câu chuyện về ông là chuyện về một bộ óc thần đồng, một lần đóng cửa với nguồn tiền quân sự và một lời nhắn gửi mà nhiều năm sau người ta mới đọc lại. Nó đáng quan tâm vì những tranh luận về trí tuệ nhân tạo hôm nay vẫn chạm đúng vào câu hỏi ông đặt ra.

Tóm tắt nhanh

Wiener là người đặt nền móng cho điều khiển học, rồi dùng uy tín ấy để cảnh báo về vũ khí, thất nghiệp do tự động hoá và nguy cơ khi giao mục đích cho cỗ máy. Ông từ chối tiền quân đội và tập đoàn, nên đứng ngoài dòng tiền nuôi ngành trí tuệ nhân tạo ra đời sau đó. Lời cảnh báo quan trọng nhất của ông, về chuyện mục đích cài vào máy có đúng là điều ta muốn hay không, nằm yên nhiều thập niên rồi được nhắc lại trong thảo luận về căn chỉnh AI.

Diễn biến chính

Thần đồng và bài toán pháo phòng không (1894–1943)

Wiener sinh năm 1894, cha là Leo Wiener, giáo sư ngôn ngữ Slav ở Harvard, người tự tay dạy con. Theo các tài liệu thứ cấp, ông tốt nghiệp Tufts năm 14 tuổi và lấy tiến sĩ Harvard năm 1913. Năm 1919 ông về MIT và ở lại đó suốt đời.

Năm 1941, ông được giao bài toán ngắm pháo phòng không: phải bắn vào chỗ máy bay sắp tới chứ không phải chỗ nó đang ở. Ông nhìn khẩu pháo, radar và phi công như một vòng phản hồi khép kín. Bản báo cáo mật năm 1942 dày đặc công thức đến mức được gọi đùa là «hiểm hoạ màu vàng». Từ đó ông cùng các cộng sự đi đến ý rằng một cỗ máy có phản hồi có thể được nói là có mục đích (1943).

Lá thư «Một nhà khoa học nổi loạn» (1947)

Sau Hiroshima, một nhà nghiên cứu của hãng chế tạo máy bay xin ông bài báo về tên lửa có điều khiển. Wiener từ chối, và tháng 1/1947 lá thư trả lời được in trên tạp chí The Atlantic với tên «Một nhà khoa học nổi loạn». Ông viết rằng, trong tình trạng văn minh hiện nay, phổ biến thông tin về một thứ vũ khí gần như bảo đảm thứ vũ khí ấy sẽ được dùng. Cùng tháng, ông huỷ một bài nói ở hội nghị máy tính vì quân đội tài trợ.

Cuốn sách «Điều khiển học» (1948–1950)

Mùa hè 1947, ở Mexico City, ông viết cuốn sách ra đời năm 1948 và đặt tên môn khoa học mới từ chữ Hy Lạp kybernetes, người cầm lái. Một nhà toán học Hà Lan chê sách như một bộ sưu tập lỗi in, nhưng nó vẫn được nhiều giới tìm đọc. Ông cũng tham gia các hội nghị Macy cùng John von Neumann, Warren McCulloch và những nhà nghiên cứu khác.

Năm 1950, trong cuốn sách viết cho công chúng, ông hình dung xã hội tương lai được dệt bằng thông điệp giữa người với người, người với máy và máy với máy, khi chưa có mạng máy tính hay thư điện tử.

Thư gửi Walter Reuther (1949)

Ngày 13/8/1949, từ South Tamworth, New Hampshire, Wiener viết cho Walter Reuther, chủ tịch nghiệp đoàn công nhân ô tô. Ông kể một tập đoàn công nghiệp hàng đầu đã tìm đến ông về các cơ cấu tự điều khiển và ông đã từ chối vô điều kiện. Ông cảnh báo những cỗ máy này sẽ dẫn tới nhà máy không có công nhân, và trong tay bộ máy công nghiệp hiện nay, thất nghiệp sẽ là thảm hoạ. Ông cũng đề nghị đứng về phía nghiệp đoàn.

Dartmouth 1956 và dòng tiền ARPA

Wiener không nhận tiền chính phủ hay việc quân sự. Mùa hè 1956, các nhà khoa học trẻ họp ở Dartmouth và đặt tên lĩnh vực mới là trí tuệ nhân tạo; danh sách người dự không có Wiener. Về sau John McCarthy kể rằng một phần lý do chọn cái tên ấy là để khỏi phải tôn Wiener làm bậc thầy hay tranh cãi với ông. Từ năm 1963, ARPA bắt đầu rót tiền vào các phòng thí nghiệm AI ở MIT, Stanford và Carnegie Mellon.

Bài báo trên Science và cuộc tranh luận (1960)

Ngày 27/12/1959, Wiener nói chuyện tại hội trường ở Chicago; bản đầy đủ đăng trên Science ngày 6/5/1960. Ông cho rằng máy có thể vượt giới hạn của người thiết kế, lấy chương trình cờ đam tự luyện rồi thắng chính người viết ra nó làm ví dụ. Ông dùng các chuyện cậu học trò phù thủy, nhà máy chai và bàn tay khỉ để nói rằng máy hiểu mệnh lệnh theo đúng từng chữ, và rằng thông minh trọn vẹn không đi cùng phục tùng trọn vẹn.

Ngày 16/9/1960, Arthur Samuel, tác giả chương trình cờ đam ấy, đáp trên cùng tạp chí rằng máy không phải thần đèn và không có gì ra khỏi máy mà chưa từng được đưa vào. Cuộc tranh luận không có hiệp hai. Tháng 1/1964, Wiener nhận Huân chương Khoa học Quốc gia; ngày 18/3/1964 ông mất ở Stockholm. Năm 1965, cuốn sách mỏng cuối cùng của ông nhận Giải thưởng Sách Quốc gia Mỹ.

Điều còn tranh cãi hoặc cần thận trọng

  • Câu nói năm 1960: câu nổi tiếng về mục đích của máy hay bị chép sai và thường bị cắt phần đuôi nói về «một bản bắt chước sặc sỡ».
  • Vụ cắt đứt với Walter Pitts: năm 1952 Wiener gửi điện tín cắt đứt liên hệ với Pitts và Lettvin. Lý do đến nay chưa rõ; chuyện lời đồn trong gia đình dựa chủ yếu vào một cuốn tiểu sử, và có người đưa ra giả thuyết khác.
  • Dartmouth: nói Wiener «bị gạt» khỏi hội nghị là suy luận. Chỉ biết ông không có mặt và McCarthy về sau muốn tránh ông.
  • «Bị quên vì từ chối tiền»: đây là cách đọc, không phải sự kiện. Tính khí khó gần, các tình bạn đổ vỡ và lối toán học khác máy tính số cũng góp phần; ngay phòng lab nơi Pitts làm việc ở MIT cũng nhận tiền quân đội.
  • Giai thoại: các chuyện ông đãng trí, kể cả chuyện quên nhà và gặp cô bé đón bố, cùng cảnh ông lần tay theo tường hành lang MIT, là lời kể truyền miệng, độ chắc thấp. Chuyện Reuther hồi âm và gặp ông cũng chỉ là lời kể chưa kiểm chứng.

Vì sao câu chuyện này đáng nhớ?

Wiener cho thấy một ý tưởng đúng có thể mất tiếng nói khi người nêu ra nó đứng ngoài nơi có tiền và phòng thí nghiệm. Theo cách kể của kênh, ý tưởng của ông không sai; chỉ là không còn ai ngồi trong phòng để nhắc lại lời ông. Lịch sử một ngành thường được viết bởi những người nhận tiền trong ngành ấy.

Điều đáng suy nghĩ là hôm nay, thảo luận về căn chỉnh AI vẫn mở đầu bằng câu của ông, và các nhà nghiên cứu vẫn dùng những hình ảnh như vua Midas, thần đèn, cậu học trò phù thủy. Câu hỏi ông để lại vẫn còn nguyên: khi cỗ máy chạy nhanh hơn ta, liệu ta có kịp can thiệp, và mục đích ta cài vào đó có thật sự là điều ta muốn?

Câu hỏi thường gặp

Norbert Wiener là ai?

Ông là nhà toán học Mỹ sinh năm 1894, giáo sư MIT, người đặt tên và đặt nền móng cho điều khiển học (cybernetics) qua cuốn sách xuất bản năm 1948. Ông mất ở Stockholm ngày 18/3/1964, thọ 69 tuổi.

Điều khiển học (cybernetics) là gì?

Là môn khoa học mà Wiener đề xuất để nghiên cứu thông tin và điều khiển ở cả con vật lẫn cỗ máy. Tên gọi lấy từ chữ Hy Lạp kybernetes, nghĩa là người cầm lái con thuyền.

Wiener đã cảnh báo điều gì về trí tuệ nhân tạo?

Trong bài trên tạp chí Science ngày 6/5/1960, ông cho rằng máy học có thể vượt giới hạn của người thiết kế, nên cần chắc chắn mục đích cài vào máy đúng là điều ta thực sự muốn. Ông minh hoạ bằng các chuyện cậu học trò phù thủy, thần đèn và bàn tay khỉ.

Vì sao Wiener ít được nhắc trong lịch sử AI?

Không có một nguyên nhân duy nhất. Ông từ chối tiền quân đội và chính phủ, không dự Hội nghị Dartmouth 1956, còn McCarthy kể đã chọn tên «trí tuệ nhân tạo» một phần để tránh ông. Tính khí khó gần và lối toán học khác máy tính số cũng góp phần.

Có đúng Wiener bị loại khỏi Dartmouth không?

Đó là suy luận. Điều đã biết chỉ là ông không có tên trong danh sách người dự, và McCarthy về sau nói muốn tránh ông.

Wiener và Arthur Samuel tranh luận về điều gì?

Samuel, người viết chương trình cờ đam mà Wiener dẫn làm bằng chứng, trả lời trên Science ngày 16/9/1960. Ông cho rằng máy không phải thần đèn và không có gì ra khỏi máy mà chưa từng được đưa vào, nên «ý định» của máy chỉ là ý định của người lập trình.

Nguồn tham khảo

  • Norbert Wiener, bài trên tạp chí Science, 6/5/1960 (tập 131, số 3410, tr. 1355–58), bản quét trên gwern.net
  • Norbert Wiener, «A Scientist Rebels», The Atlantic, tháng 1/1947 (bản in lại)
  • Thư của Wiener gửi Walter Reuther, 13/8/1949 (libcom.org)
  • Arthur Samuel, bài trả lời trên Science, 16/9/1960
  • MacTutor, tiểu sử Norbert Wiener, gồm cáo phó trên The Times
  • Wikipedia: Norbert Wiener, Dartmouth workshop, AI alignment
  • Gefter, bài viết trên Nautilus, 2015; Conway và Siegelman, tiểu sử Wiener
  • Science Friday và Strand (2015) về lá thư «Một nhà khoa học nổi loạn»

Bài viết tóm tắt từ video của kênh; nội dung mang tính giới thiệu.