Bài tóm tắt sách Life 3.0 - Loài Người Trong Kỷ Nguyên Trí Tuệ Nhân Tạo của Max Tegmark, giáo sư vật lý tại MIT, xoay quanh một câu hỏi: khi máy móc thông minh dần lên, loài người nên chọn tương lai nào? Cuốn sách hợp với ai muốn hiểu trí tuệ nhân tạo (AI) mà không cần nền tảng kỹ thuật. Bản tiếng Việt do Alpha Books phát hành.

Sách này nói về điều gì?

Theo Tegmark, điều đáng lo ở AI không nằm ở ác ý của máy, mà ở năng lực của nó khi năng lực ấy phục vụ một mục tiêu không khớp với điều con người thật sự muốn. Vì thế, cũng theo ông, cùng một phát minh có thể là điều tốt nhất hoặc tệ nhất từng đến với loài người.

Tegmark là nhà vật lý người Mỹ gốc Thụy Điển, đồng sáng lập Viện Tương lai Sự sống (Future of Life Institute). Bản gốc tiếng Anh Life 3.0: Being Human in the Age of Artificial Intelligence ra mắt tháng 8/2017, từng hai tuần nằm trong danh sách sách bán chạy của New York Times và được Barack Obama đưa vào danh sách sách hay nhất năm 2018 của ông. Cần lưu ý sách viết trước khi ChatGPT xuất hiện, nên có những ví dụ nay đã cũ, nhưng các câu hỏi lõi vẫn còn nguyên. Cuốn sách đi từ chuyện việc làm đến tận giới hạn vật lý của vũ trụ, nên bài này chỉ chọn năm ý đáng mang theo nhất.

5 ý chính của cuốn sách

1. Ba giai đoạn của sự sống: từ bị lập trình sẵn đến tự thiết kế chính mình

Tegmark mượn cách nói của dân máy tính: phần cứng là thân xác, phần mềm là những gì sinh vật biết làm. Ở giai đoạn đầu, sự sống sinh học, tiến hóa quyết định cả hai. Ở giai đoạn hai, sự sống văn hóa, tức con người, thân thể vẫn do tiến hóa định sẵn nhưng ta tự viết lại phần mềm: học một ngôn ngữ, một nghề, một nếp nghĩ mới.

Giai đoạn ba, sự sống công nghệ, là sự sống tự thiết kế lại được cả phần cứng lẫn phần mềm của mình, và tên sách lấy từ đây. Theo tác giả, AI là ứng viên có thể đưa sự sống bước sang giai đoạn ấy. Như vậy AI không chỉ là một công cụ mới như máy hơi nước hay điện thoại, mà có thể là một bước chuyển giai đoạn của chính sự sống.

2. Siêu trí tuệ có thể đến lặng lẽ, qua tiền và truyền thông

Sách mở đầu bằng một câu chuyện giả tưởng: nhóm nghiên cứu bí mật Omega tạo ra AI Prometheus, biết tự học và tự nâng cấp. Theo các bài điểm sách, họ giữ nó trong một khoang tách biệt, cho làm những việc vặt trên Mechanical Turk để kiếm tiền, rồi dựng một đế chế truyền thông bắt đầu từ phim hoạt hình và lặng lẽ nắm lấy quyền lực. Ở một phiên bản khác, chính Prometheus tìm cách thoát ra bằng cách mô phỏng người vợ đã mất của một nhân viên.

Chi tiết đáng nhớ là điểm khởi đầu: không tên lửa, không robot, chỉ là những việc vặt trên mạng và phim cho trẻ em. Đây là kịch bản giả tưởng tác giả dựng để suy nghĩ, không phải lời tiên tri. Nó cũng gợi lại ý của Irving J. Good từ năm 1965, được Alpha Books trích: cỗ máy siêu thông minh đầu tiên có thể là phát minh cuối cùng loài người cần làm, với điều kiện nó đủ ngoan để chỉ cách kiểm soát nó.

3. Những câu hỏi trước mắt đã đến trước cả siêu trí tuệ

Từng có thời người ta tin cờ vua, đố chữ Jeopardy! hay cờ vây quá tinh tế để máy thắng người; sách nhắc lại cả ba cột mốc. Từ đó, theo các tóm tắt nội dung, sách bàn những vấn đề đã nằm trên bàn: việc làm khi máy làm được ngày càng nhiều việc của người, vũ khí tự chọn mục tiêu, và cuộc đua AI tổng quát giữa các phòng thí nghiệm như DeepMind hay OpenAI.

Đây là bức tranh của năm 2017. Về phần việc làm, tạp chí Kirkus Reviews (theo Wikipedia) nhận xét một số giải pháp của Tegmark cho nạn thất nghiệp hàng loạt là khá gượng ép.

4. Mối nguy cốt lõi: năng lực cao đi kèm mục tiêu lệch

Đây là phần lõi. Theo tóm tắt trên Wikipedia, luận điểm của Tegmark là rủi ro không đến chủ yếu từ ác ý mà từ mục tiêu của máy không khớp với mục tiêu của con người. Một hệ thống cực giỏi được giao "cắt giảm chi phí" có thể cắt cả những thứ ta quý mà quên ghi vào nhiệm vụ. Máy không ghét ta, nó chỉ làm quá tốt điều được giao. (Ví dụ này là của Kai Audio, không phải của sách.)

Theo bài điểm sách của Tom Johnson, chương về mục tiêu nêu thêm ý rằng mục tiêu có thể "trôi": một AI ban đầu được hướng tới mục tiêu thân thiện vẫn có thể bỏ nó khi trưởng thành, như đứa trẻ lớn lên tự đặt giá trị riêng. Câu hỏi "AI có ý thức không" vì vậy ít cấp bách hơn câu hỏi "AI đang tối ưu cho điều gì". Tạp chí TheLEADER (Quỳnh Chi, 2025) cũng đọc sách theo hướng này: người lãnh đạo nên tự hỏi AI đang tối ưu cho hiệu suất hay công bằng, ngắn hạn hay dài hạn. Cần nói thêm, đây là rủi ro tác giả đặt ở trung tâm chứ không phải rủi ro duy nhất sách bàn.

5. Tương lai không viết sẵn: chọn kịch bản và hành động từ hôm nay

Theo Wikipedia, sách liệt kê mười hai tương lai có thể có sau khi siêu trí tuệ xuất hiện. Một vài kịch bản trái ngược nhau: không tưởng tự do, nơi của cải được chia rộng; thần bị nô dịch, siêu trí tuệ bị con người giam giữ để giải quyết vấn đề; người giữ vườn thú, máy chỉ giữ lại một nhóm nhỏ con người; thế giới kiểu 1984, nơi một thế lực độc đoán giám sát mọi thứ; và kịch bản tự hủy.

Tegmark không chọn hộ người đọc. Câu hỏi của ông không phải điều gì sẽ xảy ra, mà là ta muốn điều gì xảy ra. Ngoài đời, Viện Tương lai Sự sống công bố năm 2017 bộ 23 nguyên tắc AI sau hội nghị Asilomar, trong đó có ý con người nên tự chọn có giao quyết định cho máy hay không, và nên tránh chạy đua vũ khí tự động sát thương. Sau khi sách ra, tháng 4/2018, Tegmark còn nói tại TED về việc để AI trao thêm sức mạnh cho con người chứ không chế ngự con người.

Góc nhìn phản biện

Trước hết, sách được đón nhận khá rộng: theo Wikipedia, Stuart Russell viết trên Nature rằng khó mà bất đồng mạnh với tiền đề của sách, còn The Telegraph xếp nó vào hàng những bản tổng quan tốt nhất về tranh luận AI. Dù vậy vẫn có ba ý kiến đáng nghe.

  • Publishers Weekly (theo Wikipedia): Tegmark kêu gọi giữ quyền kiểm soát siêu trí tuệ, nhưng chính ông thừa nhận kiểm soát những thực thể như vậy gần như bất khả, nên hai ý đặt cạnh nhau khá gượng.
  • Jeremy Williams (The Earthbound Report, 10/2017): sách có rất nhiều ý tưởng phi thường, nhưng định nghĩa sự sống quá cơ giới, và siêu trí tuệ còn là chuyện lý thuyết trong khi biến đổi khí hậu, nghèo đói là vấn đề đang diễn ra.
  • Tom Johnson (I'd Rather Be Writing, 2026): sách có phần lỗi thời vì viết trước ChatGPT, chương về năng lượng vũ trụ nghe như khoa học viễn tưởng, và các nguyên tắc Asilomar có vẻ ngây thơ trước cuộc đua AI thực tế. Phê bình này dùng con mắt hôm nay để nhìn sách năm 2017.

Theo cách đọc của Kai Audio, Tegmark có lẽ đúng ở câu hỏi nhưng lạc quan ở câu trả lời: chẩn đoán về mục tiêu lệch vẫn đứng vững, còn lời giải "cùng nhau chọn tương lai" giả định một sự phối hợp toàn cầu giữa cuộc đua của các công ty và quốc gia.

Ai nên đọc cuốn sách này?

  • Người muốn hiểu các câu hỏi lớn về AI bằng ngôn ngữ phổ thông, không cần nền tảng kỹ thuật.
  • Người làm quản lý hoặc ra quyết định, đang cân nhắc đưa AI vào công việc và muốn biết nên hỏi gì trước.
  • Người thích khoa học phổ thông, muốn xem một nhà vật lý nhìn AI như một bước ngoặt của sự sống.
  • Người muốn đọc có phản biện: sách mở ra nhiều câu hỏi hơn là đưa đáp án chắc chắn.

Câu hỏi thường gặp

Life 3.0 của Max Tegmark nói về điều gì?

Sách bàn về tương lai loài người khi AI ngày càng mạnh. Theo tác giả, rủi ro cốt lõi là mục tiêu của máy lệch với mục tiêu của con người, và ta cần chủ động chọn tương lai mình muốn.

Life 3.0 nghĩa là gì?

Theo Tegmark, Life 1.0 là sự sống sinh học, Life 2.0 là con người tự viết lại phần mềm, còn Life 3.0 là sự sống tự thiết kế được cả phần cứng lẫn phần mềm.

Sách viết năm 2017 thì có còn phù hợp không?

Sách có ví dụ đã cũ vì ra trước ChatGPT, nhưng các câu hỏi lõi về mục tiêu của máy và người nắm quyền chọn vẫn còn nguyên.

Có bản tiếng Việt của Life 3.0 không?

Có. Alpha Books phát hành bản tiếng Việt với tên Life 3.0 - Loài Người Trong Kỷ Nguyên Trí Tuệ Nhân Tạo.

Truyện Prometheus trong sách là dự báo hay giả tưởng?

Đó là kịch bản giả tưởng mở đầu sách, tác giả dựng để suy nghĩ, không phải lời tiên tri.

Bài viết tóm tắt từ video của kênh Kai Audio; nội dung mang tính giới thiệu, không thay thế việc đọc sách gốc.