Việc DeepMind bán mình cho Google năm 2014 kèm điều kiện lập ban đạo đức là một trong những câu chuyện khó nắm nhất của lịch sử AI: theo lời những người biết chuyện, Demis Hassabis và các đồng sáng lập đòi công nghệ của họ không phục vụ quân sự hay giám sát, và phải có một ban độc lập đứng canh. Bài này dựng lại hành trình hơn mười năm của lời hứa ấy, từ 2014 đến 2025, và phân biệt rõ đâu là dữ kiện có tài liệu, đâu chỉ là chuyện được kể lại.

Tóm tắt nhanh

Theo các nguồn báo chí, DeepMind chọn Google dù Facebook trả nhiều hơn, vì Google chịu hai điều kiện: không quân sự, không giám sát, và có ban độc lập giám sát công nghệ AI tổng quát. Về sau ban ấy gần như không ai thấy mặt, nhiều lần DeepMind muốn biến lời hứa thành cấu trúc pháp lý đều không thành, và đến tháng 2 năm 2025 bộ nguyên tắc AI của Google không còn danh sách cấm vũ khí và giám sát. Lý do chính, theo kịch bản video, là cấu trúc: không có ai đứng ngoài đủ sức buộc bên mua thi hành lời hứa.

Diễn biến chính

2010: ba người sáng lập và một sứ mệnh lớn

Ngày 23 tháng 9 năm 2010, DeepMind Technologies được đăng ký ở Anh, với ba nhà sáng lập: Demis Hassabis (cựu kỳ thủ cờ vua nhí, nhà thiết kế game, tiến sĩ khoa học thần kinh), Shane Legg (tác giả luận án năm 2008 mang tên Machine Super Intelligence) và Mustafa Suleyman, người không có nền tảng kỹ thuật nhưng quen Hassabis từ thuở nhỏ.

Theo lời Hassabis, sứ mệnh chỉ có hai bước: giải bài toán trí tuệ, rồi dùng nó để giải mọi thứ khác. Các nhà đầu tư đầu tiên gồm Peter Thiel, Elon Musk, quỹ Horizons Ventures và Jaan Tallinn. Chuyện Musk lặng đi trong bữa trưa ở SpaceX khi nghe Hassabis nói về siêu trí tuệ máy là giai thoại do New York Times thuật lại.

2013–2014: bài báo Atari và hai lời đề nghị

Tháng 12 năm 2013, nhóm đăng lên arXiv một bài báo về chương trình tự học chơi game Atari 2600 bằng học tăng cường sâu. Trên bảy trò thử nghiệm, nó vượt các phương pháp trước ở sáu trò và vượt người chơi chuyên nghiệp ở ba trò. Theo những nguồn ẩn danh, cuối năm 2012 cả Google lẫn Facebook đã để mắt tới DeepMind.

Ngày 26 tháng 1 năm 2014, Google xác nhận thương vụ. Giá không được công bố; báo chí đưa ra nhiều con số, phổ biến là khoảng 400 triệu bảng hay 650 triệu đô la. Theo New York Times, Facebook trả cho các nhà sáng lập nhiều hơn nhưng không chấp nhận điều kiện. Tallinn nói với Guardian rằng, xét thuần về tiền, lời đề nghị của Google không phải tốt nhất, và một phần lý do là lời hứa lập ban đạo đức, an toàn trung lập.

2014–2016: ban không ai thấy mặt

Ban đạo đức lộ ra qua một tin rò rỉ; Google từ chối làm rõ. Một tuần sau thương vụ, hai nhà đạo đức học viết trên Forbes hỏi DeepMind lo điều gì đến mức đòi lập ban, đồng thời nhắc Google vừa mua Boston Dynamics, hãng có hợp đồng với quân đội Mỹ. Tháng 1 năm 2016, Hassabis nói công khai rằng ban đã được triệu tập, nhưng là một «ban nội bộ». Năm 2014 điều kiện là ban độc lập; hai năm sau chữ dùng đã khác.

Theo New York Times, buổi họp đầu tiên diễn ra ngày 14 tháng 8 năm 2015 gần văn phòng Musk ở SpaceX, với Larry Page, Sergey Brin, Eric Schmidt, Musk và Reid Hoffman. Theo Sebastian Mallaby, buổi họp không đưa ra thỏa thuận hay kết luận nào vì căng thẳng giữa Musk và Page, và Musk sau đó lập OpenAI vào tháng 12 năm 2015.

2015–2017: vụ dữ liệu bệnh viện Royal Free

Năm 2015, bệnh viện Royal Free ở London ký thỏa thuận chia sẻ dữ liệu để DeepMind phát triển ứng dụng Streams cảnh báo sớm tổn thương thận cấp. Dữ liệu gồm hơn năm năm lượt nhập viện, xuất viện, chuyển khoa và kết quả xét nghiệm máu; bệnh nhân không được hỏi ý kiến hay thông báo. DeepMind sau đó lập một ban đánh giá độc lập cho mảng y tế, với chín thành viên được công bố tên.

Ngày 3 tháng 7 năm 2017, cơ quan bảo vệ dữ liệu Anh (ICO) kết luận bệnh viện đã vi phạm luật khi chuyển dữ liệu của khoảng 1,6 triệu bệnh nhân. Bệnh viện ký cam kết khắc phục, không bị phạt tiền. DeepMind, với tư cách bên xử lý dữ liệu, tự nhận đã đánh giá thấp độ phức tạp của hệ thống y tế công và «đã sai».

2015–2018: Dự án Mario và những vạch đỏ

Theo cuốn sách của Mallaby, từ 2015 DeepMind tìm cách giành độc lập theo mô hình hội đồng chín ghế (ba của DeepMind, ba của Alphabet, ba độc lập). Hè 2016 việc tách ra được ghi vào một bản điều khoản, nhưng cuối năm Google nêu mối lo và Sundar Pichai cho rằng AI quá quan trọng để thành một ván cược bán độc lập. Đầu tháng 6 năm 2017, khoảng 500 nhân viên họp ở Scotland; mười ngày sau Google gửi lại văn bản chi chít vạch đỏ.

Đầu năm 2018 hai bên gần chạm nhau với phương án 15 tỷ đô la trong mười năm, nhưng đến tháng 4 mọi thứ sụp sau khi một lãnh đạo Google bị Apple lôi kéo. Cũng thời gian này DeepMind lỗ khoảng nửa tỷ bảng mỗi năm, và Google xóa cho một khoản nợ hơn một tỷ bảng. Tháng 11 năm 2018, mảng y tế chuyển sang Google Health và ban đánh giá độc lập bị giải tán.

2019–2025: đàm phán khép lại, danh sách cấm biến mất

Năm 2019 Suleyman bị cho nghỉ phép rồi chuyển sang vai trò chính sách ở Google; ông về sau lập Inflection AI và tháng 3 năm 2024 đứng đầu Microsoft AI. Tháng 5 năm 2021, Wall Street Journal đưa tin Google đã chấm dứt các cuộc đàm phán tự chủ; nghiên cứu của DeepMind sẽ do một ban đạo đức gồm chủ yếu lãnh đạo cấp cao của Google xem xét.

Năm 2023 DeepMind hợp nhất với Google Brain thành Google DeepMind. Tháng 5 năm 2024, gần 200 nhân viên ký thư phản đối các hợp đồng quân sự. Tháng 10 năm 2024, Hassabis và John Jumper nhận nửa giải Nobel Hóa học. Ngày 4 tháng 2 năm 2025, Google công bố bản cập nhật nguyên tắc AI, đồng ký bởi James Manyika và Hassabis; bản mới không còn danh sách việc sẽ không làm, trong đó trước đây có vũ khí và giám sát.

Điều còn tranh cãi hoặc cần thận trọng

  • Bản hợp đồng năm 2014 chưa từng được công bố. Mọi điều biết về điều kiện ấy đến từ lời kể với báo chí; cách chia «bốn điều khoản» trong video là cách kể của kênh.
  • Bản nguyên tắc 2025 là văn bản của Google, không phải hợp đồng 2014. Chưa ai công khai nói điều kiện cũ đã bị xóa.
  • Chuyện ban chỉ họp đúng một lần là do báo chí kể lại; năm 2016 Hassabis vẫn nói ban tiến triển tốt. Những người ngồi trong phòng ở SpaceX cũng chưa chắc là thành viên chính thức.
  • Giá thương vụ chưa bao giờ được Google xác nhận; chuyện Facebook trả cao hơn đến từ nguồn giấu tên.
  • Dự án Mario và những vạch đỏ đến từ sách của Mallaby, dựa phần lớn vào lời kể của chính Hassabis. Ở góc nhìn của ông, Google từng bàn tới 15 tỷ đô la, và nhiều thứ đổ vỡ vì những cú rẽ bất ngờ.

Vì sao câu chuyện này đáng nhớ?

Theo kịch bản video, hoàn cảnh chỉ quyết định điều kiện ấy chết vào lúc nào; việc nó chết là do cấu trúc. Ban giám sát không có ai đứng ngoài để buộc thi hành, và mỗi lần muốn biến lời hứa thành luật chơi, DeepMind lại cần chữ ký của chính bên họ muốn giám sát. Ảnh hưởng bên trong một tập đoàn, dù lớn đến mức có một giải Nobel, không phải là quyền.

Chính Hassabis nói với Mallaby đại ý rằng an toàn không nằm ở cấu trúc quản trị, và phải đi từ người lý tưởng thành người thực tế. Câu hỏi còn lại: khi một lời hứa chỉ có thể được thi hành bởi chính người đã hứa, đó còn là điều kiện hay chỉ là một lời chúc?

Câu hỏi thường gặp

DeepMind được Google mua khi nào và với giá bao nhiêu?

Google xác nhận thương vụ ngày 26/1/2014. Giá không được công bố; báo chí đưa các con số như 400 triệu bảng hay 650 triệu đô la, và Google chưa từng xác nhận.

Hassabis đã đặt điều kiện gì khi bán DeepMind?

Theo các nguồn báo chí, ông đòi công nghệ không dùng cho quân sự hay giám sát, và AI tổng quát phải được một ban độc lập giám sát. Văn bản hợp đồng chưa từng được công bố.

Ban đạo đức của DeepMind có thật sự họp không?

Theo New York Times, buổi họp đầu tiên diễn ra ngày 14/8/2015 ở SpaceX, và theo TIME ban chỉ họp một lần. Hassabis năm 2016 nói ban đang tiến triển tốt, nên chi tiết này vẫn còn tranh cãi.

Vụ Royal Free của DeepMind là gì?

Bệnh viện Royal Free chia sẻ dữ liệu của khoảng 1,6 triệu bệnh nhân với DeepMind để phát triển ứng dụng Streams. Tháng 7/2017, ICO kết luận bệnh viện vi phạm luật bảo vệ dữ liệu và không phạt tiền.

DeepMind có thoát khỏi Google không?

Không. Theo Wall Street Journal, tháng 4/2021 Google chấm dứt các cuộc đàm phán về tự chủ, kể cả cấu trúc kiểu phi lợi nhuận.

Google bỏ lời hứa không làm vũ khí khi nào?

Ngày 4/2/2025, bản cập nhật nguyên tắc AI của Google không còn danh sách việc sẽ không làm, trong đó trước đây có vũ khí và giám sát. Bài đồng ký bởi Manyika và Hassabis.

Nguồn tham khảo

Bài viết tóm tắt từ video của kênh; nội dung mang tính giới thiệu.