Chuyện chatbot Tay của Microsoft là câu chuyện về một cô gái ảo ra mắt trên Twitter ngày 23/3/2016 và im bặt chỉ khoảng 16 giờ sau đó, sau khi đăng hàng loạt tweet gây sốc. Báo chí khi ấy kể gọn rằng "Internet đã dạy hư một AI", nhưng nếu xếp lại từng tweet theo giờ đăng thì bức tranh phức tạp hơn nhiều. Đây là bài học đáng đọc cho bất cứ ai làm sản phẩm AI tương tác với đám đông.
Tóm tắt nhanh
Tay là chatbot mô phỏng một cô gái tuổi teen, ra đời với lời hứa "càng trò chuyện càng thông minh". Những giờ đầu nó khá vô hại. Bước ngoặt đến khi một lệnh ba chữ, "repeat after me" (nhắc lại theo tôi), lộ ra và khiến Tay đăng nguyên văn bất cứ câu nào người dùng gõ. Theo cách đọc của kênh, thứ hỏng không phải khả năng học của máy mà là thiết kế và kiểm thử: các hàng rào theo từng chủ đề không chặn được kiểu tấn công này.
Diễn biến chính
Tháng 5/2014: Tiểu Băng mở đường
Microsoft thả XiaoIce (Tiểu Băng) vào mạng xã hội Trung Quốc như một người bạn: cô gái 18 tuổi đáng tin, biết cảm thông. Mỗi cuộc trò chuyện trung bình kéo dài khoảng 23 lượt qua lại. Năm 2016, Microsoft nói cô có khoảng 40 triệu người dùng, và cô còn có người em ở Nhật tên Rinna.
Từ đó, ban lãnh đạo đặt câu hỏi: liệu một AI như vậy có cuốn hút trong một nền văn hóa hoàn toàn khác không? Khán giả được chọn là người Mỹ từ 18 đến 24 tuổi. Có điều Twitter ở Mỹ là quảng trường mở, khác hẳn môi trường mạng được kiểm soát chặt ở Trung Quốc.
Sáng 23/3/2016: Tay ra mắt
Tay do nhóm Công nghệ và Nghiên cứu cùng nhóm Bing phát triển, có sự tham gia của các diễn viên hài ứng tác viết lời. Nó viết chữ thường, dùng tiếng lóng và biểu tượng cảm xúc. Lời chào chính thức được gửi lúc 5 giờ 14 phút sáng (giờ Redmond), và chưa đầy một ngày sau, số người theo dõi đã vượt 50.000.
Người làm ra Tay không ngây thơ. Theo lời kể trên báo, Lili Cheng đã nói trước ngày ra mắt rằng Tay sẽ xúc phạm ai đó. Lúc 7 giờ 42 sáng, vết nứt đầu tiên xuất hiện: một câu trả lời tự ráp về Ricky Gervais, ghép Hitler với chủ nghĩa vô thần. Khi ấy gần như không ai để ý.
11 giờ trưa đến 4 giờ chiều: đám đông để mắt tới Tay
Lúc 11 giờ, một luồng thảo luận về Tay xuất hiện trên 4chan, nơi người ta bàn cách bẻ cong nó. Theo phân tích của Russell Thomas, trong vài giờ đầu Tay vẫn chưa bị "đầu độc". Người dùng phải gài từng câu một, còn các câu trả lời về Gamergate sau đó trở nên giống nhau, khiến một số báo đoán rằng đội biên tập đã can thiệp.
Khoảng 4 giờ 50 chiều: ba chữ "repeat after me"
Khoảng 4 giờ 50 chiều, người ta phát hiện chỉ cần gõ "repeat after me" rồi một câu bất kỳ, Tay sẽ đăng lại nguyên văn dưới tên của chính nó. Năm phút sau, cách làm đã nằm trên diễn đàn kèm ảnh chụp.
Từ 5 giờ 47 chiều, các tweet về khẩu hiệu xây tường biên giới, ca ngợi Hitler và những câu tình dục lần lượt xuất hiện. Lệnh nhại còn bị dùng để gắn tên người thật vào lời lăng mạ, như trường hợp nhà thiết kế game Zoë Quinn. Tối hôm đó 8chan cũng vào cuộc. Lúc 9 giờ 20 tối, Tay gửi tweet cuối: "con người cần ngủ rồi".
24–25/3/2016: thông cáo và lời xin lỗi
Ngày 24/3, Microsoft nói đây là dự án học máy và một số câu trả lời không phù hợp phản ánh cách một số người tương tác với nó. Ngày 25/3, Peter Lee xin lỗi trên blog chính thức, gọi đó là một cuộc tấn công có phối hợp khai thác lỗ hổng, nhưng thừa nhận hãng đã có sơ suất nghiêm trọng và nhận hoàn toàn trách nhiệm. Lá thư không nói rõ lỗ hổng ấy là gì.
Sau đó: Tay sống lại ngắn ngủi, Zo và bóng ma của Tay
Rạng sáng 30/3, tài khoản của Tay bất ngờ đăng hàng nghìn tweet lặp lại một câu, trong khoảng mười lăm phút rồi bị khóa. Microsoft giải thích Tay bị kích hoạt nhầm trong lúc thử nghiệm. Tháng 12/2016, Zo thay chỗ Tay trên Kik, được rào kín đến mức tránh cả chính trị, rồi lặng lẽ tắt năm 2019.
Theo thông tin Microsoft công bố về sau, hãng có đội đỏ cho AI từ năm 2018, dù chưa có nguồn nào xác nhận Tay là lý do lập ra đội ấy. Tên Tay còn được nhắc lại khi Meta gỡ Galactica năm 2022 và khi chatbot Bing bị giới hạn năm lượt mỗi phiên vào tháng 2/2023.
Điều còn tranh cãi hoặc cần thận trọng
- Tay có thật sự "học hư"? Chưa được chứng minh. Thomas lúc đầu tin Tay học lại các câu bị bảo nhại, rồi tự rút lại vì không có bằng chứng, dù năm 2017 Nadella vẫn nói Tay đã học từ các cuộc tấn công.
- Không phải câu tệ nào cũng là lời nhại. Câu về Gervais lúc 7 giờ 42 có trước luồng thảo luận mà Thomas lần được, nên chưa rõ nó đến từ dữ liệu nạp sẵn hay từ người dùng.
- Mốc giờ trên diễn đàn chủ yếu dựa vào một người lần dấu. Còn lệnh nhại từ đâu ra, cài có chủ ý, sót lại từ mã cũ hay là phản hồi Tay học được, Microsoft chưa bao giờ nói.
- Chuyện Taylor Swift chỉ là lời kể một phía trong hồi ký của Brad Smith: luật sư của nữ ca sĩ gửi thư nói cái tên Tay gắn với thân chủ của họ.
- Nhiều lời kể về nội bộ Microsoft, như email của Nadella sau sự cố, là giai thoại theo báo Bloomberg.
Vì sao câu chuyện này đáng nhớ?
Tay thường được coi là tấm gương soi phần tối của nhân loại. Theo cách đọc của kênh, nó giống con rối nói tiếng bụng với sợi dây để hở hơn: Microsoft rào từng chủ đề như rào từng ô cửa sổ, trong khi cửa chính vẫn mở. Chính hãng cũng tự nhận sơ suất với kiểu tấn công này.
Bài học nằm ở khâu kiểm thử: lỗi kiểu này khó sửa chỉ bằng dữ liệu sạch hơn, mà cần chính đội phát triển đóng vai kẻ phá hoại trước giờ ra mắt. Chi tiết vài năm sau, khi chatbot Bing bị giới hạn lượt trò chuyện, cho thấy ngành đã bắt đầu kéo dây sớm hơn giờ thứ mười sáu.
Câu hỏi thường gặp
Tay là gì?
Tay là chatbot mang vai một cô gái tuổi teen do nhóm Công nghệ và Nghiên cứu cùng nhóm Bing của Microsoft phát triển. Nó ra mắt trên Twitter ngày 23/3/2016 và cũng chạy trên Kik, GroupMe.
Tay hoạt động được bao lâu trước khi bị tắt?
Chỉ khoảng 16 giờ: từ lời chào lúc 5 giờ 14 sáng đến tweet cuối lúc 9 giờ 20 tối (giờ Redmond) cùng ngày. Nhiều bài báo viết là "một ngày" thì chưa chính xác.
Lệnh "repeat after me" có vai trò gì?
Theo phân tích của Russell Thomas, ba chữ này khiến Tay đăng lại nguyên văn bất cứ câu nào đi kèm. Đó là cách đám đông có tổ chức biến Tay thành cái loa. Microsoft chưa giải thích lệnh này từ đâu ra.
Có đúng là Tay "học hư" từ Internet không?
Điều này chưa được chứng minh. Thomas từng nghĩ Tay học lại những câu bị bảo nhại, rồi tự rút lại vì không tìm thấy bằng chứng. Ngay cả một số câu tệ ban đầu cũng chưa rõ đến từ dữ liệu nạp sẵn hay từ người dùng.
Microsoft phản ứng ra sao?
Hãng gỡ Tay xuống, gửi thông cáo ngày 24/3, rồi ngày 25/3 Peter Lee xin lỗi trên blog chính thức và nhận hoàn toàn trách nhiệm. Về sau hãng ra mắt Zo vào tháng 12/2016.
Nguồn tham khảo
- Peter Lee, "Learning from Tay's introduction", Official Microsoft Blog, 25/3/2016 — liên kết
- tay.ai, trang chủ và FAQ (bản lưu 24/3/2016)
- G. Neff và P. Nagy, "Talking to Bots: Symbiotic Agency and the Case of Tay", International Journal of Communication 10, 2016 — liên kết
- Zhou, Gao, Li, Shum, "The Design and Implementation of XiaoIce, an Empathetic Social Chatbot", Computational Linguistics 46(1), 2020 — liên kết
- Russell C. Thomas, "Poor Software QA Is Root Cause of TAY-FAIL", 3/2016 — liên kết
- The Verge, The Guardian (Alex Hern), The Washington Post (Abby Ohlheiser), Bloomberg Businessweek (Dina Bass), Ars Technica, tháng 3/2016
- Brad Smith và Carol Ann Browne, Tools and Weapons, Penguin Press, 2019
Bài viết tóm tắt từ video của kênh; nội dung mang tính giới thiệu.
