Câu chuyện Galactica của Meta bắt đầu vào tháng 11/2022, khi một tập đoàn công nghệ lớn giới thiệu mô hình trí tuệ nhân tạo dành cho nhà khoa học, rồi phải tạm dừng bản demo chỉ sau ba ngày. Hai tuần sau, ChatGPT ra mắt, cũng có tật nói sai tự tin nhưng lại được đón nhận nồng nhiệt. Vì sao hai kết cục khác nhau đến thế là câu hỏi khiến chuyện này đáng xem lại.

Tóm tắt nhanh

Galactica là mô hình ngôn ngữ khoa học do nhóm Papers with Code và Meta AI xây dựng, ra mắt ngày 15/11/2022 với lời hứa “tự động tổ chức khoa học”. Nó học cách viết trích dẫn đúng hình dạng nhưng không có cách đối chiếu sự thật, nên bịa ra bài báo, tác giả và dữ kiện nghe rất thuyết phục. Demo bị tạm dừng ngày 17/11. Theo cách kể của kênh, thứ “chết” không phải thuật toán hay dữ liệu, mà là lời hứa quá lớn gắn với nó.

Diễn biến chính

1945: giấc mơ về chiếc bàn làm việc biết nhớ

Năm 1945, Vannevar Bush viết tiểu luận “Như chúng ta có thể nghĩ”, than rằng tài liệu được công bố nhiều hơn khả năng dùng của con người. Ông mơ về một chiếc bàn làm việc nhớ thay người. Khoảng mười lăm năm sau, Licklider hình dung quan hệ cộng sinh giữa người và máy. Bài báo Galactica mở đầu bằng chính hai tên tuổi này.

Cơn lũ giấy chưa bao giờ ngừng: tháng 5/2022, arXiv nhận trung bình 516 bài mỗi ngày. Máy tìm kiếm chỉ trỏ đường, còn việc tóm tắt, sắp xếp vẫn do con người làm.

2022: nhóm Galactica chọn dữ liệu tuyển lọc

Bài báo có chín tác giả của Meta AI, đứng đầu là Ross Taylor và cuối là Robert Stojnic, hai người dựng nên Papers with Code. Trong khi nhiều mô hình cào dữ liệu internet càng nhiều càng tốt, nhóm chọn kho “nhỏ và tuyển lọc”: 48 triệu bài báo khoa học cùng sách giáo khoa, mã nguồn, dữ liệu protein và phân tử. Họ cho mô hình đọc lặp lại khoảng bốn chu kỳ mà vẫn tiến bộ. Bản lớn nhất có 120 tỷ tham số, chạy suy luận được trên một máy chủ.

Theo số liệu nhóm tự công bố, Galactica vượt GPT-3 ở bài thi phương trình khoa học, vượt mô hình lớn của Google ở bộ đề toán khó và đạt kết quả cao ở bộ câu hỏi y sinh. Nhóm còn dùng chính nó để gợi ý trích dẫn và viết phần tóm tắt cho bài báo của mình.

15/11/2022: ra mắt

Demo mở ngày 15/11/2022. Lời giới thiệu hứa nó tóm tắt được bài báo, giải toán, viết bài kiểu bách khoa và viết mã khoa học. Cùng ngày, Yann LeCun, nhà khoa học trưởng về AI của Meta, giới thiệu rằng gõ một đoạn chữ vào là có cả bài báo kèm tài liệu tham khảo và công thức. Bài báo được đưa lên arXiv ngày hôm sau.

Tháng 11/2022: học hình dạng của trích dẫn

Khi huấn luyện, mỗi trích dẫn được kẹp giữa hai thẻ đánh dấu, bên trong là tiêu đề bài được nhắc kèm tên tác giả đầu tiên. Nhóm chọn định danh bằng tiêu đề thay vì mã số vì cách này đoán chính xác hơn. Chính bài báo cũng ghi rằng tiêu đề dễ gây ra lỗi bịa hơn, nhất là ở mô hình nhỏ. Kết quả là mô hình thuộc “hình dạng” của một trích dẫn: một cái họ nghe quen, một năm hợp lý, một tiêu đề đủ thuật ngữ, trước khi có cách kiểm chứng sự thật.

Những ngày cười rồi báo động

Người dùng nhanh chóng chụp màn hình bài “lịch sử loài gấu trong vũ trụ” do David Chapman lan truyền, được Gary Marcus chia sẻ. Cũng có những bộ sưu tập hài hước như hươu cao cổ lên Mặt Trăng hay lò phản ứng bằng phô mai. Nhưng tiếng cười sớm nhường chỗ cho lo ngại. Michael Black, giám đốc một viện Max Planck, cho biết khi hỏi về lĩnh vực mình thành thạo, câu trả lời đều sai hoặc thiên lệch nhưng nghe đúng và đầy uy quyền, và ông gọi nó là nguy hiểm. Marcus kể bài viết về chính ông sai khoảng 85%. Bên cạnh đó còn có những bài báo không tồn tại, có lúc gắn tên nhà khoa học thật.

17/11 và 30/11/2022: tạm dừng, rồi ChatGPT

Ngày 17/11, Papers with Code thông báo tạm dừng bản demo, cảm ơn phản hồi của cộng đồng, không dùng chữ xin lỗi. LeCun phản ứng rằng Galactica chỉ là công cụ hỗ trợ như hệ thống trợ lái, bài báo thật vẫn cần khoa học mới do con người làm ra. Báo chí đặt nó cạnh chatbot Tay của Microsoft năm 2016.

Ngày 30/11, OpenAI giới thiệu ChatGPT dưới dạng khung trò chuyện, và tự nêu hạn chế là đôi khi đưa ra câu trả lời nghe hợp lý nhưng sai. Về sau, người dùng phát hiện ChatGPT cũng có thể bịa tài liệu tham khảo, nhưng phản ứng chủ yếu là nhắc nhau kiểm tra lại. Tháng 2/2023, Meta ra mắt Llama theo hình thức phải xin phép.

Điều còn tranh cãi hoặc cần thận trọng

  • “Ba ngày” hay “48 giờ”: tính cả hai đầu thì là ba ngày (15–17/11); một số nơi ghi khoảng 48 giờ.
  • Các ví dụ hài hước: hươu cao cổ trên Mặt Trăng, lò phản ứng phô mai và cuốn “Lịch sử tia laser” năm 1939 phần lớn đến từ bản mô hình do người ngoài dựng lại sau khi demo tắt, theo ghi chú của Janelle Shane. Chuyện con gấu trong vũ trụ và lời chê của Michael Black đến từ demo thật.
  • Lời kể của LeCun: ông nhớ là ba tuần và nhóm năm người, trong khi thực tế khoảng hai tuần và bài báo có chín tác giả. Câu nói về việc đón ChatGPT như “Đấng Cứu Thế tái lâm” là lời kể của ông trong một buổi nói chuyện được thuật lại. Việc Galactica bịa ít hơn ChatGPT là lời của phía Meta, chưa có phép thử so sánh cùng bộ đề.
  • Số liệu hiệu năng: các điểm vượt GPT-3 và các mô hình khác là do chính nhóm tác giả công bố.

Vì sao câu chuyện này đáng nhớ?

Galactica cho thấy một mô hình có thể rất giỏi ở hình thức của tri thức, như giọng văn học thuật, công thức, trích dẫn, mà vẫn thiếu đường dẫn tới sự thật. Với người đọc, những dấu hiệu quen thuộc của một văn bản đáng tin có thể trở thành trang phục cho nội dung sai.

Câu chuyện cũng nhắc rằng lời tuyên bố về một sản phẩm là một phần của sản phẩm. Một nghiên cứu năm 2026 của Weber và Gruber cho thấy sự gay gắt trên mạng xã hội với Galactica tăng vọt còn với ChatGPT khá ổn định, và kết luận rằng cách tự định vị, chứ không phải khác biệt công nghệ đáng kể, tạo nên chênh lệch đó. Khi các khung chat ngày nay tự giới thiệu là trợ lý nghiên cứu, câu hỏi đặt ra là ta có đổi cây thước dùng để đánh giá chúng hay không.

Câu hỏi thường gặp

Galactica của Meta là gì?

Galactica là mô hình ngôn ngữ do nhóm Meta AI và Papers with Code giới thiệu ngày 15/11/2022, được mô tả là trợ lý cho nhà khoa học. Nó được huấn luyện trên kho dữ liệu khoa học gồm 48 triệu bài báo, sách giáo khoa, mã nguồn và cơ sở dữ liệu protein, phân tử.

Vì sao Galactica bị gỡ sau ba ngày?

Người dùng và giới nghiên cứu nhanh chóng chỉ ra nó viết ra nội dung sai nhưng giọng rất tự tin, kể cả trích dẫn và bài báo không có thật. Ngày 17/11/2022, Papers with Code thông báo tạm dừng bản demo; mô hình và mã nguồn vẫn được giữ công khai.

Galactica có thật sự biến mất không?

Không. Chỉ bản demo trên web bị tạm dừng. Theo nguồn của kênh, mã nguồn và các bản mô hình vẫn công khai cho ai muốn tải về.

Galactica và ChatGPT khác nhau ở đâu?

Cả hai đều có thể nói sai một cách tự tin. Khác biệt chính là cách tự định vị: Galactica được giới thiệu như công cụ tổ chức tri thức khoa học, còn ChatGPT ra mắt như một khung trò chuyện và nêu sẵn hạn chế là đôi khi trả lời nghe hợp lý nhưng sai.

Có đúng Galactica bịa ít hơn ChatGPT không?

Đó là lời của phía Meta, và chưa có phép thử nào đặt hai mô hình lên cùng một bộ đề vào thời điểm đó. Vì vậy chưa thể khẳng định điều này.

Meta rút ra bài học gì sau Galactica?

Theo Joelle Pineau, Galactica là dự án nghiên cứu nhưng bị đón nhận với kỳ vọng dành cho sản phẩm, và các bài học được đưa vào thế hệ sau. Tháng 2/2023, Llama ra mắt với hình thức phải xin phép để sử dụng.

Nguồn tham khảo

Bài viết tóm tắt từ video của kênh; nội dung mang tính giới thiệu.