Vụ xe tự lái của Uber ở Tempe, Arizona, đêm 18/3/2018 là lần đầu tiên một người đi bộ thiệt mạng vì một chiếc xe tự lái đang thử nghiệm: bà Elaine Herzberg, 49 tuổi. Chiếc xe đã phát hiện một vật phía trước từ khoảng 5,6 giây trước va chạm nhưng vẫn không phanh kịp. Bài viết đi qua từng "lát pho mát" an toàn bị thủng để trả lời vì sao.

Tóm tắt nhanh

Không có một lỗi duy nhất. Theo kịch bản của video, dựa chủ yếu trên báo cáo của NTSB, bốn lớp an toàn cùng thất bại: chính sách của bang không hỏi về độ an toàn, phần mềm và phần cứng của chiếc xe có nhiều lỗ hổng, người ngồi sau vô lăng bị đặt vào vai trò mà con người làm kém nhất là canh chừng máy, và hệ thống điều tra, pháp lý sau đó chỉ đưa một cá nhân ra tòa.

Diễn biến chính

2015–2018: Uber lao vào cuộc đua xe tự lái

Theo lời kể được báo chí dẫn lại, Giám đốc điều hành Travis Kalanick coi xe tự lái là chuyện sống còn của Uber. Sau khi bị thu hồi đăng ký mười sáu chiếc Volvo ở California, Uber chuyển sang Arizona, nơi Thống đốc Doug Ducey đã ký sắc lệnh mời các hãng thử xe từ năm 2015. Đến đầu năm 2018, trung tâm ở Tempe có 40 chiếc Volvo XC90 và 254 người giám sát. Ngày 1/3/2018, một sắc lệnh mới cho phép cả xe không có người lái. NTSB sau này ghi nhận bang không xét hồ sơ an toàn trước khi cho thử.

2017–2018: Những lỗ hổng trong cỗ máy

Chiếc xe có một lidar, tám radar, mười một camera và mười hai cảm biến siêu âm, nhưng phần mềm có ba điểm yếu. Nó không được thiết kế để tính đến người băng ngang ngoài vạch kẻ. Mỗi lần đổi nhãn một vật, nó xóa lịch sử di chuyển của vật đó, nên vật bị coi là đứng yên. Và nó có cơ chế "kìm hành động": khi gặp tình huống khẩn cấp, xe chờ một giây rồi mới phản ứng, không báo cho người lái, và không phanh hết cỡ chỉ để giảm nhẹ va chạm.

Hệ thống phanh khẩn cấp City Safety của Volvo cũng bị tắt khi phần mềm của Uber chạy, vì nhiễu radar và vì bộ phanh chỉ nên nghe lệnh của một bên. Về sau Volvo mô phỏng lại đêm đó 20 lần: nếu hệ thống của họ còn bật, xe tránh được va chạm trong 17 lần. Trong gần hai năm trước đó, xe tự lái của Uber dính 37 vụ va chạm và sự cố, phần lớn do xe khác đâm vào. Nhóm công nghệ tiên tiến cũng không có bộ phận hay kế hoạch an toàn riêng.

Mùa thu 2017: Con người bị đặt cuối hàng

Ban đầu mỗi xe chở hai người: một người canh đường, một người ghi chú. Khoảng tháng 9–10/2017, Uber giảm xuống một người để có thêm xe chạy thử. Người còn lại phải nhìn đường, giữ tay chờ trên vô lăng và ghi chú trên máy tính bảng. Nhà tâm lý học Lisanne Bainbridge từng chỉ ra từ năm 1983 rằng con người rất khó giữ chú ý quá chừng nửa giờ vào nơi hiếm khi xảy ra chuyện. Uber có camera trong cabin nhưng video hiếm khi được xem; công ty từng bắt 18 người giám sát dùng điện thoại, trong đó 9 người bị đuổi việc.

18/3/2018: Sáu giây cuối cùng

Người ngồi sau vô lăng là bà Rafaela Vasquez, 44 tuổi, đã chạy cung đường này ở chế độ tự lái 73 lần. Theo NTSB và cảnh sát, một chương trình truyền hình phát trên điện thoại của bà từ 21:16 đến 21:59, và bà nhìn xuống 166 lần trong hơn hai mươi phút cuối. Về phía chiếc xe, radar thấy một vật ở 5,6 giây trước và gọi nó là xe hơi. Các nhãn sau đó nhảy giữa xe hơi, vật lạ và xe đạp. Đến 1,2 giây trước, xe mới hiểu đây là tình huống khẩn cấp, rồi chờ một giây và chỉ phát tiếng chuông. Bà Vasquez chụp vô lăng quá muộn.

2018–2019: Điều tra, vá lỗi, pháp lý

Uber dừng xe tự lái ở mọi thành phố, ông Ducey đình chỉ Uber tại Arizona, và gia đình bà Herzberg đạt thỏa thuận dàn xếp với điều khoản giữ kín. Tháng 12/2018, Uber chạy lại ở Pittsburgh với vòng ngắn, tốc độ thấp, hai người mỗi xe, camera theo dõi mắt người lái và phanh Volvo được bật lại. Ngày 4/3/2019, công tố quận Yavapai thông báo không có cơ sở truy cứu trách nhiệm hình sự đối với Uber. Ngày 19/11/2019, NTSB kết luận nguyên nhân có khả năng nhất là người giám sát bị điện thoại làm phân tâm, đồng thời nêu các yếu tố góp phần của Uber: đánh giá rủi ro không đầy đủ, giám sát người lái kém, không chống sự tự mãn do tự động hóa, trong một văn hóa an toàn yếu kém. NTSB cũng nhắc đến việc bang Arizona giám sát thử nghiệm chưa đủ chặt.

2020–2023: Một người ra tòa

Tháng 8/2020, bà Vasquez bị truy tố tội ngộ sát do cẩu thả. Ngày 28/7/2023, bà nhận tội nhẹ hơn là gây nguy hiểm cho người khác và nhận ba năm quản chế, không phải ngồi tù. Tháng 12/2020, Uber chuyển nhóm xe tự lái cho Aurora và còn bỏ thêm 400 triệu USD để đổi lấy cổ phần. Lối gạch đỏ hình chữ X trên dải phân cách đại lộ Mill sau đó được thay bằng đá.

Điều còn tranh cãi hoặc cần thận trọng

  • "Xe biết có người từ 5,6 giây trước": chưa đúng hẳn. Lúc đó radar chỉ thấy một vật và gọi là xe hơi. NTSB cho biết hệ thống chưa bao giờ phân loại chính xác bà là người đi bộ.
  • "Người đầu tiên chết vì xe tự lái": trước đó đã có tài xế thiệt mạng khi dùng chế độ hỗ trợ lái của Tesla. Chính xác hơn, bà Herzberg là người đi bộ đầu tiên chết vì một xe tự lái đang thử nghiệm.
  • "Người lái mải xem điện thoại": dữ liệu và camera rất mạnh, nhưng bên bào chữa nói bà Vasquez đang xem ứng dụng công việc trên một thiết bị khác. Vụ án kết thúc bằng tội gây nguy hiểm, không phải bản án ngộ sát; và NTSB nói rõ họ tìm nguyên nhân chứ không quy lỗi.
  • Va chạm "khó tránh"? Ngay sau vụ việc, cảnh sát trưởng Tempe nói cú va chạm có lẽ khó tránh. Về sau hồ sơ cảnh sát kết luận hoàn toàn có thể tránh được; đoạn video camera trước trông tối hơn thực tế, và cảnh sát cho người đóng thế đứng đúng chỗ thì người lái nhìn thấy từ gần 200 mét.
  • Lời của Kalanick và email của Robbie Miller là thông tin do báo chí dẫn lại, độ chắc ở mức trung bình.

Vì sao câu chuyện này đáng nhớ?

Nhà tâm lý học James Reason đề xuất mô hình pho mát Thụy Sĩ: tai nạn lớn xảy ra khi lỗ hổng ở nhiều lớp phòng vệ nằm thẳng hàng, và những lỗ nguy hiểm nhất thường được khoét từ trước, trong phòng họp, bản thiết kế hay một dòng mã. Người ở mũi nhọn thường là người dễ bị nhìn thấy nhất. Ở Tempe, con người không phải lớp cuối cùng một cách tình cờ; họ bị đặt vào đó, sau khi các lớp khác lần lượt bị gỡ bỏ.

Câu "luôn có con người giám sát" vẫn được dùng để trấn an nhiều hệ thống AI, từ xe tự lái đến chẩn đoán y khoa. Bài học của vụ việc là một hệ thống an toàn thật sự không thể trông chờ vào lớp cuối cùng để các lỗ hổng lệch nhau, và cần hỏi: khi người giám sát mỏi mắt, ai sẽ chịu trách nhiệm?

Câu hỏi thường gặp

Vụ xe tự lái Uber đâm người ở Tempe xảy ra khi nào?

Khoảng 21:58 tối Chủ nhật 18/3/2018, trên đại lộ Mill, thành phố Tempe, bang Arizona. Nạn nhân là bà Elaine Herzberg, 49 tuổi, đang dắt xe đạp băng qua đường ngoài vạch kẻ.

Vì sao chiếc xe tự lái không phanh dù đã phát hiện vật cản?

Phần mềm liên tục đổi nhãn vật thể và xóa lịch sử di chuyển mỗi lần đổi, nên không nhận ra bà đang băng ngang. Đến 1,2 giây trước va chạm nó mới coi là khẩn cấp, rồi chờ thêm một giây theo cơ chế kìm hành động và chỉ phát tiếng chuông.

NTSB kết luận nguyên nhân vụ tai nạn là gì?

Ngày 19/11/2019, NTSB cho rằng nguyên nhân có khả năng nhất là người giám sát không theo dõi đường vì bị điện thoại cá nhân làm phân tâm. Họ cũng nêu các yếu tố góp phần của Uber, trong đó có văn hóa an toàn yếu kém.

Ai phải chịu trách nhiệm hình sự trong vụ này?

Công tố quận Yavapai thông báo tháng 3/2019 là không có cơ sở truy cứu trách nhiệm hình sự đối với Uber. Bà Rafaela Vasquez nhận tội gây nguy hiểm cho người khác ngày 28/7/2023 và chịu ba năm quản chế.

Bà Herzberg có phải người đầu tiên chết vì xe tự lái không?

Chưa chính xác hoàn toàn. Trước đó đã có tài xế chết khi dùng chế độ hỗ trợ lái của Tesla. Bà là người đi bộ đầu tiên thiệt mạng vì một chiếc xe tự lái đang thử nghiệm.

"Tự mãn do tự động hóa" nghĩa là gì?

Là xu hướng con người càng tin máy thì càng bớt chú ý canh chừng. Phó chủ tịch NTSB Bruce Landsberg dùng cụm từ này khi nhắc việc Uber bỏ người quan sát thứ hai vì mọi thứ dường như suôn sẻ.

Nguồn tham khảo

  • NTSB, báo cáo NTSB/HAR-19/03 về vụ va chạm giữa xe do hệ thống lái tự động thử nghiệm điều khiển và người đi bộ tại Tempe, Arizona, ngày 18/3/2018 (công bố 19/11/2019)
  • Wikipedia, mục "Death of Elaine Herzberg"
  • AZFamily/AP, tường thuật phiên nhận tội năm 2023
  • TechCrunch (12/2018 và 12/2020) về email của Robbie Miller và thương vụ Aurora
  • Automotive Fleet, Fortune, NBC, KTVU, KTAR, Phoenix New Times (các bài đương thời)
  • AHRQ PSNet và HAL-INERIS về mô hình pho mát Thụy Sĩ của James Reason

Bài viết tóm tắt từ video của kênh; nội dung mang tính giới thiệu.