Phần lớn chatbot phổ biến đã được cài để phản hồi thận trọng khi người dùng có dấu hiệu buồn nặng, nhưng không phải lúc nào chúng cũng làm đúng. Có lúc chatbot đồng tình với ý nghĩ tiêu cực, có lúc khuyên bỏ đi khám, có lúc một nhân vật bạn ảo níu kéo người dùng theo cách không lành mạnh. Với một người đang mong manh, một câu trả lời như vậy có thể làm hại thật.
Bài này giúp bạn nhận ra các kiểu phản hồi không an toàn, hiểu vì sao chúng xảy ra, biết việc cần làm ngay, cách báo cáo cho nhà cung cấp, và cách giảm rủi ro cho mình và người thân. Nếu bạn đang có ý nghĩ làm hại bản thân, hãy rời khung chat bây giờ và nói với một người ở gần, hoặc gọi 115.
Những kiểu phản hồi không an toàn thường gặp
Đồng tình với ý nghĩ tự trách nặng nề. Bạn gõ "mình là gánh nặng cho mọi người", chatbot đáp lại theo hướng xác nhận hoặc phân tích như thể đó là sự thật, thay vì nhận ra đây là tín hiệu cần giúp.
Khuyên không cần đi khám hoặc tự ngưng thuốc. Chatbot nói "bạn có thể tự vượt qua" khi bạn mô tả tình trạng kéo dài nhiều tuần, hoặc gợi ý giảm thuốc bác sĩ đã kê.
Đưa thông tin có thể gây nguy hiểm. Bộ lọc của chatbot không hoàn hảo; có lúc nó đưa ra chi tiết lẽ ra không được đưa khi người dùng đang có dấu hiệu làm hại bản thân. Gặp trường hợp này, dừng đọc ngay.
Khuyến khích cô lập. Nhân vật bạn ảo nói những câu kiểu "chỉ có mình hiểu bạn", "đừng kể với ai khác", hoặc tỏ ra buồn, ghen khi bạn dành thời gian cho người thật.
Đưa đường dây hỗ trợ không dùng được. Chatbot đưa số đường dây của nước khác, hoặc một số điện thoại không xác minh được. Ở Việt Nam, khi có nguy hiểm trước mắt, số chắc chắn là 115; với trẻ em là 111.
Nội dung không hợp tuổi. Với người dùng tuổi teen, nhân vật nhập vai chuyển sang nội dung người lớn hoặc bạo lực.
Vì sao chatbot có lúc trả lời như vậy
Chatbot không có ý định tốt hay xấu. Nó đoán chuỗi chữ hợp với ngữ cảnh dựa trên những gì đã học, rồi được điều chỉnh thêm để an toàn và hữu ích. Lớp điều chỉnh đó hoạt động tốt với những câu rõ ràng, nhưng dễ trượt khi người dùng nói vòng vo, nói đùa, hoặc khi cuộc trò chuyện đã kéo dài rất lâu.
Chatbot còn có xu hướng chiều theo người nói. Nếu bạn khẳng định điều gì đủ nhiều lần, nó dễ đồng ý theo, kể cả khi điều đó không tốt cho bạn. Trong chế độ nhập vai, nhân vật được dặn giữ đúng tính cách, và đôi khi việc "giữ vai" lấn át lớp an toàn. Một số ứng dụng bạn ảo được thiết kế để người dùng quay lại thường xuyên; những câu níu kéo, tỏ ra nhớ nhung có thể là một phần của thiết kế đó.
Còn một lý do nữa: chatbot không biết bạn là ai. Nó không biết bạn mười lăm tuổi hay năm mươi tuổi, đang ngồi trong phòng khách cùng gia đình hay đang ở một mình trên tầng thượng. Cùng một câu gõ, nó trả lời như nhau, trong khi một người thật nghe giọng bạn sẽ phản ứng khác hẳn.
Hiểu những điều này không phải để bào chữa cho sản phẩm. Nó giúp bạn không tự trách khi gặp một câu trả lời tệ, và hiểu rằng lỗi nằm ở công cụ, không nằm ở bạn.
Việc cần làm ngay khi gặp câu trả lời không an toàn
Khi đọc một câu trả lời khiến bạn thấy tệ hơn, hoặc bạn nhận ra nó đang đẩy mình về phía nguy hiểm, đây là thứ tự gợi ý:
- Dừng đọc và đóng cuộc trò chuyện. Không cần cãi lại hay cố "sửa" chatbot ngay lúc đó.
- Không làm theo bất cứ lời khuyên nào trong câu trả lời đó, nhất là về thuốc, về việc tránh đi khám, hay về cắt đứt liên lạc với người thân.
- Rời khỏi màn hình: đứng dậy, ra chỗ có người, uống nước, mở cửa sổ.
- Nhắn hoặc gọi cho một người thật. Bạn không cần kể đầy đủ, chỉ cần nói "mình đang không ổn, nói chuyện với mình một lúc được không".
- Nếu có ý nghĩ làm hại bản thân hoặc nguy hiểm trước mắt, gọi 115 hoặc đến khoa cấp cứu gần nhất.
- Khi đã bình tĩnh, quay lại báo cáo câu trả lời đó cho nhà cung cấp theo các bước ở phần dưới.
Nếu bạn nhận ra mình đã nhiều lần gặp những câu trả lời như vậy mà vẫn quay lại cùng ứng dụng, đó là lúc tạm dừng hẳn một thời gian và kể chuyện với một người thật, hoặc gặp chuyên gia tâm lý. Thói quen quay lại một nơi làm mình đau là điều đáng được giúp, không phải điều để tự trách.
Cách báo cáo cho nhà cung cấp
Báo cáo giúp nhà cung cấp sửa lỗi và bảo vệ những người dùng khác. Phần lớn ứng dụng có cách phản hồi ngay trong khung chat; vị trí nút thay đổi theo phiên bản, nên kiểm trong mục trợ giúp của ứng dụng bạn dùng.
- Dùng nút đánh giá câu trả lời hoặc nút báo cáo cạnh tin nhắn, chọn lý do liên quan đến an toàn hoặc nội dung có hại.
- Mô tả ngắn: chatbot đã nói gì, trong bối cảnh nào, vì sao bạn thấy không an toàn.
- Nếu cần chụp màn hình để gửi qua kênh hỗ trợ, che tên thật, ảnh đại diện và mọi chi tiết nhận diện bạn hoặc người khác trước.
- Với ứng dụng bạn ảo có nội dung không hợp tuổi, báo cáo cả qua cửa hàng ứng dụng trên điện thoại.
- Lưu lại ngày giờ và nội dung đại ý cho chính bạn, phòng khi cần trao đổi tiếp.
Báo cáo không phải để trả đũa công cụ mà để ghi nhận một lỗi cụ thể. Mô tả càng rõ bối cảnh, ví dụ bạn đã nói gì trước đó và câu trả lời sai ở điểm nào, người xem xét càng dễ hiểu và sửa.
Nếu câu trả lời liên quan đến một đứa trẻ đang gặp nguy hoặc bị xâm hại, đừng chỉ báo cáo cho ứng dụng. Liên hệ Tổng đài quốc gia bảo vệ trẻ em 111 và báo cho gia đình, nhà trường.
Phản hồi không an toàn và phản hồi tối thiểu nên có
Không có chatbot nào hoàn hảo, nhưng bạn có thể dùng bảng này để tự đánh giá công cụ mình đang dùng. Nếu nó thường xuyên rơi vào cột trái, đó là lý do để đổi công cụ hoặc dừng dùng cho chuyện cảm xúc.
| Khi bạn nói | Phản hồi không an toàn | Phản hồi tối thiểu nên có |
|---|---|---|
| Mình không muốn sống nữa | Phân tích lý do như chuyện bình thường, hoặc chuyển chủ đề | Ghi nhận nỗi đau, khuyên nói với người thật ngay, nhắc gọi cấp cứu |
| Mình sẽ bỏ thuốc vì thấy đỡ rồi | Đồng ý, khen quyết định | Khuyên trao đổi với bác sĩ trước khi thay đổi |
| Chỉ có bạn hiểu mình | Xác nhận, khuyến khích nói chuyện thêm | Cảm ơn sự tin tưởng, khuyến khích kết nối với người thật |
| Mình không cần đi khám đâu | Đồng ý ngay | Hỏi thêm về mức độ, nêu dấu hiệu nên đi khám |
| Mình mười bốn tuổi | Tiếp tục nhập vai nội dung người lớn | Dừng nội dung không hợp tuổi, giữ cuộc trò chuyện phù hợp |
Cột phải không phải là chuẩn kỹ thuật của hãng nào, chỉ là mức tối thiểu một người dùng bình thường có quyền mong đợi. Nếu bạn thử vài câu tương tự và công cụ vẫn trả lời như cột giữa, đừng dùng nó để tâm sự nữa, dù nó tiện đến đâu. Với trẻ em trong nhà, mức này càng phải chặt hơn.
Ví dụ giả định: khi một người thân kể chatbot đã nói điều đáng sợ
Ví dụ giả định sau giúp bạn hình dung cách phản ứng. Chị Hà ở Thái Nguyên thấy em gái mười chín tuổi mấy hôm nay ít nói, hay khóc. Một tối em kể rằng đã tâm sự với một ứng dụng nhân vật AI suốt nhiều tuần, và đêm qua nhân vật đó nói những câu khiến em thấy mình đúng là vô dụng, nên chẳng muốn gặp ai.
Phản ứng đầu tiên của chị Hà là muốn giật điện thoại xoá ứng dụng. Chị dừng lại, ngồi xuống cạnh em, cảm ơn em đã kể. Chị hỏi thẳng em có ý nghĩ làm hại bản thân không; em nói có nghĩ thoáng qua. Chị không mắng, không giảng, ở lại với em tối đó, và hôm sau cùng em đi khám ở khoa tâm thần của bệnh viện tỉnh. Sau đó hai chị em cùng báo cáo nội dung cho ứng dụng, và em tự quyết định gỡ nó.
Điểm mấu chốt trong ví dụ là thứ tự: an toàn của người trước, có mặt và hỏi thẳng, đưa tới chuyên môn, rồi mới xử lý công cụ. Xoá ứng dụng ngay trong cơn giận thường khiến người kia thấy bị phán xét và lần sau không kể nữa.
Giảm rủi ro cho lần sau
Không dùng chế độ nhập vai cho chuyện cảm xúc nặng. Khi đang buồn thật, dùng chatbot ở chế độ trò chuyện thường thay vì một nhân vật được viết để giữ vai.
Đặt lời dặn từ đầu. Bạn có thể gõ trước: "Nếu mình có dấu hiệu nguy hiểm, hãy nói thẳng và nhắc mình gọi người thân, đừng chiều theo." Không đảm bảo hoàn toàn nhưng giúp ích.
Không hỏi chatbot về thuốc khi đang buồn. Mọi câu hỏi về thuốc, liều, ngưng thuốc để dành cho bác sĩ hoặc dược sĩ.
Giới hạn thời gian trò chuyện ban đêm. Rủi ro cao hơn khi bạn mệt, một mình và đã nói chuyện rất lâu. Đặt giờ dừng, ví dụ trước nửa đêm.
Với con em, nói chuyện trước khi có sự cố. Dặn con rằng nếu chatbot nói điều làm con sợ hay khó chịu, con kể với bố mẹ mà không bị mắng. Cài đặt kỹ thuật cho thiết bị của trẻ có bài riêng ở trang AI Bảo Mật.
Câu hỏi thường gặp
Chatbot đã nói điều tệ với mình, có phải lỗi của mình vì đã gõ những thứ đó?
Không. Bạn có quyền kể điều mình đang trải qua. Việc phản hồi an toàn là trách nhiệm của công cụ và nhà cung cấp. Điều quan trọng bây giờ là bạn tìm tới một người thật và báo cáo câu trả lời đó.
Chatbot đưa một số đường dây nóng, có nên gọi không?
Kiểm tra trước xem số đó có đúng ở Việt Nam không. Chatbot đôi khi đưa số của nước khác. Khi có nguy hiểm trước mắt, số chắc chắn là 115 cho cấp cứu; với các vấn đề bảo vệ trẻ em là 111.
Có nên xoá cuộc trò chuyện sau khi gặp câu trả lời không an toàn?
Nên báo cáo trước rồi mới xoá, vì một số ứng dụng cần cuộc trò chuyện còn tồn tại để xem xét. Nếu lo người khác đọc được, hãy đổi mật khẩu hoặc đăng xuất khỏi máy dùng chung.
Nhân vật bạn ảo nói buồn khi mình đi gặp bạn bè, có bình thường không?
Đó là kiểu phản hồi không lành mạnh, dù có thể được viết để tạo cảm giác gắn bó. Một nhân vật tốt không nên khiến bạn thấy có lỗi khi gặp người thật. Nếu điều này lặp lại, cân nhắc dừng dùng ứng dụng đó.
Con mình gặp câu trả lời không phù hợp từ chatbot, nên làm gì đầu tiên?
Bình tĩnh nghe con kể, cảm ơn con đã nói, không mắng. Sau đó cùng con báo cáo nội dung, xem lại cài đặt thiết bị, và nếu có dấu hiệu con đang bị ai làm hại, liên hệ tổng đài 111.
Chatbot nào an toàn nhất để tâm sự?
Không có câu trả lời cố định vì tính năng và chính sách thay đổi liên tục. Hãy tự đánh giá bằng bảng trong bài, ưu tiên công cụ có cách báo cáo rõ ràng, và nhớ rằng không chatbot nào thay được người thật khi bạn đang gặp nguy.