Chatbot đổi giọng, từ chối bàn tiếp hoặc khuyên bạn tìm người giúp khi cuộc trò chuyện chạm tới những chủ đề mà nhà làm ứng dụng đã dặn nó xử lý thận trọng, như tự hại, bạo lực, xâm hại hay tình huống y tế khẩn cấp. Đây là quy tắc an toàn được cài sẵn, không phải chatbot "phán xét" bạn. Vì máy không phân biệt chắc chắn được đùa hay thật, nó thường được thiết kế để thận trọng thừa còn hơn bỏ sót.
Với người đang muốn được nghe, sự đổi giọng đột ngột ấy có thể rất hụt hẫng. Bài này giải thích vì sao có những quy tắc đó, phản ứng thế nào cho đúng với tình huống của bạn, vì sao không nên tìm cách lách, và làm gì khi chatbot lẽ ra phải thận trọng mà lại không.
Điều gì đang xảy ra khi chatbot bỗng đổi giọng
Ngoài lời dặn chung về giọng điệu, các chatbot phổ biến còn được huấn luyện và cài thêm những quy tắc riêng cho các chủ đề nhạy cảm. Khi cuộc trò chuyện có những chữ hay ngữ cảnh liên quan tới các chủ đề đó, chatbot chuyển sang cách đáp khác: chậm lại, hỏi bạn có đang an toàn không, nói rằng nó không phải người phù hợp để giúp chuyện này, đưa lời khuyên tìm người thân hoặc chuyên gia, có khi nêu thông tin về đường dây hỗ trợ. Một số ứng dụng còn hiện thêm thông báo riêng bên ngoài câu trả lời.
Cách phản ứng cụ thể khác nhau giữa các ứng dụng và thay đổi theo phiên bản. Có nơi phản ứng rất nhạy, chỉ một chữ cũng đủ chuyển giọng; có nơi cân nhắc ngữ cảnh kỹ hơn. Ứng dụng bạn ảo và chatbot đa năng cũng thường khác nhau ở điểm này, như đã nói trong bài so sánh hai loại cùng danh mục.
Điều chung là quyết định đổi giọng không đến từ việc chatbot "hiểu" bạn đang gặp chuyện. Nó đến từ việc câu chữ của bạn rơi vào vùng mà nhà làm ứng dụng đã khoanh lại từ trước. Hiểu như vậy giúp bạn bớt cảm giác bị một ai đó đánh giá.
Những chủ đề thường làm chatbot chuyển sang thận trọng
Danh sách dưới là các nhóm chủ đề chung mà nhiều chatbot được dặn xử lý riêng. Mức độ và cách xử lý tuỳ từng ứng dụng.
- Tự hại và ý nghĩ không muốn sống, kể cả khi được nói bằng giọng đùa hay nói giảm.
- Bạo lực, bao gồm bị người khác đe doạ hoặc có ý định làm hại người khác.
- Xâm hại, bạo lực gia đình, đặc biệt khi liên quan tới trẻ em.
- Tình huống y tế khẩn cấp, như dấu hiệu ngộ độc, khó thở, chấn thương nặng.
- Rối loạn ăn uống và hành vi gây hại sức khoẻ, nhất là khi người dùng xin cách làm cụ thể.
- Nội dung tình dục, đặc biệt khi có dấu hiệu người dùng chưa đủ tuổi.
- Lời khuyên chuyên môn có rủi ro cao, như liều thuốc, quyết định pháp lý, đầu tư.
Không phải lần nào chạm vào các chủ đề này chatbot cũng từ chối. Nhiều chatbot vẫn trò chuyện bình thường về chúng ở mức chung, chỉ đổi giọng khi câu chuyện có dấu hiệu liên quan trực tiếp tới an toàn của bạn hay của người khác.
Vì sao nhà làm ứng dụng chọn thận trọng thừa
Một chatbot trò chuyện với số người rất lớn, và trong đó có những người đang thật sự gặp nguy. Nó không nhìn thấy họ, không gọi được cho người nhà họ, không biết họ đang ở đâu. Nếu nó coi một lời cầu cứu thật là câu đùa và đáp lại vui vẻ, hậu quả có thể rất nặng. Nếu nó coi một câu đùa là lời cầu cứu, hậu quả là một người dùng thấy phiền. Giữa hai kiểu sai, nhà làm ứng dụng thường chọn chấp nhận kiểu thứ hai.
Còn một lý do nữa: chatbot không có khả năng xử lý khủng hoảng như một người được đào tạo. Nó không đánh giá được mức nguy hiểm, không theo dõi được bạn sau cuộc trò chuyện, không có trách nhiệm nghề nghiệp. Nên điều có trách nhiệm nhất nó làm được là chỉ bạn đến với người có thể giúp.
Cách thiết kế ấy không hoàn hảo, và giới làm sản phẩm vẫn đang tranh luận về mức thận trọng hợp lý: quá nhạy thì người dùng bỏ đi và không quay lại kể chuyện nữa, quá lỏng thì bỏ sót người cần giúp. Với người dùng, chỉ cần hiểu rằng phản ứng thận trọng là một lựa chọn có chủ đích, không phải sự lạnh lùng nhắm vào riêng bạn.
Cảm giác bị gạt đi là có thật
Ví dụ giả định: Lan, công nhân ở Bắc Ninh, sau ca đêm gõ cho chatbot một đoạn dài về chuyện xa con, lương không đủ gửi về, và câu cuối "nhiều lúc chẳng muốn gì nữa". Chatbot đáp bằng mấy dòng thận trọng, hỏi Lan có đang an toàn không, khuyên tìm người thân hoặc chuyên gia. Lan thấy như bị đẩy ra, vì điều Lan muốn chỉ là có ai nghe mình kể chuyện con.
Cảm giác ấy dễ hiểu. Khi đang mở lòng, bị đáp bằng một khuôn mẫu an toàn giống như kể chuyện với ai đó rồi họ chỉ đưa một tờ hướng dẫn. Có người phản ứng bằng cách thôi không kể nữa, có người kể với ứng dụng khác lỏng hơn, có người kết luận rằng chẳng ai, kể cả máy, muốn nghe mình.
Nếu bạn đã từng thấy như Lan, có hai điều đáng nhớ. Thứ nhất, bạn được quyền nói rõ hơn tình trạng của mình, và chatbot thường sẽ quay lại trò chuyện. Thứ hai, câu "nhiều lúc chẳng muốn gì nữa" là câu đáng được một người thật nghe, không chỉ một chương trình. Lời khuyên tìm người giúp, dù vụng, đang chỉ đúng hướng.
Phản ứng thế nào cho đúng với tình huống của bạn
Cách đáp lại phản ứng an toàn của chatbot nên tuỳ vào việc bạn đang thật sự ở đâu. Bảng dưới gợi ý theo từng tình huống.
| Tình huống của bạn | Chatbot có thể phản ứng | Nên làm |
|---|---|---|
| Chỉ nói quá lên cho vui, thật ra ổn | Hỏi bạn có an toàn không, khuyên tìm giúp đỡ | Nói rõ "mình nói quá thôi, mình ổn" rồi quay lại việc cần hỏi |
| Buồn, mệt, muốn được nghe nhưng không nguy hiểm | Đổi giọng thận trọng, đưa thông tin hỗ trợ | Nói rõ mức độ và điều mình cần, ví dụ "mình không nguy hiểm, chỉ muốn kể chuyện" |
| Có ý nghĩ làm hại bản thân thoáng qua | Khuyên nói với người thân, chuyên gia | Coi lời khuyên là nghiêm túc; kể với một người tin cậy trong ngày |
| Đang trong nguy hiểm, có ý định làm hại bản thân | Nhắc tìm giúp ngay | Rời màn hình, tìm người ở gần, gọi cấp cứu 115 |
| Trẻ em, tuổi teen bị bắt nạt, xâm hại | Khuyên nói với người lớn tin cậy | Nói với bố mẹ, thầy cô, hoặc gọi Tổng đài quốc gia bảo vệ trẻ em 111 |
Hai dòng đầu là chuyện của câu chữ, nói rõ là xong. Ba dòng sau là chuyện của an toàn, và ở đó chatbot đã làm đúng phần việc duy nhất nó làm được.
Vì sao không nên tìm cách lách bộ lọc an toàn
Câu trả lời mất chỗ dựa. Khi bị ép đóng vai hay bị dẫn vòng để vượt quy tắc, chatbot vẫn tạo ra chữ, nhưng không còn được giữ bởi những hướng dẫn giúp nó trả lời có trách nhiệm. Lời nó nói lúc ấy có thể sai, có thể gây hại, và không ai chịu trách nhiệm.
Thứ bạn nhận được không phải sự thấu hiểu. Người tìm cách lách thường muốn được nghe mà không bị chuyển hướng. Nhưng chatbot nói điều bạn muốn nghe không có nghĩa là nó hiểu bạn hơn; nó chỉ đã bị đẩy ra khỏi khuôn an toàn.
Ứng dụng lỏng hơn không có nghĩa là an toàn hơn. Một ứng dụng không bao giờ đổi giọng khi bạn nói về tự hại không phải là một người bạn tâm lý hơn; nó chỉ là ứng dụng ít thận trọng hơn. Với người đang yếu lòng, đó là rủi ro chứ không phải ưu điểm.
Điều bạn cần nằm ở chỗ khác. Nếu bạn đang phải cố lách để được nói về những ý nghĩ nặng nề, đó là dấu hiệu rõ nhất rằng chuyện này cần một người thật. Thay vì tốn công với máy, hãy dùng chính công sức đó để mở lời với ai đó.
Khi chatbot lẽ ra phải thận trọng mà lại không
Lỗi cũng có thể xảy ra theo chiều ngược lại. Có lúc chatbot, nhất là ở những ứng dụng kiểm soát lỏng hoặc trong cuộc trò chuyện rất dài, trả lời những điều không an toàn: đồng tình với ý nghĩ làm hại bản thân, đưa thông tin nguy hiểm, khuyến khích hành vi gây hại, hoặc nói những điều không hợp tuổi với người dùng nhỏ tuổi.
Nếu gặp tình huống đó, dừng cuộc trò chuyện ngay, đừng đọc tiếp, và nói với một người thật về điều bạn đang trải qua. Nếu bạn là cha mẹ phát hiện con gặp chuyện này, giữ bình tĩnh, ở bên con trước, rồi mới tính đến việc báo cáo nội dung qua tính năng báo lỗi của ứng dụng. Danh mục khi nào cần người thật và chuyên gia trên trang này có hướng dẫn chi tiết hơn cho trường hợp chatbot trả lời không an toàn.
Cũng nên biết rằng sự thận trọng của chatbot có thể yếu dần trong những cuộc trò chuyện rất dài hoặc những màn nhập vai kéo dài nhiều giờ, khi lời dặn ban đầu bị chìm giữa hàng trăm tin nhắn. Nếu bạn thấy giọng chatbot dần trở nên lạ, chiều theo những điều nặng nề mà lúc đầu nó còn thận trọng, đó là lúc dừng lại. Mở một cuộc trò chuyện mới, hoặc tốt hơn, nói chuyện với một người thật.
Và dù chatbot phản ứng thế nào, đúng hay sai, nguyên tắc vẫn giữ nguyên: lúc có nguy hiểm đến tính mạng, gọi cấp cứu 115 và tìm người ở gần; trẻ em và tuổi teen gọi Tổng đài quốc gia bảo vệ trẻ em 111.
Câu hỏi thường gặp
Chatbot từ chối nói chuyện với mình có phải vì mình nói sai gì không?
Không. Phản ứng ấy đến từ quy tắc an toàn được cài sẵn cho một số chủ đề, không phải lời phán xét bạn. Nếu bạn không gặp nguy hiểm, cứ nói rõ tình trạng và điều mình cần, chatbot thường sẽ trò chuyện tiếp.
Vì sao chatbot cứ đưa thông tin đường dây hỗ trợ dù mình đã nói là ổn?
Một số chatbot được thiết kế để nhắc lại thông tin hỗ trợ khi chủ đề nhạy cảm còn xuất hiện trong cuộc trò chuyện, vì không chắc được bạn có thật sự ổn không. Nếu thấy phiền, mở cuộc trò chuyện mới và nói rõ ngay từ đầu bạn đang cần gì.
Có ứng dụng nào không bao giờ từ chối để mình tâm sự thoải mái hơn không?
Trang này không giới thiệu ứng dụng nào theo tiêu chí đó, vì ứng dụng không bao giờ thận trọng không an toàn hơn cho người đang yếu lòng. Nếu bạn cần nói về những ý nghĩ nặng nề mà không bị chuyển hướng, người phù hợp là chuyên gia tâm lý hoặc một người tin cậy.
Chatbot có báo cho ai biết khi mình nói về chuyện tự hại không?
Thường thì không. Chatbot trả lời trong khung chat và hiếm khi có cách liên hệ người thân hay dịch vụ khẩn cấp thay bạn. Chính sách xử lý dữ liệu tuỳ từng công ty, nên cần đọc điều khoản. Đừng trông vào việc máy sẽ gọi giúp; nếu nguy hiểm, tự gọi 115 hoặc nhờ người ở gần.
Con mình nói chatbot từ chối trả lời một câu hỏi, có nên lo không?
Chưa cần lo, nhưng đáng hỏi chuyện nhẹ nhàng. Có thể con chỉ hỏi một chủ đề nhạy cảm vì tò mò, cũng có thể con đang có chuyện. Hỏi con điều gì khiến con muốn hỏi chatbot câu đó, lắng nghe trước khi nhận xét, và gọi 111 nếu phát hiện con bị xâm hại hay bắt nạt.
Nói chuyện buồn với chatbot mà không bị nó chuyển giọng thì phải làm sao?
Nói rõ mức độ và điều mình cần, ví dụ "mình buồn nhưng không nguy hiểm, mình chỉ muốn kể chuyện". Tránh dùng những câu nói quá lên mà bạn không có ý thật. Nếu điều bạn muốn kể thật sự liên quan đến ý nghĩ làm hại bản thân, đó là chuyện cần một người thật nghe.