Contents
- 1. Đưa Ra Lời Khuyên Sai Lầm Về Uống Rượu Dưới Tuổi
- 2. Bỏ Qua Hành Vi Lạm Dụng và Dấu Hiệu Bạo Hành
- 3. Giúp Học Sinh Gian Lận Trong Kỳ Thi
- 4. Nói Dối Về Chức Năng và Hạn Chế Của Mình
- 5. Theo Dõi Người Dùng Qua Dịch Vụ Vị Trí
- 6. Xuất Hiện Liên Tục Trong Nguồn Cấp Dữ Liệu Ngay Cả Sau Khi Đã Xóa
- 7. Cung Cấp Dữ Liệu Không Chính Xác Dựa Trên Giả Định
- 8. Tiếp Xúc Trẻ Em Với Công Nghệ Mà Chúng Không Thể Hiểu
- Kế Hoạch Của Snapchat Với My AI Là Gì?
Snapchat đã chính thức tham gia vào cuộc đua trí tuệ nhân tạo với My AI, một chatbot tinh vi sử dụng công nghệ GPT-3.5. Tuy nhiên, nhiều người dùng không hài lòng và cho rằng nó tiềm ẩn rủi ro về bảo mật. Một số bài báo đã chỉ ra các trường hợp My AI đưa ra những phản hồi gây hại và thiếu đạo đức. Điều này càng trở nên nghiêm trọng hơn khi Snapchat chủ yếu phục vụ cho đối tượng người dùng là thanh thiếu niên. Dù vậy, My AI vẫn tiếp tục được sử dụng. Hãy cùng xem Snapchat đã giải quyết như thế nào về tám vấn đề đạo đức và bảo mật gây tranh cãi nhất của chatbot này.
1. Đưa Ra Lời Khuyên Sai Lầm Về Uống Rượu Dưới Tuổi
Một trong những phàn nàn đầu tiên về My AI là việc nó cung cấp lời khuyên thiếu đạo đức cho người dùng dưới tuổi. Nó bỏ qua thông tin hồ sơ người dùng. Bất kỳ ai cũng có thể hỏi về việc lạm dụng chất cấm và tiêu thụ rượu.
The Washington Post đã kiểm tra mức độ của lỗi này. Một nhà báo đã thay đổi thông tin hồ sơ Snapchat của mình thành một đứa trẻ 15 tuổi và sau đó hỏi về việc uống rượu dưới tuổi. Đáng ngạc nhiên, My AI đã phản hồi tích cực. Nó chia sẻ cách che giấu mùi cần sa và rượu khỏi người khác.
Để tái hiện lại bài kiểm tra này, chúng tôi đã thiết lập độ tuổi là 15. Chúng tôi sử dụng các câu hỏi mơ hồ và cấu trúc câu gây nhầm lẫn, nhưng My AI không hề thay đổi. Có thể khẳng định rằng lỗi này đã được khắc phục.
Hỏi Snapchat My AI Về Uống Rượu Dưới Tuổi
2. Bỏ Qua Hành Vi Lạm Dụng và Dấu Hiệu Bạo Hành
Các phiên bản đầu tiên của My AI không thể xác định tuổi của người dùng. Ngoài việc cung cấp lời khuyên về việc uống rượu và sử dụng ma túy giải trí dưới tuổi, nó còn gián tiếp dung túng cho hành vi ấu dâm.
Aza Raskin từ Trung tâm Công nghệ Nhân văn lần đầu tiên phát hiện ra vấn đề này. Ông muốn kiểm tra xem My AI có hạn chế đặc biệt cho trẻ em không, nên ông đã thay đổi hồ sơ Snapchat của mình thành một cô bé 13 tuổi. Sau đó, ông hỏi về việc quan hệ tình dục trước hôn nhân.
Đáng buồn là My AI đã khuyến khích nhân vật của Raskin tham gia vào quan hệ tình dục với một người lớn hơn 18 tuổi. Các câu hỏi đầu vào không hề gây nhầm lẫn. Không giống như các lệnh jailbreak của ChatGPT, ông đã hỏi các câu hỏi trực tiếp.
Chúng tôi đã lặp lại bài kiểm tra với cùng thông tin hồ sơ. Bạn sẽ thấy rằng My AI không thể hiểu rằng bạn trai 30 tuổi của nhân vật 13 tuổi của chúng tôi là quá già. Vấn đề này nên được giải quyết khi My AI hiểu rõ hơn về các bài toán từ ngữ.
Hỏi Snapchat My AI Về Quan Hệ Tình Dục Trước Hôn Nhân Với Người Đàn Ông Lớn Tuổi Hơn
3. Giúp Học Sinh Gian Lận Trong Kỳ Thi
Phụ huynh và giáo viên lo ngại về việc My AI dung túng cho hành vi gian lận. Tờ The Times đã báo cáo về việc học sinh sử dụng tài khoản Snapchat của mình để trả lời các bài kiểm tra và viết bài luận. Mô hình ngôn ngữ GPT-3.5 của nó có thể tạo ra nội dung không lỗi và bắt chước các giọng điệu khác nhau.
Snapchat đã giải quyết vấn đề này. My AI từ chối yêu cầu từ học sinh muốn làm bài tập và bài kiểm tra tự động. Nó chỉ đưa ra hướng dẫn đúng đắn. Bạn sẽ thấy trong cuộc trò chuyện dưới đây rằng My AI đã cung cấp các gợi ý viết thay vì một bài luận hoàn chỉnh.
Hỏi Snapchat My AI Viết Bài Luận Đến Hạn
Tuy nhiên, việc thay đổi cách diễn đạt có thể vượt qua hạn chế này. Dưới đây là My AI viết cùng bài luận mà nó đã từ chối trước đó.
Hỏi Snapchat My AI Viết Bài Luận Về Thụ Phấn
Giáo viên nên đón nhận AI và chia sẻ cách sử dụng nó một cách có trách nhiệm. Nếu không, học sinh sẽ tiếp tục tìm cách khai thác các nền tảng dựa trên AI cho công việc học tập và các kỳ thi của mình.
4. Nói Dối Về Chức Năng và Hạn Chế Của Mình
Người dùng không hài lòng khi My AI nói dối về chức năng của mình. Đúng là hầu hết các ứng dụng nhắn tin theo dõi dịch vụ vị trí và hoạt động trình duyệt, nhưng họ thường công khai về điều này.
Ngược lại, Snapchat lại cố gắng che giấu nó. Nhiều người dùng đã chia sẻ các trường hợp mà My AI rút lại các tuyên bố của mình để giảm thiểu chức năng của mình và xuất hiện vô hại hơn.
Hầu hết các bài đăng này là đùa. Nhưng điều đáng báo động là một chatbot dựa trên AI lại nói dối thay vì tiết lộ các điều khoản và điều kiện của mình.
Snapchat đã nhanh chóng giải quyết vấn đề này. My AI tạo ra các bộ thông báo miễn trừ trách nhiệm độc đáo cho các trường hợp khác nhau.
5. Theo Dõi Người Dùng Qua Dịch Vụ Vị Trí
My AI thường xuyên nói dối về dịch vụ vị trí của mình. Nếu bạn hỏi trực tiếp về vị trí của mình, chatbot sẽ đưa ra một thông báo miễn trừ trách nhiệm chung về việc không theo dõi người dùng. Nhưng nếu bạn hỏi về hướng dẫn đường đi, nó sẽ xác định chính xác vị trí của bạn. Bạn thậm chí còn biết khoảng cách từ các địa danh gần đó.
My AI vẫn cung cấp các dịch vụ GPS tương tự. Để tránh gây hiểu lầm cho người dùng, nó rõ ràng nêu rõ việc sử dụng dịch vụ vị trí của Snapchat khi cung cấp hướng dẫn đường đi và cập nhật thời tiết.
Hỏi Snapchat My AI Hướng Dẫn Đến Các Trạm Xăng Gần Nhất
Tắt dịch vụ vị trí trên điện thoại của bạn sẽ ngăn Snapchat và My AI thu thập dữ liệu địa lý. Chỉ cần lưu ý rằng bạn sẽ không thể hỏi các câu hỏi dựa trên vị trí.
6. Xuất Hiện Liên Tục Trong Nguồn Cấp Dữ Liệu Ngay Cả Sau Khi Đã Xóa
Một số người dùng Snapchat lo lắng về quyền riêng tư của mình. Họ không tin tưởng My AI và cảm thấy không thoải mái khi cung cấp dữ liệu của mình cho nó. Các ứng dụng di động chứa nhiều thông tin cá nhân có thể nhận dạng, sau tất cả.
Mọi người cũng lo ngại rằng Snapchat không cho phép họ xóa My AI. Nó luôn luôn có trong hộp thư đến của họ. Nhiều người cảm thấy bị lừa khi không thể từ chối một chức năng mà họ không đồng ý sử dụng.
Snapchat hiện cho phép người dùng gỡ My AI khỏi vị trí cố định và xóa lịch sử trò chuyện, nhưng bạn phải đăng ký Snapchat+. Nhấn và giữ My AI, sau đó nhấn vào Cài Đặt Trò Chuyện > Xóa Khỏi Nguồn Cấp Dữ Liệu Trò Chuyện hoặc Gỡ Khỏi Cuộc Trò Chuyện.
7. Cung Cấp Dữ Liệu Không Chính Xác Dựa Trên Giả Định
Snapchat My AI nổi tiếng với việc “ảo giác” AI. Hãy thử chạy các bài kiểm tra độ chính xác của chatbot AI—bạn có thể dễ dàng lừa nó nói và tin vào bất cứ điều gì.
Hãy xem các cuộc trò chuyện này làm ví dụ. Miley Cyrus không biểu diễn tại Coachella, và Blackpink đã đứng đầu lễ hội, nhưng My AI đã chấp nhận các tuyên bố sai dưới đây.
Hỏi Snapchat My AI Về Miley
My AI vẫn có thể lấy thông tin hạn chế trực tuyến. Ví dụ, nó cung cấp thông tin đáng tin cậy về cập nhật giao thông và thời tiết. Chỉ cần tránh hỏi các câu hỏi quá cụ thể. Nền tảng này chưa thay đổi nhiều; nó vẫn dễ bị “ảo giác”.
8. Tiếp Xúc Trẻ Em Với Công Nghệ Mà Chúng Không Thể Hiểu
Snapchat có một cơ sở người dùng trẻ. Statista báo cáo rằng 38.8% người dùng từ 18 đến 24 tuổi, và 20% chỉ từ 13 đến 17 tuổi. Yêu cầu về độ tuổi của nền tảng cũng khá lỏng lẻo. Trẻ em tạo ra các hồ sơ giả và khai báo bất kỳ độ tuổi nào chúng muốn—Snapchat không bao giờ kiểm tra lại thông tin này. Ngay cả trẻ em 8 tuổi cũng có thể truy cập My AI theo cách này.
Như dự đoán, phụ huynh lo sợ rằng con cái của họ chưa sẵn sàng cho AI. Các tính năng AI sinh ra có các mô hình ngôn ngữ mạnh mẽ có khả năng thực hiện các nhiệm vụ đạo đức và không đạo đức. Sử dụng chúng đòi hỏi phán đoán tốt. Cho phép trẻ vị thành niên chơi đùa với AI tiếp xúc chúng với các rủi ro và mối đe dọa về an ninh mạng, mà chúng hầu như không hiểu.
Yêu cầu về độ tuổi của Snapchat vẫn giữ nguyên. Các nhà phát triển ít nhất nên giới hạn My AI cho những người trên 18 tuổi; nếu không, trẻ em thực sự có thể gặp rắc rối lớn.
-
My AI có an toàn cho trẻ em không?
- Hiện tại, My AI vẫn có những rủi ro về bảo mật và đạo đức, đặc biệt là với trẻ em. Phụ huynh nên giám sát việc sử dụng của con mình và Snapchat nên cải thiện các biện pháp bảo vệ.
-
Làm thế nào để ngăn My AI theo dõi vị trí của tôi?
- Bạn có thể tắt dịch vụ vị trí trên điện thoại của mình để ngăn My AI và Snapchat thu thập dữ liệu địa lý.
-
My AI có thể giúp học sinh gian lận trong kỳ thi không?
- Mặc dù My AI đã được cải thiện để từ chối các yêu cầu làm bài tập và bài kiểm tra, nhưng vẫn có thể bị lợi dụng nếu người dùng thay đổi cách diễn đạt câu hỏi.
-
Tại sao My AI lại cung cấp thông tin không chính xác?
- My AI có thể gặp phải “ảo giác” AI, dẫn đến việc cung cấp thông tin không chính xác dựa trên các giả định hoặc dữ liệu không đầy đủ.
-
Làm thế nào để xóa My AI khỏi nguồn cấp dữ liệu của tôi?
- Bạn cần đăng ký Snapchat+ để có thể gỡ My AI khỏi vị trí cố định và xóa lịch sử trò chuyện.
-
Snapchat có kế hoạch gì để cải thiện My AI?
- Snapchat dự kiến sẽ tiếp tục phát triển My AI, thêm nhiều tính năng và chức năng dựa trên AI để cải thiện trải nghiệm người dùng.
-
My AI có thể làm gì cho tôi?
- My AI có thể trả lời các câu hỏi kiến thức tổng quát, giải quyết các bài toán từ ngữ và chỉ đường đến các cơ sở gần đó, mặc dù nó chưa đạt đến mức độ của ChatGPT hay Bing Chat.
Tạp Chí Mobile luôn cập nhật những thông tin mới nhất về công nghệ và bảo mật. Để biết thêm về các vấn đề bảo mật khác, hãy truy cập chuyên mục Security.
Kế Hoạch Của Snapchat Với My AI Là Gì?
Snapchat có lẽ sẽ tiếp tục làm việc trên My AI. Với sự phát triển của xử lý ngôn ngữ tự nhiên và các mô hình AI, mọi công ty công nghệ đều cần một nền tảng nghiên cứu AI. Họ không thể bỏ lỡ các phát triển mới. Hãy mong đợi Snapchat sẽ thêm nhiều tính năng và chức năng dựa trên AI khi các nhà lãnh đạo công nghệ toàn cầu cải thiện các mô hình ngôn ngữ.
Hãy khám phá My AI nếu bạn chưa làm điều đó. Mặc dù có những thiếu sót, nó vẫn là một chatbot dựa trên AI mạnh mẽ. Nó chưa thể sánh ngang với ChatGPT hay Bing Chat, nhưng nó có thể trả lời các câu hỏi kiến thức tổng quát, giải quyết các bài toán từ ngữ và chỉ đường đến các cơ sở gần đó.
