My AI được xây dựng dựa trên mô hình ChatGPT của OpenAI. Thay vì chỉ đưa ra các đề xuất, trả lời câu hỏi và trò chuyện thông thường, chatbot của Snapchat có thể tùy chỉnh tên, thiết kế hình đại diện và xuất hiện trong cuộc trò chuyện nhóm. Đây là một chatbot đang được trẻ em sử dụng nhiều vì ứng dụng cho phép người dùng từ 13 tuổi sử dụng mà không cần sự kiểm soát của phụ huynh
Kể từ khi ra mắt vào tháng 4/2023, công cụ của Snapchat đã vấp phải phản ứng từ cộng đồng bởi những lo ngại về quyền riêng tư của trẻ em và việc ứng dụng lưu giữ dữ liệu của chúng. Nhiều người cho biết họ đã cấm con cái dùng My AI.
Với thay đổi mới này, nếu phụ huynh chọn tắt My AI, trẻ em có thể nhắn tin cho My AI nhưng chatbot sẽ chỉ phản hồi với thông báo rằng nó đã bị tắt. Đây là một phần trong những tính năng bổ sung cho công cụ giám sát dành cho phụ huynh của Snapchat, Family Center.
Snapchat cho biết trong một bài đăng trên blog rằng My AI đã bao gồm các biện pháp bảo vệ chống lại các phản hồi không phù hợp hoặc có hại, hạn chế sử dụng tạm thời nếu người dùng Snapchat lạm dụng dịch vụ nhiều lần và nhận thức về độ tuổi.
Snapchat giờ đây cũng sẽ cung cấp cho phụ huynh khả năng hiển thị các cài đặt về quyền riêng tư và an toàn của con họ trong Family Center. Cha mẹ có thể biết con cái họ chia sẻ các bài đăng của mình với ai, ai có thể liên hệ với con mình trên ứng dụng và liệu con cái họ có chia sẻ vị trí của mình với bạn bè hay không bằng tính năng “Snap Map” trực tiếp của ứng dụng.
Những thay đổi này chỉ là những cập nhật mới nhất của công cụ Family Center, cho phép các bậc cha mẹ giám sát hành vi của người dùng từ 13 - 17 tuổi nhằm giúp họ giữ an toàn cho con cái của mình. Công cụ này ra mắt vào năm 2022 trong bối cảnh có nhiều lo ngại về sự an toàn của người dùng trẻ tuổi trên Snapchat, TikTok, Instagram, YouTube và các nền tảng truyền thông xã hội khác.
Trước đó, các công ty mẹ của các nền tảng mạng xã hội gồm Snap, Google, Meta và TikTok, đã phải đối mặt với một vụ kiện cáo buộc dịch vụ của họ gây nghiện cho người dùng tuổi teen và gây ra những tổn hại khác về sức khỏe tinh thần.
Kể từ khi ra mắt Family Center, Snapchat đã liên tục triển khai nhiều biện pháp đảm bảo an toàn cho thanh thiếu niên, bao gồm cả “strike system” được giới thiệu vào tháng 9 năm ngoái đối với các tài khoản quảng cáo nội dung không phù hợp với thanh thiếu niên trong phần Stories và Spotlight, nơi người dùng có thể chia sẻ nội dung công khai trên ứng dụng.
Công ty cho biết trong bài đăng của mình: “Family Center phản ánh các mối quan hệ trong thế giới thực giữa cha mẹ và thanh thiếu niên, giúp cha mẹ nắm được thông tin chi tiết về những người mà con cái đang giao tiếp trên ứng dụng, trong khi vẫn tôn trọng quyền riêng tư về thông tin liên lạc cá nhân của con cái”.
Nền tảng này cũng nâng cấp để giúp việc tìm kiếm công cụ Family Center trở nên dễ dàng hơn. Giờ đây, bạn có thể truy cập tính năng này trong phần cài đặt hoặc bằng cách nhấn vào gần biểu tượng “bitmoji” ở phía trên bên trái màn hình chính của ứng dụng và tìm kiếm các cụm từ có liên quan như “an toàn”, “gia đình” hoặc “cha mẹ”./.
