- Indonesia và Malaysia đã chặn Grok vì những hình ảnh giả mạo, khiêu dâm không có sự đồng thuận.
- Các quan chức trích dẫn vi phạm nhân quyền và gây hại cho người dùng.
Quyền truy cập vào Grok, chatbot trí tuệ nhân tạo do Elon Musk điều hành, đã bị chặn ở Indonesia và Malaysia sau khi công cụ này được sử dụng để tạo ra hình ảnh khiêu dâm của người thật. Động thái này được đưa ra sau nhiều ngày ngày càng có nhiều chỉ trích về việc chatbot có thể dễ dàng bị nhắc tạo hình ảnh khiêu dâm mà không có sự đồng ý.
Indonesia xác nhận hôm thứ Bảy rằng họ đã tạm thời hạn chế quyền truy cập vào chatbot được phát triển bởi xAI, công ty AI của Musk. Malaysia theo sau một ngày sau đó với khối riêng của mình. Trong khi các quan chức ở các quốc gia khác bày tỏ lo ngại hoặc kêu gọi hạn chế, Indonesia và Malaysia là những quốc gia đầu tiên có hành động chính thức chống lại đơn đăng ký này.
Các chính phủ viện dẫn mối lo ngại về tác hại và quyền lợi
Meutya Hafid, Bộ trưởng Bộ Truyền thông và Các vấn đề Kỹ thuật số của Indonesia, cho biết trong một tuyên bố đưa ra hôm thứ Bảy: “Chính phủ coi hành vi thực hiện các hành vi giả mạo tình dục không có sự đồng thuận là vi phạm nghiêm trọng nhân quyền, nhân phẩm và an ninh của công dân trong không gian kỹ thuật số”.
Quyết định này diễn ra sau nhiều tuần khiếu nại về những hình ảnh khiêu dâm do Grok tạo ra được lưu hành rộng rãi trên X, nền tảng truyền thông xã hội thuộc sở hữu của Musk. Người dùng có thể yêu cầu hình ảnh của người thật được đặt vào các tình huống rõ ràng, bao gồm cả hình ảnh đã được chỉnh sửa để cởi bỏ quần áo hoặc tạo dáng cho các cá nhân theo cách gợi dục. Nhiều hình ảnh lan truyền nhanh chóng trên nền tảng, thu hút sự tức giận từ người dùng cũng như các quan chức.
Lịch sử kiểm soát nội dung nghiêm ngặt
Phản ứng của Indonesia phù hợp với mô hình giám sát chặt chẽ hơn đối với nội dung trực tuyến. Quốc gia này đã chặn quyền truy cập vào các trang web người lớn như Pornhub và OnlyFans trong nhiều năm và đã có hành động nhanh chóng khi các nền tảng được coi là gây rủi ro cho người dùng. Năm 2018, chính quyền Indonesia đã đóng cửa TikTok một thời gian ngắn với lý do lo ngại rằng một số nội dung có thể gây hại cho trẻ em, bao gồm cả tài liệu khiêu dâm.
Malaysia cũng đã tăng cường giám sát các nền tảng trực tuyến, đặc biệt là đối với trẻ em. Các nhà quản lý ở đó cho biết họ có kế hoạch cấm trẻ em dưới 16 tuổi sử dụng mạng xã hội. Đề xuất này được đưa ra sau một số vụ việc nổi bật liên quan đến bắt nạt trực tuyến có liên quan đến cái chết của trẻ vị thành niên, làm gia tăng áp lực buộc chính phủ phải hành động.
Áp lực quốc tế tăng lên
Sự phẫn nộ đối với việc tạo dựng hình ảnh của Grok không chỉ giới hạn ở Đông Nam Á. Các quan chức và nhà lập pháp ở các quốc gia khác đã công khai chỉ trích kết quả đầu ra của chatbot. Tại Vương quốc Anh, Thủ tướng Keir Starmer đã cân nhắc về vấn đề này, trong khi Thượng nghị sĩ Hoa Kỳ Ron Wyden của Oregon, Ed Markey của Massachusetts và Ben Ray Lújan của New Mexico vào tuần trước đã gửi thư kêu gọi Apple và Google xóa ứng dụng này khỏi cửa hàng ứng dụng của họ.
Mối quan tâm của họ phản ánh một cuộc tranh luận rộng rãi hơn về các biện pháp bảo vệ trong các công cụ AI. Nhiều chatbot hạn chế người dùng tạo hình ảnh của người thật hoặc chặn những lời nhắc có thể dẫn đến nội dung tục tĩu. Musk, người thường tranh luận về việc có ít giới hạn hơn đối với lời nói, cho đến nay vẫn phản đối việc thắt chặt kiểm soát các nền tảng của mình. Kể từ khi ông tiếp quản X, nền tảng này đã phải đối mặt với những lời chỉ trích vì cho phép ngôn ngữ quấy rối và lăng mạ lan truyền tự do hơn.
Rủi ro pháp lý và phản ứng hạn chế
Các chuyên gia pháp lý và cơ quan quản lý cho biết khả năng sản xuất hình ảnh khiêu dâm không có sự đồng thuận của Grok có thể vi phạm luật pháp ở một số quốc gia. Sở hữu hoặc chia sẻ những tài liệu đó là bất hợp pháp ở nhiều khu vực pháp lý, đặc biệt khi hình ảnh liên quan đến trẻ em hoặc trẻ vị thành niên. Một số hình ảnh do Grok tạo ra được cho là bao gồm các cá nhân chưa đủ tuổi vị thành niên, làm tăng thêm phản ứng dữ dội.
Trong một bài đăng trên mạng xã hội hồi đầu tháng này, Musk nói rằng những người dùng chỉ đạo Grok tạo ra những hình ảnh khiêu dâm về trẻ em sẽ phải đối mặt với “hậu quả”. Ông không nói rõ những hậu quả đó sẽ như thế nào hoặc chúng sẽ được thực thi như thế nào.
Tường phí không làm dịu được cơ quan quản lý
xAI và X đã thực hiện một số thay đổi để đáp lại những lời chỉ trích. Tuần trước, nền tảng này đã giới hạn các tính năng tạo hình ảnh của Grok cho những người đăng ký trả phí. Quyền truy cập hiện bị hạn chế đối với những người dùng trả tiền cho các tính năng cao cấp trên X. Tuy nhiên, các cơ quan quản lý và nhóm vận động cho rằng sự thay đổi này không đúng mục đích.
Các nhà phê bình cho rằng việc đặt tính năng này đằng sau tường phí không ngăn ngừa được tác hại mà thay vào đó có nguy cơ bình thường hóa việc tạo nội dung lạm dụng. Thay vì ngừng sử dụng sai mục đích, họ nói rằng nó biến việc tạo hình ảnh thành một tùy chọn trả phí mà không giải quyết được tình trạng thiếu biện pháp bảo vệ.
Vào thứ Sáu, người phát ngôn của Starmer cho biết việc giới hạn tính năng này đối với những người đăng ký “không phải là một giải pháp” và mô tả động thái này là “xúc phạm” các nạn nhân của hành vi sai trái và bạo lực tình dục.
Hiện tại, quyền truy cập vào Grok vẫn bị chặn ở Indonesia và Malaysia khi các quan chức xem xét các bước tiếp theo. Các lệnh cấm nêu bật cách các chính phủ bắt đầu vạch ra những ranh giới vững chắc hơn xung quanh các công cụ AI có thể được sử dụng để gây hại cho các cá nhân. Họ cũng đặt ra câu hỏi về việc các cơ quan quản lý có thể phản ứng nhanh như thế nào khi các công nghệ mới lan truyền nhanh hơn các quy định nhằm quản lý chúng.
Bạn muốn trải nghiệm toàn bộ quá trình đổi mới công nghệ của doanh nghiệp? Tham gia TechEx ở Amsterdam, California và London. Bao gồm AI, Dữ liệu lớn, An ninh mạng, IoT, Chuyển đổi kỹ thuật số, Tự động hóa thông minh, Điện toán biên và Trung tâm dữ liệu, TechEx tập hợp các nhà lãnh đạo toàn cầu để chia sẻ các trường hợp sử dụng trong thế giới thực và hiểu biết sâu sắc. Bấm vào đây để biết thêm thông tin.
Tech Wire Asia được cung cấp bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới khác tại đây.
