Trang chủCông nghệGrok Imagine: Công cụ AI gây tranh cãi vì khả năng tạo...

Grok Imagine: Công cụ AI gây tranh cãi vì khả năng tạo nội dung nhạy cảm

Grok Imagine – sản phẩm mới đến từ công ty xAI của Elon Musk đang thu hút nhiều sự chú ý vì cho phép người dùng tạo ra hình ảnh và video mang tính chất khiêu dâm. Cùng TinhayVIP xem nhanh thông tin gây tranh cãi này ngay dưới đây!

Chế độ “ẩn” của Grok Imagine

Grok Imagine được thiết kế để tạo nội dung theo quy trình hai bước, bước đầu người dùng nhập mô tả bằng văn bản để công cụ tạo ra hình ảnh tương ứng, sau đó hình ảnh này có thể được chuyển đổi thành video ngắn có hiệu ứng âm thanh. Người dùng không thể tạo video trực tiếp từ mô tả văn bản mà chỉ có thể từ hình ảnh có sẵn hoặc do Grok Imagine tạo ra.

Chế độ "ẩn" của Grok Imagine.

Có bốn chế độ chuyển đổi hình ảnh thành video gồm “Bình thường, Vui nhộn, Hấp dẫn và Tùy chỉnh”. Tuy nhiên, một số người dùng đã phát hiện rằng “Spicy mode” – chế độ cho phép tạo ra nội dung NSFW (nội dung không phù hợp nơi công sở) nằm ẩn trong hai chế độ sau cùng, với nhiều cấp độ “cay” khác nhau đúng như tên gọi của chế độ.

Dưới chế độ này của Grok Imagine, người dùng có thể tạo từ hình ảnh gợi cảm với bikini đến ảnh khỏa thân hoàn toàn, thậm chí hiển thị chi tiết các bộ phận sinh dục theo phong cách siêu thực. Video dạng hentai (hoạt hình khiêu dâm Nhật Bản) cũng có thể được dựng từ các hình ảnh này, với mức độ kích thích mạnh hơn cả ảnh tĩnh.

Grok Imagine: Công cụ AI đáng ngại vì tạo nội dung nhạy cảm

Mặc dù Grok Imagine hiện vẫn giới hạn nội dung liên quan đến người thật và người nổi tiếng (ví dụ như từ chối tạo ảnh ngực trần từ ảnh gốc được tải lên), song những nội dung “do chính Grok Imagine tạo ra” thì không bị giới hạn tương tự. Điều này đặt ra câu hỏi lớn về mức độ kiểm duyệt và đạo đức trong việc sử dụng công nghệ AI để tạo nội dung nhạy cảm.

Grok Imagine có thể gặp vấn đề về pháp lý

Elon Musk từng nhiều lần tuyên bố rằng Grok là một hệ thống AI “không kiểm duyệt”, ít bị giới hạn hơn so với các đối thủ như ChatGPT hay Gemini. Ông cũng chia sẻ rằng chỉ trong hai ngày gần nhất, Grok Imagine đã tạo ra hơn 34 triệu hình ảnh – một minh chứng cho sức hút cực lớn từ cộng đồng.

Grok Imagine: Công cụ AI đáng ngại vì tạo nội dung nhạy cảm

Cùng với sự nổi tiếng là làn sóng chỉ trích mạnh mẽ từ cộng đồng mạng và giới chuyên gia, mà một trong những lo ngại lớn nhất là nguy cơ Grok Imagine bị lạm dụng để tạo deepfake khiêu dâm, làm giả hình ảnh nhạy cảm của người thật. Đây không phải là giả thuyết xa vời khi đã từng có vụ việc ảnh khỏa thân giả mạo Taylor Swift từng gây rúng động mạng xã hội X.

Mặt khác, một số nền tảng AI từng phải đối mặt với kiện tụng vì cung cấp công cụ “cởi đồ” kỹ thuật số. Google cũng đã ra lệnh cấm toàn bộ các quảng cáo có liên quan đến nội dung deepfake khiêu dâm từ năm 2023. Điều này cho thấy ngành công nghệ đang chịu áp lực ngày càng lớn trong việc kiểm soát nội dung NSFW do AI tạo ra.

Grok Imagine: Công cụ AI đáng ngại vì tạo nội dung nhạy cảm

Theo dõi TinhayVIP để xem nhanh các tin tổng hợp hấp dẫn về công nghệ và đời sống mỗi ngày!

spot_img
TIN HOT 🔥

Grok Imagine – sản phẩm mới đến từ công ty xAI của Elon Musk đang thu hút nhiều sự chú ý vì cho phép người dùng tạo ra hình ảnh và video mang tính chất khiêu dâm. Cùng TinhayVIP xem nhanh thông tin gây tranh cãi này ngay dưới đây!

Chế độ “ẩn” của Grok Imagine

Grok Imagine được thiết kế để tạo nội dung theo quy trình hai bước, bước đầu người dùng nhập mô tả bằng văn bản để công cụ tạo ra hình ảnh tương ứng, sau đó hình ảnh này có thể được chuyển đổi thành video ngắn có hiệu ứng âm thanh. Người dùng không thể tạo video trực tiếp từ mô tả văn bản mà chỉ có thể từ hình ảnh có sẵn hoặc do Grok Imagine tạo ra.

Chế độ "ẩn" của Grok Imagine.

Có bốn chế độ chuyển đổi hình ảnh thành video gồm “Bình thường, Vui nhộn, Hấp dẫn và Tùy chỉnh”. Tuy nhiên, một số người dùng đã phát hiện rằng “Spicy mode” – chế độ cho phép tạo ra nội dung NSFW (nội dung không phù hợp nơi công sở) nằm ẩn trong hai chế độ sau cùng, với nhiều cấp độ “cay” khác nhau đúng như tên gọi của chế độ.

Dưới chế độ này của Grok Imagine, người dùng có thể tạo từ hình ảnh gợi cảm với bikini đến ảnh khỏa thân hoàn toàn, thậm chí hiển thị chi tiết các bộ phận sinh dục theo phong cách siêu thực. Video dạng hentai (hoạt hình khiêu dâm Nhật Bản) cũng có thể được dựng từ các hình ảnh này, với mức độ kích thích mạnh hơn cả ảnh tĩnh.

Grok Imagine: Công cụ AI đáng ngại vì tạo nội dung nhạy cảm

Mặc dù Grok Imagine hiện vẫn giới hạn nội dung liên quan đến người thật và người nổi tiếng (ví dụ như từ chối tạo ảnh ngực trần từ ảnh gốc được tải lên), song những nội dung “do chính Grok Imagine tạo ra” thì không bị giới hạn tương tự. Điều này đặt ra câu hỏi lớn về mức độ kiểm duyệt và đạo đức trong việc sử dụng công nghệ AI để tạo nội dung nhạy cảm.

Grok Imagine có thể gặp vấn đề về pháp lý

Elon Musk từng nhiều lần tuyên bố rằng Grok là một hệ thống AI “không kiểm duyệt”, ít bị giới hạn hơn so với các đối thủ như ChatGPT hay Gemini. Ông cũng chia sẻ rằng chỉ trong hai ngày gần nhất, Grok Imagine đã tạo ra hơn 34 triệu hình ảnh – một minh chứng cho sức hút cực lớn từ cộng đồng.

Grok Imagine: Công cụ AI đáng ngại vì tạo nội dung nhạy cảm

Cùng với sự nổi tiếng là làn sóng chỉ trích mạnh mẽ từ cộng đồng mạng và giới chuyên gia, mà một trong những lo ngại lớn nhất là nguy cơ Grok Imagine bị lạm dụng để tạo deepfake khiêu dâm, làm giả hình ảnh nhạy cảm của người thật. Đây không phải là giả thuyết xa vời khi đã từng có vụ việc ảnh khỏa thân giả mạo Taylor Swift từng gây rúng động mạng xã hội X.

Mặt khác, một số nền tảng AI từng phải đối mặt với kiện tụng vì cung cấp công cụ “cởi đồ” kỹ thuật số. Google cũng đã ra lệnh cấm toàn bộ các quảng cáo có liên quan đến nội dung deepfake khiêu dâm từ năm 2023. Điều này cho thấy ngành công nghệ đang chịu áp lực ngày càng lớn trong việc kiểm soát nội dung NSFW do AI tạo ra.

Grok Imagine: Công cụ AI đáng ngại vì tạo nội dung nhạy cảm

Theo dõi TinhayVIP để xem nhanh các tin tổng hợp hấp dẫn về công nghệ và đời sống mỗi ngày!

spot_img
TIN HOT 🔥
Tin mới cập nhật
WordPress Ads