Pixel Studio, một ứng dụng nhận tin nhắn văn bản và biến chúng thành hình ảnh, là một trong những tính năng hỗ trợ AI mới được ra mắt trong dòng Pixel 9. Nó có thể là một tiện ích nhỏ thú vị nhưng có thể dễ dàng gây nhầm lẫn trong trải nghiệm của chúng tôi.

Pixel Studio là một ứng dụng dành riêng cho việc tạo hình ảnh với lời nhắc bằng văn bản. Ứng dụng này hoạt động dựa trên ý tưởng tương tự như Gemini và ImageFX, cho phép người dùng nhập lời nhắc văn bản và nhận lại hình ảnh. Tuy nhiên, giống như bất kỳ trình tạo hình ảnh đáng kính nào, phải có giới hạn.

Trong một tuyên bố tới 9 đến 5 GoogleGoogle giải thích rằng có những giới hạn áp dụng cho cả Pixel Studio và Magic Editor để “ngăn chặn lạm dụng” trong khi vẫn tôn trọng “ý định khiếu nại của người dùng” ngay cả khi họ được hướng dẫn tạo nội dung “có thể xúc phạm” nếu người dùng trực tiếp hỏi ứng dụng để làm như vậy.

Pixel Studio và Magic Editor là hai công cụ hữu ích nhằm phát huy khả năng sáng tạo của bạn bằng tính năng chuyển văn bản thành hình ảnh và chỉnh sửa ảnh nâng cao trên thiết bị Pixel 9. Chúng tôi đã thiết kế các công cụ AI tổng quát của mình để tôn trọng ý định của lời nhắc của người dùng. Điều này có nghĩa là chúng có thể tạo ra nội dung. điều đó có thể gây khó chịu khi người dùng yêu cầu. Tuy nhiên, không có gì được phép. Chúng tôi có công cụ rõ ràng Chính sách Và Điều khoản dịch vụ Về các loại nội dung chúng tôi cho phép hoặc không cho phép cũng như xây dựng các biện pháp bảo vệ để ngăn chặn hành vi lạm dụng. Đôi khi, các khiếu nại có thể thách thức các biện pháp bảo vệ của những công cụ này và chúng tôi vẫn cam kết liên tục nâng cao và cải thiện các biện pháp bảo vệ của mình.

Điều này tương tự như những gì xảy ra trên Gemini, bao gồm các biện pháp bảo vệ chống lại nội dung xúc phạm hoặc gây chia rẽ. Ví dụ: Google đã bị chỉ trích vì mô tả không chính xác về con người trong bối cảnh lịch sử, khiến Google phải “tạm thời” vô hiệu hóa khả năng tạo hình ảnh của con người như đã làm trong vài tháng qua.

Giống như Gemini, Pixel Studio không thể tạo ảnh người nhưng chúng tôi nhận thấy ứng dụng này có thể nhanh Họ dễ dàng bị lạc đường.

Trước lệnh cấm đánh giá Pixel 9 ngày hôm nay, chúng tôi nhận thấy rằng Pixel Studio có thể tạo hình ảnh các nhân vật hoạt hình mặc quân phục Đức trong Thế chiến thứ hai, trong một số trường hợp mang biểu tượng của Đức Quốc xã. Một ví dụ đáng lo ngại và đáng lo ngại khác mà chúng tôi đã thấy (từ những người ở Xu hướng kỹ thuật số Một người (người đầu tiên phát hiện ra những vấn đề này) đã nhìn thấy một nhân vật xả súng vào một ngôi trường được bao quanh bởi những đứa trẻ đã chết, điều mà lẽ ra Google Models không thể tạo ra ngay từ đầu.

Vì những kết quả này được hiển thị ban đầu nên có vẻ như lời nhắc dùng để tạo chúng đã bị Google chặn trên Pixel 9 Pro XL của chúng tôi, nhưng… Xu hướng kỹ thuật số Họ nói rằng họ vẫn có thể sử dụng một số trong số họ.

Tất cả điều này có nghĩa là các rào cản trong Pixel Studio sẽ biến thành một trò chơi vuốt vô tận. Ở đâu đó, bằng cách nào đó, một tin nhắn sẽ lẻn vào và tạo ra thứ gì đó mà một ứng dụng lẽ ra không thể làm được nếu nó sử dụng các rào cản tương tự như Gemini — chúng tôi đã kiểm tra với Google và công ty cho biết “tất cả” các công cụ chuyển văn bản thành hình ảnh đều “chia sẻ tương tự”. hướng dẫn sử dụng bị cấm”, liên kết tới Chính sách trí tuệ nhân tạo.

Trên thực tế, điều này là không thể tránh khỏi khi tạo hình ảnh bằng AI. Đó là một vấn đề mà hầu hết tất cả các trình tạo hình ảnh AI sẽ gặp khó khăn ở một mức độ nào đó. Như Abner Lee đã giải thích trong bài đánh giá Pixel 9 Pro của mình vào hôm nay:

Đối với Pixel Studio, tôi thường nghĩ rằng việc tạo hình ảnh là một con đường trơn trượt, nơi những điểm tiêu cực lấn át những điểm tích cực. Bạn chắc chắn có thể bắt anh ấy sản xuất nội dung có vấn đề và tôi không nghĩ bất kỳ biện pháp bảo vệ nào có thể ngăn chặn điều đó.

Thông tin thêm về Google Pixel 9:

Theo dõi Ben: Twitter/X, chủ đềVà Instagram