“Thay vì giọng của Alexa đang đọc sách, đó là giọng của bà nội của đứa bé”, Rohit Prasad, phó chủ tịch cấp cao kiêm trưởng nhà khoa học AI của Alexa, đã giải thích một cách hào hứng vào hôm thứ Tư trong một bài phát biểu quan trọng ở Las Vegas. (Người sáng lập Amazon, Jeff Bezos, sở hữu tờ The Washington Post.)
lời đề nghị Đây là cái nhìn đầu tiên của chúng tôi về tính năng mới nhất của Alexa, mặc dù vẫn đang trong quá trình phát triển – sẽ cho phép trợ lý giọng nói lặp lại giọng nói của mọi người từ các đoạn âm thanh ngắn. Prasad cho biết, mục tiêu là xây dựng niềm tin lớn hơn với người dùng bằng cách truyền cho AI “những đặc điểm của con người là sự đồng cảm và ảnh hưởng.”
Tính năng mới có thể ‘làm cho [loved ones’] Các chuyên gia cho biết: “Flashbacks”, Prasad nói.
Rachel Tobak, Giám đốc điều hành của SocialProof Security có trụ sở tại San Francisco, nói với The Washington Post: “Tôi không cảm thấy như thế giới của chúng ta đã sẵn sàng cho công nghệ nhân bản giọng nói dễ sử dụng. Cô nói thêm rằng công nghệ như vậy có thể được sử dụng để thao túng công chúng thông qua âm thanh hoặc video clip giả mạo.
“Nếu tội phạm mạng có thể sao chép giọng nói của người khác một cách dễ dàng và đáng tin cậy bằng cách sử dụng một mẫu giọng nói nhỏ, chúng có thể sử dụng mẫu giọng nói đó để mạo danh những người khác”, Tupac, một chuyên gia an ninh mạng cho biết thêm. “Kẻ xấu này sau đó có thể lừa người khác nghĩ rằng họ là người mà họ đang mạo danh, điều này có thể dẫn đến gian lận, mất dữ liệu, chiếm đoạt tài khoản, v.v.”
Tama Lever, giáo sư nghiên cứu Internet tại Đại học Curtin ở Úc, cho biết có nguy cơ làm mờ ranh giới giữa con người và máy móc.
“Bạn sẽ không nhớ đã nói chuyện với những tầng sâu của Amazon … và Dịch vụ thu thập dữ liệu của nó Nếu anh ấy đang nói chuyện với bà của bạn, hoặc giọng ông của bạn, hoặc giọng nói của một người thân yêu. “
“Nó hơi giống một tập của Black Mirror,” Leaver nói, lưu ý. Một loạt phim khoa học viễn tưởng mô tả một tương lai dưới tựa đề công nghệ.
Leaver nói thêm rằng tính năng Alexa mới cũng đặt ra câu hỏi về sự đồng ý – đặc biệt là đối với những người chưa bao giờ tưởng tượng giọng nói của họ sẽ được một trợ lý cá nhân tự động mang theo sau khi họ qua đời.
Leaver nói: “Việc sử dụng dữ liệu của những người đã qua đời theo cách rất dễ gây sợ hãi nhưng mặt khác lại rất phi đạo đức vì họ chưa bao giờ nghĩ đến việc sử dụng những hiệu ứng này theo cách này.
Vừa mất ông nội, Lever cho biết anh thông cảm với “sự cám dỗ” khi muốn nghe giọng nói của một người thân yêu. Tuy nhiên, ông nói, khả năng mở ra một cánh cửa hậu quả mà xã hội có thể không sẵn sàng gánh chịu – ví dụ, Ai có quyền đối với những đoạn trích nhỏ mà mọi người để lại cho những người có ảnh hưởng trên World Wide Web?
“Nếu ông của tôi gửi cho tôi 100 tin nhắn, tôi có quyền nhập nó vào hệ thống không? Và nếu tôi làm vậy, ai sở hữu nó? Amazon có đoạn ghi âm đó không?”, Anh hỏi. “Bạn đã từ bỏ quyền có tiếng nói của ông tôi chưa?”
Prasad đã không nêu chi tiết về những chi tiết như vậy trong bài phát biểu hôm thứ Tư. Tuy nhiên, ông cho rằng khả năng bắt chước âm thanh là sản phẩm của “chắc chắn đang sống trong thời kỳ hoàng kim của trí tuệ nhân tạo, nơi mà những giấc mơ và khoa học viễn tưởng của chúng ta đã trở thành hiện thực.”
Nếu bản demo của Amazon trở thành một tính năng thực sự, Leaver cho biết mọi người có thể cần bắt đầu suy nghĩ về cách giọng nói và sự đáng yêu của họ sẽ được sử dụng khi họ qua đời.
“Tôi có nên cân nhắc trong ý muốn rằng tôi cần phải nói, ‘Giọng nói của tôi và lịch sử được chụp ảnh của tôi trên mạng xã hội là tài sản của các con tôi và chúng có thể quyết định xem chúng có muốn khơi gợi lại điều đó khi trò chuyện với tôi hay không?’ ” Lever hỏi.
“Đó là một điều kỳ lạ để nói bây giờ. Nhưng có lẽ đó là một câu hỏi mà chúng tôi cần có câu trả lời trước khi Alexa bắt đầu nói như tôi vào ngày mai.”
“Kẻ đam mê du lịch tồi tệ. Kẻ nghiện internet hèn hạ ghê tởm. Rượu vô cớ.