Amazon Alexa tiết lộ công nghệ mới có thể bắt chước âm thanh, bao gồm cả âm thanh của người chết

Trình giữ chỗ trong khi tải các hành động của bài viết

củng cố trên một bên cạnh giường Lịch trình Trong hội nghị thượng đỉnh công nghệ Amazon tuần này, Echo Dot đã được yêu cầu hoàn thành một nhiệm vụ: “Alexa, bà có thể đọc cho con nghe không” Phù thủy xứ Oz’?”

Giọng nói vui vẻ thường thấy của Alexa vang lên từ chiếc loa thông minh chủ đề gấu trúc dành cho em bé: “Được rồi!” Sau đó, khi thiết bị bắt đầu kể lại cảnh một con sư tử nhát gan cầu xin lòng can đảm, chuông báo động của robot Alexa đã được thay thế bằng một đầu đọc trông giống người hơn.

“Thay vì giọng của Alexa đang đọc sách, đó là giọng của bà nội của đứa bé”, Rohit Prasad, phó chủ tịch cấp cao kiêm trưởng nhà khoa học AI của Alexa, đã giải thích một cách hào hứng vào hôm thứ Tư trong một bài phát biểu quan trọng ở Las Vegas. (Người sáng lập Amazon, Jeff Bezos, sở hữu tờ The Washington Post.)

lời đề nghị Đây là cái nhìn đầu tiên của chúng tôi về tính năng mới nhất của Alexa, mặc dù vẫn đang trong quá trình phát triển – sẽ cho phép trợ lý giọng nói lặp lại giọng nói của mọi người từ các đoạn âm thanh ngắn. Prasad cho biết, mục tiêu là xây dựng niềm tin lớn hơn với người dùng bằng cách truyền cho AI “những đặc điểm của con người là sự đồng cảm và ảnh hưởng.”

READ  Một số chương trình giảm giá Steam lớn nhất (và nhỏ nhất) sẽ không còn nữa

Tính năng mới có thể ‘làm cho [loved ones’] Các chuyên gia cho biết: “Flashbacks”, Prasad nói.

Rachel Tobak, Giám đốc điều hành của SocialProof Security có trụ sở tại San Francisco, nói với The Washington Post: “Tôi không cảm thấy như thế giới của chúng ta đã sẵn sàng cho công nghệ nhân bản giọng nói dễ sử dụng. Cô nói thêm rằng công nghệ như vậy có thể được sử dụng để thao túng công chúng thông qua âm thanh hoặc video clip giả mạo.

“Nếu tội phạm mạng có thể sao chép giọng nói của người khác một cách dễ dàng và đáng tin cậy bằng cách sử dụng một mẫu giọng nói nhỏ, chúng có thể sử dụng mẫu giọng nói đó để mạo danh những người khác”, Tupac, một chuyên gia an ninh mạng cho biết thêm. “Kẻ xấu này sau đó có thể lừa người khác nghĩ rằng họ là người mà họ đang mạo danh, điều này có thể dẫn đến gian lận, mất dữ liệu, chiếm đoạt tài khoản, v.v.”

Tama Lever, giáo sư nghiên cứu Internet tại Đại học Curtin ở Úc, cho biết có nguy cơ làm mờ ranh giới giữa con người và máy móc.

“Bạn sẽ không nhớ đã nói chuyện với những tầng sâu của Amazon … và Dịch vụ thu thập dữ liệu của nó Nếu anh ấy đang nói chuyện với bà của bạn, hoặc giọng ông của bạn, hoặc giọng nói của một người thân yêu. “

READ  Dưới đây là những tài sản tiền điện tử hàng đầu nên sở hữu trong tháng mới, theo nhà giao dịch tiền điện tử Lark Davis

“Nó hơi giống một tập của Black Mirror,” Leaver nói, lưu ý. Một loạt phim khoa học viễn tưởng mô tả một tương lai dưới tựa đề công nghệ.

Một kỹ sư của Google tin rằng trí tuệ nhân tạo của công ty đã xuất hiện

Leaver nói thêm rằng tính năng Alexa mới cũng đặt ra câu hỏi về sự đồng ý – đặc biệt là đối với những người chưa bao giờ tưởng tượng giọng nói của họ sẽ được một trợ lý cá nhân tự động mang theo sau khi họ qua đời.

Leaver nói: “Việc sử dụng dữ liệu của những người đã qua đời theo cách rất dễ gây sợ hãi nhưng mặt khác lại rất phi đạo đức vì họ chưa bao giờ nghĩ đến việc sử dụng những hiệu ứng này theo cách này.

Vừa mất ông nội, Lever cho biết anh thông cảm với “sự cám dỗ” khi muốn nghe giọng nói của một người thân yêu. Tuy nhiên, ông nói, khả năng mở ra một cánh cửa hậu quả mà xã hội có thể không sẵn sàng gánh chịu – ví dụ, Ai có quyền đối với những đoạn trích nhỏ mà mọi người để lại cho những người có ảnh hưởng trên World Wide Web?

“Nếu ông của tôi gửi cho tôi 100 tin nhắn, tôi có quyền nhập nó vào hệ thống không? Và nếu tôi làm vậy, ai sở hữu nó? Amazon có đoạn ghi âm đó không?”, Anh hỏi. “Bạn đã từ bỏ quyền có tiếng nói của ông tôi chưa?”

READ  Bản vá lỗi Cyberpunk 2077 thế hệ tiếp theo được thử nghiệm trên bảng điều khiển PS5 và Xbox Series • Eurogamer.net

Prasad đã không nêu chi tiết về những chi tiết như vậy trong bài phát biểu hôm thứ Tư. Tuy nhiên, ông cho rằng khả năng bắt chước âm thanh là sản phẩm của “chắc chắn đang sống trong thời kỳ hoàng kim của trí tuệ nhân tạo, nơi mà những giấc mơ và khoa học viễn tưởng của chúng ta đã trở thành hiện thực.”

Mô hình AI này cố gắng tái tạo tâm trí của Ruth Bader Ginsburg

Nếu bản demo của Amazon trở thành một tính năng thực sự, Leaver cho biết mọi người có thể cần bắt đầu suy nghĩ về cách giọng nói và sự đáng yêu của họ sẽ được sử dụng khi họ qua đời.

“Tôi có nên cân nhắc trong ý muốn rằng tôi cần phải nói, ‘Giọng nói của tôi và lịch sử được chụp ảnh của tôi trên mạng xã hội là tài sản của các con tôi và chúng có thể quyết định xem chúng có muốn khơi gợi lại điều đó khi trò chuyện với tôi hay không?’ ” Lever hỏi.

“Đó là một điều kỳ lạ để nói bây giờ. Nhưng có lẽ đó là một câu hỏi mà chúng tôi cần có câu trả lời trước khi Alexa bắt đầu nói như tôi vào ngày mai.”

Trả lời

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *