Bạn có bị đau đầu hay là viêm xoang? Gãy xương do căng thẳng trông như thế nào? Bạn có nên lo lắng về cơn đau ở ngực không? Nếu bạn tìm kiếm những câu hỏi này trên Google ngay bây giờ, câu trả lời có thể được viết bởi trí tuệ nhân tạo.

Vào tháng 5, Google đã triển khai một tính năng mới có tên Tổng quan về AI sử dụng AI tổng quát, một loại công nghệ máy học được đào tạo về thông tin trên internet và tạo ra câu trả lời hội thoại cho một số câu hỏi tìm kiếm trong vòng vài giây.

Trong những tuần kể từ khi công cụ này ra mắt, người dùng đã gặp phải hàng loạt câu trả lời không chính xác và kỳ lạ về nhiều chủ đề. Công ty sau đó dường như đã khôi phục tính năng này cho một số tìm kiếm khi cố gắng giảm bớt những lỗi này.

Khi nói đến câu trả lời của AI cho các câu hỏi về sức khỏe, các chuyên gia cho biết mức độ rủi ro đặc biệt cao. Công nghệ này có thể hướng dẫn mọi người hướng tới những thói quen lành mạnh hoặc chăm sóc y tế cần thiết, nhưng nó cũng có khả năng cung cấp thông tin không chính xác. Trí tuệ nhân tạo đôi khi có thể tạo nên sự thật. Nếu câu trả lời của họ được định hình bởi các trang web không có cơ sở khoa học, họ có thể đưa ra lời khuyên trái ngược với lời khuyên y tế hoặc gây nguy hiểm cho sức khỏe của một người.

Hệ thống này đã được chứng minh là đưa ra những câu trả lời kém có vẻ như dựa trên các nguồn bị lỗi. Ví dụ: khi được hỏi “Tôi nên ăn bao nhiêu viên đá”, AI Tổng quan đã yêu cầu một số người dùng ăn ít nhất một viên đá mỗi ngày để nhận được vitamin và khoáng chất. (Lời khuyên được sao chép từ Hànhtrang web châm biếm.)

Tiến sĩ Karandeep Singh, giám đốc AI y tế tại UC San Diego Health cho biết: “Bạn không thể tin vào mọi thứ mình đọc. Ông nói, về sức khỏe, nguồn thông tin của bạn là rất cần thiết.

Hema Buddaraju, giám đốc quản lý sản phẩm của Google, người đang giúp lãnh đạo công việc tổng quan về AI, cho biết các tìm kiếm về sức khỏe có “các rào cản bổ sung”, nhưng từ chối mô tả chúng một cách chi tiết. Cô cho biết, những tìm kiếm được coi là nghiêm túc hoặc rõ ràng hoặc cho thấy ai đó đang ở trong tình huống dễ bị tổn thương, chẳng hạn như tự làm hại bản thân, sẽ không kích hoạt các bản tóm tắt của AI.

Google từ chối cung cấp danh sách chi tiết các trang web hỗ trợ thông tin trong Tổng quan về AI, nhưng cho biết công cụ này hoạt động cùng với… Sơ đồ tri thức của Googlemột hệ thống thông tin hiện có trích xuất hàng tỷ sự kiện từ hàng trăm nguồn.

Các phản hồi nghiên cứu mới xác định một số nguồn; Đối với các câu hỏi về sức khỏe, đây thường là các trang web như Mayo Clinic, WebMD, Tổ chức Y tế Thế giới và trung tâm nghiên cứu khoa học PubMed. Nhưng đây không phải là danh sách đầy đủ: công cụ này cũng có thể lấy từ Wikipedia, bài đăng trên blog, Reddit và các trang thương mại điện tử. Nó không cho người dùng biết sự thật nào đến từ nguồn nào.

Sử dụng kết quả tìm kiếm tiêu chuẩn, nhiều người dùng sẽ có thể phân biệt ngay giữa một trang web y tế uy tín và một công ty sản xuất kẹo. Nhưng một khối văn bản kết hợp thông tin từ nhiều nguồn có thể gây nhầm lẫn.

Tiến sĩ Seema Yasmin, giám đốc Sáng kiến ​​Truyền thông Y tế tại Đại học Stanford cho biết: “Đó là nếu mọi người đang xem xét nguồn gốc”. Để xem,” cô nói Nghiên cứu của riêng cô Do thông tin sai lệch, nó khiến người dùng trở nên bi quan về mối quan tâm của người dùng thông thường trong việc tìm kiếm những câu trả lời nhanh hơn.

Về tính chính xác của câu trả lời sô cô la, Tiến sĩ Dariush Mozaffarian, bác sĩ tim mạch và giáo sư y khoa tại Đại học Tufts, nói rằng nó chứa một số sự thật hầu hết là đúng và nó tóm tắt nghiên cứu về lợi ích sức khỏe của sô cô la. Nhưng ông nói rằng ông không phân biệt giữa bằng chứng mạnh mẽ được cung cấp bởi các thử nghiệm ngẫu nhiên và bằng chứng yếu hơn từ các nghiên cứu quan sát, hoặc đưa ra bất kỳ cảnh báo nào về bằng chứng.

Tiến sĩ Mozaffarian cho biết: Đúng là sôcôla có chứa chất chống oxy hóa. Nhưng có tuyên bố rằng tiêu thụ sô cô la có thể giúp ngăn ngừa chứng mất trí nhớ? Ông nói, điều này chưa được chứng minh rõ ràng và “cần rất nhiều cảnh báo”. Việc liệt kê những tuyên bố như vậy cạnh nhau tạo ấn tượng rằng một số tuyên bố được chứng minh tốt hơn thực tế.

Câu trả lời cũng có thể thay đổi khi bản thân AI phát triển, ngay cả khi khoa học đằng sau một câu trả lời cụ thể không thay đổi.

Người phát ngôn của Google cho biết trong một tuyên bố rằng công ty đã làm việc để hiển thị tuyên bố từ chối trách nhiệm đối với các phản hồi khi cần thiết, bao gồm cả lưu ý rằng thông tin này không được coi là lời khuyên y tế.

Không rõ Tổng quan về AI đánh giá chính xác sức mạnh của bằng chứng như thế nào hoặc liệu nó có tính đến các kết quả nghiên cứu trái ngược nhau hay không, chẳng hạn như những kết quả liên quan đến việc liệu cà phê có tốt cho bạn hay không. Tiến sĩ Yasmin nói: “Khoa học không phải là một tập hợp các sự kiện cố định. Cô và các chuyên gia khác cũng tự hỏi liệu công cụ này có dựa trên những phát hiện khoa học cũ đã bị bác bỏ hay không, hay liệu nó không nắm bắt được những hiểu biết gần đây nhất về một vấn đề.

Tiến sĩ Danielle Peterman, bác sĩ và nhà khoa học trí tuệ nhân tạo tại Viện Ung thư Dana-Farber, cho biết: “Có thể đưa ra quyết định quan trọng – phân biệt chất lượng của các nguồn – là điều con người luôn làm và đó là điều các bác sĩ làm”. Brigham. Và bệnh viện phụ nữ. “Họ phân tích bằng chứng.”

Cô ấy nói, nếu chúng tôi muốn các công cụ như Tổng quan về AI đóng vai trò này, “chúng tôi cần hiểu rõ hơn cách điều hướng qua các nguồn khác nhau và cách áp dụng lăng kính quan trọng để đi đến một bản tóm tắt”.

Các chuyên gia cho biết, những ẩn số này đang gây rắc rối vì hệ thống mới nâng cao khả năng phản hồi tổng quan của AI so với các liên kết riêng lẻ đến các trang web y tế có uy tín như của Mayo Clinic và Cleveland Clinic. Những trang web như vậy trong lịch sử đã vươn lên dẫn đầu trong nhiều tìm kiếm về sức khỏe.

Người phát ngôn của Google cho biết AI Tổng quan sẽ khớp hoặc tóm tắt thông tin xuất hiện trong kết quả tìm kiếm hàng đầu nhưng không được thiết kế để thay thế nội dung đó. Thay vào đó, người phát ngôn cho biết, chúng được thiết kế để giúp mọi người điều hướng thông tin có sẵn.

Phòng khám Mayo từ chối bình luận về những phản hồi mới. Một đại diện của Phòng khám Cleveland cho biết những người tìm kiếm thông tin sức khỏe nên “tìm kiếm trực tiếp đến các nguồn đã biết và đáng tin cậy” và liên hệ với nhà cung cấp dịch vụ chăm sóc sức khỏe của họ nếu họ gặp bất kỳ triệu chứng nào.

Đại diện của Scripps Health, một hệ thống chăm sóc sức khỏe có trụ sở tại California được trích dẫn trong một số bản tóm tắt Tổng quan về AI, cho biết trong một tuyên bố rằng “các trích dẫn trong các phản hồi do AI tạo ra của Google có thể có lợi vì chúng khiến Scripps Health trở thành nguồn thông tin sức khỏe đáng tin cậy”. .

Tuy nhiên, người đại diện nói thêm: “Chúng tôi lo ngại rằng chúng tôi không thể đảm bảo cho nội dung do AI sản xuất giống như cách chúng tôi có thể đảm bảo nội dung của chính chúng tôi, vốn đã được các chuyên gia y tế của chúng tôi xem xét kỹ lưỡng”.

Các chuyên gia cho rằng đối với các câu hỏi y tế, điều quan trọng không chỉ là độ chính xác của câu trả lời mà còn là cách nó được trình bày cho người dùng. Đặt câu hỏi “Tôi có bị đau tim không?” Tiến sĩ Richard Gumina, giám đốc y học tim mạch tại Trung tâm Y tế Wexner thuộc Đại học Bang Ohio cho biết, phản hồi của AI có một bản tóm tắt hữu ích về các triệu chứng.

Nhưng anh ấy nói thêm rằng anh ấy phải đọc một danh sách dài các triệu chứng trước khi tin nhắn khuyên anh ấy gọi 911. Bác sĩ Gumina cũng tìm kiếm “Tôi có bị đột quỵ không?” Để xem liệu công cụ này có thể tạo ra phản hồi khẩn cấp hơn hay không – nó đã yêu cầu người dùng ở tuyến đầu gọi 911. Ông cho biết ông sẽ ngay lập tức khuyên những bệnh nhân có triệu chứng đau tim hoặc đột quỵ tìm kiếm sự giúp đỡ.

Các chuyên gia khuyến khích những người đang tìm kiếm thông tin sức khỏe nên thận trọng khi xử lý các phản ứng mới. Về cơ bản, họ cho biết, người dùng nên lưu ý các chi tiết tốt hơn trong một số câu trả lời tổng quan về AI: “Điều này chỉ nhằm mục đích cung cấp thông tin. Để được tư vấn hoặc chẩn đoán y tế, hãy tham khảo ý kiến ​​​​của chuyên gia. AI sáng tạo chỉ là thử nghiệm.”

Danny Bloom Đã đóng góp cho các báo cáo.