Trí tuệ nhân tạo có tiềm năng cách mạng hóa việc chăm sóc sức khỏe như thế nào
Getty Images

Trí tuệ nhân tạo (AI) đang phát triển nhanh chóng và sẽ trở thành một công cụ hỗ trợ quan trọng trong chăm sóc lâm sàng. Nghiên cứu cho thấy các thuật toán AI có thể chính xác phát hiện khối u ác tínhdự đoán ung thư vú trong tương lai.

Nhưng trước khi AI có thể được tích hợp vào sử dụng lâm sàng thông thường, chúng ta phải giải quyết thách thức về sai lệch thuật toán. Các thuật toán AI có thể có những thành kiến ​​cố hữu có thể dẫn đến các vấn đề về quyền riêng tư và phân biệt đối xử. Các hệ thống AI cũng có thể đưa ra quyết định mà không cần sự giám sát cần thiết hoặc đầu vào của con người.

 Một ví dụ về các tác động có thể gây hại của AI đến từ một dự án quốc tế nhằm mục đích sử dụng AI để cứu sống bằng cách phát triển các phương pháp điều trị y tế đột phá. Trong một thử nghiệm, nhóm đã đảo ngược mô hình AI “tốt” của họ để tạo ra các tùy chọn cho một mô hình AI mới “làm hại”.

Trong vòng chưa đầy sáu giờ đào tạo, thuật toán AI đảo ngược đã tạo ra hàng chục nghìn tác nhân chiến tranh hóa học tiềm năng, trong đó có nhiều tác nhân nguy hiểm hơn các tác nhân chiến tranh hiện tại. Đây là một ví dụ cực đoan liên quan đến các hợp chất hóa học, nhưng nó đóng vai trò như một hồi chuông cảnh tỉnh để đánh giá những hậu quả đạo đức đã biết và không thể tưởng tượng được của AI.

AI trong chăm sóc lâm sàng

Trong y học, chúng tôi xử lý dữ liệu riêng tư nhất của mọi người và các quyết định thường thay đổi cuộc sống. Các khuôn khổ đạo đức AI mạnh mẽ là bắt buộc.

Sản phẩm Dự án Động kinh Úc nhằm mục đích cải thiện cuộc sống của mọi người và làm cho dịch vụ chăm sóc lâm sàng được phổ biến rộng rãi hơn. Dựa trên hình ảnh não tiên tiến, thông tin di truyền và nhận thức từ hàng ngàn người bị động kinh, chúng tôi dự định sử dụng AI để trả lời các câu hỏi hiện không thể trả lời.


đồ họa đăng ký nội tâm


Liệu cơn co giật của người này có tiếp tục không? Thuốc nào hiệu quả nhất? Là phẫu thuật não một lựa chọn điều trị khả thi? Đây là những câu hỏi cơ bản mà y học hiện đại đấu tranh để giải quyết.

Với tư cách là người lãnh đạo AI của dự án này, mối quan tâm chính của tôi là AI đang phát triển nhanh chóng và sự giám sát theo quy định là tối thiểu. Những vấn đề này là lý do tại sao gần đây chúng tôi đã thành lập một khuôn khổ đạo đức để sử dụng AI như một công cụ hỗ trợ lâm sàng. Khuôn khổ này nhằm đảm bảo các công nghệ AI của chúng tôi luôn cởi mở, an toàn và đáng tin cậy, đồng thời thúc đẩy tính toàn diện và công bằng trong chăm sóc lâm sàng.

Vậy làm cách nào để chúng ta thực hiện đạo đức AI trong y học để giảm sự thiên vị và duy trì quyền kiểm soát các thuật toán? Nguyên tắc khoa học máy tính “rác vào, rác ra” áp dụng cho AI. Giả sử chúng tôi thu thập dữ liệu sai lệch từ các mẫu nhỏ. Các thuật toán AI của chúng tôi có thể sẽ bị sai lệch và không thể sao chép trong môi trường lâm sàng khác.

Không khó để tìm thấy các ví dụ về thành kiến ​​trong các mô hình AI hiện đại. Các mô hình ngôn ngữ lớn phổ biến (ví dụ ChatGPT) và các mô hình khuếch tán tiềm ẩn (DALL-E và Stable Diffusion) cho thấy cách thành kiến ​​rõ ràng về giới tính, dân tộc và tình trạng kinh tế xã hội có thể xảy ra.

Các nhà nghiên cứu phát hiện ra rằng những lời nhắc đơn giản của người dùng tạo ra những hình ảnh duy trì khuôn mẫu về sắc tộc, giới tính và giai cấp. Ví dụ: lời nhắc cho bác sĩ tạo ra chủ yếu hình ảnh bác sĩ nam không phù hợp với thực tế khi khoảng một nửa số bác sĩ ở các nước OECD là nữ.

Triển khai an toàn AI y tế

Giải pháp để ngăn chặn sự thiên vị và phân biệt đối xử không phải là chuyện nhỏ. Cho phép bình đẳng về sức khỏe và thúc đẩy tính toàn diện trong các nghiên cứu lâm sàng có thể là một trong những giải pháp chính để chống lại những thành kiến ​​trong AI y tế.

Thật đáng khích lệ, Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ gần đây đã đề xuất làm cho sự đa dạng trở nên bắt buộc trong các thử nghiệm lâm sàng. Đề xuất này thể hiện một động thái hướng tới các nghiên cứu lâm sàng dựa vào cộng đồng và ít thiên vị hơn.

Một trở ngại khác cho sự tiến bộ là kinh phí nghiên cứu hạn chế. Các thuật toán AI thường yêu cầu lượng dữ liệu đáng kể, điều này có thể tốn kém. Điều quan trọng là phải thiết lập các cơ chế tài trợ nâng cao để cung cấp cho các nhà nghiên cứu các nguồn lực cần thiết để thu thập dữ liệu liên quan đến lâm sàng phù hợp cho các ứng dụng AI.

Chúng tôi cũng lập luận rằng chúng ta nên luôn biết hoạt động bên trong của các thuật toán AI và hiểu cách chúng đưa ra kết luận và khuyến nghị. Khái niệm này thường được gọi là “khả năng giải thích” trong AI. Nó liên quan đến ý tưởng rằng con người và máy móc phải làm việc cùng nhau để đạt được kết quả tối ưu.

Chúng tôi muốn xem việc thực hiện dự đoán trong các mô hình là trí thông minh “tăng cường” hơn là “nhân tạo” - các thuật toán nên là một phần của quy trình và các chuyên gia y tế phải duy trì quyền kiểm soát việc ra quyết định.

Ngoài việc khuyến khích sử dụng các thuật toán có thể giải thích được, chúng tôi hỗ trợ khoa học minh bạch và cởi mở. Các nhà khoa học nên công bố chi tiết về các mô hình AI và phương pháp của chúng để tăng cường tính minh bạch và khả năng tái tạo.

Chúng ta cần gì ở Aotearoa New Zealand để đảm bảo triển khai AI an toàn trong chăm sóc y tế? Các mối quan tâm về đạo đức AI chủ yếu được dẫn dắt bởi các chuyên gia trong lĩnh vực này. Tuy nhiên, các quy định AI được nhắm mục tiêu, chẳng hạn như EU-based Đạo luật trí tuệ nhân tạo đã được đề xuất, giải quyết những cân nhắc đạo đức này.

Luật AI của Châu Âu được hoan nghênh và sẽ bảo vệ những người làm việc trong “AI an toàn”. Chính phủ Vương quốc Anh gần đây đã phát hành cách tiếp cận chủ động đối với quy định AI, phục vụ như một kế hoạch chi tiết cho các phản ứng khác của chính phủ đối với sự an toàn của AI.

Ở Aotearoa, chúng tôi tranh luận về việc áp dụng lập trường chủ động thay vì phản ứng đối với sự an toàn của AI. Nó sẽ thiết lập một khuôn khổ đạo đức để sử dụng AI trong chăm sóc lâm sàng và các lĩnh vực khác, mang lại AI có thể hiểu được, an toàn và không thiên vị. Do đó, niềm tin của chúng tôi sẽ tăng lên rằng công nghệ mạnh mẽ này mang lại lợi ích cho xã hội đồng thời bảo vệ xã hội khỏi bị tổn hại.Conversation

Giới thiệu về Tác giả

Mangor Pedersen, Phó Giáo sư Tâm lý học và Khoa học Thần kinh, Đại học Công nghệ Auckland

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.

Sách liên quan:

Cơ thể ghi điểm: Bộ não và cơ thể trong quá trình chữa lành chấn thương

bởi Bessel van der Nikol

Cuốn sách này khám phá mối liên hệ giữa chấn thương với sức khỏe thể chất và tinh thần, đưa ra những hiểu biết sâu sắc và chiến lược để chữa lành và phục hồi.

Bấm để biết thêm thông tin hoặc đặt hàng

Hơi thở: Khoa học mới về nghệ thuật đã mất

bởi James Nestor

Cuốn sách này khám phá khoa học và thực hành thở, cung cấp những hiểu biết sâu sắc và kỹ thuật để cải thiện sức khỏe thể chất và tinh thần.

Bấm để biết thêm thông tin hoặc đặt hàng

Nghịch lý thực vật: Nguy cơ tiềm ẩn trong thực phẩm "lành mạnh" gây bệnh và tăng cân

của Steven R. Gundry

Cuốn sách này khám phá mối liên hệ giữa chế độ ăn uống, sức khỏe và bệnh tật, đưa ra những hiểu biết sâu sắc và chiến lược để cải thiện sức khỏe tổng thể và sức khỏe.

Bấm để biết thêm thông tin hoặc đặt hàng

Mã miễn dịch: Mô hình mới cho sức khỏe thực sự và chống lão hóa triệt để

bởi Joel Greene

Cuốn sách này đưa ra một quan điểm mới về sức khỏe và khả năng miễn dịch, dựa trên các nguyên tắc biểu sinh và đưa ra những hiểu biết sâu sắc cũng như chiến lược để tối ưu hóa sức khỏe và lão hóa.

Bấm để biết thêm thông tin hoặc đặt hàng

Hướng dẫn hoàn chỉnh về nhịn ăn: Chữa lành cơ thể thông qua nhịn ăn gián đoạn, luân phiên và kéo dài

bởi Tiến sĩ Jason Fung và Jimmy Moore

Cuốn sách này khám phá khoa học và thực hành nhịn ăn, cung cấp những hiểu biết sâu sắc và chiến lược để cải thiện sức khỏe tổng thể và sức khỏe.

Bấm để biết thêm thông tin hoặc đặt hàng