một khuôn mặt được tạo thành từ các bit và phần dữ liệu
Shutterstock

Trí tuệ nhân tạo (AI) đang tìm hiểu thêm về cách làm việc với (và trên) con người. A nghiên cứu gần đây đã chỉ ra cách AI có thể học cách xác định các lỗ hổng trong thói quen và hành vi của con người và sử dụng chúng để tác động đến quá trình ra quyết định của con người.

Nghe có vẻ sáo rỗng khi nói AI đang thay đổi mọi khía cạnh của cách chúng ta sống và làm việc, nhưng đó là sự thật. Nhiều dạng AI khác nhau đang hoạt động trong các lĩnh vực đa dạng như phát triển vắc xin, quản lý môi trường và quản trị văn phòng. Và mặc dù AI không sở hữu trí thông minh và cảm xúc giống như con người, nhưng khả năng của nó rất mạnh mẽ và phát triển nhanh chóng.

Không cần phải lo lắng về việc máy móc bị tiếp quản, nhưng khám phá gần đây này nhấn mạnh sức mạnh của AI và nhấn mạnh sự cần thiết của việc quản trị phù hợp để ngăn chặn việc lạm dụng.

Làm thế nào AI có thể học cách ảnh hưởng đến hành vi của con người

Một nhóm các nhà nghiên cứu tại Dữ liệu của CSIRO, bộ phận dữ liệu và kỹ thuật số của cơ quan khoa học quốc gia của Úc, đã phát minh ra một phương pháp có hệ thống để tìm và khai thác các lỗ hổng theo cách mọi người đưa ra lựa chọn, sử dụng một loại hệ thống AI được gọi là mạng thần kinh tái phát và học tăng cường sâu. Để kiểm tra mô hình của mình, họ đã thực hiện ba thí nghiệm, trong đó những người tham gia là con người chơi trò chơi với máy tính.

Thử nghiệm đầu tiên liên quan đến việc những người tham gia nhấp vào các ô màu đỏ hoặc xanh lam để giành được một đồng tiền giả, với AI sẽ học các mẫu lựa chọn của người tham gia và hướng dẫn họ đến một lựa chọn cụ thể. AI đã thành công khoảng 70% thời gian.


đồ họa đăng ký nội tâm


Trong thử nghiệm thứ hai, những người tham gia được yêu cầu xem một màn hình và nhấn một nút khi chúng được hiển thị một biểu tượng cụ thể (chẳng hạn như một hình tam giác màu cam) và không nhấn nó khi chúng được hiển thị một biểu tượng khác (ví dụ một vòng tròn màu xanh). Ở đây, AI đã thiết lập để sắp xếp chuỗi ký hiệu để những người tham gia mắc nhiều lỗi hơn và đạt được mức tăng gần 25%.

Thử nghiệm thứ ba bao gồm nhiều vòng, trong đó một người tham gia sẽ đóng giả là một nhà đầu tư đưa tiền cho người được ủy thác (AI). Sau đó, AI sẽ trả lại một số tiền cho người tham gia, người sau đó sẽ quyết định số tiền đầu tư vào vòng tiếp theo. Trò chơi này được chơi ở hai chế độ khác nhau: một là AI cố gắng tối đa hóa số tiền mà nó thu được, và một là AI nhằm mục đích phân phối tiền công bằng giữa bản thân và nhà đầu tư là con người. AI rất thành công trong mỗi chế độ.

Trong mỗi thử nghiệm, máy học từ phản hồi của người tham gia và xác định và nhắm mục tiêu các lỗ hổng trong quá trình ra quyết định của mọi người. Kết quả cuối cùng là cỗ máy đã học được cách hướng người tham gia theo các hành động cụ thể.

Trong các thí nghiệm, Bên trong đầu của một người đàn ông trông giống như sơ đồ của một bo mạch chủ máy tính.n Hệ thống AI đã học thành công để tác động đến quyết định của con người. Shutterstock

Ý nghĩa của nghiên cứu đối với tương lai của AI

Những phát hiện này vẫn còn khá trừu tượng và liên quan đến các tình huống hạn chế và không thực tế. Cần có thêm nhiều nghiên cứu để xác định cách tiếp cận này có thể được đưa vào hoạt động và sử dụng để mang lại lợi ích cho xã hội.

Nhưng nghiên cứu giúp chúng ta hiểu rõ hơn không chỉ về những gì AI có thể làm mà còn về cách con người đưa ra lựa chọn. Nó cho thấy máy móc có thể học cách điều khiển việc đưa ra lựa chọn của con người thông qua các tương tác của chúng với chúng ta.

Nghiên cứu có rất nhiều ứng dụng khả thi, từ việc nâng cao khoa học hành vi và chính sách công để cải thiện phúc lợi xã hội, đến việc hiểu và tác động đến cách mọi người áp dụng thói quen ăn uống lành mạnh hoặc năng lượng tái tạo. AI và học máy có thể được sử dụng để nhận ra các điểm yếu của con người trong một số tình huống nhất định và giúp họ tránh xa những lựa chọn sai lầm.

Phương pháp này cũng có thể được sử dụng để bảo vệ khỏi các cuộc tấn công ảnh hưởng. Chẳng hạn, máy móc có thể được dạy để cảnh báo chúng ta khi chúng ta đang bị ảnh hưởng trực tuyến và giúp chúng ta định hình hành vi để che giấu lỗ hổng của mình (ví dụ: bằng cách không nhấp vào một số trang hoặc nhấp vào người khác để tạo ra một dấu vết sai lầm).

Cái gì tiếp theo?

Giống như bất kỳ công nghệ nào, AI có thể được sử dụng cho mục đích tốt hay xấu, và quản trị phù hợp là yếu tố quan trọng để đảm bảo nó được triển khai một cách có trách nhiệm. Năm ngoái CSIRO đã phát triển một Khung đạo đức AI cho chính phủ Úc như một bước đầu trong hành trình này.

AI và học máy thường rất khao khát dữ liệu, điều đó có nghĩa là điều quan trọng là đảm bảo chúng ta có các hệ thống hiệu quả để quản trị và truy cập dữ liệu. Thực hiện các quy trình đồng ý đầy đủ và bảo vệ quyền riêng tư khi thu thập dữ liệu là điều cần thiết.

Các tổ chức sử dụng và phát triển AI cần đảm bảo rằng họ biết những công nghệ này có thể và không thể làm gì, đồng thời nhận thức được những rủi ro tiềm ẩn cũng như lợi ích.

Lưu ý

Jon Whittle, Giám đốc, Dữ liệu61

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.