Các chatbot AI đang trở nên mạnh mẽ hơn, nhưng làm thế nào để bạn biết liệu chúng có đang hoạt động vì lợi ích tốt nhất của bạn hay không? 

Nếu bạn hỏi Alexa, hệ thống AI hỗ trợ giọng nói của Amazon, liệu Amazon có độc quyền hay không, nó sẽ trả lời bằng nói nó không biết. Nó không mất nhiều để làm cho nó hạ gục những gã khổng lồ công nghệ khác, nhưng nó im lặng về những hành vi sai trái của công ty mẹ.

Khi Alexa phản hồi theo cách này, rõ ràng là nó đang đặt lợi ích của nhà phát triển lên trên lợi ích của bạn. Tuy nhiên, thông thường, hệ thống AI đang phục vụ ai không quá rõ ràng. Để tránh bị khai thác bởi các hệ thống này, mọi người sẽ cần học cách tiếp cận AI một cách hoài nghi. Điều đó có nghĩa là xây dựng có chủ ý đầu vào mà bạn đưa ra và suy nghĩ chín chắn về đầu ra của nó.

Các thế hệ mô hình AI mới hơn, với các câu trả lời phức tạp hơn và ít thuộc lòng hơn, đang khiến việc phân biệt ai được lợi khi họ nói trở nên khó khăn hơn. Việc các công ty Internet thao túng những gì bạn nhìn thấy để phục vụ lợi ích riêng của họ không có gì mới. Kết quả tìm kiếm của Google và nguồn cấp dữ liệu Facebook của bạn là chứa đầy các mục trả phí. Facebook, TikTok và những người khác thao túng nguồn cấp dữ liệu của bạn để tối đa hóa thời gian bạn dành cho nền tảng, điều đó có nghĩa là nhiều lượt xem quảng cáo hơn so với sức khỏe của bạn.

Điều khác biệt giữa các hệ thống AI với các dịch vụ internet khác này là mức độ tương tác của chúng và cách các tương tác này sẽ ngày càng trở nên giống như các mối quan hệ. Không cần phải ngoại suy nhiều từ các công nghệ ngày nay để hình dung ra các AI sẽ lên kế hoạch cho các chuyến đi cho bạn, thay mặt bạn đàm phán hoặc đóng vai trò là nhà trị liệu và huấn luyện viên cuộc sống.

Họ có thể sẽ ở bên bạn 24/7, biết rõ về bạn và có thể dự đoán nhu cầu của bạn. Loại giao diện đàm thoại này với mạng lưới dịch vụ và tài nguyên rộng lớn trên web nằm trong khả năng của các AI tổng quát hiện có như ChatGPT. Họ đang trên đường trở thành trợ lý kỹ thuật số được cá nhân hóa.

Là một chuyên gia bảo mật và nhà khoa học dữ liệu, chúng tôi tin rằng những người dựa vào những AI này sẽ phải hoàn toàn tin tưởng vào chúng để điều hướng cuộc sống hàng ngày. Điều đó có nghĩa là họ sẽ cần đảm bảo rằng AI không bí mật làm việc cho người khác. Trên internet, các thiết bị và dịch vụ có vẻ hiệu quả với bạn lại đang bí mật chống lại bạn. TV thông minh theo dõi bạn. ứng dụng điện thoại thu thập và bán dữ liệu của bạn. Nhiều ứng dụng và trang web thao túng bạn thông qua các mô hình tối, các yếu tố thiết kế mà cố ý đánh lừa, ép buộc hoặc lừa dối khách truy cập trang web. Đây là chủ nghĩa tư bản giám sátvà AI đang định hình là một phần của nó. AI đang đóng một vai trò trong chủ nghĩa tư bản giám sát, nghĩa là theo dõi bạn để kiếm tiền từ bạn.

Trong bóng tối

Rất có thể, nó có thể tồi tệ hơn nhiều với AI. Để trợ lý kỹ thuật số AI đó thực sự hữu ích, nó sẽ phải thực sự hiểu bạn. Tốt hơn là điện thoại của bạn biết bạn. Tốt hơn là tìm kiếm Google biết bạn. Có lẽ tốt hơn là những người bạn thân, đối tác thân thiết và nhà trị liệu của bạn biết bạn.

Bạn không có lý do gì để tin tưởng vào các công cụ AI hàng đầu hiện nay. Bỏ qua một bên ảo giác, "sự thật" được tạo ra mà GPT và các mô hình ngôn ngữ lớn khác tạo ra. Chúng tôi hy vọng những thứ đó sẽ được làm sạch phần lớn khi công nghệ được cải thiện trong vài năm tới.

Nhưng bạn không biết AI được cấu hình như thế nào: chúng được đào tạo như thế nào, chúng được cung cấp thông tin gì và chúng được yêu cầu tuân theo những hướng dẫn nào. Ví dụ, các nhà nghiên cứu phát hiện ra các quy tắc bí mật chi phối hành vi của chatbot Microsoft Bing. Chúng phần lớn lành tính nhưng có thể thay đổi bất cứ lúc nào.

Kiếm tiền

Nhiều AI trong số này được tạo ra và đào tạo với chi phí khổng lồ bởi một số công ty độc quyền công nghệ lớn nhất. Chúng đang được cung cấp cho mọi người sử dụng miễn phí hoặc với chi phí rất thấp. Các công ty này sẽ cần phải kiếm tiền từ chúng bằng cách nào đó. Và, giống như phần còn lại của Internet, điều đó bằng cách nào đó có thể bao gồm giám sát và thao túng.

Hãy tưởng tượng yêu cầu chatbot của bạn lên kế hoạch cho kỳ nghỉ tiếp theo của bạn. Nó đã chọn một hãng hàng không, chuỗi khách sạn hay nhà hàng cụ thể vì đó là điều tốt nhất cho bạn hay vì nhà sản xuất của nó đã nhận được tiền lại quả từ các doanh nghiệp? Như với các kết quả phải trả tiền trong tìm kiếm của Google, quảng cáo trên nguồn cấp tin tức trên Facebook và các vị trí được trả tiền trên các truy vấn của Amazon, những ảnh hưởng được trả tiền này có thể trở nên lén lút hơn theo thời gian.

Nếu bạn đang hỏi chatbot của mình về thông tin chính trị, kết quả có bị sai lệch bởi chính sách của công ty sở hữu chatbot không? Hay ứng viên đã trả nhiều tiền nhất? Hay thậm chí là quan điểm về nhân khẩu học của những người có dữ liệu được sử dụng để đào tạo mô hình? Đại lý AI của bạn có bí mật là một điệp viên hai mang không? Ngay bây giờ, không có cách nào để biết.

Đáng tin cậy theo luật

Chúng tôi tin rằng mọi người nên mong đợi nhiều hơn từ công nghệ và các công ty công nghệ cũng như AI có thể trở nên đáng tin cậy hơn. Liên minh châu Âu đề xuất Đạo luật AI thực hiện một số bước quan trọng, yêu cầu tính minh bạch về dữ liệu được sử dụng để đào tạo các mô hình AI, giảm thiểu sai lệch tiềm ẩn, tiết lộ các rủi ro có thể thấy trước và báo cáo về các bài kiểm tra tiêu chuẩn của ngành. Liên minh châu Âu đang đẩy mạnh quy định về AI.

Hầu hết các AI hiện có không tuân thủ với nhiệm vụ mới nổi của châu Âu này, và, mặc dù kích thích gần đây từ Lãnh đạo Đa số Thượng viện Chuck Schumer, Hoa Kỳ còn thua xa về quy định như vậy.

AI của tương lai phải đáng tin cậy. Trừ khi và cho đến khi chính phủ đưa ra các biện pháp bảo vệ mạnh mẽ người tiêu dùng đối với các sản phẩm AI, mọi người sẽ tự mình đoán những rủi ro và thành kiến ​​​​tiềm ẩn của AI, đồng thời giảm thiểu tác động xấu nhất của chúng đối với trải nghiệm của mọi người với chúng.

Vì vậy, khi bạn nhận được một đề xuất du lịch hoặc thông tin chính trị từ một công cụ AI, hãy tiếp cận nó với con mắt hoài nghi giống như cách bạn làm với một quảng cáo biển quảng cáo hoặc một tình nguyện viên trong chiến dịch. Đối với tất cả các thủ thuật công nghệ của nó, công cụ AI có thể ít hơn một chút.

Giới thiệu về Tác giả

Bruce Schneier, Trợ giảng chính sách công, Trường Harvard Kennedy và Nathan Sanders, Chi nhánh, Trung tâm Internet & Xã hội Berkman Klein, Harvard University

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.