Thông tin là một mặt hàng có giá trị. Và nhờ có công nghệ, có hàng triệu terabyte của nó trực tuyến.

Các công cụ trí tuệ nhân tạo (AI) như ChatGPT hiện đang thay mặt chúng tôi quản lý thông tin này – đối chiếu, tóm tắt và trình bày lại cho chúng tôi.

Nhưng việc “thuê ngoài” quản lý thông tin cho AI – dù tiện lợi đến đâu – cũng đi kèm với những hậu quả. Nó có thể ảnh hưởng không chỉ gì chúng tôi nghĩ, nhưng cũng có khả năng làm thế nào chúng tôi nghĩ.

Điều gì sẽ xảy ra trong một thế giới nơi các thuật toán AI quyết định thông tin nào được lưu giữ và thông tin nào còn sót lại?

Sự trỗi dậy của AI được cá nhân hóa

Các công cụ AI sáng tạo được xây dựng trên các mô hình được đào tạo trên hàng trăm gigabyte dữ liệu có sẵn. Từ những dữ liệu này, họ học cách tự động tạo nội dung văn bản, hình ảnh, âm thanh và video, đồng thời có thể trả lời các truy vấn của người dùng bằng cách ghép lại câu trả lời “có khả năng xảy ra nhất”.

ChatGPT được sử dụng bởi hàng triệu người, mặc dù đã được phát hành công khai chưa đầy một năm trước. Vào tháng XNUMX, việc bổ sung phản hồi tùy chỉnh đã làm cho chatbot vốn đã ấn tượng này trở nên hữu ích hơn. Tính năng này cho phép người dùng lưu các hướng dẫn tùy chỉnh giải thích mục đích họ đang sử dụng bot và cách họ muốn nó phản hồi.

Đây là một trong một số ví dụ về “AI được cá nhân hóa”: một danh mục công cụ AI tạo ra nội dung phù hợp với nhu cầu và sở thích cụ thể của người dùng.

Một ví dụ khác là Meta mới ra mắt gần đây trợ lý ảo, Meta AI. Chatbot này có thể trò chuyện, tạo hình ảnh và thực hiện các tác vụ trên các nền tảng của Meta bao gồm WhatsApp, Messenger và Instagram.

Nhà nghiên cứu trí tuệ nhân tạo và đồng sáng lập DeepMind, Mustafa Suleyman, mô tả AI được cá nhân hóa giống như một mối quan hệ hơn là một công nghệ:

Đó là một người bạn. […] Nó thực sự sẽ luôn hiện diện và bên cạnh bạn, sống cùng bạn - về cơ bản là trong nhóm của bạn. Tôi thích nghĩ về nó giống như có một huấn luyện viên tuyệt vời ở bên cạnh bạn.

Nhưng những công nghệ này cũng đang gây tranh cãi, với những lo ngại về quyền sở hữu dữ liệu, thiên vị và thông tin sai lạc.

Các công ty công nghệ đang cố gắng tìm cách giải quyết những vấn đề này. Ví dụ: Google đã thêm các liên kết nguồn vào các bản tóm tắt tìm kiếm do AI tạo ra bởi Tìm kiếm trải nghiệm sáng tạo (SGE), công cụ này đã bị chỉ trích vào đầu năm nay vì dâng lên phản hồi không chính xác và có vấn đề.

Công nghệ đã thay đổi suy nghĩ của chúng ta

Các công cụ AI tổng quát – và đặc biệt là những công cụ được cá nhân hóa cho chúng ta – sẽ thay đổi cách chúng ta suy nghĩ như thế nào?

Để hiểu điều này, chúng ta hãy quay lại đầu những năm 1990 khi Internet lần đầu tiên đi vào cuộc sống của chúng ta. Mọi người có thể đột nhiên truy cập thông tin về hầu hết mọi thứ, cho dù đó là ngân hàng, làm bánh, giảng dạy hay du lịch.

Gần 30 năm trôi qua, các nghiên cứu đã chỉ ra rằng việc kết nối với “tâm trí tổ ong” toàn cầu này đã thay đổi nhận thức, trí nhớ và khả năng sáng tạo của chúng ta như thế nào.

Ví dụ: có quyền truy cập tức thời vào tương đương với 305.5 tỷ trang thông tin đã làm tăng sự hiểu biết của con người siêu kiến ​​thức – tức là kiến ​​thức của họ về kiến ​​thức. Một tác động của việc này là “hiệu ứng Google”: một hiện tượng trong đó tìm kiếm trực tuyến làm tăng khả năng tìm kiếm thông tin của chúng ta nhưng lại làm giảm trí nhớ của chúng ta về thông tin đó.

Một mặt, việc chuyển tải suy nghĩ của chúng ta sang các công cụ tìm kiếm đã được chứng minh là giúp giải phóng nguồn dự trữ tinh thần của chúng ta cho giải quyết vấn đề và tư duy sáng tạo. Mặt khác, việc truy xuất thông tin trực tuyến có liên quan đến sự gia tăng sự mất tập trung và sự phụ thuộc.

Nghiên cứu cũng cho thấy việc tìm kiếm trực tuyến – bất kể số lượng hay chất lượng thông tin được truy xuất – làm tăng khả năng tìm kiếm của chúng ta. lòng tự trọng nhận thức. Nói cách khác, nó làm tăng niềm tin của chúng ta vào “sự thông minh” của chính mình.

Kết hợp điều này với thực tế là hỏi thông tin là nỗ lực – và rằng chúng ta càng tin tưởng vào công cụ tìm kiếm của mình thì chúng ta càng ít phê phán tham gia vào kết quả của nó – và bạn có thể hiểu tại sao việc tiếp cận được lượng thông tin chưa từng có không nhất thiết khiến chúng ta trở nên khôn ngoan hơn.

Chúng ta có nên 'thuê ngoài' suy nghĩ của mình không?

Các công cụ AI tổng quát ngày nay còn tiến xa hơn nhiều so với việc chỉ cung cấp cho chúng ta kết quả tìm kiếm. Họ định vị thông tin cho chúng tôi, đánh giá, tổng hợp và trình bày lại cho chúng tôi.

Ý nghĩa của việc này có thể là gì? Nếu không thúc đẩy việc kiểm soát chất lượng do con người chỉ đạo, triển vọng sẽ không có gì hứa hẹn.

Khả năng tạo ra các phản hồi quen thuộc, khách quan và hấp dẫn của AI sáng tạo có nghĩa là nó khiến chúng ta dễ bị tổn thương hơn. Các thành kiến ​​nhận thức.

Sản phẩm xu hướng tự động hóaVí dụ, con người có xu hướng đánh giá quá cao tính toàn vẹn của thông tin có nguồn gốc từ máy. Và chỉ tiếp xúc hiệu quả là khi chúng ta có nhiều khả năng tin tưởng vào thông tin được trình bày dưới dạng quen thuộc hoặc cá nhân.

Nghiên cứu trên mạng xã hội có thể giúp chúng ta hiểu được tác động của những thành kiến ​​đó. Trong một nghiên cứu năm 2016, người dùng Facebook đã báo cáo cảm giác “biết nhiều hơn” dựa trên số lượng nội dung tin tức được đăng trực tuyến – chứ không phải họ thực sự đọc bao nhiêu nội dung đó.

Chúng tôi cũng biết rằng “lọc bong bóng” được tạo bởi các thuật toán truyền thông xã hội - trong đó nguồn cấp dữ liệu của chúng tôi được lọc theo sở thích của chúng tôi - hạn chế tính đa dạng của nội dung mà chúng tôi tiếp xúc.

Quá trình thu hẹp thông tin này đã được chứng minh là làm tăng sự phân cực tư tưởng bằng cách giảm bớt xu hướng xem xét các quan điểm thay thế của con người. Nó cũng được chứng minh là làm tăng khả năng chúng ta tiếp xúc với tin tức giả mạo.

Sử dụng AI để khôn ngoan hơn và không ngu ngốc

AI sáng tạo chắc chắn là một lực lượng cách mạng có tiềm năng làm được những điều vĩ đại cho xã hội. Nó có thể định hình lại hệ thống giáo dục của chúng ta bằng cách cung cấp nội dung được cá nhân hóa, thay đổi cách làm việc của chúng ta bằng cách đẩy nhanh viết và phân tích thông tin, và đẩy biên giới của khám phá khoa học.

Nó thậm chí còn có khả năng thay đổi tích cực các mối quan hệ của chúng ta bằng cách giúp chúng ta giao tiếp và kết nối với người khác và đôi khi có thể hoạt động như một công cụ hỗ trợ. hình thức đồng hành tổng hợp.

Nhưng nếu cách duy nhất của chúng ta để đánh giá tương lai là nhìn về quá khứ, thì có lẽ bây giờ là lúc để suy ngẫm xem cả internet và mạng xã hội đã thay đổi nhận thức của chúng ta như thế nào và áp dụng một số điều sau đây. các biện pháp phòng ngừa. Đang phát triển Kiến thức AI là một nơi tốt để bắt đầu, cũng như việc thiết kế các công cụ AI nhằm khuyến khích sự tự chủ và tư duy phản biện của con người.

Cuối cùng, chúng ta cần phải hiểu cả chính mình và điểm mạnh và điểm yếu của AI để đảm bảo những người bạn đồng hành “tư duy” này giúp chúng ta tạo ra tương lai mà chúng ta mong muốn – chứ không phải tương lai đứng đầu danh sách.

Sarah Vivienne Bentley, Nhà khoa học nghiên cứu, Đổi mới có trách nhiệm, Data61, CSIRO; Claire Mason, Nhà khoa học nghiên cứu chính, CSIROvà Einat Grimberg, Nghiên cứu viên sau tiến sĩ về Công nghệ và Khoa học Xã hội, CSIRO

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.