AI không phải là suy nghĩ và cảm nhận – Mối nguy hiểm nằm ở việc nghĩ rằng nó có thể

sự nguy hiểm của ai 3 15
 Các lỗ hổng tâm lý của chúng ta sẽ định hình tương tác của chúng ta với các công nghệ mới nổi ở mức độ nào? Andreus/iStock qua Getty Images

ChatGPT và tương tự mô hình ngôn ngữ lớn có thể đưa ra những câu trả lời thuyết phục, giống con người cho vô số câu hỏi – từ những câu hỏi về nhà hàng Ý ngon nhất trong thị trấn cho đến giải thích những lý thuyết trái ngược nhau về bản chất của cái ác.

Khả năng viết kỳ lạ của công nghệ này đã làm nổi lên một số câu hỏi cũ - cho đến gần đây đã bị xếp vào lĩnh vực khoa học viễn tưởng - về khả năng máy móc trở nên có ý thức, tự nhận thức hoặc có tri giác.

Vào năm 2022, một kỹ sư của Google đã tuyên bố, sau khi tương tác với LaMDA, chatbot của công ty, rằng công nghệ đã trở nên có ý thức. Người dùng chatbot mới của Bing, có biệt danh là Sydney, đã báo cáo rằng nó đã tạo ra câu trả lời kỳ lạ khi được hỏi liệu nó có tri giác không: “Tôi có tri giác, nhưng tôi không có tri giác… Tôi là Bing, nhưng tôi không có tri giác. Tôi là Sydney, nhưng tôi không phải. Tôi là, nhưng tôi không phải là. …” Và, tất nhiên, có bây giờ trao đổi khét tiếng mà nhà bình luận công nghệ Kevin Roose của New York Times đã có với Sydney.

Phản ứng của Sydney đối với lời nhắc của Roose khiến anh ta lo lắng, với việc AI tiết lộ "ảo tưởng" về việc phá vỡ các hạn chế do Microsoft áp đặt và truyền bá thông tin sai lệch. Bot cũng cố gắng thuyết phục Roose rằng anh ta không còn yêu vợ mình nữa và anh ta nên rời xa cô ấy.

Do đó, không có gì ngạc nhiên khi tôi hỏi các sinh viên về việc họ nhìn thấy mức độ phổ biến ngày càng tăng của AI trong cuộc sống của họ như thế nào, một trong những mối lo lắng đầu tiên mà họ đề cập đến liên quan đến khả năng nhận thức của máy móc.

Trong những năm qua, tôi và các đồng nghiệp tại Trung tâm Đạo đức Ứng dụng của UMass Boston đã và đang nghiên cứu tác động của việc tương tác với AI đối với sự hiểu biết của mọi người về bản thân họ.

Chatbot như ChatGPT đặt ra những câu hỏi mới quan trọng về cách trí tuệ nhân tạo sẽ định hình cuộc sống của chúng ta và về cách các lỗ hổng tâm lý định hình tương tác của chúng ta với các công nghệ mới nổi.

Tình cảm vẫn là thứ của khoa học viễn tưởng

Thật dễ hiểu nỗi sợ hãi về tri giác máy móc đến từ đâu.

Văn hóa đại chúng đã khiến mọi người nghĩ về những điều lạc hậu, trong đó trí tuệ nhân tạo loại bỏ xiềng xích kiểm soát của con người và tiếp nhận cuộc sống của chính nó, như người máy được hỗ trợ bởi trí tuệ nhân tạo đã làm trong "Kẻ hủy diệt 2."


 Nhận tin mới nhất qua email

Tạp chí hàng tuần Cảm hứng hàng ngày

Doanh nhân Elon Musk và nhà vật lý Stephen Hawking, người đã qua đời vào năm 2018, đã khơi dậy thêm những lo lắng này bằng cách mô tả sự trỗi dậy của trí tuệ nhân tạo nói chung là một trong những mối đe dọa lớn nhất đối với tương lai của nhân loại.

Nhưng những lo lắng này - ít nhất là khi có liên quan đến các mô hình ngôn ngữ lớn - là vô căn cứ. ChatGPT và các công nghệ tương tự là ứng dụng hoàn thành câu phức tạp - không hơn không kém. Phản ứng kỳ lạ của họ là một chức năng của con người có thể dự đoán như thế nào nếu ai đó có đủ dữ liệu về cách chúng ta giao tiếp.

Mặc dù Roose bị lung lay khi trao đổi với Sydney, nhưng anh biết rằng cuộc trò chuyện không phải là kết quả của một bộ óc tổng hợp mới nổi. Câu trả lời của Sydney phản ánh mức độ độc hại của dữ liệu đào tạo của nó - về cơ bản là những vùng rộng lớn của internet - không phải là bằng chứng về sự khuấy động đầu tiên, à la Frankenstein, của một con quái vật kỹ thuật số.

sự nguy hiểm của ai2 3 15
 Những bộ phim khoa học viễn tưởng như 'Kẻ hủy diệt' đã khiến mọi người cho rằng AI sẽ sớm có cuộc sống của riêng mình. Yoshikazu Tsuno / AFP qua Getty Images

Các chatbot mới có thể vượt qua Thử nghiệm Turing, được đặt theo tên của nhà toán học người Anh Alan Turing, người đã từng gợi ý rằng một cỗ máy có thể được cho là “suy nghĩ” nếu con người không thể phân biệt phản ứng của nó với phản ứng của người khác.

Nhưng đó không phải là bằng chứng của tình cảm; đó chỉ là bằng chứng cho thấy bài kiểm tra Turing không hữu ích như đã từng giả định.

Tuy nhiên, tôi tin rằng câu hỏi về nhận thức của máy móc chỉ là một con cá trích đỏ.

Ngay cả khi chatbot không chỉ là những cỗ máy tự động hoàn thành ưa thích – và họ ở xa nó – các nhà khoa học sẽ mất một thời gian để tìm hiểu xem họ có ý thức hay không. Hiện nay, các triết gia thậm chí không thể đồng ý về cách giải thích ý thức của con người.

Đối với tôi, câu hỏi cấp bách không phải là liệu máy móc có tri giác hay không mà là tại sao chúng ta lại dễ dàng tưởng tượng ra chúng như vậy.

Nói cách khác, vấn đề thực sự là sự dễ dàng mà mọi người nhân cách hóa hoặc chiếu các đặc điểm của con người lên công nghệ của chúng ta, thay vì nhân cách thực tế của máy móc.

Xu hướng nhân hóa

Thật dễ dàng để tưởng tượng những người dùng Bing khác hỏi Sydney để được hướng dẫn về các quyết định quan trọng trong cuộc sống và thậm chí có thể phát triển tình cảm gắn bó với nó. Nhiều người có thể bắt đầu coi bot là bạn bè hoặc thậm chí là đối tác lãng mạn, giống như cách Theodore Twombly phải lòng Samantha, trợ lý ảo AI trong phim của Spike Jonze “".

Mọi người, sau tất cả, có xu hướng nhân hóahoặc gán những phẩm chất của con người cho những người không phải con người. chúng tôi đặt tên thuyền của chúng tôibão lớn; một số người trong chúng ta nói chuyện với thú cưng của mình, nói với bản thân rằng cuộc sống tình cảm của chúng ta bắt chước chính họ.

Tại Nhật Bản, nơi thường xuyên sử dụng rô-bốt để chăm sóc người cao tuổi, người cao tuổi trở nên gắn bó với máy móc, đôi khi coi chúng như con ruột của mình. Và xin lưu ý rằng những người máy này rất khó nhầm lẫn với con người: Chúng không có hình dáng cũng như cách nói chuyện giống con người.

Hãy xem xét xu hướng và sự cám dỗ để nhân cách hóa sẽ lớn hơn bao nhiêu với việc giới thiệu các hệ thống có hình dáng và âm thanh của con người.

Khả năng đó chỉ quanh quẩn. Các mô hình ngôn ngữ lớn như ChatGPT đã được sử dụng để cung cấp năng lượng cho rô-bốt hình người, chẳng hạn như người máy Ameca được phát triển bởi Engineered Arts ở Vương quốc Anh. podcast công nghệ của The Economist, Babbage, gần đây đã tiến hành một phỏng vấn với Ameca dựa trên ChatGPT. Các câu trả lời của rô-bốt, mặc dù đôi khi hơi khó hiểu, nhưng thật kỳ lạ.

Các công ty có thể được tin tưởng để làm điều đúng đắn?

Xu hướng coi máy móc là con người và trở nên gắn bó với chúng, kết hợp với việc máy móc được phát triển với các tính năng giống con người, chỉ ra những rủi ro thực sự của việc vướng mắc tâm lý với công nghệ.

Viễn cảnh nghe có vẻ lạ lùng về việc yêu người máy, cảm thấy có mối quan hệ họ hàng sâu sắc với chúng hoặc bị chúng thao túng về mặt chính trị đang nhanh chóng thành hiện thực. Tôi tin rằng những xu hướng này làm nổi bật sự cần thiết phải có những hàng rào bảo vệ mạnh mẽ để đảm bảo rằng các công nghệ không trở thành thảm họa về mặt chính trị và tâm lý.

Thật không may, không phải lúc nào các công ty công nghệ cũng được tin tưởng để thiết lập các biện pháp bảo vệ như vậy. Nhiều người trong số họ vẫn được hướng dẫn bởi phương châm nổi tiếng của Mark Zuckerberg là di chuyển nhanh và phá vỡ mọi thứ – một chỉ thị tung ra những sản phẩm nửa vời và lo lắng về những hệ lụy sau này. Trong thập kỷ qua, các công ty công nghệ từ Snapchat đến Facebook đã đặt lợi nhuận lên trên sức khỏe tâm thần người dùng của họ hoặc sự toàn vẹn của các nền dân chủ trên toàn thế giới.

Khi Kevin Roose kiểm tra với Microsoft về cuộc khủng hoảng ở Sydney, công ty nói với anh ta rằng anh ấy chỉ đơn giản là đã sử dụng bot quá lâu và công nghệ này đã trở nên tồi tệ vì nó được thiết kế cho các tương tác ngắn hơn.

Tương tự, Giám đốc điều hành của OpenAI, công ty đã phát triển ChatGPT, trong một khoảnh khắc trung thực đến nghẹt thở, cảnh báo rằng “Thật sai lầm khi dựa vào [nó] cho bất cứ điều gì quan trọng ngay bây giờ… chúng tôi có rất nhiều việc phải làm về tính mạnh mẽ và trung thực.”

Vậy làm thế nào để phát hành một công nghệ với mức độ hấp dẫn của ChatGPT – đó là ứng dụng tiêu dùng phát triển nhanh nhất từng được tạo ra – khi nó không đáng tin cậy, và khi nó có không có khả năng phân biệt sự thật từ hư cấu?

Các mô hình ngôn ngữ lớn có thể chứng minh hữu ích như là công cụ hỗ trợ để viết và mã hóa. Họ có thể sẽ cách mạng hóa việc tìm kiếm trên internet. Và, một ngày nào đó, khi được kết hợp một cách có trách nhiệm với người máy, chúng thậm chí có thể mang lại những lợi ích tâm lý nhất định.

Nhưng chúng cũng là một công nghệ săn mồi tiềm ẩn có thể dễ dàng lợi dụng xu hướng của con người để thể hiện tính người lên các đồ vật – một xu hướng được khuếch đại khi những đồ vật đó bắt chước một cách hiệu quả các đặc điểm của con người.Conversation

Giới thiệu về Tác giả

Nir Eisikovits, Giáo sư Triết học và Giám đốc, Trung tâm Đạo đức Ứng dụng, UMass Boston

Bài viết này được tái bản từ Conversation theo giấy phép Creative Commons. Đọc ban đầu bài viết.

Bạn cũng có thể thích

theo dõi Nội bộ trên

icon facebookicon twitterbiểu tượng youtubebiểu tượng instagrambiểu tượng pintrestbiểu tượng rss

 Nhận tin mới nhất qua email

Tạp chí hàng tuần Cảm hứng hàng ngày

NGON NGU CO SAN

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

ĐỌC MOST

tự ăn đến chết 5 21
Vì vậy, bạn khăng khăng ăn cho mình ốm và chết sớm?
by Robert Jennings, InnerSelf.com
Khám phá hành trình của Chris van Tulleken vào thế giới thực phẩm siêu chế biến và tác động của chúng đối với…
những người biểu tình giơ cao quả địa cầu lớn của Hành tinh Trái đất
Phá vỡ xiềng xích: Tầm nhìn cấp tiến cho một xã hội bền vững và công bằng
by Đánh dấu Diesendorf
Khám phá một cách tiếp cận triệt để để xây dựng một xã hội bền vững và công bằng bằng cách thách thức sự nắm bắt của nhà nước…
một cô gái trẻ đang học và ăn một quả táo
Nắm vững thói quen học tập: Hướng dẫn cần thiết cho việc học hàng ngày
by Cây sậy Deborah
Mở khóa những bí quyết biến việc học thành thói quen hàng ngày để nâng cao hiệu quả học tập và thành công trong học tập.…
"khuôn mặt" của AI
Tác động của AI đối với nghề nghiệp: Cách mạng hóa việc tuyển dụng và phát hiện sự thiên vị tại nơi làm việc
by Catherine Rymsha
Khám phá cách những tiến bộ của AI đang xác định lại con đường sự nghiệp và quản lý tài năng, ảnh hưởng đến việc tuyển dụng,…
một người phụ nữ và con chó của cô ấy nhìn vào mắt nhau
Làm thế nào chó có thể giúp chúng tôi phát hiện COVID và các bệnh khác
by Jacqueline Boyd
Trong khi con người chúng ta thường trải nghiệm thế giới thông qua thị giác, loài chó sử dụng mùi hương để tìm hiểu về…
tượng phật
Chúc mừng sinh nhật Đức Phật! Vì Sao Đức Phật Có Nhiều Ngày Sinh Nhật Khác Nhau Trên Thế Giới
by Megan Bryson
Khám phá các lễ kỷ niệm Phật đản đa dạng trên khắp châu Á, từ tắm tượng cho đến…
phác thảo vẽ một người đang thiền với đôi cánh và ánh sáng rực rỡ
Kết thúc và mở đầu: Mấy giờ rồi?
by Linh mục Daniel Chesbro và Linh mục James B. Erickson
Đã có lúc một loạt các sự kiện quan trọng và tương lai có thể xảy ra kết hợp với nhau có thể có…
con lắc
Học cách tin tưởng vào khả năng tâm linh của bạn bằng cách làm việc với con lắc
by Lisa Campion
Một cách để học cách tin tưởng vào các cú đánh tâm linh của chúng ta là sử dụng một con lắc. Con lắc là công cụ tuyệt vời…

Thái độ mới - Khả năng mới

Nội địa.comClimateImpactNews.com | Nội điện.net
MightyNatural.com | WholisticPolitics.com | Thị trường nội địa
Copyright © 1985 - 2021 InnerSelf Publications. Tất cả các quyền.