TIN TỨC

fanpage

Thống kê truy cập

  • Online: 4
  • Hôm nay:
  • Tháng:
  • Tổng truy cập:
Chi tiết bài viết

Suy nghĩ lại về trí thông minh trong một thế giới không chỉ con người Rethinking Intelligence In A More-Than-Human World

 

Nếu con người chúng ta muốn hiểu rõ hơn về thế giới sôi động xung quanh mình - và những thiệt hại mà chúng ta đang gây ra cho nó - thì chúng ta sẽ cần một quan niệm mới về trí thông minh phi nhân loại.

Laura Wächter cho tạp chí NoemaChúng ta dành nhiều thời gian để tranh luận về trí thông minh - nó có nghĩa là gì?Ai có nó?Và đặc biệt là gần đây - công nghệ có thể giúp chúng ta tạo ra hoặc nâng cao nó không?

Nhưng đối với một loài dựa vào “sự khôn ngoan” tự tuyên bố của mình để phân biệt mình với tất cả các loài động vật khác, một loài luôn tự nhận mình là thông minh và lý trí, Homo sapiens có xu hướng làm một số điều cực kỳ ngu ngốc - chẳng hạn như tạo ra khủng hoảng khí hậu., hoặc đe dọa sự tồn vong của thế giới chúng ta bằng thảm họa hạt nhân, hoặc tạo ra các thuật toán ngày càng mạnh mẽ và có sức lan tỏa rộng rãi.

Trên thực tế, nếu chúng ta muốn “khôn ngoan”, chúng ta cần học cách quản lý một loạt rủi ro khác nhau và có khả năng tồn tại liên quan đến (và thường được tạo ra bởi) những can thiệp công nghệ của chúng ta vào hệ sinh thái xã hội sinh học mà chúng ta đang sinh sống.Nói tóm lại, chúng ta cần suy nghĩ lại ý nghĩa của việc trở nên thông minh.

Điểm xuất xứ Một phần của vấn đề là chúng ta coi cả “trí thông minh” và “tác nhân” là những đặc điểm khách quan, có thể nhận dạng và đo lường được của con người.Nhưng họ không như vậy.

Ít nhất một phần, cả hai khái niệm đều là sản phẩm của hoàn cảnh lịch sử cụ thể.

Ví dụ: “Quyền tự quyết” xuất hiện cùng với thời kỳ Khai sáng của Châu Âu, có lẽ được gói gọn tốt nhất trong “Bài diễn văn về phẩm giá con người” của Giovanni Pico della Mirandola.

Viết vào cuối thế kỷ 15, Mirandola tiết lộ thực tế rằng chỉ riêng nhân loại “có quyền có bất cứ thứ gì anh ta chọn, trở thành bất cứ thứ gì anh ta muốn.… Trên con người … Chúa Cha đã ban các loại hạt giống và mầm mống của mọi lối sống.

Hạt giống nào mà mỗi người gieo trồng sẽ trưởng thành và mang lại kết quả cho chính mình.

Nói cách khác, điều làm cho con người trở nên độc đáo là việc họ sở hữu khả năng do Chúa ban cho để thực hiện ý chí tự do - thực hiện hành động hợp lý, tự giác để đạt được những mục đích cụ thể.Ngày nay, đây vẫn là mô hình cơ quan củng cố các lĩnh vực quan trọng và có ảnh hưởng của diễn ngôn công chúng.

Ví dụ, nó gây tiếng vang mạnh mẽ với các cải cách chính sách kinh tế theo chủ nghĩa tân tự do, cũng như với các cuộc tranh luận về trách nhiệm y tế công cộng và chi tiêu phúc lợi.Vài trăm năm sau, phiên bản hiện đại của “trí thông minh” lại xuất hiện ở châu Âu, nơi nó được hiểu là khả năng nhận thức có trật tự, hợp lý, giải quyết vấn đề, nhận dạng khuôn mẫu.

Thông qua công trình của nhà ưu sinh học Francis Galton, cùng với những người khác, trí thông minh nhanh chóng được coi là một phẩm chất bẩm sinh mà các cá nhân sở hữu ở mức độ ít hay nhiều, có thể được sử dụng để sắp xếp các nhóm dân cư thành các hệ thống phân cấp về khả năng tiếp cận xã hội và phần thưởng kinh tế.

“Cả trí thông minh và quyền tự quyết đều có cơ sở vững chắc dựa trên kinh nghiệm sống của một nhóm người cụ thể.”

Trong thế kỷ 21, khái niệm này tiếp tục thực hiện những công việc tương tự, với hầu hết các quốc gia ít nhất đưa ra một cam kết mang tính tượng trưng đối với lý tưởng trọng dụng nhân tài;

Các kỳ thi chính thức kiểm tra khả năng lý luận, số học và ngôn ngữ cùng với kỷ luật và trí nhớ, sau đó được sử dụng để quản lý việc tiếp cận các trường học, đại học có địa vị cao và cuối cùng là sự nghiệp.

Cả trí thông minh và khả năng tự chủ đều được xác định theo thói quen là những thuộc tính phổ quát của con người, một phần trong định nghĩa về ý nghĩa của con người.Nhưng cả hai đều thực sự có nền tảng vững chắc vào kinh nghiệm sống của một nhóm người cụ thể.

Có thể hiểu được rằng các học giả và quý ông ưu tú ở châu Âu, khi cố gắng thẩm vấn và nắm bắt những gì cấu thành nên loài người, nên sử dụng kinh nghiệm của chính họ làm cơ sở cho nghiên cứu của mình.Nhưng quan điểm của họ nhất thiết bị hạn chế.Nếu được hỏi, liệu những người hầu của họ có coi ý chí tự do là yếu tố quyết định nhân tính của họ không?

Còn nô lệ của họ thì sao?Hay vợ của họ?

Các cuộc tranh luận kéo dài, kéo dài và đôi khi gay gắt trong thế kỷ 20 và 21 đã nêu bật những thành kiến về văn hóa, giới tính và chủng tộc vốn có trong cả bản thân các bài kiểm tra trí thông minh cũng như các điều kiện mà chúng có thể được thực hiện.Những người chỉ trích khái niệm này thường xuyên phàn nàn rằng, thay vì đưa ra một thước đo khách quan về nhân tài, việc kiểm tra trí thông minh vẫn tiếp tục phản ánh trải nghiệm của các nhóm đặc biệt có đặc quyền, biện minh cho sự phân chia xã hội và sự phân bổ không đồng đều các nguồn lực khan hiếm.Tuy nhiên, vấn đề lớn hơn nhiều so với câu hỏi làm thế nào để vận dụng khái niệm trí thông minh một cách công bằng và đúng đắn.“Scala thiên nhiên”?

Ví dụ, hãy xem xét cách trí thông minh được sử dụng trong nghiên cứu về trí tuệ động vật và trí tuệ nhân tạo.

Trong cả hai trường hợp, mô hình nhận thức giải quyết vấn đề hợp lý đã đặt ra những hạn chế và hạn chế trong việc hiểu cách mà những tâm trí khác có thể tương tác với thế giới.“Đạo đức học nhận thức” nổi lên như một lĩnh vực nghiên cứu quan trọng vào cuối những năm 1970 khi các nhà khoa học bắt đầu tìm kiếm và ghi lại bằng chứng về “lý thuyết tâm trí” của động vật, lý luận liên kết và cách sử dụng công cụ.

Nhưng cũng giống như các nhóm nam giới da trắng ưu tú trước đây được coi là tiêu chuẩn cho trí thông minh của con người, trí thông minh của con người tiếp tục là thước đo cho trí tuệ động vật.Điều này xảy ra một cách rõ ràng khi hiệu suất nhận thức được đánh giá bằng cách so sánh nó với khả năng của trẻ sơ sinh hoặc trẻ nhỏ, và cũng xảy ra một cách ngầm định khi các loại nhiệm vụ được sử dụng để đánh giá trí thông minh nói lên sức mạnh của con người.Đặc biệt, phản ánh vai trò quan trọng của sự phối hợp tay-mắt trong quá trình tiến hóa của loài người, các bài kiểm tra trí thông minh vẫn tập trung vào thị giác thay vì kích thích thính giác, xúc giác hoặc khứu giác.

Tuy nhiên, các loài giáp xác, corvids và cephalopod đều đã đạt được thành tích đáng kinh ngạc trong cả thử nghiệm trong phòng thí nghiệm và thực địa - nhưng những sinh vật thường được cho là “thông minh” nhất, giống như loài linh trưởng, vẫn là những loài có ngoại hình và hành vi giống con người nhất.Và ngay cả trong các loài linh trưởng, cũng có sự phân cấp dựa trên sự giống nhau và mối quan hệ họ hàng, trong đó loài tinh tinh sống ở châu Phi được xếp hạng cao hơn loài khỉ mũ có khả năng sử dụng công cụ bằng đá sáng tạo ở châu Mỹ.Sự tiến bộ của trí tuệ nhân tạo cũng được đo lường bằng thước đo của con người.

Trong những năm 1950 và 60, các nhà nghiên cứu như Marvin Minsky và Frank Rosenblatt đã sử dụng các phương pháp khác nhau để phát triển thứ mà họ tin rằng, trong một thế hệ, sẽ trở thành trí tuệ nhân tạo tổng hợp dựa trên máy móc, tạo ra khả năng nhận thức tương đương với khả năng nhận thức của con người.

Đó là một giả định quá tự tin và không chính xác.Tuy nhiên, điều này không ngăn được kỳ vọng về việc AI sẽ tăng tốc trong thập kỷ qua, bên cạnh những tiến bộ trong điện toán, phân tích dữ liệu, công nghệ đám mây và học sâu.Tham gia cùng các nhà khoa học máy tính trong sự mong đợi của họ về AI, dù háo hức hay không, là các nhà thần học, nghệ sĩ và công chúng nói chung.“Homo sapiens còn lại gì nếu điểm bán hàng độc nhất cùng tên của nó bị chiếm đoạt?”Nhưng một lần nữa, ý tưởng về những gì tạo nên “trí thông minh” gần giống với mô hình phân tích logic, hợp lý trước đó của thế kỷ 19.

Ví dụ, mục tiêu nghiên cứu chính tập trung vào lý luận, giải quyết vấn đề, nhận dạng mẫu và khả năng lập bản đồ mối quan hệ giữa các khái niệm, đối tượng và chiến lược.“Trí thông minh” ở đây là nhận thức, lý trí và hướng tới mục tiêu.Ví dụ, nó không phải là cảm giác vận động (dựa trên phương án và trí nhớ vật lý) hay vui tươi.

Cũng không - bất chấp những nỗ lực hết mình của Rosalind Picard và một số người khác - nó thường bao gồm cảm xúc hoặc ảnh hưởng.Có lẽ vì thế mà con người có xu hướng lo sợ hậu quả của AI.

Với động vật, nếu con người là hình mẫu cho trí thông minh thì ít nhất chúng ta sẽ luôn đạt điểm cao hơn.Mặt khác, diễn ngôn về AI có xu hướng tập trung mạnh mẽ vào câu hỏi liệu những sáng tạo của nhân loại (cơ khí, sinh học hay điều khiển học) sẽ trỗi dậy và tiêu thụ người sáng tạo ra chúng hay không.Đây đã là chủ đề chính trong các câu chuyện về AI kể từ “Frankenstein” của Mary Shelley và nó tiếp tục thống trị các cách thể hiện hư cấu về trí tuệ máy móc.

Đối với các nền dân chủ phương Tây, lịch sử máy tính gắn bó chặt chẽ với nỗi lo sợ rằng con người sẽ trở nên lỗi thời, từ các cuộc bạo loạn Luddite do phát minh ra máy dệt Jacquard (bản thân nó dựa trên mã nhị phân) cho đến cách tiếp cận dự kiến về “điểm kỳ dị công nghệ”.Hiện tượng này, một thời điểm được dự đoán trước mà tại đó trí thông minh của máy tăng tốc sẽ vượt trội và áp đảo năng lực của con người, được một số nhà lý thuyết coi là mối đe dọa hiện hữu đối với chính nhân loại.Homo sapiens còn lại gì nếu lợi điểm bán hàng độc nhất cùng tên của nó bị chiếm đoạt và một loại sinh vật khác vượt qua nó trên bậc thang tiến hóa?Tất cả những cuộc tranh luận về trí thông minh và tương lai của con người đều dựa trên giả định rằng trí thông minh về cơ bản là hợp lý và hướng đến mục tiêu - nghĩa là cách hiểu về khái niệm này ở thế kỷ 19 vẫn là cách giải thích phù hợp nhất về bản chất của nó.

Nếu không thì sao?Và còn cơ quan thì sao?Điều gì sẽ xảy ra nếu đại lý không tự giác hoặc thậm chí không dựa vào một cá nhân?

Hệ sinh thái của trí tưởng tượng     

 Vào cuối thế kỷ 20, các nghiên cứu về học tập và ra quyết định bắt đầu ghi nhận tầm quan trọng của vui chơi và tầm quan trọng của cảm xúc đối với sự phát triển của cả trí thông minh và khả năng tự chủ.

Rõ ràng là cảm xúc là trung tâm của quá trình học tập: Nó ảnh hưởng đến sự chú ý, khả năng ghi nhớ và lý luận.Tổn thương hạch hạnh nhân, vùng não liên quan mật thiết đến trải nghiệm cảm xúc của một cá nhân, gây khó khăn trong việc đưa ra quyết định và đưa ra kết luận.Vào những năm 1960, nhà tâm lý học nổi tiếng về sự phát triển thời thơ ấu Jean Piaget lập luận rằng vui chơi là trọng tâm của việc học, giúp trẻ làm quen với các kỹ năng và tình huống trong môi trường an toàn.Nghiên cứu đạo đức học gần đây hơn về động vật không phải con người xác nhận rằng những cá thể chơi nhiều hơn sẽ thành công hơn (xét về tuổi thọ cá nhân và khả năng sinh sản) so với những cá thể không chơi - mặc dù các cơ chế chính xác liên kết việc chơi đùa với những kết quả này vẫn chưa rõ ràng.Quan trọng hơn nữa, khi xem xét cả AI và rủi ro, các nhà nghiên cứu gần đây đã bắt đầu chú ý nhiều hơn đến tầm quan trọng của các câu chuyện khi hiểu về hành vi và việc ra quyết định của công chúng.

Trong một thời gian dài, “kể chuyện” là một thứ được phân loại chỉ là một hình thức vui chơi khác - thứ mà bạn làm cho trẻ em hoặc những người có đầu óc trẻ con.Nhưng sự tăng trưởng đáng kinh ngạc cả về phạm vi và quy mô của các nền tảng giải trí kỹ thuật số và analog đã chứng tỏ sức nặng kinh tế của trí tưởng tượng.Chơi, hóa ra, là một công việc nghiêm túc.Truyện cổ tích có thể tỏ ra hữu ích hơn việc phân tích nhân tố trong việc tìm hiểu tác nhân của con người trong Kỷ Anthropocene.Điều này là do các câu chuyện cực kỳ quan trọng trong việc giải thích và mở rộng sự hiểu biết của một cá nhân về một tình huống.

Đặc biệt trong thập kỷ qua, phương Tây đã chứng kiến những câu chuyện (huyền thoại, hậu sự thật, lịch sử) giúp hình thành bản sắc cộng đồng tập thể như thế nào, điều này đôi khi có thể làm trầm trọng thêm căng thẳng giữa các cộng đồng.Nhưng những câu chuyện liên quan đến nhiều quan điểm cũng khuyến khích người đọc hoặc người xem nhìn thế giới từ một góc nhìn khác.Những câu chuyện khác nhau và những định hướng giác quan khác nhau có thể mở ra những cơ hội đối thoại và hiểu biết khác nhau.Và - vì mọi câu chuyện đều có phần mở đầu, phần giữa và phần cuối - họ có thể xây dựng các mô hình khác nhau về thế giới xung quanh chúng ta, tạo ra nhiều nguồn lực hơn để quản lý rủi ro.“Một trong những đặc điểm đặc biệt và phổ quát nhất của loài người là khả năng hợp tác của chúng ta.”Một lần nữa, các nhà đạo đức học có những hiểu biết sâu sắc để cung cấp ở đây.

 

Wittgenstein có thể đã tuyên bố rằng, nếu sư tử có thể nói chuyện thì con người không thể hiểu chúng, nhưng hàng thập kỷ nghiên cứu về hành vi của động vật đã chứng minh rằng trí óc của động vật rất khác biệt và rằng có thể nghĩ ra các thí nghiệm để khám phá chúng.Những câu chuyện, cho dù chúng ta đang sử dụng chúng hay thực hiện chúng, bản thân chúng có thể được coi là những biện pháp can thiệp mang tính thử nghiệm, khi chúng ta tìm ra hậu quả (kinh tế, cảm xúc, logic) của các hành động cụ thể có thể là gì.Chúng cho phép chúng ta tương tác với người khác hiệu quả hơn.

 Điểm này rất quan trọng vì sự tương tác có lẽ là khía cạnh bị bỏ qua một cách thiếu khôn ngoan nhất của hành động khôn ngoan trong Anthropocene.Thảo luận về tác nhân trong kinh tế học và triết học truyền thống thường tập trung vào cạnh tranh và vai trò của cá nhân (lý trí).Nhưng xét về vấn đề này, một trong những đặc điểm đặc biệt và phổ biến nhất của loài người là khả năng hợp tác của chúng ta.Khả năng này thực sự được xây dựng trong cơ thể sinh học của chúng ta.Nếu không có sự hợp tác, không có khả năng hình thành liên minh, phụ nữ sẽ không thể sinh con hoặc nuôi con: Loài người chúng ta sẽ bị tuyệt chủng.

 

Homo sapiens là loài linh trưởng có tính xã hội cao nhất, có khả năng làm việc cùng nhau ở những cấp độ phức tạp rất khác nhau (gia đình, làng, ủy ban, đội, giáo đoàn, quốc gia), tùy thuộc vào nhiệm vụ trước mắt.

Điều quan trọng hơn nữa - và thậm chí không đề cập đến câu hỏi con người thực sự bao gồm bao nhiêu DNA vi khuẩn - chúng tôi hợp tác giữa các loài.Ví dụ, khả năng của chúng ta trong việc hình thành mối liên kết chặt chẽ với chó có thể là yếu tố then chốt giúp Homo sapiens cạnh tranh với các loài vượn nhân hình khác, vì những chú chó có khứu giác chuyên biệt và kỹ năng chạy bền bỉ sẽ hợp tác với những con người có đôi mắt sắc bén sử dụng vũ khí từ xa đểđể cung cấp lương thực dư thừa cho mọi người.

Theo nhiều cách, Anthropocene có thể được hiểu là sự biểu hiện của cơ quan đa loài tập thể: Nếu không có động vật và vật nuôi đồng hành, xã hội công nghiệp có thể không bao giờ phát triển.Không phải ngẫu nhiên mà chúng ta vẫn nói về “mã lực” của động cơ hay chuyển sang làm bạn đồng hành với những chú chó con giữa một đại dịch tàn khốc.Ngay cả ở trung tâm các thành phố, chúng ta sống trong các hệ sinh thái sinh học xã hội vô cùng phức tạp hơn con người, nơi chúng ta thường di chuyển mà không có nhận thức có ý thức.

Theo nhiều cách, Anthropocene có thể được hiểu là sự biểu hiện của quá trình phát triển tập thể đa loài.

Thật khó để không nhân hóa ở đây, nhưng giờ đây chúng ta đã có hơn nửa thế kỷ nỗ lực của các nhà khoa học để nghiên cứu nhận thức của động vật.Công việc của họ cung cấp cho chúng ta những mô hình về cách trải nghiệm thế giới như một con ong bắp cày, một con chim cổ đỏ hay thậm chí là một con tinh tinh.Điều này có thể giúp chúng ta nhận thức được các loại vấn đề, mối liên hệ và khả năng khác nhau trong thế giới đó.Chúng tôi có khả năng có thể tiến xa hơn - không cần phải lấy vườn thú làm trung tâm.Charles Darwin đã nghiên cứu hành vi của cây dưa chuột vào những năm 1860, quan sát các tua di động của chúng tìm kiếm sự hỗ trợ khi chúng leo lên, cuộn lại như một chiếc lò xo theo hai hướng để bảo vệ cây đang phát triển khỏi sự xáo trộn của môi trường.Và cây Mimosa, những chiếc lá cuộn tròn khi chạm vào hoặc bị xáo trộn, rõ ràng có thể có trí nhớ mặc dù chúng thiếu tế bào thần kinh.Việc coi trọng trí tuệ thực vật được nối mạng có thể mang lại những quan điểm mới quan trọng về khái niệm trí thông minh rộng hơn.Trong trải nghiệm của con người về trí thông minh, chúng ta phải vượt ra ngoài lý trí.

Chúng ta phải khám phá những khả năng liên quan đến cảm xúc và hiện thân trong các mô hình học tập nhân tạo của chúng ta.Các nghiên cứu về cảm xúc trong AI hiện tập trung vào khả năng máy tính tạo ra cảm xúc cho người dùng - chứ không phải sự tồn tại của cảm xúc trong máy.Nhưng đó có phải là giới hạn của những gì có thể tưởng tượng và đạt được?Triển vọng về một trí tuệ nhân tạo được thể hiện bằng cảm xúc chắc chắn hiện hoàn toàn nằm trong lĩnh vực khoa học viễn tưởng - nhưng bản thân khoa học viễn tưởng về cơ bản là một tập hợp các câu chuyện thử nghiệm cho phép mọi người kiểm tra giới hạn của khả năng và hậu quả của hành động.Điều quan trọng cần nhớ là vai trò của cảm xúc trong “Frankenstein”, câu chuyện kinh dị gốc về AI.

Câu chuyện này, thường được sử dụng như cách viết tắt của sự ngạo mạn trong khoa học, thực ra là do sự thất bại của cha mẹ.Tội lỗi của Frankenstein là ông đã không cung cấp cho tác phẩm của mình sự chăm sóc nuôi dưỡng cần thiết.Tất nhiên, nuôi dưỡng là nền tảng cho sự hợp tác giữa các loài thành công nhất của chúng ta (chó, ngựa, mèo, cá heo), trong đó việc học tập được khuyến khích thông qua các phần thưởng về mặt cảm xúc hoặc thể chất và những kỳ vọng, mặc dù thường được nhân cách hóa, nhưng mang sắc thái cho các mối quan hệ cụ thể.Máy móc có tri giác không tồn tại - nhưng chúng ta có thể xây dựng dựa trên kinh nghiệm của mình về mối quan hệ với những cá nhân không phải con người có tri giác để cải thiện cả những kỳ vọng thực tế và đạo đức của chúng ta đối với AI.Thay vì dự đoán sự tuyệt chủng của con người, việc áp dụng cách tiếp cận mang tính hợp tác, hợp tác - thậm chí là quan tâm - đối với các sáng tạo của chúng ta là bước đi đầu tiên tốt đẹp để sống sót sau thảm họa khí hậu.

Amanda Rees là nhà sử học khoa học tại Đại học York.

 

If we humans are going to gain a better understanding of the vibrant world around us — and the damage we are doing to it — we’re going to need a new conception of nonhuman intelligence.

Laura Wächter for Noema Magazine

We spend a lot of time debating intelligence — what does it mean? Who has it? And especially lately — can technology help us create or enhance it?

But for a species that relies on its self-declared “wisdom” to differentiate itself from all other animals, a species that consistently defines itself as intelligent and rational, Homo sapiens tends to do some strikingly foolish things — creating the climate crisis, for example, or threatening the survival of our world with nuclear disaster, or creating ever-more-powerful and pervasive algorithms. 

If we are in fact to be “wise,” we need to learn to manage a range of different and potentially existential risks relating to (and often created by) our technological interventions in the bio-social ecologies we inhabit. We need, in short, to rethink what it means to be intelligent. 

Points Of Origin

Part of the problem is that we think of both “intelligence” and “agency” as objective, identifiable, measurable human characteristics. But they’re not. At least in part, both concepts are instead the product of specific historical circumstances. “Agency,” for example, emerges with the European Enlightenment, perhaps best encapsulated in Giovanni Pico della Mirandola’s “Oration on the Dignity of Man.” Writing in the late 15th century, Mirandola revels in the fact that to humanity alone “it is granted to have whatever he chooses, to be whatever he wills. … On man … the Father conferred the seeds of all kinds and the germs of every way of life. Whatever seeds each man cultivates will grow to maturity and bear in him their own fruit.”

In other words, what makes humans unique is their possession of the God-given capacity to exercise free will — to take rational, self-conscious action in order to achieve specific ends. Today, this remains the model of agency that underpins significant and influential areas of public discourse. It resonates strongly with neoliberalist reforms of economic policy, for example, as well as with debates on public health responsibility and welfare spending. 

A few hundred years later, the modern version of “intelligence” appears, again in Europe, where it came to be understood as a capacity for ordered, rational, problem-solving, pattern-recognizing cognition. Through the work of the eugenicist Francis Galton, among others, intelligence soon came to be regarded as an innate quality possessed by individuals to greater or lesser degree, which could be used to sort populations into hierarchies of social access and economic reward. 

“Both intelligence and agency are grounded firmly in the lived experience of one particular human group.”

In the 21st century, the concept continues to do much the same work, with most nations making at least a token commitment to a meritocratic ideal; formal examinations test reasoning, numerical and linguistic skills alongside discipline and memory, which are then used to manage access to high-status schools, universities and eventually careers. 

Both intelligence and agency are habitually identified as universal human attributes, part of the very definition of what it means to be human. But both are actually grounded firmly in the lived experience of one particular human group. It’s understandable that elite European scholars and gentlemen, trying to interrogate and apprehend what constituted humanity, should use their own experience as a basis for their studies. But their perspectives were necessarily limited. If asked, would their servants have pointed to free will as the defining element of their humanity? What about their slaves? Or their wives? 

Sustained, protracted and sometimes vicious debates during the 20th and 21st centuries highlighted the cultural, gendered and racial biases inherent in both intelligence tests themselves and the conditions under which they can be administered. Critics of the concept have frequently complained that, far from providing an objective meritocratic measure, intelligence testing continues to reflect the experience of particularly privileged groups, justifying social divisions and the unequal distribution of scarce resources. 

The problem, however, is much bigger than the question of how to operationalize the concept of intelligence in a fair and just way. 

“Scala Naturae”?

Consider, for example, the ways intelligence has been used in the study of animal and artificial intelligence. 

In both cases, the paradigm of rational problem-solving cognition has placed limitations and restrictions on understanding the way that other minds might interact with the world. “Cognitive ethology” emerged as a key research area in the late 1970s as scientists began to seek out and document evidence for animal “theory of mind,” associative reasoning and tool use.

But just as elite groups of white males had earlier stood as the standard for human intelligence, human intelligence continued to be the measure of animal minds. This happens explicitly, when cognitive performance is assessed by comparing it to the capacity of a human infant or child, and also implicitly, when the types of tasks used to assess intelligence speak to human strengths. 

In particular, reflecting the significant role played by hand-eye coordination in human evolution, intelligence tests still focus on visual as opposed to aural, tactile or olfactory stimuli. Cetaceans, corvids and cephalopods have all nevertheless turned in amazing performances in both lab and field tests — but the creatures commonly assumed to be most “intelligent,” like primates, are still those that look and behave most like humans. And even within the primates, there is gradation based on resemblance and relatedness, with the Africa-based chimpanzees ranked higher than inventive stone-tool-using capuchin monkeys of the Americas.

The progress of artificial intelligence is also measured against the human yardstick. During the 1950s and 60s, researchers like Marvin Minsky and Frank Rosenblatt used different methodologies to develop what they believed would, within a generation, become machine-based artificial general intelligence, generating a cognitive capacity that would be equivalent to that possessed by humans. It was an overconfident and incorrect assumption. This has not, however, stopped expectations of AI accelerating over the past decade, alongside advances in computing, data analysis, cloud technology and deep learning. Joining computer scientists in their anticipation of AI, eagerly or otherwise, are theologians, artists and the general public. 

“What’s left for Homo sapiens if its eponymous unique selling point is usurped?”

But again, the idea of what constitutes “intelligence” closely resembles the earlier 19th-century model of rational, logical analysis. Key research goals, for example, focus on reasoning, problem-solving, pattern recognition and the capacity to map the relationship between concepts, objects and strategies. “Intelligence” here is cognitive, rational and goal-directed. It is not, for example, kinesthetic (based on embodiment and physical memory) or playful. Nor — despite the best efforts of Rosalind Picard and some others — does it usually include emotion or affect. 

Perhaps as a result, people tend to fear the consequences of AI. With animals, if humans are the model for intelligence, at least we will always score higher. AI discourse, on the other hand, has had a strong tendency to harp on the question of whether humanity’s creations (mechanical, biological or cybernetic) will rise up and consume their creator. This has been a major theme within AI narratives ever since Mary Shelley’s “Frankenstein,” and it continues to dominate fictional representations of machine intelligence.

For Western democracies, the history of computing is inextricably intertwined with the fear that humans will become obsolete, from the Luddite riots caused by the invention of the Jacquard loom (itself based on binary code) to the projected approach of the “technological singularity.” This phenomenon, an anticipated point in time at which accelerating machine intelligence will outperform and overwhelm human capacities, is regarded by some theorists as an existential threat to humanity itself. What’s left for Homo sapiens if its eponymous unique selling point is usurped, and another kind of creature climbs past it on the ladder of evolution?

All these debates about intelligence and the human future are based on the assumption that intelligence is fundamentally rational and goal-directed — that is, that the 19th-century understanding of the concept is still the most appropriate interpretation of what it is. What if it isn’t? And what about agency? What if agency isn’t self-conscious, or even based in an individual? 

Ecologies Of The Imagination

By the end of the 20th century, studies of learning and decision-making began to note the importance of play and the significance of emotion to the development of both intelligence and agency. It became clear that emotion is central to the process of learning: It influences attention, retention and reasoning. 

Damage to the amygdalae, the areas of the brain intimately involved in an individual’s experience of emotion, create difficulties in making decisions and reaching conclusions. In the 1960s, the renowned psychologist of childhood development Jean Piaget argued that play was central to learning, enabling children to familiarize themselves with skills and scenarios in safe environments. More recent ethological work on non-human animals confirms that individuals who play more are more successful (in terms of individual life span and reproductive success) than those who don’t — although the precise mechanisms linking play with these outcomes remain unclear. 

Even more importantly, when it comes to considering both AI and risk, researchers have recently begun to pay a lot more attention to the significance of stories when it comes to understanding public behaviors and decision-making. For a long time, “telling stories” was something that was categorized as just another form of play — something that you did for, or to, children or the child-minded. But the startling growth of both the range and size of digital and analog entertainment platforms has demonstrated the economic weight of the imagination.

Play, it turns out, is serious work. Fairy tales may well prove more useful than factor analysis in understanding human agency in the Anthropocene. This is because stories are vitally important in both explaining and expanding an individual’s understanding of a situation. Particularly in the past decade, the West has seen how stories (myths, post-truths, history) help form collective community identities, which can sometimes exacerbate inter-community tension. 

But stories that involve multiple points of view also encourage readers or viewers to see the world from a different perspective. Different stories and different sensory orientations can open up different opportunities for dialogue and insight. And — since every story has a beginning, a middle and an end — they can build different models of the world around us, creating more resources from which to manage risks. 

“One of the most distinctive and universal characteristics of humanity is our ability to cooperate.”

Again, ethologists have insights to offer here. Wittgenstein might have claimed that, if lions could talk, humans could not understand them, but decades of work on animal behavior have demonstrated both that animal minds are different and that it is possible to devise experiments to explore them. 

Stories, whether we are consuming them or acting them out, can themselves be considered experimental interventions, as we play out what the (economic, emotional, logical) consequences of particular actions might be. They enable us to interact with others more effectively.

This point is important because interaction is probably the most unwisely ignored aspect of wise action in the Anthropocene. Discussion of agency in traditional economics and philosophy usually focuses on competition and the role of the (rational) individual. But when it comes down to it, one of the most distinctive and universal characteristics of humanity is our ability to cooperate. This capacity is literally built into our biology. 

Without cooperation, without the ability to form alliances, women would not be able to give birth or raise children: We would become extinct as a species. Homo sapiens is the most social of all the primates, with the capacity to work together at very different levels of complexity (the family, the village, the committee, the team, the congregation, the nation), depending on the tasks at hand.

Even more significantly — and without even touching on the question of how much of a human actually consists of bacterial DNA — we cooperate across species lines. Our capacity to form close bonds with dogs, for example, may have been a key factor in enabling Homo sapiens to out-compete other hominid species, as canines with specialized olfactory and endurance running skills collaborated with sharp-eyed humans wielding distance weapons in order to provide a food surplus for all. 

In many ways, the Anthropocene can be understood as the expression of collective multispecies agency: Without companion animals and livestock, industrial society could never have developed. It’s not an accident that we still speak of an engine’s “horsepower,” or turn to puppies for companionship in the middle of a devastating pandemic. Even in the heart of cities, we live in immensely complex more-than-human biosocial ecologies, which we often navigate without conscious awareness. 

“In many ways, the Anthropocene can be understood as the expression of collective multispecies agency.”

When it comes to anticipating what artificial intelligence might look like or do, we urgently need to get beyond our limited idea of what constitutes intelligence. We can do this first by building on our long history of multispecies entanglement, using our past and present collaborations with animals as models for the development of supporting intelligences in different fields. 

It’s hard not to be anthropomorphic here, but we now have more than half a century’s worth of efforts by scientists to study animal cognition. Their work provides us with models of how to experience the world as a wasp or a robin or even a chimpanzee. This can help us perceive different kinds of problems, connections and possibilities within that world. 

We could potentially go further — there’s no need to be zoo-centric. Charles Darwin studied the behavior of cucumber plants in the 1860s, watching as their mobile tendrils searched for support as they climbed, coiling like a spring in two directions to secure the growing plant against environmental disturbance. And Mimosa plants, the leaves of which curl up into themselves when touched or disturbed, may demonstrably have memory even though they lack neurons. Taking networked vegetative sapience seriously could provide important new perspectives on the broader concept of intelligence.

Within our own human experience of intelligence, we have to get beyond the rational. We have to explore the possibilities of involving emotion and embodiment in our models of artificial learning. Studies of emotion in AI currently focus on the computer’s capacity to produce emotion in the human user — not on the existence of emotion in the machine. But is that the limit of what can be imagined or achieved? 

The prospect of an emotional, embodied artificial intelligence certainly currently lies wholly in the realm of science fiction — but science fiction itself is essentially a collection of experimental narratives that enable people to test the limits of possibility and consequences of action. It’s also important to remember the role of emotion in “Frankenstein,” the original AI horror story. This narrative, often used as shorthand for scientific hubris, is actually driven by parental failure. Frankenstein’s sin was that he didn’t provide his creation with the nurturing care it needed. 

Nurture, of course, is the foundation for our most successful interspecies collaborations (dogs, horses, cats, dolphins), where learning is incentivized through emotional or physical rewards, and expectations, although often anthropomorphized, are nuanced to particular relationships. Sentient machines do not exist — but we could build on our experience of relationships with sentient non-human individuals to improve both our ethical and our pragmatic expectations of AI. Rather than anticipating human extinction, adopting a collaborative, cooperative — even caring — approach to our creations is a good first step towards surviving the climate catastrophe.

Amanda Rees is a historian of science at the University of York.

Luật sư tư vấn miễn phí

Gọi ngay
0902818158- 0906834543
0906834543
0902818158

Tin pháp luật

CÁC ĐỐI TÁC

  • Nhà Đất Phúc An Khang
  • The Diplomat
  • The NewYork Review of Book
  • CogitAsia
  • Reuters
  • Viet Studies
  • The NewYork Times
  • TIME
  • Bloomberg Bussiness