Life 3.0 - Being Human in the Age of Artificial Intelligence Reviews

Cuốn sách thứ 68 trong năm 2017.

Cuốn sách này đối với tôi nằm đâu đó giữa 2 và 3 sao.

Cuốn sách tập trung vào những nguy cơ lâu dài của Trí tuệ Nhân tạo Tổng quát. Những vấn đề có thể xảy ra với cháu trai của HAL3000 trong tương lai xa xôi. Không có thảo luận về nguy cơ ngắn hạn đến trung hạn từ AI phá hủy hàng triệu việc làm. Cuốn sách này tập trung chặt chẽ vào nguy cơ của thời đại siêu trí tuệ sắp đến.

Một trong những nguy cơ được nhắc đến nhiều lần là "làm sao để tiếp tục sống khi tôi không còn là người thông minh nhất trong phòng?" loại vấn đề mà tôi đoán hầu hết các giáo sư MIT không có quá nhiều lo lắng.

Việc khen ngợi/liên tục nhắc đến các nhà nghiên cứu khác nhau làm tôi phiền lòng/ mất tập trung (ví dụ, vợ tôi và tôi đã có một bữa tối thú vị với Elon Musk nơi chúng tôi thảo luận v.v.v.v). Mô tả về Tononi trong chương về ý thức quá lố bịch khiến tôi bị sặc cà phê vì cười.

Tôi không phiền nếu việc suy luận về tương lai sâu hơn nếu nó cảm thấy phong phú hơn. Đây là một cuộc đi bộ bình thường qua lãnh thổ trí tuệ nhân tạo đã được nhiều tác phẩm khoa học viễn tưởng khác khai thác tốt hơn. Chủ đề tôi biết rõ nhất, ý thức, được đề cập một cách nông cạn và khá thiên vị, điều này khiến tôi lo lắng rằng những lĩnh vực tôi không biết rõ cũng bị thiếu sót tương tự.

Tôi nghĩ rằng Superintelligence của Nick Bostrom sẽ mang lại một trải nghiệm đọc tốt hơn nhiều.

Nếu một cỗ máy có thể suy nghĩ, nó có thể suy nghĩ thông minh hơn cả chúng ta, và khi đó, chúng ta sẽ ra sao? Dù có thể giữ máy móc trong sự phục tùng... chúng ta, với tư cách là một loài, cũng sẽ cảm thấy vô cùng khiêm nhường. Cuốn sách “Sự sống 3.0: Con người trong kỷ nguyên trí tuệ nhân tạo” của Max Tegmark, giáo sư MIT và tác giả của những cuốn sách như “Vũ trụ toán học của chúng ta”, đặt ra một câu hỏi giản dị nhưng đầy sâu sắc: trí tuệ nhân tạo (AI) sẽ định nghĩa lại chúng ta và tương lai như thế nào? Liệu siêu trí tuệ sẽ xuất hiện? Khi nào? Dưới hình thức nào? Nó sẽ hủy diệt, cứu rỗi, chung sống hay phớt lờ chúng ta? Gần đây hay xa xôi, điều gì có thể xảy ra? Ý thức là gì? Nói một cách giật gân, liệu tương lai sẽ là Terminator, TARS hay một hình thái khác hoàn toàn? Cuốn sách dày dặn này được chia thành 8 chương. Tác giả đã khéo léo xây dựng nên một cấu trúc rõ ràng, và tôi sẽ mạn phép sử dụng lại lời giới thiệu của ông ấy.

Cuốn sách mở đầu bằng một cuộc điện thoại tưởng tượng đầy kịch tính từ tương lai xa, nơi máy móc thống trị nhân loại. Nhưng thực chất, tác giả không hướng đến đại chúng với những trang viết giật gân ấy. Đằng sau lớp vỏ hào nhoáng, tác phẩm này là một lời nhắn gửi sâu sắc đến giới khoa học, đặc biệt là những người nghiên cứu trí tuệ nhân tạo. Vấn đề nằm ở chỗ, khi cuốn sách lao vào những công thức toán học và vật lý hạt nhân, phần lớn độc giả, những người không phân biệt được muon với tau, sẽ cảm thấy lạc lõng. Một tác phẩm như vậy buộc phải lựa chọn: hoặc giải thích phức tạp một cách hấp dẫn, hoặc tìm kiếm độc giả chuyên ngành sẵn có kiến thức nền tảng. Thực tế, cuốn sách còn dành nhiều trang giấy cho những "tranh luận" hóc búa mà người thường chẳng mấy quan tâm. Chẳng hạn, cả một chương được phân tích để định nghĩa ý thức, cố gắng bác bỏ những quan điểm cho rằng nghiên cứu về ý thức là phi khoa học. Điều đó thật vô nghĩa với đại đa số chúng ta, những người chỉ mong muốn một robot biết dọn nhà và chữa bệnh. Tóm lại, "Sự sống 3.0" dường như lạc giữa hai dòng độc giả. Nó không đủ phổ thông để thu hút công chúng, cũng không đủ chuyên sâu để thỏa mãn giới nghiên cứu. Cuốn sách như một bức tranh vẽ hai nửa rời rạc, thiếu đi sự kết nối hài hòa giữa lý thuyết khô khan và thực tế đời sống.

Nhà vật lý học thiên tài Stephen Hawking từng khẳng định: “Đây là cuộc đối thoại quan trọng nhất thời đại chúng ta, và tác phẩm đầy suy ngẫm của Tegmark sẽ giúp bạn tham gia vào nó.” Tôi tha thiết mời gọi mỗi người đừng thờ ơ với cuộc đối thoại này, bởi đây có thể là vấn đề hệ trọng nhất của toàn nhân loại hiện tại. Ít nhất, hãy đọc cuốn sách này và tự quyết định liệu bạn có đồng tình hay không. Hầu hết chúng ta lo ngại về biến đổi khí hậu, vũ khí hạt nhân, sinh học. Chúng ta quan tâm đến kỹ thuật di truyền. Nhưng những thảo luận về tương lai của trí tuệ nhân tạo, đặc biệt là sự xuất hiện của siêu trí tuệ, lại hiếm hoi và thường bị nhầm lẫn với viễn tưởng hay những kịch bản phim rẻ tiền. Thế nhưng, khả năng hủy diệt nhân loại do siêu trí tuệ gây ra trong tương lai gần là có thật, thậm chí còn khủng khiếp hơn bất kỳ hiểm họa nào khác mà chúng ta từng biết. Mặt khác, nếu được sử dụng đúng đắn, trí tuệ nhân tạo có thể là tương lai tối thượng của mọi sự sống thông minh, là hy vọng duy nhất để nhân loại tồn tại lâu dài trong vũ trụ. Cá nhân tôi rất quan tâm đến chủ đề này. Tôi từng nghiên cứu sâu về học máy trong quá trình tiến sĩ, dù không theo đuổi lâu dài nhưng vẫn luôn theo dõi những bước tiến lớn của trí tuệ nhân tạo. Mười năm qua, tôi dành nhiều tâm huyết cho nghiên cứu ý thức và khả năng xuất hiện siêu trí tuệ. Thậm chí, trong hành trình nghệ thuật của mình, tôi đã tạo nên một loạt tác phẩm mang tên “Cuộc đời 2.0” cách đây vài năm, cũng xoay quanh chủ đề này. Đó là lý do tôi đặc biệt trân trọng cuốn sách “Sự sống 3.0: Là con người trong thời đại AI”.

Đã có vô số những tác phẩm nghiên cứu về chủ đề này, và hàng loạt công trình học thuật lớn đang được tiến hành. Nhưng cuốn sách của Tegmark là độc nhất vô nhị bởi thay vì chỉ đơn thuần gióng lên hồi chuông cảnh báo, nó đang thực sự tìm kiếm một giải pháp. Đây là một cuốn sách lạc quan, cố gắng chứng minh rằng chúng ta có thể nắm lấy tay lái, định hướng tương lai theo chiều hướng tốt đẹp, nhưng chỉ khi chúng ta cùng nhau hiểu rõ bản chất của vấn đề và tìm kiếm những giải pháp để phát triển AI một cách có trách nhiệm. Chỉ đơn giản ước nguyện những hiểm họa biến mất sẽ vô hiệu nếu ta không biết cách tránh chúng, và đó chính là trọng tâm của cuốn sách xuất sắc này. Tác giả tiếp cận vấn đề với tư duy của một nhà vật lý: lý trí, cân nhắc, thận trọng và đa phần là vô tư. Khác với những cuốn sách cùng thể loại, ông không đặt cược vào một kịch bản cụ thể. Thay vào đó, ông cố gắng khám phá mọi giả thuyết được đưa ra, đánh giá tính khả thi và nhất quán của chúng. Ngay cả khi đối mặt với những chủ đề gây tranh cãi như ý thức hay tự do ý chí, ông vẫn xuất sắc trong việc trình bày đầy đủ các quan điểm khác nhau, rồi dần dần phân tích chúng dựa trên các định luật vật lý cơ bản. Đây là lần đầu tiên tôi thấy ai đó nói về vấn đề khổng lồ này không chỉ như một mối đe dọa, mà như một bài toán có lời giải. Tác giả tiếp cận nó như một nhà hoạt động – đầy nhiệt huyết và niềm tin. Ông đã sử dụng logic thuyết phục và lòng đam mê để thành lập một tổ chức khoa học đáng gờm, đồng thời gây dựng một quỹ nghiên cứu lớn mạnh nhờ sự hỗ trợ tài chính từ các nguồn đáng kể.Cuốn sách "Sự sống 3.0: Là con người trong thời đại AI" không chỉ là một tác phẩm nghiên cứu, mà còn là một lời kêu gọi hành động, một bản thiết kế cho tương lai mà chúng ta cùng nhau xây dựng.

Hành trình vũ trụ kéo dài 13,8 tỷ năm đã chứng kiến những bước tiến thần kỳ trên Trái Đất. Khoảng 4 tỷ năm trước, sự sống sơ khai xuất hiện, rồi đến con người chúng ta cách đây khoảng 100.000 năm. Nay, nhiều nhà nghiên cứu trí tuệ nhân tạo tin rằng Sự sống 3.0 có thể ra đời trong thế kỷ này, thậm chí trong chính đời chúng ta, như một đứa con tinh thần của trí tuệ nhân tạo đang phát triển mạnh mẽ. Điều gì sẽ xảy ra và nó có ý nghĩa gì đối với chúng ta? Đó chính là chủ đề cuốn sách này. Tác phẩm không dừng lại ở những khả năng của Sự sống 3.0 mà còn vươn xa hơn, đến 10.000 năm và cả tỷ năm sau, dù có hay không sự tồn tại của loài người. Điểm khác biệt căn bản của tương lai chính là: chúng ta chỉ có khả năng thiết kế phần mềm và kiểm soát hạn chế phần cứng, trong khi Sự sống 3.0 có thể tự thiết kế cả hai. Mặc dù mốc thời gian còn gây tranh luận, nhưng sự xuất hiện của một trí tuệ nhân tạo siêu việt trong vài thập kỷ tới không phải là điều hoàn toàn bất khả thi. Trí tuệ nhân tạo đã đồng hành với chúng ta nhiều năm, không ngừng hoàn thiện để đạt được những mục tiêu phức tạp hơn. Thế nhưng, chúng ta liên tục thay đổi đích đến để định nghĩa lại trí tuệ nhân tạo. Trí tuệ nhân tạo hiện tại xuất sắc trong việc đạt được các mục tiêu cụ thể, trong khi con người hướng đến những mục tiêu rộng lớn hơn. Sự khác biệt về độ phức tạp giữa người và máy rất rõ rệt. Điều đơn giản với con người lại là thử thách lớn với máy móc. Ví dụ, việc nhận diện một người bạn trong ảnh, chỉ mới gần đây máy mới làm được. Đây là điều nhà khoa học Hans Moravec đã giải thích rõ nét trong "cảnh quan năng lực của con người".

Trừ khi một ngày nào đó, Thượng đế mệt mỏi với nhân loại, quyết định giáng trần và cấm đoán mọi nghiên cứu công nghệ, trái ngược lại, chúng ta sẽ không thể tránh khỏi sự ra đời của trí tuệ nhân tạo. Và khi đó, chính AI sẽ tạo ra một AI khác, thông minh hơn nhiều so với những gì chúng ta, loài linh trưởng khôn ngoan, có thể lắp ghép. Cuốn sách này vẽ nên một bức tranh toàn cảnh về những gì có thể xảy ra tiếp theo, cùng với đó là xác suất cực nhỏ để chúng ta thành công. Giống như việc xây dựng phiên bản tiếp theo của hệ điều hành Windows, nhưng sai sót nhỏ nhất cũng có thể xóa sổ nhân loại. Thật đáng khâm phục khi tác giả vẫn giữ được thái độ lạc quan giữa vực thẳm đen tối, như nhà khoa học Stephen Hawking. Để vượt qua thử thách này, chúng ta cần hy vọng, sự lãnh đạo vĩ đại và một chút may mắn, giống như chuyến hành trình không tưởng của Shackleton. Phần thưởng và rủi ro chưa bao giờ lớn đến thế và có lẽ sẽ không bao giờ lặp lại. Nếu bạn là người thực tế, tốt nhất đừng đọc cuốn sách này để sống lâu hơn. Nhưng nếu đủ nhiều người đọc nó, có lẽ nhân loại sẽ có cơ hội tồn tại lâu dài hơn.

Yêu cầu mọi người mô tả những gì họ tưởng tượng về trí tuệ nhân tạo và một số điểm mô tả của họ không thể không lấy tham khảo từ những bộ phim và sách văn học. Có robot tàn bạo từ các bộ phim Terminator, HAL9000 từ 2001: A Space Odyssey và Deep Thought mà Douglas Adams đã đưa ra. Trí tuệ nhân tạo còn lâu mới phát triển, nhưng nó đang trở thành một cái gì đó mà mọi người bắt đầu sử dụng hàng ngày khi họ nói chuyện với Siri hoặc Alexa.

Các lợi ích tiềm năng của trí tuệ nhân tạo đối với con người có thể rất lớn, nó có thể được sử dụng để vận hành các hệ thống, tìm kiếm tội phạm và có thể là một phần của quá trình tư pháp, theo dõi sức khỏe của chúng ta, hỗ trợ công việc của chúng ta và có tiềm năng làm một số công việc nhàm chán nhất. Mọi người đang xem xét sử dụng chúng cho chiến tranh, một bước tiến so với những gì máy bay không người lái thực hiện dưới sự kiểm soát của con người hiện tại.

Trong khi trí tuệ nhân tạo làm cho một số người hào hứng chỉ nhìn thấy các điểm tích cực, sau tất cả tiềm năng của nó là rất lớn; có những người lo lắng rằng về các hậu quả tiêu cực đến mức có các hệ thống trí tuệ nhân tạo không kết nối với mạng toàn cầu. Sử dụng trí tuệ nhân tạo cho chiến tranh có thể phản tác dụng một cách ngoạn mục, tạm biệt nhân loại; và điều gì xảy ra nếu trí tuệ nhân tạo quản lý nhà bạn bị hack? Hoặc cái ô tô của bạn gặp sự cố khi đang chạy.

Các chủ đề Tegmark đề cập trong cuốn sách Cuộc sống 3.0 đi một phần đường để giải quyết những vấn đề này và nhiều vấn đề khác mà làm cho mọi người lo lắng về hậu quả của trí tuệ nhân tạo. Một số chủ đề ông viết về là những gì bạn mong đợi trong một cuốn sách như thế này, ý thức, trí tuệ, cuộc sống và hậu quả của một chế độ trị chủ nghĩa trí tuệ nhân tạo, liệu đó có phải là một thiên đường hay là địa ngục. Có một số chương mà tôi nghĩ không hoàn toàn liên quan đến chủ đề; ví dụ, ông đi vào lĩnh vực không gian-thời gian và mục tiêu. Điều này hơi thất vọng đối với tổng thể vì đây là một chủ đề cần phải thảo luận ngay bây giờ.

Một bài viết hay về những khả năng khác nhau về tuổi của trí tuệ nhân tạo (AI). Nhưng tôi cảm thấy nó đi quá sâu vào lĩnh vực khoa học viễn tưởng, nghĩa là tác giả tưởng tượng ra các loại tương lai khác nhau và cách mà mối quan hệ giữa con người và trí tuệ nhân tạo sẽ hoạt động.

Có nhiều tương lai tiềm năng: từ một tương lai nơi con người và trí tuệ nhân tạo làm việc cùng nhau đến một tương lai nơi con người trở thành nô lệ hoặc bị trí tuệ nhân tạo giết chết, hoặc một tương lai nơi trí tuệ nhân tạo đặt con người vào một loại sở thú nơi họ sống cuộc sống thoải mái nhưng không đem lại ý nghĩa. Thậm chí còn có một tương lai nơi một loại virus xâm nhập vào trí tuệ nhân tạo và làm nó phá hủy thế giới mà không có lý do.

Có rất nhiều cuộc thảo luận thú vị trong cuốn sách như:

- Ý nghĩa của việc sống

- Lương tâm là gì? Liệu một công thức toán học có thể giải thích lương tâm?

- Đạo đức có áp dụng cho trí tuệ nhân tạo không?

- Nếu chúng ta tải tâm trí của mình vào máy tính, liệu đó có phải là chính chúng ta không?

- Điều gì sẽ xảy ra nếu chúng ta lập trình mục tiêu cụ thể vào một trí tuệ nhân tạo nhưng khi nó trở nên tiên tiến hơn, nó thay đổi những mục tiêu đó và nhận ra rằng chúng không còn phù hợp? (tương tự như cách mục tiêu của chúng ta khi còn là trẻ con rất khác biệt so với mục tiêu của chúng ta khi trở thành người lớn)

Tóm lại, đây là một cuốn sách rất thú vị nhưng tôi đang tìm kiếm một cuốn sách nói về các vấn đề liên quan đến trí tuệ nhân tạo trong tương lai gần.

Trí tuệ nhân tạo (AI), dưới nhiều hình thức khác nhau, đã tồn tại từ khá lâu. Hầu hết chúng ta, chắc chắn, đã nhận thấy rằng từ "buzzword" này hiện đang xuất hiện thường xuyên trong nhiều lĩnh vực của hoạt động con người hiện đại (cho đến ngày hôm nay). Từ những điều nhỏ như việc bạn bè tôi gần đây để trí tuệ nhân tạo cắt và chỉnh sửa video GoPro của anh ta, đến IBM Watson với khả năng suy nghĩ sâu sắc, trí tuệ nhân tạo đã đến để thay đổi cuộc sống của chúng ta một cách vĩnh viễn.

Theo Marshall Brain, con người sẽ trở nên không quan trọng như gián. Thật vậy, nếu con người tạo ra một cái gì đó thông minh hơn họ để cải thiện cuộc sống của mình, tại sao trí tuệ này lại quan tâm đến chúng ta. Có một phép so sánh xuất sắc trong cuốn sách minh họa điểm này: một tổ kiến tạo ra một con người để cải thiện cuộc sống của tổ kiến. Bao lâu con người này sẽ quan tâm để chăm sóc những con kiến đó? Đây chỉ là một trong số nhiều ý tưởng thú vị mà độc giả có thể tìm thấy trong cuốn sách của Max Tegmark.

Ở giai đoạn này, trí tuệ nhân tạo có rất nhiều lĩnh vực chưa được chứng minh, câu hỏi chưa có câu trả lời, quan điểm mâu thuẫn về nguy cơ và cơ hội. Tác giả cố gắng giải quyết một phạm vi rất rộng của những vấn đề đó. Có rất nhiều luận đề suy luận trong cuốn sách. Trọng tâm của cuốn sách khá là cơ bản và triết học, so với việc thực tế và công nghệ hóa hiển thị ứng dụng rõ ràng của trí tuệ nhân tạo. Max Tegmark phân tích các khái niệm cơ bản quan trọng để trí tuệ nhân tạo xuất hiện và phát triển. Những khái niệm cơ bản này bao gồm mục tiêu, ý thức, học tập, trí nhớ, tính toán, v.v. Những khái niệm cơ bản này được hỗ trợ bằng vật lý, triết học và các khía cạnh xã hội của trí tuệ nhân tạo. Tác giả cung cấp một phạm vi rất rộng của các kịch bản có thể về tương lai của trí tuệ nhân tạo.

Cuộc sống 3.0 đôi khi làm người đọc sáng mắt và đôi khi khiến họ tức giận. Đây là một cuốn sách đáng đọc vì những phần rất rõ ràng.

Chúng ta có khả năng sẽ sớm phát minh ra Trí tuệ Nhân tạo (A.I.). (1) Điều gì có thể xảy ra tiếp theo, và (2) điều gì nên xảy ra tiếp theo?

Để giải quyết triệt để chủ đề này, chúng ta cần một người nghiên cứu trí tuệ nhân tạo không thiên vị, một nhà tâm lý học, một nhà não học, một triết gia đạo đức, một triết gia siêu hình, một triết gia tâm lý học, một nhà kinh tế học, một nhà khoa học chính trị, một nhà thơ, và có lẽ còn nhiều người khác nữa. Vì người đó không tồn tại, chúng ta phải chấp nhận Tegmark, người không thuộc về bất kỳ danh nghĩa nào ở trên. Ông là một nhà vật lý và một nhà vũ trụ học. Kết quả là, Tegmark thường cố gắng ép buộc các câu trả lời dạng vật lý vào các vấn đề dạng trí tuệ nhân tạo/kinh tế/ triết học/v.v.: khi bạn chỉ có một cây búa, mọi thứ đều trông giống như một cái đinh.

Tuy nhiên, Tegmark thông minh, tò mò và cởi mở, và có tài năng ấn tượng trong việc kết nối, phần nào được hỗ trợ bởi bằng cấp của ông là một nhà vật lý. Ông có quyền truy cập ưu tiên vào một loạt các tư duy hàng đầu từ các lĩnh vực khác nhau, bao gồm nhiều người đứng đầu trong nghiên cứu trí tuệ nhân tạo. Trong cuốn sách Cuộc sống 3.0, Tegmark thể hiện bản thân ở tốt nhất khi ông hoạt động như một người quản lý và phiên dịch viên, giải thích một loạt các ý tưởng một cách đơn giản, dễ tiếp cận. Có rất nhiều điều thú vị để học hỏi từ cuốn sách này, với các lĩnh vực đa dạng như lý thuyết trò chơi (áp dụng cho tổ chức phân cấp), các diễn giải của luật lý vật lý và các tương lai tiềm năng do sự xuất hiện của trí tuệ nhân tạo cấp con người. Chúng thường được đề cập ở mức độ khá nông cạn, nhưng bạn phải bắt đầu từ đâu đó.