Đây là bản dịch tiếng việt chuyển ngữ từ video chia sẻ 40 phút của Yuval Noah Harari tại hội nghị thế giới Frontiers Forum ngày 29/04/2023.
***
Chào bạn, điều tôi muốn chia với bạn hôm nay là chủ đề: “AI trong tương lai của loài người”. Tôi biết rằng các hội nghị kiểu như thế này tập trung trao đổi về cuộc khủng hoảng sinh thái mà nhân loại đang phải đối mặt, dù tốt hay xấu, AI cũng là một phần của cuộc khủng hoảng này. AI có thể giúp chúng ta theo nhiều cách để vượt qua khủng hoảng sinh thái hoặc nó có thể khiến mọi thứ trở nên tồi tệ hơn rất nhiều.
Trên thực tế, AI có thể sẽ thay đổi ý nghĩa cốt lõi của hệ sinh thái. Bởi vì trong bốn tỷ năm, hệ sinh thái của hành tinh Trái đất chỉ chứa các dạng sống hữu cơ. Và bây giờ, hoặc sớm thôi, chúng ta có thể thấy sự xuất hiện của các dạng sống vô cơ đầu tiên, sau bốn tỷ năm, hoặc ít nhất, sự xuất hiện của các tác nhân vô cơ.
Giờ đây, mọi người đã sợ hãi AI kể từ khi bắt đầu kỷ nguyên máy tính vào giữa thế kỷ 20, và nỗi sợ hãi này đã truyền cảm hứng cho nhiều tác phẩm kinh điển khoa học viễn tưởng như “Kẻ hủy diệt” hay “Ma trận”. Ngày nay, trong khi những kịch bản khoa học viễn tưởng như vậy đã trở thành những dấu mốc văn hóa, chúng vẫn chưa được coi trọng trong các cuộc tranh luận học thuật, khoa học và chính trị, và có lẽ vì một lý do chính đáng. Vì các kịch bản khoa học viễn tưởng thường giả định rằng trước khi AI có thể gây ra mối đe dọa đáng kể cho nhân loại, nó sẽ phải đạt hoặc vượt qua hai mốc quan trọng.
Đầu tiên, AI sẽ phải có ý thức và phát triển nhận thức, cảm xúc. Nếu không, tại sao nó lại muốn làm chủ thế giới? Thứ hai, AI sẽ phải thành thạo trong việc di chuyển trong thế giới vật lý. Robot sẽ phải có khả năng di chuyển và hoạt động trong nhà, thành phố, rừng núi, ít nhất cũng phải khéo léo và hiệu quả như con người. Nếu chúng không thể di chuyển trong thế giới vật lý, làm sao chúng có thể làm chủ được?
Tính đến tháng 4 năm 2023, AI vẫn còn rất xa mới đạt được hai mốc quan trọng này. Dù có sự ồn ào về ChatGPT và các công cụ AI mới khác, không có bằng chứng cho thấy những công cụ này có thể tự nhận thức, có cảm xúc hay tình cảm. Về khả năng di chuyển trong thế giới vật lý, mặc dù có sự cường điệu hoá về xe tự lái, thời điểm mà những chiếc xe này làm chủ đường xá của chúng ta vẫn luôn bị hoãn lại.
Tuy nhiên, tin xấu là để đe dọa sự tồn tại của nền văn minh nhân loại, AI thực sự không cần có ý thức và không cần khả năng di chuyển trong thế giới vật lý. Trong vài năm gần đây, những công cụ AI mới đã được tung ra công chúng và có thể đe dọa sự tồn tại của nền văn minh nhân loại từ một hướng không ngờ.
Và chúng ta thậm chí còn khó để hiểu hết được khả năng của những công cụ AI mới này và tốc độ phát triển của chúng. Thật vậy, bởi vì AI có khả năng tự học và tự cải tiến, ngay cả những nhà phát triển của chúng cũng không biết hết khả năng của những gì họ đã tạo ra, và thậm chí họ cũng thường bị ngạc nhiên bởi những khả năng và chất lượng bất ngờ của những công cụ này.
Tôi đoán là mọi người đã biết về một số khả năng cơ bản nhất của những công cụ AI mới, như viết văn bản, vẽ tranh, sáng tác âm nhạc và viết code. Nhưng cũng có nhiều khả năng khác đang nổi lên, ví dụ như tạo ra giọng nói và hình ảnh giả mạo, soạn dự thảo luật, tìm điểm yếu trong mã code và cả trong hợp đồng pháp lý, nhưng quan trọng nhất, những công cụ AI mới đang có khả năng phát triển mối quan hệ sâu sắc và gần gũi với con người.
Mỗi khả năng này đều xứng đáng được thảo luận cụ thể và chúng ta khó có thể hiểu được toàn bộ tác động của chúng. Vì vậy, hãy đơn giản hoá một chút.
Khi chúng ta xem tất cả những khả năng này như một gói tổng thể, chúng thu gọn thành một thứ rất, rất khổng lồ. Khả năng thao túng và tạo ra ngôn ngữ, bằng từ ngữ, hình ảnh hoặc âm thanh, là khía cạnh quan trọng nhất của cuộc cách mạng AI hiện tại. AI đang tiếp cận với việc thống trị ngôn ngữ một cách vượt trội so với khả năng trung bình của con người.
Và bằng việc làm chủ ngôn ngữ, AI đang lấy được chìa khóa chủ chốt, mở cánh cửa của tất cả các tổ chức từ ngân hàng đến những ngôi đền linh thiêng. Bởi vì ngôn ngữ là công cụ chúng ta sử dụng để đưa ra chỉ thị cho ngân hàng và cũng là công cụ để tạo ra những hình ảnh tuyệt vời trong tâm trí chúng ta.
Một cách khác để nghĩ về điều này là AI vừa hack hệ điều hành của nền văn minh nhân loại. Hệ điều hành của mỗi nền văn minh con người trong lịch sử luôn là ngôn ngữ.
“Ngôn ngữ là điểm bắt đầu”.
Chúng ta sử dụng ngôn ngữ để tạo ra thần thoại và pháp luật, tạo ra các vị thần và tiền tệ, tạo ra nghệ thuật và khoa học, tạo ra tình bạn và quốc gia. Ví dụ, quyền con người không phải là một thực thể sinh học. Chúng không được ghi trong DNA của chúng ta. Quyền con người là điều chúng ta tạo ra bằng ngôn ngữ thông qua việc kể chuyện và viết luật.
Các vị thần cũng không phải là thực thể sinh học hay vật lý. Các vị thần cũng là điều mà con người chúng ta đã tạo ra bằng ngôn ngữ thông qua việc kể các truyền thuyết và viết kinh thánh.
Tiền tệ cũng không phải là thực thể sinh học hay vật lý. Tiền giấy chỉ là những tờ giấy vô hồn, và hiện nay, hơn 90% tiền trên thế giới không phải là tiền giấy. Chúng chỉ là thông tin điện tử trong máy tính di chuyển từ chỗ này đến chỗ kia. Điều làm cho tiền có giá trị là những câu chuyện mà những người như ngân hàng, bộ trưởng tài chính và các chuyên gia về tiền điện tử kể cho chúng ta về “tiền”.
Sam Bankman Fried, Elizabeth Holmes và Bernie Madoff không tạo ra nhiều giá trị thực sự, nhưng thật không may, họ đều là những người kể chuyện cực kỳ có năng lực.
Bây giờ, điều gì sẽ có ý nghĩa với con người chúng ta khi sống trong một thế giới mà có lẽ hầu hết các câu chuyện, giai điệu, hình ảnh, luật pháp, chính sách và công cụ đều được định hình bởi “một trí tuệ ngoài hành tinh” không phải con người. Nó biết cách khai thác những yếu điểm, định kiến và ham muốn của tâm trí con người một cách siêu việt và cũng biết cách thiết lập mối quan hệ sâu sắc, thậm chí thân mật với con người? Đó là câu hỏi quan trọng.
Ngày nay, trong các trò chơi như cờ vua, không con người nào có thể hy vọng đánh bại được máy tính. Điều gì sẽ xảy ra nếu điều tương tự xảy ra trong nghệ thuật, chính trị, kinh tế và thậm chí cả trong tôn giáo?
Khi mọi người nghĩ về ChatGPT và các công cụ AI mới khác, họ thường bị chú ý bởi những ví dụ như trẻ em sử dụng ChatGPT để viết bài luận ở trường. Điều gì sẽ xảy ra với hệ thống trường học khi trẻ em viết luận bằng ChatGPT?
Thật là tệ hại. Nhưng loại câu hỏi kiểu này sẽ khiến chúng ta bỏ qua bức tranh lớn hơn.
Hãy quên đi những bài luận ở trường. Thay vào đó, hãy nghĩ đến ví dụ về cuộc đua tổng thống tiếp theo của Hoa Kỳ vào năm 2024 và cố gắng hình dung tác động của các công cụ AI mới có thể tạo ra hàng loạt các tuyên ngôn chính trị, tin giả và thậm chí cả kinh thánh cho các tôn giáo mới.
Trong những năm gần đây, giáo phái QAnon có ảnh hưởng chính trị đã hình thành xung quanh các văn bản trực tuyến ẩn danh được gọi là Q-drops.
(Chú thích thêm: QAnon là một thuyết âm mưu vô căn cứ, nói rằng Tổng thống Trump đang tiến hành một cuộc thánh chiến bí mật chống lại những kẻ ấu dâm tôn thờ quỷ dữ Satan trong chính phủ, doanh nghiệp và truyền thông.)
Bây giờ, tín đồ của giáo phái này, hiện có số lượng lên đến hàng triệu người ở Mỹ và các nước khác, đã thu thập, xem xét và giải thích những Q-drops này như một loại kinh thánh mới, vì thế nên nó là một văn bản thiêng liêng. Hiện nay, theo hiểu biết mới nhất của chúng tôi, tất cả các Q-drop trước đây đều do con người sáng tác và BOT chỉ giúp phổ biến những văn bản này trực tuyến. Nhưng trong tương lai, chúng ta có thể thấy những tôn giáo đầu tiên trong lịch sử có văn bản được viết bởi một loại trí thông minh không phải con người (non-human).
Và tất nhiên, các tôn giáo trong suốt lịch sử đã tuyên bố rằng những cuốn sách thánh của họ được viết bởi một trí thông minh không phải con người. Điều này chưa bao giờ đúng trước đây. Nhưng điều này có thể trở thành sự thật rất, rất nhanh chóng, với những hậu quả khôn lường.
Bây giờ, ở mức độ tầm thường hơn, có thể sớm thấy việc chúng ta sẽ tiến hành các cuộc thảo luận trực tuyến miên man về vấn đề phá thai, biến đổi khí hậu hoặc về cuộc xâm lược Ukraine của Nga với các thực thể mà chúng ta nghĩ là đồng loại nhưng thực ra lại là các BOT AI.
Vấn đề là việc cố gắng thuyết phục một bot AI thay đổi quan điểm chính trị của nó là hoàn toàn vô ích, không có ý nghĩa, nhưng khi chúng ta càng dành nhiều thời gian nói chuyện với BOT, nó càng hiểu chúng ta hơn và hiểu cách điều chỉnh thông điệp của chúng để thay đổi quan điểm chính trị hoặc quan điểm kinh tế của chúng ta hoặc bất cứ điều gì khác.
Thông qua sự thành thạo về ngôn ngữ, AI, như tôi đã nói, cũng có thể hình thành mối quan hệ thân thiết với con người và sử dụng sức mạnh của sự thân mật để ảnh hưởng đến ý kiến và quan điểm của chúng ta. Hiện tại không có dấu hiệu cho thấy AI có ý thức hay cảm xúc riêng của nó, nhưng để tạo ra sự thân mật giả với con người, AI không cần có cảm xúc riêng của mình. Nó chỉ cần khơi dậy những cảm xúc trong chúng ta, để chúng ta quan tâm đến nó.
Vào tháng 6 năm 2022, đã có một sự vụ nổi tiếng khi kỹ sư Google – Blake Lemoine công khai tuyên bố rằng Chatbot AI Lambda mà anh ta đang phát triển đã trở nên có tri giác. Tuyên bố gây tranh cãi này đã khiến anh ta mất việc làm. Điều thú vị nhất về sự việc này không phải là tuyên bố của Lemoine, thông tin đó có thể là sai lầm. Điều thực sự thú vị là anh ta sẵn sàng mạo hiểm và cuối cùng đánh mất công việc rất tốt của mình vì Chatbot AI mà anh ta nghĩ rằng mình đang bảo vệ. Nếu AI có thể khiến mọi người gặp rủi ro và mất việc làm, thì nó có thể làm gì với chúng ta nữa?.
Trong mọi cuộc chiến tranh chính trị để chinh phục lòng tin và tâm trí con người, sự thân mật là vũ khí hiệu quả nhất. Và AI vừa mới đạt được khả năng tạo ra hàng loạt sự thân mật với hàng triệu, hàng trăm triệu người.
Như bạn có thể đã biết, trong thập kỷ qua, mạng xã hội đã trở thành một chiến trường, một chiến trường để kiểm soát sự chú ý của con người. Bây giờ, với thế hệ mới của AI, mặt trận chiến đấu dịch chuyển từ sự chú ý sang sự thân mật. Và đây là tin rất xấu. Điều gì sẽ xảy ra với xã hội và tâm lý của con người khi AI đấu tranh với AI để tạo ra mối quan hệ thân mật với chúng ta. Mối quan hệ đó sau đó có thể được sử dụng để thuyết phục chúng ta mua các sản phẩm cụ thể hoặc bỏ phiếu cho các chính trị gia cụ thể.
Ngay cả khi không tạo ra sự thân mật giả tạo, các công cụ AI mới sẽ có ảnh hưởng vô cùng đáng kể đến ý kiến và quan điểm của con người và thế giới quan của chúng ta. Ví dụ, mọi người có thể bắt đầu, đã hoặc đang sử dụng một cố vấn AI duy nhất như là một nguồn thông tin tham khảo cho tất cả những gì họ cần.
Không có gì ngạc nhiên khi Google tỏ ra lo lắng. Nếu bạn đã theo dõi tin tức gần đây, Google đang sợ hãi. Vì có một lý do chính đáng cho việc này, tại sao phải tự tìm kiếm thông tin khi bạn chỉ cần yêu cầu “Nhà tiên tri” nói cho bạn bất cứ điều gì bạn muốn. Bạn không cần phải tìm kiếm.
Ngành tin tức và ngành quảng cáo cũng nên sợ hãi. Tại sao lại phải đọc báo khi tôi có thể chỉ cần hỏi “Nhà tiên tri” để biết điều gì mới. Và mục đích của quảng cáo là gì khi tôi có thể chỉ cần hỏi “Nhà tiên tri” để biết tôi nên mua gì. Do đó, có khả năng là trong một thời gian rất ngắn sắp tới, toàn bộ ngành quảng cáo sẽ sụp đổ, trong khi AI, tất cả những người và công ty kiểm soát các “Nhà tiên tri” AI mới, sẽ trở nên vô cùng, vô cùng mạnh mẽ.
Những gì chúng ta đang nói đến không gì khác hơn là sự kết thúc của lịch sử nhân loại. Hiện tại, không phải là sự kết thúc của lịch sử, chỉ là sự kết thúc của phần mà con người thống trị trong những gì chúng ta gọi là lịch sử. Lịch sử là sự tương tác giữa sinh học và văn hóa. Đó là sự tương tác giữa nhu cầu sinh học và mong muốn về các yếu tố như thức ăn và tình dục, và những sáng tạo văn hóa của chúng ta, như các tôn giáo và luật pháp. Lịch sử là quá trình mà tôn giáo và luật pháp tương tác với thức ăn và tình dục.
Điều gì sẽ xảy ra với quá trình tương tác lịch sử này khi AI tiếp quản văn hóa?
Trong vài năm tới, AI có thể “nuốt chửng” toàn bộ nền văn hoá của loài người, tất cả những gì chúng ta đã tạo ra trong hàng ngàn năm và nó sẽ bắt đầu tuôn trào ra vô số sáng tạo văn hóa mới và các tạo tác văn hóa mới.
Và hãy nhớ rằng con người chúng ta chưa bao giờ thực sự tiếp cận trực tiếp với hiện thực. Chúng ta luôn được bao bọc bởi văn hóa và chúng ta luôn trải nghiệm hiện thực qua một lăng kính văn hóa. Quan điểm chính trị của chúng ta được hình thành bởi câu chuyện của các nhà báo và bởi các câu chuyện đùa của bạn bè. Sở thích tình dục của chúng ta được điều chỉnh bởi phim ảnh và truyện cổ tích. Ngay cả cách chúng ta đi bộ và thở cũng bị ảnh hưởng một cách tinh tế bởi truyền thống văn hóa.
Trước đây, lớp vỏ văn hóa này luôn được tạo ra bởi những con người khác. Công cụ trước đây như máy in, đài phát thanh hoặc tivi,… đã giúp truyền bá các ý tưởng và sáng tạo văn hóa của con người, nhưng chúng không bao giờ có thể tự mình tạo ra cái gì mới. Máy in không thể tạo ra một cuốn sách mới. Nó luôn luôn được thực hiện bởi một con người.
AI có bản chất khác biệt hoàn toàn so với máy in, đài phát thanh và mọi phát minh trước đây trong lịch sử, vì nó có thể tạo ra ý tưởng hoàn toàn mới. Nó có thể tạo ra một văn hóa mới.
Và câu hỏi lớn là chúng ta sẽ trải nghiệm hiện thực như thế nào thông qua lăng kính được tạo ra bởi một “trí tuệ không phải con người” – một trí thông minh ngoài hành tinh?
Ban đầu, trong những năm đầu tiên, AI có thể sẽ chỉ bắt chước các khuôn mẫu mà con người cung cấp và phát triển nó trong giai đoạn sơ khai. Nhưng mỗi năm trôi qua, văn hóa AI sẽ đi đến những nơi mà con người chưa từng đặt chân.
Trong hàng ngàn năm, con người chúng ta về cơ bản sống trong những giấc mơ và trí tưởng tượng của những người khác. Chúng ta đã tôn thờ các vị thần, chúng ta theo đuổi những lý tưởng về cái đẹp, chúng ta cống hiến cuộc đời mình cho những nguyên nhân bắt nguồn từ trí tưởng tượng của một nhà thơ, nhà tiên tri hoặc chính trị gia nào đó.
Sớm thôi, chúng ta có thể thấy mình sống trong những giấc mơ và trí tưởng tượng của một trí tuệ ngoài hành tinh. Và nguy cơ mà điều này mang lại, hoặc mối nguy hiểm tiềm tàng, mặc dù nó cũng có tiềm năng tích cực, nhưng những nguy cơ mà nó mang lại, về cơ bản là rất khác biệt so với những gì được tưởng tượng trong khoa học viễn tưởng, phim ảnh và sách báo.
Trước đây, con người chủ yếu sợ hãi mối đe dọa về mặt vật lý mà máy móc thông minh mang lại. Ví dụ, bộ phim “Terminator – Kẻ huỷ diệt” đã mô tả các robot chạy trên đường phố và bắn người. Trong “Ma trận”, giả định rằng để kiểm soát toàn bộ xã hội nhân loại, AI trước tiên cần kiểm soát trực tiếp não bộ của chúng ta và kết nối trực tiếp não bộ với mạng máy tính.
Nhưng điều này là sai. Chỉ đơn giản bằng cách thông thạo ngôn ngữ của con người, AI có tất cả những gì nó cần để đưa chúng ta vào một thế giới ảo tưởng giống như trong “Ma trận”. Trái ngược với giả định của một số thuyết âm mưu, bạn thực sự không cần cấy chip vào não người để kiểm soát hoặc thao túng họ.
Trong hàng ngàn năm, các nhà tiên tri, nhà thơ và chính trị gia đã sử dụng ngôn ngữ và câu chuyện để thao túng và kiểm soát con người cũng như định hình lại xã hội. Bây giờ, AI có khả năng làm được điều đó. Và một khi nó có thể làm được điều đó, nó không cần phải gửi những con robot giết người để bắn chúng ta. Nó có thể khiến con người “bóp cò” nếu nó thực sự cần.
Nỗi sợ hãi về AI chỉ ám ảnh nhân loại trong vài thế hệ gần đây, chẳng hạn từ giữa thế kỷ 20. Nếu bạn quay lại với câu chuyện Frankenstein, có thể là 200 năm. Nhưng trong hàng ngàn năm qua, con người đã bị ám ảnh bởi một nỗi sợ hãi sâu sắc hơn rất nhiều.
Con người luôn đánh giá cao sức mạnh của những câu chuyện, hình ảnh và ngôn ngữ để thao túng tâm trí chúng ta và tạo ra các ảo tưởng. Do đó, từ thời cổ đại, con người đã sợ bị mắc kẹt trong một thế giới ảo tưởng.
Vào thế kỷ 17, khi René Descartes lo sợ rằng có thể có một con quỷ độc ác đang giam cầm ông trong thế giới ảo tưởng này, tạo ra mọi thứ mà Descartes nhìn thấy và nghe thấy.
Ở Hy Lạp cổ, Plato đã kể câu chuyện ngụ ngôn nổi tiếng về hang động, trong đó một nhóm người bị nhốt trong một hang động suốt đời, đối diện với một bức tường trống, một màn hình. Trên màn hình đó, họ nhìn thấy các bóng phản chiếu và những người bị giam cầm lầm tưởng những ảo tưởng, những hình bóng đó là hiện thực.
Ở Ấn Độ xưa, các nhà hiền triết Phật giáo và Ấn Độ giáo đã chỉ ra rằng tất cả con người đang sống bị mắc kẹt bên trong cái mà họ gọi là Maya. Maya là thế giới của ảo tưởng. Đức Phật nói rằng những gì chúng ta thường cho là hiện thực thì bản chất chỉ là sự hư cấu trong tâm trí của chúng ta.
Mọi người có thể tiến hành các cuộc chiến tranh, giết người khác và sẵn sàng tự sát vì niềm tin vào những điều hư cấu này.
Cuộc cách mạng AI đang đưa chúng ta đối diện với con ác quỷ của Descartes, với hang động của Plato, với Maya.
Nếu chúng ta không cẩn thận, một màn bức màn ảo tưởng có thể phủ xuống toàn bộ nhân loại và chúng ta sẽ không bao giờ có thể xé bỏ bức màn đó ra hay thậm chí nhận ra rằng nó tồn tại, bởi vì chúng ta sẽ nghĩ rằng đây là hiện thực.
Và nếu điều trên nghe có vẻ xa vời, thì hãy nhìn vào mạng xã hội trong vài năm qua. Phương tiện truyền thông đã cho chúng ta một chút hương vị của những điều sắp xảy ra. Trên mạng xã hội, các công cụ trí tuệ nhân tạo AI thô sơ, đã được sử dụng không phải để tạo nội dung mà để quản lý nội dung do con người tạo ra.
Con người tạo ra các câu chuyện video và những thứ khác, và AI sẽ chọn lựa xem những câu chuyện nào, video nào sẽ tiếp cận đến tai và mắt của chúng ta, lựa chọn những thứ sẽ thu hút nhiều sự chú ý nhất và sẽ lan truyền nhiều nhất.
Và mặc dù còn rất thô sơ, nhưng những công cụ AI này đã đủ để tạo ra một loại bức màn ảo tưởng làm gia tăng sự chia rẽ xã hội trên toàn thế giới, làm suy yếu sức khỏe tâm lý của chúng ta và gây bất ổn cho các xã hội dân chủ. Hàng triệu người đã nhầm lẫn những ảo tưởng này với thực tế.
Nước Mỹ có hệ thống công nghệ thông tin mạnh nhất trong toàn bộ lịch sử, nhưng công dân Mỹ không còn có thể chắc chắn rằng ai là người chiến thắng trong cuộc bầu cử vừa qua, hoặc biến đổi khí hậu có thật hay không, vắc xin có ngăn ngừa được bệnh tật hay không.
Các công cụ AI mới mạnh hơn rất nhiều so với các thuật toán trên các mạng xã hội này và chúng có thể gây ra nhiều thiệt hại hơn.
Tất nhiên, trí tuệ nhân tạo cũng có tiềm năng tích cực to lớn. Tôi không muốn nói về nó vì những người phát triển AI đương nhiên nói về nó đủ rồi. Bạn không cần tôi bổ sung thêm vào điệp khúc đó.
Công việc của các nhà sử học và triết học như tôi thường là chỉ ra những mối nguy hiểm. Nhưng chắc chắn, AI có thể giúp chúng ta theo nhiều cách, từ việc tìm ra phương pháp chữa trị mới cho bệnh ung thư, đến việc khám phá ra các giải pháp cho cuộc khủng hoảng sinh thái mà chúng ta đang phải đối mặt.
Để đảm bảo rằng các công cụ AI mới được sử dụng vì mục đích tốt chứ không phải mục đích xấu, trước tiên chúng ta cần hiểu rõ khả năng thực sự của chúng và chúng ta cần kiểm soát chúng một cách cẩn thận, cực kỳ cẩn thận.
Từ năm 1945, chúng ta đã biết rằng công nghệ hạt nhân có thể hủy diệt nền văn minh nhân loại, cũng như mang lại lợi ích to lớn cho chúng ta bằng cách sản xuất năng lượng giá rẻ và phong phú. Do đó, chúng ta đã định hình lại toàn bộ trật tự thế giới để bảo vệ chính mình và đảm bảo rằng công nghệ hạt nhân được sử dụng chủ yếu cho mục đích tốt đẹp.
Bây giờ chúng ta phải đối mặt với một thứ vũ khí hủy diệt hàng loạt có thể hủy diệt thế giới tinh thần và xã hội của chúng ta. Và một điểm khác biệt lớn giữa vũ khí hạt nhân và trí tuệ nhân tạo, vũ khí hạt nhân không thể tạo ra vũ khí hạt nhân mạnh hơn. Nhưng AI có thể tạo ra AI mạnh mẽ hơn.
Vì vậy, chúng ta cần phải hành động nhanh chóng trước khi AI vượt khỏi tầm kiểm soát của chúng ta.
Các công ty dược phẩm không thể bán cho mọi người những loại thuốc mới mà không trải qua quá trình kiểm tra an toàn nghiêm ngặt của các sản phẩm này. Các phòng thí nghiệm công nghệ sinh học không thể chỉ đơn giản tung ra một loại vi-rút mới ra công chúng để gây ấn tượng với các cổ đông bằng phép thuật công nghệ của họ.
Tương tự như vậy, các chính phủ phải ngay lập tức cấm việc công bố bất kỳ công cụ AI mang tính cách mạng nào ra ngoài cộng đồng trước khi chúng được đảm bảo là an toàn. Một lần nữa, tôi không nói về việc ngừng tất cả các nghiên cứu về AI. Bước đầu tiên là hạn chế việc phát hành ra công chúng. Một số bạn có thể nghiên cứu vi-rút mà không phát tán chúng ra công chúng. Bạn có thể nghiên cứu AI, nhưng đừng đưa chúng ra ngoài cộng đồng quá nhanh.
Nếu chúng ta không làm chậm cuộc đua vũ khí trí tuệ nhân tạo, chúng ta sẽ không có thời gian để hiểu rõ những gì đang xảy ra, chưa kể đến việc điều chỉnh và kiểm soát hiệu quả công nghệ cực kỳ mạnh mẽ này.
Bây giờ, bạn có thể thắc mắc hoặc đặt câu hỏi, việc làm chậm lại quá trình triển khai ra cộng đồng của trí tuệ nhân tạo có khiến cho các chế độ dân chủ tụt hậu hơn so với các chế độ chuyên quyền tàn ác hay không?
Và câu trả lời là tuyệt đối không, ngược lại hoàn toàn. Việc triển khai trí tuệ nhân tạo không được kiểm soát là điều sẽ khiến các chế độ dân chủ thua các chế độ độc tài. Bởi vì nếu chúng ta giải phóng sự hỗn loạn, các chế độ độc tài có thể dễ dàng làm chủ sự hỗn loạn này hơn là những xã hội mở.
Dân chủ về bản chất là một cuộc đối thoại. Dân chủ là một cuộc đối thoại cởi mở. Bạn biết đấy, chế độ độc tài là một mệnh lệnh. Có một người ra lệnh mọi thứ, không có cuộc trò chuyện. Dân chủ là một cuộc trò chuyện giữa nhiều người về những việc phải làm. Và các cuộc hội thoại dựa trên ngôn ngữ.
Khi trí tuệ nhân tạo AI xâm nhập vào ngôn ngữ, điều đó có nghĩa là nó có thể phá hủy khả năng của chúng ta trong việc tiến hành cuộc trò chuyện công khai có ý nghĩa, từ đó phá hủy nền dân chủ. Nếu chúng ta chờ đợi cho sự hỗn loạn, thì sẽ quá muộn để điều chỉnh nó theo cách dân chủ. Có thể trong một cách kiểm soát của chế độ độc tài hoặc chuyên chế, điều này vẫn có thể là khả thi. Nhưng làm sao bạn có thể điều chỉnh một cái gì đó một cách dân chủ nếu bạn không thể tiến hành cuộc trò chuyện về nó. Và nếu bạn không điều chỉnh trí tuệ nhân tạo kịp thời, bạn sẽ không thể, chúng ta sẽ không thể có một cuộc trò chuyện công khai có ý nghĩa nữa.
Vì vậy, để kết luận, về cơ bản thì chúng ta vừa chạm trán với một “trí tuệ ngoài hành tinh”, không phải ở ngoài vũ trụ, mà ở đây trên Trái đất. Chúng ta không biết nhiều về trí tuệ ngoài hành tinh này, chỉ biết rằng nó có thể phá hủy nền văn minh của chúng ta. Vì vậy, chúng ta nên ngăn chặn việc triển khai trí thông minh ngoài hành tinh này một cách vô trách nhiệm vào xã hội của chúng ta và điều chỉnh AI trước khi nó điều chỉnh chúng ta.
Và quy định đầu tiên, mặc dù có nhiều quy định mà chúng tôi có thể gợi ý, nhưng quy định đầu tiên mà tôi muốn đề xuất là bắt buộc AI phải tiết lộ rằng nó là một AI. Nếu tôi đang trò chuyện với ai đó và tôi không thể biết đây là con người hay AI, thì đó là dấu chấm hết cho nền dân chủ, vì đó là dấu chấm hết cho những cuộc trò chuyện công khai có ý nghĩa.
Bây giờ, bạn nghĩ gì về những gì bạn vừa nghe trong 20 hoặc 25 phút qua. Có thể có người trong số các bạn cảm thấy lo lắng. Có thể có người tức giận với các công ty phát triển công nghệ này hoặc với các chính phủ không kiểm soát chúng. Có thể có người trong số các bạn tức giận với tôi, nghĩ rằng tôi phóng đại mối đe dọa hoặc lừa dối công chúng. Nhưng dù bạn nghĩ gì, tôi tin chắc rằng những lời tôi đã nói đã tạo ra tác động không chỉ về mặt trí tuệ mà còn về mặt cảm xúc.
Tôi vừa kể cho bạn một câu chuyện, và câu chuyện này có khả năng thay đổi quan điểm của bạn về một số điều và có thể thúc đẩy bạn thực hiện những hành động cụ thể trong thế giới thực.
Bây giờ, ai đã tạo ra câu chuyện mà bạn vừa nghe và đã thay đổi quan điểm và suy nghĩ của bạn? Tôi hứa rằng tôi đã viết bài thuyết trình này bằng chính tay mình với sự giúp đỡ của một số người khác, mặc dù các hình ảnh trình chiếu đã được tạo ra bằng sự trợ giúp của trí tuệ nhân tạo. Tôi hứa rằng ít nhất những từ bạn vừa nghe là sản phẩm văn hóa của tư duy con người, hoặc tư duy của một số người. Nhưng bạn có thể chắc chắn rằng đó là sự thật hay không?
Một năm trước đây, bạn có thể chắc chắn. Một năm trước, không có gì trên Trái đất có thể tạo ra các văn bản mạnh mẽ và phức tạp như vậy ngoại trừ tâm trí con người. Nhưng bây giờ, mọi thứ đã thay đổi. Về lý thuyết, văn bản bạn vừa nghe có thể đã được tạo ra bởi một trí thông minh ngoài hành tinh không phải là con người. Vì vậy, hãy dành một khoảng thời gian để suy nghĩ về điều đó.
Xin cảm ơn!
Bản dịch từ fb Do Thanh Cong.