Tất cả sự cường điệu xung quanh trí tuệ nhân tạo đều hiểu sai trí thông minh thực sự là gì. Và AI chắc chắn, chắc chắn sẽ không bao giờ giết chết bạn. Tuy nhiên, học máy như một quá trình và một khái niệm, có nhiều hứa hẹn hơn.
AI là một lời nói dối béo bở. Trí tuệ nhân tạo là một trò lừa bịp lừa đảo – hoặc trong trường hợp tốt nhất, đó là một từ thông dụng được thổi phồng gây nhầm lẫn và lừa dối. Thay vào đó, thuật ngữ tốt hơn, chính xác hơn thường là học máy – điều này thực sự mạnh mẽ và mọi người nên hào hứng với nó.
Mặt khác, AI cung cấp một số tài liệu tuyệt vời cho những trò đùa mọt sách. Vì vậy, hãy đội chiếc mũ hoài nghi của bạn, đã đến lúc cho một AI – debunkin ,_ slam – dunkin ,_ machine learning – lovin ,_ robopocalypse myth – bustin ,_ trại họp bạn smackdown – yeehaw!
3 luận điểm chính cần chú ý
Không giống như AI, học máy hoàn toàn hợp pháp
Tôi phải nói rằng, nó giành được giải thưởng Công nghệ tuyệt vời nhất từ trước đến nay, tạo ra những tiến bộ khiến bạn phải thốt lên, Hooha!. Tuy nhiên, những tiến bộ này gần như hoàn toàn giới hạn trong học máy có giám sát, chỉ có thể giải quyết các vấn đề tồn tại nhiều ví dụ được gắn nhãn hoặc lịch sử trong dữ liệu mà máy tính có thể học. Điều này vốn đã giới hạn học máy chỉ trong một tập hợp con rất cụ thể về những gì con người có thể làm – cộng với một phạm vi hạn chế những điều con người không thể làm.
AI là BS
Và đối với hồ sơ, người phản đối này đã dạy khóa học Trí tuệ nhân tạo cấp sau đại học của Đại học Columbia, cũng như các khóa học liên quan khác ở đó. AI không là gì ngoài một thương hiệu. Một thương hiệu mạnh mẽ, nhưng một lời hứa suông. Khái niệm trí thông minh là hoàn toàn chủ quan và bản chất của con người. Những người tán thành những kỳ quan vô hạn của AI và cảnh báo về sự nguy hiểm của nó – bao gồm cả những người như Bill Gates và Elon Musk – tất cả đều đưa ra cùng một giả định sai lầm: rằng trí thông minh là phổ một chiều và những tiến bộ công nghệ đẩy chúng ta dọc theo quang phổ đó, xuống con đường dẫn đến khả năng cấp độ con người. Nuh uh. Những tiến bộ chỉ xảy ra với dữ liệu được gắn nhãn. Chúng tôi đang tiến bộ nhanh chóng, nhưng theo một hướng khác và chỉ trên một mô hình thu nhỏ rất cụ thể, hạn chế về khả năng. Thuật ngữ trí tuệ nhân tạo không có chỗ trong khoa học hay kỹ thuật. AI chỉ có giá trị cho triết học và khoa học viễn tưởng – và, nhân tiện, tôi hoàn toàn thích khám phá AI trong những lĩnh vực đó.
AI sẽ không giết chết bạn
Ngày tận thế robot sắp tới là một câu chuyện ma. Ý tưởng rằng máy móc sẽ nổi dậy theo ý muốn của chính chúng và tiêu diệt loài người không có giá trị.
Neural cho chiến thắng
Trong bộ phim Terminator 2: Judgment Day, Terminator nói, CPU của tôi là một bộ xử lý mạng thần kinh, một máy tính học tập. Mạng lưới thần kinh mà robot nổi tiếng đó nói đến thực sự là một loại phương pháp học máy thực sự. Mạng lưới thần kinh là một cách để mô tả một công thức toán học phức tạp, được tổ chức thành các lớp. Công thức này có thể được đào tạo để làm những việc như nhận dạng hình ảnh cho xe tự lái. Ví dụ, xem vài giây của một mạng lưới thần kinh thực hiện nhận dạng đối tượng.
Những gì bạn thấy nó làm ở đó thực sự tuyệt vời. Mạng lưới xác định tất cả các đối tượng đó. Với học máy, máy tính về cơ bản đã tự lập trình để làm điều này. Một mình, nó đã tìm ra các chi tiết thực tế về chính xác những mẫu hoặc tính năng hình ảnh cần tìm. Khả năng của học máy để đạt được những điều như vậy là đáng kinh ngạc và cực kỳ có giá trị.
Những cải tiến mới nhất cho mạng neuron được gọi là học sâu (deep learning). Chúng là những gì làm cho mức độ thành công này trong nhận dạng đối tượng có thể. Với deep learning, mạng lưới sâu hơn theo đúng nghĩa đen – nhiều lớp hơn. Tuy nhiên, ngay cả vào năm 1997, lần đầu tiên tôi dạy khóa học máy học, các mạng thần kinh đã điều khiển xe tự lái, trong bối cảnh hạn chế và chúng tôi thậm chí còn cho học sinh áp dụng chúng để nhận dạng khuôn mặt như một bài tập về nhà.
Máy học được giám sát yêu cầu dữ liệu được gắn nhãn
Vì vậy, với máy móc ngày càng trở nên tốt hơn trong các nhiệm vụ giống như con người, điều đó không có nghĩa là chúng ngày càng thông minh hơn, hướng tới trí thông minh của con người?
Nó có thể thực sự, thực sự tốt ở một số nhiệm vụ nhất định, nhưng chỉ khi có dữ liệu phù hợp để học. Đối với nhận dạng đối tượng được thảo luận ở trên, nó đã học cách làm điều đó từ một số lượng lớn ảnh ví dụ trong đó các đối tượng mục tiêu đã được dán nhãn chính xác. Nó cần những ví dụ đó để học cách nhận ra những loại đối tượng đó. Điều này được gọi là học máy có giám sát: khi có dữ liệu đào tạo được gắn nhãn trước. Quá trình học tập được hướng dẫn hoặc giám sát bởi các ví dụ được dán nhãn. Nó tiếp tục tinh chỉnh mạng lưới thần kinh để làm tốt hơn trên những ví dụ đó, một cải tiến gia tăng tại một thời điểm. Đó là quá trình học tập. Và cách duy nhất nó biết mạng lưới thần kinh đang được cải thiện hoặc học hỏi là bằng cách thử nghiệm nó trên những ví dụ được dán nhãn. Nếu không có dữ liệu được gắn nhãn, nó không thể nhận ra những cải tiến của chính mình nên nó sẽ không biết gắn bó với từng cải tiến trên đường đi. Học máy có giám sát là hình thức học máy phổ biến nhất.
Đây là một ví dụ khác. Năm 2011, máy tính Watson của IBM đã đánh bại hai nhà vô địch mọi thời đại của con người trên chương trình đố vui truyền hình Jeopardy. Tôi là một fan hâm mộ lớn. Đây là điều tuyệt vời nhất mà tôi từng thấy một chiếc máy tính làm – ấn tượng hơn bất cứ điều gì tôi đã thấy trong sáu năm học cao học về nghiên cứu hiểu ngôn ngữ tự nhiên. Đây là một đoạn clip dài 30 giây của Watson trả lời ba câu hỏi.
Để rõ ràng, máy tính không thực sự nghe thấy các câu hỏi được nói mà thay vào đó được cho ăn mỗi câu hỏi dưới dạng văn bản đánh máy. Nhưng khả năng của nó để đưa ra hết câu trả lời này đến câu trả lời khác – với từ ngữ phức tạp, thông minh của các câu hỏi Jeopardy, được thiết kế cho con người và chạy qua bất kỳ và tất cả các chủ đề của cuộc trò chuyện – đối với tôi cảm thấy giống như điều thông minh tốt nhất mà tôi từng thấy từ máy tính.
Nhưng cỗ máy Watson chỉ có thể làm điều đó bởi vì nó đã được đưa ra nhiều ví dụ được dán nhãn để học hỏi: 25.000 câu hỏi được lấy từ những năm trước của chương trình đố vui truyền hình này, mỗi câu hỏi có câu trả lời đúng riêng.
Cốt lõi, bí quyết là biến mọi câu hỏi thành dự đoán có / không: Liệu điều đó có trở thành câu trả lời cho câu hỏi này không? Có hay không. Nếu bạn có thể trả lời câu hỏi đó, thì bạn có thể trả lời bất kỳ câu hỏi nào – bạn chỉ cần thử hàng ngàn lựa chọn cho đến khi bạn nhận được câu trả lời có tự tin. Ví dụ: Abraham Lincoln có phải là câu trả lời cho Ai là tổng thống đầu tiên? Cười to Có phải là George Washington không? Có! Bây giờ máy có câu trả lời của nó và nhổ nó ra.
Máy tính có thể trò chuyện như con người
Và có một lĩnh vực sử dụng ngôn ngữ khác cũng có dữ liệu được dán nhãn phong phú: dịch máy. Học máy ngấu nghiến một bữa tiệc dữ liệu đào tạo để dịch giữa tiếng Anh và tiếng Nhật, bởi vì có hàng tấn văn bản dịch ngoài kia chứa đầy các câu tiếng Anh và bản dịch tiếng Nhật tương ứng của chúng.
Trong những năm gần đây, Google Dịch – mà bất kỳ ai cũng có thể sử dụng trực tuyến – đã hoán đổi giải pháp cơ bản ban đầu cho một giải pháp được cải tiến nhiều nhờ học sâu. Hãy dùng thử – dịch một lá thư cho bạn bè hoặc người thân của bạn, những người có ngôn ngữ đầu tiên khác với bạn. Bản thân tôi sử dụng nó rất nhiều.
Mặt khác, năng lực chung với các ngôn ngữ tự nhiên như tiếng Anh là một dấu hiệu của nhân loại – và chỉ có nhân loại. Không có lộ trình nào được biết đến để lưu loát cho các anh chị em silicon của chúng tôi. Khi con người chúng ta hiểu nhau, bên dưới tất cả các từ và các quy tắc ngữ pháp có phần hợp lý là lẽ thường và lý luận chung. Bạn không thể làm việc với ngôn ngữ mà không có kỹ năng rất đặc biệt của con người. Đó là một thứ rộng lớn, khó sử dụng, vô định hình mà con người chúng ta có một cách đáng kinh ngạc.
Vì vậy, hy vọng và ước mơ của chúng ta về máy tính biết nói bị tiêu tan bởi vì, thật không may, không có dữ liệu được dán nhãn cho nói chuyện như một người. Bạn có thể nhận được dữ liệu phù hợp cho một tác vụ cụ thể, rất hạn chế, như xử lý các câu hỏi của chương trình đố vui trên TV hoặc trả lời phạm vi câu hỏi hạn chế mà mọi người có thể mong đợi Siri có thể trả lời. Nhưng khái niệm chung về nói chuyện như một con người không phải là một vấn đề được xác định rõ. Máy tính chỉ có thể giải quyết các vấn đề được xác định chính xác.
Vì vậy, chúng ta không thể tận dụng học máy để đạt được máy tính nói nhiều điển hình mà chúng ta thấy trong rất nhiều bộ phim khoa học viễn tưởng, như Kẻ hủy diệt, máy tính HAL độc ác năm 2001 hoặc máy tính tàu thân thiện, hữu ích trong Star Trek. Bạn có thể trò chuyện với những cỗ máy đó bằng tiếng Anh rất giống như bạn làm với con người. Thật dễ dàng. Ya chỉ cần là một nhân vật trong một bộ phim khoa học viễn tưởng.
Trí thông minh là chủ quan, vì vậy ai không có định nghĩa thực sự
Bây giờ, nếu bạn nghĩ rằng bạn chưa biết đủ về AI, bạn đã nhầm. Không có gì để biết, bởi vì nó không thực sự là một thứ. Thực sự không có định nghĩa có ý nghĩa gì. AI đóng vai trò là một lĩnh vực, nhưng nó thực sự chỉ là một thương hiệu huyền ảo. Là một lĩnh vực được cho là, AI có nhiều định nghĩa cạnh tranh, hầu hết trong số đó chỉ là máy tính thông minh. Tôi phải cảnh báo bạn, đừng tra tự tham khảo trong từ điển. Bạn sẽ bị mắc kẹt trong một vòng lặp vô hạn.
Nhiều định nghĩa thậm chí còn tròn trịa hơn máy tính thông minh, nếu điều đó có thể. Họ chỉ thẳng thừng sử dụng từ trí thông minh trong định nghĩa của AI, giống như trí thông minh được thể hiện bởi một cỗ máy.
Nếu bạn cho rằng có nhiều sắc thái ý nghĩa tinh tế hơn thì thật ngạc nhiên – không hề có. Không có cách nào giải quyết được mức độ chủ quan của từ trí thông minh. Đối với máy tính và kỹ thuật, trí thông minh là một khái niệm tùy tiện, không liên quan đến bất kỳ mục tiêu chính xác nào. Mọi nỗ lực định nghĩa AI đều không giải quyết được sự mơ hồ của nó.
Hiện nay, trong thực tế, từ này thường được sử dụng – một cách khó hiểu – như một từ đồng nghĩa với học máy. Nhưng đối với AI là khái niệm riêng của nó, hầu hết các định nghĩa được đề xuất là các biến thể của ba định nghĩa sau:
AI đang khiến máy tính có khả năng suy nghĩ giống con người
Bắt chước nhận thức của con người. Hiện tại, chúng ta có rất ít hiểu biết sâu sắc về cách bộ não của chúng ta thực hiện những gì chúng thực hiện được. Việc tái tạo từng tế bào thần kinh trong não là một giấc mơ viễn tưởng khoa học viễn tưởng điều gì sẽ xảy ra nếu. Và việc xem xét nội tâm – khi bạn nghĩ về cách bạn suy nghĩ – là điều thú vị, quan trọng, nhưng cuối cùng lại cho chúng ta biết rất ít điều quý giá về những gì đang diễn ra trong đó.
AI đang khiến máy tính hoạt động giống con người
Bắt chước hành vi của con người. Bởi vì nếu nó đi như một con vịt và nói như một con vịt… Nhưng nó không và không thể và chúng ta quá phức tạp và phức tạp để có thể hiểu đầy đủ về bản thân mình, chứ đừng nói đến việc dịch sự hiểu biết đó sang mã máy tính. Ngoài ra, việc đánh lừa mọi người nghĩ rằng một chiếc máy tính trong phòng trò chuyện thực sự là một con người – đó là Bài kiểm tra Turing nổi tiếng về trí thông minh của máy – là một thành tựu tùy tiện và là mục tiêu di động khi con người chúng ta liên tục trở nên khôn ngoan hơn trước những mánh khóe được sử dụng để đánh lừa chúng ta.
AI đang khiến máy tính giải quyết các vấn đề khó
Thực sự giỏi trong các nhiệm vụ dường như đòi hỏi khả năng thông minh hoặc cấp độ con người, chẳng hạn như lái xe, nhận dạng khuôn mặt người hoặc thành thạo cờ vua. Nhưng bây giờ máy tính có thể làm chúng, những nhiệm vụ này dường như không quá thông minh. Tất cả mọi thứ một máy tính làm chỉ là máy móc và được hiểu rõ và theo cách đó trần tục. Một khi máy tính có thể làm điều đó, nó không còn quá ấn tượng và nó mất đi sự quyến rũ của nó. Một nhà khoa học máy tính tên là Larry Tesler đề nghị chúng ta định nghĩa trí thông minh là bất cứ điều gì máy móc chưa làm được. Hài hước! Một định nghĩa mục tiêu di chuyển xác định chính nó không tồn tại.
Nhân tiện, các điểm trong bài viết này cũng áp dụng cho thuật ngữ điện toán nhận thức, đây là một thuật ngữ được định nghĩa kém khác được đặt ra để cáo buộc mối quan hệ giữa công nghệ và nhận thức của con người.
Sai lầm logic của việc tin vào tính không thể tránh khỏi của AI
Vấn đề là, bản thân trí tuệ nhân tạo là một lời nói dối. Chỉ cần gợi lên từ thông dụng đó tự động ám chỉ rằng tiến bộ công nghệ đang tiến tới khả năng suy luận như mọi người. Để đạt được lẽ thường như con người. Đó là một thương hiệu mạnh mẽ. Nhưng đó là một lời hứa suông. Ý thức chung của bạn tuyệt vời hơn – và không thể đạt được – hơn là ý thức chung của bạn có thể cảm nhận được. Bạn thật tuyệt vời. Khả năng suy nghĩ trừu tượng và hiểu thế giới xung quanh bạn có thể cảm thấy đơn giản trong trải nghiệm từng khoảnh khắc của bạn, nhưng nó cực kỳ phức tạp. Trải nghiệm về sự đơn giản đó là một minh chứng cho thấy bộ não con người độc đáo của bạn lão luyện như thế nào hoặc là một ảo ảnh tuyệt vời về bản chất của tình trạng con người – hoặc có thể là cả hai.
Bây giờ, một số người có thể trả lời tôi, Tham vọng được truyền cảm hứng, có tầm nhìn xa trông rộng không phải là một điều tốt sao? Trí tưởng tượng thúc đẩy chúng ta và những chân trời chưa biết vẫy gọi chúng ta! Arthur C. Clarke, tác giả của năm 2001, đã đưa ra một quan điểm tuyệt vời: Bất kỳ công nghệ đủ tiên tiến nào cũng không thể phân biệt được với ma thuật. Tôi đồng ý. Tuy nhiên, điều đó không có nghĩa là bất kỳ và tất cả phép thuật mà chúng ta có thể tưởng tượng – hoặc đưa vào khoa học viễn tưởng – cuối cùng có thể đạt được bằng công nghệ. Chỉ vì nó ở trong một bộ phim không có nghĩa là nó sẽ xảy ra. Các nhà truyền bá AI thường viện dẫn quan điểm của Arthur – nhưng họ đã đảo ngược logic. IPhone của tôi có vẻ rất Star Trek đối với tôi, nhưng đó không phải là một cuộc tranh luận rằng mọi thứ trên Star Trek sẽ trở thành sự thật. Thực tế là các nhà văn tiểu thuyết sáng tạo có thể thực hiện các chương trình như Westworld hoàn toàn không phải là bằng chứng cho thấy những thứ như thế có thể xảy ra.
Bây giờ, có lẽ tôi đang là một buzzkill, nhưng thực sự tôi không phải. Hãy để tôi nói theo cách này. Sự độc đáo của con người và những tiến bộ thực sự của học máy đều đã đủ tuyệt vời và thú vị để giúp chúng ta giải trí. Chúng ta không cần những câu chuyện cổ tích – đặc biệt là những câu chuyện gây hiểu lầm.
Sophia: diễn viên đóng thế công khai gian lận khét tiếng nhất của AI
Ngôi sao của câu chuyện cổ tích này, vai chính của Công chúa do Sophia thủ vai, một sản phẩm của Hanson Robotics và là diễn viên đóng thế công khai gian lận khét tiếng nhất của AI. Robot này đã áp dụng sự duyên dáng và quyến rũ nhân tạo của mình để đánh lừa giới truyền thông. Jimmy Fallon và những người phỏng vấn khác đã tổ chức cho cô ấy – nó, ý tôi là đã tổ chức nó. Nhưng khi nó trò chuyện, tất cả đều là kịch bản và đối thoại đóng hộp – bị xuyên tạc là cuộc trò chuyện tự phát – và trong một số bối cảnh, phản hồi ở cấp độ chatbot thô sơ.
Dù bạn có tin hay không, ba tạp chí thời trang đã giới thiệu Sophia trên trang bìa của họ, và, ngày càng ngốc nghếch và ngớ ngẩn hơn, đất nước Ả Rập Xê Út chính thức cấp quyền công dân. Là thật. Công dân robot đầu tiên. Tôi thực sự hơi buồn về điều này, vì lò vi sóng và đá thú cưng của tôi cũng đã nộp đơn xin nhập quốc tịch nhưng vẫn không có từ.
Sophia là một người Thổ Nhĩ Kỳ cơ khí thời hiện đại – đó là một trò lừa bịp của thế kỷ 18 đã đánh lừa những người như Napoleon Bonaparte và Benjamin Franklin tin rằng họ vừa thua một ván cờ trước một cỗ máy. Một ma – nơ – canh sẽ di chuyển các quân cờ và các nạn nhân sẽ không nhận thấy thực sự có một chuyên gia cờ vua nhỏ của con người được giấu bên trong một chiếc tủ bên dưới bàn cờ.
Trong một thời hiện đại song song, Amazon có một dịch vụ trực tuyến mà bạn sử dụng để thuê công nhân thực hiện nhiều nhiệm vụ nhỏ đòi hỏi sự phán đoán của con người, như chọn giao diện đẹp nhất của một số bức ảnh. Nó được đặt tên là Amazon Mechanical Turk, và khẩu hiệu của nó, Trí tuệ nhân tạo nhân tạo. Điều này làm tôi nhớ đến nhà hàng chay tuyệt vời này với vịt giả giả trong thực đơn – tôi thề, nó có vị giống hệt như vịt giả. Này, nếu nó nói chuyện như một con vịt, và nó có vị như một con vịt…
Đúng vậy, AI giả tốt nhất là con người. Năm 1965, khi NASA bảo vệ ý tưởng đưa con người lên vũ trụ, họ đã nói theo cách này: Con người là hệ thống máy tính đa năng, 150 pound, phi tuyến, chi phí thấp nhất có thể được sản xuất hàng loạt bởi lao động phổ thông. Tôi nghĩ rằng có một số kỹ năng trong đó.
Huyền thoại về siêu trí tuệ nguy hiểm
Dù sao, đối với Sophia, chứng cuồng loạn hàng loạt, phải không? Chà, nó trở nên tồi tệ hơn: Tuyên bố rằng AI là mối đe dọa hiện hữu đối với loài người. Từ những nguồn có vẻ đáng tin cậy nhất, những người nổi tiếng công nghệ ưu tú nhất, xuất hiện một tầm nhìn ngày tận thế về robot giết người và máy tính giết người. Không ai khác ngoài Bill Gates, Elon Musk, và thậm chí cả Stephen Hawking vĩ đại, quá cố đã nhảy vào nhóm điểm kỳ dị siêu trí tuệ. Họ tin rằng máy móc sẽ đạt được một mức độ năng lực chung cho phép máy móc cải thiện năng lực chung của chính chúng – đến mức điều này sau đó sẽ nhanh chóng leo thang trí thông minh của con người trong quá khứ và làm như vậy với tốc độ cực nhanh của máy tính, tốc độ mà bản thân máy tính sẽ tiếp tục cải thiện nhờ vào siêu trí tuệ của chúng, và trước khi bạn biết điều đó, bạn có một hệ thống hoặc thực thể mạnh đến mức sự sai lệch nhỏ nhất của các mục tiêu có thể quét sạch loài người. Giống như nếu chúng ta ngây thơ ra lệnh cho nó sản xuất càng nhiều gà cao su càng tốt, nó có thể phát minh ra một ngành công nghiệp tốc độ cao hoàn toàn mới có thể tạo ra 40 nghìn tỷ con gà cao su nhưng điều đó xảy ra dẫn đến sự tuyệt chủng của Homo sapiens như một tác dụng phụ. Chà, ít nhất sẽ dễ dàng hơn để có được vé cho Hamilton.
Có hai vấn đề với lý thuyết này. Đầu tiên, nó kịch tính đến mức nó sẽ làm hỏng phim. Nếu kẻ xấu tốt nhất luôn là robot thay vì con người, còn y tá Ratched và Norman Bates thì sao? Tôi cần Hannibal Lecter của tôi! Nhân tiện, Kẻ xấu tốt nhất là một oxymoron. Và trí tuệ nhân tạo cũng vậy. Chỉ cần nói._
Nhưng đó là sự thật: Robopocalypse chắc chắn đang đến. Sớm. Tôi hoàn toàn nghiêm túc, tôi thề. Dựa trên một cuốn tiểu thuyết cùng tên, Michael Bay – của bộ phim Transformers – hiện đang đạo diễn nó khi chúng ta nói chuyện. Thắt dây an toàn chết tiệt của bạn mọi người, bởi vì, nếu Robopocalypse không có trong 3D, bạn đã được sinh ra trong vũ trụ song song sai.
Ồ vâng, và vấn đề thứ hai với lý thuyết ngày tận thế của AI là nó thật lố bịch. AI thông minh đến mức nó sẽ giết chết tất cả mọi người một cách tình cờ? Thật sự là siêu trí tuệ ngu ngốc? Điều đó nghe có vẻ mâu thuẫn.
Nói chính xác hơn, vấn đề thực sự là lý thuyết giả định rằng những tiến bộ công nghệ đưa chúng ta đi theo con đường hướng tới khả năng tư duy giống như con người. Nhưng họ không. Nó không đi theo hướng đó. Tôi sẽ trở lại điểm đó một lần nữa trong một phút nữa – trước tiên, thêm một chút về việc lý thuyết khải huyền này đã tỏa ra rộng rãi như thế nào.
Một niềm tin rộng rãi vào siêu trí tuệ
Kool – Aid những thức uống tiền bản quyền công nghệ cao này, cuốn sách đặt nền móng, là cuốn sách bán chạy nhất của New York Times Siêu trí tuệ, của Nick Bostrom, giáo sư đạo đức ứng dụng tại Đại học Oxford. Cuốn sách khơi dậy nỗi sợ hãi và thổi bùng ngọn lửa, nếu không muốn nói là châm ngòi cho ngọn lửa ngay từ đầu đối với nhiều người. Nó khám phá cách chúng ta có thể làm cho một vụ nổ tình báo có thể sống sót. Tờ The Guardian chạy một tiêu đề, _Trí tuệ nhân tạo: Chúng tôi giống như những đứa trẻ chơi với một quả bom, và Newsweek: Trí tuệ nhân tạo đang đến, và nó có thể quét sạch chúng tôi, cả hai tiêu đề đều ngoan ngoãn trích dẫn chính Bostrom.
Bill Gates rất khuyến khích cuốn sách, Elon Musk nói rằng AI rủi ro hơn rất nhiều so với Triều Tiên – như Tạp chí Fortune lặp lại trong một tiêu đề – và, trích dẫn Stephen Hawking, BBC đã chạy một tiêu đề, AI có thể đánh vần sự kết thúc của loài người.
Trong một bài nói chuyện của Ted đã được xem 5 triệu lần (trên các nền tảng), tác giả bán chạy nhất và trí thức podcast Sam Harris tuyên bố với sự tự tin tối cao, Tại một thời điểm nhất định, chúng ta sẽ chế tạo những cỗ máy thông minh hơn chúng ta và một khi chúng ta có những cỗ máy thông minh hơn chúng ta, chúng sẽ bắt đầu tự cải thiện.
Bạn có thể thấy khi chúng ta di chuyển dọc theo con đường từ trái sang phải, chúng ta đi qua một con chuột, một con khập khiễng, một thằng ngốc trong làng, và sau đó là nhà vật lý lý thuyết rất thông minh Ed Witten. Anh ta tương đối gần gũi với thằng ngốc, bởi vì ngay cả một con người ngốc cũng thông minh hơn nhiều so với một con khập khiễng, nói một cách tương đối. Bạn có thể thấy mũi tên ngay phía trên quang phổ cho thấy AI tiến triển theo cùng một hướng, dọc theo bên phải. Ở vị trí ngoài cùng bên phải là chính Bostrom, đó chỉ là một tai nạn nhiếp ảnh, hoặc bằng chứng cho thấy bản thân anh ta là một robot AI.
Trên thực tế, đây là một đoạn clip dài 13 giây về khoảnh khắc Bill Gates lần đầu tiên đưa Bostrom vào cuộc sống.
Rất tiếc, đó là clip sai – uh, đó là Tiến sĩ Frankenstein, nhưng, bạn biết đấy, cùng một kịch bản.
Một quang phổ của trí thông minh được quan niệm sai lầm
Dù sao, phổ thông minh được quan niệm sai lầm đó là vấn đề. Tôi đã đọc cuốn sách và nhiều cuộc phỏng vấn và xem các cuộc nói chuyện và hầu như tất cả các tín đồ về bản chất đều xây dựng trên một giả định sai lầm rằng sự thông minh hoặc trí thông minh ít nhiều rơi vào một phổ duy nhất, một chiều. Họ cho rằng máy móc càng trở nên lão luyện trong các nhiệm vụ ngày càng khó khăn hơn, chúng sẽ xếp hạng cao hơn trên thang đo này, cuối cùng vượt qua con người.
Nhưng học máy đã đưa chúng ta đi theo một con đường khác. Chúng tôi đang tiến nhanh, và chúng tôi có thể sẽ đi rất xa, nhưng chúng tôi đang đi theo một hướng khác, chỉ liên quan tiếp tuyến đến khả năng của con người.
Bí quyết là dành một chút thời gian để suy nghĩ về sự khác biệt này. Kinh nghiệm cá nhân của chúng ta về việc trở thành một trong những sinh vật thông minh được gọi là con người là điều khiến chúng ta rơi vào bẫy suy nghĩ. Những khả năng rất đặc biệt và rất ấn tượng của chúng ta được ẩn giấu khỏi chính chúng ta bên dưới một bức màn của một trải nghiệm có ý thức mà chỉ cảm thấy như rõ ràng. Nó cảm thấy đơn giản, nhưng dưới bề mặt, nó rất phức tạp. Sao chép ý thức chung của chúng ta là một khái niệm huyền ảo rằng không có tiến bộ công nghệ nào từng đưa chúng ta đến theo bất kỳ cách có ý nghĩa nào.
Suy nghĩ trừu tượng thường cảm thấy không phức tạp. Chúng tôi vẽ hình ảnh trong tâm trí của mình, như bản đồ không theo tỷ lệ của một thành phố mà chúng tôi đang điều hướng hoặc một không gian sản phẩm mà hai công ty lớn đang cạnh tranh để bán, với mỗi công ty thống trị trong một số lĩnh vực nhưng không phải ở những lĩnh vực khác. hoặc, khi nghĩ về AI, tầm nhìn sai lầm rằng các khả năng ngày càng lão luyện – cả về trí tuệ và tính toán – tất cả đều rơi vào cùng một con đường hẹp.
Bây giờ, Bostrom nhấn mạnh một cách đúng đắn rằng chúng ta không nên nhân cách hóa những gì máy móc thông minh có thể như thế nào trong tương lai. Nó không phải là con người, vì vậy thật khó để suy đoán về các chi tiết cụ thể và có lẽ nó sẽ có vẻ giống như trí thông minh của người ngoài hành tinh không gian. Nhưng những gì Bostrom và những người theo ông không nhìn thấy là, vì họ tin rằng công nghệ tiến bộ dọc theo một quang phổ bao gồm và sau đó vượt qua nhận thức của con người, bản thân quang phổ như họ đã quan niệm nó là nhân hóa. Nó có những phẩm chất giống như con người được tích hợp sẵn. Bây giờ, lý luận thông thường của bạn có vẻ giống như một giai đoạn tự nhiên của bất kỳ loại phát triển trí tuệ nào, nhưng đó là một quan điểm rất lấy con người làm trung tâm. Ý thức chung của bạn rất phức tạp và rất, rất đặc biệt. Nó vượt xa tầm hiểu biết của chúng ta – đối với bất kỳ ai – để chính thức xác định một phổ trí thông minh bao gồm nhận thức của con người về nó. Bộ não của chúng ta đa diện và lão luyện một cách ngoạn mục, theo một cách rất phức tạp.
Máy móc tiến bộ dọc theo một phổ khác nhau
Học máy thực sự hoạt động bằng cách xác định một loại quang phổ, nhưng chỉ cho một loại quỹ đạo cực kỳ hạn chế – chỉ dành cho các tác vụ đã gắn nhãn dữ liệu, chẳng hạn như xác định các đối tượng trong hình ảnh. Với dữ liệu được gắn nhãn, bạn có thể so sánh và xếp hạng các nỗ lực khác nhau để giải quyết vấn đề. Máy tính sử dụng dữ liệu để đo lường nó hoạt động tốt như thế nào. Giống như, một mạng lưới thần kinh có thể xác định chính xác 90% xe tải trong hình ảnh và sau đó một biến thể sau một số cải tiến có thể nhận được 95%.
Trở nên tốt hơn và tốt hơn trong một nhiệm vụ cụ thể như thế rõ ràng không dẫn đến khả năng lý luận thông thường chung. Chúng tôi không đi theo quỹ đạo đó, vì vậy nỗi sợ hãi nên được xoa dịu. Cỗ máy sẽ không đạt đến cấp độ giống như con người, nơi nó tìm ra cách tự đẩy mình vào siêu trí tuệ. Không, nó sẽ tiếp tục trở nên tốt hơn trong việc xác định các đối tượng, đó là tất cả.
Trí thông minh không phải là một lý tưởng Platonic tồn tại tách biệt với con người, chờ đợi để được khám phá. Nó sẽ không tự phát xuất hiện dọc theo một loạt các công nghệ tốt hơn và tốt hơn. Tại sao lại như vậy? Đó là một câu chuyện ma.
Nó có thể cảm thấy hấp dẫn để tin rằng sự phức tạp gia tăng dẫn đến trí thông minh. Xét cho cùng, máy tính có mục đích cực kỳ chung – về cơ bản chúng có thể thực hiện bất kỳ tác vụ nào, nếu chúng ta có thể tìm ra cách lập trình chúng để thực hiện nhiệm vụ đó. Và chúng tôi đang khiến họ làm những việc ngày càng phức tạp hơn. Nhưng chỉ vì họ có thể làm bất cứ điều gì không có nghĩa là họ sẽ tự động làm mọi thứ mà chúng ta tưởng tượng họ có thể.
Không có tiến bộ nào trong học máy cho đến nay đã cung cấp bất kỳ gợi ý hoặc ý tưởng nào về loại nước sốt bí mật nào có thể khiến máy tính đạt được lý luận thông thường chung. Mơ thấy những khả năng như vậy có thể xuất hiện chỉ là mơ mộng và trí tưởng tượng bất hảo, không khác gì bây giờ, sau vài thập kỷ đổi mới vừa qua, so với năm 1950, khi Alan Turing, cha đẻ của khoa học máy tính, lần đầu tiên cố gắng định nghĩa cách từ trí thông minh có thể áp dụng cho máy tính.
Không bán, mua hoặc điều chỉnh về AI
Máy móc về cơ bản sẽ vẫn nằm dưới sự kiểm soát của chúng tôi. Lỗi máy tính sẽ giết chết – mọi người sẽ chết vì các phương tiện tự trị và tự động hóa y tế – nhưng không phải ở mức thảm khốc, trừ khi do thiết kế có chủ ý của những kẻ tấn công mạng của con người. Khi một sai lầm xảy ra, chúng tôi đưa hệ thống ngoại tuyến và sửa chữa nó.
Bây giờ, những tín đồ nổi tiếng về công nghệ nói trên là những trí thức thực sự và thực sự thành đạt như các doanh nhân, kỹ sư và nhà lãnh đạo tư tưởng trong các lĩnh vực tương ứng của họ. Nhưng họ không phải là chuyên gia học máy. Không ai trong số họ là. Khi nói đến giáo hoàng AI của họ, sẽ thực sự tốt hơn cho mọi người nếu họ xuất bản suy nghĩ của mình dưới dạng kịch bản phim bom tấn hơn là chủ nghĩa tương lai nghiêm túc.
Đã đến lúc thuật ngữ AI bị chấm dứt. Có nghĩa là những gì bạn nói và nói những gì bạn muốn nói. Nếu bạn đang nói về học máy, hãy gọi nó là học máy. Từ thông dụng AI đang gây hại nhiều hơn lợi. Đôi khi nó có thể giúp công khai, nhưng ít nhất là ở mức độ tương tự, nó gây hiểu lầm. AI không phải là một thứ. Đó là vaporware. Đừng bán nó và đừng mua nó.
Và quan trọng nhất, đừng điều chỉnh về AI! Công nghệ rất cần quy định trong một số lĩnh vực nhất định, ví dụ, để giải quyết sự thiên vị trong việc ra quyết định thuật toán và phát triển vũ khí tự trị – thường sử dụng học máy – vì vậy sự rõ ràng là hoàn toàn quan trọng trong các cuộc thảo luận này. Sử dụng thuật ngữ không chính xác, gây hiểu lầm trí tuệ nhân tạo gây bất lợi nghiêm trọng cho hiệu quả và độ tin cậy của bất kỳ sáng kiến nào điều chỉnh công nghệ. Quy định đã đủ cứng mà không làm bùn nước.
