Đôi điều về Alice và Bob

Bots với kỹ năng ngôn ngữ sáng tạo đã chiếm được trí tưởng tượng của mọi người. Họ cũng đã nhen nhóm sự lo lắng về một robocalypse

Alice và Bob, Alice và Bob Facebook, bot Facebook, bot trí tuệ nhân tạoAlice và Bob, các bot của Facebook đã trở nên khét tiếng vì sự thiếu hụt không lường trước được trong logic lập trình, là một phần của thử nghiệm xây dựng máy đàm phán. C R Sasikumar

Internet đã bùng nổ với những tiêu đề đầy tai họa đáng kể tuyên bố rằng Facebook đã phải rút phích cắm trên các bot trí tuệ nhân tạo (AI) giả mạo đã phát triển một ngôn ngữ của riêng chúng, trong đó chúng thực hiện các cuộc trò chuyện riêng tư một cách vô nhân đạo. Họ đọc như những lời trêu ghẹo cho Terminator globocalypse, đây là cơn ác mộng tồi tệ nhất của loài linh trưởng sử dụng công cụ - được thay thế bằng chính cái máy tạo ra nó.

Thực tế ít kịch tính hơn nhưng thú vị hơn. Bots là các tác nhân tự trị được lập trình ban đầu để thực hiện các nhiệm vụ quản lý trên các kênh liên lạc hoặc để thử và vượt qua bài kiểm tra Turing. Họ có thể đăng nhập bạn, đuổi bạn ra ngoài nếu bạn cư xử sai, giữ cho phòng trò chuyện luôn mở khi không có ai ở nhà, cung cấp thông tin và giả dạng người. Trên hệ thống Internet Relay Chat, bot Eggdrop là ứng dụng được yêu thích nhất mọi thời đại.

Con cháu của những bot gác cổng như vậy được nhúng vào các công cụ tìm kiếm và sứ giả hiện đại và có khả năng AI. Họ nói chuyện với người dùng thay vì như một con người, trả lời các truy vấn thông thường và đưa ra lời khuyên. Nếu điện thoại của bạn dường như biết được tâm trí của bạn và đưa ra nội dung phù hợp mà không cần phải hỏi, phần lớn tín dụng phải được chuyển cho các bot làm việc phía sau hậu trường. Giống như con người, bot có thể học hỏi kinh nghiệm và được định sẵn cho những điều lớn lao hơn trong các tình huống thực tế.

Alice và Bob, các bot của Facebook đã trở nên khét tiếng vì sự thiếu hụt không lường trước được trong logic lập trình, là một phần của thử nghiệm xây dựng máy đàm phán. Họ chỉ đơn giản là tìm cách chia sẻ một tập hợp các đồ vật, chẳng hạn như quả bóng, để không bên nào cảm thấy bị lừa. Trong khi mặc cả, Alice đã đưa ra những tuyên bố ban đầu không thể hiểu nổi như, Balls không có gì đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi đối với tôi… Và những tiêu đề đáng sợ tiếp theo.

Như các giáo viên và phụ huynh đều biết, việc học tập được thúc đẩy bởi các khuyến khích. Trong trường hợp này, hệ thống khen thưởng của bài tập đã được xác định - chia sẻ tốt hơn và sự hài lòng lẫn nhau, bản chất của thương lượng. Nhưng không có động cơ nào để các bot tiếp tục giao tiếp bằng tiếng Anh, một ngôn ngữ nổi tiếng là phi logic. Vì vậy, họ chuyển sang một argot giống như Newspapereak được đơn giản hóa, hiệu quả hơn, không hoàn toàn là tiếng Anh, nhưng không khó hiểu như được quảng cáo.

Tuyên bố của Alice, đã bị hiểu nhầm là một sự khẳng định về tính độc lập của máy móc, chỉ cho thấy sự thất vọng khi bị thay đổi ngắn (có số không) và mỗi người đối với tôi đều đại diện cho một đối tượng mà cô ấy yêu cầu. Cô ấy đang làm chính xác công việc mà cô ấy được lập trình: Mặc cả khó như một chủ cửa hàng ở Istanbul’s Grand Bazaar. Và nếu cô ấy nhận thấy rằng Queen’s English cản đường, cô ấy không đơn độc. Nhiều chủng tộc của các thuộc địa cũ cảm thấy rằng ngôn ngữ chính cản trở việc giao tiếp trong cộng đồng của họ.

Chỉ những nhà đàm phán con người chuyên nghiệp mới cần phải lo lắng nếu những gã khổng lồ của Thung lũng Silicon đang đầu tư vào các chương trình thương lượng. Những kẻ khủng bố và những kẻ triệu hồi cũng nên lo sợ về tiền hưu bổng, vì trong các tình huống bắt giữ con tin và các giao dịch quốc tế, chúng có thể thấy mình phải đối mặt với một cỗ máy khó lường, không thể hoàn thiện, thông minh hơn Deep Blue, siêu máy tính của IBM từng thách thức nhà vô địch cờ vua Garry Kasparov vào năm 1996.

Sự thôi thúc phát triển các ngôn ngữ riêng là một đặc điểm rất con người. Trước khi các thị trường chứng khoán được máy tính hóa, các nhà môi giới chứng khoán trên sàn giao dịch đã thông báo giá thầu bằng các tín hiệu tay mà những người khác không thể hiểu được. Trong nhiều thế kỷ, việc thực thi pháp luật đã bị cản trở bởi những lời cảnh giác của những tên trộm, những ngôn ngữ giả tạo của những kẻ bị kết án, những ngôn ngữ vô nghĩa đối với những người cai ngục của họ. Trong số những tên tội phạm nói tiếng Anh thế kỷ 20, từ vô nghĩa arkitnay có nghĩa là, Im đi, ai đó đang nghe trộm. Tại Ấn Độ, William Henry Sleeman đã nghiên cứu Ramaseeana, bang Thuggee, và xuất bản từ vựng vào năm 1836. Một trong những vở kịch ít được trình diễn nhất nhưng hấp dẫn nhất của Tom Stoppard là Dogg’s Hamlet, trong đó học sinh biểu diễn Shakespeare bằng ngôn ngữ của chúng, Dogg. Nó giống như một mật mã chuyển vị. Ví dụ, buổi chiều có nghĩa là xin chào trong Dogg.

Đừng bận tâm đến những kẻ tận thế, điều thú vị ở Alice và Bob là trong việc tạo ra một ngôn ngữ, họ đã phản bội một đặc điểm rất con người, mà họ không được lập trình rõ ràng để thể hiện. 60 năm trước, những con bot đầu tiên được viết ra để khám phá chính xác câu hỏi này: Liệu máy móc có thể được lập trình để hoạt động giống như con người không? Liệu họ có thể vượt qua bài kiểm tra Turing? Được nêu trong một bài báo năm 1950 có tiêu đề Máy tính và trí thông minh, Turing về cơ bản đã gợi ý rằng nếu giao tiếp của một cỗ máy dường như là của con người, thì cỗ máy đó nên được coi là con người.

Bot xử lý ngôn ngữ tự nhiên đầu tiên bước ra khỏi phòng thí nghiệm và trở nên phổ biến rộng rãi là Eliza, được tạo ra vào năm 1964 bởi Joseph Weisenbaum tại MIT. Ông viết nó để chứng minh rằng giao tiếp bằng văn bản giữa người và máy không thể đạt đến mức độ của một cuộc trò chuyện giữa con người với nhau. Ngược lại, Eliza đã nâng cao kỳ vọng của công chúng rằng nó sẽ vượt qua bài kiểm tra Turing. Ba mươi năm sau, Julia, người sáng lập Lycos, Michael Mauldin, đã tạo ra những hy vọng lớn hơn nữa để tranh giải Loebner, cuộc thử nghiệm Chén Thánh của Turing. Nhưng vượt quá một điểm, các cuộc trò chuyện của Julia chỉ xoay quanh những suy nghĩ ngẫu nhiên về đặc tính của chó và mèo (bạn có thể trò chuyện với phiên bản hiện đại của cô ấy tại cào.mit.edu/projects/2208608).

Giờ đây, các bot với kỹ năng ngôn ngữ sáng tạo đã nắm bắt được trí tưởng tượng của mọi người, khơi dậy sự lo lắng về một rô bốt. Nhưng một sự phát triển tại phòng thí nghiệm AI của Google thực sự thú vị hơn. Vào tháng 9 năm 2016, Google đã ra mắt Hệ thống dịch máy thần kinh của mình, ứng dụng học sâu vào ngôn ngữ. Hai tháng sau, họ đẩy mạnh phong bì: Nếu một chiếc máy học cách dịch, chẳng hạn giữa tiếng Hindi và tiếng Đức, và giữa tiếng Hindi và tiếng Anh, liệu nó có thể dịch giữa tiếng Anh và tiếng Đức mà không cần đến ngôn ngữ cầu nối là tiếng Hindi không? Nó có thể, gợi ý rằng mạng nơ-ron đã học được điều gì đó cơ bản về cách trí óc liên kết các khái niệm và ngữ pháp để tạo ra ngôn ngữ. Con cá Babel nhỏ, màu vàng, giống con đỉa, người phiên dịch vạn vật sống được Douglas Adams mơ ước vào cuối những năm Bảy mươi, hiện đang bay lượn gần tai bạn.

Tất nhiên, vì không có tiên lượng lâu dài cho AI, cảnh báo về những người nên hiểu biết hơn, như Elon Musk và Stephen Hawking, cần được quan tâm đúng mức. Cần có quy định, bất chấp sự phản đối của những người ủng hộ quyền tự do đổi mới, như Mark Zuckerberg. Và một sự đồng thuận chung nên phát triển, thống nhất về các dòng không được phép vượt qua, như trong trường hợp can thiệp vào bộ gen người. Nhưng không thể phủ nhận rằng các thử nghiệm tại Facebook và Google đang thúc đẩy mục đích ban đầu của AI, đó là mô hình hóa và hiểu các khía cạnh của tâm trí con người. Những câu chuyện truyền thông buồn tẻ mà họ thu hút là những cảm giác trôi qua. Ngày hôm sau, chúng thích hợp để gói cá.