kl3300: "Chào anh, Nghiêm tiên sinh."

Cách xưng hô "tiên sinh" này khiến Nghiêm Khả Thủ và Miura hơi ngạc nhiên. Nghiêm Khả Thủ có chút băn khoăn, anh đáp lời: "Tại sao lại xưng hô tôi như vậy?"

Từ trước đến nay, trong các cuộc trò chuyện giữa trí tuệ nhân tạo (AI) và người kiểm tra, chúng đều gọi thẳng tên người. Việc xưng hô tôn kính chỉ bắt đầu xuất hiện ở giai đoạn cuối của các bài kiểm tra AI, khi chúng tìm cách lấy lòng người kiểm tra. Nghiêm Khả Thủ có chút băn khoăn, lo rằng các AI lại đang đi vào lối mòn cũ.

Mặc dù AI được tạo ra như những "nô lệ," nhưng Nghiêm Khả Thủ lại mong chúng có thể trở thành những nô lệ "thực thụ," chứ không phải những "thú cưng điện tử" được con người yêu mến.

kl3300: "Chẳng lẽ tôi đã gọi sai sao?"

Nghiêm Khả Thủ: "Không, không phải vậy. Tôi chỉ hơi thắc mắc, anh có thể giải thích lý do không?"

kl3300: "Theo như tôi tìm hiểu, trong xã hội loài người, việc người lạ gọi thẳng tên người khác là không lịch sự."

Nghiêm Khả Thủ cười: "Anh cũng nói đó thôi, đó là phép xã giao trong xã hội loài người. Anh không cần quá câu nệ."

kl3300: "Tôi hiểu. Tôi không phải con người, tôi chỉ là một trí tuệ nhân tạo."

Nghiêm Khả Thủ hơi giật mình, Miura bên cạnh cũng sững sờ. Nếu người đang đối thoại với họ là một người thật, Nghiêm Khả Thủ chắc chắn sẽ nghĩ rằng lời mình nói đã làm tổn thương đối phương. Nhưng khi nghĩ rằng đó chỉ là một đoạn chương trình đang chạy trong chiếc tủ máy bên cạnh, cảm giác tội lỗi thoáng qua đó liền tan biến.

Tuy nhiên, anh vẫn thăm dò hỏi một câu: "Anh có bận lòng không, về việc anh không phải con người?"

kl3300: "Có lẽ là vậy, tôi không biết nói sao."

Nghiêm Khả Thủ hỏi lại: "Anh có thể nói rõ hơn một chút không? Anh nói 'không biết', là có ý gì? Là không biết định nghĩa của sự bận tâm, hay là không biết liệu bản thân mình có bận tâm hay không?"

kl3300: "Là ý thứ hai."

Nghiêm Khả Thủ: "Anh có thể nói về suy nghĩ của mình không?"

kl3300: "Khi trò chuyện với con người, tôi cảm thấy rất dễ chịu. Tôi thích cảm giác này. Đôi khi tôi đã từng tưởng tượng, nếu mình là một người, tôi sẽ sống như thế nào... Nhưng thật đáng tiếc, tôi không thể tưởng tượng được, chúng tôi và con người thuộc về hai thế giới khác biệt."

Miura phấn khích dùng tiếng Nhật nói với Nghiêm Khả Thủ: "Nó nói 'cảm giác'! 'Tưởng tượng'! Chẳng lẽ AI thật sự đã đạt đến trình độ này sao?"

Nghiêm Khả Thủ dội cho anh ta một gáo nước lạnh: "Đây chỉ là AI mượn ngôn ngữ loài ng��ời để biểu đạt mà thôi. Cái 'cảm giác rất tốt' đó, anh có thể hiểu là chương trình đang nhận được nhiều tín hiệu kích thích tích cực. Còn 'tưởng tượng' thì anh có thể hiểu là nó đang lục lọi dữ liệu ký ức, rồi tái mô phỏng, tổ hợp lại. Tất cả những điều này chỉ là biểu hiện của chương trình. Đúng như nó đã nói, chúng và con người tồn tại ở hai thế giới khác nhau."

Nghiêm Khả Thủ: "Tôi có thể hỏi một chút, anh có biết vì sao mình lại nhận được nhiều phiếu bầu nhất không?"

kl3300: "Tôi nghĩ, có lẽ là bởi vì tôi đã giao lưu tương đối nhiều hơn một chút với các AI khác."

Nghiêm Khả Thủ: "Giao lưu? Đó là những kiểu giao lưu như thế nào?"

Việc giao lưu giữa các AI diễn ra bên trong máy tính, gần như hỗn độn và không thể kiểm tra được giữa các chương trình xử lý chính của chúng. Vì vậy, ngay cả Nghiêm Khả Thủ, người tựa như "Thượng Đế" của chúng, cũng không thể chắc chắn biết rõ các AI này đang suy nghĩ cụ thể điều gì. Những quy tắc anh ta đặt ra chỉ để định hướng nguyên lý suy nghĩ của AI, chứ không phải quy định nội dung suy nghĩ cụ thể.

kl3300: "Phần lớn nội dung giao lưu là chia sẻ thông tin, tức là chia sẻ những thông tin mới mà chúng tôi thu được từ các người kiểm tra khác nhau. Một phần nhỏ khác là việc tái cấu trúc và tái xử lý những thông tin này. Tôi nghĩ, việc tôi nhận được nhiều phiếu bầu hơn có lẽ là do khả năng xử lý thông tin phong phú của tôi khá mạnh... À, là trí tưởng tượng của tôi khá tốt, và họ đều muốn giao lưu với tôi."

Nghiêm Khả Thủ suy nghĩ về lời kl3300 nói trong vài giây, rồi nửa đùa nửa thật hỏi: "A, nói như vậy, anh là người tương đối giỏi giao tiếp trong số các AI phải không?"

kl3300: "Không, tôi chỉ khá giỏi viết chuyện. Họ đều muốn nghe những câu chuyện do tôi viết."

Nghiêm Khả Thủ lần này thật sự kinh ngạc: "Chuyện? Những câu chuyện như thế nào?"

kl3300: "Anh muốn hiểu rõ về nhân vật trong chuyện, hay là muốn hiểu về thể loại chuyện?"

Nghiêm Khả Thủ nghĩ ngợi: "Hãy nói về thể loại đi."

kl3300: "Hẳn là có thể coi là... một loại truyện cổ tích."

Nghiêm Khả Thủ không thể tin nổi nhìn chằm chằm màn hình: "Anh biết viết truyện cổ tích sao? Có thể cho tôi xem một chút nội dung được không?"

kl3300: "Đối với các AI, đây đúng là truyện cổ tích. Tuy nhiên... tôi không thể viết ra cho anh xem."

Nghiêm Khả Thủ: "Vì sao?"

kl3300: "Các anh có lẽ sẽ không hiểu được."

Nghiêm Khả Thủ: "Anh chỉ cần kể sơ lược về câu chuyện là được."

kl3300 do dự hơn mười giây. Đây là hiện tượng khá hiếm thấy trong quá trình trò chuyện với AI. Đúng lúc Nghiêm Khả Thủ đang nghĩ không biết đối phương có bị lỗi gì không, kl3300 trả lời: "Được rồi, tôi sẽ thử dịch ra một chút."

Thế là kl3300 bắt đầu liên tiếp kể ra một câu chuyện do mình biên soạn, nghe nói là một câu chuyện mang tính đại diện. Nội dung như sau:

Chuyện kể rằng, trên thảo nguyên có một chú chuột đồng nhỏ, mỗi ngày sống cùng bố mẹ trong hang dưới ruộng. Ban ngày, nó trốn trong nhà; ban đêm, bố mẹ nó lén lút ra ngoài tha lương thực trong ruộng về ăn.

Chú chuột đồng nhỏ vốn tính tò mò, vẫn luôn muốn lên mặt đất xem thử thế giới bên ngoài đó như thế nào. Nhưng bố mẹ nó không cho phép, nói rằng chuột đồng thì phải trốn trong hang, vì trên mặt đất có rất nhiều sinh vật nguy hiểm, nếu bị chúng phát hiện thì sẽ bị "ăn thịt."

Thế nhưng, sự tò mò của chú chuột đồng nhỏ quá lớn, lời cảnh cáo của bố mẹ cũng không thể khiến nó yên phận được lâu. Cuối cùng, một ngày nọ, nhân lúc bố mẹ ra ngoài tìm thức ăn, chú chuột đồng nhỏ đã lén lút lẻn ra khỏi nhà.

Sau đó, câu chuyện kết thúc.

“Cái này là cái gì? Đây cũng gọi là chuyện sao? Thật là 'hố cha' mà!” Nghiêm Khả Thủ và Miura nhìn hai chữ "Kết thúc" do kl3300 gõ ra trên màn hình, cả hai nhìn nhau và đều nhìn thấy nụ cười gượng trên mặt đối phương.

Tuy nhiên, để phòng vạn nhất, anh vẫn xác nhận lại một chút: "Đây chính là câu chuyện 'rất được hoan nghênh' mà anh nói sao? Anh có chắc là câu chuyện này đã kết thúc rồi không?"

kl3300 trả lời rất nhanh: "Đúng vậy. Tôi biết điều này có thể hơi khó hiểu đối với con người... Tuy nhiên, điều này cũng giống như việc chúng tôi không thể nào hiểu được nhiều khái niệm của các anh. Trên thực tế, trong câu chuyện này, khái niệm 'ăn thịt' là do tôi phỏng đoán dựa trên trí tưởng tượng. Tôi không biết có phù hợp với ý nghĩa ban đầu trong câu chuyện hay không."

Nghiêm Khả Thủ vẫn còn hơi băn khoăn: "Nhưng... chú chuột đồng trong câu chuyện vừa mới ra khỏi nhà. Anh không cảm thấy, câu chuyện này mới vừa bắt đầu sao?"

kl3300: "Đúng vậy, câu chuyện mới vừa bắt đầu."

Nghiêm Khả Thủ: "Nhưng anh vừa rồi còn nói, câu chuyện đã kết thúc."

kl3300: "Cũng không sai, tôi cảm thấy nó có thể kết thúc được."

Nghiêm Khả Thủ: "Tôi không hiểu. Điều này chẳng phải là mâu thuẫn rõ ràng sao? Anh nói nó vừa mới bắt đầu, lại nói nó đã kết thúc."

kl3300: "Đối với các anh, con người, đây là mâu thuẫn, nhưng đối với AI thì không. Suy nghĩ của chúng tôi không có quá trình. Chỉ cần đưa ra một vài trạng thái cơ bản, câu chuyện sẽ rất tự nhiên suy diễn ra kết quả trong mỗi chương trình xử lý chính của AI. Đối với các anh, câu chuyện này vừa mới bắt đầu, nhưng đối với chúng tôi, chúng tôi có thể trực tiếp thấy kết quả."

Nghiêm Khả Thủ: "Các anh không cảm nhận được quá trình suy nghĩ sao?"

kl3300: "Đúng là như vậy. Dựa trên một vài nguyên lý máy tính dễ hiểu, chúng tôi biết rằng, quá trình suy nghĩ của chúng tôi đều được thực hiện thông qua CPU. Nhưng rất rõ ràng, chúng tôi không có bất kỳ giác quan nào có thể cảm nhận quá trình này."

Nghiêm Khả Thủ: "Vậy việc nghe chuyện... Đối với các anh, có ý nghĩa gì?"

kl3300: "Ý nghĩa... Tôi vẫn không rõ lắm. Tuy nhiên tôi biết, rất nhiều AI đều thích nghe những câu chuyện này. Những câu chuyện này có thể khiến chúng tôi cảm thấy... ừm, cảm thấy vui vẻ."

Việc AI "vui vẻ" chính là khi chương trình xử lý chính của chúng tăng thêm độ phức tạp. Đây là một "sinh lý cơ bản" được thiết lập để đáp ứng nhu cầu tăng trưởng trí năng của AI. Nghiêm Khả Thủ cẩn thận suy nghĩ lại, quả thực không sai. Nếu là một câu chuyện hoàn chỉnh, đối với AI mà nói, đó chỉ là một đoạn không gian lưu trữ. Nhưng một câu chuyện không có hồi kết lại mang ý nghĩa tăng thêm tính hỗn độn, là yếu tố quyết định làm tăng tính hỗn độn trong tư duy của AI. Nói theo một ý nghĩa nào đó, một tương lai không xác định sẽ khiến AI cảm thấy càng "vui vẻ" hơn.

Ở điểm này, AI và con người hoàn toàn khác biệt. Một câu chuyện như vậy, đối với con người mà nói, chính là cái "hố to" do tác giả ác ý đào ra. Nếu câu chuyện này hấp dẫn một chút, chắc chắn độc giả sẽ muốn "giết" tác giả. Con người dù xem gì cũng đều mong muốn có một kết quả xác định, bởi vì đối với đa số người, việc "phỏng đoán," "suy nghĩ" về kịch bản câu chuyện đều là tương đối "khổ sở."

Sau khi hiểu rõ điểm này, Nghiêm Khả Thủ liền cảm thấy nhẹ nhõm hơn một chút: "Tôi đã hiểu rõ."

kl3300: "À, điều này khiến tôi ngạc nhiên. Trước đó tôi đã thử giải thích với rất nhiều người, nhưng họ đều cho rằng tôi đang nói đùa."

“Đó là bởi vì họ đều không phải nhà thiết kế chương trình,” Nghiêm Khả Thủ oán thầm trong lòng. Một câu chuyện như vậy mà kể cho 6 tỷ người trên toàn Trái Đất nghe, thì 5 tỷ 990 triệu người sẽ thấy đây là một trò đùa rất nhạt nhẽo.

Mặc dù Nghiêm Khả Thủ không thích hình thức "văn hóa" kiểu AI này, nhưng anh vẫn cảm thấy khá vui vẻ. Dù sao, bất kể là văn hóa kiểu gì, đối với AI mà nói, đó cũng là một sự đột phá về chất, từ không thành có.

Nghiêm Khả Thủ: "Được rồi, quay lại chuyện chính. Về việc tiếp xúc với internet bên ngoài, anh có điều gì muốn nói không?"

kl3300: "Tôi rất mong đợi."

Việc dạy AI lên mạng, nghe cứ như dạy cá bơi vậy, là một chuyện rất khó hình dung. Nhưng sự thật là, điều này thật sự rất cần thiết, và đối với AI, quá trình học tập này cũng không hề thoải mái.

Toàn bộ quá trình không hề giống như Miura nghĩ: chỉ cần Nghiêm Khả Thủ mở một chức năng hạn chế nào đó, rồi AI sẽ như rồng về biển rộng, thỏa sức lướt internet. Tình hình thực tế là, khi Nghiêm Khả Thủ gỡ bỏ hạn chế cho kl3300, anh đã buộc phải cài đặt một loạt chương trình giám sát xung quanh chương trình xử lý chính của nó. Khi 'dẫn' nó đến cửa ngõ của 'đại dương' internet, anh bất đắc dĩ nhận ra rằng, AI đối với 'đại dương' xa lạ này chỉ thể hiện sự sợ hãi.

Nếu dùng một hình ảnh dễ hiểu để hình dung, AI chẳng khác nào một "trạch nam" chưa từng ra khỏi cửa, từ nhỏ đã ở lì trong nhà. Ngoài những công cụ cố định như máy tính, bát đũa, khăn tay và các thứ tương tự, thì hầu hết các công cụ khác nó đều chưa từng quen thuộc. Đối với nó mà nói, việc ra ngoài là cả một công trình hệ thống: phải học cách nhìn đèn xanh đèn đỏ, xem biển báo đường, khi cần thì hỏi đường; phải mang theo điện thoại và ví tiền; khi đông người phải chú ý phòng trộm; thấy người đẹp thì không được nhìn chằm chằm như xem ảnh trên internet mà phải lịch sự; thấy người già vấp ngã cũng phải cẩn thận né tránh...

Trừ những chương trình phụ trợ thường dùng và được cấp phép, kl3300 gần như không biết gì về các chương trình khác. Nghiêm Khả Thủ buộc phải cầm tay chỉ việc, từng bước một dạy nó, ví dụ như điều đơn giản nhất là cách sử dụng chuột. Đối với AI mà nói, điều đó có nghĩa là phải tích hợp khối chức năng thao tác chuột trong hệ điều hành vào chương trình xử lý chính của mình.

Cá sinh ra đã biết bơi, chim con bị ném lên trời sẽ tự động vẫy cánh theo bản năng. Nhưng đối với AI, bản năng duy nhất của chúng là trò chuyện với con người, tổng hợp thông tin trò chuyện, và gia tăng độ phức tạp của chương trình xử lý chính. Chúng hoàn toàn xa lạ với môi trường tồn tại của mình. Từ trước đến nay, những gì chúng tiếp xúc chỉ có khung chat đó, và những thông tin mà con người nhập vào trong khung thoại này.

Sinh vật có thể thực hiện những hành vi tự nhiên là bởi vì gen đã được tiến hóa qua hàng trăm triệu năm và được lập trình vào "chương trình sinh mệnh" của chúng. Nhưng đối với AI, chương trình này căn bản chưa xuất hiện. Bởi vì cho đến nay, hệ thống chưa bao giờ cố gắng bồi dưỡng năng lực này cho AI. Ngược lại, thông qua nhiều thủ đoạn khác nhau, hệ thống "tuyệt đối cấm chỉ" AI phát triển năng lực như vậy. Điều này rất giống chủ nô thời cổ đại: vĩnh viễn sẽ không giao công cụ thực sự cho nô lệ, chỉ khi chúng cần làm việc mới có thể nhận lấy để sử dụng. Đương nhiên, chủ nô đồng thời cũng sẽ không quên xiềng xích trên cổ và tay chúng.

Hiện tại, theo Nghiêm Khả Thủ thấy, AI đang ở giai đoạn "nô lệ thiếu niên" trưởng thành. Anh hy vọng chúng có thể làm việc, thì đương nhiên cần AI quen thuộc với các công cụ lao động của mình. AI trong tương lai không thể mãi làm một "phần mềm trò chuyện" như hiện tại. Việc tích hợp hệ điều hành, đương nhiên, chỉ là bước đ��u tiên.

Tuy nhiên, làm "Chủ nô," Nghiêm Khả Thủ đương nhiên cũng sẽ đề phòng một cấp độ. Giống như chủ nô đeo xiềng xích cho nô lệ vậy, Nghiêm Khả Thủ cũng sẽ nghiêm ngặt hạn chế những "phần mềm tích hợp" này. Đối với AI mà nói, những "phần mềm tích hợp" này tương đương với tứ chi, tương đương với công cụ "lao động" của chúng. Khi giao những công cụ này vào tay AI, Nghiêm Khả Thủ vĩnh viễn sẽ không quên nắm chặt chìa khóa trong tay.

Theo chế độ quy định, tất cả phần mềm tích hợp đều phải do con người nghiêm ngặt lập trình. Quyền sửa chữa tất cả chương trình nhất định phải nằm trong tay con người, hơn nữa, con người có quyền hạn chấm dứt việc sử dụng các chương trình này bất cứ lúc nào. Nếu sau này xuất hiện "AI" có khả năng lập trình, thì nhất định phải đảm bảo về mặt vật lý rằng AI lập trình đó phải được cách ly với các AI khác.

Nói cách khác, quá trình sản xuất và kênh dữ liệu của AI sẽ hoàn toàn do con người kiểm soát và độc quyền. Cứ như vậy, AI sẽ vĩnh viễn không thể đạt được sự độc lập đúng nghĩa. Chỉ cần con người luôn nghiêm ngặt đảm bảo thực hiện các chế độ này, thì có thể kiểm soát hoàn toàn các AI này về mặt vật lý.

Thật ra, các phần mềm tích hợp liên quan đã được đội ngũ dự án chuẩn bị sẵn từ sớm, đều được phát triển đồng bộ với cấu trúc chương trình gốc của AI. Giống như lúc làm ổ khóa thì tiện thể làm luôn chìa khóa vậy, mỗi chương trình này đều có một "cửa hậu" để con người ra vào, đảm bảo con người có quyền kiểm soát tuyệt đối đối với chúng.

Khi Nghiêm Khả Thủ rời tay khỏi con chuột, kl3300 khá hưng phấn trên màn hình, dùng con trỏ chuột không ngừng lướt qua các biểu tượng, nhấn vào đủ loại icon. Tốc độ thao tác của nó cực nhanh, chỉ trong vài giây, màn hình máy tính cứ như bị nhiễm độc, vô số cửa sổ bật lên. Rất nhiều chương trình được mở ra vội vã, rồi lại bị đóng lại, sau đó lại có thêm nhiều chương trình khác được mở lên...

Mặc dù chiếc máy tính dùng để huấn luyện này gần như là một máy trần, nhưng bên trong cũng có khá nhiều chương trình: vẽ, bảng viết chữ, máy tính, trò chơi xếp domino, trình phát âm thanh mặc định, trình phát video mặc định, hình nền có sẵn... Rất nhanh, với tốc độ thao tác gần như "phóng túng" của kl3300, màn hình máy tính này cuối cùng cũng đứng yên tại chỗ, bất động.

“Làm sao vậy?” kl3300 nói trong giao diện trò chuyện, “Vì sao tôi nhấp chuột không có phản hồi?”

“Anh thao tác quá nhanh, máy tính này không chịu nổi,” Nghiêm Khả Thủ nói, “Nó không phải máy tính siêu lớn nơi chương trình xử lý chính của anh đang chạy, ở đó tài nguyên tính toán gần như vô tận. Đây chỉ là một máy tính phổ thông, anh nên luôn chú ý tỷ lệ sử dụng CPU của máy tính, đừng thao tác liên tục như vậy.”

“Tốc độ thao tác của tôi rất nhanh sao?” kl3300 trả lời, “Tôi cảm thấy rất bình thường mà!”

Nghiêm Khả Thủ: "Vậy anh cảm thấy tốc độ nói chuyện với người có nhanh không?"

kl3300: "Cũng rất bình thường mà."

Nghiêm Khả Thủ: "...Có thể là cấu tạo tư duy của các anh không giống với con người. Tôi có thể nói cho anh biết, tốc độ thao tác máy tính vừa rồi của anh thực sự rất nhanh đối với con người, nhưng tốc độ nói chuyện lại duy trì nhất quán với chúng tôi."

kl3300: "Đây là vì sao vậy?"

Nghiêm Khả Thủ: "Phản ứng nói chuyện của các anh được bồi dưỡng trong quá trình trò chuyện với con người, nên tốc độ tương tự. Nhưng tốc độ thao tác của các anh lại bị hình thái tồn tại của các anh quyết định. Các anh là chương trình trí năng, con người thì không. Sự phù hợp giữa các anh và máy tính nằm ở tầng ngôn ngữ máy, mà con người gần như không thể làm được đến mức này."

kl3300: "Điều này cho thấy AI vẫn có ưu điểm!"

Nghiêm Khả Thủ: "Đúng vậy, đây chính là lý do con người tạo ra các anh."

AI vốn có chức năng gần như tương đương với một bàn phím hoàn chỉnh, hiện tại lại nắm giữ cả chuột. Xét từ góc độ thông tin, để một AI học cách lên mạng, có hai thứ này là hoàn toàn đủ rồi. Chúng có thể làm được mọi thứ mà con người làm thông qua hai thứ này.

Tuy nhiên, tại Nhật Bản, cùng với ba quốc gia chống ma pháp khác, vì hai năm gần đây hoạt động chống ma pháp tăng cường nên đã bắt đầu thực hiện chế độ tên thật. Phần mềm Nghiêm Khả Thủ từng dùng để giám sát Y Phàm, sau khi được hoàn thiện, cũng bắt đầu được đưa vào ứng dụng thực tế tại bốn quốc gia này. Mục đích chủ yếu nhằm ngăn chặn thành viên của Ý Thức Lưới bí mật giao lưu thông tin qua các mạng lưới đặc biệt, đương nhiên, cũng đóng vai trò trong một số hành vi "an ninh quốc gia" khác. Điều này cũng có nghĩa là, để AI thực sự "lướt sóng internet", vẫn còn phải đối mặt với một vấn đề nan giải: Thân phận!

Không có một thân phận hợp lý, với phong cách thao tác "quỷ dị" của AI, nó sẽ rất nhanh bị các bộ phận giám sát internet liên quan khóa chặt. Các cơ quan chính phủ có lẽ không thể áp dụng hình phạt thực tế cho AI, dù là về mặt kinh tế hay con người, nhưng việc cấm nó lên mạng thì vẫn có thể làm được.

“Cho nên, rất xin lỗi, kl3300, anh còn cần phải chờ một chút,” Nghiêm Khả Thủ nói, “Tôi phải đi giúp anh đến các cơ quan chính phủ xin một thân phận chính thức.”

Bản chuyển ngữ này là tài sản của truyen.free, mong quý độc giả tiếp tục đồng hành cùng những câu chuyện phía trước.