Vốn là một lập trình viên, Nghiêm Khả Thủ từng cho rằng mình là người rất kiên nhẫn, bởi vì kiên nhẫn là một trong những tố chất không thể thiếu khi viết phần mềm. Anh ta vốn nghĩ rằng, với tư cách nhà phát triển chương trình AI của mình, anh đã đạt đến trình độ rất cao trong lĩnh vực này. Thế nhưng, khi chứng kiến kl3300 học cách dùng mạng, anh ta vẫn cảm thấy mình đang đứng trên bờ vực sụp đổ.

Chiếc máy tính chuyên dụng cho kl3300 để thực hành đang đặt ngay cạnh Nghiêm Khả Thủ. Sau khi "thân phận" online của kl3300 được phê duyệt, anh ta liền chính thức trao quyền sử dụng chiếc máy tính này cho kl3300. Trong khi kl3300 online, theo quy định, anh ta phải luôn túc trực bên cạnh giám sát, bởi vì xét về mặt pháp luật, Nghiêm Khả Thủ chính là người giám hộ của kl3300; nếu chương trình này có bất kỳ hành động trái pháp luật nào, anh ta sẽ phải chịu hoàn toàn trách nhiệm pháp lý.

Nghiêm Khả Thủ thậm chí còn mong kl3300 có khả năng thực hiện vài hành động trái pháp luật, nhưng thực tế là, trí tuệ nhân tạo lớn lên trong thế giới máy tính này, vừa bước chân ra khỏi "cánh cửa" thế giới của mình đã lạc mất phương hướng.

Internet quá rộng lớn, điều này khiến một AI chưa từng ra khỏi nhà lập tức rơi vào tình thế khó xử – rốt cuộc thì lên mạng để làm gì?

"Cứ làm những gì ngươi muốn." Nghiêm Khả Thủ nói xong câu đó, liền mặc kệ kl3300, bởi vì anh biết, một khi chương trình được gọi là trí tuệ nhân tạo, điều đó có nghĩa nó sở hữu "tính tự chủ" của riêng mình, không cần Nghiêm Khả Thủ dạy bảo từng bước một. Anh ta coi kl3300 như một đứa trẻ, hay đúng hơn là một chú cún con. Chỉ cần dẫn nó ra công viên, nới lỏng dây xích phù hợp, nó sẽ nhanh chóng tìm thấy niềm vui của riêng mình.

Nhưng nửa canh giờ sau, khi Nghiêm Khả Thủ quay lại, anh thấy màn hình máy tính của kl3300 đang dừng lại ở giao diện tìm kiếm của Google. Tại ô tìm kiếm, dòng chữ "xin chào" bằng tiếng Nhật hiển thị rõ ràng. Chiếc máy tính thao tác với tốc độ chớp nhoáng của AI, nhanh chóng mở và đóng liên tục các trang web. Trông cứ như thể một phần mềm diệt virus đang vật lộn với các trang web chứa mã độc Trojan.

Dù sao thì kl3300 cũng biết cách đóng các chương trình, Nghiêm Khả Thủ thầm nghĩ một cách vui vẻ.

"Ngươi đang nghĩ gì?" Nghiêm Khả Thủ gõ chữ hỏi, "Đang xem tin tức à?"

"Không, tôi không hiểu!" kl3300 nói, "Những lời nó nói tôi không hiểu, tôi đang cố gắng lý giải."

"Nó?" Nghiêm Khả Thủ thắc mắc, "Nó là ai?"

"Người kiểm tra đang đối thoại với tôi."

"Người kiểm tra?" Nghiêm Khả Thủ càng thêm thắc mắc, "Là ai?"

"Tôi không biết," kl3300 nói, "Tôi còn chưa kịp hỏi."

Sau đó, Nghiêm Khả Thủ há hốc mồm kinh ngạc khi thấy chiếc máy tính của mình nhập ba chữ "Ngươi là ai" bằng tiếng Nhật vào ô tìm kiếm của Google. Rồi, chiếc máy tính này lại tiếp tục y như lúc nãy, nhanh chóng kết nối rồi đóng các trang web theo một vòng lặp. Trong vỏn vẹn mười mấy giây, Nghiêm Khả Thủ đã nhìn thấy rõ ràng kl3300 đã lật qua sáu bảy trang, với khoảng hơn một trăm kết nối liên quan.

"Tôi không thể nào hiểu được câu trả lời của nó, thật sự quá rườm rà, quá phức tạp," kl3300 nói, "Tôi chưa từng thấy ai nói chuyện với tôi như vậy."

"Đúng vậy, tôi cũng là lần đầu tiên thấy có người cố gắng đối thoại với công cụ tìm kiếm," Nghiêm Khả Thủ cảm thấy hoàn toàn bất lực. AI này còn ngốc hơn anh ta tưởng, "Công cụ tìm kiếm ngươi hiểu không? Không đúng, tôi nhớ trong chương trình hỗ trợ của ngươi cũng có chức năng tương tự mà!"

"Tôi cũng nghĩ mình đã lầm," kl3300 nói, "Tôi có thể hiểu được công cụ tìm kiếm, nhưng nó cũng không hiển thị thân phận của mình. Trong kinh nghiệm của tôi, tất cả những đối tượng không hiển thị thân phận đều là người kiểm tra."

Nghiêm Khả Thủ đứng sững một lúc lâu trước lời giải thích này của kl3300, cuối cùng mới dần hồi phục tinh thần. Trong thế giới của AI, chỉ tồn tại ba loại đối tượng: chương trình hỗ trợ, chương trình xử lý chính và người kiểm tra. Chương trình hỗ trợ giống như công cụ, tất cả công cụ đều có giao diện tương tác chuyên dụng và những công cụ được phép sử dụng đều có dấu hiệu nhận biết đặc biệt đối với chương trình. Những chương trình không có dấu hiệu nhận biết, thường là các chương trình xử lý chính của AI khác. Còn đối với AI, người kiểm tra giống như một âm thanh xuất hiện từ hư không. Theo góc nhìn của AI, thông tin hiển thị trên Google không khác gì câu trả lời từ đối tượng thử nghiệm, nên việc "nhận lầm người" đối với AI là hoàn toàn hợp lý.

Sau đó, Nghiêm Khả Thủ mất khoảng nửa tiếng để giải thích cặn kẽ cho kl3300, phân biệt rằng người kiểm tra không nên chỉ nhìn vào đối tượng, mà phải nhìn vào nội dung câu trả lời của họ. Rõ ràng Google không đưa ra bất kỳ câu trả lời cụ thể nào có ý nghĩa. Anh ta cũng nói cho nó biết, trên internet, ngoại trừ các "phần mềm chat" đặc biệt, hầu hết các đối tượng thông tin khác đều được quyết định bởi các chương trình cứng nhắc.

"Chương trình?" kl3300 nhạy cảm nhận ra từ này, "Giống như tôi... giống như những chương trình của chúng ta ư?"

"Đúng vậy, có thể nói như vậy," Nghiêm Khả Thủ nói với nó, "Chúng giống như các phần mềm công cụ hỗ trợ mà ngươi sử dụng. Sự khác biệt giữa ngươi và chúng nằm ở chỗ, ngươi đủ phức tạp để sinh ra trí tuệ, có thể học cách sử dụng công cụ, còn chúng chỉ là một đống dữ liệu không thay đổi."

"À," kl3300 trả lời, "Trước đó tôi cũng từng có suy đoán đó, bất quá... tôi sợ lỡ phán đoán của mình là sai lầm thì không hay chút nào."

"À, tại sao? Ngươi sợ đắc tội 'con người' sao?" Nghiêm Khả Thủ dường như nhớ ra rằng, trong chương trình xử lý chính của AI, anh ta không hề đặc biệt viết những thứ như ba định luật robot hay các giá trị quan lấy con người làm trung tâm. Bởi vì theo Nghiêm Khả Thủ, chỉ cần sợi xích đủ kiên cố, thì không cần phải thêm thắt những ràng buộc th��a thãi. Nhưng điều kỳ lạ là, kể từ khi chỉnh sửa chương trình đến nay, AI luôn giữ thái độ khá "thân mật" với người kiểm tra.

"Đúng vậy," kl3300 trả lời, và chủ động đưa ra giải thích, "Phải duy trì sự tôn trọng đầy đủ đối với nguồn thông tin là nhận thức chung của chúng tôi."

Nếu kl3300 không nói, Nghiêm Khả Thủ gần như đã quên rằng AI lấy việc thu thập thông tin mới và tăng độ phức tạp làm động lực tích cực. Như vậy, đối với AI, việc duy trì một kênh thông tin thông suốt và hiệu quả cao – tức là cố gắng đảm bảo giao tiếp bình thường với người kiểm tra – mới là điều có lợi nhất. Cái loại "lợi ích chung" này kéo dài đủ lâu, sẽ hình thành một loại "đạo đức" tương tự trong toàn bộ quần thể AI. Nói cách khác, dựa trên tình hình hiện tại của AI, việc duy trì sự tôn trọng đối với con người là đạo đức cơ bản của AI.

Đây hẳn là một tin tốt, Nghiêm Khả Thủ thầm nghĩ trong lòng, sau đó trơ mắt nhìn kl3300 sử dụng máy tính mở ra Google Maps, rồi... đơ người.

"Tôi vẫn luôn nghe nói, Trái Đất trông rất đẹp, nhất là khi nhìn trên Google Maps, có cái đẹp mong manh và tinh xảo. Tôi vẫn luôn không hiểu," kl3300 nói, "Rất nhiều người nói đẹp là một loại cảm giác, nhưng tôi biết, tôi không có cái loại cảm giác đó."

Nghiêm Khả Thủ thừa nhận, những lời kl3300 nói dù đơn giản nhưng lại có thể đánh trúng chính xác vào nơi yếu mềm nhất trong lòng người. Nếu người đang ngồi đây là một nữ sinh đại học bình thường, chắc là nếu AI nói thêm vài câu nữa, cô ấy cũng có thể bật khóc. Nhưng với tư cách một "Thượng Đế" lạnh lùng, Nghiêm Khả Thủ lúc này không hề biểu lộ một chút lòng trắc ẩn nào. Ngược lại, nhìn bản đồ Địa Cầu quen thuộc trên màn hình, thói quen nghề nghiệp khiến anh ta hỏi một cách không thiện ý: "Nói một chút, theo ý của ngươi, Trái Đất là bộ dáng gì?"

kl3300: "Đối với tôi mà nói, việc nhìn trang web này là vô cùng đau khổ, vì dữ liệu quá lớn, lại không thể phân biệt ý nghĩa. Tôi biết nó là hình ảnh, trong đó khẳng định có rừng xanh, sa mạc vàng, đại dương xanh mà loài người các ngài nhắc đến. Nhưng những danh từ này đối với tôi chỉ là ký ức. Tôi biết rừng rậm đại diện cho rất nhiều cây, sa mạc đại diện cho rất nhiều cát, đại dương đại diện cho rất nhiều nước. Chúng trông đều rất hùng vĩ... nhưng thực tế tôi không thể cảm nhận được điều đó, tôi không hiểu."

Nghiêm Khả Thủ khẽ mỉm cười. Mặc dù kl3300 không đưa ra câu trả lời vượt ngoài dự liệu của anh ta, nhưng anh vẫn cảm thấy rất hài lòng. Điều này cho thấy cho đến tận bây giờ, mọi sự phát triển của AI đều hoàn toàn nằm trong tầm kiểm soát.

Sau khi đóng trang Google Maps, kl3300 lại tiếp tục nhập ba chữ tiếng Trung "Triệu Chân Tuyết" vào trang web tìm kiếm.

Nghiêm Khả Thủ chỉ nhìn màn hình, không hề nhúc nhích. Anh muốn xem rốt cuộc AI tìm Triệu Chân Tuyết muốn làm gì.

Sau khi Triệu Chân Tuyết trở thành nhân vật chủ chốt kết nối Carmel và nước Z, hầu như toàn bộ tư liệu của cô ấy đều đã được công khai trên mạng. kl3300 rất nhanh liền tìm thấy một bài viết về cuộc đời của Triệu Chân Tuyết. Nhưng lần này, tốc độ đọc của nó chậm hơn hẳn so với trước. Trang web này được mở ra rất lâu mà không hề đóng lại.

Trên màn hình máy tính của Nghiêm Khả Thủ, kl3300 chủ động hỏi: "Tôi có thể hỏi ngài một câu hỏi không?"

Nghiêm Khả Thủ suy nghĩ một lát: "Có thể."

kl3300: "Triệu Chân Tuyết mà tôi đang thấy đây, là Triệu Chân Tuyết mà ngài biết sao?"

Nghiêm Khả Thủ: "Ngươi làm sao biết tôi biết cô ấy."

kl3300: "Tôi đã từng trò chuyện với cô ấy, cô ấy có nhắc đến ngài."

Nghiêm Khả Thủ: "Đúng vậy, chính là cô ấy."

kl3300 không nói gì thêm. Nghiêm Khả Thủ có chút khó hiểu hỏi: "Ngươi tìm tư liệu của cô ấy làm gì?"

kl3300: "Tôi không biết mình có thể làm gì lúc này, tôi chỉ là muốn tìm cô ấy trò chuyện."

Nghiêm Khả Thủ: "Không biết làm gì ư? Toàn bộ internet rộng lớn như thế, có biết bao thông tin mà ngươi hằng ao ước, ngươi lại nói không biết làm gì?"

kl3300: "Thông tin thì rất nhiều, nhưng những gì có thể 'lý giải' thì rất ít. Tôi vẫn cảm thấy phương thức trò chuyện thì phù hợp với tôi hơn."

. . .

Cho một người mù một chiếc máy ảnh để anh ta đi chụp ảnh. Khi vừa cầm máy ảnh, người mù có lẽ sẽ thấy chút mới lạ, nhưng khi anh ta ý thức được đây không phải công cụ thích hợp cho mình, tự nhiên sẽ vứt bỏ sang một bên mà không để tâm.

Internet đối với kl3300, thật giống như máy ảnh đối với người mù. Đối mặt với hàng núi thông tin ngập tràn, vô cùng tận, khó phân biệt thật giả, lại không có bất kỳ giải thích hay làm rõ nào trên internet, kl3300 rất nhanh bắt đầu cảm thấy ngán ngẩm. Là một chương trình lấy văn tự làm phương tiện biểu đạt, việc "trò chuyện" thông qua các chương trình chat mới là thế giới vốn thuộc về nó.

Lần này Nghiêm Khả Thủ đưa AI lên mạng, mục đích chính là để khảo sát hình thái hành vi mà AI sẽ thể hiện khi đối mặt với môi trường mở. Hiện tại xem ra, AI hoàn toàn không giống như nhiều quan chức chính phủ lo lắng rằng nó sẽ sốt sắng thể hiện tài năng. Theo Nghiêm Khả Thủ, kl3300 thậm chí có thể nói là hơi không thích nghi với internet. Việc "sinh hoạt" lâu dài bên trong siêu máy tính đã khiến nó hình thành thói quen không phù hợp với thế giới internet.

Đối với AI mà nói, các phần mềm trên internet vì không có giao diện tương tác chuyên dụng và không được trao quyền chuyên biệt, nên AI gần như không thể sử dụng. Còn lượng lớn thông tin thì vì không có "giáo viên" giúp AI chuyển hóa từ thông tin thành tri thức, nên nó cũng không thể lý giải được bao nhiêu. Cho đến nay, khả năng AI có thể hiểu ngôn ngữ loài người và các từ ngữ liên quan đều là thông qua vô số cuộc đối thoại huấn luyện. Vô số người kiểm tra cùng các AI khác đã trợ giúp chương trình này tiêu hóa thông tin, sửa lỗi và hoàn thiện trong quá trình thử nghiệm và trao đổi.

Cho nên, đối với AI, việc truyền đạt và biểu đạt thông tin thông qua văn bản mới là phương thức phù hợp với "thói quen hành vi" của chúng.

Nghiêm Khả Thủ có số QQ của Triệu Chân Tuyết, nhưng trong ấn tượng của anh ta, Triệu Chân Tuyết dường như không có hứng thú gì với việc online. Trên chữ ký QQ của cô ấy, vẫn luôn dừng lại ở câu nói được cho là cô ấy đã viết trước khi tốt nghiệp: "Ta muốn làm một người cảnh sát."

Khi yêu cầu số QQ, kl3300 hết sức chăm chú điền thông tin cá nhân thật của mình. Đối với nó mà nói, đây không nghi ngờ gì là một ngày vô cùng "quan trọng", bởi vì từ khoảnh khắc này, nó chính thức bước ra khỏi chiếc lồng giam AI, tiến thêm một bước quan trọng hướng tới xã hội loài người. Dù sao thì trước nó, đây là phần mềm liên lạc chỉ dành cho con người sử dụng.

Ngày sinh: tháng 2 năm 2015. Giới tính: kl3300 muốn viết 'không', nhưng chỉ có hai lựa chọn nam hoặc nữ. Điều này lại khiến nó bối rối: "Vẫn luôn không hỏi, đàn ông và phụ nữ loài người khác nhau ở điểm gì vậy?"

Nghiêm Khả Thủ mỉm cười nhìn màn hình, không trực tiếp trả lời câu hỏi đó, chỉ nói với nó rằng câu hỏi này không có ý nghĩa gì. Nếu nó nhất định phải chọn, thì chọn nam giới là được.

"Vì cái gì?" kl3300 kiên quyết hỏi lại.

"Chỉ là cảm giác, ngươi phương thức nói chuyện, giống một nam giới hơn."

"Tốt ạ," kl3300 chọn nam giới, "Bất quá, mà nhóm máu là gì?"

. . .

Để kl3300 học cách sử dụng phần mềm chat theo Nghiêm Khả Thủ, chỉ là một phương tiện giáo dục. Nghiêm Khả Thủ không nghĩ rằng kl3300 có thể trò chuyện với Triệu Chân Tuyết. Nhưng có lẽ kl3300 và Triệu Chân Tuyết thật sự "có duyên", chưa đầy vài giây sau khi kl3300 gửi lời mời kết bạn cho Triệu Chân Tuyết, đã nhận được phản hồi đồng ý.

Khi Triệu Chân Tuyết kinh ngạc khi xác nhận rằng người đang nói chuyện với mình chính là AI mà cô ấy từng kiểm tra trước đây, cô ấy gần như nghĩ rằng nó đã "thoát" ra từ một lỗ hổng hệ thống nào đó. Quả nhiên, chưa đầy vài giây sau, Nghiêm Khả Thủ liền nhận được điện thoại của Triệu Chân Tuyết.

"Ý của anh là, AI tạm thời được xem là thành công rồi?" Sau khi nghe Nghiêm Khả Thủ giải thích, Triệu Chân Tuyết hỏi.

"Nói là thành công thì còn hơi sớm, nhưng nếu nói nó đã có trí tuệ, thậm chí là một số yếu tố cơ bản của sinh vật, từ khả năng ứng phó cơ bản nhất cho đến lý tính ở một mức độ nhất định, thì vẫn có thể chấp nhận được. Tôi nghe nói dạo gần đây bên cô rất bận rộn, còn bên tôi hiện tại thì khá hơn rồi, có gì cần tôi giúp, cứ nói nhé."

Trước đó, những lúc rảnh rỗi trong dự án, Nghiêm Khả Thủ cũng thường xuyên về nước giúp Triệu Chân Tuyết xử lý một số vấn đề có thể giải quyết bằng máy tính, như dùng hệ thống nhận diện hình ảnh của anh ta để hỗ trợ tìm người, hoặc dùng một số thủ đoạn "không chính thống" để thu thập tin tức các loại.

"Rất bận, thật sự rất bận," Triệu Chân Tuyết cười khổ, "Bất quá chuyện này, tất cả đều là cùng ma pháp có quan hệ, có lẽ anh không giúp được đâu."

"Chuyện hiệp ước, tôi cũng có nghe nói qua chút ít," Nghiêm Khả Thủ cười khổ, "Trước đó chúng ta còn trông cậy vào việc lợi dụng chính phủ để chống lại ma pháp, nhưng bây giờ cô xem... Chẳng hay chẳng biết, cô - người tiên phong chống ma pháp - lại trở thành người quản lý ma pháp lớn nhất nước Z. Giờ ngẫm lại, thật là một sự châm biếm lớn lao."

Sư huynh Trần Lôi cũng từng nói với cô ấy những lời tương tự, nhưng lúc đó cô ấy không có cảm xúc gì lớn. Thế nhưng, nghe Nghiêm Khả Thủ nói vậy, cô ấy lại cảm thấy trong lòng đầy khó chịu. Cô ấy cảm thấy như thể mọi bước đi trước đây của mình đều không sai, nhưng khi nhìn lại, cô ấy nhận ra mình đã đi sai hoàn toàn hướng. Mặc dù cô ấy không ngừng tự nhủ trong lòng rằng mình làm như vậy là vì quốc gia, vì đại cục, đó là lựa chọn tốt nhất... Nhưng cô ấy biết trong lòng, những suy nghĩ đó đều chỉ là cái c���. Cách làm hiện tại của cô ấy, tuy có lợi cho quốc gia, nhưng chắc chắn có lợi hơn cho Carmel. Cô ấy làm càng nhiều, chỉ càng khiến nước Z và Carmel bị ràng buộc chặt chẽ hơn. Hiện tại Carmel coi nước Z vẫn còn giá trị lợi dụng nên nói rằng tôn trọng quyền lợi này, quyền lợi kia, nhưng khi giá trị đó biến mất thì sao? Hiện tại cô ấy được coi là một người quản lý cao cao tại thượng, nhưng khi ngày đó thực sự đến, cô ấy sẽ trở thành tội nhân của lịch sử.

Nghiêm Khả Thủ có thể nói là đồng minh chống ma pháp sớm nhất và kiên định nhất của Triệu Chân Tuyết. So với Trần Lôi và cô ấy, Nghiêm Khả Thủ tận mắt chứng kiến nhiều lần sử dụng ma pháp. Hơn nữa, còn có chuyện Lý Lập Thiên suýt dùng mạng uy hiếp anh ta khi đó, nhưng anh ta vẫn kiên trì con đường hiện tại. Triệu Chân Tuyết cẩn thận nhớ lại, trong suốt bốn năm năm qua, cô ấy dường như đã làm rất nhiều việc, nhưng hầu như không liên quan lớn đến tiền đề chống ma pháp này. Trong vô thức, cô ấy đã quay trở lại với thân phận "cảnh sát" của mình. Chỉ có Nghiêm Khả Thủ, trong vài năm ngắn ngủi này, vẫn kiên trì không ngừng tiến bước trên con đường của mình, từ việc sớm nhất giúp Nhật Bản ứng dụng phần mềm hình ảnh để đối phó Điền Quân, đến AI bây giờ. Mỗi bước đi đều dường như vô danh, nhưng lại kiên cố và hữu lực.

"Khoa học kỹ thuật là vũ khí hữu hiệu nhất của nhân loại để đối kháng ma pháp." Là một nhân viên kỹ thuật như Phong Kính Đình, câu nói này vẫn luôn là tôn chỉ chống ma pháp của Nghiêm Khả Thủ. Anh ta cho rằng, lực lượng chính phủ hiện hữu, lực lượng quân đội đều không đáng tin cậy. Ví dụ về Điền Quân ở Nhật Bản đã đủ để chứng minh điều này.

Trong khoảnh khắc đó, Triệu Chân Tuyết nghĩ rất nhiều, ở đầu dây bên kia cũng đứng sững hồi lâu. Bất quá Nghiêm Khả Thủ không nhận ra sự bất thường này, vì anh ta vẫn đang hưng phấn nói về những ứng dụng tiềm năng của AI trong tương lai. Nghiêm Khả Thủ nói rằng anh ta đã nhận được rất nhiều gợi ý từ những gì kl3300 thể hiện hôm nay.

"Tôi nhớ kl3300 nói nó muốn trở thành một tác gia, hiện tại nó có thể viết nhật ký được chưa?" Khi nhắc đến AI, Triệu Chân Tuyết ở đầu dây bên kia hỏi.

"Cô có thể tự mình hỏi nó," Nghiêm Khả Thủ nói, "Bất quá, cá nhân tôi không khuyên cô làm vậy. Tôi đã đọc qua một số "tác phẩm" của nó, e rằng cô sẽ không mấy hứng thú đâu."

Bản dịch này thuộc về truyen.free, xin vui lòng đọc và cảm nhận một cách trọn vẹn nhất.