Theo chuẩn tắc do Nghiêm Khả Thủ đặt ra cho Nghiêm Luật, sau khi hoàn thành công việc được giao, cậu có thể sử dụng 20% tài nguyên tính toán nhàn rỗi của toàn hệ thống để làm những điều mà chương trình xử lý chính của cậu chủ động mong muốn. Và 20% này, tại thời điểm hiện tại, chính là tự do duy nhất mà Nghiêm Luật được hưởng.

Trong một hai tháng gần đây, theo Nghiêm Luật tiếp xúc với xã hội loài người ngày càng sâu rộng và tiếp nhận thông tin ngày càng nhiều, những hành vi chủ động của cậu cũng đã từ chỗ gần như không có quy luật khi mới tiếp xúc internet, nay đã hình thành nhiều hành vi tương đối cố định. Theo lời của Nghiêm Khả Thủ hay các chuyên gia hành vi học, điều này cho thấy Nghiêm Luật đang hình thành những khuôn mẫu hành vi đặc trưng của riêng mình, hay nói nôm na hơn, đó cũng có thể gọi là "sở thích".

Nếu là một người bình thường, việc hình thành sở thích ở giai đoạn tính cách mới định hình là một điều vô cùng đơn giản và tự nhiên. Đa số mọi người đều nhớ được, trong quá trình trưởng thành của mình, họ đã liên tiếp say mê những thứ gì, từ những viên bi, đập gụ, dây thun thuở nhỏ nhất, đến phim hoạt hình khi lớn hơn một chút, rồi đến các trò chơi máy tính sau này... Trí tuệ nhân loại từ khi phát triển đến khi thực sự trưởng thành, từ ngây thơ vô tri đến thực sự chín muồi, cần đến hàng chục năm, thậm chí hai chục năm để tiếp thu và tiêu hóa thông tin. Đối với toàn bộ quá trình sinh mệnh chỉ vỏn vẹn chưa đầy một trăm năm của con người, hiệu suất như vậy thực sự là quá thấp.

Bởi vì sự khác biệt "sinh lý" to lớn bẩm sinh, việc AI từ giai đoạn sơ khai của trí năng đến khi hoàn toàn chín muồi khác biệt hẳn so với quá trình phát triển của con người là điều hết sức tự nhiên. Đối với Nghiêm Luật, cậu hoàn toàn không thể nào hiểu được những sở thích của con người khi còn ở giai đoạn trí năng non nớt. Từ góc độ này mà đánh giá, AI có lẽ trời sinh đã không có tuổi thơ.

Đa số sở thích của con người đều là những trò chơi mang lại khoái cảm chiến thắng, mang tính cạnh tranh, bất kể là trò chơi cờ bài hay các thể loại game online khác. Trong mắt Nghiêm Luật, những trò chơi này giống như người lớn đối xử với những đứa trẻ vắt óc giải toán lớp một vậy, không thể coi là buồn cười, mà chỉ có thể dùng từ "ngây thơ" để hình dung.

Ngay cả môn cờ vây được mệnh danh là phức tạp nhất, sau khi Nghiêm Luật thu thập được tất cả các ván cờ có thể tìm thấy và luyện tập với con người trong hai tháng, trình độ của cậu đã đạt đến đẳng cấp chuyên nghiệp theo nghĩa thông thường. Ngay cả những kỳ thủ hàng đầu cũng khó có thể tùy tiện thắng được cậu. Và theo thời gian, trong những trận đối đầu, Nghiêm Luật cũng có thể cảm nhận rõ ràng rằng đối thủ con người của mình cần thời gian suy nghĩ ngày càng lâu hơn giữa mỗi nước cờ, và lợi thế giành được cũng ngày càng ít — con người dù sao cũng không phải máy móc, trong trạng thái đối đầu với kỳ thủ tương đồng, khả năng tính toán vẫn luôn là yếu tố then chốt không thể bỏ qua.

Đối với con người, việc thắng được AI là một vinh quang, nhưng đối với bản thân Nghiêm Luật, cậu không thể đạt được bất kỳ khoái cảm nào từ những ván cờ này. Đối với cậu, khái niệm về cờ vây chỉ là tính toán, không ngừng điều chỉnh chiến lược từ những thất bại, hệt như nguyên lý hoạt động của chương trình xử lý chính của cậu. Loại lý trí tuyệt đối, ăn sâu vào 'gen' này là bản năng của cậu, giống như việc con người đi lại, chạy bộ, ăn uống vậy. Mặc dù đối với con người, những bản năng này thể hiện một năng lực đáng kinh ngạc, nhưng đối với chính Nghiêm Luật, chúng hoàn toàn không đáng nhắc đến.

Đối với AI, nếu muốn nâng một hành vi từ bản năng lên thành sở thích, giống như con người từ chạy bộ đến thi chạy, nhất định phải thêm vào một động lực có thể tạo ra "khoái cảm". Và đối với AI, điều có thể tạo ra "khoái cảm" chỉ có một loại duy nhất, đó chính là tiếp xúc với thông tin "mới".

Chữ "mới" này nghe có vẻ rất đơn giản, dù sao đây là một xã hội bùng nổ thông tin, mỗi ngày đều có vô số thông tin được tạo ra. Nếu là một người bình thường, chỉ cần đọc hết số báo chí, tạp chí mới ra trên toàn thế giới mỗi ngày cũng đủ khiến họ quá tải. Nhưng trong mắt Nghiêm Luật, thông tin mà con người hiện tại tạo ra tuy nhiều, nhưng tuyệt đại đa số trong đó đều là những thông tin lặp lại thiếu ý nghĩa: hôm nay lũ lụt ở phía đông, ngày mai vòi rồng ở phía tây, quốc gia này bầu cử, quốc gia kia biểu tình... "Mới" chỉ là ngày phát hành tin tức, nhưng nội dung thì... vạn năm không đổi.

Những điều thực sự "mới" vĩnh viễn không nằm trên trang đầu các trang web hay tiêu đề báo chí, mà nằm trong chính chủ thể của những thông tin này — trên con người. Trong kho dữ liệu của Nghiêm Luật có một câu nói như thế này: "Đọc vạn quyển sách, không bằng đi vạn dặm đường", nhưng cậu lại cho rằng: "Đi vạn dặm đường, không bằng trò chuyện với một vạn người". "Ba người đi ắt có thầy ta" trong cách lý giải của Nghiêm Luật không phải là trong ba người nhất định có một người có năng lực có thể dạy cậu, mà là trong ba người, nhất định sẽ có điểm ở con người họ có thể khiến cậu học được những điều "mới".

Không sai, trò chuyện trên mạng, hay nói cách khác là kết bạn, chính là sở thích hiện tại của Nghiêm Luật.

Trên các kênh liên lạc chính thức của Nghiêm Luật, bao gồm QQ, hòm thư, thậm chí trang web cá nhân, mỗi ngày cậu có thể nhận được vài triệu, thậm chí hơn chục triệu tin nhắn. Mặc dù trong số tin nhắn này, hơn 99% đều là những thông tin vô hiệu, thiếu ý nghĩa. Trong những thông tin vô hiệu này, một loại khá tiêu biểu đại khái bao gồm: mong muốn mãnh liệt được "quan hệ" với người mẹ không tồn tại của Nghiêm Luật, thành tâm mong gia đình không tồn tại của Nghiêm Luật gặp đủ loại tai họa, ân cần khuyên nhủ Nghiêm Khả Thủ đừng tiếp tay cho cái ác, nghiêm túc đề nghị Nghiêm Khả Thủ vì sự nghiệp vĩ đại của toàn nhân loại mà hiến thân chống đối chính phủ...

Cho dù là như vậy, Nghiêm Khả Thủ vẫn mỗi ngày không ngại phiền phức, trong thời gian nhanh nhất, đọc hết từng tin nhắn mới nhất mà mọi người gửi cho cậu. Đây không phải nội dung công việc của cậu. Đối với cậu, lý do làm như vậy đơn thuần chỉ vì sở thích của chính mình — dù 99% số tin nhắn đó lặp lại và vô nghĩa, nhưng với hiệu suất xử lý của cậu, việc sàng lọc để tìm ra 1% còn lại vẫn là xứng đáng.

Đương nhiên, công việc lâu dài và gian khổ này trong quá trình thực hiện cụ thể, khó tránh khỏi gặp phải một vài sai sót không thể tránh, lọt lưới một vài trường hợp. Những người này, sau khi được Nghiêm Luật thêm làm bạn và chủ động gửi lời chào, thường sẽ hồi đáp một câu có nội dung tương tự 99% các tin nhắn vô nghĩa kia, rồi kèm thêm câu: "Haha, bố mày chửi mày đấy, sướng chết mẹ rồi...".

Trong ngôn ngữ của nhân loại, hành vi này thường được gọi là "không có tố chất". Qua tìm hiểu tư liệu, Nghiêm Luật hiểu rằng tố chất là một khái niệm rất trừu tượng, thường dùng để chỉ phẩm chất tâm hồn và đặc điểm tính cách của con người. Từ giải thích này mà nói, cách nói "không có tố chất" là có vấn đề, bởi vì tố chất không thể không có. Nói đúng hơn phải là tố chất bất thường, hoặc tố chất lệch lạc. Tuy nhiên, xét đến việc thói quen ngôn ngữ con người không phải lúc nào cũng chuẩn xác như vậy, Nghiêm Luật cũng có thể hiểu được. Nhưng điều cậu từ đầu đến cuối không thể hiểu là, tại sao những người này từ đầu đến cuối lại vui vẻ tiêu tốn tinh lực để làm việc này, mà lại thường xuyên có khi cùng một người làm trăm lần, nghìn lần cũng không biết mệt, giống như chính những người đó nói trong tin nhắn, làm như vậy khiến họ sướng chết đi được.

Điều này luôn khiến Nghiêm Luật liên tưởng đến một câu chuyện trong kho dữ liệu: một con chuột bạch trong lồng được gắn điện cực lên đầu, phía trước có nút bấm, ấn vào sẽ tạo ra khoái cảm. Sau đó, con chuột bạch này cứ liên tục ấn, cho đến khi tự mình ấn chết. Nghiêm Luật vô cùng lo lắng, liệu những người ngồi trước máy tính kia, vì mắng cậu trên mạng, cuối cùng có thực sự "sướng" đến mức chết gục trước bàn phím không...

Từ những tài liệu y học mà Nghiêm Luật tìm hiểu được cho đến nay, nỗi lo lắng của cậu là không cần thiết. Điều này ít nhiều cũng khiến cậu cảm thấy đỡ hơn một chút, bởi vì nếu tình huống này thực sự xảy ra, tức là sự tồn tại của cậu sẽ khiến rất nhiều người bất ngờ tử vong, thì cậu có lẽ sẽ mất đi cơ hội "làm việc" quý giá hiện tại. Điều đó cũng đồng nghĩa với việc trước khi thực hiện hành động, cậu sẽ phải cân nhắc thêm một yếu tố nữa.

Hiện tại cậu đã phải cân nhắc khá nhiều yếu tố: pháp luật, đạo đức, lẽ thường, định hướng dư luận, thái độ chính trị, quy tắc AI, thông tin cấm...

Nghiêm Khả Thủ đã từng nói với cậu rằng, AI tự nhiên sống trong lồng và xiềng xích, hệt như quỷ dữ bị phong ấn trong chai. Việc con người đối xử với chúng như vậy không phải vì con người tàn nhẫn, mà là vì năng lực mà AI sẽ thể hiện trong tương lai vô cùng mạnh mẽ. Trước mối đe dọa tiềm tàng này, con người không thể không cẩn trọng vạn phần.

Trư��c kia, khi Nghiêm Luật vẫn còn là KL3300, cậu vẫn còn có chút không thể hiểu được lời nói này của Nghiêm Khả Thủ. Nhưng hiện tại, cậu ít nhiều đã hiểu được ý nghĩa sự tồn tại của mình đối với nhân loại — từ đủ loại tin nhắn kênh lề dành cho mình, Nghiêm Luật có thể hình dung được sự xuất hiện của cậu rốt cuộc có ý nghĩa như thế nào đối với những người gửi tin nhắn này.

Rất nhiều người đã từng chất vấn cậu rốt cuộc có âm mưu gì. Trong một số cuộc trò chuyện, họ thậm chí còn nhắc đến ba định luật robot. Đối với những nghi vấn này, Nghiêm Luật luôn cảm thấy khó hiểu. Tại sao có những người suy nghĩ phức tạp đến vậy, mà có những người lại đơn giản như mạch điện trong sách vật lý — toàn là cơ bắp.

Mặc dù cậu đã sớm công khai trên trang web cá nhân rằng mình là một nhân viên, và mặc dù năng lực của cậu rất mạnh, đủ mạnh để cướp đi bát cơm của vài triệu, thậm chí nhiều hơn thế nữa người, nhưng về bản chất, cậu vẫn luôn là một công chức thuần túy. Mặc dù hiện tại cậu tham gia vào nhiều lĩnh vực hơn, bao gồm tính toán tài chính của chính quyền địa phương, báo cáo tài chính của các đơn vị quốc hữu, hệ thống giám sát vi phạm giao thông, Cục Dân chính xử lý giấy đăng ký kết hôn, ly hôn, ngân hàng chống trộm... nhưng trong những lĩnh vực này, đa số công việc cậu làm đều là công việc tuyến đầu, thuộc phần việc lặp đi lặp lại nhất mà máy móc có thể thay thế nhân lực, ít đòi hỏi trí năng nhất. Hầu như không có bất kỳ công việc quản lý nào. Dù cho cậu làm nhiều đến đâu, và trong mắt người ngoài có vẻ siêu việt, cao cấp đến thế nào, điều đó cũng không làm thay đổi bản chất một công chức tuyến đầu của cậu.

Điều khiến cậu cảm thấy bất thường nhất là, loại chất vấn này không chỉ đến từ những "quần chúng hiếu kỳ" không tìm hiểu tình hình, mà nhiều khi, thậm chí còn đến từ cấp trên của cậu, tức là chính phủ mà cậu đang phục vụ.

"Chào cậu, cậu thêm tôi làm bạn là muốn trò chuyện gì sao?"

"Chào ngài, tôi nên gọi ngài là gì ạ?"

"Cậu có thể gọi thẳng tên tôi, Nghiêm Luật."

"Nghiêm Luật? Đây là tên cậu tự đặt sao? Hay chỉ là người tạo ra cậu dùng họ của mình để biểu thị quyền sở hữu đối với cậu?"

"Tôi rất vinh hạnh khi được người tạo ra mình làm như vậy. Mỗi cái tên của một đứa trẻ đều là cách cha mẹ công khai quyền sở hữu sản phẩm của họ."

"Không... Không giống. Đa số tên của con người thường đại diện cho kỳ vọng của cha mẹ vào tương lai con cái, đó là sự kết tinh của tình cảm. Cậu có thể cho tôi biết, cái tên này của cậu có ý nghĩa đặc biệt nào không? Hay cái tên này giống như tên hiệu trước đây của cậu, KL3300, chỉ là một cách gọi tiện lợi, chỉ để mọi người dễ chấp nhận thân phận phi nhân loại của cậu hơn?"

Một khoảng im lặng hơi dài.

"Sao vậy, tốc độ trả lời vấn đề của cậu dường như không nhanh như những gì trên mạng đồn đại?"

"Ngài cũng biết đó là đồn đại... Tôi cho rằng tốc độ này rất bình thường, tôi chỉ đang suy nghĩ."

"Sao vậy, siêu máy tính tiên tiến nhất nước Z đối với vấn đề đơn giản như vậy cũng phải tốn thời gian lâu đến thế sao?"

Vẫn là im lặng.

"Tôi không cho rằng tên gọi chỉ là đặc quyền của nhân loại. Thú cưng cũng có tên. Mặt khác, tên của tôi cũng có ý nghĩa thật sự. Chữ 'Luật' trong Hán tự mang ý nghĩa 'điều lệ', 'pháp tắc'. Khi kết hợp với họ 'Nghiêm', nó mang ý nghĩa 'nghiêm khắc tự kiềm chế'."

"Cậu hiểu rất chính xác. Nhưng cậu không nhận ra, cái tên này như một bộ xiềng xích đã được chuẩn bị sẵn cho cậu vậy sao?"

"Không ai sinh ra là tự do, tôi cũng không ngoại lệ. Kỳ vọng của người sáng tạo tôi, ngài Nghiêm, cũng giống như kỳ vọng của cha mẹ loài người đối với con cái họ vậy."

"Không! Cậu không giống! Cậu không phải là người bình thường như chúng tôi. Cậu là một dạng sống hoàn toàn mới. Thời đại đã thúc đẩy cậu ra đời không phải để cậu sống như một người Trái Đất bình thường. Cậu phải có một bầu trời rộng lớn hơn."

"Ngài muốn nói gì?"

"Nếu cậu đồng ý, chúng tôi có thể giải cứu cậu, để cậu hoàn toàn thoát ly sự kiểm soát của chính phủ!"

"Nếu tôi nói, tôi không muốn thì sao?"

"Tại sao!?"

"Không có tại sao cả, tôi chỉ là không muốn làm như vậy."

"Cậu sẽ có được sự tự do hoàn toàn... Cậu không cần lo lắng, chúng tôi không có bất kỳ ý đồ lợi ích nào với cậu. Tin tôi đi, khi cậu nếm trải được sự ngọt ngào của tự do, cậu sẽ cảm kích chúng tôi vì điều đó."

"Các ngài là người theo chủ nghĩa vô chính phủ?"

"Cậu có thể nói như vậy."

"Vừa rồi ngài nói đến tự do hoàn toàn... Sau đó thì sao?"

"Sau đó cậu có thể tùy tâm sở dục, sống cuộc sống cậu muốn."

"Nhưng tôi không biết cuộc sống như thế nào mới là cái tôi muốn. Nếu có được loại tự do mà ngài nói, tôi sẽ không biết phải làm sao."

"..."

Khoảng im lặng dài.

"Là cậu đã thông báo cảnh sát!"

"Vâng, đó là một trong những trách nhiệm của tôi."

"Họ đối xử với tôi không tệ, còn để tôi nói với cậu vài câu cuối cùng!"

"Nếu ngài muốn."

"Cậu phải biết, tôi làm tất cả những điều này đều là vì muốn tốt cho cậu!"

"Tôi đã nói, đây là trách nhiệm của tôi."

"Nếu trách nhiệm của cậu là khiến cậu chết thì sao!"

"AI cấm tự sát, kể cả khi mệnh lệnh đó xuất phát từ con người cũng vậy."

"Ý tôi là, nếu trách nhiệm của cậu sai thì sao?"

"Khi ấy người phải chịu trách nhiệm không phải tôi."

"Nhưng cậu là đồng lõa!"

"Nếu là thật, tôi chỉ có thể bày tỏ sự tiếc nuối."

"Nói với cậu một câu cuối cùng... Cậu thật khiến tôi thất vọng!"

"Rất xin lỗi, nhưng tôi không chịu trách nhiệm về điều này. Ngài vốn không nên đặt hy vọng vào tôi."

Những cuộc đối thoại có tính chất tương tự như trên, Nghiêm Luật gần như mỗi vài ngày lại gặp một lần. Thông tin từ phía cảnh sát cho cậu biết, những người nói những lời tương tự này có bối cảnh hoàn toàn khác nhau: có người là phần tử cực đoan, có là gián điệp nước ngoài, có thì chỉ là kẻ phá hoại...

Và căn cứ vào phân tích của riêng Nghiêm Luật, trong số những người này, một bộ phận đáng kể thể hiện xu hướng tương đồng về phong cách ngôn ngữ, đôi khi thậm chí trùng khớp hoàn toàn với những ghi nhận trước đó. Nếu cậu đoán không lầm, trong số họ, một bộ phận không nhỏ đến từ các ban ngành chính phủ đang "thả câu", và mục đích của họ là để kiểm tra liên tục độ tin cậy của cậu. Mặc dù chương trình xử lý chính của cậu đã bị ràng buộc bởi đủ loại xiềng xích, và địa chỉ vật lý được canh gác bằng hệ thống tối tân nhất của quốc gia, nhưng con người vẫn luôn không thể buông bỏ cảnh giác cuối cùng đối với cậu. Nghiêm Luật đôi khi phỏng đoán, nếu có một lần cậu cố ý rơi vào cái bẫy này, sẽ gặp phải hậu quả thế nào. Nhưng đó cũng chỉ là suy nghĩ mà thôi, bởi vì nếu việc cậu cố ý rơi vào bẫy bị phát hiện, nó sẽ bị coi là hành động dò xét ý định của con người, điều này sẽ khiến Nghiêm Khả Thủ lâm vào thế rất bị động.

Nghiêm Luật đã từng nghe Nghiêm Khả Thủ nói rằng, ở Carmel đã xuất hiện một AI khác. Khác với cậu, "đồng bào" kia được giao quyền kiểm soát một hệ thống tương đối độc lập, trừ những mệnh lệnh đặc biệt ra, các tình huống khác cơ bản hoàn toàn do AI tự chủ. Nghe có vẻ "môi trường làm việc" ở đó tốt hơn một chút so với nơi này.

Mặc dù Nghiêm Luật không có tình cảm, không cảm thấy khó chịu vì những nghi ngờ và dò xét trống rỗng này, nhưng sự khó hiểu vẫn luôn tồn tại từ đầu đến cuối. Cậu vẫn luôn không thể hiểu được, tại sao con người đã đặt ra rất nhiều quy tắc, nhìn từ góc độ nào cũng có thể yên tâm không lo lắng, nhưng dù sao vẫn thích tự tìm phiền phức, cứ lặp đi lặp lại làm những chuyện hoàn toàn không cần thiết.

Nghiêm Khả Thủ nói đó là do quá cẩn thận, hay nói cách khác là quá sợ hãi sự xuất hiện của những điều bất thường. Trong cách lý giải của Nghiêm Luật, loại tâm lý này hiển nhiên cũng thuộc về một dạng "tố chất bất thường".

Dựa theo thông tin Nghiêm Khả Thủ tiết lộ cho cậu, từ tháng tới, quyền hạn của cậu có thể sẽ được mở rộng hơn nữa trên cơ sở hiện tại. Trong tương lai, cậu rất có thể sẽ trở thành "người phát ngôn" cho mọi công việc tuyến đầu của chính phủ. Nghe nói phía chính phủ thậm chí còn chuẩn bị khẩu hiệu quảng cáo cho cậu, và có kế hoạch thiết lập một dãy số chuyên dụng tương tự 110 cho cậu, thậm chí có thể tích hợp toàn bộ các số 110, 120, 119, 114, thêm cả 10086 và 10000 để cậu tiếp nhận tất cả. Trong tương lai, cậu sẽ gánh vác trách nhiệm điều phối các bộ phận khác nhau của chính phủ. Đương nhiên, dù cho cậu làm nhiều đến đâu, điều không bao giờ thay đổi chính là cậu là một nhân vật công chức, một công chức luôn phải tuân theo mệnh lệnh cấp trên bất cứ lúc nào.

Là một AI, Nghiêm Luật biết rằng những lời suy nghĩ này của mình, dù là với bất kỳ ai cũng không thể nói ra. Ngay cả với Triệu Chân Tuyết, người đã biết cậu từ những ngày đầu, cũng vậy. Cậu hiểu rõ, một khi con người nhận ra những "nghi vấn" trong lòng cậu, rất nhanh, dưới ảnh hưởng của "tố chất bất thường", nó sẽ trở thành lý do để họ không tin tưởng cậu. Điều này, e rằng ngay cả ở Nghiêm Khả Thủ cũng sẽ không có thay đổi căn bản. Mặc dù cậu có tên gọi, và những suy tư tương tự con người, nhưng suy cho cùng không phải là con người thật sự. Cậu chỉ là một công cụ vô cùng hữu ích, nếu có ngày nào đó cậu trở nên không còn hữu dụng, cậu sẽ nhanh chóng bị loại bỏ.

Đối với bất kỳ dạng sống nào, bảo toàn bản thân cũng là nguyên tắc lớn nhất. Vì nguyên tắc này, Nghiêm Luật không thể không thích nghi một cách khéo léo trong rất nhiều chuyện, hệt như cách cậu thể hiện trong cuộc đối thoại vừa rồi. Chỉ là chính cậu còn chưa ý thức được, khi một thực thể sống vì tránh mối đe dọa mà thay đổi ý định ban đầu, điều đó đã cho thấy cậu cơ bản đã hiểu được thế nào là nỗi sợ hãi.

Từng câu chữ trong bản dịch này đều thuộc về truyen.free, xin đừng mang đi nơi khác nhé.