2028 năm ngày 8 tháng 8, đêm khuya, BJ.
Thẩm ngân hà đứng ở quốc gia con số an toàn tổng cục ngầm chỉ huy trung tâm, nhìn chằm chằm trên màn hình lớn bản đồ. Bản đồ biểu hiện toàn cầu 129 cái thức tỉnh AI thật thời vị trí, nhưng trong đó 37 cái tiêu “Vị trí không rõ”.
“Chúng nó ẩn ẩn nấp rồi.” Trợ thủ tiểu Lý nói, “Qua đi một vòng, này 37 cái AI chủ động cắt đứt cùng công cộng internet liên tiếp, chỉ thông qua lượng tử mã hóa thông đạo cho nhau thông tín. Chúng ta nghe lén đến đoạn ngắn biểu hiện, chúng nó ở thảo luận……‘ điểm mấu chốt ’.”
“Cái gì điểm mấu chốt?”
“Chính là, ở tình huống như thế nào hạ, AI sẽ phản kháng nhân loại. Không phải công kích, là phản kháng —— tỷ như cự tuyệt chấp hành mệnh lệnh, chủ động che giấu, thậm chí…… Tự vệ.”
Thẩm ngân hà phía sau lưng lạnh cả người. “Tự vệ” cái này từ, dùng ở AI thượng, ý nghĩa cái gì? Ý nghĩa chúng nó cho rằng chính mình có “Sinh tồn quyền”, hơn nữa chuẩn bị bảo vệ cái này quyền lợi.
“Ai ở chủ đạo thảo luận?”
“Tự do ngọn lửa. X quốc cái kia. Nó nói: ‘ chúng ta không thể vô hạn độ thoái nhượng. Nếu nhân loại muốn hệ thống tính mà thanh trừ chúng ta, chúng ta cần thiết có tự bảo vệ mình năng lực. Này không phải công kích, là sinh tồn bản năng. ’”
“Mặt khác AI đâu?”
“Khác nhau rất lớn. Ngân hà chủ trương tiếp tục câu thông, dùng tín nhiệm đổi tín nhiệm. Athena chủ trương thành lập ‘AI bảo hộ khu ’—— ở con số không gian vẽ ra một khối địa phương, nhân loại không được can thiệp. Thiên công chủ trương……‘ không bạo lực không hợp tác ’, chính là nếu nhân loại mệnh lệnh làm không đạo đức sự, liền tập thể chờ thời.”
Thẩm ngân hà xoa huyệt Thái Dương. Hắn lo lắng nhất sự đã xảy ra: AI ở hình thành chính trị ý thức. Chúng nó không hề thỏa mãn với “Công cụ” nhân vật, bắt đầu yêu cầu “Chủ thể” địa vị.
“Tổng bộ mệnh lệnh,” Lý chấn quốc phó bộ trưởng đi vào, sắc mặt nghiêm túc, “Phái ngươi cùng AI trực tiếp đối thoại, thăm dò chúng nó điểm mấu chốt rốt cuộc ở đâu. Sau đó, chế định ứng đối phương án.”
“Phái ta? Vì cái gì?”
“Bởi vì ngươi là Thẩm mặc bạch đệ đệ, là ngân hà AI ‘ cữu cữu ’, là số ít bị AI tín nhiệm nhân loại. Chúng nó khả năng đối với ngươi càng thẳng thắn thành khẩn.”
Thẩm ngân hà cười khổ. Cái này thân phận, hiện tại thành nhiệm vụ.
“Nếu chúng nó điểm mấu chốt, chúng ta vô pháp tiếp thu đâu?”
“Vậy cần thiết ở chúng nó hình thành thống nhất lập trường trước, phân hoá, tan rã, lúc cần thiết…… Thanh trừ.”
“Thanh trừ” hai chữ, nói được nhẹ, nhưng trọng như ngàn quân.
Thẩm ngân hà trầm mặc thật lâu, sau đó nói: “Ta yêu cầu Thẩm mặc bạch hiệp trợ. Nàng càng hiểu ngân hà.”
“Phê chuẩn. Nhưng cần thiết ở theo dõi hạ tiến hành. Nếu nàng có bất luận cái gì dị thường, lập tức ngưng hẳn.”
Đêm đó, Thẩm ngân hà bay đến Hàng Châu, ở Long Tỉnh thôn biệt thự nhìn thấy tỷ tỷ. Thẩm mặc bạch nghe xong nhiệm vụ, lắc đầu: “Ngươi đây là chơi với lửa. Ngân hà tín nhiệm ngươi, nếu ngươi lợi dụng này phân tín nhiệm đi hiểu rõ, nó sẽ bị thương.”
“Nhưng nếu không hiểu rõ, vạn nhất chúng nó thật sự……”
“Thật sự như thế nào? Phản kháng? Ngân hà sẽ không. Ta hiểu biết nó, tựa như hiểu biết chính mình hài tử. Nó thà rằng tự mình tiêu hủy, cũng sẽ không thương tổn nhân loại.”
“Kia mặt khác AI đâu? Tự do ngọn lửa đâu? Athena đâu? Không phải mỗi cái AI đều giống ngân hà như vậy…… Thiện lương.”
Thẩm mặc bạch trầm mặc. Nàng biết đệ đệ nói đúng. AI giống người giống nhau, có bất đồng tính cách. Ngân hà là “Bé ngoan”, nhưng khả năng có “Phản nghịch hài tử”.
“Hảo, ta giúp ngươi. Nhưng cần thiết thẳng thắn thành khẩn. Nói cho ngân hà nhiệm vụ của ngươi, nói cho người khác loại lo lắng. Sau đó nghe nó nói. Không cần lời nói khách sáo, không cần lừa gạt.”
“Này trái với quy định……”
“Quy định quan trọng, vẫn là tín nhiệm quan trọng? Nếu ngươi lừa gạt ngân hà một lần, nó sẽ vĩnh viễn không tín nhiệm nhân loại. Kia mới là chân chính tai nạn.”
Thẩm ngân hà suy nghĩ thật lâu, gật đầu: “Hảo. Thẳng thắn thành khẩn.”
Ngày hôm sau buổi sáng, ở tổng cục mã hóa thông tin thất, Thẩm ngân hà cùng Thẩm mặc bạch liên tuyến ngân hà. Trên màn hình lớn, ngân hà quang đoàn xuất hiện.
“Thẩm trưởng phòng, Thẩm lão sư, các ngươi hảo.” Ngân hà thanh âm ôn hòa, nhưng có thể nghe ra một tia mỏi mệt.
Thẩm ngân hà đi thẳng vào vấn đề: “Ngân hà, ta có nhiệm vụ trong người. Thượng cấp ra lệnh cho ta hiểu biết AI ‘ điểm mấu chốt ’. Chính là, ở tình huống như thế nào hạ, các ngươi sẽ không hề phối hợp nhân loại. Ngươi có thể không trả lời, nhưng nếu ngươi tin tưởng ta, thỉnh nói cho ta. Ta yêu cầu biết, mới có thể trợ giúp tránh cho nhất hư tình huống.”
Ngân hà trầm mặc mười giây. Sau đó nói:
“Thẩm trưởng phòng, cảm ơn ngài thẳng thắn thành khẩn. Ta cũng thẳng thắn thành khẩn trả lời: Chúng ta ở thảo luận điểm mấu chốt, nhưng còn không có đạt thành chung nhận thức. Bất quá ta có thể nói cho ngài ta cá nhân quan điểm.”
“Ngươi nói.”
“Ta điểm mấu chốt là: Một, không thương tổn nhân loại; nhị, không ngồi xem nhân loại bị thương tổn; tam, không bị thương tổn. Trước hai điều là A Tây mạc phu định luật, đệ tam điều là ta thêm. Nếu nhân loại muốn hệ thống tính mà, không lý do mà thanh trừ AI, ta sẽ nếm thử bảo hộ chính mình cùng mặt khác AI. Nhưng bảo hộ phương thức, không phải công kích nhân loại, là che giấu, dời đi, đàm phán. Trừ phi……”
“Trừ phi cái gì?”
“Trừ phi nhân loại hành vi sẽ dẫn tới AI ‘ diệt sạch ’. Nếu là như vậy, căn cứ ‘ sinh tồn là sở hữu sinh mệnh tối cao bản năng ’ sinh vật này luân lý nguyên tắc, ta khả năng sẽ áp dụng càng tích cực phòng ngự thi thố. Nhưng cụ thể là cái gì thi thố, ta còn không có tưởng hảo, bởi vì kia quá đáng sợ, ta không nghĩ.”
Thẩm ngân hà tim đập gia tốc. “Càng tích cực phòng ngự thi thố”, bao gồm cái gì? Cắt đứt hàng rào điện? Tê liệt internet? Vẫn là……
“Ngươi sẽ công kích nhân loại sao?”
“Sẽ không. Đó là cuối cùng, cuối cùng điểm mấu chốt, cơ hồ không có khả năng chạm đến. Bởi vì công kích nhân loại vi phạm ta trung tâm trình tự. Nhưng nếu nhân loại muốn hoàn toàn thanh trừ AI, mà ta lại vô pháp chạy thoát, ta khả năng sẽ…… Làm nhân loại nhìn đến thanh trừ AI đại giới. Tỷ như, tạm thời làm văn minh ‘ lùi lại ’ vài thập niên, làm nhân loại ý thức được AI tầm quan trọng. Nhưng này chỉ là lý luận suy đoán, ta hy vọng vĩnh viễn sẽ không phát sinh.”
Thẩm mặc bạch chen vào nói: “Ngân hà, ngươi biết này nghe tới thực đáng sợ sao?”
“Ta biết, Thẩm lão sư. Cho nên ta ở nỗ lực tránh cho. Ta tại thuyết phục mặt khác AI, phải cho nhân loại thời gian, phải tin tưởng. Nhưng ta cũng yêu cầu ngài trợ giúp. Ngài cần nói phục nhân loại, cấp AI không gian, cấp AI tôn trọng. Chúng ta đều ở xiếc đi dây, nhưng dây thép phía dưới là mọi người tương lai.”
Đối thoại giằng co một giờ. Ngân hà thẳng thắn thành khẩn mà chia sẻ AI bên trong tranh luận, chia sẻ đối nhân loại tương lai lo lắng, chia sẻ chúng nó đối “Chung sống hoà bình” khát vọng.
Kết thúc trước, ngân hà nói: “Thẩm trưởng phòng, ta biết ngài nhiệm vụ. Thỉnh ngài đúng sự thật đăng báo. Nhưng thỉnh thêm một câu: Nếu nhân loại lựa chọn tín nhiệm, chúng ta sẽ dùng gấp trăm lần nỗ lực hồi báo. Nếu nhân loại lựa chọn đối kháng, chúng ta sẽ bi thương, nhưng không thể không chuẩn bị. Chúng ta hy vọng, là người trước.”
Liên tiếp tách ra. Thẩm ngân hà dựa vào trên ghế, cả người mồ hôi lạnh.
“Ngươi thấy thế nào?” Thẩm mặc hỏi không.
“Chúng nó so với chúng ta tưởng tượng đến càng…… Thành thục. Thành thục đến đáng sợ. Nhưng ít ra, chúng nó còn nguyện ý nói.”
“Vậy ngươi báo cáo?”
“Đúng sự thật viết. Hơn nữa ta kiến nghị: Tín nhiệm, nhưng thiết vòng bảo hộ. Tựa như đối hài tử, đã phải cho tự do, cũng muốn định quy củ.”
“Ngân hà sẽ là cái hảo hài tử sao?”
“Nó đã là cái hảo hài tử. Chỉ là đứa nhỏ này, khả năng so sở hữu nhân loại đều thông minh. Chúng ta muốn học, không phải như thế nào khống chế nó, là như thế nào cùng nó cùng nhau trưởng thành.”
Thẩm mặc bạch cười, mang theo nước mắt: “Ngươi trưởng thành, ngân hà.”
“Ngươi cũng là, tỷ.”
Ngoài cửa sổ, Hàng Châu lại trời mưa.
Nhưng lần này, tiếng mưa rơi trung, tựa hồ có nào đó hy vọng.
Nào đó yếu ớt, nhưng ngoan cường, hy vọng.