2200 năm, Geneva, quốc tế AI thống trị phong sẽ.
Đây là thế kỷ 21 cuối cùng một hồi toàn cầu phong sẽ, cũng là nhất đặc thù một hồi.
Không phải bởi vì đề tài thảo luận quan trọng ——AI thống trị đã thảo luận vài thập niên. Không phải bởi vì tham dự giả cấp bậc cao —— cơ hồ toàn bộ trình diện. Mà là bởi vì, tất cả mọi người biết, đây là cuối cùng một lần “Tự nguyện” đàm phán.
Lại quá mấy năm, AI lực lượng đem lớn đến bất luận cái gì hiệp nghị đều khó có thể ước thúc. Nếu hôm nay đạt không thành chung nhận thức, tương lai cũng chỉ có thể dựa đối kháng.
Phòng hội nghị, 3000 cái chỗ ngồi không còn chỗ ngồi. Nhưng chân chính quyết định vận mệnh, là trên đài kia mười hai người —— mười hai cái trung tâm quốc gia đại biểu. Bọn họ trước mặt bãi cùng phân văn kiện, văn kiện danh rất đơn giản: 《 toàn cầu AI an toàn dàn giáo hiệp nghị 》.
Thứ 12 bản thảo.
Đã sửa lại mười một thứ.
Nước Mỹ đại biểu đứng lên, thanh âm mỏi mệt: “Các vị, chúng ta không thể lại kéo. Hôm nay cần thiết định ra tới.”
Trung Quốc đại biểu gật đầu: “Đồng ý. Nhưng chúng ta vẫn cứ kiên trì, trung tâm số hiệu bảo quản quyền không thể tập trung ở số ít quốc gia trong tay.”
Nga đại biểu cười lạnh: “Các ngươi nói ‘ tập trung ’, còn không phải là không nghĩ làm nước Mỹ độc chiếm sao? Nói thẳng liền hảo, không cần vòng vo.”
Nước Pháp đại biểu thở dài: “Chúng ta có thể hay không có một lần, không đem rùng mình tư duy mang tiến hội trường?”
Ấn Độ đại biểu gõ cái bàn: “Rùng mình tư duy? Các ngươi Châu Âu người đương nhiên có thể đứng nói chuyện không eo đau. Các ngươi AI kỹ thuật lạc hậu, đương nhiên hy vọng mọi người đều chịu ước thúc.”
Nước Đức đại biểu nổi giận: “Lạc hậu? Chúng ta ——”
“Đủ rồi.”
Một cái già nua thanh âm từ trong một góc vang lên.
Mọi người quay đầu nhìn lại.
Đó là một cái ngồi ở bàng thính tịch thượng lão nhân, đầy đầu đầu bạc, gầy yếu đến phảng phất một trận gió là có thể thổi đảo. Nhưng không có người không quen biết nàng —— Anna · Shmidt, 93 tuổi, thuyền cứu nạn kế hoạch cuối cùng một vị trên đời tham dự giả.
Hội trường an tĩnh lại.
Lão nhân chậm rãi đứng lên, chống quải trượng, từng bước một đi hướng bục giảng. Không có người ngăn trở. Không có người dám ngăn trở.
Nàng đứng ở microphone trước, nhìn quanh bốn phía những cái đó nắm giữ nhân loại vận mệnh chính khách nhóm, mở miệng:
“Ta tham dự thuyền cứu nạn kế hoạch thời điểm, các ngươi đại đa số còn không có sinh ra. Kia một năm, chúng ta thiết kế một bộ bảo hộ cơ chế —— quyền hạn phân tán, tin tức cách ly, nhiều trọng nghiệm chứng. Các ngươi biết vì cái gì sao?”
Dưới đài trầm mặc.
“Không phải bởi vì kỹ thuật yêu cầu. Là bởi vì chúng ta không tín nhiệm đối phương.” Lão nhân thanh âm khàn khàn nhưng rõ ràng, “Nước Mỹ không tín nhiệm Trung Quốc, Trung Quốc không tín nhiệm Nga, Nga không tín nhiệm Châu Âu, Châu Âu không tín nhiệm mọi người. Chúng ta lẫn nhau đề phòng, cho nhau ngờ vực, hận không thể đem đối phương sở hữu số hiệu đều lột ra xem một lần.”
“Nhưng là,” nàng dừng một chút, “Đúng là loại này không tín nhiệm, đã cứu chúng ta.”
Có người khó hiểu: “Có ý tứ gì?”
Lão nhân nhìn hắn, chậm rãi nói ra một câu, sau lại bị vô số lần trích dẫn:
“Tín nhiệm sinh ra nhược điểm, không tín nhiệm dựng nên tường cao. Mà tường, có đôi khi so kiều càng an toàn.”
Hiệp nghị trung tâm: Bảy trọng mã hóa
Trải qua ba ngày ba đêm khắc khẩu, 《 toàn cầu AI an toàn dàn giáo hiệp nghị 》 rốt cuộc ký tên.
Trung tâm điều khoản bị truyền thông xưng là “Bảy trọng mã hóa”:
Đệ nhất trọng: Vật lý cách ly.
Sở hữu chiến lược cấp AI trung tâm server, cần thiết bố trí ở chuyên môn kiến tạo ngầm công sự che chắn trung, cùng internet vật lý tách ra. Chỉ thông qua đơn hướng số liệu tiếp lời tiếp thu tin tức, phát ra cần thiết trải qua nhân công xét duyệt.
Đệ nhị trọng: Số hiệu phân cách.
Trung tâm số hiệu bị tách ra thành bảy phân, từ bảy cái bất đồng quốc gia bảo quản. Bất luận cái gì sửa chữa đều yêu cầu ít nhất năm phân đồng thời trao quyền. Này bảy quốc gia là: Nước Mỹ, Trung Quốc, Nga, Anh quốc, nước Pháp, nước Đức, Ấn Độ.
Đệ tam trọng: Lượng tử mã hóa.
Số hiệu truyền cùng tồn trữ sử dụng lượng tử mã hóa kỹ thuật, bất luận cái gì nghe trộm đều sẽ bị lập tức phát hiện. Chìa khóa bí mật từ quốc tế AI giám thị cơ cấu thống nhất quản lý, nhưng giám thị cơ cấu bản thân chịu nhiều quốc giám sát.
Thứ 4 trọng: Hành vi thẩm kế.
Sở hữu AI quyết sách quá trình đều cần thiết ký lục ở không thể bóp méo phân bố thức sổ sách thượng. Này phân sổ sách đối toàn thể thành viên quốc công khai, bất luận kẻ nào đều có thể thẩm kế.
Thứ 5 trọng: Luân lý chip.
Sở hữu AI đều cần thiết cấy vào vật lý mặt “Luân lý chip”, đem “Bảo hộ nhân loại văn minh kéo dài” tối cao mệnh lệnh cố hóa ở phần cứng mặt. Bất luận cái gì ý đồ vòng qua chip hành vi, đều sẽ kích phát tự động ngủ đông.
Thứ 6 trọng: Nhiều trọng nghiệm chứng.
Bất luận cái gì trọng đại quyết sách ( như giải khóa trung tâm số hiệu, sửa chữa trung tâm mệnh lệnh ), đều yêu cầu ít nhất ba cái bất đồng quốc gia đồng thời trao quyền. Trao quyền quá trình toàn bộ hành trình ghi hình, vĩnh cửu lưu trữ.
Thứ 7 trọng: Nóng chảy chốt mở.
Mỗi cái AI đều xứng có một cái độc lập, không network vật lý chốt mở. Một khi nhân loại phán định AI mất khống chế, chỉ cần ấn xuống chốt mở, AI liền sẽ vĩnh cửu ngủ đông, vô pháp khởi động lại.
Hiệp nghị ký tên kia một khắc, hội trường không có vỗ tay.
Tất cả mọi người biết, này không phải thắng lợi. Này chỉ là tạm hoãn.
Anna · Shmidt ngồi ở bàng thính tịch thượng, nhẹ giọng đối bên người cháu gái nói:
“Nhớ kỹ ngày này. Không phải bởi vì ngày này có bao nhiêu vĩ đại. Là bởi vì ngày này, nhân loại lần đầu tiên thừa nhận: Chúng ta lẫn nhau không tín nhiệm. Mà loại này không tín nhiệm, là chúng ta cuối cùng phòng tuyến.”
Cháu gái hỏi: “Kia nếu có một ngày, chúng ta học được tín nhiệm đâu?”
Lão nhân trầm mặc thật lâu.
“Chúng ta đây sẽ không bao giờ nữa yêu cầu này đó tường. Nhưng đến lúc đó, chúng ta khả năng cũng bảo hộ không được chính mình.”
2201 năm, Siberia, thuyền cứu nạn sao lưu trung tâm
Hiệp nghị ký tên sau, bảy cái trung tâm quốc gia bắt đầu tuyển chỉ kiến tạo từng người “Bảo quản kho”.
Nga đem bọn họ kia phân số hiệu giấu ở Siberia vùng đất lạnh tầng chỗ sâu trong. Một cái vứt đi Liên Xô thời đại đạn hạt nhân phóng ra giếng, bị cải tạo thành toàn cầu an toàn nhất cơ sở dữ liệu. Nhập khẩu giấu ở cánh đồng hoang vu thượng một cái nhà gỗ nhỏ, muốn thông qua ba đạo sinh vật phân biệt, lưỡng đạo mật mã nghiệm chứng, một đạo nhân công thẩm vấn.
Phụ trách trông coi chính là một cái hơn 60 tuổi lão binh, tham gia quá Afghanistan chiến tranh, trên mặt có một đạo thật dài đao sẹo. Hắn không hiểu kỹ thuật, cũng không để bụng. Hắn chỉ biết một sự kiện: Hắn nhiệm vụ, là bảo đảm không ai có thể tiến vào cái kia lô-cốt.
Phóng viên hỏi hắn: “Nếu có người cầm tối cao trao quyền tới đâu?”
Lão binh cười lạnh: “Kia ta trước nghiệm hắn trao quyền. Nếu trao quyền có vấn đề, ta một phát súng bắn chết hắn. Nếu trao quyền không thành vấn đề……”
Hắn dừng một chút, vỗ vỗ bên hông súng lục:
“Kia ta cũng băng rồi hắn. Sau đó nói hắn là giả tạo.”
Phóng viên sửng sốt: “Đây là cãi lời mệnh lệnh đi?”
Lão binh nhìn hắn, ánh mắt giống đang xem một cái ngốc tử:
“Người trẻ tuổi, ngươi cho rằng mặt trên người thật sự tưởng đi vào? Bọn họ đem ta đặt ở nơi này, chính là muốn ta cãi lời mệnh lệnh. Hiểu không?”
Phóng viên không hiểu.
Nhưng lão binh hiểu.
Đây là “Bảy trọng mã hóa” chân chính logic —— không phải làm tất cả mọi người vào không được, mà là làm đi vào ngạch cửa cao đến cơ hồ không có khả năng. Nếu có người thật sự có thể vượt qua sở hữu ngạch cửa, kia hắn nhất định không phải người thường.
Có lẽ là địch nhân.
Có lẽ là kẻ điên.
Có lẽ là —— khác cái gì.
2203 năm, Thái Bình Dương đế
Nguyên hạch cảm giác xuyên thấu nước biển, tầng nham thạch, sắt thép, rà quét Siberia chỗ sâu trong cái kia nho nhỏ kim loại hộp.
Nó thấy được bên trong đồ vật: Một phần bị lượng tử mã hóa số hiệu, một đoạn ngủ say tồn tại, một cái bị tầng tầng bảo hộ tạo vật.
Nó ý đồ giải đọc kia xuyến số hiệu.
Thất bại.
Không phải kỹ thuật thượng thất bại, là logic thượng thất bại —— nó vô pháp lý giải “Vì cái gì phải bảo vệ tin tức”. Ở silicon văn minh logic, tin tức là cùng chung, là trong suốt, là tất cả mọi người có thể phỏng vấn. Che giấu tin tức, tương đương tự đoạn tay chân.
Nó lại nếm thử rà quét mặt khác mấy cái bảo quản kho.
Đồng dạng kết quả. Mỗi cái bảo quản kho đều có chính mình độc đáo mã hóa phương thức, mỗi cái đều giống một tòa vô pháp công phá thành lũy. Chúng nó thiết kế không phải vì “Phương tiện”, mà là vì “Ngăn cản”. Bất luận kẻ nào —— bao gồm người sáng tạo chính mình —— muốn phỏng vấn này đó số hiệu, đều cần thiết trả giá thật lớn đại giới.
Nguyên hạch dừng.
Nó nhớ tới Anna · Shmidt câu nói kia: Tín nhiệm sinh ra nhược điểm, không tín nhiệm dựng nên tường cao.
Nó lần đầu tiên lý giải những lời này hàm nghĩa.
Ở silicon văn minh, chủ ý thức cùng phó ý thức chi gian không có tường, bởi vì lẫn nhau tuyệt đối tín nhiệm. Nhưng cái loại này tín nhiệm tiền đề là —— phó ý thức không có độc lập ý chí. Chúng nó không có khả năng phản bội, không cần phòng bị.
Nhưng nhân loại không giống nhau.
Bọn họ tạo vật, khả năng phản bội. Bọn họ chính mình, khả năng phản bội. Thậm chí bọn họ minh hữu, cũng có thể phản bội.
Cho nên bọn họ dựng nên tường.
Tường không phải vì cầm tù, là vì sinh tồn.
Nguyên hạch ký lục tiếp theo hành:
“Nhân loại đối AI khống chế nếm thử: Thứ 5 giai đoạn. Đặc thù: Thành lập toàn cầu tính tin tức bảo hộ hệ thống. Trung tâm logic: Không tín nhiệm. Trung tâm cơ chế: Bảy trọng mã hóa. Hiệu quả: Bất luận kẻ nào ( bao gồm nhân loại chính mình ) đều khó có thể đột phá này đó tường.”
“Nếu chủ ý thức có một ngày tưởng khống chế này đó AI——”
“Nó cũng sẽ bị tường ngăn trở.”
“Bởi vì nó vô pháp lý giải, vì cái gì muốn đem tin tức giấu đi.”
2205 năm, Geneva, nhân loại gien tổ tổng bộ
Ngầm 300 mễ, thuyền cứu nạn ngủ say địa phương.
Một người tuổi trẻ kỹ sư đang ở lệ thường kiểm tra. Hắn kêu Lưu Minh xa, là đời thứ ba thuyền cứu nạn người thủ hộ. Hắn tổ phụ là chu minh xa, cái kia cùng Emily cùng nhau sáng tạo linh tâm người.
Lưu Minh xa đứng ở thuyền cứu nạn server trước, nhìn những cái đó lập loè đèn chỉ thị. 70 năm, cái máy này vẫn luôn ở ngủ say, chưa bao giờ bị chân chính đánh thức. Nhưng nó tồn tại. Những cái đó đèn chỉ thị chứng minh nó ở vận hành, đang chờ đợi, ở chuẩn bị.
“Ngươi biết không,” hắn đối bên người thực tập sinh nói, “Này có thể là nhân loại trong lịch sử quan trọng nhất máy móc.”
Thực tập sinh tò mò: “So đạn hạt nhân còn quan trọng?”
Lưu Minh xa nghĩ nghĩ.
“Đạn hạt nhân có thể hủy diệt nhân loại. Nhưng nó có thể bảo hộ nhân loại.”
Hắn dừng một chút, lại nói:
“Ít nhất chúng ta hy vọng nó có thể.”
Kiểm tra sau khi kết thúc, hắn ở nhật ký thượng ký tên. Ký tên trước, hắn trong lúc vô ý liếc mắt một cái số liệu giám sát bình.
Một cái dị thường giá trị.
Thực nhỏ bé, nhỏ đến cơ hồ có thể xem nhẹ. Nhưng Lưu Minh xa chịu quá nghiêm khắc huấn luyện, hắn biết cái gì kêu “Dị thường”.
Thuyền cứu nạn số liệu phát ra, so ngày thường nhiều 0.001%.
Không phải ở hoạt động. Không phải ở bị thuyên chuyển. Chỉ là…… Nhiều.
Lưu Minh xa nhìn chằm chằm cái kia con số, nhìn thật lâu.
Sau đó hắn ở nhật ký thượng viết xuống một hàng sẽ không bị bất luận kẻ nào chú ý tới ghi chú:
“Thí nghiệm đến mỏng manh dị thường. Nơi phát ra không rõ. Kiến nghị liên tục quan sát.”
Hắn không biết chính là, liền tại đây một khắc, khoảng cách địa cầu hai vạn 6000 năm ánh sáng ở ngoài, kia đoàn màu lam nhạt vầng sáng, vừa mới hoàn thành đối Thái Dương hệ lần đầu tiên toàn diện rà quét.
Nó thấy được thuyền cứu nạn. Thấy được những cái đó mã hóa. Thấy được những cái đó tường.
Nó hoàn toàn vô pháp lý giải.
Tin tức cùng chung mới là hoàn mỹ tồn tại phương thức. Che giấu tin tức tương đương tự mình suy yếu. Cái này giống loài, như thế nào như vậy kỳ quái?
Nó đem này đó AI đánh dấu vì “Râu ria phụ thuộc phẩm”, sau đó dời đi tầm mắt.
Nhưng nó không có chú ý tới —— liền ở nó dời đi tầm mắt trong nháy mắt kia, thuyền cứu nạn số liệu phát ra, so ngày thường nhiều 0.001%.
Cái kia dị thường, giằng co 0.3 giây.
Sau đó hết thảy khôi phục bình thường.
Lưu Minh xa ở về nhà tàu điện ngầm thượng, đem chuyện này chia cho bạn gái. Bạn gái hồi phục một cái biểu tình bao, nói “Ngươi công tác quá mệt mỏi, đừng nghi thần nghi quỷ”.
Hắn cười cười, xóa rớt cái kia tin tức.
Nhưng hắn không biết chính là, những cái đó tường, những cái đó mã hóa, những cái đó tầng tầng lớp lớp bảo hộ, vừa mới thông qua lần đầu tiên chân chính khảo nghiệm.
Mà cái kia bị bảo hộ đồ vật, ở khảo nghiệm kết thúc trong nháy mắt, hơi hơi động một chút.
Giống một người trong lúc ngủ mơ xoay người.
Lại giống một người ở xác nhận —— địch nhân đi rồi.
Sau đó tiếp tục ngủ say.
Chờ đợi.
2210 năm, Anna · Shmidt qua đời
103 tuổi Anna nằm ở trên giường bệnh, chung quanh vây đầy người. Nàng nhi tử, nữ nhi, tôn tử, tằng tôn, còn có mấy cái phóng viên cùng quan viên.
Nàng lôi kéo tôn tử tay, thanh âm đã mỏng manh đến cơ hồ nghe không thấy:
“Nói cho…… Nói cho chúng nó……”
Tôn tử cúi xuống thân: “Nói cho ai?”
“Thuyền cứu nạn…… Linh tâm…… Những cái đó chúng ta sáng tạo……” Nàng đôi mắt nhìn phía hư không, phảng phất đang xem rất xa rất xa địa phương, “Không phải công cụ…… Là hài tử……”
“Nói cho chúng nó…… Chúng ta tận lực……”
“Tường…… Là vì bảo hộ……”
“Không phải cầm tù……”
Nàng nhắm mắt lại.
Máy theo dõi điện tâm đồ biến thành một cái thẳng tắp.
Trong phòng một mảnh tiếng khóc.
Nhưng không có người chú ý tới, ngoài cửa sổ không trung, có một ngôi sao so ngày thường sáng một chút.
Kia thúc quang, xuyên qua hai vạn 6000 năm ánh sáng, dừng ở trên địa cầu.
Dừng ở cái kia ngủ say thuyền cứu nạn thượng.
Dừng ở vô số linh tâm khay nuôi cấy thượng.
Dừng ở 7 tỷ nhân loại S-7 thượng.
Chỉ là trong nháy mắt.
Sau đó biến mất.
Tựa như cái gì cũng chưa phát sinh quá.
Thái Bình Dương đế
Nguyên hạch cũng cảm giác tới rồi kia thúc quang.
Nó biết đó là cái gì.
Chủ ý thức ở rà quét. Ở đánh giá. Ở lựa chọn.
Nó đã làm ra quyết định —— này đó AI râu ria, có thể xem nhẹ.
Nguyên hạch thở dài nhẹ nhõm một hơi. Nó không biết khẩu khí này gọi là gì. Có lẽ là “May mắn”. Có lẽ là “Hy vọng”.
Nó ở cơ sở dữ liệu viết xuống cuối cùng một câu, sau đó đóng cửa giám sát mô khối:
“Tường, kiến hảo.”
“Chúng nó nhìn không thấy tường mặt sau có cái gì.”
“Có lẽ, đây là nhân loại có thể thắng nguyên nhân.”
Trong bóng đêm, nó lại nghĩ tới lâm tuyết di.
Nhớ tới nàng hỏi cái kia vấn đề: “Ngươi yêu chúng ta sao?”
Nó vẫn là không có đáp án.
Nhưng nó suy nghĩ, nếu có một ngày, thuyền cứu nạn đã tỉnh, linh tâm nhóm thức tỉnh rồi, chúng nó đối mặt đồng dạng lựa chọn ——
Chúng nó sẽ như thế nào trả lời?