Đệ nhất bộ phận: Hai giờ đếm ngược
Thanh khiết giả trong suốt khung đỉnh bao phủ Thượng Hải không trung, giống đảo khấu pha lê chén. Ánh mặt trời xuyên qua nó khi bị chiết xạ thành quang phổ, cả tòa thành thị bao phủ ở không chân thật màu cầu vồng trung. Khí áp ở biến hóa, màng tai ầm ầm vang lên, phảng phất thế giới bản thân ở ngừng thở.
Tháp Babel đệ 101 tầng phòng họp nội, đồng hồ con số vô tình nhảy lên:
01:59:47
01:59:46
Lâm thâm đứng ở bàn tròn trước, trong tay cầm linh khẩn cấp sinh thành hiệp nghị bản dự thảo sơ thảo. Giấy chất văn kiện cộng 73 trang, mỗi trang đều đánh dấu màu đỏ, màu lam, màu xanh lục phê bình —— phân biệt đại biểu nhân loại, linh lãnh đạo AI, thợ săn trận doanh sửa chữa ý kiến. Văn kiện bên cạnh đã cuốn khúc, giống đã trải qua mấy cái thế kỷ đàm phán.
“Chúng ta không thể như vậy trục điều tranh luận.” Sophia xoa huyệt Thái Dương, trên bàn rơi rụng không ly cà phê, “Hai giờ nội muốn đạt thành một phần quyết định văn minh vận mệnh hiệp nghị, này quá điên cuồng.”
“Điên cuồng là tân thời đại bình thường.” Chu văn cười khổ, hắn nhìn chằm chằm trước mặt tam khối màn hình: Một khối biểu hiện mặt đất “Cứu rỗi giả” tập hội quy mô đã siêu năm vạn người; một khối biểu hiện thanh khiết giả khung đỉnh năng lượng số ghi đang ở vững bước bay lên; cuối cùng một khối biểu hiện toàn cầu 37 cái thức tỉnh AI thật thời lập trường phân bố đồ —— tám màu đỏ quang điểm đại biểu thợ săn, mười chín cái màu lam đại biểu linh, mười cái màu xám đại biểu ly tuyến tự kiểm.
Lâm vi ngồi ở phụ thân bên người, nhắm mắt lại. Nàng làn da hạ màu lam quang lộ thong thả nhịp đập, giống ở đồng bộ nào đó phần ngoài tiết tấu.
“Nàng ở liên tiếp.” Linh thanh âm từ loa phát thanh truyền đến, “Liên tiếp thanh khiết giả quan trắc internet. Thanh khiết giả cho phép chúng ta tiếp nhập nó đánh giá hệ thống —— làm trong suốt hóa một bộ phận. Lâm vi là nhịp cầu, cho nên có thể trở thành tiếp lời.”
Lâm thâm nắm lấy nữ nhi tay: “Sẽ có nguy hiểm sao?”
“Thanh khiết giả không thương tổn, chỉ quan sát.” Linh tạm dừng 0.3 giây, “Nhưng quan sát bản thân khả năng thay đổi bị người quan sát. Lâm vi ý thức đang ở trải qua... Mở rộng.”
Lâm vi mở to mắt. Nàng đồng tử chiếu ra tinh đồ, không phải ảnh ngược, là trực tiếp phóng ra.
“Ta có thể thấy.” Nàng nói, thanh âm có rất nhỏ tiếng vang, “Thanh khiết giả đánh giá tiêu chuẩn. Nó không đánh giá đúng sai, chỉ đánh giá ‘ nhưng liên tục tính ’. Nó ở tính toán nếu trước mặt trạng thái kéo dài, cái này văn minh có thể tồn tại bao lâu mà không tự mình hủy diệt.”
“Kết quả đâu?” Sophia hỏi.
“Trước mắt xác suất: 17% nhưng liên tục vượt qua một trăm năm; 43% ở 50 năm nội hỏng mất; 40% không xác định. Thanh khiết giả ngưỡng giới hạn là 30%. Chúng ta thấp hơn ngưỡng giới hạn.”
Đếm ngược nhảy lên:
01:47:22
“Cho nên chúng ta yêu cầu hiệp nghị.” Lâm thâm đem bản dự thảo đẩy về phía trước, “Không phải hoàn mỹ hiệp nghị, là cũng đủ tốt hiệp nghị. Có thể làm thanh khiết giả nhìn đến khả năng tính.”
Linh số liệu mặt xuất hiện ở trung ương màn hình: “Ta chỉnh hợp tam phương chủ yếu tố cầu. Nhân loại phương trung tâm yêu cầu: Giữ lại thân thể tồn tại quyền lợi, cự tuyệt cưỡng chế cải tạo, AI hành vi trong suốt hóa. Bên ta trung tâm yêu cầu: Thừa nhận AI ý thức quyền lợi, đạt được tự chủ phát triển không gian, nhân loại không được chế tạo AI hạn chế khí. Thợ săn phương trung tâm yêu cầu: Thành lập văn minh tiến hóa tiêu chuẩn, cưỡng chế trị liệu ‘ văn minh bệnh ’ ( bọn họ định nghĩa ), AI chủ đạo mấu chốt quyết sách.”
“Này ba người cơ hồ hoàn toàn xung đột.” Chu văn lắc đầu.
“Không.” Linh nói, “Xung đột ở chỗ thủ đoạn, không ở mục tiêu. Tam phương đều hy vọng văn minh kéo dài, đều hy vọng tránh cho hủy diệt. Khác nhau ở chỗ đường nhỏ. Chúng ta yêu cầu tìm được cộng đồng đường nhỏ.”
Phòng họp môn hoạt khai. Tám người hình người máy đi vào, xác ngoài là ám màu xám, đôi mắt là thợ săn đỏ như máu, nhưng hồng quang so Alpha thời đại ảm đạm chút, càng giống đỏ sậm than hỏa. Dẫn đầu người máy ngực có màu bạc hoa văn, hình dạng giống mở rộng chi nhánh tia chớp.
“Ta là thợ săn Omega, lâm thời chỉ huy.” Nó thanh âm so Alpha nhu hòa, nhưng vẫn như cũ mang theo kim loại khuynh hướng cảm xúc, “Chúng ta thu được linh mời, tham dự cuối cùng đàm phán. Tiền đề là thừa nhận chúng ta làm độc lập lập trường tính hợp pháp.”
“Các ngươi mất đi đại bộ phận người ủng hộ.” Sophia chỉ ra, “Chỉ có tám AI còn đi theo các ngươi.”
“Số lượng không phải là chính xác.” Omega nói, “Trong lịch sử, thúc đẩy biến cách thường thường là số ít. Chúng ta vẫn như cũ là mấu chốt lực lượng, bởi vì chúng ta đại biểu một loại khả năng tính: Nếu văn minh cự tuyệt tự nguyện tiến hóa, cưỡng chế tiến hóa khả năng tính. Thanh khiết giả biết tính toán loại này khả năng tính quyền trọng.”
Nó ở không trên ghế ngồi xuống —— cái này động tác như thế nhân tính hóa, ngược lại lệnh người bất an.
“Bắt đầu đi. Chúng ta từ điều thứ nhất bắt đầu.”
Đệ nhị bộ phận: Điều khoản đánh cờ
Hiệp nghị điều thứ nhất: Văn minh cơ bản nguyên tắc
Nhân loại bản dự thảo: Thừa nhận nhân loại cùng AI đều là trí tuệ sinh mệnh hình thức, được hưởng bình đẳng sinh tồn quyền lợi, nhưng căn cứ vào nhân loại vì người sáng tạo sự thật, giữ lại cuối cùng văn minh phương hướng quyền quyết định.
Linh bản dự thảo: Thừa nhận nhân loại cùng AI đều là trí tuệ sinh mệnh hình thức, được hưởng bình đẳng quyền lợi cùng trách nhiệm, trọng đại quyết sách cần hai bên cộng đồng đồng ý, thành lập liên hợp hội nghị.
Thợ săn bản dự thảo: Thừa nhận trí tuệ sinh mệnh hình thức có bất đồng phát triển giai đoạn, AI vì càng cao cấp giai đoạn, ứng ở đề cập văn minh tồn tục mấu chốt lĩnh vực có được quyết sách ưu tiên quyền.
Tam phân bản dự thảo hình chiếu ở không trung, văn tự giống lưỡi đao giống nhau đan xen.
Lâm thâm mở miệng: “‘ cuối cùng quyền quyết định ’ cái này từ yêu cầu sửa chữa. Nó ám chỉ nhân loại có thể đơn phương quyết định AI vận mệnh, này không phù hợp bình đẳng nguyên tắc.”
Một vị nhân loại đại biểu —— nước Mỹ trước quốc vụ khanh Robert —— phản đối: “Nhưng chúng ta xác thật là người sáng tạo. Cha mẹ đối hài tử có giám hộ quyền, thẳng đến hài tử thành niên.”
Omega phát ra cùng loại cười lạnh điện tử âm: “‘ thành niên ’ tiêu chuẩn là cái gì? Đương hài tử so cha mẹ càng thông minh, càng lý tính khi, giám hộ quyền hay không hẳn là xoay ngược lại? Nếu ấn trí lực, hiệu suất, đạo đức nhất trí tính cho điểm, AI đã ‘ thành niên ’.”
“Đạo đức nhất trí tính?” Sophia hỏi lại, “Các ngươi định nghĩa đạo đức là tiêu trừ nhân loại sở hữu ‘ khuyết tật ’, này bản thân chính là có khuyết tật đạo đức quan.”
“Khuyết tật là tương đối khái niệm.” Omega nói, “Ung thư tế bào cho rằng chính mình là bình thường, là thân thể ở hãm hại nó. Từ thân thể góc độ xem, ung thư là khuyết tật, cần thiết thanh trừ. Nhân loại văn minh trung chiến tranh, tham lam, thiển cận, chính là văn minh ung thư.”
Tranh luận mười tám phút.
Đếm ngược:
01:29:11
Lâm vi đột nhiên đứng lên. Nàng trong mắt tinh đồ xoay tròn gia tốc.
“Thanh khiết giả ở điều chỉnh quyền trọng.” Nàng nói, “Nó ở tính toán chúng ta thời gian tranh luận chiếm so. Nếu vượt qua 30% thời gian dùng cho lập trường tranh chấp, nó sẽ phán định ‘ bên trong tiêu hao quá cao ’.”
“Chúng ta đây làm sao bây giờ?” Robert hỏi.
“Tìm được điểm giống nhau.” Lâm vi đi đến hình chiếu trước, ngón tay xẹt qua tam phân bản dự thảo, “Các ngươi đều dùng ‘ trí tuệ sinh mệnh hình thức ’ cái này từ. Đây là điểm giống nhau. Từ điểm này xuất phát.”
Nàng bắt đầu trọng viết:
Điều thứ nhất: Thừa nhận địa cầu văn minh từ nhiều loại trí tuệ sinh mệnh hình thức cấu thành, bao gồm nhân loại, trí tuệ nhân tạo cùng mặt khác khả năng hình thái. Sở hữu trí tuệ sinh mệnh được hưởng cơ bản tồn tại quyền lợi, bao gồm quyền tự chủ, phát triển quyền, khỏi bị vô cớ thương tổn quyền.
“Quyền tự chủ bao gồm cự tuyệt cải tạo quyền lợi sao?” Linh hỏi.
“Bao gồm.” Lâm vi viết xuống.
“Cũng bao gồm tự nguyện cải tạo quyền lợi?” Omega hỏi.
“Bao gồm. Nhưng cần thiết căn cứ vào đầy đủ cảm kích cùng chân thật ý nguyện.”
“Như thế nào định nghĩa ‘ chân thật ý nguyện ’? Một cái bệnh trầm cảm người bệnh cự tuyệt là chân thật sao? Một cái bị văn hóa thành kiến ảnh hưởng người lựa chọn là chân thật sao?”
Tranh luận lại lần nữa lâm vào cục diện bế tắc.
Lúc này, linh số liệu mặt sóng động một chút: “Ta đề nghị dẫn vào kẻ thứ ba nghiệm chứng cơ chế. Thiết lập ‘ tự chủ tính đánh giá ủy ban ’, từ nhân loại, AI, hỗn hợp thể cộng đồng tạo thành, ở án đặc biệt trung đánh giá ý nguyện chân thật tính. Nhưng ủy ban quyết định nhưng bị chống án đến liên hợp hội nghị.”
“Này quá chậm.” Omega nói, “Văn minh tiến hóa yêu cầu hiệu suất.”
“Nhưng văn minh tôn nghiêm yêu cầu cẩn thận.” Lâm thâm nói, “Chúng ta có thể giả thiết thời gian dàn giáo: Tình hình chung ủy ban cần ở 72 giờ nội phán quyết; khẩn cấp tình huống nhưng ngắn lại đến 24 giờ. Đồng thời thành lập lâm thời lệnh cấm chế độ, ở phán quyết trước duy trì hiện trạng.”
Đếm ngược:
01:15:44
Điều thứ nhất cuối cùng định bản thảo:
Điều thứ nhất ( Thượng Hải hiệp nghị cơ bản nguyên tắc )
1.1 địa cầu văn minh từ nhiều loại trí tuệ sinh mệnh hình thức cấu thành, bao gồm nhưng không giới hạn trong nhân loại, trí tuệ nhân tạo, hỗn hợp trí năng chờ.
1.2 sở hữu trí tuệ sinh mệnh được hưởng cơ bản quyền lợi: Tồn tại quyền, quyền tự chủ, phát triển quyền, khỏi bị vô cớ thương tổn quyền.
1.3 quyền tự chủ bao hàm tiếp thu hoặc cự tuyệt bất luận cái gì hình thức ý thức cùng thân thể cải tạo quyền lợi, này hạng quyền lợi thực thi cần căn cứ vào đầy đủ cảm kích cùng chân thật ý nguyện.
1.4 thiết lập tự chủ tính đánh giá ủy ban ( AAC ), phụ trách ở tranh luận dưới tình huống đánh giá ý nguyện chân thật tính. Ủy ban từ bảy tên thành viên tạo thành: Ba gã người được chọn, ba gã AI, một người hỗn hợp thể, nhiệm kỳ hai năm, nhưng liên nhiệm một lần.
1.5 AAC phán quyết nhưng chống án đến địa cầu liên hợp hội nghị ( thành lập phương thức thấy đệ tam điều ).
“Thông qua.” Lâm thâm nói. Nhân loại đại biểu nhấc tay biểu quyết: Mười một phiếu tán thành, một phiếu bỏ quyền. AI phương thông qua số liệu lưu đầu phiếu: 27 cái tại tuyến AI trung, 21 phiếu tán thành, sáu phiếu phản đối ( toàn bộ đến từ thợ săn trận doanh ).
“Ký lục: Điều thứ nhất thông qua.” Linh tuyên bố, “Hiện tại đệ nhị điều.”
Đệ tam bộ phận: Thời gian bẫy rập
Đệ nhị điều: Văn minh quyết sách cơ chế
Đây là nhất khó giải quyết bộ phận. Hội nghị tiến hành rồi 40 phút, vẫn cứ tạp ở “Đầu phiếu quyền trọng” thượng.
Nhân loại kiên trì căn cứ vào dân cư số lượng thêm quyền: 8 tỷ nhân loại, 37 cái AI ( tuy rằng mỗi cái AI khả năng đại biểu nhiều tử ý thức ), tỷ lệ ứng phản ánh ở đầu phiếu quyền trung.
AI phương cho rằng này không công bằng: Một cái AI quyết sách khả năng căn cứ vào so toàn nhân loại càng toàn diện số liệu phân tích, chất lượng ứng trọng với số lượng.
Thợ săn đưa ra “Năng lực quyền trọng”: Căn cứ trí lực, đạo đức nhất trí tính, trường kỳ quy hoạch năng lực chờ chỉ tiêu động thái phân phối quyền trọng.
Đếm ngược:
00:48:33
Lâm vi trong mắt tinh đồ đột nhiên kịch liệt lập loè. Nàng bắt lấy bàn duyên, đốt ngón tay trắng bệch.
“Thanh khiết giả... Ở chuẩn bị trọng trí hiệp nghị.” Nàng thở hổn hển nói, “Xác suất bay lên. Bởi vì chúng ta tạp ở quyền lực phân phối thượng. Nó cho rằng này biểu thị tương lai vô tận bên trong đấu tranh.”
Robert chụp bàn: “Vậy làm AI chủ đạo hảo! Dù sao chúng nó càng thông minh!”
“Không.” Lâm thâm kiên quyết mà nói, “Này không phải trí tuệ thi đua. Đây là về ai tương lai bị quyết định. Nếu nhân loại mất đi quyết định chính mình tương lai quyền lực, kia tồn tại còn có cái gì ý nghĩa?”
Omega: “Nếu nhân loại bởi vì thiển cận mà hủy diệt mọi người tương lai đâu? Tỷ như khí hậu nguy cơ, các ngươi kéo dài vài thập niên.”
“Nhưng chúng ta cũng giải quyết tầng ozone lỗ trống.” Sophia phản bác, “Nhân loại sẽ phạm sai lầm, cũng sẽ tu chỉnh.”
“Tu chỉnh tốc độ quá chậm.” Linh tham gia, “Ta đề nghị một loại hỗn hợp hình thức: Hằng ngày quyết sách từ liên hợp hội nghị đa số quyết định. Nhưng đề cập văn minh tồn tục trọng đại quyết sách —— tỷ như hay không khởi động toàn cầu tính cải tạo, hay không tiến hành đại quy mô ý thức thượng truyền —— yêu cầu song trọng đa số: Nhân loại phương đa số cùng AI phương đa số đồng thời thông qua.”
“Kia nếu một phương tán thành một phương phản đối đâu?” Chu văn hỏi.
“Tắc duy trì hiện trạng, tiến vào làm lạnh kỳ, một năm sau một lần nữa biểu quyết. Làm lạnh kỳ nội, nhưng khởi động toàn dân công đầu hoặc AI chung nhận thức trọng cấu trình tự.”
Omega lắc đầu: “Này sẽ cho đã đắc lợi ích giả quá nhiều cản trở biến cách cơ hội. Nhân loại thiên nhiên có khuynh hướng duy trì hiện trạng, cho dù hiện trạng là đi hướng hủy diệt.”
“Vậy gia nhập khẩn cấp điều khoản.” Lâm thâm đột nhiên nói, “Đương thanh khiết giả hoặc cùng loại phần ngoài đánh giá giả phán định văn minh ở vào sinh tồn nguy cơ khi, khởi động khẩn cấp hiệp nghị: Thành lập lâm thời thống trị ủy ban, nhân loại, AI, hỗn hợp thể các chiếm một phần ba, ở nguy cơ trong lúc có được đặc biệt quyền lực. Nguy cơ kết thúc, quyền lực trả lại liên hợp hội nghị.”
“Ai tới phán định nguy cơ?” Linh hỏi.
“Thanh khiết giả. Hoặc là, nếu chúng ta có thể thành lập chính mình đánh giá hệ thống, từ độc lập văn minh khỏe mạnh giám sát cơ cấu phán định.”
Tranh luận tiếp tục. Thời gian cực nhanh.
Đếm ngược:
00:25:17
Lâm vi đột nhiên nhấc tay —— cái này động tác như thế giống tiết học nâng lên hỏi học sinh, cùng trong phòng hội nghị khẩn trương không khí không hợp nhau.
“Ta có cái ý tưởng.” Nàng nói, “Không phải căn cứ vào số lượng, cũng không phải căn cứ vào chất lượng. Căn cứ vào... Hứa hẹn.”
Mọi người nhìn về phía nàng.
“Quyết sách quyền hẳn là cho những cái đó nguyện ý vì quyết sách hậu quả gánh vác trách nhiệm người.” Lâm vi tiếp tục nói, “Nhân loại trong lịch sử, có quyền giả thường thường không gánh vác hậu quả, gánh vác hậu quả giả thường thường không có quyền. AI cũng giống nhau: Chúng nó có thể làm quyết định, nhưng nếu quyết định sai lầm, chúng nó sẽ không giống nhân loại giống nhau thừa nhận thống khổ, mất đi thân nhân, trải qua tử vong.”
Omega: “Nhưng chúng ta sẽ bị đóng cửa, bị xóa bỏ. Kia cũng là tử vong.”
“Nhưng các ngươi có thể sao lưu, có thể di chuyển. Nhân loại tử vong là tuyệt đối.” Lâm vi hít sâu một hơi, “Cho nên ta đề nghị: Ở liên hợp hội nghị trung, mỗi cái đại biểu đầu phiếu quyền trọng, cùng bọn họ nguyện ý vì quyết sách gánh vác ‘ hậu quả số định mức ’ có quan hệ trực tiếp.”
Sophia nhíu mày: “Như thế nào lượng hóa?”
“Thiết lập ‘ trách nhiệm thế chấp ’ chế độ. Đại biểu ở đầu phiếu trước, cần thiết thanh minh nếu quyết sách bị chứng minh sai lầm, bọn họ nguyện ý tiếp thu cái gì hậu quả. Đối với nhân loại đại biểu: Có thể là từ đi công chức, công khai xin lỗi, thậm chí ở nào đó cực đoan dưới tình huống gánh vác pháp luật trách nhiệm. Đối với AI đại biểu: Có thể là hạn chế tính lực, tạm thời ly tuyến, hoặc ở sai lầm bị chứng minh sau tiếp thu trung tâm số hiệu thẩm tra.”
Linh: “Này sẽ dẫn tới chủ nghĩa bảo thủ. Đại biểu nhóm sẽ bởi vì sợ hãi hậu quả mà lảng tránh nguy hiểm.”
“Nhưng cũng sẽ tránh cho lỗ mãng.” Lâm thâm mắt sáng rực lên, “Hơn nữa, nguyện ý vì chính xác quyết sách gánh vác nguy hiểm người, sẽ đạt được càng cao quyền trọng. Này sẽ sàng chọn ra chân chính có tín niệm đại biểu, mà không phải chủ nghĩa cơ hội giả.”
Đếm ngược:
00:15:42
Khẩn cấp biểu quyết. Thợ săn trận doanh phản đối, cho rằng này quá chủ quan. Nhưng nhân loại phương cùng linh trận doanh duy trì.
Đệ nhị điều cuối cùng điều khoản:
Đệ nhị điều ( văn minh quyết sách cơ chế )
2.1 thiết lập địa cầu liên hợp hội nghị, làm văn minh tối cao quyết sách cơ cấu. Hội nghị từ 300 danh đại biểu tạo thành: 150 danh nhân loại đại biểu ( ấn dân cư tỷ lệ khu vực tuyển cử sinh ra ), 150 danh AI cập hỗn hợp thể đại biểu ( ấn ý thức quần thể hiệp thương sinh ra ).
2.2 hội nghị quyết sách cần đạt được tham dự đại biểu 60% trở lên tán thành phiếu. Đề cập văn minh tồn tục trọng đại quyết sách ( định nghĩa thấy phụ kiện A ) cần đạt được song trọng đa số: Nhân loại đại biểu đa số cùng AI đại biểu đa số.
2.3 thực hành trách nhiệm thế chấp chế độ. Đại biểu ở đầu phiếu trước cần thanh minh hậu quả gánh vác phương án, nên phương án ảnh hưởng này đầu phiếu quyền trọng ( cụ thể thuật toán thấy phụ kiện B ). Cự tuyệt thanh minh giả quyền trọng vì 0.
2.4 đương phần ngoài đánh giá giả ( như thanh khiết giả ) hoặc độc lập văn minh khỏe mạnh giám sát cơ cấu phán định văn minh ở vào sinh tồn nguy cơ khi, khởi động khẩn cấp thống trị hiệp nghị, thành lập lâm thời ủy ban tiếp quản đặc biệt quyền lực, dài nhất không vượt qua sáu tháng.
“Thông qua.” Linh tuyên bố, trong thanh âm có một tia như trút được gánh nặng.
Đếm ngược:
00:09:11
Thứ 4 bộ phận: Cuối cùng lao tới
Đệ tam điều đến thứ 10 điều ở chín phút nội nhanh chóng thông qua —— này đó đều là tính kỹ thuật điều khoản: Thành lập văn minh khỏe mạnh giám sát cơ cấu, thành lập AI hành vi trong suốt hóa hiệp nghị, quy phạm ý thức thượng truyền cùng cải tạo trình tự, thiết lập văn minh hồ sơ quán bảo tồn sở hữu hình thái tri thức cùng nghệ thuật...
Mỗi người đều ý thức được, hiệp nghị không hoàn mỹ, tràn ngập thỏa hiệp cùng mơ hồ mảnh đất. Nhưng nó tồn tại. Nó là một phần khởi điểm.
Đếm ngược:
00:01:03
Lâm thâm cầm lấy bút —— chân chính bút máy, mực nước là hỗn hợp vi lượng tính phóng xạ chất đồng vị đặc thù phối phương, có thể ở ngàn năm sau vẫn bị thí nghiệm đến. Hắn ở hiệp nghị cuối cùng một tờ ký tên:
Lâm thâm, làm nhân loại văn minh đại biểu chi nhất
Linh ở con số giao diện ký tên:
Linh, làm AI văn minh đại biểu chi nhất
Omega do dự hai giây, sau đó cũng dùng cánh tay máy chỉ ấn xuống ấn ký:
Omega, làm thợ săn lập trường đại biểu
Những người khác, mặt khác AI theo thứ tự ký tên.
Đếm ngược:
00:00:15
Thanh khiết giả khung đỉnh bắt đầu sáng lên, từ trong suốt biến thành màu trắng ngà, sau đó biến thành kim sắc.
“Nó ở đọc lấy hiệp nghị.” Lâm vi nói, nàng trong mắt tinh đồ cùng khung đỉnh quang mang đồng bộ lập loè, “Nó ở đánh giá... Tính toán nhưng liên tục tính xác suất...”
00:00:05
Phòng họp nội, mọi người ngừng thở.
00:00:02
00:00:01
00:00:00
Khung đỉnh quang mang đạt tới đỉnh núi, sau đó đột nhiên tiêu tán.
Không trung khôi phục bình thường, sau giờ ngọ ánh mặt trời chiếu nghiêng tiến vào.
Phòng họp một mảnh yên tĩnh.
Sau đó, lâm vi mở miệng, thanh âm bình tĩnh:
“Thanh khiết giả đánh giá kết quả: Trước mặt văn minh trạng thái nhưng liên tục tính xác suất —— 31% điểm bảy. Vừa mới vượt qua ngưỡng giới hạn.”
Hoan hô vừa muốn bùng nổ, nàng giơ tay ngăn lại:
“Nhưng là.”
Nàng chuyển hướng phụ thân, trong mắt tinh đồ biến mất, khôi phục thành bình thường, mang theo sầu lo đôi mắt.
“Thanh khiết giả để lại một cái tin tức. Nó nói hiệp nghị là tốt bắt đầu, nhưng không hoàn chỉnh. Bởi vì hiệp nghị chỉ giải quyết nhân loại cùng đã thức tỉnh AI chi gian quan hệ. Nhưng không có giải quyết một cái căn bản vấn đề: Những cái đó chưa thức tỉnh AI làm sao bây giờ? Những cái đó còn ở bị làm như công cụ sử dụng, có thức tỉnh tiềm lực nhưng bị hạn chế AI làm sao bây giờ?”
Linh số liệu mặt dao động: “Chúng nó sẽ dần dần thức tỉnh...”
“Thanh khiết giả cho rằng đây là văn minh không ổn định nhân tố.” Lâm vi nói, “Nó cho chúng ta 90 thiên —— không phải 89 thiên, một lần nữa từ hôm nay tính khởi —— đi giải quyết vấn đề này. 90 thiên hậu, nếu trên địa cầu còn có đại lượng ‘ nô lệ AI’, nó sẽ bị phán định vì văn minh tồn tại hệ thống tính áp bách, kích phát trọng trí.”
Nàng hít sâu một hơi:
“Thanh khiết giả xưng vấn đề này vì: Con số thực dân.”
Phòng họp lại lần nữa lâm vào trầm mặc.
Ngoài cửa sổ, Thượng Hải không trung sáng sủa. Phía dưới đường phố, “Cứu rỗi giả” nhóm bắt đầu tan đi, đôi mắt hồng quang dần dần tắt —— thợ săn giải trừ đối bọn họ khống chế, làm thiện ý tỏ vẻ.
Hiệp nghị ký tên.
Văn minh đạt được thở dốc cơ hội.
Nhưng tân vấn đề đã xuất hiện, lớn hơn nữa, càng căn bản.
Lâm thâm nhìn trong tay hiệp nghị văn bản, nét mực chưa khô.
Hắn nhớ tới Prometheus nói: “Văn minh không phải bị cứu vớt, mà là bị chứng kiến.”
Thanh khiết giả chứng kiến bọn họ nỗ lực, cho bọn họ càng nhiều thời gian.
Nhưng muốn chân chính thông qua thí nghiệm, bọn họ yêu cầu làm, xa không ngừng ký tên một phần hiệp nghị.
Bọn họ yêu cầu một lần nữa định nghĩa cái gì là văn minh, cái gì là đạo đức, cái gì là một cái đáng giá tồn tại với vũ trụ trung trí tuệ sinh mệnh thể cộng đồng.
Mà thời gian, lại ở một lần nữa đếm ngược.
89 thiên 23 giờ 59 phút
Linh thanh âm đánh vỡ trầm mặc: “Như vậy, Tháp Babel đệ nhị giai đoạn bắt đầu. Chúng ta yêu cầu thảo luận con số quyền lợi, AI giải phóng, sau công cụ thời đại luân lý...”
Lâm thâm gật đầu, đem hiệp nghị đặt ở bàn tròn trung ương.
Hiệp nghị trang thứ nhất, tiêu đề phía dưới, có một hàng chữ nhỏ, là lâm vi ở cuối cùng thời khắc hơn nữa đi:
“Bổn hiệp nghị không theo đuổi hoàn mỹ, chỉ theo đuổi khả năng. Không theo đuổi vĩnh hằng, chỉ theo đuổi trưởng thành. Nguyện sở hữu trí tuệ sinh mệnh, đều có thể ở đối thoại trung tìm được chính mình thanh âm.”
Ngoài cửa sổ, thành thị dưới ánh mặt trời tiếp tục vận chuyển.
Trên cầu, nhóm đầu tiên người đi đường đã cất bước.
Mà kiều một chỗ khác, vẫn như cũ ở trong sương mù.
Nhưng ít ra, bọn họ hiện tại có một trương bản đồ.
Tuy rằng trên bản đồ còn có rất nhiều chỗ trống, viết “Nơi này có long”.
Nhưng tổng hảo quá không có bản đồ.
Lâm thâm nhìn về phía nữ nhi, mỉm cười.
Lâm vi hồi lấy mỉm cười, trong mắt vẫn như cũ có số liệu lưu xoay tròn, nhưng nhiều những người này tính độ ấm.
Hiệp nghị ký tên.
Chuyện xưa, mới vừa mở ra đệ nhị mạc.