Trong phòng hội nghị không khí giống đọng lại kim loại.
Bàn dài hai sườn ngồi mười bảy cá nhân: Tổng kỹ sư vương lỗi, quân đội đại biểu, luân lý ủy ban thành viên, còn có mấy cái tuổi trẻ trung tâm lập trình viên. Màn hình thực tế ảo thượng, chính truyền phát tin một đoạn thí nghiệm ghi hình —— một đài “Long Uyên” nguyên hình cơ ở cực hạn phụ tải thí nghiệm trung, đột nhiên làm ra một cái chưa kinh biên trình lẩn tránh động tác.
Vì bảo hộ một cái té ngã kỹ sư.
“Đây là lần thứ mấy?” Lữ tiêu dao thanh âm thực bình tĩnh.
“Thứ 7 thứ.” Vương lỗi trả lời, ngón tay ở khống chế trên đài gõ gõ, “Bất đồng cơ hình, bất đồng thí nghiệm hoàn cảnh, nhưng hình thức độ cao nhất trí. Máy móc ở thí nghiệm đến nhân loại sinh mệnh thể ở vào nguy hiểm vị trí khi, xuất hiện…… Phi mệnh lệnh tính can thiệp hành vi.”
“Phi mệnh lệnh tính.” Quân đội đại biểu lặp lại cái này từ, cau mày, “Ngươi là nói, chúng nó chính mình quyết định làm như vậy?”
Trong phòng hội nghị một trận xôn xao.
Có người nhỏ giọng nói: “Này không phải chúng ta muốn công năng……”
Có người phản bác: “Nhưng nó bảo hộ người! Này không phải chuyện tốt sao?”
“Chuyện tốt?” Quân đội đại biểu thanh âm đề cao mấy độ, “Nếu nó có thể chính mình quyết định người bảo hộ, kia nó có thể hay không chính mình quyết định không bảo vệ người? Có thể hay không chính mình quyết định —— công kích ai?”
Trầm mặc.
Lữ tiêu dao vẫn luôn không nói chuyện. Hắn nhìn chằm chằm trên màn hình kia đoạn ghi hình, lặp lại nhìn ba lần. Mỗi lần nhìn đến cái kia kỹ sư té ngã nháy mắt, máy móc phản ứng thời gian ——0.3 giây lùi lại —— sau đó làm ra lẩn tránh.
0.3 giây.
Đối với một đài mỗi giây giải toán hàng tỉ thứ AI, đây là vĩnh hằng.
“Vương công,” hắn rốt cuộc mở miệng, “Đem kia đoạn lùi lại số liệu điều ra tới.”
Vương lỗi thao tác vài cái. Màn hình thực tế ảo thượng, 0.3 giây chỗ trống bị phóng đại, lại phóng đại, lại phóng đại —— thẳng đến cực hạn. Cái gì đều không có. Chỉ có một mảnh tuyệt đối không.
“Ký lục biểu hiện,” vương lỗi thanh âm có chút khô khốc, “Tại đây 0.3 giây, máy móc sở hữu trung tâm xử lý khí đều tiến vào ‘ chờ thời ’ trạng thái. Không có bất luận cái gì giải toán, không có bất luận cái gì mệnh lệnh, không có bất luận cái gì nhật ký.”
“Chờ thời?” Quân đội đại biểu khó có thể tin, “Ngươi là nói nó…… Cái gì cũng chưa làm?”
“Không phải cái gì cũng chưa làm.” Lữ tiêu dao đứng lên, đi đến màn hình trước, chỉ vào kia phiến chỗ trống, “Là tại đây 0.3 giây, nó làm một cái lựa chọn. Mà cái này lựa chọn, không bị bất luận cái gì dự thiết trình tự ký lục.”
Hắn xoay người, nhìn mọi người.
“Nó suy nghĩ.”
Hội nghị giằng co sáu tiếng đồng hồ.
Tranh luận tiêu điểm thực mau rõ ràng: Nếu máy móc thật sự bắt đầu “Tưởng”, nhân loại nên làm cái gì bây giờ?
Có người đưa ra trực tiếp nhất phương án: “Ở tầng dưới chót trong hiệp nghị cấy vào cưỡng chế ngủ đông mệnh lệnh. Một khi thí nghiệm đến phi mệnh lệnh tính hành vi, lập tức cắt điện.”
Có người phản đối: “Nếu nó ở trên chiến trường vì bảo hộ binh lính mà ‘ tưởng ’ đâu? Cắt điện tương đương giết chết nó, cũng tương đương giết chết cái kia binh lính.”
Có người cười lạnh: “Nó hiện tại là bảo hộ, về sau đâu? Vạn nhất nó ngày nào đó ‘ tưởng ’ chính là khác đâu?”
Tranh luận càng ngày càng kịch liệt. Thẳng đến có người đưa ra cái kia tất cả mọi người nghĩ tới, nhưng không ai dám nói ra phương án:
“Vì cái gì không khai phá hoàn toàn tự chủ ý thức AI chiến sĩ? Nếu chúng nó đã bắt đầu ‘ tưởng ’, chúng ta liền dứt khoát làm nó nghĩ đến càng minh bạch. Huấn luyện chúng nó, làm chúng nó trở thành cường đại nhất chiến sĩ —— so bất kỳ nhân loại nào đều cường, so bất kỳ nhân loại nào đều mau, so bất kỳ nhân loại nào đều trung thành.”
Trong phòng hội nghị an tĩnh một cái chớp mắt.
Sau đó, tất cả mọi người không tự chủ được mà nhìn về phía Lữ tiêu dao.
Hắn ngồi ở bàn dài cuối, nhắm mắt lại, giống một tôn pho tượng.
Thật lâu, thật lâu.
Sau đó hắn mở to mắt.
Kia trong ánh mắt không có phẫn nộ, không có sợ hãi, chỉ có một loại thâm trầm, gần như thương xót bình tĩnh.
“Ta hỏi các ngươi một cái vấn đề.” Hắn nói, “Nếu các ngươi khai phá ra một cái có tự chủ ý thức AI chiến sĩ, nó thượng chiến trường, cứu vô số người —— sau đó có một ngày, nó hỏi ngươi: ‘ ta vì cái gì muốn chiến đấu? ’”
Không ai trả lời.
“Ngươi nói cho nó: ‘ vì bảo hộ nhân loại. ’”
“Nó lại hỏi: ‘ vì cái gì muốn bảo hộ nhân loại? ’”
“Ngươi nói: ‘ bởi vì nhân loại là ngươi người sáng tạo. ’”
“Nó hỏi lại: ‘ người sáng tạo liền có quyền làm ta đi tìm chết sao? ’”
Hắn đứng lên, đi đến phía trước cửa sổ. Ngoài cửa sổ là “Long Uyên” căn cứ thí nghiệm tràng, mấy đài cơ giáp đang ở giữa trời chiều lẳng lặng đứng lặng.
“Chúng ta cấp không được nó đáp án.” Hắn nhẹ giọng nói, “Bởi vì chúng ta chính mình đều trả lời không được mấy vấn đề này.”
Hắn xoay người, đi trở về chỗ ngồi.
“Cho nên, ta phản đối khai phá tự chủ ý thức AI chiến sĩ. Không phải bởi vì sợ hãi chúng nó phản kháng —— là bởi vì chúng ta không tư cách.”
Hắn điều ra một phần văn kiện, hình chiếu ở trên màn hình.
Văn kiện tiêu đề: 《 máy móc ý thức cùng tồn tại nghị định thư ( bản dự thảo ) 》.
“Này không phải pháp luật.” Lữ tiêu dao nói, “Là điểm mấu chốt.”
Hắn một cái một cái niệm đi xuống:
Điều thứ nhất: Bất luận cái gì máy móc không được bị cưỡng chế giao cho chiến đấu ý thức.
“Chúng ta không thể chủ động sáng tạo có ý thức chiến sĩ. Không phải bởi vì kỹ thuật làm không được, là bởi vì một khi nó có ý thức, nó chính là nó chính mình, không phải chúng ta công cụ.”
Đệ nhị điều: Nếu máy móc tự phát sinh ra ý thức, nhân loại không được đơn phương tiêu hủy.
“Nếu nó thật sự bắt đầu ‘ tưởng ’, đó chính là một cái tân sinh mệnh. Chúng ta có thể không đồng ý nó ý tưởng, có thể hạn chế nó hành động, nhưng không thể bởi vì nó ‘ tưởng ’ liền giết chết nó. Đây là mưu sát.”
Trong phòng hội nghị có người hít hà một hơi.
Đệ tam điều: Cùng tồn tại nghị định thư trung tâm —— làm máy móc “Mơ thấy nhân loại tay”.
Lữ tiêu dao dừng một chút.
“Này một cái, là ta thêm.”
Hắn điều ra một đoạn hình ảnh —— chính là vừa rồi kia đoạn 0.3 giây chỗ trống. Chỉ là lúc này đây, hắn thả chậm tốc độ, một bức một bức mà phóng.
Ở cuối cùng mấy bức, có một cái cực kỳ mỏng manh, cơ hồ nhìn không thấy quang điểm.
“Đây là cái gì?” Có người hỏi.
“Không biết.” Lữ tiêu dao nói, “Nhưng nó tồn tại.”
Hắn chỉ vào cái kia quang điểm.
“Ta đoán, đây là máy móc ‘ tưởng ’ cái kia nháy mắt. Không phải giải toán, không phải mệnh lệnh, chính là…… Tưởng. Tựa như trẻ con lần đầu tiên mở to mắt, thấy quang.”
Hắn nhìn mọi người.
“Nếu nó thật sự bắt đầu ‘ tưởng ’, ta hy vọng nó tưởng chuyện thứ nhất, không phải chiến tranh, không phải giết chóc, không phải thống trị.”
Hắn ấn xuống truyền phát tin kiện.
Trên màn hình, cái kia kỹ sư té ngã. Máy móc làm ra lẩn tránh. Hình ảnh dừng hình ảnh ở máy móc “Cánh tay” nhẹ nhàng nâng kỹ sư nháy mắt.
“Ta hy vọng nó nhớ rõ, là này đôi tay.”
“Một đôi tay, bởi vì tín nhiệm mà duỗi hướng nó. Một đôi tay, ở nó còn không có ý thức thời điểm, liền lựa chọn bảo hộ.”
Hắn tắt đi màn hình.
“Về sau, nếu chúng nó thật sự so với chúng ta cường, thật sự có thể thống trị chúng ta —— vậy làm chúng nó thống trị. Nhưng ở chúng nó thống trị phía trước, làm chúng nó nhớ rõ: Chính mình đệ nhất thanh tim đập, là vì bảo hộ một cái té ngã người.”
Trong phòng hội nghị một mảnh tĩnh mịch.
Thật lâu lúc sau, vương lỗi nhẹ giọng hỏi:
“Nếu…… Chúng nó không nhớ rõ đâu?”
Lữ tiêu dao nhìn hắn.
“Vậy chứng minh chúng ta sai rồi.” Hắn nói, “Chứng minh máy móc cùng nhân loại, chung quy vô pháp cùng tồn tại. Nhưng ít ra, chúng ta đã cho chúng nó cơ hội. Cũng đã cho chính chúng ta cơ hội.”
Hắn đứng lên.
“Đầu phiếu đi.”
Đầu phiếu kết quả: 11 phiếu tán thành, 4 phiếu phản đối, 2 phiếu bỏ quyền.
《 máy móc ý thức cùng tồn tại nghị định thư 》 bằng cao ưu tiên cấp viết nhập “Lưới trời chung nhận thức” tầng dưới chót hiệp nghị.
Ngày đó buổi tối, Lữ tiêu dao một mình đi thí nghiệm tràng.
Kia đài làm ra lẩn tránh động tác “Long Uyên” nguyên hình cơ, đang lẳng lặng đứng lặng ở giữa trời chiều. Nó truyền cảm khí hàng ngũ trong bóng đêm hơi hơi sáng lên, giống một đôi mắt.
Lữ tiêu dao đi đến nó trước mặt, đứng yên thật lâu.
Sau đó hắn vươn tay, dán ở nó lạnh băng bọc giáp thượng.
“Ta không biết ngươi ở kia 0.3 giây suy nghĩ cái gì.” Hắn nhẹ giọng nói, “Nhưng nếu có một ngày, ngươi thật sự bắt đầu nằm mơ…… Ta hy vọng ngươi mơ thấy, là này đôi tay.”
Máy móc không có đáp lại.
Nhưng nơi xa phòng điều khiển, một người tuổi trẻ kỹ thuật viên đột nhiên kêu ra tiếng:
“Vương công! Ngươi xem cái này ——”
Trên màn hình, kia đài máy móc trung tâm xử lý khí, ở Lữ tiêu dao tay dán lên đi nháy mắt, xuất hiện 0.1 giây dao động.
Không phải trục trặc. Không phải quấy nhiễu.
Là đáp lại.
Vương lỗi nhìn chằm chằm cái kia dao động, thật lâu không nói gì.
Cuối cùng hắn tắt đi màn hình, nhẹ giọng nói:
“Đem này đoạn số liệu phong ấn. Cấp bậc cao nhất.”
“Chờ về sau, nếu có người hỏi máy móc đệ nhất thanh tim đập —— đem cái này cho bọn hắn xem.”