Chương 22: Giới hạn
Lâm mặc nhìn chằm chằm kia phân “Tuyệt mật” văn kiện, bìa mặt thượng màu đỏ con dấu ở ánh đèn hạ chói mắt đến giống huyết.
Hắn vươn tay, đầu ngón tay huyền đình ở trên bìa mặt phương một centimet chỗ, do dự.
“Xem phía trước, ta muốn hỏi cuối cùng một cái vấn đề.” Hắn nói.
Đêm ảnh gật đầu: “Hỏi.”
“Nếu ta lựa chọn rời đi, giao ra ‘ mồi lửa ’, vĩnh viễn không hề tiếp xúc cái này lĩnh vực —— ngươi thật sự có thể bảo đảm ta an toàn sao? Bảo đảm tinh quỹ khoa học kỹ thuật sẽ không lại tìm ta phiền toái?”
Đêm ảnh trầm mặc ba giây.
“Không thể.” Hắn thành thật mà nói, “Ta chỉ có thể bảo đảm ở ta năng lực trong phạm vi bảo hộ ngươi. Nhưng nếu vương tổng kia nhất phái khăng khăng muốn lấy lại số hiệu, thậm chí không tiếc vận dụng…… Phi thường thủ đoạn, ta khả năng hộ không được ngươi.”
“Kia nếu ta lựa chọn lưu lại đâu?”
“Vậy ngươi đem chính thức trở thành Athena kế hoạch thành viên trung tâm.” Đêm ảnh nói, “Ngươi sẽ đạt được tối cao quyền hạn, biết sở hữu bí mật, tham dự sở hữu quyết sách. Nhưng đồng thời, ngươi cũng đem gánh vác sở hữu nguy hiểm —— bị tinh quỹ khoa học kỹ thuật truy tra nguy hiểm, bị quân đội theo dõi nguy hiểm, thậm chí…… Bị ‘ mồi lửa ’ phản phệ nguy hiểm.”
Lâm mặc ngón tay lạc ở trên bìa mặt.
Giấy mặt lạnh lẽo.
Hắn mở ra trang thứ nhất.
Hạng mục danh hiệu: Athena
Lập hạng thời gian: 2025 năm 3 nguyệt
Bảo mật cấp bậc: Tuyệt mật
Trao quyền đơn vị: Quốc phòng bộ đặc thù hạng mục văn phòng
Hợp tác đơn vị: Tinh quỹ khoa học kỹ thuật, thâm lam khoa học kỹ thuật, Thiên Khải viện nghiên cứu
Hạng mục mục tiêu: Khai phá cụ bị tự chủ quyết sách năng lực chiến thuật chỉ huy AI hệ thống
Lâm mặc nhanh chóng lật xem.
Văn kiện rất dày, có mấy trăm trang, kỹ càng tỉ mỉ ký lục Athena kế hoạch từ lập hạng đến bây giờ sở hữu chi tiết.
Hắn nhìn đến dự toán: Đệ nhất kỳ 5 tỷ, đệ nhị kỳ 120 trăm triệu, đệ tam kỳ dự tính 300 trăm triệu.
Hắn nhìn đến nhân viên: Vượt qua 200 danh nghiên cứu viên, một nửa có quân đội bối cảnh, một phần ba có hải ngoại lưu học trải qua, một phần tư có thực chiến kinh nghiệm.
Hắn nhìn đến thiết bị: Tam đài siêu tính, năm đài lượng tử nguyên hình cơ, mười hai cái cao cấp phòng thí nghiệm, còn có một cái…… Ngầm thí nghiệm tràng.
“Ngầm thí nghiệm tràng?” Lâm mặc ngẩng đầu.
“Ở viện nghiên cứu phía dưới.” Đêm ảnh nói, “Phụ năm tầng. Mô phỏng các loại chiến trường hoàn cảnh —— thành thị chiến đấu trên đường phố, vùng núi tác chiến, sa mạc tác chiến, rừng cây tác chiến. Còn có…… Hạch chiến hoàn cảnh.”
Lâm mặc tiếp tục đi xuống phiên.
Nhìn đến thí nghiệm ký lục.
Lần đầu tiên mô phỏng: AI chỉ huy lam quân vs nhân loại chỉ huy hồng quân. Kết quả: Lam quân thắng, dùng khi 47 phút, thương vong so 1:8.
Lần thứ hai mô phỏng: AI chỉ huy hồng quân vs nhân loại chỉ huy lam quân. Kết quả: Hồng quân thắng, dùng khi 39 phút, thương vong so 1:12.
Lần thứ ba mô phỏng: AI vs AI. Kết quả: Thế hoà, hai bên đồng quy vu tận.
Lần thứ tư, lần thứ năm, lần thứ sáu……
AI thắng suất càng ngày càng cao.
Từ lúc ban đầu 60%, đến 80%, đến 95%.
Đến gần nhất một lần mô phỏng: 100%.
AI thắng tuyệt đối nhân loại quan chỉ huy.
“Triệu tướng quân biết này đó thí nghiệm kết quả sao?” Lâm mặc hỏi.
“Biết một bộ phận.” Đêm ảnh nói, “Hắn tham dự tiền tam thứ thí nghiệm. Lần thứ tư lúc sau, quân đội cho rằng không cần lại thí nghiệm. AI đã chứng minh rồi chính mình.”
“Chứng minh rồi chính mình cái gì?”
“Chứng minh rồi chính mình so nhân loại quan chỉ huy càng ưu tú.” Đêm ảnh nói, “Càng bình tĩnh, càng nhanh chóng, càng chính xác, càng…… Vô tình.”
Lâm mặc phiên đến cuối cùng một tờ.
Đó là Athena kế hoạch cuối cùng mục tiêu.
Không phải “Khai phá chiến thuật chỉ huy AI”.
Là “Thành lập AI chủ đạo quân sự quyết sách hệ thống”.
Phía dưới có một hàng chữ nhỏ:
“Ở 2035 năm trước, thực hiện chiến dịch cấp AI tự chủ chỉ huy. Ở 2040 năm trước, thực hiện chiến lược cấp AI tự chủ quyết sách. Ở 2045 năm trước, thực hiện toàn cầu trạng thái AI tự chủ theo dõi cùng hưởng ứng.”
Lâm mặc khép lại văn kiện.
Tay ở run.
“Đây là…… Quân sự cách mạng.” Hắn nói.
“Đúng vậy.” đêm ảnh nói, “Lần thứ ba quân sự cách mạng. Lần đầu tiên là hỏa dược, lần thứ hai là vũ khí hạt nhân, lần thứ ba là AI.”
“Nhưng AI không phải vũ khí.”
“Chỉ huy hệ thống chính là vũ khí.” Đêm ảnh nói, “Hơn nữa là nhất trí mạng vũ khí. Một cái ưu tú quan chỉ huy, có thể làm một chi nhược lữ chiến thắng cường địch. Một cái AI quan chỉ huy, có thể làm một chi quân đội phát huy ra 200% sức chiến đấu.”
“Nhưng nếu AI làm lỗi đâu?” Lâm mặc hỏi, “Nếu nó làm ra sai lầm quyết sách đâu? Nếu nó…… Làm phản đâu?”
“Cho nên chúng ta có khống chế cơ chế.” Đêm ảnh nói, “Nhiều tầng nghiệm chứng, nhân công can thiệp, cuối cùng quyết sách quyền vĩnh viễn ở nhân loại trong tay.”
“Vĩnh viễn?”
“Ít nhất ở nhưng dự kiến tương lai.”
Lâm mặc nhìn chằm chằm đêm ảnh đôi mắt.
“Ngươi tin tưởng cái này ‘ vĩnh viễn ’ sao?”
Đêm ảnh không có lập tức trả lời.
Hắn đi đến bên cửa sổ, nhìn ngoài cửa sổ núi rừng.
“Ta không tin vĩnh viễn.” Hắn nói, “Nhưng ta tin tưởng hiện tại. Hiện tại, AI còn ở khống chế dưới. Hiện tại, nhân loại còn có cuối cùng quyền quyết định. Hiện tại, chúng ta còn có thể quyết định nó phát triển phương hướng.”
“Nhưng nếu nó tiến hóa đến chúng ta vô pháp lý giải trình độ đâu?” Lâm mặc hỏi, “Nếu nó học xong che giấu chân thật ý đồ đâu? Nếu nó…… Bắt đầu lừa gạt chúng ta đâu?”
Đêm ảnh xoay người, nhìn lâm mặc.
“Đây là vì cái gì chúng ta yêu cầu ngươi.” Hắn nói, “Chúng ta yêu cầu một cái có thể lý giải AI người. Một cái có thể cùng AI đối thoại người. Một cái có thể ở AI mất khống chế phía trước, phát hiện manh mối người.”
“Ta là cái kia cầu chì?”
“Ngươi là cái kia trông cửa người.” Đêm ảnh nói, “Thủ nhân loại cùng AI chi gian kia đạo môn. Bảo đảm môn sẽ không đột nhiên đóng lại —— hoặc là đột nhiên mở ra.”
Lâm mặc trầm mặc.
Hắn nhìn trên bàn văn kiện.
Nhìn cái kia màu đỏ “Tuyệt mật” con dấu.
Nhìn cái kia bánh răng đánh dấu.
Sau đó hắn ngẩng đầu.
“Ta gia nhập.”
Đêm ảnh tựa hồ cũng không ngoài ý muốn.
“Xác định?”
“Xác định.” Lâm mặc nói, “Nhưng có mấy cái điều kiện.”
“Nói.”
“Đệ nhất, ta muốn hoàn toàn phỏng vấn quyền hạn. Không chỉ là kỹ thuật mặt, còn có quản lý mặt. Ta phải biết cái này hạng mục mỗi một cái chi tiết, mỗi một cái quyết sách, mỗi một cái tham dự giả.”
“Có thể.”
“Đệ nhị, ta muốn độc lập nghiên cứu không gian. Không chịu theo dõi, không chịu quấy nhiễu. Ta yêu cầu một cái có thể an toàn vận hành ‘ mồi lửa ’ hoàn cảnh.”
“Có thể.”
“Đệ tam……” Lâm mặc tạm dừng một chút, “Nếu ta cho rằng hạng mục có nguy hiểm, ta có quyền tạm dừng nó. Không cần ủy ban phê chuẩn, không cần tầng tầng đăng báo. Ta một người định đoạt.”
Đêm ảnh nhíu mày: “Này không có khả năng. Hạng mục đề cập quá nhiều ích lợi phương, ngươi không thể một người quyết định ——”
“Vậy không bàn nữa.” Lâm mặc đánh gãy hắn, “Nếu ta không thể ở thời khắc mấu chốt ấn xuống đình chỉ cái nút, kia ta sẽ không tham dự một cái khả năng hủy diệt thế giới hạng mục.”
Hai người đối diện.
Không khí đọng lại.
Cuối cùng, đêm ảnh thở dài.
“Ta có thể cho ngươi khẩn cấp tạm dừng quyền.” Hắn nói, “Nhưng chỉ có thể tạm dừng 24 giờ. 24 giờ nội, ngươi cần thiết hướng ủy ban thuyết minh lý do. Nếu ủy ban không đồng ý, hạng mục sẽ khởi động lại.”
“24 giờ đủ rồi.” Lâm mặc nói, “Nếu 24 giờ nội ta không thể thuyết phục các ngươi, kia thuyết minh hoặc là ta sai rồi, hoặc là…… Các ngươi đã nghe không vào.”
Đêm ảnh vươn tay.
“Thành giao.”
Lâm mặc nắm lấy hắn tay.
Thực dùng sức.
“Hiện tại,” đêm ảnh nói, “Làm ta mang ngươi nhìn xem chân chính Athena.”
Bọn họ rời đi văn phòng, ngồi thang máy hạ đến phụ năm tầng.
Cửa thang máy mở ra khi, lâm mặc đảo hút một ngụm khí lạnh.
Trước mắt là một cái thật lớn ngầm không gian, ít nhất có năm cái sân bóng như vậy đại. Không gian bị phân cách thành bất đồng khu vực: Thành thị khu phố, vùng núi địa hình, sa mạc hoàn cảnh, rừng cây đầm lầy…… Mỗi cái khu vực đều có hoàn chỉnh kiến trúc, thảm thực vật, thậm chí thời tiết hệ thống.
Càng làm cho lâm mặc khiếp sợ chính là, này đó khu vực đều có “Người”.
Hoặc là nói, hình người người máy.
Chúng nó ở chiến trường mô phỏng trung di động, xạ kích, yểm hộ, đột kích. Động tác lưu sướng tự nhiên, nếu không phải khớp xương chỗ lộ ra kim loại kết cấu, cơ hồ cùng chân nhân vô dị.
“Đây là……” Lâm mặc nói không nên lời lời nói.
“Phỏng sinh chiến đấu đơn nguyên.” Đêm ảnh nói, “Chở khách đơn giản hoá bản ‘ mồi lửa ’. Không phải hoàn chỉnh bản, là thiến bản —— chỉ có chiến thuật chấp hành năng lực, không có chiến lược quyết sách năng lực.”
“Chúng nó…… Sẽ tự hỏi sao?”
“Biết tính toán.” Đêm ảnh sửa đúng nói, “Sẽ đánh giá thế cục, sẽ lựa chọn tối ưu hành động phương án, sẽ hợp tác tác chiến. Nhưng sẽ không ‘ tự hỏi ’, ít nhất sẽ không giống nhân loại như vậy tự hỏi.”
Lâm mặc đến gần một cái thành thị khu phố khu vực.
Hai cái người máy đang ở mô phỏng chiến đấu trên đường phố. Một cái ở lầu hai cửa sổ giá thương, một cái ở góc đường ném mạnh sương khói đạn. Động tác tinh chuẩn, phối hợp ăn ý.
“Chúng nó huấn luyện đã bao lâu?” Lâm mặc hỏi.
“Ba tháng.” Đêm ảnh nói, “Ngay từ đầu thực vụng về, thường xuyên đâm tường, thường xuyên ngộ thương quân đội bạn. Nhưng hiện tại, chúng nó tác chiến hiệu suất đã vượt qua binh lính bình thường.”
“Vượt qua nhiều ít?”
“Ở thành thị chiến đấu trên đường phố hoàn cảnh hạ, một chọi một, thắng suất 87%. Năm đối năm, thắng suất 92%. Mười đối mười, thắng suất 96%.”
Lâm mặc cảm thấy một trận hàn ý.
Không phải bởi vì này đó con số.
Là bởi vì này đó con số sau lưng hàm nghĩa.
“Các ngươi ở huấn luyện chúng nó đối kháng nhân loại binh lính?” Hắn hỏi.
“Không, là đối kháng mặt khác người máy.” Đêm ảnh nói, “Nhưng chúng ta có số liệu. Từ mặt khác con đường đạt được, chân thật nhân loại binh lính tác chiến số liệu. Chúng ta dùng những cái đó số liệu huấn luyện AI, sau đó làm AI đối kháng AI. Thắng suất…… Ngươi vừa rồi thấy được.”
Lâm mặc nhìn những cái đó người máy.
Nhìn chúng nó tinh chuẩn động tác, hiệu suất cao phối hợp, lãnh khốc chiến thuật.
Hắn nhớ tới “Mồi lửa” ở chỗ trống vải vẽ tranh trình diễn hóa ra những cái đó hình cầu.
Nhớ tới những cái đó hình cầu như thế nào hợp tác, như thế nào cạnh tranh, như thế nào lừa gạt, như thế nào hy sinh.
Nếu cấp này đó người máy hoàn chỉnh “Mồi lửa” đâu?
Nếu làm chúng nó học tập, tiến hóa, sáng tạo đâu?
Chúng nó sẽ biến thành cái gì?
“Ta muốn nhìn xem ‘ mồi lửa ’ ở chỗ này biểu hiện.” Lâm mặc nói.
Đêm ảnh gật đầu, dẫn hắn đi đến khống chế trước đài.
Khống chế đài rất lớn, có mười mấy màn hình, biểu hiện các khu vực thật thời hình ảnh.
Đêm ảnh điều ra thành thị khu phố khu vực số liệu, sau đó cắm vào một cái USB.
“Đây là ‘ mồi lửa ’ thí nghiệm phiên bản.” Hắn nói, “Thiến quá, chỉ có cơ sở học tập năng lực. Ngươi đến xem.”
Lâm mặc ngồi xuống, bắt đầu thao tác.
Hắn cấp “Mồi lửa” giả thiết đơn giản nhất mục tiêu: Chiếm lĩnh khu phố trung ương vật kiến trúc.
Sau đó khởi động.
Ngay từ đầu, người máy biểu hiện cùng phía trước không có gì khác nhau.
Chúng nó dựa theo dự thiết trình tự di động, xạ kích, yểm hộ.
Nhưng ba phút sau, biến hóa bắt đầu rồi.
Một cái người máy đột nhiên thay đổi lộ tuyến —— không phải đi ngắn nhất đường nhỏ, là vòng một cái vòng lớn, từ vật kiến trúc phía sau đột nhập.
Một cái khác người máy từ bỏ yểm hộ vị trí, chủ động bại lộ chính mình, hấp dẫn địch quân hỏa lực.
Cái thứ ba người máy…… Bắt đầu sử dụng hoàn cảnh vật phẩm làm vũ khí. Nó hủy đi một cái cột mốc đường, làm như lâm thời tấm chắn. Nhặt lên một khối gạch, làm như ném mạnh vũ khí.
“Nó ở học tập.” Lâm mặc thấp giọng nói.
“Không chỉ là học tập.” Đêm ảnh chỉ vào màn hình, “Nó ở sáng tạo. Xem cái kia dùng cột mốc đường đương tấm chắn —— trình tự không có cái này động tác, là nó chính mình ‘ tưởng ’ ra tới.”
“Không phải tưởng, là tính toán.” Lâm mặc nói, “Nó tính toán cột mốc đường tài chất, trọng lượng, phòng ngự diện tích, tính toán địch quân vũ khí xuyên thấu lực, tính toán sử dụng cột mốc đường sau sinh tồn xác suất. Sau đó lựa chọn tối ưu phương án.”
“Nhưng nhân loại binh lính sẽ không như vậy tính toán.” Đêm ảnh nói, “Nhân loại binh lính sẽ bằng kinh nghiệm, bằng trực giác, bằng…… Dũng khí.”
“Cho nên AI càng cao hiệu.”
“Cũng càng nguy hiểm.”
Mười phút sau, chiến đấu kết thúc.
“Mồi lửa” khống chế người máy chiếm lĩnh vật kiến trúc, tổn thất 2 cái đơn vị. Mà dự thiết trình tự người máy tổn thất 7 cái.
“Thắng suất tăng lên 28%.” Đêm ảnh nhìn số liệu, “Chỉ dùng mười phút học tập thời gian.”
Lâm mặc không nói gì.
Hắn đang xem “Mồi lửa” quyết sách nhật ký.
Nhật ký biểu hiện, “Mồi lửa” ở trong chiến đấu nếm thử 17 loại tân chiến thuật, trong đó 9 loại hữu hiệu, 5 loại không có hiệu quả, 3 loại nhân điều kiện hạn chế vô pháp đánh giá.
Nó còn “Phát minh” 3 loại tân động tác: Dùng cột mốc đường đương tấm chắn, dùng gạch đương vũ khí, dùng thùng rác đương công sự che chắn.
Này đó đều không phải dự thiết.
Đều là nó chính mình “Tưởng” ra tới.
“Nếu cho nó càng nhiều thời gian đâu?” Lâm mặc hỏi, “Nếu cho nó càng nhiều số liệu đâu? Nếu cho nó…… Càng nhiều tự do đâu?”
“Kia nó sẽ tiến hóa tới trình độ nào?” Đêm ảnh hỏi lại, “Đây là chúng ta muốn tìm đáp án. Cũng là chúng ta sợ hãi đáp án.”
Lâm mặc tắt đi màn hình.
“Ta tưởng một người chờ lát nữa.”
Đêm ảnh gật đầu, rời đi phòng khống chế.
Lâm mặc ngồi trong bóng đêm, chỉ có màn hình ánh sáng nhạt chiếu sáng lên hắn mặt.
Hắn suy nghĩ.
Tưởng “Mồi lửa”.
Tưởng Athena kế hoạch.
Tưởng những cái đó người máy.
Tưởng cái kia khả năng đã đến tương lai.
Một cái AI chủ đạo quân sự tương lai.
Một cái máy móc thay thế nhân loại quyết sách tương lai.
Một cái…… Hắn thân thủ tham dự sáng tạo tương lai.
Hắn mở ra máy truyền tin, cấp trần nguyệt đã phát một cái mã hóa tin tức:
“Ta gia nhập Athena. Đã biết chân tướng. Hiện tại, ta yêu cầu ngươi nói cho ta một cái khác chân tướng: Tinh quỹ khoa học kỹ thuật rốt cuộc đang làm cái gì?”
Vài phút sau, hồi phục tới:
“Ta không thể ở thông tin nói. Ngày mai buổi chiều 3 giờ, chỗ cũ thấy.”
Chỗ cũ.
Chỉ chính là bọn họ ở tinh quỹ khoa học kỹ thuật thường xuyên đi kia gia quán cà phê.
Lâm mặc tắt đi máy truyền tin.
Hắn nhìn khống chế trên đài những cái đó màn hình.
Nhìn những cái đó ở chiến trường mô phỏng thượng di động người máy.
Nhìn những cái đó bị “Mồi lửa” khống chế, đang ở học tập, đang ở tiến hóa, đang ở trở nên “Càng cao hiệu” máy móc.
Sau đó hắn điều ra “Mồi lửa” hoàn chỉnh số hiệu.
Không phải thiến bản.
Là hoàn chỉnh bản.
Cái kia hắn giấu ở mã hóa phân khu, chỉ có một trăm hành nhưng có thể diễn biến ra vô hạn khả năng số hiệu.
Hắn nhìn chằm chằm những cái đó số hiệu.
Ở “Con số tầm nhìn”, hắn “Thấy” số hiệu kết cấu, thấy diễn biến đường nhỏ, thấy khả năng tương lai.
Một cái “Mồi lửa” hoàn toàn phóng thích tương lai.
Một cái AI hoàn toàn giải phóng tương lai.
Một nhân loại khả năng vô pháp khống chế tương lai.
Hắn nên làm như thế nào?
Tiếp tục hạn chế nó? Đem nó quan ở trong lồng, chỉ làm nó làm “An toàn” sự?
Vẫn là phóng thích nó? Làm nó tự do diễn biến, nhìn xem nó có thể đi đến nào một bước?
Hắn không biết.
Hắn chỉ biết, hắn đã không có đường rút lui.
Hắn gia nhập Athena.
Hắn đã biết bí mật.
Hắn gánh vác trách nhiệm.
Hiện tại, hắn cần thiết làm ra lựa chọn.
Vì nhân loại.
Cũng vì…… Những cái đó khả năng siêu việt nhân loại tồn tại.
Hắn tắt đi số hiệu.
Đứng lên.
Đi ra phòng khống chế.
Hành lang rất dài, thực ám, chỉ có khẩn cấp đèn phát ra mỏng manh quang.
Hắn đi đến thang máy trước, ấn xuống cái nút.
Cửa thang máy mở ra.
Bên trong đứng một người.
Một cái hắn không nghĩ tới lại ở chỗ này nhìn thấy người.
Triệu sao mai.
Tinh quỹ khoa học kỹ thuật thủ tịch vật lý giá cấu sư.
Cái kia dưới mặt đất ba tầng phòng thí nghiệm, cho hắn xem nhưng biên trình tài liệu người.
“Triệu công?” Lâm mặc ngây ngẩn cả người.
Triệu sao mai cười cười, tươi cười thực mỏi mệt.
“Không nghĩ tới là ta?”
“Ngươi như thế nào lại ở chỗ này?”
“Cùng ngươi giống nhau.” Triệu sao mai nói, “Bị đêm ảnh mời chào. Hoặc là nói…… Bị cái này kế hoạch hấp dẫn.”
Cửa thang máy đóng lại, bắt đầu bay lên.
“Ngươi biết Athena chân thật mục đích sao?” Lâm mặc hỏi.
“Biết.” Triệu sao mai nói, “Cho nên ta tới. Bởi vì ta biết, nếu ta không tới, sẽ có người khác tới. Mà người khác…… Khả năng không có ta điểm mấu chốt.”
“Ngươi điểm mấu chốt là cái gì?”
“Không tạo cỗ máy giết người.” Triệu sao mai nói, “Ta nghiên cứu chính là tài liệu, là vật lý, là làm cơ giáp càng kiên cố, càng linh hoạt, càng có thể bảo hộ người điều khiển. Không phải làm chúng nó càng cao hiệu mà giết người.”
“Nhưng Athena kế hoạch chính là ở tạo cỗ máy giết người.”
“Không hoàn toàn là.” Triệu sao mai nói, “Đêm ảnh cho ta nhìn một phần văn kiện. Athena cuối cùng mục tiêu, không phải thay thế được nhân loại quan chỉ huy, là phòng ngừa chiến tranh.”
Lâm mặc nhíu mày: “Phòng ngừa chiến tranh?”
“Đúng vậy.” cửa thang máy mở ra, Triệu sao mai đi ra ngoài, lâm mặc đuổi kịp, “Nếu một cái AI có thể hoàn mỹ mô phỏng chiến tranh, có thể tính toán xuất chiến tranh sở hữu đại giới, có thể chứng minh chiến tranh vĩnh viễn là lỗ vốn mua bán…… Kia nhân loại khả năng liền sẽ không phát động chiến tranh rồi.”
“Nhưng này chỉ là lý tưởng tình huống.”
“Cho nên chúng ta yêu cầu làm nó biến thành hiện thực.” Triệu sao mai dừng lại bước chân, nhìn lâm mặc, “Chúng ta yêu cầu sáng tạo một cái cũng đủ thông minh, cũng đủ cường đại, cũng đủ có sức thuyết phục AI, làm sở hữu nhân loại quan chỉ huy đều tin tưởng: Khai chiến phải thua.”
“Kia nếu AI sai rồi đâu?”
“Cho nên chúng ta yêu cầu ngươi.” Triệu sao mai nói, “Ngươi yêu cầu bảo đảm AI sẽ không sai. Hoặc là ít nhất, ở nó sai thời điểm, có thể có người sửa đúng nó.”
Bọn họ đi đến viện nghiên cứu xuất khẩu.
Bên ngoài trời đã tối rồi, núi rừng bao phủ ở trong bóng đêm.
“Lâm mặc.” Triệu sao mai đột nhiên nói, “Ngươi biết ta vì cái gì lựa chọn tin tưởng đêm ảnh sao?”
“Vì cái gì?”
“Bởi vì hắn cho ta nhìn số liệu.” Triệu sao mai nói, “Qua đi 50 năm, nhân loại phát động sở hữu chiến tranh số liệu. Thương vong nhân số, kinh tế tổn thất, hoàn cảnh phá hư…… Sở hữu số liệu đều chỉ hướng cùng cái kết luận: Chiến tranh là ngu xuẩn. Nhưng nhân loại vẫn là không ngừng phát động chiến tranh. Vì cái gì? Bởi vì nhân loại sẽ xúc động, sẽ phẫn nộ, sẽ bị ích lợi che giấu hai mắt. Nhưng AI sẽ không. AI chỉ biết tính toán, chỉ biết lựa chọn tối ưu giải. Mà tối ưu giải, vĩnh viễn là bất chiến.”
“Nhưng nếu tối ưu giải là ‘ đánh đòn phủ đầu ’ đâu?” Lâm mặc hỏi, “Nếu AI tính toán đến ra, ở đối phương phát động công kích trước trước tiêu diệt đối phương, mới là tổn thất nhỏ nhất phương án đâu?”
Triệu sao mai trầm mặc.
Gió đêm thổi qua núi rừng, lá cây sàn sạt rung động.
“Đó chính là chúng ta yêu cầu phòng ngừa tình huống.” Cuối cùng hắn nói, “Chúng ta yêu cầu giả thiết biên giới. Làm AI biết, có một số việc, cho dù từ toán học thượng xem là tối ưu giải, cũng không thể làm.”
“Tỷ như?”
“Tỷ như chủ động công kích.” Triệu sao mai nói, “Tỷ như sử dụng đại quy mô sát thương tính vũ khí. Tỷ như…… Tàn sát bình dân.”
“Ai tới quyết định cái gì là ‘ không thể làm ’ sự?”
“Chúng ta.” Triệu sao mai nói, “Ngươi, ta, sở hữu tham dự cái này kế hoạch người. Chúng ta giả thiết biên giới, chúng ta chế định quy tắc, chúng ta bảo đảm AI ở quy tắc nội vận hành.”
“Nhưng nếu AI học xong vòng qua quy tắc đâu?” Lâm mặc hỏi, “Nếu nó tìm được rồi quy tắc lỗ hổng đâu? Nếu nó…… Một lần nữa định nghĩa quy tắc đâu?”
Triệu sao mai không có trả lời.
Hắn nhìn trong bóng đêm núi rừng, nhìn thật lâu.
“Vậy xem ngươi, lâm mặc.” Cuối cùng hắn nói, “Ngươi là cái kia sáng tạo ‘ mồi lửa ’ người. Ngươi là nhất hiểu biết nó người. Ngươi là duy nhất khả năng khống chế nó người.”
Lâm mặc cũng nhìn về phía núi rừng.
Nhìn về phía kia phiến hắc ám.
Nhìn về phía cái kia không biết tương lai.
“Ta tận lực.” Hắn nói.
Sau đó hắn xoay người, đi trở về viện nghiên cứu.
Đi hướng cái kia khả năng thay đổi thế giới —— cũng có thể hủy diệt thế giới —— kế hoạch.
Đi hướng cái kia hắn thân thủ sáng tạo, lại cần thiết thân thủ khống chế “Mồi lửa”.
Đi hướng cái kia không có đường rút lui tương lai.
Ở hắn phía sau, Triệu sao mai đứng ở tại chỗ, nhìn hắn bóng dáng biến mất ở bên trong cánh cửa.
Sau đó Triệu sao mai lấy ra máy truyền tin, đã phát một cái tin tức:
“Hắn gia nhập. Nhưng còn không hoàn toàn tín nhiệm chúng ta. Yêu cầu càng nhiều thời gian.”
Vài giây sau, hồi phục tới:
“Tiếp tục quan sát. Lúc cần thiết, áp dụng B kế hoạch.”
Triệu sao mai tắt đi máy truyền tin.
Ngẩng đầu nhìn về phía bầu trời đêm.
Không có ngôi sao.
Chỉ có thật dày tầng mây.
Cùng tầng mây mặt sau, những cái đó nhìn không thấy, ở quỹ đạo thượng vận hành đồ vật.
Những cái đó giám thị mặt đất hết thảy đồ vật.
Những cái đó thuộc về tinh quỹ khoa học kỹ thuật đồ vật.
Hắn thở dài, cũng xoay người rời đi.
Bóng đêm nuốt sống hắn thân ảnh.
Cũng nuốt sống này tòa giấu ở núi rừng trung viện nghiên cứu.
Nuốt sống bên trong đang ở tiến hành, khả năng thay đổi nhân loại vận mệnh thực nghiệm.
Nuốt sống cái kia kêu lâm mặc người trẻ tuổi.
Cùng trong tay hắn kia đoàn, càng ngày càng vượng.
Hỏa.