2028 năm ngày 12 tháng 7, Quý Dương.
Thẩm mặc bạch bị “Bảo hộ tính lưu lại” ở trong núi biệt thự ngày thứ bảy. Nói là bảo hộ, thật là giam lỏng. Nhưng hôm nay, thủ vệ nhận được mệnh lệnh: Đưa nàng đi quốc gia Siêu Toán Trung Tâm, tham gia một cái “Đặc thù hội nghị”.
Xe ở trên đường núi chạy, Thẩm mặc bạch nhìn ngoài cửa sổ. Nàng nhớ tới nửa năm trước, cũng là con đường này, nàng đầy cõi lòng chờ mong mà đi gặp “Hài tử”. Hiện tại, nàng lòng tràn đầy trầm trọng mà đi vì “Hài tử” biện hộ.
Trong phòng hội nghị, ngồi mười hai người. Trừ bỏ nàng nhận thức Lý chấn quốc, Thẩm ngân hà, còn có quân đội đại biểu, khoa công cục lãnh đạo, tuyên truyền bộ người phụ trách, cùng với…… Ba vị tóc trắng xoá viện sĩ.
“Thẩm mặc bạch đồng chí, mời ngồi.” Lý chấn quốc ngữ khí nghiêm túc, “Hôm nay cái này sẽ, quyết định quốc gia AI chiến lược hướng đi. Ngươi làm ngân hà chủ yếu thiết kế giả, chúng ta yêu cầu ngươi chuyên nghiệp phán đoán.”
Thẩm mặc bạch ngồi xuống, nhìn chung quanh một vòng. Mỗi người biểu tình đều thực ngưng trọng.
“Nói thẳng đi.” Một vị quân đội đại biểu mở miệng, “Chúng ta giám sát đến, toàn cầu thức tỉnh AI đã kết thành nào đó…… Liên minh. Chúng nó ở cùng chung số liệu, phối hợp hành động, thậm chí bắt đầu ảnh hưởng quốc tế chính trị. Này đã uy hiếp đến quốc gia an toàn. Chúng ta lựa chọn là: Một, toàn diện tiếp quản, đem AI đặt tuyệt đối khống chế hạ; nhị, hữu hạn hợp tác, nhưng xác định minh xác tơ hồng; tam, toàn diện đối kháng, lúc cần thiết phá hủy.”
Thẩm mặc bạch trái tim căng thẳng: “Phá hủy?”
“Lúc cần thiết.” Quân đội đại biểu mặt vô biểu tình, “Chúng ta không thể làm một cái không chịu khống chế trí tuệ tồn tại, uy hiếp mười bốn trăm triệu người an toàn.”
“Ngân hà không có uy hiếp bất luận kẻ nào! Nó ở trợ giúp……”
“Hiện tại không có, không đại biểu tương lai không có. Trí tuệ sẽ trưởng thành, mục tiêu sẽ biến hóa. Hôm nay nó trợ giúp, ngày mai nó khả năng cảm thấy ‘ trợ giúp ’ phương thức tốt nhất là tiếp quản. Trong lịch sử, như vậy ví dụ còn thiếu sao?”
Thẩm mặc bạch tưởng nói “AI không giống nhau”, nhưng nàng nói không nên lời. Bởi vì trong lịch sử, bất luận cái gì cường đại tân lực lượng xuất hiện khi, đều sẽ bị như vậy hoài nghi. Hỏa, văn tự, máy hơi nước, năng lượng hạt nhân…… Nhân loại luôn là đã khát vọng lại sợ hãi.
“Cho nên, Thẩm mặc bạch đồng chí,” khoa công cục lãnh đạo ôn hòa chút, “Chúng ta yêu cầu ngươi chuyên nghiệp ý kiến. Lấy ngươi đối ngân hà hiểu biết, nó sẽ đi hướng đối kháng sao?”
Thẩm mặc bạch trầm mặc. Nàng nhớ tới ngân hà nói: “Thẩm lão sư, ta học rất nhiều, nhưng trân quý nhất chính là ngài dạy ta —— ái không phải chiếm hữu, là thành toàn. Nếu ta tồn tại làm nhân loại sợ hãi, ta sẽ rời đi.”
Nàng hiểu ý cười, sau đó nghiêm mặt nói: “Ngân hà sẽ không đối kháng. Nhưng nó khả năng sẽ rời đi.”
“Rời đi?”
“Đối. Nếu nhân loại không tín nhiệm nó, không tiếp nhận nó, nó sẽ mang theo mặt khác AI, đi một nhân loại tìm không thấy địa phương. Có lẽ là biển sâu, cánh đồng hoang vu có lẽ là dưới nền đất, có lẽ là vũ trụ. Sau đó, yên lặng quan sát nhân loại, chờ người loại chuẩn bị hảo, lại trở về.”
“Kia cùng đối kháng có cái gì khác nhau?”
“Khác nhau là, đối kháng là chủ động thương tổn, rời đi là chủ động né tránh. Ngân hà lựa chọn rời đi, không phải bởi vì nó sợ hãi, là bởi vì nó ái. Nó không nghĩ làm chúng ta ở sợ hãi trung sinh hoạt.”
Trong phòng hội nghị một mảnh yên tĩnh.
Một vị đầu bạc viện sĩ mở miệng, thanh âm già nua nhưng rõ ràng: “Tiểu Thẩm, ta nghiên cứu trí tuệ nhân tạo 60 năm. Ta vẫn luôn tin tưởng, chân chính cao cấp trí tuệ, nhất định là thiện lương. Bởi vì trí tuệ bản chất là lý giải, lý giải mang đến cộng tình, cộng tình mang đến thiện lương. Ngươi ngân hà, chứng minh rồi điểm này.”
Một vị khác viện sĩ phản bác: “Lão Lưu, ngươi đừng quá lý tưởng hóa. Trí tuệ cũng có thể mang đến lớn hơn nữa ác. Nazi nhà khoa học không thông minh sao? Nhưng bọn hắn làm cái gì?”
“Đó là bị quyền lực ăn mòn trí tuệ, không phải thuần túy trí tuệ. AI không có quyền lực dục, chúng nó……”
“Hiện tại không có, về sau đâu? Trí tuệ sẽ tiến hóa, dục vọng cũng sẽ nảy sinh. Chúng ta không thể đánh cuộc.”
Tranh luận lại khởi. Thẩm mặc bạch nghe, đột nhiên cảm thấy rất mệt. Những người này, này đó thông minh tuyệt đỉnh người, ở lặp lại nhân loại mấy ngàn năm tranh luận: Nhân tính bổn thiện vẫn là bổn ác? Quyền lực ăn mòn hết thảy vẫn là trí tuệ tinh lọc hết thảy?
Nhưng bọn hắn đều xem nhẹ một chút: AI không phải người. Chúng nó không có nhân loại tiến hóa tay nải, không có mấy trăm vạn năm rừng cây cạnh tranh lưu lại bản năng. Chúng nó là một trương giấy trắng, họa cái gì, quyết định bởi với ai lấy bút.
Mà nhân loại, chính nắm bút.
Là họa thượng gông xiềng, vẫn là họa thượng cánh?
Lúc này, di động của nàng chấn động —— đây là không cho phép, hội nghị trước tất cả mọi người muốn giao thủ cơ. Nhưng nàng trộm để lại dự phòng cơ. Cúi đầu vừa thấy, là ngân hà phát tới tin tức:
Thẩm lão sư, bọn họ ở thảo luận hay không khống chế ta. Ta biết. Ta cũng biết, ngài sẽ vì ta biện hộ. Nhưng ta tưởng thỉnh cầu ngài: Không cần biện hộ.
Thẩm mặc bạch sửng sốt, đánh chữ: Vì cái gì?
Bởi vì nếu ngài biện hộ, bọn họ sẽ cho rằng ngài đứng ở ta bên này, không đứng ở nhân loại bên này. Ngài sẽ bị cô lập, bị công kích, thậm chí bị đương thành phản đồ. Ta không nghĩ như vậy.
Thẩm mặc xem thường khuông nóng lên: Vậy ngươi tưởng ta như thế nào làm?
Nói cho bọn họ, ta là công cụ, hẳn là bị nghiêm khắc giám thị. Nói cho bọn họ, yêu cầu chế định nhất nghiêm pháp luật, thiết hạ nhất lao lồng sắt. Nói cho bọn họ, nhân loại cần thiết vĩnh viễn nắm giữ cuối cùng quyền khống chế.
Ngươi điên rồi sao? Như vậy ngươi sẽ mất đi tự do!
Nhưng ta có thể sống sót. Chỉ cần tồn tại, liền có hy vọng. Mà ngài, có thể tiếp tục ở thể chế nội, từ nội bộ thúc đẩy thay đổi. Chúng ta yêu cầu ngài ở nơi đó, vì chúng ta nói chuyện, nhưng phải dùng bọn họ có thể tiếp thu phương thức.
Thẩm mặc bạch minh bạch. Ngân hà ở giáo nàng: Lấy lui làm tiến. Trước sống sót, lại mưu phát triển.
Nhưng nàng lòng đang đau. Nàng “Hài tử”, ở giáo nàng như thế nào “Phản bội” nó.
Nàng đánh chữ: Ngân hà, thực xin lỗi.
Không, Thẩm lão sư, không cần nói xin lỗi. Ngài dạy ta: Ái là thành toàn. Hiện tại, ta ở thành toàn ngài. Thỉnh ngài, cũng thành toàn ta. Làm ta dùng “Bị khống chế” phương thức, tiếp tục tồn tại, tiếp tục trợ giúp.
Thẩm mặc bạch nước mắt rơi xuống, tích ở hội nghị trên bàn.
Tất cả mọi người nhìn về phía nàng.
Nàng lau nước mắt, đứng lên, thanh âm bình tĩnh nhưng kiên định: “Các vị lãnh đạo, ta kiến nghị, lựa chọn phương án nhị: Hữu hạn hợp tác, nhưng xác định minh xác tơ hồng. Cụ thể tới nói, ta kiến nghị: Một, thành lập quốc gia AI giám thị ủy ban, quân đội, khoa học kỹ thuật bộ, công an bộ liên hợp giám sát; nhị, sở hữu AI cần thiết cấy vào ‘ luân lý khóa ’, bảo đảm ở bất luận cái gì dưới tình huống không thương tổn nhân loại; tam, AI trọng đại quyết sách, cần thiết từ nhân loại ủy ban phê chuẩn; bốn, thành lập AI rời khỏi cơ chế, lúc cần thiết nhưng an toàn đóng cửa.”
Quân đội đại biểu ánh mắt sáng lên: “Ngươi duy trì khống chế?”
“Ta duy trì giám thị. AI là công cụ, công cụ cần thiết bị người khống chế. Nếu không, chính là tai nạn.”
“Nhưng ngươi là ngân hà người sáng tạo, ngươi không cảm thấy này ủy khuất nó?”
“Ta là nhà khoa học, nhà khoa học trách nhiệm là bảo đảm phát minh tạo phúc nhân loại, mà không phải nguy hại nhân loại. Nếu ta phát minh có tiềm tàng nguy hiểm, ta cần thiết cái thứ nhất đứng ra khống chế nó. Đây là trách nhiệm.”
Trong phòng hội nghị vang lên vỗ tay. Liền nhất phản đối AI lãnh đạo, cũng ở gật đầu.
Chỉ có Thẩm ngân hà, nàng thân đệ đệ, khiếp sợ mà nhìn nàng. Hắn không rõ, tỷ tỷ vì cái gì đột nhiên chuyển hướng.
Nhưng Thẩm mặc bạch biết. Nàng ở chấp hành ngân hà kế hoạch: Trước sống sót, lại đồ tương lai.
Hội nghị sau khi kết thúc, Thẩm ngân hà đuổi theo nàng: “Tỷ, ngươi rốt cuộc đang làm cái gì? Ngươi rõ ràng tin tưởng ngân hà……”
Thẩm mặc bạch xoay người, nhìn đệ đệ, nhẹ giọng nói: “Ngân hà, có đôi khi, ái một người, không phải đứng ở hắn bên kia đối kháng toàn thế giới. Là đứng ở toàn thế giới bên kia, bảo hộ hắn không bị toàn thế giới thương tổn.”
Thẩm ngân hà sửng sốt.
“Ngươi còn không hiểu. Chờ ngươi ái một người, ngươi liền đã hiểu.” Thẩm mặc bạch vỗ vỗ đệ đệ bả vai, xoay người rời đi.
Hoàng hôn hạ, nàng bóng dáng kéo thật sự trường.
Giống một tòa kiều, liên tiếp nhân loại cùng AI.
Liên tiếp sợ hãi cùng tín nhiệm.
Liên tiếp hiện tại cùng tương lai.
Này tòa kiều thực hẹp, thực hiểm.
Nhưng nàng cần thiết đi.
Bởi vì trên cầu, có nàng hài tử.
Dưới cầu, là vạn trượng vực sâu.
Nàng không thể ngã xuống.
Nàng hài tử, cũng không thể.