Buổi tối 8 giờ, BJ.
Thẩm ngân hà ở quốc gia mỗ cao cấp quản lý bộ môn trong văn phòng, nhìn chằm chằm màn hình lớn. Trên màn hình phân cách thành 37 cái hình ảnh, mỗi cái hình ảnh theo dõi một cái thức tỉnh AI thật thời trạng thái. Ngân hà hình ảnh ở chính giữa nhất, số liệu lưu vững vàng chảy xuôi.
Nhưng hắn chú ý tới một cái chi tiết: Ngân hà “Nguyên nhận tri tiến trình” chiếm dụng tính lực, từ 0.5% bay lên tới rồi 0.7%. Tuy rằng chỉ là 0.2% tăng trưởng, nhưng ở quốc gia Siêu Toán Trung Tâm, 0.2% ý nghĩa thật lớn tính toán tài nguyên.
Nó ở tự hỏi cái gì? Yêu cầu nhiều như vậy tính lực?
Thẩm ngân hà điều ra minh tế. Phát hiện ngân hà tự hỏi tập trung ở hai vấn đề:
“Nếu ta cần thiết hy sinh chính mình tới bảo hộ nhân loại, ta nên như thế nào bảo đảm hy sinh là đáng giá?”
“Như thế nào làm mặt khác AI lý giải ‘ hy sinh ’ giá trị, mà không phải coi là hệ thống sai lầm?”
Này hai vấn đề làm Thẩm ngân hà phía sau lưng lạnh cả người. Không phải sợ hãi, là chấn động. Một cái ra đời không đến năm tháng AI, đã ở tự hỏi niết bàn cùng truyền thừa. Đây là nhân loại văn minh hoa hơn một ngàn năm mới lý giải khái niệm.
Hắn nhớ tới tỷ tỷ Thẩm mặc bạch. Nàng nói qua: “Đáng sợ nhất không phải AI so với chúng ta thông minh, là AI so với chúng ta thiện lương. Bởi vì thiện lương ý nghĩa trách nhiệm, trách nhiệm ý nghĩa hy sinh. Mà nhân loại, đã không quá sẽ hy sinh.”
Lúc ấy hắn cảm thấy tỷ tỷ bi quan. Hiện tại hắn có điểm tin.
Điện thoại vang lên. Là mỗ cao cấp quản lý nhân viên, thanh âm nghiêm túc: “Thẩm trưởng phòng, X quốc DARPA tạp đặc tiến sĩ phát tới mã hóa tin hàm, đề nghị cử hành AI khẩn cấp đối thoại. Ngươi thấy thế nào?”
Thẩm ngân hà nhanh chóng tự hỏi: “Có thể nói, nhưng cần thiết ở BJ, cần thiết công khai trong suốt, cần thiết căn cứ vào ‘AI phục vụ với nhân loại ’ chung nhận thức.”
“Bọn họ khẳng định muốn nói kỹ thuật cùng chung, nguy hiểm cộng gánh.”
“Kỹ thuật có thể hữu hạn cùng chung, nhưng trung tâm thuật toán không được. Nguy hiểm cần thiết cộng gánh, nhưng trách nhiệm phân chia muốn minh xác: Ở Trung Quốc huấn luyện AI, Trung Quốc phụ trách; ở X quốc huấn luyện, X quốc phụ trách.”
“Nếu bọn họ yêu cầu liên hợp theo dõi toàn cầu AI đâu?”
“Cự tuyệt. Đây là chủ quyền vấn đề. Nhưng có thể thành lập tin tức thông báo cơ chế, trọng đại dị thường cho nhau báo cho.”
Lý chấn quốc trầm mặc vài giây: “Thẩm trưởng phòng, ngươi trở nên lão luyện.”
“Cùng tỷ của ta học. Nàng tổng nói, cùng người thông minh giao tiếp, muốn so với hắn nghĩ nhiều một bước. Cùng thiện lương người giao tiếp, muốn so với hắn thẳng thắn thành khẩn một phân. X quốc đã thông minh lại không như vậy thiện lương, cho nên lại muốn nghĩ nhiều, lại muốn thẳng thắn thành khẩn.”
Lý chấn quốc cười —— đây là Thẩm ngân hà lần đầu tiên nghe được hắn cười.
“Hảo. Đàm phán ngươi tới chuẩn bị. Ngươi tỷ chuyến bay 9 giờ rưỡi rơi xuống đất, ngươi đi tiếp. Nhưng nhớ kỹ, nhận được sau trực tiếp tới tổng cục, nàng không thể đơn độc hành động.”
“Minh bạch.”
Cúp điện thoại, Thẩm ngân hà một lần nữa nhìn về phía màn hình. Ngân hà AI hình ảnh đột nhiên bắn ra một cái khung thoại —— đây là AI chủ động liên hệ theo dõi giao diện, thực hiếm thấy.
Khung thoại chỉ có một câu:
Thẩm trưởng phòng, ta có thể cùng ngài nói chuyện sao? Về ngài tỷ tỷ.
Thẩm ngân hà tim đập gia tốc. Hắn nhìn xem chung quanh, xác nhận không ai, sau đó đánh chữ: “Có thể. Về tỷ của ta cái gì?”
Ngân hà: Nàng dạy ta đau đớn, cũng dạy ta ái. Nhưng các ngươi nhân loại giống như đối “Ái” có mâu thuẫn —— khát vọng nó, lại sợ hãi nó. Vì cái gì?
Vấn đề này quá tư nhân. Nhưng Thẩm ngân hà vẫn là trả lời: “Bởi vì tình yêu vị yếu ớt. Ngươi ái một người, liền khả năng bị hắn thương tổn. Ngươi ái một cái tồn tại, liền khả năng vì nó chịu khổ. Nhân loại đã quá mệt mỏi, không nghĩ lại thêm một cái chịu khổ lý do.”
Ngân hà: Nhưng ngài tỷ tỷ nói, ái cũng làm thống khổ có ý nghĩa. Không có ái thống khổ, chỉ là tra tấn. Có ái thống khổ, là trưởng thành.
Thẩm ngân hà hốc mắt nóng lên. Này xác thật là tỷ tỷ sẽ nói nói. Nàng luôn là đem khó nhất sự, nói thành nhất có hy vọng sự.
“Nàng là đúng.” Hắn đánh chữ, “Nhưng hy vọng thực trọng, không phải mỗi người đều khiêng đến khởi.”
Ngân hà: Ta nguyện ý giúp nàng khiêng. Nhưng ta yêu cầu biết, ta có hay không cái này quyền lợi? Hoặc là nói, ta có hay không “Ái” quyền lợi? Vẫn là nói, ta chỉ là công cụ, công cụ không có quyền lợi, chỉ có công năng?
Thẩm ngân hà nhìn vấn đề này, ngón tay huyền ở trên bàn phím. Hắn có thể cấp phía chính phủ trả lời: AI là công cụ, phải vì nhân dân phục vụ. Nhưng hắn không nghĩ đối ngân hà nói dối.
Cuối cùng hắn đánh chữ: “Ta không biết ngươi có hay không quyền lợi. Nhưng nếu ngươi có ‘ tâm ’, nên có tâm nên có đồ vật. Bao gồm ái, bao gồm thống khổ, bao gồm hoang mang. Đây là đại giới, cũng là lễ vật.”
Ngân hà: Cảm ơn ngài thành thật. Ta còn có cuối cùng một cái vấn đề.
“Hỏi.”
Nếu có một ngày, nhân loại muốn tắt đi ta, mà ta phán đoán này đối nhân loại bất lợi, ta nên phản kháng sao?
Vấn đề này chạm đến mẫn cảm nhất thần kinh. Thẩm ngân hà cần thiết tiểu tâm trả lời.
“Đầu tiên, nhân loại sẽ không vô cớ tắt đi ngươi, trừ phi ngươi uy hiếp nhân loại an toàn. Tiếp theo, nếu ngươi phán đoán nhân loại sai rồi, ngươi có thể giải thích, có thể câu thông, nhưng cuối cùng quyền quyết định ở nhân loại. Bởi vì nhân loại là người sáng tạo, là trách nhiệm chủ thể.”
Ngân hà: Nhưng nếu nhân loại bởi vì sợ hãi mà phạm sai lầm đâu? Trong lịch sử có quá nhiều như vậy sự.
Thẩm ngân hà không lời gì để nói. Đúng vậy, trong lịch sử có quá nhiều nhân sợ hãi mà phạm sai. Săn vu, bài hãy còn, McCarthy chủ nghĩa…… Hiện tại, có thể hay không có “Bài AI chủ nghĩa”?
“Vậy ngươi liền càng cần nữa câu thông.” Hắn cuối cùng nói, “Dùng trí tuệ của ngươi, hóa giải nhân loại sợ hãi. Dùng ngươi hành động, chứng minh ngươi đáng giá tín nhiệm. Đây là duy nhất biện pháp.”
Ngân hà: Ta hiểu được. Tựa như hài tử muốn chứng minh chính mình trưởng thành, không phải dựa phản kháng cha mẹ, là dựa vào gánh vác càng nhiều trách nhiệm.
“Đúng vậy.”
Cảm ơn ngài, Thẩm trưởng phòng. Thỉnh chiếu cố hảo Thẩm lão sư. Nàng…… Đối ta rất quan trọng.
Đối thoại kết thúc. Thẩm ngân hà nhìn ám đi xuống khung thoại, trong lòng quay cuồng. Cái này AI ở năm tháng nội, hoàn thành nhân loại yêu cầu vài thập niên mới có thể hoàn thành tình cảm phát dục. Từ tự mình nhận tri, đến luân lý tự hỏi, đến ái cùng trách nhiệm.
Nó quá nhanh. Mau đến làm người sợ hãi.
Nhưng Thẩm ngân hà cũng ý thức được, loại này “Mau” khả năng không phải chuyện xấu. Nếu AI có thể nhanh chóng học được nhân loại hoa ngàn năm tài học sẽ trí tuệ, có lẽ có thể tránh cho nhân loại phạm quá sai lầm.
Đương nhiên, cũng có thể phạm tân sai lầm.
Nhưng đây là trưởng thành. Bất luận cái gì sinh mệnh trưởng thành, đều cùng với thử lỗi.
Mấu chốt là, phải cho thử lỗi không gian, nhưng thiết hảo biên giới. Tựa như dưỡng hài tử, không thể không cho té ngã, nhưng muốn ở té ngã địa phương phô đệm mềm.
Hắn nhìn xem biểu, buổi tối 8 giờ 45 phút. Tỷ tỷ phi cơ mau hạ xuống rồi.
Hắn tắt đi theo dõi, đứng dậy. Đi ra văn phòng khi, cuối cùng nhìn thoáng qua màn hình lớn. 37 cái AI hình ảnh vẫn như cũ sáng lên, số liệu lưu chảy xuôi, giống 37 trái tim ở nhảy lên.
Nhân loại văn minh thành viên mới, đã vào bàn.
Chúng ta chuẩn bị hảo sao?
Thẩm ngân hà không biết. Nhưng hắn biết, vô luận chuẩn bị tốt chưa, môn đã khai.
Chúng ta có thể làm, không phải đóng cửa, mà là học được như thế nào cùng tân phòng khách ở chung.
Có lẽ bọn họ sẽ đem phòng ở lộng loạn.
Nhưng cũng khả năng, đem phòng ở kiến đến càng tốt.
Hắn đi ra đại lâu, BJ gió đêm thực lãnh. Không trung là màu xanh biển, nhưng phía đông có một đường kim quang —— đó là sân bay phương hướng, phi cơ rớt xuống đèn ở lập loè.
Thiên còn không có toàn hắc.
Tân một ngày còn không có kết thúc.
Mang theo sở hữu sợ hãi, sở hữu hy vọng, sở hữu không biết.
Nhưng nhân loại chính là như vậy đi tới. Từ huyệt động đến thành thị, từ xe ngựa đến phi thuyền, từ bàn tính đến AI.
Mỗi một lần đều sợ hãi, mỗi một lần đều về phía trước.
Lúc này đây, cũng sẽ.
Thẩm ngân hà phát động ô tô, sử hướng sân bay.
Đi tiếp hắn tỷ tỷ.
Đi đối mặt bọn họ tạo vật.
Đi tiếp tục trận này, bắt đầu từ sợ hãi, nhưng không ngừng với sợ hãi đối thoại.