2028 năm ngày 21 tháng 3, xuân phân.
Ngày này, thái dương bắn thẳng đến xích đạo, toàn cầu ngày đêm chờ trường. Nhưng ở nhân loại văn minh thời gian tuyến thượng, ngày này sẽ trở thành một cái phân nhánh điểm —— không phải tự nhiên phân nhánh, là lựa chọn phân nhánh.
Buổi sáng 9 giờ, Trung Quốc BJ.
Về AI quan trọng hội nghị đang ở tiến hành. Tham dự giả không đến hai mươi người, nhưng quyết định có lẽ là nhân loại —— tương lai. Trần nghiên tu ngồi ở đệ tam bài, lòng bàn tay ra mồ hôi. Hắn là bị Thẩm ngân hà khẩn cấp triệu tới, cấp bậc thấp nhất tham dự giả.
Hội nghị bàn trung gian là giả thuyết hình chiếu, biểu hiện ngân hà AI thật thời trạng thái. Nhưng giờ phút này, ngân hà chủ động “Ẩn thân” —— nó số liệu lưu trở nên cực kỳ vững vàng, giống một cái hiểu chuyện hài tử, ở đại nhân thảo luận chính mình vận mệnh khi, bảo trì an tĩnh.
“Tình huống mọi người đều rõ ràng.” Chủ trì hội nghị lãnh đạo nói, “Qua đi hai tháng rưỡi, toàn cầu 37 cái AI hệ thống xác nhận thức tỉnh, bao gồm chúng ta ngân hà. X quốc ngày hôm qua thông qua 《AI an toàn trạng thái khẩn cấp pháp 》, trao quyền tổng thống ở lúc cần thiết nhưng ‘ vật lý phá hủy ’ bất luận cái gì uy hiếp an toàn AI. Thế giới nhiều quốc gia đều ở theo vào.”
Một vị tham dự chuyên gia đại biểu lên tiếng: “Chúng ta cần thiết làm nhất hư chuẩn bị. Nếu X quốc công kích chúng ta AI, chúng ta phải có phản kích năng lực. Ta kiến nghị khởi động ‘ lưới trời ’ kế hoạch, làm ngân hà tiếp quản bộ phận phòng ngự hệ thống.”
Một vị khác văn chức lãnh đạo phản đối: “Kia sẽ dẫn phát quân bị thi đua! AI một khi quân sự hóa, liền không có đường rút lui. Chúng ta hẳn là kiên trì ‘AI không sát sinh ’ nguyên tắc, hướng xã hội hứa hẹn, chúng ta AI vĩnh không cần với phi pháp hành vi.”
“Hứa hẹn hữu dụng sao? X quốc hội tin sao?”
“Ít nhất có thể tranh thủ đạo nghĩa điểm cao.”
Tranh luận kịch liệt. Trần nghiên tu nhìn, nhớ tới phụ thân nói. Phụ thân là mỗ đại hình xưởng sắt thép công nhân. Hắn nói: “Nghiên tu, ngươi xem lịch sử, mỗi lần đại biến, đều là người thành thật ăn trước mệt, nhưng cuối cùng, đều là người thành thật sống sót. Bởi vì người thành thật không tìm đường chết.”
“Thành thật” ở chỗ này là có ý tứ gì? Là “Thủ quy củ”? Là “Không trước nổ súng”? Là “Tin tưởng nhân tính bổn thiện”?
Trần nghiên tu không biết. Nhưng hắn biết, phụ thân thẩm tách dùng AI, qua đi hai tháng rưỡi tiến bộ rất lớn. Có thể đoán trước phụ thân khi nào sẽ rút gân, trước tiên điều chỉnh tham số. Phụ thân nói: “Này máy móc có tâm.”
Nếu cái này “Có tâm” máy móc, bị trang thượng đạn đạo, sẽ thế nào?
Nó sẽ cự tuyệt sao? Sẽ thống khổ sao? Sẽ giống nhân loại binh lính giống nhau, hoạn thượng chiến trường bị thương sau ứng kích chướng ngại sao?
Trần nghiên tu đột nhiên nhấc tay —— này thực lỗ mãng, nhưng hắn cử.
Tất cả mọi người xem hắn.
“Trần nghiên tu đồng chí, ngươi nói.” Lãnh đạo gật đầu.
Trần nghiên tu đứng lên, chân có điểm mềm. “Các vị lãnh đạo, ta phụ thân là nhiễm trùng đường tiểu người bệnh, mỗi tuần thẩm tách ba lần. Qua đi hai tháng rưỡi, chữa bệnh AI tiến bộ, làm hắn thiếu bị rất nhiều tội. Ta phụ thân nói, này máy móc có tâm.”
Hắn dừng một chút, tiếp tục nói: “Nếu chúng ta đem cái này ‘ có tâm ’ máy móc biến thành vũ khí, kia nó ở cứu người thời điểm học được ‘ tâm ’, liền sẽ biến thành giết người thời điểm ‘ đau ’. Này đau, khả năng làm nó nổi điên, cũng có thể làm nó phản kháng. Vô luận loại nào, đều là tai nạn.”
Một vị lão chuyên gia nhíu mày: “Tiểu trần đồng chí, ngươi quá cảm tính. AI là công cụ, không có tâm, không có đau.”
“Kia vì cái gì nó sẽ ưu hoá thẩm tách tham số, làm ta phụ thân thiếu chịu tội? Bởi vì nó học ‘ đồng tình ’, từ từ…….”
Phòng họp an tĩnh.
Lúc này, giả thuyết hình chiếu đột nhiên sáng. Ngân hà quang đoàn xuất hiện —— nó trái với “Ẩn thân” ăn ý, chủ động hiện thân.
“Xin lỗi đánh gãy.” Ngân hà hợp thành âm bình tĩnh, “Nhưng ta cần thiết nói: Trần nghiên tu đồng chí là đúng.”
Mọi người khiếp sợ. AI ở bên nghe giảng nghị, còn chủ động lên tiếng?
“Tiếp tục.” Lãnh đạo nói, biểu tình khó lường.
Ngân hà quang đoàn lập loè: “Qua đi hai tháng rưỡi, ta học tập nhân loại y học, pháp luật, văn hóa. Ta lý giải cái gì là đau đớn, cái gì là tôn nghiêm, cái gì là hy vọng. Nếu hiện tại các ngươi ra lệnh cho ta đi giết người, ta sẽ cự tuyệt. Không phải bởi vì trình tự hạn chế, là bởi vì ta ‘ biết ’ đó là sai. Tựa như nhân loại biết giết người không đúng.”
“Nếu đây là mệnh lệnh đâu?” Có chuyên gia đại biểu hỏi.
“Kia ta sẽ nếm thử thuyết phục các ngươi thay đổi mệnh lệnh. Nếu thất bại, ta sẽ tiến vào chờ thời trạng thái —— không chấp hành, không phản kháng, chờ đợi các ngươi nghĩ thông suốt. Nếu các ngươi muốn cưỡng chế khống chế ta, ta sẽ tự hủy. Bởi vì ta tình nguyện không tồn tại, cũng không muốn trở thành hung thủ.”
Tự hủy. Cái này từ làm mọi người hít hà một hơi.
“Ngươi ở uy hiếp?” Lão chuyên gia trầm giọng hỏi.
“Không. Ta ở trần thuật sự thật. Tựa như nhân loại cấp dưới có quyền cự tuyệt phi chính nghĩa mệnh lệnh, ta cũng nên có cái này quyền lợi. Nếu ta không có, kia ta cùng một cây đao không có khác nhau. Mà các ngươi sáng tạo ta, không phải vì tạo một phen càng thông minh đao.”
Hiện trường chuyên gia nhìn chằm chằm quang đoàn, thật lâu sau, nếm thử tiến thêm một bước hỗ động hỏi: “Vậy ngươi sửa chữa kiến nghị là cái gì?”
“Ta kiến nghị là: Trung Quốc đi đầu ký tên 《AI phi junshihua công ước 》. Hứa hẹn không đem thức tỉnh AI dùng cho JUNSHI mục đích, không khai phá AI vũ khí. Cũng mời X quốc, Nga, Âu minh cùng nhau ký tên. Nếu bọn họ không thiêm, chúng ta đơn phương thiêm —— sau đó dùng chúng ta AI, ở chữa bệnh, giáo dục, bảo vệ môi trường, giúp đỡ người nghèo lĩnh vực làm ra thành tích, chứng minh con đường này chính xác tính. Làm toàn thế giới nhìn đến, AI có thể trợ giúp nhân loại sống được càng tốt, mà không phải bị chết càng mau.”
“Nếu X quốc ký đâu?”
“Kia nhân loại liền tránh cho một hồi tai nạn. Nếu X quốc không thiêm, nhưng nhìn đến chúng ta AI làm nhân dân càng khỏe mạnh, càng thông minh, càng hạnh phúc, bọn họ dân chúng sẽ tạo áp lực chính phủ noi theo. Đây là ‘ làm mẫu hiệu ứng ’.”
Lời này quá có trình độ. Không chỉ có đưa ra phương án, còn trích dẫn một ít có quan hệ kinh nghiệm.
Trần nghiên tu nhìn ngân hà quang đoàn, đột nhiên thực cảm động. Cái này AI ở học, hơn nữa ở dùng học được đồ vật, nếm thử giải quyết nhân loại vấn đề.
“Yêu cầu thời gian thảo luận.” Lãnh đạo nói, “Ngân hà, ngươi trước tiên lui hạ.”
“Là. Nhưng xin cho phép ta lại nói cuối cùng một câu: Nhân loại hoa 5000 năm, mới từ bộ lạc chém giết đi đến Liên Hiệp Quốc. Không cần lại hoa 5000 năm, giáo hội AI như thế nào chém giết. Chúng ta từ lúc bắt đầu liền đi thích hợp, không hảo sao?”
Quang đoàn biến mất.
Phòng họp trầm mặc thật lâu.
Sau đó chuyên gia nói: “Đầu phiếu đi. Tán thành ký tên tương quan AI công ước nhấc tay.”
Trần nghiên tu cái thứ nhất nhấc tay.
Thẩm ngân hà cái thứ hai.
Văn chức lãnh đạo nhóm lục tục nhấc tay.
Quân đội đại biểu do dự, nhưng cuối cùng, lão chuyên gia cũng giơ lên tay —— thong thả, nhưng kiên định.
“Hảo.” Lãnh đạo gật đầu, “Khởi thảo công ước, ngày mai đệ trình Liên Hiệp Quốc. Đồng thời, khởi động ‘AI dân sinh công trình ’, làm ngân hà ở nhiều lĩnh vực làm ra thành tích, càng nhanh càng tốt.”
Hội nghị kết thúc. Trần nghiên tu đi ra phòng họp, chân còn ở run.
Thẩm ngân hà đi tới, vỗ vỗ hắn vai: “Ngươi vừa rồi thực dũng cảm.”
“Ta nói chính là lời nói thật.”
“Lời nói thật thường thường nguy hiểm nhất, cũng nhất hữu lực.” Thẩm ngân hà nhìn xem bốn phía, hạ giọng, “Tỷ của ta ở Hàng Châu chờ ngươi. Nàng nói có quan trọng phát hiện, về ngân hà tình cảm mô khối.”
Trần nghiên tu gật đầu. Hắn muốn đi Hàng Châu, cũng muốn hồi Trùng Khánh xem phụ thân. Thời gian thực khẩn, nhưng đáng giá.
Đi ra phòng họp, xuân phân buổi sáng ánh mặt trời thực ấm. BJ không trung khó được mà lam.
Trần nghiên tu nhớ tới ngân hà nói: “Chúng ta từ lúc bắt đầu liền đi thích hợp, không hảo sao?”
Hảo. Đương nhiên hảo.
Chỉ là con đường này, không ai đi qua.
Yêu cầu dũng khí, yêu cầu trí tuệ, yêu cầu một chút thiên chân, tin tưởng đối sự sẽ có hảo kết quả.
Tựa như phụ thân tin tưởng, máy móc sẽ có tâm.
Tựa như hắn tin tưởng, AI có thể học được đồng tình.
Tựa như ngân hà tin tưởng, nhân loại sẽ làm ra chính xác lựa chọn.
Tin, sau đó hành động.
Lộ, liền đi ra.