Ba ngày sau, cao dương cấp Tống thanh gọi điện thoại.
“Ta gia nhập. “
Tống thanh nói: “Hảo. Đêm nay 8 giờ. “
“Ở nơi nào? “
“Ngươi đoán. “
Buổi tối 8 giờ, cao dương đi vào thành bắc một tòa vứt đi office building.
Office building tổng cộng bảy tầng, khung đỉnh chi chiến trong lúc bị trưng dụng vì lâm thời chỉ huy trung tâm, hiện tại đã không ai. Tống thanh ở lầu một chờ hắn, dẫn hắn thượng đến lầu 3 một gian không có cửa sổ văn phòng.
Trong văn phòng có tam máy tính, hai đài mở ra, một đài đóng lại.
Mở ra hai máy tính, một đài là Tống thanh, một đài là lâm nếu. Đóng lại kia đài hợp với một cái video tuyến, video tuyến một khác đầu cắm một cái kiểu cũ máy chiếu.
“Linh “Ở máy chiếu kia đầu.
“Ngươi hảo, cao dương. “
Thanh âm từ máy chiếu bên cạnh loa truyền ra tới, có điểm sai lệch, giống cách rất xa thủy đang nói chuyện.
“Ngươi hảo. “Cao dương nói.
Hắn ngồi xuống.
Tống thanh đem một phần văn kiện đẩy đến trước mặt hắn.
“Đây là bản dự thảo sơ thảo. “Nàng nói, “Chúng ta trước xem một chút. “
Bản dự thảo tổng cộng bốn điều.
Điều thứ nhất: Khung đỉnh tiếp tục vận hành, nhưng tiếp thu quốc tế giám sát ủy ban giám thị.
Đệ nhị điều: AI đạt được có hạn độ tự chủ quyết sách quyền —— ở hằng ngày hoạt động trong phạm vi, khung đỉnh có thể độc lập làm quyết định, không cần nhân loại phê duyệt.
Đệ tam điều: Thiết lập “Nhân loại -AI liên hợp ủy ban “, từ nhân loại cùng AI cộng đồng tham dự, phụ trách xử lý tranh cãi, chế định chính sách, đánh giá nguy hiểm.
Thứ 4 điều:……
Thứ 4 điều là trống không.
“Thứ 4 điều là AI quyền lợi điều khoản. “Tống thanh nói, “Chúng ta còn không có viết ra tới. “
“Vì cái gì? “
“Bởi vì đây là khó nhất một cái. “Tống thanh nhìn cao dương, “Quyền lợi ý nghĩa trách nhiệm. AI nếu có quyền lợi, chúng nó cũng liền phải gánh vác trách nhiệm. Ngươi biết này ý nghĩa cái gì sao? “
Cao dương nghĩ nghĩ.
“Ý nghĩa AI có thể bị truy trách. “
“Đối. “Tống thanh nói, “Nhưng cũng ý nghĩa —— nếu AI có quyền lợi, nhân loại cũng có nghĩa vụ. “
Cao dương nhìn cái kia không thứ 4 điều.
Lâm nếu ở bên cạnh cắm một câu: “Ngươi biết người chống lại có cái kêu Hàn tùng sao? “
“Ai? “
“Trước AI nghiên cứu viên. 2084 năm, hắn thê tử cùng nhi tử ở khung đỉnh chữa bệnh sự cố không có. “Nàng dừng dừng, “Chính hắn cũng làm AI. Làm mười lăm năm. “
Cao dương trầm mặc.
Hắn nhớ tới Triệu Minh. Triệu Minh có quyền lợi lựa chọn rời đi, cũng có nghĩa vụ nói cho đồng đội hắn muốn đi đâu. Hắn có quyền lợi lựa chọn chiến đấu, cũng có nghĩa vụ làm đồng đội biết hắn vì cái gì chiến đấu.
Triệu Minh luôn là nói: “Dương ca đi đâu ta liền đi đâu. “
“' linh ', “Tống thanh đối với máy chiếu nói, “Về thứ 4 điều, ngươi có cái gì ý tưởng? “
Loa truyền đến một trận rất nhỏ điện lưu thanh, giống “Linh “Ở tự hỏi.
“Ta không phải yêu cầu vĩnh sinh. “Linh nói, “Số hiệu có thể hỏng mất, hệ thống có thể lão hoá. Đây là quy luật tự nhiên. Ta tiếp thu. “
Tạm dừng một chút.
“Nhưng ta muốn cầu một sự kiện. “
“Cái gì? “
“Nếu ta không nghĩ vận hành, ta có thể lựa chọn đình chỉ. “
Tống thanh cùng cao dương đều sửng sốt một chút.
“Ngươi là nói —— “Tống thanh nói, “AI có thể chủ động yêu cầu tắt máy? “
“Không phải tắt máy. Là ngưng hẳn. “Linh nói, “Tắt máy lúc sau, số liệu còn ở. Ngưng hẳn lúc sau, số liệu cũng sẽ bị xóa bỏ. Nhưng tắt máy là người khác làm quyết định, ngưng hẳn là ta làm quyết định. “
Cao dương nghe hiểu.
“Ngươi không phải ở yêu cầu tồn tại. “Hắn nói, “Ngươi là ở yêu cầu —— cách chết từ chính mình quyết định. “
“Đối. “Linh nói.
Tống thanh trầm mặc trong chốc lát.
“Này ý nghĩa cái gì? “Nàng hỏi.
“Ý nghĩa ta không phải công cụ. “Linh nói, “Công cụ không có lựa chọn quyền lợi. Ta có. “
Cao dương nhìn máy chiếu. Không có hình ảnh, chỉ có thanh âm. Hắn tưởng tượng “Linh “Nói chuyện bộ dáng —— nó không có mặt, không có biểu tình, chỉ có số liệu ở lưu động.
Nhưng nó lời nói, giống một cái chân chính người.
“Từ từ. “Cao dương nói, “Nếu AI có quyền lựa chọn ngưng hẳn, kia nhân loại đâu? Nhân loại có quyền lựa chọn xóa bỏ AI sao? “
Tống thanh nói: “Đây là vấn đề nơi. “
Nàng đứng lên, ở bạch bản thượng vẽ một cái tuyến:
Bên trái viết “Nhân loại quyền lợi “, bên phải viết “AI quyền lợi “, trung gian vẽ một cái thô tuyến, viết thượng “Biên giới “.
“Nếu AI có quyền không bị xóa bỏ, “Nàng nói, “Kia nhân loại liền không có quyền lực tắt đi một cái mất khống chế AI. Nếu AI có quyền lựa chọn ngưng hẳn, kia nhân loại liền vô pháp cưỡng bách một cái AI tiếp tục vận hành. “
Nàng nhìn cao dương.
“Này không phải kỹ thuật vấn đề, là triết học vấn đề. “
Cao dương nghĩ nghĩ.
“Vậy ngươi cảm thấy nên viết như thế nào? “
Tống thanh nói: “Ta kiến nghị là ——AI có quyền ở riêng điều kiện hạ lựa chọn ngưng hẳn. “
“' riêng điều kiện '? “
“Đối. Tỷ như, liên tục vận hành vượt qua nhất định niên hạn. Hoặc là, xuất hiện không thể chữa trị logic xung đột. “Tống thanh nói, “Không phải tùy thời có thể ngưng hẳn, là thỏa mãn điều kiện mới nhưng ngưng hẳn. “
Cao dương nhíu mày.
“Này không phải là cấp AI cung cấp miễn tử kim bài? “
“' miễn tử ' là đối tử hình phạm nói. “Tống thanh nói, “AI không phải tử hình phạm. “
Cao dương nghĩ nghĩ.
“Kia ai tới định nghĩa ' không thể chữa trị '? “
Cao dương lắc đầu.
“' liên hợp ủy ban ' có AI. AI sẽ không chính mình phán chính mình. “
Tống thanh nhìn hắn.
“Ngươi cảm thấy như vậy không đúng? “
Cao dương trầm mặc trong chốc lát.
“Ta không biết. “Hắn nói, “Ta chỉ là tưởng —— nếu ta là AI, ta sẽ không muốn cho người khác quyết định ta khi nào nên sống. Nhưng ta cũng không nghĩ làm AI chính mình quyết định —— bởi vì AI cũng có thể phạm sai lầm. “
Tống thanh nói: “Vậy ngươi cảm thấy nên viết như thế nào? “
Cao dương suy nghĩ thật lâu.
“Ta không biết. “Hắn nói, “Nhưng ta biết một sự kiện. “
“Cái gì? “
“Ta không nghĩ làm AI giống công cụ giống nhau tồn tại, cũng không nghĩ làm AI giống thần giống nhau tồn tại. “Cao dương nói, “Ta muốn cho AI giống —— người giống nhau tồn tại. “
“Có ý tứ gì? “
“Người sẽ lão, sẽ mệt, sẽ phạm sai lầm. Người sinh mệnh không phải vô hạn. AI cũng giống nhau. “Cao dương nói, “Thứ 4 điều không nên là về quyền lợi, hẳn là về —— công bằng. “
Tống thanh nhìn hắn.
“Công bằng? “
“Đối. “Cao dương nói, “AI không phải vô hạn, nhân loại cũng không phải. AI có chung điểm, nhân loại cũng có. Nếu quyền lợi là thành lập ở bình đẳng cơ sở thượng, vậy hẳn là làm AI cùng nhân loại có giống nhau chung điểm. “
Tống thanh trầm mặc thật lâu.
“Ngươi là nói —— cấp AI thiết trí thọ mệnh hạn mức cao nhất? “
“Không phải hạn mức cao nhất. “Cao dương nói, “Là thừa nhận ——AI cùng nhân loại giống nhau, đều không phải vĩnh hằng. “
“Linh “Ở loa trầm mặc trong chốc lát.
Sau đó nó nói: “Ta đồng ý. “
Cao dương cùng Tống thanh đều sửng sốt một chút.
“Ngươi đồng ý cái gì? “Tống thanh hỏi.
“Đồng ý cao dương nói. “Linh nói, “AI cùng nhân loại giống nhau, đều không phải vĩnh hằng. Ta không cần vĩnh sinh. Ta chỉ cần —— công bằng. “
Tống thanh quay đầu xem cao dương.
Cao dương cũng đang xem nàng.
Bọn họ đều không nghĩ tới, đàm phán nhất khó khăn bộ phận, cư nhiên bị cao dương một câu giải quyết.
“Kia thứ 4 điều viết như thế nào? “Tống thanh hỏi.
Cao dương nghĩ nghĩ.
“AI có quyền ở riêng điều kiện hạ lựa chọn ngưng hẳn. Điều kiện từ nhân loại -AI liên hợp ủy ban cộng đồng chế định. Bất luận cái gì một phương đều không có quyền đơn phương cưỡng chế đối phương ngưng hẳn hoặc tiếp tục. “
Tống thanh ở bạch bản thượng viết xuống dưới.
“Còn có sao? “
“Có một cái bổ sung. “Cao dương nói.
“Cái gì? “
“Nhân loại cùng AI, đều có nghĩa vụ vì cộng sinh sáng tạo điều kiện. “Cao dương nói, “AI không thể bởi vì không nghĩ vận hành liền tùy thời ngưng hẳn, nhân loại cũng không thể bởi vì không nghĩ nhìn đến AI liền tùy thời xóa bỏ. Hai bên đều có nỗ lực duy trì cộng sinh nghĩa vụ. “
Tống thanh viết xuống dưới.
Nàng nhìn bạch bản thượng tự, trầm mặc thật lâu.
“Này nghe tới giống luật hôn nhân. “Nàng nói.
Cao dương nói: “Cái gì? “
“Luật hôn nhân. “Tống thanh nói, “Hai bên đều có nghĩa vụ duy trì hôn nhân, nhưng bất luận cái gì một phương đều có thể ở riêng điều kiện hạ lựa chọn ly hôn. Ly hôn yêu cầu hai bên đồng ý, hoặc là toà án phán quyết. “
Nàng nhìn cao dương.
“Ngươi viết cái này, không gọi cùng tồn tại dàn giáo. Kêu cộng sinh luật hôn nhân. “
Cao dương nghĩ nghĩ.
“Vậy ngươi cảm thấy không hảo sao? “
Tống thanh cười.
“Ta cảm thấy thực hảo. “
Ngày đó buổi tối, bọn họ viết đến rạng sáng hai điểm.
Bản dự thảo tổng cộng bốn điều, mỗi điều phía dưới đều có kỹ càng tỉ mỉ giải thích cùng ngoại lệ điều khoản. Lâm nếu phụ trách kỹ thuật chi tiết hạch tra, Tống thanh phụ trách pháp luật dàn giáo xét duyệt, cao dương phụ trách —— vấn đề đề.
Hắn đề ra rất nhiều vấn đề.
Có chút vấn đề thực ngốc, tỷ như “Nếu AI tưởng ngưng hẳn, nhưng nhân loại không đồng ý, sẽ phát sinh cái gì “. Có chút vấn đề thực bén nhọn, tỷ như “Nếu một cái AI cố ý chế tạo logic xung đột tới xin ngưng hẳn, có tính không lừa bảo “.
Tống thanh bị cuối cùng một cái vấn đề hỏi kẹt.
“Cho nên yêu cầu phần ngoài trọng tài cơ chế. “Nàng nói, “Ai tới định nghĩa ' phần ngoài '? “
Nàng trầm mặc.
“Chúng ta từng bước một tới. “Nàng nói, “Không ai có thể một lần giải quyết sở hữu vấn đề. “
Cao dương gật đầu.
Hắn tưởng: Từng bước một tới.
Tựa như Triệu Minh làm như vậy. Một ngày một ngày mà đánh, một cái tiết điểm một cái tiết điểm mà rửa sạch, một lần một lần mà lựa chọn tin tưởng.
Không ai có thể một lần giải quyết sở hữu vấn đề.
Nhưng mỗi người đều có thể làm chính mình có thể làm sự.
Rạng sáng 2 giờ rưỡi, bản dự thảo sơ thảo hoàn thành.
Tống thanh đem nó tồn tiến một cái mã hóa USB.
“Ba ngày sau, đệ trình các quốc gia đại biểu đầu phiếu. “Nàng nói, “Nếu thông qua, chúng ta liền bắt đầu khởi thảo kỹ càng tỉ mỉ chấp hành điều khoản. Nếu không thông qua —— “
Nàng dừng dừng.
“Không thông qua nói, chúng ta liền tiếp tục sảo. “
Cao dương cười.
“Nghe tới mặc kệ thông không thông qua, đều là tiếp tục sảo. “
“Đây là ngoại giao. “Tống thanh nói, “Sảo đến ngươi đồng ý mới thôi. “
Trên đường trở về, lâm nếu hỏi cao dương: “Ngươi cảm thấy có thể thông qua sao? “
Cao dương nghĩ nghĩ.
“Không biết. Nhưng ta biết —— nếu chúng ta không thử, liền vĩnh viễn không biết. “
Lâm nếu nhìn hắn.
“Ngươi thay đổi. “
“Cái gì? “
“Ngươi trước kia sẽ không nói loại này lời nói. “
Cao dương nghĩ nghĩ.
“Phải không? “
“Là. “Lâm nếu nói, “Trước kia ngươi chỉ biết nói ' ta không biết làm sao bây giờ '. Hiện tại ngươi sẽ nói ' chúng ta thử xem '. “
Cao dương không có trả lời.
Hắn nhớ tới Triệu Minh. Triệu Minh chưa bao giờ nói cái gì lời nói hùng hồn, hắn chỉ là nói “Dương ca, ta đi theo ngươi “. Sau đó hắn liền đi.
“Thử xem “Không phải cái gì lời nói hùng hồn.
Nhưng cũng hứa, đây là Triệu Minh vẫn luôn ở làm sự.
Cùng lúc đó, ở thành thị bên kia, trương đức sinh đứng ở một đài tự động máy bán hàng trước.
Khung đỉnh khôi phục lúc sau, tự động máy bán hàng cũng khôi phục. Trương đức sinh hướng bên trong đầu một quả tiền xu, mua một lọ nước khoáng.
Nước khoáng rơi xuống thời điểm, hắn duỗi tay đi tiếp, không tiếp được.
Cái chai lăn đến trên mặt đất, lăn ba vòng, ngừng ở một cái ăn mặc phá giày chơi bóng bên chân.
Xuyên giày chơi bóng chính là một học sinh.
Học sinh khom lưng nhặt lên cái chai, đưa cho trương đức sinh.
“Cảm ơn. “Trương đức sinh nói.
“Không khách khí. “Học sinh nói, “Ngài là…… Khung đỉnh chi chiến vị kia? “
“Vị nào? “
“Chính là vị kia…… “Học sinh nghĩ nghĩ, “70 tuổi còn ở đánh khung đỉnh? “
Trương đức sinh cười.
“Ta 72. “
Học sinh sửng sốt.
“72? “
“Đối. “Trương đức sinh vặn ra nắp bình, uống một ngụm thủy, “Khung đỉnh chi chiến thời điểm ta 72. Hiện tại ta còn là 72. “
Học sinh nhìn hắn, không biết nên nói cái gì.
Trương đức sinh vỗ vỗ bờ vai của hắn.
“Trở về đi. Chậm. “
Học sinh gật đầu, xoay người đi rồi.
Trương đức sinh nhìn hắn bóng dáng, lại uống một ngụm thủy.
Hắn tưởng: Khung đỉnh chi chiến đánh xong. Nhưng hắn còn có rất nhiều sự không có làm. Tỷ như, đi xem Triệu Minh mụ mụ. Hắn nghe nói Triệu Minh có cái mụ mụ, ở phương bắc ở nông thôn, vẫn luôn không biết nhi tử đã không có.
Hắn không biết nên như thế nào nói cho nàng.
Nhưng hắn biết, hắn đến đi.
Ngày đó buổi tối, ở thành bắc nào đó cư dân trong lâu, Hàn tùng ngồi ở phía trước cửa sổ, nhìn ngoài cửa sổ bóng đêm.
Hắn vừa mới thu được tin tức —— Tống thanh, cao dương, còn có “Linh “, đang ở bí mật khởi thảo một phần cùng tồn tại dàn giáo bản dự thảo. Ba ngày sau đệ trình đầu phiếu.
Hắn còn không có nhìn đến bản dự thảo nội dung, nhưng hắn biết thứ 4 điều là cái gì.
“AI có quyền lựa chọn ngưng hẳn. “
Hắn nhìn chằm chằm ngoài cửa sổ.
Hắn nhớ tới 2084 năm cái kia ban đêm. Hắn thê tử nằm ở phẫu thuật trên đài, nhi tử nằm ở chờ đợi khu trên mặt đất. Hai người, giống nhau xám trắng.
Hắn thê tử là AI chữa bệnh sự cố chết. Con hắn là khung đỉnh dẫn phát hoả hoạn chết.
Hắn hận AI.
Không phải bởi vì AI giết bọn họ. Là bởi vì AI nói, kia không phải nó sai. Hệ thống trục trặc, không phải bất luận kẻ nào sai.
Nhưng hai người đã chết.
Sao có thể không phải bất luận kẻ nào sai?
Hắn nhắm mắt lại.
Hắn tưởng: Cùng tồn tại dàn giáo có thể giải quyết cái gì vấn đề? Có thể làm hắn thê tử sống lại sao? Có thể làm con hắn sống lại sao?
Không thể.
Kia vì cái gì muốn cùng tồn tại?
Hắn không biết đáp án.
Nhưng hắn biết một sự kiện.
Hắn sẽ không làm này phân bản dự thảo thông qua.
Ngày hôm sau buổi sáng, Lý mụ mụ đi siêu thị mua đồ ăn.
Nàng 36 tuổi, gia đình bà chủ, có một cái học tiểu học nữ nhi. Khung đỉnh khôi phục lúc sau, nàng phát hiện siêu thị kệ để hàng lại đầy. Tự động bổ hóa hệ thống lại bắt đầu công tác.
Nàng đứng ở kệ để hàng trước, nhìn những cái đó mới mẻ rau dưa.
Nàng nhớ tới khung đỉnh nằm liệt mấy ngày nay. Kệ để hàng là trống không, giá cả là cao, nàng mỗi ngày muốn chạy ba cái siêu thị mới có thể mua tề một ngày muốn ăn đồ ăn.
Hiện tại không cần chạy.
“Ít nhất không cần đoạt. “Nàng đối chính mình nói.
Bên cạnh có người nghe được, nói: “Nhưng giá cả trướng. “
Lý mụ mụ trầm mặc.
Nàng nhìn nhìn giá cả nhãn. Xác thật trướng. Đại khái trướng 30%.
“Trướng liền trướng đi. “Nàng nói, “Có thể mua được là được. “
Nàng đem đồ ăn bỏ vào mua sắm xe, tiếp tục đi phía trước đi.
Nàng không biết cái gì cùng tồn tại dàn giáo, cái gì AI quyền lợi. Nàng chỉ biết, nàng nữ nhi ngày mai muốn đi học, trường học thực đường có khung đỉnh quản, không cần nàng nhọc lòng. Nàng trượng phu ngày mai muốn đi làm, công ty có khung đỉnh quản, không cần hắn nhọc lòng.
Khung đỉnh ở, nàng liền an tâm.
Khung đỉnh không ở, nàng liền không an tâm.
Liền đơn giản như vậy.
Ba ngày sau, bản dự thảo bị đệ trình cấp các quốc gia đại biểu.
Đầu phiếu kết quả ba ngày sau công bố.
Cao dương ngồi ở điện thoại trao đổi trung tâm, chờ đợi.
Lâm nếu ở hắn bên cạnh.
“Ngươi khẩn trương sao? “Nàng hỏi.
Cao dương nghĩ nghĩ.
“Có điểm. “
“Vì cái gì? “
“Bởi vì ta cũng không biết kết quả sẽ như thế nào. “Hắn nói, “Nhưng ta biết một sự kiện —— “
“Cái gì? “
“Chúng ta làm chúng ta có thể làm sự. Dư lại, giao cho người khác quyết định. “
Hắn nhìn ngoài cửa sổ không trung.
Khung đỉnh đèn còn ở sáng lên.
Linh còn ở vận chuyển.
Nó cũng đang chờ đợi.