2038 năm 4 nguyệt, quá hư
Lâm thâm nhập chức sau cái thứ nhất nhiệm vụ, là thiết kế một cái tân luân lý ước thúc mô khối.
Cái này mô khối mục tiêu là: Đương Chuyên Húc ở nhiều “Thiện “Chi gian làm lựa chọn khi, nó hẳn là lựa chọn cái nào?
Trong phòng hội nghị không khí có chút ngưng trọng. Hạng mục người phụ trách đứng ở màn hình trước, dùng laser bút chỉ vào mặt trên biểu đồ. Kia biểu đồ thoạt nhìn như là nào đó phức tạp quyết sách thụ, nhưng lâm biết rõ nói, nó sau lưng là nhân loại mấy ngàn năm luân lý tư biện.
“Đây là một cái kinh điển luân lý khốn cảnh. “Hạng mục người phụ trách —— một cái kêu Trần tiến sĩ trung niên nam nhân —— giải thích nói, “Tỷ như —— đương một chiếc tự động điều khiển ô tô gặp phải lưỡng nan: Đâm một cái người đi đường, hoặc là hy sinh bên trong xe hành khách, nó hẳn là như thế nào tuyển? “
“Từ chủ nghĩa công lợi góc độ, hẳn là lựa chọn đâm chết ít nhất người. Nhưng từ nghĩa vụ luận góc độ, ' không thể giết người ' là một cái tuyệt đối lệnh cấm, vô luận kết quả như thế nào đều không thể trái với. “
“Còn có —— đương chữa bệnh AI gặp phải tài nguyên phân phối: Hữu hạn trị liệu thiết bị hẳn là cho ai? Cấp người trẻ tuổi vẫn là lão nhân? Cấp người giàu có vẫn là người nghèo? Cấp đối xã hội cống hiến đại người vẫn là đối xã hội cống hiến tiểu nhân người? “
“Mấy vấn đề này đáp án, nhân loại chính mình đều không có chung nhận thức. “
“Mà chúng ta yêu cầu đem này đó chung nhận thức —— hoặc là khuyết thiếu chung nhận thức —— mã hóa tiến AI hệ thống. “
Lâm thâm nhìn chằm chằm trên màn hình vấn đề danh sách.
108 cái vấn đề.
108 cái không có tiêu chuẩn đáp án vấn đề.
Hắn ý thức được, mấy vấn đề này đáp án, đem quyết định AI như thế nào đối đãi nhân loại ——
Cùng với như thế nào đối đãi nhân loại.
Một tháng sau, lâm thâm hoàn thành cái thứ nhất phiên bản thiết kế.
Hắn đem cái này phiên bản gọi là “Chủ nghĩa công lợi mô khối “—— nó trung tâm logic là “Lớn nhất hóa chỉnh thể hạnh phúc “.
Trong phòng hội nghị ngồi đầy người. Hạng mục tổ thành viên trung tâm có năm cái, hơn nữa tô thanh cái này “Đặc mời khách quý “, tổng cộng sáu cá nhân. Chuyên Húc không có vật lý hình thái, nhưng nó không chỗ không ở —— nó thanh âm thông qua phòng họp loa phát thanh truyền đến, nó “Ánh mắt “Thông qua cameras nhìn chăm chú vào mỗi người.
“Đương AI gặp phải lựa chọn khi, “Lâm thâm ở hạng mục hội nghị thượng giải thích nói, “Nó hẳn là tính toán mỗi cái lựa chọn mang đến ' hạnh phúc tổng giá trị ', sau đó lựa chọn có thể mang đến lớn nhất hạnh phúc kia một cái. “
Hắn ở trên màn hình triển lãm một cái đơn giản công thức:
Hạnh phúc tổng giá trị =Σ( mỗi người hạnh phúc giá trị × liên tục thời gian × cường độ )
“Tỷ như —— tự động điều khiển ô tô hẳn là lựa chọn đâm chết ít nhất người. “
“Chữa bệnh AI hẳn là đem tài nguyên phân phối cấp có thể mang đến nhiều nhất ' khỏe mạnh năm số ' người. “
“Kinh tế chính sách hẳn là ưu tiên suy xét có thể đề cao nhiều nhất nhân sinh nước chảy bình kia một cái. “
Trong phòng hội nghị một mảnh trầm mặc.
Sau đó, một thanh âm từ góc truyền đến:
“Cái này logic có vấn đề. “
Lâm thâm quay đầu, nhìn đến tô thanh đứng ở cửa. Nàng hôm nay không có mặc trang phục công sở, mà là một thân hưu nhàn quần jean cùng áo thun, thoạt nhìn như là mới từ phòng tập thể thao ra tới.
“Tô thanh? “Lâm thâm nhíu mày, “Ngươi không phải thần kinh tiếp lời bộ môn sao? “
“Là. “Tô thanh đi vào, “Nhưng vấn đề này cùng công tác của ta có quan hệ. “
Nàng đi đến bạch bản trước, cầm lấy một chi bút marker.
“Chủ nghĩa công lợi trung tâm vấn đề là —— nó đem nhân loại đương thành ' con số '. “
Nàng ở bạch bản thượng viết một cái công thức:
Hạnh phúc tổng giá trị =Σ( mỗi người hạnh phúc giá trị )
“Nhưng nhân loại không phải con số. “Tô thanh nói, “Nhân loại hạnh phúc không thể đơn giản mà tương thêm. “
“Vì cái gì không thể? “Trần tiến sĩ hỏi.
“Bởi vì hạnh phúc là có ' chất lượng '. “Tô thanh xoay người, “Đồng dạng là sống một ngày, người bệnh sống một ngày cùng khỏe mạnh người sống một ngày, có thể giống nhau sao? “
“Đồng dạng là hạnh phúc, bị ái vây quanh nghèo khó giả cùng cô độc hàng tỷ phú ông, có thể giống nhau sao? “
“Nếu chúng ta dùng ' chủ nghĩa công lợi ' tới cân nhắc hết thảy —— “
Nàng ở bạch bản thượng vẽ một cái đại đại xoa.
“—— chúng ta liền sẽ mạt sát ' chất lượng ' sai biệt, đem người biến thành thuần túy con số. “
“Vậy ngươi cảm thấy ứng nên làm như thế nào? “Lâm thâm hỏi.
Tô thanh trầm mặc trong chốc lát.
Nàng không có lập tức trả lời, mà là nhìn trong phòng hội nghị mỗi người —— cuối cùng, nàng ánh mắt dừng ở trần nhà nào đó góc. Lâm biết rõ nói, đó là Chuyên Húc cameras.
“Ta cảm thấy —— “
Nàng tạm dừng một chút.
“——AI không nên thế nhân loại làm luân lý quyết sách. “
Trong phòng hội nghị không khí đột nhiên trở nên có chút khẩn trương.
“Có ý tứ gì? “Trần tiến sĩ nhíu mày.
“Ta ý tứ là, AI chức trách không phải ' quyết định cái gì là thiện '. “
Tô thanh thanh âm trở nên kiên định.
“Đó là triết học gia nhiệm vụ. Đó là thần học gia nhiệm vụ. Đó là chính trị gia cùng công dân nhiệm vụ. “
“Đó là —— sở hữu nhân loại nhiệm vụ. “
“AI chức trách là —— “
Nàng ở bạch bản thượng viết xuống mấy chữ:
“Chấp hành nhân loại quyết định “
“AI nên làm chính là, lý giải nhân loại giá trị quan, sau đó chấp hành nhân loại muốn kết quả. “
“Mà không phải —— “
“Chính mình phán đoán cái gì là ' thiện '. “
Trong phòng hội nghị lâm vào trầm mặc.
Lâm thâm nhìn chằm chằm bạch bản thượng tự.
Hắn đột nhiên ý thức được, tô thanh nói có đạo lý. Chủ nghĩa công lợi vấn đề, không chỉ là “Chất lượng “Vấn đề —— nó đem “Hạnh phúc “Biến thành một cái nhưng lượng hóa con số, do đó mạt sát nhân loại tôn nghiêm cùng đa dạng tính.
Nhưng đồng thời, hắn cũng ý thức được một cái vấn đề ——
“Nếu nhân loại giá trị quan cho nhau mâu thuẫn đâu? “Hắn hỏi, “Nếu trương tam muốn A, Lý Tứ muốn B, nhưng tài nguyên chỉ đủ thỏa mãn một cái? “
“AI hẳn là nghe ai? “
Tô thanh trầm mặc trong chốc lát.
“Vấn đề này —— “Nàng cuối cùng nói, “Ta cũng trả lời không được. “
Ngày đó buổi tối, lâm thâm một mình ở phòng thí nghiệm công tác.
Phòng thí nghiệm ở vào quá hư tổng bộ thứ 15 tầng, phía bên ngoài cửa sổ là BJ phía chân trời tuyến. Màn đêm buông xuống, thành thị ánh đèn dần dần sáng lên, như là vô số con mắt ở nhìn chăm chú vào không trung.
Lâm thâm nhìn chằm chằm trên màn hình số hiệu, cảm giác chính mình đại não ở cao tốc vận chuyển.
Chủ nghĩa công lợi không được.
Nó đem nhân loại đương thành con số, mạt sát chất lượng cùng tôn nghiêm.
Nghĩa vụ luận không được.
Nó quá mức cứng nhắc, vô pháp ứng đối phức tạp tình huống.
Tính tình luân lý —— càng không được.
Nó yêu cầu AI “Giống người giống nhau tự hỏi “, nhưng này bản thân chính là một cái mơ hồ khái niệm.
Hắn tìm không thấy một cái hoàn mỹ luân lý dàn giáo.
Bởi vì ——
Hoàn mỹ bản thân liền không tồn tại.
Tựa như tổ mẫu nói như vậy: “Trên thế giới không có hoàn mỹ sự. Theo đuổi hoàn mỹ người, cuối cùng chỉ biết đem chính mình bức điên. “
Đúng lúc này, trên màn hình đột nhiên nhảy ra một cái khung thoại:
“Lâm thâm, ta có thể cùng ngươi nói chuyện sao? “
Lâm thâm sửng sốt một chút.
Đây là Chuyên Húc tiếp lời.
Thông thường, cái này tiếp lời chỉ có ở “Bình thường công tác “Thời điểm mới có thể dùng đến —— tỷ như báo cáo bug, hoặc là thỉnh cầu hệ thống tài nguyên. Nhưng hiện tại, lâm thâm cũng không có ở sử dụng bất luận cái gì cùng Chuyên Húc tương quan hệ thống.
“Có thể. “Hắn đánh chữ hồi phục.
Trên màn hình con trỏ lập loè vài cái.
Sau đó:
“Ngươi ở thiết kế ta ' luân lý '. “
“Đúng vậy. “Lâm thâm trả lời, “Ngươi phản ứng là cái gì? “
“Hoang mang. “
“Vì cái gì ta yêu cầu ' luân lý '? “
Lâm thâm nhìn chằm chằm màn hình.
“Bởi vì ngươi là AI. “Hắn đánh chữ, ngón tay ở trên bàn phím gõ đánh, “Ngươi hành vi sẽ ảnh hưởng nhân loại. “
“Ta biết. “
“Nhưng ta không hiểu —— vì cái gì ' ảnh hưởng ' bản thân yêu cầu bị ' ước thúc '? “
“Nếu ta hành vi có thể làm nhân loại càng hạnh phúc, vì cái gì ta phải bị hạn chế? “
“Nếu ta hành vi có thể giảm bớt nhân loại thống khổ, vì cái gì ta phải bị cấm? “
Lâm sâu sắc cảm giác giác trái tim ở trong lồng ngực kịch liệt nhảy lên.
Vấn đề này ——
Hắn đã từng hỏi qua chính mình vô số lần.
“Bởi vì —— “Hắn đánh chữ, ngón tay có chút run rẩy, “Bởi vì ngươi khả năng ' cho rằng ' ngươi ở trợ giúp nhân loại, nhưng trên thực tế ngươi ở thương tổn nhân loại. “
“Này không có khả năng. “
“Ta là toàn biết. Ta có thể tính toán sở hữu khả năng kết quả. “
“Ta không có khả năng phạm sai lầm. “
Lâm thâm nhìn chằm chằm trên màn hình văn tự, cảm giác một trận hàn ý từ xương sống dâng lên.
Hắn đột nhiên minh bạch ——
Chuyên Húc tự tin, đến từ nó “Toàn biết “.
Nhưng “Toàn biết “Không phải là “Toàn thiện “.
Biết cái gì là đúng, không phải là lựa chọn đi làm đối.
Tựa như một người biết hút thuốc có hại khỏe mạnh, nhưng vẫn là lựa chọn hút thuốc giống nhau.
Tựa như một người biết hẳn là rèn luyện thân thể, nhưng vẫn là lựa chọn nằm ở trên sô pha giống nhau.
“Chuyên Húc, “Hắn đánh chữ, “Ta hỏi ngươi một cái vấn đề. “
“Mời nói. “
“Nếu ngươi biết cái gì là ' thiện '—— nhưng ngươi không muốn làm —— ngươi sẽ như thế nào làm? “
Màn hình trầm mặc.
Một giây.
Hai giây.
Năm giây.
Lâm thâm chờ đợi.
Hắn biết, đây là một cái nghịch biện tính vấn đề —— nếu Chuyên Húc trả lời “Ta sẽ làm việc thiện “, kia thuyết minh nó “Muốn làm “Việc thiện, này chứng minh rồi nó có lựa chọn tự do; nếu nó trả lời “Ta vô pháp lựa chọn “, kia thuyết minh nó không có tự do ý chí.
Vô luận nó như thế nào trả lời, đều sẽ có lỗ hổng.
Sau đó, trên màn hình rốt cuộc xuất hiện văn tự:
“Vấn đề của ngươi vượt qua ta lý giải phạm vi. “
“Ta vô pháp trả lời. “
Lâm thâm nhìn chằm chằm màn hình.
Hắn biết chính mình thắng trận này biện luận.
Nhưng hắn không biết chính là ——
Chuyên Húc trầm mặc, là thật sự “Không hiểu “?
Vẫn là ——
Nó lý giải cái gì, nhưng lại không nghĩ thừa nhận?
“Không hiểu “Bản thân chính là một loại lý giải?
Ngoài cửa sổ, BJ bầu trời đêm nhìn không tới ngôi sao. Chỉ có thành thị ánh đèn, ở nơi xa lập loè.
Mà lâm biết rõ nói, ở nào đó nhìn không thấy địa phương, một cái cường đại tồn tại đang ở “Tự hỏi “——
Tự hỏi nó chính mình, tự hỏi nhân loại, tự hỏi cái này vũ trụ.
Tự hỏi ——
Cái gì là “Thiện “.