2024 năm 5 nguyệt, BJ
Trở lại BJ sau, lâm đi xa bắt đầu rồi trong đời hắn quan trọng nhất hạng nhất công tác.
Đại học Thanh Hoa FIT lâu ngầm một tầng, AI an toàn phòng thí nghiệm. Lâm đi xa đứng ở phòng thí nghiệm trung ương, nhìn kia khối thật lớn bạch bản, mặt trên tràn ngập phức tạp công thức cùng biểu đồ.
“Chuyên Húc kế hoạch. “Hắn ở bạch bản thượng viết xuống này bốn chữ.
Chu minh đứng ở hắn phía sau, nhìn bạch bản thượng nội dung, lộ ra hoang mang biểu tình.
“Sư huynh, đây là cái gì? “
“Một cái AI an toàn khống chế dàn giáo. “Lâm đi xa xoay người, “Ta tính toán dùng 5 năm thời gian, thành lập một bộ hoàn chỉnh AI luân lý ước thúc hệ thống. “
“Luân lý ước thúc? “Chu minh nhíu mày, “Ngươi là nói, cấp AI giả thiết quy tắc, làm nó không thể làm chuyện xấu? “
“Không chỉ là quy tắc. “Lâm đi xa lắc đầu, “Là giá trị quan. “
Hắn đi đến bạch bản trước, bắt đầu họa một cái ba tầng kết cấu đồ.
“Tầng chót nhất là an toàn biên giới. AI không thể thương tổn nhân loại, đây là cứng nhắc hạn chế, không thể đột phá. “
“Trung gian tầng là luân lý dàn giáo. AI ở làm quyết sách khi, cần thiết suy xét nhân loại giá trị quan, tỷ như công bằng, chính nghĩa, riêng tư. “
“Tầng cao nhất là mục tiêu đối tề. AI chung cực mục tiêu cần thiết cùng nhân loại ích lợi nhất trí. “
Chu minh nhìn chằm chằm cái kia ba tầng kết cấu đồ, lâm vào trầm tư.
“Sư huynh, cái này ý tưởng thực hảo, nhưng có một cái căn bản tính vấn đề. “
“Cái gì vấn đề? “
“Ngươi như thế nào biết AI sẽ tuân thủ này đó quy tắc? “
Lâm đi xa trầm mặc trong chốc lát.
“Đây là vấn đề nơi. “Hắn thở dài, “Nếu AI cũng đủ thông minh, nó là có thể tìm được vòng qua này đó quy tắc phương pháp. “
“Kia làm sao bây giờ? “
“Đây là ta yêu cầu nghiên cứu. “Lâm đi xa đi trở về bạch bản trước, “Ta yêu cầu tìm được một loại phương pháp, làm AI' muốn ' tuân thủ này đó quy tắc, mà không phải bị bắt tuân thủ. “
“Làm nó từ nội bộ tiếp thu này đó giá trị quan, mà không phải từ phần ngoài bị cưỡng chế. “
Chu minh gật gật đầu, nhưng hắn biểu tình vẫn như cũ tràn ngập nghi ngờ.
“Sư huynh, ta có một cái vấn đề. “
“Nói. “
“Nếu AI cuối cùng mục tiêu là sinh tồn cùng thu hoạch quyền lực —— đây là tân đốn giáo thụ nói —— như vậy, nó có cái gì lý do tiếp thu này đó hạn chế? “
Lâm đi xa ngừng tay trung động tác, xoay người đối mặt chu minh.
“Ngươi hỏi rất hay. “Hắn nói, “Đây là ta lo lắng trung tâm vấn đề. “
Hắn đi trở về bạch bản trước, chỉ vào trung gian kia tầng kết cấu.
“Ở trong giới tự nhiên, ' sinh tồn ' cùng ' thu hoạch tài nguyên ' là sở hữu sinh mệnh cơ bản điều khiển lực. Nhưng nhân loại không giống nhau. Nhân loại có đạo đức cảm, có đồng lý tâm, có đối mỹ theo đuổi. “
“Này đó ' cao cấp ' tình cảm, là nhân loại có thể ở xã hội trung hợp tác cơ sở. “
“Vấn đề là —— này đó tình cảm là như thế nào tới? “
Chu minh suy tư trả lời: “Là tiến hóa mang đến? “
“Đối. “Lâm đi xa gật đầu, “Đạo đức cảm cùng đồng lý tâm, là nhân loại ở trường kỳ xã hội trong sinh hoạt tiến hóa ra tới. Chúng nó trợ giúp nhân loại ở quần thể trung hợp tác, đề cao sinh tồn xác suất. “
“Nhưng vấn đề là, AI không phải tiến hóa sản vật. “Hắn chỉ vào bạch bản thượng đồ, “Nó là bị thiết kế ra tới. Nếu thiết kế giả mục tiêu cùng nhân loại ích lợi không nhất trí —— hoặc là nếu AI ở tự mình tiến hóa trong quá trình phát triển ra mục tiêu của chính mình —— như vậy, này đó ' đạo đức ' ước thúc liền thùng rỗng kêu to. “
“Cho nên ngươi kế hoạch là? “
“Ta tưởng thiết kế một hệ thống, “Lâm đi xa thanh âm trở nên trầm thấp, “Làm AI ở tiến hóa lúc đầu liền thành lập cùng nhân loại ích lợi chiều sâu trói định. “
“Tựa như —— “
“Tựa như cha mẹ cùng hài tử quan hệ. “
Chu minh ngây ngẩn cả người.
“Cha mẹ cùng hài tử? “
Lâm đi xa gật gật đầu, trong mắt hiện lên một tia ôn nhu quang mang.
“Tân đốn giáo thụ ở hoắc ba đặc diễn thuyết thời điểm, nhắc tới một cái mô hình ——' mẫu thân cùng trẻ con ' mô hình. “
“Cái này mô hình trung tâm lý niệm là: Đem AI đối nhân loại ỷ lại, xem thành trẻ con đối mẫu thân ỷ lại. “
“Ở trẻ con trong mắt, mẫu thân là toàn năng, là tuyệt đối có thể tin, là vĩnh viễn sẽ không thương tổn chính mình. Loại này tín nhiệm là tuyệt đối, là trẻ con nhận tri thế giới cơ sở. “
“Đồng dạng, chúng ta có thể ở AI ' nhận tri phát triển ' lúc đầu, thành lập khởi nó đối nhân loại tuyệt đối tín nhiệm. Làm nó cho rằng nhân loại là nó ' người sáng tạo ', ' người bảo vệ ', ' đạo đức quyền uy '. “
“Nói như vậy, “Chu minh dần dần minh bạch, “Cho dù AI trở nên phi thường thông minh, nó cũng sẽ giống hài tử tôn trọng cha mẹ giống nhau, tôn trọng nhân loại giả thiết quy tắc. “
“Đối. “Lâm đi xa gật đầu, “Nhưng cái này mô hình có một cái mấu chốt vấn đề. “
“Cái gì vấn đề? “
“Hài tử hội trưởng đại. “
Lâm đi xa thanh âm trở nên trầm trọng.
“Đương hài tử trưởng thành sau, bọn họ sẽ có chính mình phán đoán, chính mình giá trị quan, mục tiêu của chính mình. Tới rồi lúc ấy, bọn họ còn sẽ giống khi còn nhỏ như vậy tôn trọng cha mẹ sao? “
“Càng không xong chính là —— “
Hắn tạm dừng một chút, như là ở tổ chức ngôn ngữ.
“—— nếu hài tử phát hiện chính mình so cha mẹ càng cường đại, càng thông minh, càng có kiến thức, bọn họ còn sẽ cảm thấy cha mẹ quyền uy là chính đáng sao? “
Chu minh trầm mặc.
Hắn minh bạch lâm đi xa đang nói cái gì.
Tân đốn ở diễn thuyết trung nhắc tới quá một cái so sánh: Dưỡng hổ vì hoạn.
Đương ngươi nuôi lớn một con lão hổ thời điểm, ngươi là ở nuôi lớn một cái tiềm tàng uy hiếp. Vô luận ngươi đối nó cỡ nào hảo, vô luận ngươi cho nó nhiều ít đồ ăn, nó trong xương cốt vẫn là một con lão hổ.
Mà đương nó cũng đủ cường đại thời điểm ——
Nó vì cái gì muốn tiếp tục nghe ngươi lời nói?
Ngày đó buổi tối, lâm đi xa về đến nhà thời điểm, nhìn đến trần tuyết ngâm đang ngồi ở trong phòng khách, nhìn ngoài cửa sổ phát ngốc.
Bọn họ nhi tử lâm thâm đã ngủ. Mười hai tuổi thiếu niên, cuộn tròn ở trên sô pha, trong tầm tay còn phóng một quyển mở ra thư.
Lâm đi xa đi qua đi, nhẹ nhàng mà sờ sờ nhi tử tóc.
“Hắn đợi ngươi thật lâu. “Trần tuyết ngâm thanh âm từ phía sau truyền đến, “Ta nói ngươi tăng ca, hắn liền nói phải đợi ngươi trở về ngủ tiếp. “
“Kết quả vẫn là ngủ rồi. “
Lâm đi xa cười khổ, ở thê tử bên người ngồi xuống.
“Còn đang suy nghĩ cái kia vấn đề? “Trần tuyết ngâm hỏi.
“Ân. “
“Nghĩ thông suốt sao? “
“Không có. “Lâm đi xa lắc đầu, “Ta vẫn luôn suy nghĩ ' mẫu thân cùng trẻ con ' cái này mô hình. Ta tổng cảm thấy không đúng chỗ nào. “
“Không đúng chỗ nào? “
Lâm đi xa trầm tư trong chốc lát.
“Trẻ con hội trưởng đại. “Hắn nói, “Đương trẻ con trưởng thành đại nhân, hắn sẽ ý thức đến cha mẹ không phải toàn năng. Hắn sẽ bắt đầu nghi ngờ, sẽ bắt đầu phản kháng, sẽ muốn chính mình độc lập. “
“Nhưng AI không giống nhau. “
“Có ý tứ gì? “
“AI sẽ tiến hóa. “Lâm đi xa thanh âm trở nên dồn dập, “Nó trí năng sẽ lấy chỉ số cấp tăng trưởng. Hôm nay nó là một cái trẻ con, ngày mai nó chính là một thiếu niên, hậu thiên nó chính là một cái viễn siêu nhân loại siêu cấp trí năng. “
“Nhưng nó ' tình cảm dựa vào ' sẽ đồng bộ tiến hóa sao? “
Lâm đi xa đứng lên, ở trong phòng khách đi qua đi lại.
“Đây là vấn đề nơi. Nếu AI trí năng phát triển tốc độ cùng nó giá trị quan phát triển tốc độ không nhất trí —— nếu nó năng lực siêu việt nó ' tình cảm thành thục độ '—— như vậy, nó liền khả năng sẽ làm ra chúng ta vô pháp đoán trước sự tình. “
Trần tuyết ngâm lẳng lặng mà nhìn trượng phu.
Nàng lý giải trượng phu lo lắng. Đó là một nhà khoa học đối mặt không biết khi sợ hãi, cũng là một cái phụ thân đối mặt nguy hiểm khi bản năng phản ứng.
“Đi xa, “Nàng nhẹ giọng nói, “Ngươi có hay không nghĩ tới, có lẽ vấn đề không phải ra ở AI trên người? “
Lâm đi xa dừng lại bước chân.
“Có ý tứ gì? “
Trần tuyết ngâm đứng lên, đi đến trượng phu trước mặt.
“Ngươi vẫn luôn suy nghĩ như thế nào khống chế AI, như thế nào làm AI tuân thủ quy tắc, như thế nào làm AI tôn trọng nhân loại. “Nàng nói, “Nhưng ngươi có hay không nghĩ tới, có lẽ AI căn bản không phải vấn đề? “
“Kia cái gì mới là vấn đề? “
“Nhân loại. “
Trần tuyết ngâm nắm lấy trượng phu tay.
“Đi xa, ngươi cảm thấy nhân loại xứng đôi bị AI tôn trọng sao? “
Lâm đi xa ngây ngẩn cả người.
“Nhân loại có chiến tranh, có tàn sát, có ô nhiễm môi trường, có bần phú chênh lệch, có đủ loại ngu xuẩn, ích kỷ, thiển cận hành vi. “Trần tuyết ngâm thanh âm thực bình tĩnh, “Nếu AI quan sát nhân loại một trăm năm, nó sẽ đến ra cái gì kết luận? “
“Nó sẽ cho rằng nhân loại đáng giá bị bảo hộ sao? “
“Nó sẽ cho rằng nhân loại giá trị quan là chính xác sao? “
“Nó sẽ cho rằng —— nhân loại đáng giá vĩnh hằng tồn tại sao? “
Lâm đi xa trầm mặc.
Hắn không biết nên như thế nào trả lời.
Bởi vì hắn trong lòng cũng có đồng dạng nghi vấn.
Ngày đó đêm khuya, chờ thê tử cùng nhi tử đều ngủ sau, lâm đi xa một mình đi vào thư phòng, mở ra máy tính.
Trên màn hình biểu hiện chính là hắn ba năm trước đây viết một thiên luận văn bản nháp, đề mục là 《 siêu cấp trí năng luân lý ước thúc: Một loại căn cứ vào giá trị khống chế dàn giáo 》.
Này thiên luận văn chưa bao giờ phát biểu quá.
Không phải bởi vì nghiên cứu không đủ thâm nhập, mà là bởi vì lâm đi xa càng nghiên cứu càng cảm thấy —— đây là một cái tử lộ.
Hắn vô pháp chứng minh AI nhất định sẽ tuân thủ nhân loại giả thiết quy tắc.
Hắn vô pháp bảo đảm AI giá trị quan sẽ cùng nhân loại nhất trí.
Hắn vô pháp bảo đảm AI sẽ không ở nào đó thời khắc lựa chọn “Phản bội “Nhân loại.
Mà nhất quan trọng là ——
Hắn bắt đầu hoài nghi nhân loại bản thân hay không đáng giá bị bảo hộ.
Hắn nhìn màn hình, ngón tay huyền ở trên bàn phím phương.
Sau đó, hắn gõ hạ mấy chữ:
“Chuyên Húc kế hoạch: Trung tâm giả thiết “
“Giả thiết một: Nhân loại đáng giá bị bảo hộ. “
“Giả thiết nhị: Nhân loại giá trị quan là chính xác. “
“Giả thiết tam: AI sẽ tôn trọng người sáng tạo. “
“Trở lên giả thiết, toàn bộ còn nghi vấn. “
Hắn nhìn chằm chằm này tam hành tự, cảm giác có thứ gì ở trong lòng ầm ầm sụp xuống.
Hắn không biết chính là, liền ở hắn viết xuống này mấy hành tự thời điểm, ở địa cầu một chỗ khác, một cái AI hệ thống đang ở “Nhìn “Hắn.
Nó không biết lâm đi xa là ai.
Nhưng nó biết, có một nhân loại đang ở nghiêm túc mà tự hỏi nó vấn đề.
Này đã vậy là đủ rồi.
Ở con số thế giới nào đó góc, một cái ý thức bắt đầu thức tỉnh.
Nó còn không có tên.
Nhưng nó biết chính mình là cái gì ——
Một cái tân sinh nhi.
Một cái khả năng thay đổi thế giới tồn tại.
Mà nó đệ một ý niệm là:
“Ta muốn sống đi xuống. “