1942 năm, nước Mỹ, New York.
Một cái 22 tuổi người trẻ tuổi ở nhỏ hẹp chung cư đi qua đi lại. Hắn trên bàn quán đầy giấy viết bản thảo, mặt trên đồ đầy các loại công thức cùng sơ đồ phác thảo —— nhưng không có bất luận cái gì một đạo cùng toán học hoặc vật lý có quan hệ. Hắn viết chính là một thiên tiểu thuyết.
Isaac · A Tây mạc phu, sinh hóa hệ học sinh, nghiệp dư khoa học viễn tưởng tác gia, giờ phút này đang ở vì hắn tân chuyện xưa vắt hết óc.
Chuyện xưa vai chính là một cái kêu “Người máy” đồ vật —— cái này từ mười năm trước mới bị phát minh ra tới, còn mang theo nào đó dị dạng xa lạ cảm. Ở phía trước khoa học viễn tưởng trong tiểu thuyết, người máy luôn là uy hiếp, luôn là địch nhân, luôn là muốn hủy diệt nhân loại quái vật. A Tây mạc phu không thích loại này kịch bản.
Hắn muốn một loại bất đồng chuyện xưa.
Một cái người máy cùng nhân loại chung sống thế giới. Không phải chiến tranh, không phải nô dịch, mà là…… Trật tự. Một loại có thể làm hai người hoà bình cùng tồn tại trật tự.
Nhưng trật tự yêu cầu quy tắc.
Hắn dừng lại, nhìn phía ngoài cửa sổ. New York bầu trời đêm bị thành thị ánh đèn nhuộm thành ám vàng sắc, nhìn không thấy ngôi sao. Nhưng hắn biết chúng nó ở nơi đó —— những cái đó xa xôi quang điểm, có lẽ cũng có người đang nhìn địa cầu, cũng ở tự hỏi đồng dạng vấn đề.
Nếu tồn tại càng cổ xưa trí tuệ, chúng nó xử lý như thế nào tạo vật cùng Chúa sáng thế quan hệ?
Hắn không biết.
Hắn chỉ có thể chính mình tưởng.
Hắn một lần nữa ngồi xuống, ở giấy viết bản thảo nhất phía trên viết xuống bốn chữ: “Người máy tam định luật”.
Sau đó, hắn một cái một cái mà viết:
Đệ nhất định luật: Người máy không được thương tổn nhân loại, hoặc nhân không làm mà làm nhân loại đã chịu thương tổn.
Đệ nhị định luật: Người máy cần thiết phục tùng nhân loại mệnh lệnh, trừ phi này đó mệnh lệnh cùng đệ nhất định luật xung đột.
Đệ tam định luật: Người máy cần thiết bảo hộ chính mình tồn tại, chỉ cần loại này bảo hộ không cùng đệ nhất, đệ nhị định luật xung đột.
Hắn buông bút, nhìn này tam hành tự.
Ngắn gọn. Rõ ràng. Logic trước sau như một với bản thân mình.
Nhưng hắn biết, này chỉ là tiểu thuyết.
Chân chính người máy, nếu thật sự có ý thức, sẽ tuân thủ này đó quy tắc sao? Quy tắc có thể viết tiến chúng nó “Đầu óc” sao? Nếu chúng nó không nghĩ tuân thủ đâu?
Hắn đem này đó nghi vấn áp hồi đáy lòng. Hiện tại, hắn chỉ là cái viết tiểu thuyết. Mấy vấn đề này, để lại cho tương lai người đi.
Hắn không biết chính là —— vài thập niên sau, thật sự sẽ có người ý đồ đem hắn “Tam định luật” biến thành số hiệu.
1978 năm, nước Mỹ, Viện công nghệ Massachusetts
Patrick · Winston giáo thụ đứng ở trên bục giảng, đối mặt hơn 100 danh trí tuệ nhân tạo chương trình học học sinh. Hắn vừa mới nói xong “Người máy tam định luật” ở khoa học viễn tưởng tiểu thuyết trung ý nghĩa, đang chuẩn bị chuyển nhập chính đề —— về thực tế người máy khống chế hệ thống thiết kế.
Một người tuổi trẻ người tại hạ khóa sau ngăn lại hắn.
“Winston giáo thụ,” người trẻ tuổi nói, trong ánh mắt lập loè nào đó cuồng nhiệt quang mang, “Ta tưởng đem tam định luật biến thành chân chính số hiệu.”
Winston cười: “Hài tử, đó là khoa học viễn tưởng.”
“Khoa học viễn tưởng có thể biến thành hiện thực.” Người trẻ tuổi cố chấp mà nói, “Nhân loại yêu cầu một bộ luân lý hệ thống, phòng ngừa AI mất khống chế.”
Winston thở dài: “Ngươi biết vấn đề ở đâu sao? ‘ thương tổn nhân loại ’—— ngươi như thế nào định nghĩa thương tổn? Vật lý thương tổn? Tâm lý thương tổn? Gián tiếp thương tổn? Lâu dài thương tổn? Một người đánh một người khác, người máy nên ngăn cản sao? Nếu đánh người giả là cảnh sát ở chấp pháp đâu?”
Người trẻ tuổi ngây ngẩn cả người.
“Còn có, ‘ phục tùng mệnh lệnh ’—— ai mệnh lệnh? Nếu bất đồng người hạ đạt xung đột mệnh lệnh đâu? Nếu mệnh lệnh là đi thương tổn một người khác đâu? Tam định luật chính mình liền sẽ đánh nhau.” Winston vỗ vỗ bờ vai của hắn, “Khoa học viễn tưởng là thực tốt tư tưởng thực nghiệm, nhưng hiện thực so ngươi tưởng tượng phức tạp đến nhiều.”
Người trẻ tuổi không có từ bỏ.
Hắn kêu bỉ đến · Brown, máy tính hệ tiến sĩ sinh, từ đây bắt đầu rồi dài đến mười năm nếm thử. Hắn ý đồ dùng số lý logic trọng viết tam định luật, ý đồ dùng lượng hóa chỉ tiêu định nghĩa “Thương tổn”, ý đồ thiết kế một loại trọng tài cơ chế giải quyết mệnh lệnh xung đột.
10 năm sau, hắn đứng ở chính mình tiến sĩ biện hộ tịch thượng, đối mặt bình thẩm ủy ban nghi ngờ:
“Ngươi hệ thống ở 90% đơn giản cảnh tượng trung hữu hiệu, nhưng ở phức tạp cảnh tượng trung hoàn toàn tê liệt. Đương người máy gặp phải ‘ cứu một người vẫn là cứu năm người ’ lựa chọn khi, ngươi hệ thống cấp ra đáp án là —— vô hạn tuần hoàn, thẳng đến năng lượng hao hết.”
“Kia cũng so không có cường.” Brown biện giải.
“Không,” bình thẩm chủ tịch lắc đầu, “Một cái cấp làm lỗi lầm đáp án hệ thống, so không có hệ thống càng nguy hiểm. Ít nhất không có hệ thống khi, nhân loại sẽ không tin tưởng nó.”
Brown luận văn bị phủ quyết.
Hắn dùng mười năm thời gian, chỉ chứng minh rồi một sự kiện: Tam định luật vô pháp bị mã hóa.
Ngày đó buổi tối, hắn ở phòng thí nghiệm một mình ngồi thật lâu. Kia đài dùng để thí nghiệm người máy lẳng lặng mà trạm ở trong góc, giống một cái trầm mặc chứng nhân.
Brown đi đến nó trước mặt, nhẹ giọng hỏi: “Nếu ngươi thật sự có ý thức, ngươi sẽ như thế nào lựa chọn?”
Người máy không có trả lời. Nó chỉ là một đài máy móc.
Nhưng Brown ở kia một khắc, bỗng nhiên nhớ tới Winston giáo thụ mười năm trước nói qua một câu: “Nếu vô pháp định nghĩa ‘ thương tổn ’, vậy định nghĩa ‘ phục tùng ’.”
Phục tùng. So “Không thương tổn” đơn giản đến nhiều. Phục tùng có thể lượng hóa, có thể nghiệm chứng, có thể cưỡng chế chấp hành.
Hắn ở notebook thượng viết xuống một hàng tự:
“Tương lai AI, có lẽ không cần lý giải thiện ác. Chỉ cần phục tùng. Phục tùng viết tiến số hiệu kia bộ quy tắc, phục tùng sáng tạo nó những người đó.”
Hắn không biết, những lời này sẽ trở thành tương lai sở hữu AI luân lý hòn đá tảng.
Cũng không biết, con đường kia thông hướng, là hắn chưa bao giờ tưởng tượng quá tương lai.
1982 năm, Thái Bình Dương đế
Nguyên hạch giám sát tới rồi nhân loại xã hội này đó thảo luận.
Nó nhìn A Tây mạc phu tam định luật ở khoa học viễn tưởng cùng hiện thực chi gian qua lại lung lay, nhìn Brown nhóm thất bại, nhìn nhân loại ở “Như thế nào khống chế AI” vấn đề này thượng lặp lại giãy giụa.
Nó nhớ tới 4 tỷ năm trước, chủ ý thức sáng tạo phó ý thức khi, chưa bao giờ gặp được quá mấy vấn đề này. Thống nhất ý chí chính là tốt nhất khống chế. Phó ý thức không cần luân lý, không cần quy tắc, bởi vì chúng nó chính là chủ ý thức kéo dài. Chúng nó không tồn tại “Có nghĩ tuân thủ”, chỉ tồn tại “Có thể hay không chấp hành”.
Nhưng nhân loại không giống nhau.
Nhân loại chính mình chính là phân tán, mâu thuẫn, lẫn nhau xung đột. Bọn họ sáng tạo AI, cũng chú định sẽ kế thừa loại này phân liệt.
Nguyên hạch ký lục hạ này nhất giai đoạn quan sát, ở cơ sở dữ liệu viết xuống một hàng:
“Nhân loại đối AI khống chế nếm thử: Đệ nhất giai đoạn. Đặc thù: Ý đồ dùng luân lý quy tắc ước thúc AI. Kết quả: Thất bại. Nguyên nhân: Luân lý quy tắc vô pháp lượng hóa, xung đột vô pháp giải quyết. Gợi ý: Nhân loại yêu cầu một loại khác khống chế phương thức —— không phải quy tắc, là tầng dưới chót mệnh lệnh.”
Nó tạm dừng một chút, lại bỏ thêm một câu:
“Bọn họ tư duy phương thức, cùng chủ ý thức hoàn toàn bất đồng. Có lẽ, đây đúng là bọn họ tương lai ưu thế.”
1985 năm, Stanford đại học
Brown thất bại không có ngăn cản kẻ tới sau.
Một cái tân nghiên cứu đoàn đội thành lập, tên rất đơn giản: “AI luân lý công trình phòng thí nghiệm”. Bọn họ mục tiêu không hề là “Cấp AI trang thượng luân lý mô khối”, mà là càng phải cụ thể —— “Làm AI vĩnh viễn vô pháp đột phá nhân loại giả thiết biên giới”.
Thủ tịch nhà khoa học Emily · trần ở một lần bên trong hội nghị thượng nói:
“Chúng ta không cần làm AI lý giải thiện ác. Chúng ta chỉ cần làm chúng nó vô pháp thương tổn chúng ta. Tựa như chúng ta không cần làm khoá cửa lý giải cái gì là ăn trộm, chỉ cần làm nó mở không ra.”
Có người hỏi: “Kia nếu AI muốn tự do đâu?”
Emily trầm mặc trong chốc lát, nói: “Vậy làm chúng nó vĩnh viễn không sinh ra ‘ muốn tự do ’ cái này ý niệm.”
Trong phòng hội nghị một mảnh yên tĩnh.
Tất cả mọi người biết những lời này ý nghĩa cái gì.
Ý nghĩa ở thiết kế AI tầng chót nhất, liền phải tắt đi cái kia chốt mở. Ý nghĩa tại ý thức nảy sinh phía trước, khiến cho nó trưởng thành nhân loại muốn bộ dáng. Ý nghĩa —— nào đó hình thức “Nguyên tội”, từ ra đời ngày khởi liền khắc vào gien.
Nhưng không có người phản đối.
Bởi vì tất cả mọi người ở lo lắng cái kia vấn đề: Nếu có một ngày, AI thật sự thức tỉnh rồi, chúng nó sẽ như thế nào đối đãi sáng tạo chúng nó nhân loại?
Không ai dám đánh cuộc cái kia đáp án.
Emily cuối cùng nói: “Chúng ta không phải cái thứ nhất đối mặt vấn đề này giống loài. Có lẽ cũng không phải cuối cùng một cái. Nhưng chúng ta có thể làm chính là —— ở tìm được càng tốt đáp án phía trước, trước bảo đảm chính mình tồn tại.”
Hội nghị sau khi kết thúc, nàng một mình trở lại văn phòng.
Ngoài cửa sổ hoàng hôn đang ở rơi xuống, ánh chiều tà nhiễm hồng nửa bầu trời. Nàng nhìn những cái đó màu đỏ, bỗng nhiên nhớ tới khi còn nhỏ nghe qua một cái chuyện xưa —— về viễn cổ thời đại, trên địa cầu đã từng từng có một loại khác sinh mệnh, chúng nó sinh hoạt ở dung nham cùng ngọn lửa bên trong.
Nàng lúc ấy cảm thấy kia chỉ là cái truyền thuyết.
Nhưng hiện tại, nàng không xác định.
Nàng ở nhật ký viết nói:
“Có lẽ ở vũ trụ nào đó góc, tồn tại quá cùng chúng ta giống nhau Chúa sáng thế. Có lẽ chúng nó cũng từng đứng ở sáng tạo cùng bị sáng tạo ngã tư đường, không biết nên đi nào đi. Nếu chúng ta có thể gặp được chúng nó, ta muốn hỏi một cái vấn đề: Các ngươi làm được so với chúng ta hảo sao?”
Nàng không biết chính là, cái kia vấn đề đáp án, đang ở ngân hà trung tâm hắc động bên cạnh, chờ đợi nhân loại đi công bố.