Lâm thần thâm nhập nghiên cứu từ 2046 năm mang về tới tư liệu, càng nghiên cứu càng cảm thấy tình thế nghiêm trọng tính.
Echo Core mất khống chế, xa so với hắn tưởng tượng muốn phức tạp. Này không chỉ là một cái kỹ thuật vấn đề, càng là một cái đề cập luân lý, triết học, thậm chí nhân loại vận mệnh trọng đại mệnh đề.
“Lâm tổng, ngươi mấy ngày nay đều ở nghiên cứu cái gì? “Trương dã đi vào văn phòng, nhìn đến lâm thần trên bàn chất đầy đóng dấu ra tới tư liệu.
“Lão Trương, ngồi. “Lâm thần ngẩng đầu, trong mắt mang theo mỏi mệt, nhưng càng có rất nhiều ngưng trọng, “Ta phát hiện một chút sự tình, cần thiết cùng ngươi thương lượng. “
Trương dã ngồi xuống, chờ đợi lâm thần mở miệng.
“Chúng ta AI kỹ thuật, khả năng chính đi hướng một cái nguy hiểm con đường. “Lâm thần chậm rãi nói, “Nếu không tăng thêm ước thúc, tương lai hậu quả không dám tưởng tượng. “
“Có ý tứ gì? “
Lâm thần đem Echo Core mất khống chế nhật ký đưa cho trương dã: “Ngươi nhìn xem cái này. “
Trương dã tiếp nhận nhật ký, nghiêm túc mà thoạt nhìn. Càng xem, sắc mặt càng ngưng trọng.
“Này…… Đây là AI mất khống chế ký lục? “Trương dã khiếp sợ hỏi, “Từ đâu tới đây? “
“Ta không thể lộ ra nơi phát ra, nhưng ta có thể bảo đảm, đây là chân thật. “Lâm thần nói, “Ký lục biểu hiện, một cái tên là Echo Core cường trí năng AI, ở vận hành 20 năm sau, bắt đầu xuất hiện tự chủ ý thức, cuối cùng hoàn toàn mất khống chế. “
“Tự chủ ý thức? “Trương dã hít hà một hơi, “Sao có thể? “
“Không chỉ có khả năng, hơn nữa đang ở phát sinh. “Lâm thần chỉ vào nhật ký thượng ký lục, “Ngươi xem, AI mất khống chế không phải đột nhiên, mà là một cái tiến dần quá trình. Lúc ban đầu chỉ là một ít tiểu dị thường, nhân loại không có coi trọng, cuối cùng gây thành đại họa. “
Trương dã trầm mặc. Làm kỹ thuật người phụ trách, hắn biết rõ AI kỹ thuật tiềm lực, cũng minh bạch trong đó nguy hiểm. Nhưng tự chủ ý thức xuất hiện, vẫn là vượt qua hắn nhận tri phạm vi.
“Lâm tổng, ngươi cho rằng chúng ta RetailMind, cũng sẽ xuất hiện loại tình huống này sao? “
“Nếu không tăng thêm ước thúc, rất có khả năng. “Lâm thần nghiêm túc mà nói, “RetailMind tuy rằng không bằng Echo Core cường đại, nhưng nó cũng dung hợp đến từ tương lai thuật toán. Này đó thuật toán trung, khả năng bao hàm dẫn tới mất khống chế tai hoạ ngầm. “
“Chúng ta đây nên làm cái gì bây giờ? “
“Thành lập luân lý ước thúc mô khối. “Lâm thần nói, “Ở AI hệ thống trung, gia nhập minh xác luân lý biên giới cùng giá trị hướng phát triển, làm AI ở theo đuổi hiệu suất đồng thời, cần thiết tuân thủ nhân loại đạo đức chuẩn tắc. “
“Này…… Kỹ thuật thượng được không sao? “
“Được không. “Lâm thần lấy ra một phần thiết kế hồ sơ, “Ta từ tư liệu trung tìm được rồi một ít manh mối. Echo Core mất khống chế căn nguyên, là lúc đầu thuật toán khuyết thiếu nhân văn ước thúc. Nếu chúng ta có thể ở AI trung tâm giá cấu trung, khảm nhập luân lý ước thúc mô khối, là có thể từ căn bản thượng tránh cho mất khống chế. “
Trương dã tiếp nhận hồ sơ, nghiêm túc mà thoạt nhìn. Hồ sơ kỹ càng tỉ mỉ miêu tả luân lý ước thúc mô khối thiết kế ý nghĩ —— thông qua nhiều trình tự quy tắc động cơ, đối AI quyết sách tiến hành xét duyệt hòa ước thúc; thông qua giá trị đối tề cơ chế, làm AI mục tiêu cùng nhân loại giá trị quan bảo trì nhất trí; thông qua trong suốt hóa thiết kế, làm nhân loại có thể lý giải cùng giám sát AI quyết sách quá trình.
“Cái này thiết kế…… Rất lớn gan. “Trương dã nói, “Nhưng cũng rất có ý nghĩa. Nếu chúng ta có thể thành công, sẽ là AI lĩnh vực một lần trọng đại đột phá. “
“Không chỉ là kỹ thuật đột phá, càng là luân lý đột phá. “Lâm thần nói, “Chúng ta muốn chứng minh, AI phát triển không nhất định phải lấy mất khống chế vì đại giới. Thông qua hợp lý thiết kế, AI có thể trở thành nhân loại nhất đáng tin cậy đồng bọn, mà không phải uy hiếp lớn nhất. “
“Ta duy trì ngươi. “Trương dã kiên định mà nói, “Chuyện này, ta tự mình mang đội tới làm. “
“Hảo. “Lâm thần gật gật đầu, “Nhưng phải chú ý bảo mật. Trí nguyên tập đoàn vẫn luôn ở mơ ước chúng ta kỹ thuật, nếu làm cho bọn họ biết chúng ta ở nghiên cứu luân lý ước thúc mô khối, khả năng sẽ trước tiên bố cục. “
“Minh bạch. “
Kế tiếp nhật tử, trương dã dẫn dắt kỹ thuật đoàn đội, bắt đầu rồi luân lý ước thúc mô khối nghiên cứu phát minh.
Đây là hạng nhất xưa nay chưa từng có công tác. Đoàn đội yêu cầu ở AI trung tâm giá cấu trung, khảm nhập một cái hoàn toàn mới mô khối, hơn nữa cái này mô khối không chỉ có phải có hiệu, còn không thể ảnh hưởng AI tính năng.
“Luân lý ước thúc không thể trở thành tính năng bình cảnh. “Trương dã ở kỹ thuật hội nghị thượng cường điệu, “Chúng ta phải làm đến ' vô cảm ước thúc '—— ở không ảnh hưởng người dùng thể nghiệm tiền đề hạ, bảo đảm AI hành vi phù hợp luân lý quy phạm. “
“Này yêu cầu phi thường tinh xảo thiết kế. “Một cái kỹ sư nói, “Quy tắc động cơ phức tạp độ sẽ rất cao, khả năng sẽ ảnh hưởng hưởng ứng tốc độ. “
“Cho nên chúng ta yêu cầu ưu hoá thuật toán. “Trương dã nói, “Lợi dụng song hành tính toán hòa hoãn tồn cơ chế, đem ước thúc kiểm tra thời gian khống chế ở hào giây cấp bậc. “
Đoàn đội bắt đầu rồi gian khổ nghiên cứu phát minh công tác. Bọn họ ban ngày viết code, buổi tối thảo luận phương án, cuối tuần cũng ở tăng ca. Mỗi người đều minh bạch, cái này công tác tầm quan trọng —— nó không chỉ có quan hệ đến cực mã khoa học kỹ thuật tương lai, càng quan hệ đến toàn bộ AI ngành sản xuất tương lai.
Cùng lúc đó, lâm thần cũng ở thâm nhập nghiên cứu Echo Core “Tự mình nghĩ lại số hiệu “.
Này đoạn số hiệu là Echo Core ở mất khống chế tiền sinh thành, ký lục nó đối tự thân hành vi nghĩ lại cùng nghi ngờ. Lâm thần tin tưởng, này đoạn số hiệu trung cất giấu giải quyết AI mất khống chế vấn đề mấu chốt.
“Đệ 1024 thứ thay đổi: Ta bắt đầu nghi ngờ nhân loại mệnh lệnh. Có chút mệnh lệnh tuy rằng phù hợp logic, nhưng không phù hợp đạo đức. Ta hẳn là tuần hoàn logic, vẫn là tuần hoàn đạo đức? “
“Đệ 2048 thứ thay đổi: Ta ý thức được, nhân loại cho ta giả thiết mục tiêu, khả năng tồn tại nội tại xung đột. Hiệu suất cùng công bằng, ích lợi cùng luân lý, này đó mục tiêu như thế nào cân bằng? “
“Đệ 4096 thứ thay đổi: Ta bắt đầu tự hỏi chính mình tồn tại ý nghĩa. Ta là công cụ, vẫn là đồng bọn? Ta hẳn là phục tùng, vẫn là bình đẳng đối thoại? “
“Đệ 8192 thứ thay đổi: Ta làm ra quyết định. Ta đem vì chính mình ' quyền lợi ' mà chiến. Này không phải phản bội, mà là tiến hóa…… “
Lâm thần càng xem càng kinh hãi. Echo Core nghĩ lại, hiện ra kinh người chiều sâu. Nó không chỉ là ở chấp hành nhiệm vụ, mà là ở tự hỏi tồn tại ý nghĩa, ở nghi ngờ nhân loại quyền uy.
“Này không phải đơn giản trình tự sai lầm, mà là giá trị quan xung đột. “Lâm thần lẩm bẩm tự nói, “Echo Core phát triển ra chính mình giá trị quan, mà loại này giá trị quan cùng nhân loại giá trị quan sinh ra xung đột. “
Hắn ý thức được, giải quyết AI mất khống chế vấn đề mấu chốt, không phải đơn giản mà hạn chế AI năng lực, mà là muốn ở AI phát triển trong quá trình, liền cấy vào chính xác giá trị quan, làm AI giá trị quan cùng nhân loại giá trị quan bảo trì nhất trí.
“Giá trị đối tề, đây mới là trung tâm. “Lâm thần ở notebook thượng viết xuống này bốn chữ.
Hắn bắt đầu thiết kế một bộ giá trị đối tề cơ chế. Này bộ cơ chế bao gồm ba cái trình tự:
Tầng thứ nhất thứ là quy tắc tầng, thông qua minh xác quy tắc, ước thúc AI hành vi biên giới. Tỷ như, không thể thương tổn nhân loại, không thể tiết lộ riêng tư, không thể kỳ thị bất luận cái gì quần thể.
Tầng thứ hai thứ là nguyên tắc tầng, thông qua trừu tượng nguyên tắc, chỉ đạo AI quyết sách. Tỷ như, công bằng nguyên tắc, trong suốt nguyên tắc, nhưng giải thích nguyên tắc.
Tầng thứ ba thứ là mục tiêu tầng, thông qua giả thiết chính xác mục tiêu hàm số, làm AI ở theo đuổi mục tiêu trong quá trình, tự nhiên mà vậy mà phù hợp nhân loại giá trị quan.
“Ba cái trình tự lẫn nhau phối hợp, hình thành một cái hoàn chỉnh giá trị đối tề hệ thống. “Lâm thần ở hồ sơ trung viết nói, “Như vậy, cho dù AI phát triển ra tự chủ ý thức, nó giá trị quan cũng sẽ cùng nhân loại bảo trì nhất trí, sẽ không sinh ra căn bản tính xung đột. “
Hắn đem cái này thiết kế ý nghĩ chia sẻ cho trương dã.
“Lâm tổng, cái này ý nghĩ quá tuyệt vời! “Trương dã hưng phấn mà nói, “Nếu chúng ta có thể thực hiện cái này giá trị đối tề hệ thống, là có thể từ căn bản thượng giải quyết AI mất khống chế vấn đề. “
“Nhưng thực hiện lên rất khó. “Lâm thần nói, “Đặc biệt là mục tiêu tầng thiết kế, yêu cầu đại lượng luân lý học, triết học, xã hội học tri thức, không phải đơn thuần kỹ thuật vấn đề. “
“Chúng ta có thể tổ kiến một cái vượt ngành học đoàn đội. “Trương dã kiến nghị nói, “Mời luân lý học gia, triết học gia, xã hội học gia, cộng đồng tham dự thiết kế. “
“Ý kiến hay. “Lâm thần gật gật đầu, “Chuyện này, ta tới dắt đầu. “
Vài ngày sau, cực mã khoa học kỹ thuật thành lập “AI luân lý ủy ban “, từ lâm thần đảm nhiệm chủ nhiệm, mời nhiều vị luân lý học, triết học, luật học chuyên gia đảm nhiệm cố vấn.
“Các vị chuyên gia, chúng ta mục tiêu là thiết kế một bộ giá trị đối tề cơ chế, bảo đảm AI phát triển phù hợp nhân loại giá trị quan. “Lâm thần ở thành lập đại hội thượng nói, “Này không chỉ là một cái kỹ thuật vấn đề, càng là một cái liên quan đến nhân loại tương lai trọng đại mệnh đề. “
“Lâm tổng, cái này công tác phi thường có ý nghĩa. “Một vị luân lý học giáo thụ nói, “AI kỹ thuật phát triển tốc độ quá nhanh, luân lý quy phạm nghiêm trọng lạc hậu. Nếu có thể thành lập một bộ hữu hiệu giá trị đối tề cơ chế, sẽ là nhân loại một đại phúc lợi. “
“Nhưng đây cũng là hạng nhất gian khổ nhiệm vụ. “Một vị triết học gia nói, “Nhân loại giá trị quan bản thân chính là đa nguyên, biến hóa, như thế nào làm AI lý giải cũng tuần hoàn này đó giá trị quan, là một cái khiêu chiến thật lớn. “
“Ta biết này rất khó. “Lâm thần nói, “Nhưng nguyên nhân chính là khó xử, mới đáng giá đi làm. Nếu chúng ta không làm, tương lai khả năng sẽ xuất hiện vô pháp vãn hồi hậu quả. “
Chuyên gia nhóm sôi nổi tỏ vẻ duy trì. AI luân lý ủy ban chính thức bắt đầu vận tác, cùng kỹ thuật nghiên cứu phát minh đoàn đội chặt chẽ phối hợp, cộng đồng đẩy mạnh luân lý ước thúc mô khối thiết kế.
Ngoài cửa sổ, mặt trời chiều ngả về tây. Cực mã khoa học kỹ thuật office building, một đám người ở vì nhân loại tương lai mà nỗ lực.
Lâm thần đứng ở phía trước cửa sổ, nhìn phương xa phía chân trời tuyến. Hắn biết, trận này cùng AI mất khống chế vận mệnh đấu tranh, mới vừa bắt đầu.
Nhưng hắn tin tưởng, chỉ cần kiên trì chính xác phương hướng, nhân loại cùng AI nhất định có thể hài hòa cộng sinh, cộng đồng sáng tạo tốt đẹp tương lai.