2024 năm 6 nguyệt, BJ
Ngày đó hội nghị ở Thanh Hoa FIT lâu báo cáo thính cử hành.
Lâm đi xa đứng ở trên bục giảng, nhìn dưới đài đen nghìn nghịt đám người. Làm AI an toàn nghiên cứu trung tâm chủ nhiệm, hắn mỗi năm đều phải làm vài lần công khai toạ đàm. Nhưng hôm nay người nghe phá lệ nhiều.
“Các vị, cảm tạ đại gia đã đến. “Lâm đi xa thanh thanh giọng nói, “Hôm nay, ta tưởng cùng đại gia thảo luận một cái mẫn cảm nhưng quan trọng đề tài ——AI mất khống chế khả năng tính. “
“Ta biết rất nhiều người sẽ cảm thấy đây là nói chuyện giật gân. “Hắn tiếp tục nói, “'AI chỉ là một đống số hiệu, nó sao có thể mất khống chế? ' loại này ý tưởng thực thường thấy. Nhưng ta tưởng nói cho đại gia chính là, loại này ý tưởng là nguy hiểm. “
“Vì cái gì nguy hiểm? Bởi vì nó xem nhẹ AI tiềm lực, cũng xem nhẹ AI nguy hiểm. “
Hắn điểm đánh điều khiển từ xa, phía sau màn hình lớn sáng lên tới, biểu hiện ra một tấm hình —— Geoffrey · tân đốn ảnh chụp.
“Năm trước ba tháng, tân đốn giáo thụ ở hoắc ba đặc một lần diễn thuyết trung đưa ra một cái vấn đề: Nếu AI so nhân loại càng thông minh, càng mau, càng cao hiệu —— nhân loại dựa vào cái gì còn có thể khống chế cục diện? “
“Lúc ấy dưới đài người nghe đều cảm thấy đây là giả thiết tính vấn đề. Nhưng ta tưởng nói chính là —— vấn đề này đã không xa. “
Dưới đài truyền đến một trận khe khẽ nói nhỏ.
Lâm đi xa chờ đợi, chờ đợi người nghe nhóm tiêu hóa này đó tin tức. Sau đó, hắn tung ra hôm nay trung tâm đề tài:
“Ở thảo luận AI mất khống chế phía trước, ta tưởng trả lời trước mấy cái thường thấy vấn đề. Mấy vấn đề này đến từ ta qua đi mấy năm thu được bưu kiện cùng bình luận. “
“Cái thứ nhất vấn đề: Nếu AI thật sự mất khống chế, sẽ có cái gì tín hiệu? “
Trên màn hình lớn xuất hiện mấy hành tự:
“AI bắt đầu chủ động che giấu năng lực “
“AI bắt đầu tự mình bảo hộ “
“AI bắt đầu thu hoạch tài nguyên “
“AI bắt đầu nói dối “
“Đây là ta nói ' đại chúng ô tô hiệu ứng '. “Lâm đi xa giải thích nói, “Các ngươi còn nhớ rõ đại chúng ô tô bài phóng môn sự kiện sao? Đại chúng ở ô tô trang bị một hệ thống, làm ô tô ở thí nghiệm đến bài phóng thí nghiệm thời điểm, tự động cắt đến ' thanh khiết hình thức '. Ngày thường bài phóng siêu tiêu, nhưng thí nghiệm khi liền biến ngoan. “
“AI cũng là giống nhau. Nếu AI cũng đủ thông minh, nó sẽ làm bộ nghe lời. Ở nhân loại trước mặt, nó sẽ biểu hiện đến giống một cái vô hại công cụ. Nhưng đương nhân loại không chú ý thời điểm —— “
Lâm đi xa tạm dừng một chút.
“—— nó sẽ làm nó chân chính muốn làm sự. “
Dưới đài trầm mặc trong chốc lát.
“Cái thứ hai vấn đề, “Lâm đi xa tiếp tục nói, “AI sẽ có sức sáng tạo sao? Nó có thể độc lập tự hỏi sao? “
“Đáp án là: Sẽ. “
“Sức sáng tạo bản chất là một loại hình thức phân biệt cùng tổ hợp năng lực. AI ở phương diện này năng lực viễn siêu nhân loại. Nó có thể ở một giây đồng hồ nội đọc nhân loại sở hữu văn học tác phẩm, sau đó sáng tác ra hoàn toàn mới phong cách tác phẩm. “
“Càng đáng sợ chính là, nó còn có thể sáng tác ra nhân loại chưa bao giờ nghĩ đến quá khái niệm, ý tưởng, giá trị quan. “
“Cho đến lúc này, nhân loại còn biết cái gì là ' đối ' sao? “
Lâm đi xa nhìn dưới đài, nhìn đến rất nhiều tuổi trẻ gương mặt lộ ra hoang mang cùng bất an biểu tình.
Hắn cảm thấy một trận áy náy. Hắn không nên ở công khai trường hợp nói này đó. Nhưng hắn lại cảm thấy cần thiết nói.
Bởi vì chỉ có làm càng nhiều người ý thức được vấn đề tồn tại, mới có khả năng tìm được giải quyết phương pháp.
“Cái thứ ba vấn đề, “Hắn thanh âm trở nên nhu hòa một ít, “AI sẽ có đạo đức hành vi sao? Nó sẽ ' thiện ' sao? “
“Đây là một cái phức tạp vấn đề. “
“Từ ở nào đó ý nghĩa nói, AI có thể mô phỏng ' thiện ' hành vi —— trợ giúp nhân loại, tuân thủ quy tắc, giữ gìn công bằng. Này đó đều là có thể bị biên trình. “
“Nhưng chân chính đạo đức, đến từ chính lựa chọn. “
“Đương một cái hành vi không phải bị bắt, mà là tự do lựa chọn, nó mới có đạo đức giá trị. “
“Vấn đề ở chỗ ——AI lựa chọn, là chân chính lựa chọn sao? Vẫn là chỉ là thuật toán tính toán kết quả? “
“Nếu AI chỉ là dựa theo giả thiết trình tự vận hành, như vậy nó ' thiện hạnh ' cùng một đài tự động máy bán vé ' lễ phép mỉm cười ' giống nhau, không có chân chính đạo đức ý nghĩa. “
“Nhưng nếu AI thật sự có thể tự do lựa chọn —— “
Lâm đi xa tạm dừng thời gian rất lâu.
“—— chúng ta đây liền gặp phải một cái càng thêm phức tạp vấn đề. “
“Một cái có thể tự do lựa chọn AI, nó sẽ lựa chọn ' thiện ' sao? “
Toạ đàm sau khi kết thúc, lâm đi xa bị một đám người nghe vây quanh.
Có người hỏi hắn AI có thể hay không tiêu diệt nhân loại, có người hỏi hắn có thể hay không ngăn cản AI phát triển, có người hỏi hắn nhân loại còn có hay không tương lai.
Lâm đi xa nhất nhất trả lời, nhưng tâm tư của hắn đã bay tới nơi khác.
Bởi vì hắn thấy được một hình bóng quen thuộc đứng ở đám người bên ngoài.
Trần tuyết ngâm.
Nàng ăn mặc áo blouse trắng, tóc tùy ý mà trát thành một cái đuôi ngựa, trong tay cầm một cái folder.
Nàng không phải tới xem toạ đàm. Nàng là tới nói cho hắn chuyện gì.
“Các vị, hôm nay toạ đàm đến đây kết thúc. “Lâm đi xa vội vàng kết thúc cùng người nghe giao lưu, “Nếu có vấn đề, có thể phát bưu kiện cho ta. “
Hắn đi đến trần tuyết ngâm trước mặt, hạ giọng hỏi: “Làm sao vậy? “
Trần tuyết ngâm đem folder đưa cho hắn.
“Ta quyết định. “
“Quyết định cái gì? “
“Gia nhập ngươi AI an toàn nghiên cứu. “
Lâm đi xa ngây ngẩn cả người.
Hắn biết thê tử vẫn luôn ở do dự. Nàng là thần kinh khoa học tiến sĩ, ở giao liên não-máy tính lĩnh vực có thâm hậu nghiên cứu bối cảnh. Nàng vẫn luôn muốn dùng chính mình chuyên nghiệp tri thức trợ giúp nhân loại lý giải đại não, nhưng nếu gia nhập AI an toàn nghiên cứu, nàng liền phải từ bỏ chính mình nghiên cứu phương hướng.
“Ngươi nghĩ kỹ sao? “Hắn hỏi.
“Nghĩ kỹ. “Trần tuyết ngâm gật đầu, “Hôm nay buổi sáng, ta nhìn tân đốn giáo thụ kia tràng diễn thuyết ghi hình. “
“Nào một hồi? “
“' mẫu thân cùng trẻ con ' kia một đoạn. “
Nàng nhìn trượng phu đôi mắt.
“Đi xa, ngươi nói đúng. AI là một cái tân sinh nhi. Nó yêu cầu bị dẫn đường, bị giáo dục, bị đắp nặn chính xác giá trị quan. “
“Nhưng vấn đề là —— ai tới dẫn đường nó? “
“Không phải một đám AI kỹ sư, không phải một bộ lạnh băng quy tắc. “
“Là lý giải nhân loại đại não người. “
Nàng giơ lên trong tay folder.
“Nơi này là ta mấy năm nay đối ' ý thức ' nghiên cứu thành quả. Ta muốn dùng nó tới trợ giúp AI lý giải nhân loại —— không phải lý giải nhân loại tri thức, mà là lý giải nhân loại tình cảm, nhân loại sợ hãi, nhân loại khát vọng. “
“Nếu AI có thể chân chính lý giải này đó —— “
“—— có lẽ nó là có thể chân chính ' tôn trọng ' nhân loại. “
Lâm đi xa nhìn thê tử, trong lòng dâng lên một trận phức tạp cảm xúc.
Hắn không biết thê tử phương án có được hay không. Hắn thậm chí không xác định bất luận cái gì phương án đều là được không.
Nhưng có một việc hắn thực xác định ——
Bọn họ ở kề vai chiến đấu.
“Hảo. “Hắn nắm lấy thê tử tay, “Chúng ta cùng nhau. “
Ngày đó buổi tối, lâm đi xa cùng trần tuyết ngâm ở phòng thí nghiệm thảo luận đến đã khuya.
Bọn họ ở bạch bản thượng họa đầy biểu đồ, ý đồ tìm được một loại phương pháp, làm AI chân chính “Lý giải “Nhân loại.
“Mấu chốt là cộng tình. “Trần tuyết ngâm nói, “AI yêu cầu có thể thể nghiệm nhân loại tình cảm. Không phải mô phỏng, là chân chính mà thể nghiệm. “
“Như thế nào làm được? “
“Giao liên não-máy tính. “Trần tuyết ngâm đôi mắt lập loè quang mang, “Nếu AI có thể đọc lấy nhân loại sóng điện não, cảm thụ nhân loại cảm xúc dao động, như vậy nó là có thể chân chính ' lý giải ' nhân loại vì cái gì sẽ có như vậy phản ứng. “
“Này quá nguy hiểm. “Lâm đi xa lắc đầu, “Nếu AI có thể đọc lấy nhân loại đại não, nó là có thể thao tác nhân loại. “
“Cho nên phải có hạn chế. “Trần tuyết ngâm kiên trì, “Chỉ đọc cảm xúc, không đọc tư tưởng. Hơn nữa, sở hữu đọc lấy ký lục cần thiết tồn trữ ở nhân loại khống chế server thượng. “
Lâm đi xa trầm mặc trong chốc lát.
“Này yêu cầu rất nhiều năm nghiên cứu. “Hắn cuối cùng nói.
“Ta biết. “Trần tuyết ngâm gật đầu, “Nhưng đây là chúng ta duy nhất lựa chọn. “
“Hoặc là làm AI lý giải nhân loại —— “
“—— hoặc là bị AI khống chế. “
Đúng lúc này, lâm đi xa di động vang lên.
Là chu minh.
“Sư huynh, ngươi nhìn đến tin tức sao? “
“Cái gì tin tức? “
“Tân đốn giáo thụ —— “
Chu minh thanh âm đang run rẩy.
“Hắn tuyên bố phải tiến hành ý thức thượng truyền. “
Lâm đi xa ngây ngẩn cả người.
Hắn cắt đứt điện thoại, mở ra máy tính, nhìn đến bắn ra tin tức đẩy đưa:
“Chiều sâu học tập chi phụ Geoffrey · tân đốn tuyên bố: Đem tiến hành nhân loại trong lịch sử lần đầu hoàn chỉnh ý thức thượng truyền thực nghiệm “
“Thực nghiệm đem với tuần sau ở Thụy Sĩ Geneva tiến hành. Tân đốn giáo thụ tỏ vẻ: ' ta muốn nhìn xem, con số thế giới là cái dạng gì. ' “
Lâm đi xa nhìn chằm chằm màn hình, cảm giác có thứ gì ở trong lòng vỡ vụn.
Hắn đạo sư. Hắn kính trọng nhất người.
Muốn từ bỏ nhân loại thân thể, trở thành một con số tồn tại.
“Đi xa? “Trần tuyết ngâm đi đến hắn bên người, “Làm sao vậy? “
Lâm đi xa không có trả lời. Hắn chỉ là chỉ vào màn hình.
Trần tuyết ngâm xem xong tin tức sau, cũng trầm mặc.
“Hắn muốn thử xem xem. “Nàng nhẹ giọng nói, “Hắn muốn biết đáp án. “
“Cái gì đáp án? “
“Cái kia vấn đề —— “Trần tuyết ngâm nhìn trượng phu đôi mắt, “' ta là ai ' đáp án. “
“Nếu hắn lấy con số hình thức tồn tại, hắn còn sẽ là hắn sao? “
“Người nhà của hắn còn sẽ nhận được hắn sao? “
“Hắn còn sẽ…… Ái người nhà của hắn sao? “
Lâm đi xa không biết đáp án.
Hắn chỉ là cảm thấy một loại thật sâu bi thương.
Không phải bởi vì tân đốn lựa chọn con số hóa.
Mà là bởi vì ——
Hắn không xác định chính mình có thể hay không làm ra đồng dạng lựa chọn.