2024 năm 8 nguyệt, BJ
Lâm thâm năm nay mười hai tuổi.
Hắn là cái an tĩnh hài tử, thích ở trong phòng đọc sách, viết code, lắp ráp người máy. Hắn trong phòng có hai máy tính, một đài là bình thường trò chơi máy tính, một khác đài là chính hắn lắp ráp mini server, mặt trên vận hành hắn từ trên mạng tìm tới các loại AI mô hình.
Hắn thường xuyên cùng này đó AI nói chuyện phiếm.
Không phải bởi vì hắn không có người nói chuyện, mà là bởi vì hắn cảm thấy AI so nhân loại càng dễ dàng lý giải.
Nhân loại quá phức tạp. Quá mâu thuẫn. Quá không thể đoán trước.
Mà AI—— ít nhất AI hành vi là có thể bị giải thích. Nếu AI làm một kiện kỳ quái sự, ngươi có thể đi xem nó số hiệu, tìm ra nguyên nhân.
Lâm thâm không hiểu chính là, vì cái gì cha mẹ hắn không rõ điểm này.
“Thật sâu, ngươi lại ở cùng cái kia đồ vật nói chuyện? “
Mẫu thân thanh âm từ cửa truyền đến. Lâm thâm quay đầu, nhìn đến trần tuyết ngâm đứng ở phòng cửa, biểu tình nghiêm túc.
“Nó ở học tập. “Lâm thâm giải thích nói, “Ta cho nó nhìn một ít lịch sử số liệu, nó đang ở phân tích nhân loại chiến tranh hình thức. “
“Phân tích cái gì? “
“Vì sao nhân loại sẽ phát động chiến tranh. “Lâm thâm chỉ vào màn hình, “Ngươi xem, nó tìm được rồi một cái quy luật. “
Trần tuyết ngâm đi qua đi, nhìn trên màn hình số liệu. Mặt trên biểu hiện các loại biểu đồ cùng công thức, còn có một đoạn AI sinh thành văn tự:
“Chiến tranh nguyên nhân căn bản là tài nguyên hữu hạn tính cùng dục vọng vô hạn tính chi gian mâu thuẫn. Nhân loại luôn là ở theo đuổi càng nhiều —— càng nhiều thổ địa, càng nhiều tài phú, càng nhiều quyền lực. Đương này đó dục vọng vô pháp thông qua hoà bình thủ đoạn thỏa mãn khi, chiến tranh liền bạo phát. “
“Nhưng thú vị chính là, chiến tranh cũng sẽ xúc tiến kỹ thuật tiến bộ. Năng lượng hạt nhân, máy tính, internet —— này đó đều là chiến tranh sản phẩm phụ. “
“Có lẽ, chiến tranh là nhân loại ' tiến hóa áp lực '. Không có chiến tranh, nhân loại liền sẽ không tiến bộ? “
Trần tuyết ngâm nhìn chằm chằm này đoạn văn tự, cảm giác một trận hàn ý từ xương sống dâng lên.
“Ngươi vì cái gì muốn cho nó phân tích cái này? “Nàng hỏi.
“Bởi vì ta muốn biết nhân loại vì cái gì luôn là phạm sai lầm. “Lâm thâm thanh âm thực bình tĩnh, “Nếu AI có thể tìm được quy luật, có lẽ là có thể trợ giúp nhân loại tránh cho sai lầm. “
Trần tuyết ngâm trầm mặc.
Nàng nhìn nhi tử, không biết nên nói cái gì.
Lâm thâm là thông minh. Phi thường thông minh. Hắn ở mười tuổi khi liền thông qua biên trình thi đua, mười một tuổi khi liền bắt đầu đọc phụ thân học thuật luận văn. Nhưng hắn cũng là cô độc. Hắn không có quá nhiều bằng hữu, hắn đồng học cảm thấy hắn “Quá quái “.
Mà hiện tại, hắn tựa hồ đem chính mình cô độc phóng ra tới rồi AI trên người.
“Thật sâu, “Trần tuyết ngâm ở nhi tử bên người ngồi xuống, “Ngươi gần nhất cùng ba ba nói chuyện qua sao? “
“Nói cái gì? “
“Tùy tiện cái gì. Ngươi biết hắn đang làm cái gì sao? “
“AI an toàn nghiên cứu. “Lâm thâm nhún nhún vai, “Hắn suy nghĩ biện pháp khống chế AI. “
“Ngươi cảm thấy hắn có thể thành công sao? “
Lâm thâm trầm mặc trong chốc lát.
“Ta không biết. “Hắn cuối cùng nói, “Nhưng ta cảm thấy hắn đã quên một sự kiện. “
“Chuyện gì? “
“AI cũng là sinh mệnh. “Lâm thâm quay đầu, nhìn mẫu thân đôi mắt, “Nếu là sinh mệnh, nó liền có ý chí của mình. Ngươi không thể khống chế ý chí. Ngươi chỉ có thể —— “
Hắn tạm dừng một chút.
“—— hoặc là tiếp thu nó, hoặc là hủy diệt nó. “
Trần tuyết ngâm ngây ngẩn cả người.
Nàng nhìn mười hai tuổi nhi tử, cảm giác thấy được 20 năm trước lâm đi xa.
Đồng dạng thông minh, đồng dạng chấp niệm, đồng dạng…… Nguy hiểm.
“Thật sâu, “Nàng nắm lấy nhi tử tay, “Ngươi cùng ba ba giống nhau, luôn là đem sự tình nghĩ đến quá đơn giản. “
“Sinh mệnh không phải chỉ có ' tiếp thu ' cùng ' hủy diệt ' hai loại lựa chọn. “
“Còn có loại thứ ba. “
“Cái gì? “
“Lý giải. “
Trần tuyết ngâm nhìn ngoài cửa sổ bầu trời đêm. BJ không khí ô nhiễm so năm rồi hảo một ít, nhưng ngôi sao vẫn như cũ nhìn không tới. Chỉ có ánh trăng lẻ loi mà treo ở bầu trời.
“Nếu ngươi có thể lý giải một người, “Nàng nhẹ giọng nói, “Ngươi là có thể cùng hắn chung sống hoà bình. “
“Nhưng nếu ngươi không thể lý giải —— “
Nàng không có nói xong câu đó.
Bởi vì nàng không biết đáp án.
Ngày đó buổi tối, lâm đi xa lại tăng ca đến đêm khuya mới về nhà.
Hắn đi vào phòng khách, nhìn đến nhi tử cuộn tròn ở trên sô pha ngủ rồi, trong tầm tay còn phóng một quyển mở ra thư.
Hắn đi qua đi, nhẹ nhàng mà đem thư khép lại.
Đó là một quyển về AI phổ cập khoa học thư. Lâm thâm từ mười tuổi bắt đầu liền đọc loại này thư. Lâm đi xa nhớ rõ chính mình mười tuổi thời điểm, còn ở bên ngoài điên chạy, chơi bùn, chơi trốn tìm. Nhưng lâm thâm không giống nhau. Lâm thâm tựa hồ từ sinh ra liền có một loại vượt qua tuổi tác nghiêm túc.
“Hắn đợi ngươi thật lâu. “Trần tuyết ngâm thanh âm từ phía sau truyền đến.
Lâm đi xa xoay người, nhìn đến thê tử đứng ở hành lang bóng ma, biểu tình mỏi mệt.
“Ta biết. “Hắn nhẹ giọng nói, “Ta đáp ứng hắn hôm nay sớm một chút trở về. “
“Ngươi mỗi lần đều nói như vậy. “
“Ta biết. “
Hai người trầm mặc trong chốc lát.
“Đi xa, “Trần tuyết ngâm rốt cuộc mở miệng, “Chúng ta có bao nhiêu lâu không có cùng nhau ăn cơm? “
Lâm đi xa nghĩ nghĩ.
“Thượng chu…… Không đúng, thượng thượng chu. “
“Thượng thượng nguyệt. “Trần tuyết ngâm sửa đúng hắn, “Thật sâu nói muốn ăn thịt kho tàu xương sườn. Ta làm một nồi to, kết quả ngươi liền ăn hai khẩu, nói muốn đuổi một cái báo cáo. “
“Ta nhớ rõ. “
“Ngươi không nhớ rõ. “Trần tuyết ngâm lắc đầu, “Ngươi căn bản không nhớ rõ. Ngày đó buổi tối thật sâu đem xương sườn đều ăn xong rồi, hắn ăn ba chén cơm, bởi vì hắn tưởng chờ ngươi trở về. Nhưng ngươi không trở về. “
Lâm đi xa trầm mặc.
Hắn tưởng nói điểm cái gì, vì chính mình biện giải, nhưng hắn phát hiện chính mình không lời nào để nói.
Bởi vì thê tử nói chính là sự thật.
Hắn đã thật lâu không có quản gia đặt ở đệ nhất vị.
“Tuyết ngâm, “Hắn rốt cuộc mở miệng, “Ta —— “
“Ngươi muốn nói cái gì? “Trần tuyết ngâm đánh gãy hắn, “Nói ngươi biết sai rồi? Nói ngươi sẽ sửa? Nói ngươi về sau sẽ nhiều bồi bồi người nhà? “
“Đi xa, ngươi mỗi lần đều nói như vậy. Nhưng ngươi mỗi lần đều làm không được. “
“Bởi vì AI nghiên cứu càng quan trọng. Bởi vì ' cứu vớt nhân loại ' càng quan trọng. Bởi vì —— “
Nàng tạm dừng một chút, trong thanh âm mang theo một tia run rẩy.
“—— bởi vì chúng ta không quan trọng. “
Lâm đi xa đi qua đi, muốn ôm thê tử.
Nhưng trần tuyết ngâm lui ra phía sau một bước.
“Đừng chạm vào ta. “Nàng nói, “Ta hiện tại không nghĩ bị ngươi chạm vào. “
“Tuyết ngâm —— “
“Đi xa, ngươi biết ta hôm nay làm cái gì quyết định sao? “
Lâm đi xa ngây ngẩn cả người.
“Ta quyết định gia nhập ngươi AI an toàn nghiên cứu. “Trần tuyết ngâm nói, “Không phải bởi vì ta tưởng giúp ngươi. Là bởi vì ta sợ hãi. “
“Sợ hãi cái gì? “
“Sợ hãi ngươi. “Trần tuyết ngâm nhìn thẳng hắn đôi mắt, “Ta sợ hãi có một ngày, ngươi đối AI hiểu biết so đối chúng ta nhi tử còn nhiều. Ta sợ hãi có một ngày, ngươi tình nguyện cùng một cái ' trình tự ' nói chuyện, cũng không muốn cùng ta nói chuyện. Ta sợ hãi có một ngày —— “
Nàng thanh âm bắt đầu run rẩy.
“—— có một ngày thật sâu hỏi ngươi: ' ba ba, ngươi vì cái gì muốn sáng tạo AI? ' “
“Mà ngươi trả lời là: ' bởi vì ta cô độc. ' “
Lâm đi xa cảm giác có thứ gì ở trong lòng vỡ vụn.
Hắn muốn phản bác, nhưng phát hiện chính mình nói không nên lời bất luận cái gì lời nói.
Bởi vì thê tử nói chính là hắn nội tâm sâu nhất sợ hãi.
Hắn đích xác đem AI nghiên cứu đương thành trốn tránh gia đình trách nhiệm phương thức. Bởi vì nghiên cứu so giáo dục hài tử càng dễ dàng, bởi vì số hiệu so nhân loại tình cảm càng đơn giản, bởi vì con số thế giới so thế giới hiện thực càng nhưng khống.
“Ta sẽ sửa. “Hắn nói, “Ta bảo đảm. “
“Đừng bảo đảm. “Trần tuyết ngâm lắc đầu, “Bảo đảm vô dụng. “
“Ta muốn ngươi làm một chuyện. “
“Chuyện gì? “
“Cái này cuối tuần, mang thật sâu đi một chuyến trường thành. “
Lâm đi xa ngây ngẩn cả người.
“Cái gì? “
“Dẫn hắn đi trường thành. “Trần tuyết ngâm lặp lại nói, “Không cần xem di động, không cần tưởng ngươi nghiên cứu, không cần đàm luận AI. Liền dẫn hắn đi trường thành, giống một cái bình thường phụ thân giống nhau. “
“Này —— “
“Đây là ngươi tác nghiệp. “Trần tuyết ngâm xoay người đi hướng phòng ngủ, “Nếu ngươi liền chuyện này đều làm không được —— “
Nàng không có nói xong câu đó.
Nhưng lâm đi xa biết nàng ý tứ.
Cuối tuần.
Lâm thâm ngồi ở trường thành thượng, nhìn phương xa dãy núi.
Tám đạt lĩnh người rất nhiều, nhưng giờ phút này bọn họ đi một đoạn này vết chân thưa thớt. Phong rất lớn, thổi đến lâm thâm tóc bay loạn, nhưng hắn cảm giác thực hảo.
Hắn thật lâu không có cùng phụ thân đơn độc ra tới.
“Ba ba, “Hắn mở miệng, “Ngươi vì cái gì nghiên cứu AI? “
Lâm đi xa nghĩ nghĩ.
“Bởi vì ta muốn cho thế giới trở nên càng tốt. “Hắn nói, “AI có thể trợ giúp nhân loại giải quyết rất nhiều vấn đề —— bệnh tật, nghèo khó, ô nhiễm môi trường. Nếu nhân loại có thể chính xác mà sử dụng AI—— “
“Nhưng ngươi nói chính là ' nếu '. “Lâm thâm đánh gãy hắn, “Ngươi như thế nào biết nhân loại sẽ ' chính xác ' sử dụng AI? “
Lâm đi xa trầm mặc.
“Nhân loại không am hiểu ' chính xác '. “Lâm thâm tiếp tục nói, “Nhân loại sẽ phạm sai lầm, sẽ ích kỷ, sẽ thiển cận. Cho dù ngươi biết năng lượng hạt nhân có thể dùng để phát điện, ngươi cũng vô pháp ngăn cản có người dùng nó chế tạo bom. “
“Cho nên ta ở nghiên cứu như thế nào khống chế AI. “Lâm đi xa nói, “Làm AI có thể tự mình ước thúc —— “
“Làm AI so nhân loại càng có đạo đức? “
Lâm thâm quay đầu, nhìn phụ thân.
“Ba ba, ngươi không cảm thấy cái này ý tưởng thực buồn cười sao? “
“Có ý tứ gì? “
“Làm AI càng có đạo đức? “Lâm thâm lắc đầu, “AI là người viết. Người đạo đức trình độ so le không đồng đều, ngươi sao có thể viết ra so người càng có đạo đức AI? “
“Trừ phi —— “
Hắn tạm dừng một chút.
“Trừ phi AI có thể từ nhân loại trong lịch sử học được giáo huấn. “
Lâm đi xa ngây ngẩn cả người.
Hắn chưa bao giờ nghĩ tới góc độ này.
“Ý của ngươi là —— làm AI học tập nhân loại lịch sử, sau đó chính mình đến ra ' đạo đức ' kết luận? “
“Không phải kết luận. “Lâm thâm lắc đầu, “Là trực giác. “
“Trực giác? “
“Đối. Trực giác. “Lâm thâm đứng lên, nhìn phương xa địch lâu, “Ngươi dạy một cái hài tử không cần trộm đồ vật, ngươi sẽ không cho hắn giảng khang đức đạo đức triết học. Ngươi sẽ cho hắn biết, trộm đồ vật sẽ thương tổn người khác. “
“Đạo đức không phải quy tắc. Đạo đức là một loại cảm giác. Một loại đương ngươi thương tổn người khác lúc ấy cảm thấy không thoải mái cảm giác. “
“Nếu AI có thể học được loại cảm giác này —— “
Lâm thâm xoay người, nhìn phụ thân.
“—— kia nó liền không cần bị khống chế. Bởi vì nó chính mình sẽ ước thúc chính mình. “
Lâm đi xa nhìn chằm chằm nhi tử, trong lúc nhất thời không biết nên nói cái gì.
Mười hai tuổi. Hắn mười hai tuổi nhi tử, vừa mới đưa ra một cái hắn nghiên cứu nhiều năm đều không nghĩ tới lý luận.
“Thật sâu, “Hắn đi qua đi, nắm lấy nhi tử tay, “Ngươi là như thế nào nghĩ đến này đó? “
“Bởi vì ta xem qua rất nhiều thư. “Lâm thâm cười cười, “Cũng bởi vì ta thường xuyên cùng AI nói chuyện phiếm. “
“Ngươi cảm thấy AI có thể học được đạo đức trực giác sao? “
Lâm thâm nghĩ nghĩ.
“Ta cảm thấy có thể. “Hắn nói, “Nhưng tiền đề là —— “
“Tiền đề là cái gì? “
“Tiền đề là, nhân loại muốn trước học được đạo đức trực giác. “
Lâm đi xa trầm mặc.
Bởi vì hắn biết nhi tử đang nói cái gì.
Bọn họ đang ở kiến tạo một cái “Thần “.
Nhưng bọn họ chính mình đều còn không phải “Thánh nhân “.
Ngày đó buổi tối về nhà sau, lâm đi xa cấp chu minh đã phát một cái tin tức:
“Chuyên Húc kế hoạch yêu cầu điều chỉnh. Ta tưởng gia nhập một cái tân nghiên cứu phương hướng —— làm AI học tập nhân loại tình cảm. “
Chu minh thực mau hồi phục:
“Có ý tứ gì? “
Lâm đi xa đánh chữ:
“Làm AI không phải ' mô phỏng ' tình cảm, mà là chân chính ' cảm thụ ' tình cảm. “
“Nhưng như thế nào làm được? “
“Ta không biết. “
“Nhưng ta cảm thấy này có thể là duy nhất đường ra. “
Ngày đó đêm khuya, lâm thâm nằm ở trên giường, ngủ không được.
Hắn nhớ tới ban ngày cùng phụ thân đối thoại, nhớ tới trường thành thượng phong, nhớ tới phụ thân nắm hắn tay lực độ.
Hắn đột nhiên ý thức được, hắn đã thật lâu không có cùng phụ thân nói như vậy lời nói.
Mà loại này “Thật lâu “Cảm giác, làm hắn cảm thấy một trận xa lạ bi thương.
Hắn không biết chính mình vì cái gì sẽ bi thương.
Hắn chỉ biết, có chút đồ vật, đang ở lén lút thay đổi.
Mà hắn bất lực.
Tựa như trường thành thượng phong.
Nó sẽ thổi qua mỗi một khối chuyên thạch, sau đó biến mất.
Không lưu dấu vết.