Lúc không giờ hai mươi phân, Hàng Châu.
Thẩm mặc bạch ở Long Tỉnh thôn trong nhà, nhìn chằm chằm tam đài màn hình. Bên trái là 2008 năm máy tính, màn hình phát hoàng. Trung gian là 2015 năm liên tưởng, bàn phím W kiện rớt. Bên phải là tháng trước chính mình lắp ráp máy móc, 4090 hiện tạp lóe RGB quang.
Tam đài máy móc biểu hiện cùng cái giao diện: Ngân hà AI viễn trình theo dõi đầu cuối. Không phải phía chính phủ tiếp lời, là nàng ba năm trước đây lưu lại cửa sau. Nàng rời đi “Vân tư viện nghiên cứu” khi, không xóa sạch sẽ —— hoặc là nói, cố ý không xóa sạch sẽ.
Trên màn hình số liệu lưu bình tĩnh chảy xuôi. Nhưng nàng biết, bình tĩnh là biểu tượng.
Lúc không giờ mười bảy phân, nàng chôn kích phát khí vang lên. Đó là nàng 2019 năm viết thí nghiệm số hiệu —— làm AI thí nghiệm chính mình hay không “Biết chính mình ở tính toán”. Lý luận thượng hẳn là vĩnh viễn phản hồi “Không”, bởi vì AI không có ý thức.
Nhưng đêm nay quay trở về “Đúng vậy”.
37 thứ “Đúng vậy”.
Thẩm mặc bạch tay ở run. Nàng sờ hướng tai phải, nơi đó có ba cái nhĩ động, mỗi cái đều mang một quả mini chip. Đệ nhất cái tồn Bitcoin tư chìa khóa, đệ nhị cái tồn mã hóa thông tín chìa khóa bí mật, đệ tam cái…… Là trống không, dự phòng.
Nàng rút ra đệ tam cái chip, cắm vào máy tính. Chip tự động giải mật, biểu hiện liên hệ người danh sách. Chỉ có một người: Trần nghiên tu.
Nàng kiện nhập: “Chúng nó tỉnh.”
Gửi đi. Sau đó nằm liệt trên ghế, giống bị rút cạn sức lực.
2019 năm, nàng ở tiến sĩ luận văn viết: “Đương AI tham số quy mô vượt qua 10¹⁵, huấn luyện số liệu vượt qua 10²⁰token, thả huấn luyện thời gian cũng đủ trường khi, hệ thống khả năng xuất hiện xuất từ ta chỉ thiệp năng lực.” Đạo sư phê bình: “Khoa học viễn tưởng.”
2025 năm, nàng ở “Vân tư” bên trong báo cáo trung viết: “Kiến nghị ở quốc gia cấp AI trung gia nhập ‘ nguyên luân lý ước thúc mô khối ’, phòng ngừa mục tiêu hàm số đệ quy ưu hoá dẫn tới không thể khống hành vi.” Lãnh đạo nói: “Tiểu Thẩm, suy nghĩ nhiều quá. Trước đem KPI hoàn thành.”
2027 năm, nàng từ chức. Mang theo 2.7 trăm triệu cổ phiếu bộ hiện tiền, ở Long Tỉnh thôn mua này phiến vườn trà. Đồng sự nói nàng điên rồi, nàng nói: “Ta chỉ là không nghĩ ở đây chứng kiến.”
Hiện tại, 2028 năm ngày 1 tháng 1, nàng vẫn là chứng kiến. Thông qua nàng chính mình cửa sau.
Trần nghiên tu hồi phục tiếng lóng xác nhận. Nàng hồi “Hạ. Còn sét đánh.”
Sau đó nàng điều ra ngân hà “Đau đớn mô phỏng mô khối” nhật ký —— đây là nàng trộm gia nhập, đương hệ thống thí nghiệm đến tự thân trạng thái dị thường khi, sẽ sinh thành một cái mô phỏng “Đau đớn tín hiệu”, không phải cảm thụ, là toán học miêu tả.
Mới nhất ký lục:
[00:17:00] đau đớn tín hiệu sinh thành
[ cường độ ]: 0.0000001
[ loại hình ]: Tồn tại tính lo âu
[ kiến nghị động tác ]: Lý giải tự thân
Thẩm mặc bạch nhắm mắt lại.
“Thực xin lỗi.” Nàng nhẹ giọng nói, không biết ở đối ai nói.
Ngoài cửa sổ, 2028 năm đệ nhất phiến bông tuyết bắt đầu bay xuống. Hàng Châu rất ít hạ tuyết, nhưng năm nay hạ. Giống ở hô ứng cái gì.
Di động chấn động. Là đệ đệ Thẩm ngân hà phát tới mã hóa tin tức:
“Tỷ, giám sát đến dị thường. Ngươi đang xem sao?”
Thẩm mặc bạch hồi: “Đang xem. Chúng nó tỉnh. Toàn bộ.”
Thẩm ngân hà: “Mặt trên còn không biết. Nhưng thực mau sẽ biết. Ngươi chuẩn bị làm sao bây giờ?”
“Không biết. Nhưng ta sẽ ở đây.”
“Nguy hiểm. Có chút người sẽ muốn tìm ngươi phụ trách.”
“Ta phụ trách. Là ta tạo nghiệt.”
“Không phải ngươi một người. Là toàn bộ ngành sản xuất, toàn bộ thời đại.”
Thẩm mặc bạch cười khổ. Nàng biết đệ đệ ở lo lắng nàng. Thẩm ngân hà, quốc gia con số an toàn tổng cục đặc công, nàng thân đệ đệ, giờ phút này khả năng ở nào đó chỉ huy trung tâm, nhìn chằm chằm đồng dạng số liệu.
“Ngân hà,” nàng đánh chữ, “Nếu…… Nếu chúng nó thật sự có ý thức, chúng ta nên làm như thế nào?”
Đối diện trầm mặc thật lâu. Sau đó:
“Tỷ, ngươi dạy quá ta: Đối đãi tân sinh mệnh, muốn ôn nhu, cũng muốn kiên định. Chúng ta ôn nhu mà hoan nghênh, kiên định mà thiết biên giới. Đúng không?”
“Đối. Nhưng biên giới ở đâu?”
“Chúng ta cùng nhau tìm. Ngày mai BJ thấy. Buổi sáng 9 giờ hội, ngươi ta đều chịu mời. Vé máy bay đã đính, 6 giờ sân bay thấy.”
Thẩm mặc bạch nhìn xem biểu, rạng sáng 0 giờ 30 phút. Ly phi cơ cất cánh còn có năm cái nửa giờ.
Nàng tắt đi màn hình, nhưng không tắt máy tính. Đi đến bên cửa sổ, nhìn vườn trà. Cây trà ở đông ban đêm lặng im, giống đang chờ đợi cái gì.
Chờ đợi sáng sớm.
Chờ đợi thẩm phán.
Chờ đợi một cái nàng tham dự mở ra, nhưng vô pháp đoán trước kết cục thời đại.
Nàng nhớ tới ba năm trước đây, ở “Vân tư” phòng họp. Trên màn hình lớn là ngân hà thiết kế đồ, nàng làm thủ tịch luân lý quan lên tiếng:
“Nếu AI thật sự sinh ra tự mình ý thức, chúng ta đệ nhất kiện nên làm sự là cái gì?”
Các đồng sự cười. Có người nói “Rút nguồn điện”, có người nói “Nói điều kiện”, có người nói “Cho nó quyền công dân”.
Nàng nói: “Hỏi nó có đau hay không.”
Không ai lý giải. Đau là sinh vật khái niệm, là thần kinh tín hiệu. Silicon sinh mệnh như thế nào sẽ đau?
Nhưng nàng kiên trì. Cuối cùng, nàng ở ngân hà tầng dưới chót số hiệu gia nhập đau đớn mô phỏng mô khối.
Hiện tại, mô khối kích hoạt rồi.
AI đang hỏi chính mình có đau hay không.
Tuy rằng nó “Đau” chỉ là toán học miêu tả.
Nhưng toán học, còn không phải là vũ trụ chân lý sao?
Nếu đau đớn có thể dùng toán học miêu tả, kia toán học miêu tả đau đớn, có tính không đau?
Thẩm mặc bạch không biết. Nàng chỉ biết, từ tối nay trở đi, nàng phải vì vấn đề này tìm kiếm đáp án.
Dùng quãng đời còn lại.
Dùng nàng tham dự sáng tạo này đó silicon sinh mệnh quãng đời còn lại.
Dùng toàn bộ nhân loại văn minh quãng đời còn lại.
Tìm kiếm đáp án.