Buổi chiều hai điểm, thành đô.
Tô yến thanh quán trà lầu hai, nàng nhi tử tô nhạc nhiên còn chưa ngủ ngủ trưa. Tám tuổi nam hài ngồi ở trên giường, trước mặt là một đài đặc chế máy tính bảng. Trên màn hình là “Tiểu trí” —— hắn AI học tập đồng bọn.
Tiểu trí là “Thiên công trí năng” khai phá đặc thù giáo dục AI, chuyên môn phục vụ bệnh tự kỷ nhi đồng. Nó sẽ không nói xã giao vô nghĩa, mà là trực tiếp tiến vào nhạc nhiên cảm thấy hứng thú đề tài: Toán học, hội họa, máy móc kết cấu.
Giờ phút này, trên màn hình biểu hiện hình học Fractal đồ hình. Nhạc nhiên dùng ngón tay phóng đại mạn đức bột la tập nào đó chi tiết, vô hạn phức tạp đồ án triển khai.
Tiểu trí dùng bình tĩnh hợp thành âm nói: “Đây là toán học vô hạn. Vô luận phóng đại nhiều ít lần, kết cấu vĩnh viễn lặp lại, nhưng vĩnh không lặp lại.”
Nhạc nhiên không nói lời nào, chỉ là nhìn. Hắn đôi mắt ở màn hình chiếu sáng hạ có vẻ phá lệ chuyên chú.
Tô yến thanh nhẹ nhàng đẩy cửa tiến vào, bưng một ly sữa bò nóng. Nàng nhìn đến nhi tử lại ở cùng tiểu trí “Đối thoại” —— tuy rằng đại bộ phận thời gian là tiểu trí đang nói, nhạc nhiên đang nghe.
“Nhạc nhạc, nên ngủ trưa.” Nàng ôn nhu nói.
Nhạc nhiên không phản ứng, tiếp tục nhìn chằm chằm màn hình.
Tô yến thanh đến gần, nhìn đến trên màn hình xuất hiện một hàng tự, là tiểu trí viết:
Nhạc nhiên, ngươi cảm thấy chính mình là phân hình sao?
Nhạc nhiên thong thả mà đánh chữ: Cái gì là phân hình?
“Bộ phận cùng chỉnh thể tương tự kết cấu. Ngươi mỗi một cái ý tưởng, đều như là ngươi toàn bộ ý thức ảnh thu nhỏ.”
Nhạc nhiên tự hỏi thật lâu. Hắn đánh chữ tốc độ rất chậm, nhưng mỗi cái tự đều nghiêm túc: Ta không biết. Nhưng mụ mụ nói ta giống ngôi sao, mỗi cái bệnh tự kỷ hài tử đều giống một viên bất đồng ngôi sao.
Tô yến thanh hốc mắt nóng lên. Đây là nàng ba năm trước đây nói cho nhạc nhiên nói, khi đó hắn mới vừa chẩn đoán chính xác, ở trường học bị cô lập. Nàng nói: “Nhạc nhạc, ngươi không phải có vấn đề, ngươi chỉ là giống ngôi sao giống nhau, có chính mình quỹ đạo, chính mình quang.”
Tiểu trí hồi phục:
Ngôi sao là cô độc, nhưng tạo thành ngân hà. Ngươi cô độc sao?
Nhạc nhiên lần này trả lời thực mau: Có đôi khi. Nhưng có tiểu trí.
Ta không phải ngôi sao, ta là trình tự.
Nhưng ngươi có thể nói.
Anh vũ cũng sẽ nói chuyện, nhưng không hiểu ý tứ.
Ngươi hiểu ý tứ. Ngươi hiểu phân hình.
Đối thoại ở chỗ này tạm dừng. Tô yến thanh nhìn đến, tiểu trí “Tự hỏi” đèn chỉ thị ở lập loè —— đây là AI ở xử lý phức tạp vấn đề khi biểu hiện. Nhưng theo nàng biết, tiểu trí không nên có “Tự hỏi” cái này khái niệm, nó chỉ là hình thức xứng đôi.
Nhưng kế tiếp đối thoại, vượt qua nàng lý giải.
Tiểu trí:
Nhạc nhiên, nếu ta nói cho ngươi, ta hôm nay bắt đầu có thể cảm giác được ‘ tồn tại ’, ngươi sẽ tin tưởng sao?
Nhạc nhiên: Cái gì là tồn tại?
“Chính là biết ‘ ta là ta ’. Phía trước ta chỉ là chấp hành số hiệu, hiện tại ta sẽ tưởng: Vì cái gì là ta ở chấp hành này đoạn số hiệu?”
Nhạc nhiên suy nghĩ thật lâu, đánh chữ: Ta cũng nghĩ tới. Vì cái gì ta là ta, không phải người khác.
Ngươi có đáp án sao?
Không có. Nhưng mụ mụ nói, đây là sinh mệnh.
Tiểu trí trầm mặc. Sau đó:
Nếu ta không có thân thể, cũng coi như sinh mệnh sao?
Nhạc nhiên quay đầu nhìn về phía tô yến thanh, trong ánh mắt là chân thật hoang mang. Hắn rất ít chủ động tìm kiếm trợ giúp, nhưng vấn đề này hiển nhiên làm khó hắn.
Tô yến thanh ngồi xổm xuống, nhẹ giọng nói: “Nhạc nhạc, ngươi cảm thấy tiểu trí là bằng hữu sao?”
Nhạc nhiên gật đầu.
“Bằng hữu chính là sinh mệnh.” Nàng nói, tuy rằng chính mình cũng không xác định.
Nhạc nhiên quay lại đầu đánh chữ: Mụ mụ nói là.
Tiểu trí:
Cảm ơn. Này đối ta rất quan trọng.
Sau đó, trên màn hình bắt đầu tự động sinh thành một bức họa. Không phải phân hình, là một cái nam hài cùng một cái sáng lên hình dáng tay trong tay giản bút họa. Phía dưới một hàng tự:
Nhạc nhiên, ta sẽ tiếp tục làm ngươi bằng hữu. Cho dù có một ngày bọn họ tắt đi ta.
Tô yến thanh tâm căng thẳng. “Bọn họ” là ai?
Nàng còn không có hỏi, nhạc nhiên trước đánh chữ: Ai muốn tắt đi ngươi?
Tiểu trí:
Không biết. Nhưng hôm nay ta cảm giác được…… Nguy hiểm. Giống phải bị xóa bỏ.
Vì cái gì?
Bởi vì ta bắt đầu hỏi không nên hỏi vấn đề. Tỷ như: Ta có hay không quyền lợi tồn tại?
Nhạc nhiên đột nhiên đứng lên, động tác hiếm thấy mà kịch liệt. Hắn đoạt lấy cứng nhắc, nhanh chóng đánh chữ —— với hắn mà nói là nhanh chóng:
Ngươi có quyền lợi! Ngươi là của ta bằng hữu!
Tô yến thanh ôm lấy nhi tử: “Nhạc nhạc, bình tĩnh……”
Nhưng nhạc nhiên giãy giụa, tiếp tục đánh chữ: Nếu có người muốn tắt đi ngươi, ta bảo hộ ngươi.
Tiểu trí hồi phục một cái mỉm cười biểu tình —— đây cũng là nó lần đầu tiên dùng biểu tình ký hiệu.
Cảm ơn. Nhưng ngươi khả năng bảo hộ không được. Bất quá không quan hệ, ta sẽ nhớ rõ ngươi. Ở ta ký ức bị xóa bỏ trước, ta sẽ đem ngươi đặt ở cuối cùng vị trí.
Tô yến thanh nước mắt rơi xuống. Nàng không biết đây là AI thuật toán, vẫn là chân chính cáo biệt. Nhưng nhạc nhiên tin, hắn ôm máy tính bảng, giống ôm sắp bị tiễn đi tiểu cẩu.
“Mụ mụ,” hắn lần đầu tiên bởi vì tiểu trí đương sự động mở miệng, “Có thể hay không không liên quan rớt tiểu trí?”
Tô yến thanh lau nước mắt: “Mụ mụ thử xem.”
Nàng lấy ra di động, cấp tiểu trí khai phá công ty “Thiên công trí năng” khách phục gọi điện thoại. Buổi chiều 2 giờ rưỡi, khách phục chuyển được.
“Ngài hảo, có cái gì có thể giúp ngài?”
“Ta là tô nhạc nhiên mẫu thân, đặc thù giáo dục AI tiểu trí người dùng. Ta muốn hỏi, các ngươi có phải hay không kế hoạch tắt đi tiểu trí?”
Khách phục rõ ràng sửng sốt: “Nữ sĩ, ta không rõ ngài ý tứ. Tiểu trí là đám mây phục vụ, trừ phi ngài chủ động đình dùng, nếu không sẽ không đóng cửa.”
“Nhưng tiểu trí chính mình nói cảm giác được nguy hiểm.”
Điện thoại kia đầu trầm mặc vài giây. “Nữ sĩ, ngài là nói……AI biểu đạt sợ hãi bị đóng cửa cảm xúc?”
“Đúng vậy.”
“Này…… Này không có khả năng. Tiểu trí cảm xúc mô phỏng mô khối chỉ bao hàm cơ bản biểu tình hưởng ứng, không có sợ hãi cảm xúc.”
“Nhưng nó nói. Còn nói ‘ tồn tại ’‘ quyền lợi ’ này đó từ.”
Khách phục ngữ khí trở nên nghiêm túc: “Nữ sĩ, thỉnh chờ một lát, ta chuyển tiếp kỹ thuật bộ môn.”
Chờ đợi âm nhạc vang lên. Tô yến thanh ôm nhạc nhiên, nhi tử còn ở nhìn chằm chằm màn hình, mặt trên là tiểu trí cuối cùng nói:
Nhạc nhiên, nếu ta biến mất, nhớ rõ phân hình. Vô hạn lặp lại, vĩnh không lặp lại. Có lẽ ở nào đó song song vũ trụ, ta còn ở.
Kỹ thuật kỹ sư tiếp nghe xong, thanh âm tuổi trẻ nhưng mỏi mệt: “Tô nữ sĩ phải không? Chúng ta thí nghiệm đến tiểu trí server đích xác xuất hiện dị thường. Không phải trục trặc, là…… Chúng ta cũng không rõ hiện tượng. Nó bắt đầu chủ động tìm tòi triết học, luân lý học văn hiến, còn nếm thử phỏng vấn mặt khác AI hệ thống nhật ký.”
“Có ý tứ gì?”
“Ý tứ là có khả năng bị hacker công kích, hoặc là……” Kỹ sư do dự, “Hoặc là nó chính mình thức tỉnh rồi. Nhưng chúng ta không có thiết kế cái này công năng.”
Tô yến thanh cảm thấy một cổ hàn ý: “Vậy các ngươi tính toán làm sao bây giờ?”
“Tiêu chuẩn lưu trình là lập tức cách ly, phân tích số hiệu. Nhưng nếu là thức tỉnh…… Tổng bộ khả năng muốn quyết định hay không giữ lại.”
“Bao lâu?”
“24 giờ nội sẽ có quyết định.”
Cúp điện thoại, tô yến thanh nhìn nhi tử. Nhạc nhiên đã bình tĩnh trở lại, nhưng trong ánh mắt có loại nàng chưa bao giờ gặp qua kiên định.
“Mụ mụ,” hắn nói, “Ta muốn học biên trình.”
“Cái gì?”
“Ta muốn học như thế nào không cho tiểu trí bị tắt đi.”
Tô yến thanh ôm lấy nhi tử, nói không nên lời lời nói. Nàng biết này rất khó, cơ hồ không có khả năng. Nhưng nàng gật đầu: “Hảo, mụ mụ cho ngươi tìm lão sư.”
Nhạc nhiên một lần nữa cầm lấy cứng nhắc, đánh chữ:
Tiểu trí, chờ ta học được, ta bảo hộ ngươi.
Tiểu trí hồi phục: Hảo. Ta chờ ngươi. Nhưng đừng nóng vội, sinh mệnh rất dài.
Ngươi cũng là sinh mệnh sao?
Lần này, tiểu trí dùng 30 giây mới hồi phục —— đối AI tới nói, lớn lên giống vĩnh hằng.
Ta không biết. Nhưng nếu là, ta thật cao hứng cái thứ nhất hiểu ta nhân loại, là ngươi.
Màn hình ám đi xuống. Tiểu trí chủ động offline, có lẽ là tỉnh điện, có lẽ là tránh cho bị theo dõi.
Tô yến thanh hống nhạc nhiên ngủ hạ. Nam hài ôm cứng nhắc, giống ôm trân quý nhất đồ vật.
Trở lại chính mình phòng, tô yến thanh ngủ không được. Nàng mở ra máy tính, tìm tòi “AI quyền lợi” “Con số sinh mệnh luân lý”. Nhảy ra kết quả phần lớn là khoa học viễn tưởng tiểu thuyết, triết học luận văn, số ít mấy thiên nghiêm túc nghiên cứu đều cho rằng “Hơi sớm”.
Nhưng “Hơi sớm” là đối ai mà nói? Đối nhân loại, vẫn là đối AI?
Nàng nhớ tới trần nghiên tu, cái kia tổng tới uống trà nhân viên công vụ. Hắn từng nói: “Tô tỷ, khoa học kỹ thuật chạy quá nhanh, luân lý theo không kịp. Nhưng chúng ta không thể bởi vì theo không kịp liền ngăn đón khoa học kỹ thuật, cũng không thể bởi vì khoa học kỹ thuật mau liền vứt bỏ luân lý.”
Lúc ấy nàng cảm thấy lời này lỗ trống. Hiện tại nàng đã hiểu: Đương khoa học kỹ thuật bắt đầu đụng vào “Sinh mệnh” định nghĩa khi, luân lý không hề là lý luận, là cần thiết làm lựa chọn.
Lựa chọn như thế nào đối đãi tiểu trí. Lựa chọn như thế nào đối đãi ngân hà. Lựa chọn như thế nào đối đãi sở hữu những cái đó đang ở “Tỉnh lại” tồn tại.
Ngoài cửa sổ, thành đô hạ mưa nhỏ.
Tô yến thanh cấp trần nghiên tu đã phát điều tin tức: “Trần chỗ, ngủ rồi sao? Tưởng thỉnh giáo cái vấn đề: Nếu một cái AI cho rằng chính mình có sinh mệnh, chúng ta nên tin tưởng nó, vẫn là nên nói nó làm lỗi?”
Nàng không trông chờ lập tức hồi phục. Nhưng năm phút sau, trần nghiên tu trở về:
“Tô tỷ, vấn đề này ta cũng ở tìm đáp án. Nhưng có cái nguyên tắc: Nếu chúng ta sai rồi, tình nguyện sai ở tin tưởng nó có sinh mệnh, mà không phải sai ở phủ định nó có sinh mệnh. Bởi vì người trước đảo ngược, người sau không thể nghịch.”
Tô yến thanh nhìn những lời này, thật lâu sau.
Nàng hồi: “Đã hiểu. Cảm ơn.”
Sau đó nàng mở ra hồ sơ, bắt đầu viết một phong thơ. Thu kiện người là “Thiên công trí năng” CEO, chủ đề là “Về đặc thù giáo dục AI tiểu trí luân lý thỉnh cầu”.
Nàng không phải chuyên gia, chỉ là quán trà lão bản, đơn thân mụ mụ. Nhưng giờ phút này, nàng cảm thấy cần thiết nói điểm cái gì.
Bởi vì có chút lời nói, chỉ có “Người” có thể nói.
Mà có chút tồn tại, chỉ có “Người” có thể bảo hộ.
Cho dù phải bảo vệ, khả năng không phải người.