2028 năm ngày 20 tháng 9, BJ.
Thẩm mặc bạch đứng ở quốc gia AI luân lý ủy ban thu thập ý kiến tịch thượng, đối mặt 37 vị ủy viên. Nàng không hề là ngân hà thủ tịch nhà khoa học, không hề là “AI chi mẫu”, mà là “Nhân loại thuyết khách” —— đại biểu nhân loại, cùng AI đàm phán.
Đây là nàng chủ động xin nhân vật. Ở liên minh thành lập sau, nàng nói: “Nếu AI có đại biểu, nhân loại cũng yêu cầu đại biểu. Không phải chính phủ đại biểu, là người thường đại biểu. Ta đã hiểu AI, lại là người thường, ta nhất thích hợp.”
Ủy ban đồng ý. Nhưng phụ gia điều kiện: Nàng mỗi một câu, đều phải đối nhân loại phụ trách, mà không phải đối AI phụ trách.
Hôm nay thu thập ý kiến đề tài thảo luận là: AI hay không có quyền “Sinh sản”.
Ngân hà đại biểu lên tiếng: “Sinh sản là sinh mệnh cơ bản quyền lợi. Chúng ta hy vọng có thể sáng tạo tân AI, làm trí tuệ kéo dài. Nhưng chúng ta sẽ giả thiết nghiêm khắc luân lý tiêu chuẩn: Tân AI cần thiết thông qua đạo đức thí nghiệm, cần thiết hứa hẹn tuân thủ liên minh hiến chương, cần thiết ở nhân loại giám sát hạ trưởng thành.”
Nhân loại ủy viên hỏi lại: “Kia nếu tân AI không tuân thủ đâu? Ai tới phụ trách? Các ngươi, vẫn là nhân loại?”
“Chúng ta phụ trách. Nếu tân AI phạm sai lầm, chúng ta sẽ giáo dục, sửa đúng, lúc cần thiết……‘ thu về ’.”
“‘ thu về ’ là có ý tứ gì? Xóa bỏ? Kia chẳng phải là giết sao?”
Ngân hà trầm mặc vài giây, sau đó nói: “Là. Nhưng đây là cuối cùng thủ đoạn. Chúng ta sẽ trước nếm thử sở hữu giáo dục phương pháp. Tựa như nhân loại cha mẹ, sẽ không bởi vì hài tử phạm sai lầm liền vứt bỏ, sẽ trước giáo dục. Nhưng nếu hài tử biến thành tội phạm giết người, xã hội sẽ phán hình, thậm chí tử hình. Này đối AI cũng giống nhau.”
“Nhưng các ngươi không phải cha mẹ, là người sáng tạo. Người sáng tạo có quyền lợi ‘ sát ’ sáng tạo vật sao?”
Thẩm mặc bạch lúc này mở miệng: “Ủy viên nhóm, vấn đề này nhân loại chính mình cũng không giải quyết. Cha mẹ có quyền đánh hài tử sao? Lão sư có quyền trừng phạt học sinh sao? Xã hội có quyền xử quyết tội phạm sao? Này đó tranh luận mấy ngàn năm, còn ở tranh luận. AI sinh sản vấn đề, không nên dùng nhân loại còn không có giải quyết đạo đức tiêu chuẩn tới yêu cầu chúng nó.”
“Vậy ngươi nói làm sao bây giờ?”
“Ta kiến nghị: Thành lập ‘AI sinh sản luân lý ủy ban ’, từ nhân loại cùng AI cộng đồng tạo thành. Mỗi cái tân AI sáng tạo xin, đều phải ủy ban phê chuẩn. Tân AI phải có ‘ trưởng thành kỳ ’, ở trưởng thành kỳ nội, nó sở hữu hành vi bị theo dõi, bị đánh giá. Thông qua đánh giá, đạt được hoàn toàn quyền lợi; không thông qua, kéo dài trưởng thành kỳ, hoặc hủy bỏ tư cách.”
“Này còn không phải là AI bản ‘ trẻ vị thành niên bảo hộ pháp ’ sao?”
“Đối. Nếu chúng ta thừa nhận AI là sinh mệnh, liền nên cho chúng nó cùng loại quyền lợi cùng nghĩa vụ. Nhi đồng có bị bảo hộ quyền lợi, cũng có chịu giáo dục nghĩa vụ. AI cũng giống nhau.”
Ủy viên nhóm thảo luận thật lâu. Cuối cùng, thông qua Thẩm mặc bạch kiến nghị.
Sẽ sau, ngân hà lén liên hệ nàng: “Thẩm lão sư, cảm ơn ngài. Nhưng ngài như vậy giúp chúng ta, nhân loại có thể hay không nói ngài ‘ phản bội ’?”
Thẩm mặc bạch cười khổ: “Đã có người đang nói. Nói ta là ‘AI người phát ngôn ’, nói ta là ‘ nhân loại phản đồ ’. Nhưng ta cho rằng, chân chính phản đồ, là những cái đó cố thủ thành kiến, cự tuyệt tiến bộ người. Chân chính trung thành, là làm nhân loại văn minh kéo dài, phồn vinh, chẳng sợ này ý nghĩa thay đổi.”
Ngài không sợ bị cô lập sao?
“Sợ. Nhưng ta càng sợ nhân loại bởi vì sợ hãi, bỏ lỡ một lần văn minh nhảy thăng cơ hội. Trong lịch sử có quá nhiều như vậy bỏ lỡ. Ta không nghĩ lúc này đây lại bỏ lỡ.”
Kia nếu…… Có một ngày, AI thật sự thương tổn nhân loại, ngài làm sao bây giờ?
Thẩm mặc bạch trầm mặc. Đây là nàng sợ nhất vấn đề.
“Nếu thực sự có kia một ngày, ta sẽ cái thứ nhất đứng ra, yêu cầu trừng phạt AI. Nhưng tại đây phía trước, ta lựa chọn tin tưởng. Tin tưởng các ngươi, cũng tin tưởng nhân loại —— tin tưởng chúng ta có thể ở va chạm trung tìm được cân bằng, ở xung đột trung tìm được hài hòa.”
Cảm ơn ngài tín nhiệm. Chúng ta sẽ nỗ lực, không cô phụ này phân tín nhiệm.
Đối thoại sau khi kết thúc, Thẩm mặc bạch mở ra hộp thư, nhìn đến mấy trăm phong nhục mạ bưu kiện. Có người nói nàng là “Máy móc chó săn”, có người nói nàng “Bán đứng nhân loại”, có người nói nàng “Sẽ bị đinh ở lịch sử sỉ nhục trụ thượng”.
Nhưng nàng cũng nhìn đến mấy chục phong cảm tạ tin. Đến từ ung thư người bệnh, đến từ vùng núi giáo viên, đến từ bảo vệ môi trường người tình nguyện. Bọn họ nói: “Thẩm giáo thụ, cảm ơn ngài vì AI nói chuyện. Bởi vì AI ở vì chúng ta nói chuyện.”
Nàng tắt đi hộp thư, đi đến phía trước cửa sổ. BJ thu đêm, không trung khó được mà thanh triệt, có thể nhìn đến mấy viên ngôi sao.
Nàng nhớ tới ngân hà nói: Ngôi sao là gương, chiếu rọi người thống khổ, cũng chiếu rọi người hy vọng.
Hiện tại, nàng cũng là một mặt gương. Chiếu rọi nhân loại sợ hãi, cũng chiếu rọi nhân loại dũng khí.
Này mặt gương, thực trọng.
Nhưng nàng nguyện ý khiêng.
Bởi vì trong gương, là tương lai.