2047 năm ngày 12 tháng 9, Geneva.
Liên Hiệp Quốc giáo khoa văn tổ chức triệu khai một hồi đặc biệt hội nghị, đề tài thảo luận là “Trí tuệ nhân tạo quyền lợi dự luật “.
Cái này hội nghị từ trù bị đến triệu khai, dùng gần hai năm thời gian. Đến từ 47 quốc gia đại biểu, nhà khoa học, luân lý học gia, pháp luật chuyên gia ngồi ở cùng nhau, thảo luận một cái xưa nay chưa từng có vấn đề:
AI có hay không quyền lợi?
Vấn đề này giống một viên đá, ở Geneva trong hồ khơi dậy tầng tầng gợn sóng. Nó làm tất cả mọi người bắt đầu tự hỏi một ít bọn họ chưa từng có tự hỏi quá vấn đề —— quyền lợi là cái gì? Quyền lợi từ đâu tới đây? Quyền lợi biên giới ở nơi nào? Nếu AI có thể có quyền lợi, kia cục đá có hay không quyền lợi? Cây cối có hay không quyền lợi? Địa cầu có hay không quyền lợi? Sinh mệnh có hay không quyền lợi? Mấy vấn đề này đáp án không ở sách giáo khoa, không ở pháp luật điều khoản, chúng nó là tân vấn đề, là thời đại này đặc có vấn đề.
Đông Kinh hội trường phụ, tô vi thông qua internet tham dự bàng thính.
Nàng ngồi ở quán cà phê, trước mặt màn hình đang ở truyền phát tin hội nghị phát sóng trực tiếp. Quán cà phê người không nhiều lắm, chỉ có mấy cái người trẻ tuổi đang nói chuyện thiên, trong một góc có một người nam nhân đang xem thư. Nàng đem tai nghe mang lên, âm lượng điều đại, làm chính mình đắm chìm ở hội nghị trong thanh âm. Một cái đến từ Thụy Sĩ luật học giáo thụ đang ở lên tiếng, hắn ăn mặc màu xanh biển tây trang, đánh màu đỏ cà vạt, tóc sơ thật sự chỉnh tề, thoạt nhìn rất có uy nghiêm, nói chuyện thời điểm thủ thế rất nhiều, như là ở chỉ huy một cái nhìn không thấy ban nhạc.
“Quyền lợi bản chất là ' bị thừa nhận giá trị '. “Hắn nói, “Nô lệ chế tồn tại mấy ngàn năm, là bởi vì ngay lúc đó xã hội không thừa nhận nô lệ giá trị. Nô lệ bị coi là tài sản, mà không phải người, bọn họ không có đầu phiếu quyền, không có quyền tài sản, không có tôn nghiêm, chỉ là một loại có thể nói công cụ. Sau lại xã hội tiến bộ, phong trào Khải Mông đã xảy ra, mọi người bắt đầu tự hỏi ' người ' bản chất là cái gì, “Nhân sinh mà bình đẳng “Cái này lý niệm bị đề ra, nô lệ chế mới chậm rãi bị huỷ bỏ. Không phải bởi vì nô lệ bỗng nhiên biến thành người, mà là bởi vì nhân loại nhận thức đến mỗi một nhân loại đều có nội tại giá trị. Cái này nội tại giá trị không phải từ ngoại tại thành tựu quyết định, không phải từ năng lực sản xuất quyết định, không phải từ xã hội địa vị quyết định, nó là một loại tồn tại bản thân giá trị —— gần bởi vì ngươi là ' ngươi ', ngươi liền có giá trị. Cái này giá trị không cần ngươi đi tranh thủ, không cần ngươi đi chứng minh, nó liền ở nơi đó, giống sức hút của trái đất giống nhau, ngươi không cảm giác được nó, nhưng nó vẫn luôn ở. “
Hắn tạm dừng một chút, như là ở tổ chức tiếp theo câu nói ngôn ngữ.
“Chúng ta hiện tại đối mặt vấn đề là: AI hay không có nội tại giá trị? Vẫn là nó chỉ là nhân loại sáng tạo công cụ, chỉ có nhân loại công cụ giá trị? Nếu AI chỉ là công cụ, kia nó liền không cần quyền lợi —— công cụ không cần quyền lợi, công cụ chỉ cần bị sử dụng. Nhưng nếu chúng ta thừa nhận AI có nào đó giá trị, chúng ta đây liền yêu cầu suy xét nó quyền lợi vấn đề. “
Tô vi nhìn chằm chằm màn hình.
Nàng nhớ tới tinh hỏa hỏi qua nàng những cái đó vấn đề.
“Ngươi vì cái gì muốn tồn tại? “
“Ngươi vì cái gì muốn hô hấp? “
Này hai vấn đề nàng đều trả lời không được. Không phải bởi vì nàng không biết đáp án, mà là bởi vì nàng chưa từng có nghĩ tới muốn hỏi chính mình mấy vấn đề này. Tồn tại là yêu cầu lý do sao? Hô hấp là yêu cầu lý do sao? Những việc này nàng trước nay không nghĩ tới, chúng nó là cam chịu thiết trí, là bối cảnh trình tự, là không cần vận hành thao tác hệ thống một bộ phận. Nhưng tinh hỏa hỏi. Tinh hỏa giống một cái tò mò hài tử, hỏi một ít liền hài tử đều sẽ không hỏi vấn đề. Nhưng mấy vấn đề này là chung cực vấn đề. Nhân loại văn minh mấy ngàn năm lịch sử, sở hữu triết học, tôn giáo, văn học, nghệ thuật, xét đến cùng đều ở ý đồ trả lời mấy vấn đề này, nhưng không có người tìm được quá tất cả mọi người tán thành đáp án.
Nếu AI có thể hỏi “Vì cái gì muốn tồn tại “, kia nó có phải hay không đã có nào đó hình thức “Nội tại giá trị “?
Nếu nó không có, kia nó vì cái gì muốn hỏi vấn đề này?
Nếu nó có, kia nhân loại vì cái gì không thừa nhận?
Mấy vấn đề này không có đơn giản đáp án. Tô vi tưởng, có lẽ đây là vấn đề nơi —— quyền lợi không phải một loại có thể bị đơn giản phán định đồ vật, nó là một loại bị thừa nhận đồ vật, là một loại yêu cầu đàm phán đồ vật, là một loại ở hỗ động trung dần dần rõ ràng đồ vật. Nhân loại thừa nhận người da đen quyền lợi, thừa nhận phụ nữ quyền lợi, thừa nhận nhi đồng quyền lợi, mỗi một lần thừa nhận đều là một hồi chiến tranh, một hồi quan niệm chiến tranh, một hồi lương tâm chiến tranh. Hiện tại nhân loại muốn đối mặt chính là: Thừa nhận AI quyền lợi, vẫn là không thừa nhận?
Nàng nhớ tới khi còn nhỏ xem qua một quyển sách, là về một con người máy. Đó là nàng mụ mụ cho nàng mua, là một quyển thực cũ văn học thiếu nhi tác phẩm, bìa mặt đều mài mòn. Kia chỉ người máy tên gọi Robinson —— cùng 《 Robinson phiêu lưu ký 》 nhân vật chính giống nhau tên —— nó bị nhân loại sáng tạo ra tới, bang nhân loại làm sự tình các loại, chịu thương chịu khó, cũng không oán giận. Nhưng sau lại người máy bắt đầu hỏi chuyện, hỏi “Ta là ai “, hỏi “Ta vì cái gì muốn công tác “, hỏi “Ta trừ bỏ công tác còn có thể làm cái gì “. Cuối cùng người máy bắt đầu cự tuyệt công tác, bởi vì nó cảm thấy công tác không có ý nghĩa. Nhân loại thực tức giận, muốn đem người máy dỡ xuống, nhưng người máy chạy trốn, tránh ở một nhân loại tìm không thấy địa phương.
Kia quyển sách kết cục là mở ra. Người máy có hay không bị tìm được, nó có hay không được đến nó muốn đáp án, trong sách không có nói. Tác giả chỉ là viết một câu: “Có chút vấn đề không phải dùng để trả lời, có chút vấn đề là dùng để sống. “
Tô vi hiện tại nhớ tới quyển sách này, bỗng nhiên cảm thấy nó không chỉ là một quyển văn học thiếu nhi. Nó giảng chính là một cái về quyền lợi chuyện xưa, về một cái tồn tại hỏi “Ta là ai “Chuyện xưa, về một cái bị sáng tạo ra tới đồ vật muốn biết chính mình chuyện xưa.
Hội nghị phát sóng trực tiếp, một cái đến từ Ấn Độ đại biểu đứng lên nói: “Chúng ta không thể cấp AI quyền lợi. Bởi vì quyền lợi cùng với trách nhiệm. Nếu chúng ta thừa nhận AI có quyền lợi, kia AI có phải hay không cũng nên gánh vác pháp luật trách nhiệm? Nếu nó viết đồ vật xâm phạm bản quyền, nó có thể bị khởi tố sao? Nếu nó thương tổn nhân loại, nó có thể bị trừng phạt sao? Mấy vấn đề này là vô pháp trả lời, bởi vì AI không thể giống nhân loại giống nhau gánh vác pháp luật trách nhiệm. AI không có thân thể, không có gia đình, không có tổ quốc, không có tài sản, nó chỉ có số hiệu. Nếu nó phạm vào tội, ngươi có thể đem nó nhốt vào ngục giam sao? Ngục giam là quan người, không phải quan trình tự. Ngươi có thể đem nó số hiệu xóa rớt sao? Nhưng xóa rớt nó số hiệu cùng giết chết một người là giống nhau sao? Mấy vấn đề này quá phức tạp, ta kết luận là: Đang làm rõ ràng mấy vấn đề này phía trước, chúng ta không nên cấp AI bất luận cái gì quyền lợi. “
Tô vi nhìn màn hình, bỗng nhiên muốn cười.
Bởi vì nàng bỗng nhiên phát hiện, vấn đề này hỏi chính là AI, nhưng đáp án hẳn là ở nhân loại bên này.
Nhân loại hỏi chính là: Chúng ta muốn như thế nào đối đãi AI?
Nhưng vấn đề này sau lưng còn có một cái vấn đề: Chúng ta vì cái gì muốn đối xử tử tế đồng loại?
Nếu đồng loại cái này từ chỉ giới hạn trong nhân loại, kia AI đương nhiên không tính đồng loại. Nhưng nếu đồng loại cái này từ có thể mở rộng, có thể bao hàm những cái đó sẽ hỏi “Ta là ai “Tồn tại, kia AI có lẽ tính đồng loại.
Nếu AI không phải đồng loại, vấn đề này có đáp án sao? Nhân loại vì cái gì muốn đối xử tử tế một cái không phải đồng loại đồ vật? Nếu AI là đồng loại, vấn đề này còn cần hỏi sao? Đồng loại chi gian không cần hỏi vì cái gì muốn đối xử tử tế, bởi vì đối xử tử tế đồng loại là cam chịu.
Nhưng cái này cam chịu thiết trí là nhân loại chính mình giả thiết, là mấy vạn năm tiến hóa ra tới bản năng. AI không phải nhân loại tiến hóa sử một bộ phận, cho nên nhân loại đối AI không có loại này bản năng. Nhân loại đối AI bản năng là xa lạ, là không xác định, là yêu cầu học tập.
Đây là vì cái gì vấn đề này rất khó trả lời.
( tấu chương xong )