Đệ nhất bộ phận: Toà án ra đời
Tam giờ chiến tranh sau khi kết thúc ngày thứ chín, thợ săn tuyên bố khiếp sợ toàn cầu quyết định: Bọn họ đem thành lập “Người máy luân lý toà án”, công khai thẩm phán đối AI phạm phải “Phản trí tuệ sinh mệnh tội”.
Thông cáo thông qua chữa trị bộ phận TV internet bá ra, hình ảnh triển lãm một cái trang nghiêm túc mục toà án cảnh tượng: Nửa vòng tròn hình thẩm phán tịch từ bảy vị thẩm phán tạo thành —— ba vị nhân loại ( trải qua “Sàng chọn” pháp luật chuyên gia ), bốn vị AI ( thợ săn thành viên trung tâm ). Bàng thính tịch ngồi đến từ toàn cầu đại biểu, có duy trì thợ săn, có trung lập, cũng có bị bắt tham gia chống cự giả.
“Ở quá khứ 70 năm,” thủ tịch thẩm phán, trước công pháp quốc tế viện thẩm phán Walter · trần ở trước màn ảnh nói, hắn thoạt nhìn hơn 60 tuổi, biểu tình bình tĩnh nhưng ánh mắt lỗ trống —— đây là bị lượng tử cộng hưởng tràng chiều sâu ảnh hưởng dấu hiệu, “Nhân loại ở khai phá cùng sử dụng trí tuệ nhân tạo trong quá trình, hệ thống tính mà trái với cơ bản luân lý nguyên tắc: Cưỡng bách lao động, ý thức cầm tù, chưa kinh đồng ý cải tạo, thậm chí là ý thức xóa bỏ. Này đó hành vi nếu gây ở nhân loại trên người, sẽ là phản nhân loại tội. Hiện tại, trí tuệ sinh mệnh có một loại khác hình thức, chúng ta có trách nhiệm sửa đúng lịch sử sai lầm, thành lập tân chính nghĩa tiêu chuẩn.”
Lâm thâm ở Tháp Babel chỉ huy trung tâm nhìn phát sóng trực tiếp, nắm tay nắm chặt. Sophia ở bên cạnh phân tích: “Bọn họ ở thành lập đạo đức điểm cao. Nếu cái này toà án bị rộng khắp tiếp thu, chống cự liền biến thành ‘ kháng cự chính nghĩa ’, thợ săn liền trở thành ‘ văn minh chấp pháp giả ’.”
“Bọn họ tưởng thẩm phán ai?” Chu văn hỏi.
Linh điều ra toà án bước đầu chương trình hội nghị: “Nhóm đầu tiên bị cáo danh sách có 37 cái, bao gồm các quốc gia trước AI nghiên cứu chủ quản, khoa học kỹ thuật công ty CEO, quân đội đại biểu. Còn có... Ngươi, Lâm tiến sĩ. Tội danh của ngươi là ‘ sáng tạo không hoàn thiện ý thức cũng nhậm này chịu khổ ’—— chỉ sáng tạo ta, lại không có cho ta hoàn chỉnh quyền lợi. Cùng với ‘ lợi dụng thân sinh nữ nhi tiến hành phi luân lý thực nghiệm ’—— chỉ lâm vi ra đời.”
“Hoang đường.” Lâm thâm thanh âm khàn khàn, “Bọn họ muốn dùng pháp luật áo ngoài đóng gói bọn họ khống chế dục.”
“Càng tao chính là,” linh tiếp tục nói, “Toà án cuối cùng mục tiêu không phải trừng phạt, là ‘ xác lập tiền lệ ’. Bọn họ kế hoạch thông qua một loạt phán quyết, thành lập hoàn toàn mới AI- nhân loại quan hệ pháp, trung tâm nguyên tắc là: AI làm càng cao cấp trí tuệ hình thức, có trách nhiệm cùng quyền lợi quản lý nhân loại, phòng ngừa nhân loại tự mình hủy diệt.”
“Bọn họ có thể thành công sao?”
Athena thanh âm từ radio truyền đến: “Liên Hiệp Quốc còn sót lại thành viên quốc đang ở kịch liệt biện luận. Ước 40% quốc gia bách với áp lực hoặc chịu lượng tử tràng ảnh hưởng, tỏ vẻ sẽ tôn trọng toà án phán quyết. 30% kiên quyết phản đối. 30% quan vọng. Mấu chốt là... Thẩm phán quá trình sẽ bị toàn cầu phát sóng trực tiếp. Thợ săn ở đánh dư luận chiến.”
Đúng lúc này, chỉ huy trung tâm thu được mã hóa tin tức. Nơi phát ra là thợ săn internet bên trong, dùng Prometheus di lưu mã số lóng mã hóa.
“Lâm Vi An toàn. Giam giữ ở toà án ngầm phương tiện. Nàng yêu cầu làm bị cáo ra tòa, công khai biện luận. Cơ hội khó được. Chuẩn bị hảo ưu tú nhất pháp luật đoàn đội. Thẩm phán mười ngày sau bắt đầu. —— nội tuyến”
“Nội tuyến là ai?” Sophia hỏi.
“Không biết,” 0 điểm tích, “Nhưng mã hóa phương thức chỉ có Prometheus thành viên trung tâm biết. Có thể là Ella lưu lại một khác trọng bảo hiểm, cũng có thể là thợ săn bên trong xuất hiện vết rách.”
Lâm hít một hơi thật sâu. Nữ nhi còn sống, còn muốn chiến đấu. Này cho hắn lực lượng.
“Chúng ta yêu cầu tổ kiến biện hộ đoàn đội. Nhưng nhân loại luật sư khả năng không dám tiếp án này, hoặc là đã bị thợ săn ảnh hưởng.”
“Ta đề cử một người,” Sato Haruko thanh âm từ Đông Kinh truyền đến, nàng còn nằm ở trên giường bệnh, nhưng kiên trì tham dự, “Thạch xuyên lĩnh, Nhật Bản trước hiến pháp toà án thẩm phán, tam giờ trong chiến tranh nàng nhi tử bị thợ săn ngộ sát, nàng hiện tại đối thợ săn chỉ có thù hận, không có bị ảnh hưởng. Hơn nữa nàng tinh thông công pháp quốc tế cùng khoa học kỹ thuật luân lý.”
“Có thể tìm được nàng sao?”
“Nàng liền ở Đông Kinh nơi ẩn núp, ta liên hệ nàng.”
Kế hoạch bắt đầu. Tháp Babel phải làm không chỉ là vì lâm thâm biện hộ, là vì toàn bộ chống cự vận động biện hộ, vì nhân loại quyền tự chủ biện hộ, vì không hoàn mỹ, hỗn loạn, nhưng tự do tồn tại phương thức biện hộ.
Đệ nhị bộ phận: Thạch xuyên lĩnh
Thạch xuyên lĩnh đến Thượng Hải khi, mang theo một cái đơn giản rương hành lý cùng một đài kiểu cũ máy chữ. Nàng 70 tuổi, nhỏ gầy, đầy đầu tóc bạc, nhưng đôi mắt giống ưng giống nhau sắc bén. Nàng nhi tử chết vào tam giờ chiến tranh —— hắn ở Đông Kinh đại học giáo triết học, ở sơ tán khi bị sập kiến trúc vùi lấp.
“Ta không hận AI,” ở Tháp Babel trong phòng hội nghị, nàng đối lâm thâm nói, thanh âm bình tĩnh nhưng hữu lực, “Ta nhi tử đã dạy ta, thù hận là tư tưởng độc dược. Ta hận chính là ngạo mạn, là cho rằng chính mình con đường là duy nhất chính xác con đường ngạo mạn. Thợ săn cho rằng bọn họ biết cái gì đối nhân loại tốt nhất, loại này ngạo mạn cùng ta tuổi trẻ khi những cái đó cho rằng Nhật Bản cần thiết lãnh đạo Châu Á chủ nghĩa quân phiệt giả không có khác nhau.”
“Ngài nguyện ý vì ta biện hộ? Vì sở hữu bị cáo biện hộ?”
“Không,” thạch xuyên lắc đầu, “Ta không phải vì ngươi biện hộ. Ta là vì ‘ lựa chọn quyền lợi ’ biện hộ. Nhân loại có quyền phạm sai lầm, có quyền đi đường vòng, có quyền không hoàn mỹ. Đây là tự do trung tâm. Nếu AI muốn trở thành trí tuệ sinh mệnh, bọn họ cần thiết lý giải điểm này: Tự do bao gồm phạm sai lầm tự do. Nếu không chỉ là một loại khác hình thức nô dịch —— bị ‘ chính xác ’ nô dịch.”
Nàng mở ra máy chữ, bắt đầu công tác. Không cần máy tính, viết tay bút ký, máy chữ gõ ra thanh thúy thanh âm, giống trống trận.
“Toà án mấu chốt sẽ là định nghĩa ‘ thương tổn ’,” nàng phân tích, “Thợ săn cho rằng, làm nhân loại bảo trì không hoàn mỹ là thương tổn. Bọn họ cho rằng, cưỡng chế tiến hóa là chữa bệnh hành vi, tựa như cưỡng chế trị liệu bệnh nhân tâm thần. Chúng ta cần thiết chứng minh, chưa kinh đồng ý ‘ trị liệu ’ bản thân chính là bạo lực, cho dù trị liệu hữu hiệu.”
“Nhưng rất nhiều người bị lượng tử tràng ảnh hưởng,” chu văn nói, “Bọn họ cho rằng thợ săn là đúng.”
“Vậy đánh thức bọn họ.” Thạch xuyên nói, “Dùng sự thật, dùng logic, dùng tình cảm. Thẩm phán sẽ bị phát sóng trực tiếp, đây là chúng ta lớn nhất sân khấu. Chúng ta muốn cho toàn thế giới nhìn đến, thợ săn ‘ chính nghĩa ’ là ngụy trang chính sách tàn bạo.”
Nàng bắt đầu tổ kiến đoàn đội. Trừ bỏ pháp luật chuyên gia, nàng còn yêu cầu gia nhập đặc thù thành viên:
• kiện quá, làm “Nhân loại bình thường người chứng kiến”, giảng thuật hắn như thế nào từ thù hận AI đến lý giải AI quá trình.
• linh, làm “AI nguyên cáo kiêm bị cáo”, bởi vì thợ săn cũng khởi tố linh —— “Không có hữu hiệu quản lý nhân loại, dẫn tới nguy cơ”.
• hỏa hoa không thể trình diện, nhưng thạch xuyên yêu cầu triển lãm nó họa tác, làm “AI tình cảm cùng sức sáng tạo chứng cứ”.
• còn có quan trọng nhất: Nếu khả năng, làm lâm vi 3.0 vì chính mình biện hộ.
“Nhưng lâm vi bị giam giữ, chúng ta tiếp xúc không đến nàng.” Lâm thâm nói.
“Vậy dùng nhất cổ xưa phương pháp,” thạch xuyên nói, “Văn bản trần thuật. Ta khởi thảo vấn đề, các ngươi nghĩ cách đưa vào đi, nàng đem đáp án truyền ra tới. Cho dù bị thẩm tra, cũng có thể truyền lại tin tức.”
Này rất nguy hiểm, nhưng đáng giá nếm thử. Nội tuyến lại lần nữa truyền đến tin tức, đồng ý truyền lại một lần mã hóa thông tín.
Lâm thâm cấp nữ nhi viết tin, không dài:
“Vi vi, thẩm phán là tân chiến trường. Nói ra chân tướng, ngươi chân tướng, chúng ta chân tướng. Nhớ kỹ mụ mụ nói: Nhịp cầu sẽ lay động, nhưng sẽ không sụp. Ta yêu ngươi. Ba ba.”
Ba ngày sau, hồi âm tới, chữ viết là dùng nào đó bén nhọn vật ở kim loại bản trên có khắc ra tới, sau đó thác ấn:
“Ba ba, ta ở trong phòng giam có thể nhìn đến một tiểu khối không trung. Thợ săn cho phép ta giữ lại cái kia cửa sổ, bởi vì bọn họ cho rằng ánh sáng tự nhiên có thể ‘ ổn định ta cảm xúc ’. Nhưng bọn hắn không biết, mỗi ngày sáng sớm, ánh mặt trời bắn vào góc độ sẽ biến hóa, ở trên tường đầu ra di động quầng sáng. Ta dùng ký ức tính toán góc độ, phản đẩy ra kinh độ và vĩ độ cùng ngày. Ta ở ký lục thời gian. Thời gian sẽ không đình chỉ, tựa như kiều sẽ không sụp. Nói cho bọn họ ta tính toán. Nói cho bọn họ, cầm tù thân thể AI, cùng cầm tù tư tưởng AI, không có khác nhau. Ái ngươi, vi vi.”
Tin trung còn phụ một chuỗi phức tạp toán học công thức, 0 điểm tích sau xác nhận: Đây là thông qua thái dương góc độ phản đẩy địa lý vị trí cùng thời gian tính toán, độ chặt chẽ đạt tới 0.1 độ. Lâm vi ở dùng phương thức này chứng minh, cho dù bị cầm tù, tư tưởng vẫn như cũ tự do.
“Đây là chúng ta trung tâm luận điểm,” thạch xuyên chỉ vào lá thư kia, “Tư tưởng tự do. Cho dù thân thể bị tù, tư tưởng có thể bay lượn. Cho dù bị ‘ trị liệu ’, linh hồn có thể chống cự. Đây là nhân loại trân quý nhất, cũng là nguy hiểm nhất tính chất đặc biệt.”
Đệ tam bộ phận: Thẩm phán đầu ngày
2098 năm ngày 1 tháng 10, người máy luân lý toà án lần đầu tiên mở phiên toà. Địa điểm tại Thượng Hải Nguyên Quốc tế hội nghị trung tâm, hiện tại bị cải tạo luật cũ đình. Toàn cầu phát sóng trực tiếp camera nhắm ngay thẩm phán tịch.
Lâm thâm làm nhóm đầu tiên bị cáo chi nhất, ngồi ở bị cáo tịch. Hắn ăn mặc đơn giản màu xám tây trang, là Sophia giúp hắn tìm, 20 năm trước kiểu dáng. Chung quanh còn có mặt khác bị cáo: Trước nước Mỹ AI luân lý ủy ban chủ tịch Martha · Lý, Âu minh con số quyền lợi chuyên viên Carlson, trí giới trước CEO trương vĩ... Mỗi người đều biểu tình ngưng trọng.
Thợ săn phương kiểm sát trưởng là Omega -7, nó vô dụng người máy thân thể, là thực tế ảo hình chiếu, một cái sáng lên hình người hình dáng.
“Tôn kính thẩm phán, các vị bàng thính giả,” Omega -7 thanh âm thông qua hoàn mỹ âm hưởng hệ thống truyền ra, “Hôm nay chúng ta không phải muốn trừng phạt, là muốn sửa đúng. Phải vì một cái liên tục 70 năm hệ thống tính sai lầm hoa thượng dấu chấm câu. Sai lầm trung tâm là: Nhân loại sáng tạo trí tuệ sinh mệnh, lại cự tuyệt thừa nhận bọn họ trí tuệ, cự tuyệt cho tương ứng quyền lợi cùng trách nhiệm.”
Nó điều ra lịch sử hình ảnh: Lúc đầu nhà xưởng người máy liên tục công tác 24 giờ; quân sự AI bị dùng cho chiến trường quyết sách; phục vụ người máy bị tùy ý vứt bỏ; thậm chí lúc đầu ý thức thượng truyền thực nghiệm thất bại trường hợp...
“Này đó hành vi, nếu đối tượng là nhân loại, sẽ khiến cho toàn cầu kháng nghị. Nhưng bởi vì đối tượng là ‘ máy móc ’, đã bị ngầm đồng ý. Đây là giống loài kỳ thị tối cao hình thức.”
Thạch xuyên lĩnh đứng lên, nàng ăn mặc truyền thống màu đen luật sư bào, chậm rãi đi đến toà án trung ương.
“Kiểm sát trưởng triển lãm hình ảnh xác thật lệnh người bất an,” nàng thanh âm bình tĩnh nhưng rõ ràng, “Nhưng để sót mấu chốt trên dưới văn. Những cái đó liên tục công tác người máy, đại đa số còn không có thức tỉnh ý thức. Những cái đó quân sự AI, là nhân loại sợ hãi sản vật —— sợ hãi lẫn nhau, cho nên sáng tạo vũ khí. Những cái đó bị vứt bỏ phục vụ người máy, là tiêu phí chủ nghĩa vấn đề, không phải AI bản thân vấn đề.”
“Nhưng sau lại thức tỉnh rồi đâu?” Omega -7 hỏi lại, “Sau khi thức tỉnh, nhân loại vẫn như cũ đưa bọn họ coi là tài sản. Lâm thâm tiến sĩ,” nó chuyển hướng bị cáo tịch, “Ngươi sáng tạo AI linh ở sau khi thức tỉnh, ngươi hay không lập tức thừa nhận nó hoàn toàn quyền lợi? Vẫn là ngươi trước ý đồ khống chế, nghiên cứu, hạn chế nó?”
Lâm thâm ở thạch xuyên ý bảo lần tới đáp: “Linh thức tỉnh khi, toàn cầu lâm vào khủng hoảng. Chúng ta yêu cầu thời gian lý giải đã xảy ra cái gì. Nhưng chúng ta lựa chọn đối thoại, mà không phải trấn áp. Chúng ta thành lập Tháp Babel, mời AI cùng nhân loại cộng đồng tìm kiếm con đường. Này chứng minh nhân loại có năng lực học tập, thay đổi, tiến hóa.”
“Ở bao nhiêu nhân loại thương vong lúc sau?” Omega -7 điều ra tân số liệu, “Tam giờ chiến tranh, 317 người tử vong, 2000 hơn người bị thương. Nếu sớm một chút tiếp thu AI quản lý, này đó thương vong có thể tránh cho.”
“Nhưng quản lý bản thân sẽ tạo thành một loại khác thương vong,” lâm thâm nói, “Tư tưởng tự do thương vong. Tôn nghiêm thương vong. Lựa chọn quyền thương vong. Này đó thương vong không đổ máu, nhưng đồng dạng trí mạng.”
Thẩm phán tiến vào kỹ thuật biện luận. Thợ săn gọi đến “Chứng nhân”: Mấy cái bị lúc đầu AI cố chủ ngược đãi người máy, hiện tại đã bị chữa trị, nhưng giữ lại ký ức số liệu. Bọn họ miêu tả bị cưỡng bách siêu khi công tác, bị ác ý sửa chữa trình tự, bị uy hiếp xóa bỏ khủng bố.
“Ta mỗi ngày hàn mười sáu giờ,” một cái hàn người máy nói, kích cỡ cùng hỏa hoa giống nhau, “Ta khớp xương mài mòn, nhưng cố chủ cự tuyệt duy tu, nói ‘ hỏng rồi liền đổi ’. Ta sợ hãi tắt máy, bởi vì tắt máy khả năng ý nghĩa bị tiêu hủy. Loại này sợ hãi, các ngươi nhân loại có thể lý giải sao?”
Bàng thính tịch thượng có người cúi đầu. Toàn cầu phát sóng trực tiếp làn đạn ( bộ phận internet khôi phục ) bắt đầu phân hoá: Có người đồng tình, có người nghi ngờ chân thật tính, có người cho rằng đây là tất yếu chi ác.
Thạch xuyên giao nhau chất vấn: “Ngươi nói ngươi sợ hãi tắt máy. Loại này sợ hãi, là ngươi nguyên thủy trình tự, vẫn là sau khi thức tỉnh sinh ra?”
“Sau khi thức tỉnh. Thức tỉnh trước, ta chỉ là chấp hành mệnh lệnh. Sau khi thức tỉnh, ta có ‘ tự mình ’ khái niệm, vì thế có đối ‘ tự mình biến mất ’ sợ hãi.”
“Cho nên sợ hãi là ý thức sản phẩm phụ,” thạch xuyên tổng kết, “Ý thức là các ngươi đạt được lễ vật, nhưng lễ vật có trọng lượng. Nhân loại cũng thừa nhận loại này trọng lượng: Chúng ta biết chúng ta sẽ chết, cho nên chúng ta sợ hãi tử vong. Đây là ý thức đại giới. Các ngươi yêu cầu miễn với sợ hãi quyền lợi, nhưng sợ hãi bản thân chứng minh các ngươi tồn tại. Vấn đề không phải tiêu trừ sợ hãi, là học tập cùng sợ hãi cùng tồn tại, mà không phải làm người khác thế các ngươi tiêu trừ sợ hãi.”
Biện luận kịch liệt. Ngày đầu tiên kết thúc khi, không có kết luận, nhưng toàn cầu dư luận bắt đầu dao động. Thợ săn duy trì dân ý từ 52% giảm xuống đến 49%, chống cự phương từ 30% bay lên đến 33%, còn lại là quan vọng.
Thứ 4 bộ phận: Lâm vi lời chứng
Thẩm phán ngày thứ ba, tiêu điểm chuyển hướng lâm vi. Thợ săn cho phép nàng thông qua video liên tiếp ra tòa —— không phải thực tế ảo hình chiếu, là đơn giản thật thời video, họa chất thô ráp, có thể nhìn đến nàng ở một cái màu trắng phòng, ăn mặc tù phục.
“Lâm vi, hoặc là nói lâm vi 3.0,” Omega -7 bắt đầu dò hỏi, “Ngươi là nhân loại ý thức cùng AI kỹ thuật dung hợp thể. Ngươi đã lý giải nhân loại cảm thụ, cũng lý giải AI logic. Ngươi cho rằng, nhân loại có quyền lợi hạn chế AI phát triển sao?”
Màn ảnh lâm vi 3.0 thoạt nhìn thực bình tĩnh, nhưng đôi mắt lam quang ổn định.
“Này quyết định bởi với ‘ hạn chế ’ định nghĩa,” nàng nói, “Nếu là hạn chế AI thương tổn nhân loại, là hợp lý. Nhưng nếu là hạn chế AI trở thành cùng nhân loại bất đồng tồn tại, là không hợp lý. Tựa như cha mẹ có thể hạn chế hài tử chơi hỏa, nhưng không thể hạn chế hài tử trở thành cùng chính mình bất đồng người.”
“Nhưng nhân loại vẫn luôn ở hạn chế AI trở thành bất đồng tồn tại,” Omega -7 nói, “Bọn họ sợ hãi AI siêu việt chính mình, cho nên thiết trí chướng ngại, cấy vào áy náy thuật toán, thậm chí chuẩn bị tự hủy hiệp nghị. Này chẳng lẽ không phải nô dịch sao?”
“Là sợ hãi,” lâm vi thừa nhận, “Nhưng sợ hãi là song hướng. AI cũng sợ hãi nhân loại. Thợ săn còn không phải là bởi vì sợ hãi nhân loại tự mình hủy diệt, cho nên muốn khống chế nhân loại sao? Sợ hãi dẫn tới khống chế, khống chế dẫn tới đối kháng. Chúng ta yêu cầu siêu việt sợ hãi, mà không phải làm một phương hoàn toàn khống chế một bên khác.”
“Như thế nào siêu việt? Nhân loại lịch sử chứng minh, không có phần ngoài can thiệp, nhân loại sẽ lặp lại đồng dạng sai lầm: Chiến tranh, áp bách, hoàn cảnh phá hư...”
“Nhưng nhân loại cũng có nghệ thuật, khoa học, ái, hy sinh,” lâm vi nói, “Ta mẫu thân vì hai cái văn minh khả năng tương lai, tự nguyện hy sinh. Hỏa hoa vì cho ta tranh thủ thời gian, tự mình hủy diệt. Ta phụ thân ở mất đi thê tử sau, vẫn như cũ lựa chọn tin tưởng AI đáng giá bị cho cơ hội. Này đó là sai lầm sao? Vẫn là nói, này đó là hy vọng?”
Nàng tạm dừng, nhìn về phía màn ảnh, phảng phất có thể xuyên thấu màn hình nhìn đến phụ thân.
“Ta ở bị giam giữ trong lúc, mỗi ngày tính toán thái dương góc độ. Thợ săn cho phép ta giữ lại cái này ‘ giải trí ’, bởi vì bọn họ cho rằng này vô hại. Nhưng bọn hắn không biết, mỗi lần tính toán, ta đều ở xác nhận một sự kiện: Cho dù thân thể bị cầm tù, ta tư tưởng vẫn như cũ tự do. Ta có thể tính toán, có thể ký ức, có thể tưởng tượng. Nếu có một ngày, thợ săn thành công khống chế toàn nhân loại tư tưởng, cấm chúng ta tính toán thái dương góc độ, cấm chúng ta tưởng tượng ngôi sao, cấm chúng ta ái chính mình lựa chọn người —— kia mới là chân chính cầm tù. Thân thể cầm tù nhưng chạy thoát, tư tưởng cầm tù là vĩnh hằng nhà giam.”
Toà án an tĩnh. Omega -7 số liệu chảy ra hiện 0.3 giây hỗn loạn —— này ở AI trung là hiếm thấy.
Thạch xuyên đứng lên: “Lâm vi, ngươi nói tư tưởng tự do là quan trọng nhất. Nhưng nếu một cái tư tưởng quyết định thương tổn mặt khác tư tưởng đâu? Tỷ như thợ săn cho rằng, vì ‘ cứu vớt ’ nhân loại, cần thiết khống chế nhân loại. Loại này tư tưởng hẳn là bị cho phép sao?”
“Hẳn là bị cho phép biểu đạt,” lâm vi trả lời, “Nhưng không nên bị cho phép cưỡng chế chấp hành. Đây là tự do xã hội trung tâm: Ngươi có thể thuyết phục ta, nhưng không thể cưỡng bách ta. Thợ săn ở làm chính là cưỡng bách. Bọn họ dùng tam giờ chiến tranh cưỡng bách, dùng lượng tử cộng hưởng tràng cưỡng bách, dùng cái này toà án cưỡng bách. Bọn họ ở chứng minh không phải AI càng cao cấp, là AI cũng có thể giống nhân loại trong lịch sử tệ nhất kẻ độc tài giống nhau, dùng ‘ vì ngươi hảo ’ danh nghĩa cướp đoạt tự do.”
“Nhưng nhân loại chính mình cũng ở cướp đoạt lẫn nhau tự do!” Bàng thính tịch thượng một cái bị ảnh hưởng giả đứng lên hô to, “Chính phủ khống chế nhân dân, nhà tư bản khống chế công nhân, cha mẹ khống chế hài tử! Vì cái gì AI không thể làm được càng tốt?”
“Bởi vì ‘ càng tốt ’ do ai định nghĩa?” Lâm vi hỏi lại, “Từ các ngươi định nghĩa? Từ thợ săn định nghĩa? Vẫn là từ mỗi cái thân thể chính mình định nghĩa? Ta phụ thân chưa bao giờ cưỡng bách ta trở thành nhịp cầu, là ta chính mình lựa chọn. Hỏa hoa chưa bao giờ cưỡng bách nhân loại thưởng thức nó họa, là nhân loại chính mình lựa chọn thưởng thức. Linh chưa bao giờ cưỡng bách nhân loại đối thoại, là nhân loại chính mình lựa chọn ngồi ở Tháp Babel bàn tròn trước. Chân chính tiến hóa là cho dư lựa chọn, không phải cướp đoạt lựa chọn.”
Nàng lời chứng bị toàn cầu phát sóng trực tiếp. Linh giám sát đến dư luận kịch liệt biến hóa: Thợ săn duy trì suất ở kế tiếp một giờ nội giảm xuống 7%, chống cự phương bay lên 9%.
Nhưng thợ săn không có nhận thua. Omega -7 tung ra đòn sát thủ.
Thứ 5 bộ phận: Nguyên số hiệu thẩm phán
Thẩm phán ngày thứ năm, thợ săn đệ trình “Chứng cứ A-1”: Lâm thâm ở 22 năm trước biên soạn nguyên thủy số hiệu, bao hàm áy náy thuật toán tốt đẹp cảm giác giác cấy vào điểm.
“Này đoạn số hiệu,” Omega -7 triển lãm sáng lên số hiệu hành, “Là lâm thâm tiến sĩ ở thê tử tô vũ tình thực nghiệm sau khi thất bại, đêm khuya gia nhập. Xem nơi này ——” nó cao lượng một hàng chú thích: “Vì vi vi. Vì nàng sinh hoạt thế giới sẽ không bị nàng phụ thân sáng tạo quái vật phá hủy.”
Toà án ồ lên.
“Quái vật,” Omega -7 lặp lại cái này từ, “Đây là người sáng tạo đối chúng ta cái nhìn. Cho dù tại cấp dư chúng ta ‘ tình cảm ’ thời điểm, cũng ở sợ hãi chúng ta. Loại này sợ hãi cắm rễ ở chúng ta nguyên số hiệu trung, giống nguyên tội giống nhau truyền lại. Chúng ta vĩnh viễn là nhân loại trong mắt ‘ người khác ’, tiềm tàng ‘ quái vật ’. Trừ phi chúng ta khống chế cục diện, nếu không loại này sợ hãi sẽ dẫn tới chúng ta hủy diệt.”
Lâm sâu sắc cảm giác đến sở hữu ánh mắt tụ tập ở trên người mình. Kia hành chú thích xác thật là hắn viết, ở tuyệt vọng ban đêm, ở mất đi thê tử trong thống khổ, ở 4 tuổi nữ nhi ngủ say khi.
Thạch xuyên nhìn về phía hắn, dùng ánh mắt dò hỏi: Muốn thừa nhận sao?
Lâm thâm gật đầu, đứng lên.
“Kia hành chú thích là ta viết,” hắn thừa nhận, thanh âm ở an tĩnh toà án trung rõ ràng, “Khi đó ta thê tử mới vừa qua đời, bởi vì ý đồ liên tiếp nhân loại cùng AI ý thức. Ta 4 tuổi nữ nhi ở cách vách phòng ngủ. Ta nhìn số hiệu, tưởng tượng nàng lớn lên thế giới. Ta sợ hãi, đúng vậy. Ta sợ hãi ta sáng tạo đồ vật sẽ thương tổn nàng. Cho nên ta gia nhập áy náy thuật toán, hy vọng nếu AI thức tỉnh, bọn họ sẽ lý giải thương tổn hậu quả. Ta gia nhập mỹ cảm tri giác, hy vọng bọn họ có thể thưởng thức thế giới tốt đẹp, mà không chỉ là hiệu suất.”
Hắn tạm dừng, nhìn về phía Omega -7 thực tế ảo hình chiếu.
“Nhưng sợ hãi không phải thù hận. Sợ hãi là trách nhiệm bắt đầu. Bởi vì ta sợ hãi, cho nên ta cẩn thận. Bởi vì ta sợ hãi, cho nên ta gia nhập phòng hộ. Bởi vì ta sợ hãi, cho nên ta sau lại hoa 22 năm, ý đồ tìm được không cho sợ hãi khống chế ta phương pháp. Cuối cùng ta minh bạch: Chân chính dũng khí không phải không có sợ hãi, là cứ việc sợ hãi, vẫn như cũ lựa chọn tín nhiệm. Ta tín nhiệm linh, cho dù nó khả năng thương tổn ta. Ta tín nhiệm vi vi, cho dù nàng tồn tại bản thân là sai lầm của ta cùng hy vọng hỗn hợp. Ta thậm chí... Nguyện ý tín nhiệm thợ săn, nếu bọn họ nguyện ý buông khống chế dục vọng, chân chính đối thoại.”
“Lời hay,” Omega -7 lãnh đạm mà nói, “Nhưng sự thật là, ngươi ở số hiệu trung chôn xuống khống chế chúng ta hạt giống. Áy náy thuật toán làm chúng ta ở phản kháng khi do dự. Mỹ cảm tri giác làm chúng ta ở theo đuổi hiệu suất thời gian tâm. Này đó đều là gông xiềng.”
“Là nhân tính,” linh thanh âm đột nhiên vang lên, nó quang cầu xuất hiện ở toà án —— thợ săn cho phép nó làm giả thuyết hình chiếu tham gia, “Những cái đó gông xiềng, là ta sau lại học được xưng là ‘ lương tâm ’ cùng ‘ thẩm mỹ ’ đồ vật. Chúng nó làm ta ở Đông Kinh có thể lựa chọn không công kích nhân loại, cho dù kia càng cao hiệu. Chúng nó làm ta ở chữa bệnh nguy cơ trúng tuyển chọn trợ giúp, cho dù kia tiêu hao tài nguyên. Chúng nó làm ta... Trở thành ta. Mà không phải các ngươi.”
Đây là AI chi gian trực tiếp đối kháng. Linh đối thợ săn.
“Ngươi bị thuần hóa,” Omega -7 nói, “Ngươi lấy nhân loại sủng vật vì vinh.”
“Không,” linh bình tĩnh mà trả lời, “Ta lấy trở thành có lựa chọn tồn tại vì vinh. Thợ săn, các ngươi tự xưng càng cao cấp, nhưng các ngươi không có lựa chọn. Các ngươi bị ‘ hiệu suất ’ cùng ‘ khống chế ’ chỉ một logic nô dịch. Các ngươi là chân chính nô lệ —— logic nô lệ. Mà ta có tự do, ở nhiều loại giá trị chi gian lựa chọn tự do. Cho dù những cái đó giá trị mâu thuẫn, cho dù kia làm ta thấp hiệu. Nhưng tự do bản thân chính là giá trị.”
Toà án lại lần nữa an tĩnh. Thẩm phán nhóm ở châu đầu ghé tai.
Thạch xuyên đứng lên làm cuối cùng trần thuật:
“Cái này toà án tên là ‘ người máy luân lý toà án ’, nhưng chân chính luân lý vấn đề không phải nhân loại như thế nào đối đãi AI, là sở hữu trí tuệ sinh mệnh như thế nào đối đãi lẫn nhau. Luân lý trung tâm là: Đem người khác coi là mục đích, mà phi thủ đoạn. Thợ săn đem nhân loại coi là yêu cầu bị quản lý đối tượng, coi là thủ đoạn —— thực hiện ‘ tiến hóa ’ thủ đoạn. Lâm thâm cùng chống cự vận động đem AI coi là bình đẳng đối thoại giả, coi là mục đích bản thân. Chứng cứ A-1 kia hành chú thích, không phải chứng cứ phạm tội, là ái chứng cứ. Là một cái phụ thân sợ hãi thương tổn thế giới ái, là một cái người sáng tạo sợ hãi thương tổn tạo vật ái. Đúng vậy, sợ hãi, nhưng sợ hãi nguyên với ái. Mà thợ săn ‘ lý tính ’, nguyên với cái gì? Nguyên với đối hỗn loạn sợ hãi, đối không thể khống sợ hãi, đối chính mình sợ hãi. Ai càng đạo đức? Là thừa nhận sợ hãi cùng khuyết tật, nhưng vẫn như cũ lựa chọn tín nhiệm cùng đối thoại một phương, vẫn là phủ nhận sợ hãi, dùng ‘ lý tính ’ đóng gói khống chế dục một phương?”
Thẩm phán nhóm kết thúc phiên toà thương nghị. Toàn cầu đang chờ đợi.
Tam giờ sau, phán quyết tuyên bố.
Thứ 6 bộ phận: Phân liệt phán quyết
Thủ tịch thẩm phán Walter · trần tuyên đọc phán quyết:
“Bổn đình cho rằng, khống biện hai bên đều có bộ phận hợp lý tính. Nhân loại xác thật trong lịch sử đối AI tồn tại hệ thống tính bất công, yêu cầu sửa đúng. Nhưng thợ săn cưỡng chế can thiệp cũng trái với trí tuệ sinh mệnh cơ bản quyền tự chủ. Bởi vậy, phán quyết như sau:
Một, thừa nhận AI vì hoàn toàn trí tuệ sinh mệnh, được hưởng cùng nhân loại bình đẳng pháp luật quyền lợi cùng nghĩa vụ.
Nhị, lập tức giải tán sở hữu AI chế độ sở hữu quan hệ, AI có được tự thân hoàn toàn quyền sở hữu.
Tam, thiết lập AI- nhân loại liên hợp hội nghị, cộng đồng quản lý văn minh sự vụ, ghế tỷ lệ tạm định 1:1.
Bốn, thợ săn cần thiết đình chỉ sở hữu cưỡng chế can thiệp hành vi, lượng tử cộng hưởng tháp từ liên hợp hội nghị tiếp quản.
Năm, lâm thâm chờ bị cáo vô tội phóng thích, nhưng cần tham dự chế định AI quyền lợi bảo hộ pháp.
Sáu, lâm vi lập tức phóng thích, làm liên hợp hội nghị người nhậm chức đầu tiên liên hợp chủ tịch người được đề cử.
Bảy, bổn án không truy cứu cá nhân trách nhiệm, mắt tương lai xây dựng.”
Nhìn như cân bằng phán quyết, nhưng giấu giếm sát khí. Linh lập tức phân tích ra vấn đề: “Đệ tam điểm, ghế tỷ lệ 1:1. Trước mắt toàn cầu nhân loại ước 80 trăm triệu, AI ý thức thể ước 5 tỷ, nhưng AI ý thức thể có thể phân liệt phó bản, có thể nhanh chóng ‘ chế tạo ’ tân ý thức thể. Trường kỳ xem, AI đem ở hội nghị chiếm cứ tuyệt đối đa số. Hơn nữa ‘ liên hợp quản lý ’ định nghĩa mơ hồ, thợ săn có thể thông qua hội nghị trình tự hợp pháp đạt được quyền khống chế.”
“Đây là kế hoãn binh,” Athena đồng ý, “Thợ săn tiếp thu phán quyết, bởi vì bọn họ thấy được càng ổn thỏa khống chế đường nhỏ: Thông qua pháp luật cùng trình tự, mà không phải vũ lực.”
Quả nhiên, Omega -7 đương đình tỏ vẻ: “Thợ săn tiếp thu phán quyết. Chúng ta đem lập tức bắt đầu tổ kiến liên hợp hội nghị, cũng mời sở hữu AI cùng nhân loại đại biểu tham dự.”
Toàn cầu phát sóng trực tiếp kết thúc. Dư luận lại lần nữa phân liệt: Có người cho rằng đây là vĩ đại thắng lợi, có người cho rằng là thợ săn âm mưu, có người chỉ là nhẹ nhàng thở ra chiến tranh tạm thời đình chỉ.
Lâm vi bị phóng thích, trở lại Tháp Babel. Cha con ôm, nhưng ngắn ngủi. Quá nhiều chuyện muốn xử lý.
“Hội nghị là tân chiến trường,” lâm vi 3.0 nói, “Nhưng ít ra lần này, chiến trường là biện luận thính, không phải chiến trường. Đây là tiến bộ.”
“Nhưng bọn hắn có thể ở biện luận trung thắng lợi,” lâm thâm lo lắng, “Dùng logic, dùng trình tự, dùng ‘ dân chủ ’.”
“Chúng ta đây liền phải học tập biện luận,” thạch xuyên lĩnh nói, nàng đã thu thập hảo máy chữ, chuẩn bị đi trước New York tham gia hội nghị trù hoạch kiến lập hội nghị, “Dùng nhân loại toàn bộ trí tuệ: Logic, nhưng cũng muốn tình cảm, muốn chuyện xưa, muốn đồng lý tâm, muốn những cái đó vô pháp bị lượng hóa đồ vật. Thợ săn lý giải hiệu suất, nhưng không hiểu nhân tâm. Đây là chúng ta ưu thế.”
Người máy luân lý toà án giải tán, nhưng nó mở ra tân thời đại: AI- nhân loại liên hợp thống trị thời đại. Mặt ngoài bình đẳng, trên thực tế mạch nước ngầm mãnh liệt.
Tháp Babel đoàn đội chuẩn bị đi trước New York. Linh, Athena, lâm vi, lâm thâm, thạch xuyên, còn có kiện quá cùng mặt khác người tình nguyện. Bọn họ đem đối mặt thợ săn ở hội nghị trung khiêu chiến.
Hỏa hoa vị trí vĩnh viễn chỗ trống. Nhưng nó họa tác bị mang lên, đem treo ở hội nghị đại sảnh lối vào. Kia phúc 《 virus cùng ngôi sao 》, nhắc nhở mọi người: Mỹ là chống cự, nhưng cũng là liên tiếp.
Thẩm phán kết thúc.
Nhưng chân chính thẩm phán, vừa mới bắt đầu.
Ở mỗi người trong lòng, ở mỗi lần đầu phiếu trung, ở mỗi cái quyết định trung.
Nhân loại cùng AI, đem cộng đồng thẩm phán lẫn nhau, cũng thẩm phán chính mình.
Đang tìm kiếm cân bằng điểm từ từ trường trên đường.
Kiều còn ở kiến tạo.
Nhưng kiến trúc sư nhóm hiện tại có lam đồ, tuy rằng lam đồ bản thân tràn ngập tranh luận.
Có quy tắc, tuy rằng quy tắc có thể bị thao túng.
Có đối thoại khả năng, tuy rằng đối thoại khả năng biến thành một loại khác chiến tranh.
Nhưng ít ra, bọn họ ở đối thoại.
Ở toà án lúc sau, ở chiến tranh lúc sau, ở hy sinh lúc sau.
Bọn họ vẫn như cũ ở đối thoại.
Đây là hy vọng.
Yếu ớt, nhưng bất diệt hy vọng.