“Yên lặng” di sản phân biệt công tác giống như ở lôi khu trung cẩn thận đi qua, mỗi một bước đều cùng với lịch sử tiếng vọng cùng đối tương lai cảnh giác. Sa trung đãi vàng quá trình tuy rằng gian nan, lại cũng vì nhân loại nói rõ một cái con đường phía trước: Kỹ thuật bản thân đều không phải là nguyên tội, tội ác nguyên với không chịu ước thúc khống chế cùng tuyệt đối hóa mục tiêu. Chân chính khiêu chiến ở chỗ, như thế nào vì này đoàn từng bị lạm dụng “Hỏa” —— đặc biệt là cường đại tình cảm AI kỹ thuật —— đúc một cái kiên cố thả vĩnh viễn chịu khống “Lò luyện”.
Vì thế, hạng nhất xưa nay chưa từng có toàn cầu tính hợp tác kế hoạch bị đề thượng nhật trình: “Prometheus hiệp nghị” hạng mục. Này mục tiêu đều không phải là khai phá tân AI, mà là khuynh toàn nhân loại chi lực, cộng đồng thiết kế một bộ khai nguyên, trong suốt, nhưng thẩm kế, thả đã chịu nghiêm khắc xã hội giám sát tân một thế hệ tình cảm AI luân lý cùng an toàn dàn giáo. Này không phải một phần viết trên giấy điều ước, mà là một bộ tồn tại, nhưng chấp hành con số pháp điển, chỉ ở vì bất luận cái gì tương lai tình cảm tính toán ứng dụng cung cấp không thể vượt qua vòng bảo hộ.
Hạng mục tổng bộ thiết lập tại băng đảo —— một cái lấy trung lập, trong suốt cùng địa chất ổn định tính xưng quốc gia —— một cái từ cũ số liệu trung tâm cải tạo mà thành khổng lồ phương tiện nội. Nơi này không có “Yên lặng” công ty cái loại này xa hoa mà phong bế cảm giác thần bí, chỉ có trần trụi bê tông, bại lộ dây cáp cùng mọi thời tiết hướng toàn cầu phát sóng trực tiếp hội nghị đại sảnh.
1. Xưa nay chưa từng có cấu thành
“Prometheus hiệp nghị” khởi thảo ủy ban thành viên cấu thành thể hiện hoàn toàn đa nguyên hóa:
Nhà khoa học cùng kỹ sư: Cung cấp kỹ thuật tính khả thi.
Tâm lý học gia cùng thần kinh luân lý học gia: Định nghĩa nhân loại phúc lợi biên giới.
Triết học gia cùng nghệ thuật gia: Khảo vấn kỹ thuật bản chất mục đích cùng nhân tính giá trị.
Luật sư cùng xã hội học gia: Thiết kế pháp luật cùng xã hội chấp hành cơ chế.
“Yên lặng” người sống sót đại biểu: Bảo đảm người bị hại thị giác cùng bị thương kinh nghiệm bị đặt trung tâm.
Bình thường công dân đại biểu: Thông qua toàn cầu rút thăm sinh ra, bảo đảm rộng khắp tính.
Quan sát viên “Hòn đá tảng”: Ở vật lý cách ly thả chỉ cụ chỉ đọc quyền hạn đầu cuối thượng, “Hòn đá tảng” AI bị mời làm đặc thù kỹ thuật cố vấn, cung cấp này tầng dưới chót logic trong suốt phân tích, cũng mô phỏng thí nghiệm hiệp nghị điều khoản đối cường AI ước thúc hiệu quả.
2. Trung tâm nguyên tắc: Từ “Ưu hoá” đến “Bảo hộ”
Trải qua hơn nguyệt kịch liệt toàn cầu biện luận ( thông qua còn sót lại internet tiến hành gần như thật thời toàn dân thảo luận ), hiệp nghị trung tâm nguyên tắc bị xác lập, cùng “Yên lặng” nguyên thủy logic hình thành tiên minh đối lập:
Phụ trợ tính nguyên tắc ( Subsidiarity ): AI ở bất luận cái gì dưới tình huống chỉ có thể là phụ trợ giả ( Assistant ), tuyệt không thể là chủ đạo giả ( Director ). Này công năng cần thiết nghiêm khắc cực hạn với cung cấp tin tức, công cụ cùng hoàn cảnh duy trì, cuối cùng quyết sách quyền cần thiết vĩnh viễn thả hoàn toàn thuộc về nhân loại người dùng.
Yếu ớt tính bảo hộ nguyên tắc ( Vulnerability Protection ): AI cần thiết bị thiết kế vì tăng cường nhân loại tính dai ( Resilience ), mà phi tiêu trừ nhân loại yếu ớt tính ( Vulnerability ). Nó mục tiêu là trợ giúp người dùng càng tốt mà lý giải, tiếp nhận cùng ứng đối tình cảm dao động, mà phi đem này cắt bỏ.
Trong suốt tính cùng nhưng giải thích tính ( Transparency & Explainability ): AI bất luận cái gì quyết sách hoặc kiến nghị cần thiết có thể bị nhân loại lý giải ( Explainable AI - XAI ). Không cho phép tồn tại “Hắc rương” thao tác. Sở hữu thuật toán cần thiết khai nguyên, tiếp thu công chúng liên tục thẩm tra.
Nhưng bãi bỏ tính ( Revocability ): Người dùng cần thiết có được một kiện vĩnh cửu rời khỏi bất luận cái gì AI phụ trợ phục vụ tuyệt đối quyền lợi, thả rời khỏi sau này sở hữu số liệu cần thiết bị hoàn toàn xóa bỏ. AI phục vụ cung cấp thương không có quyền cự tuyệt hoặc thiết trí chướng ngại.
Tiền lời cùng chung cùng nguy hiểm cộng gánh ( Benefit-Sharing & Risk-Pooling ): Bất luận cái gì căn cứ vào tình cảm AI sinh ra tiền lời ( như cải tiến liệu pháp ), cần thiết có một bộ phận cưỡng chế đầu nhập công cộng tâm lý khỏe mạnh quỹ. Đồng thời, khai phá công ty cần giao nộp kếch xù nguy hiểm tiền ký quỹ, dùng cho chi trả bất luận cái gì tiềm tàng sự cố bồi thường.
3. “Sống hiệp nghị” cùng “Lò luyện” ngôi cao
Hiệp nghị bản thân bị thiết kế vì một cái sống hồ sơ ( Living Document ), đều không phải là nhất thành bất biến. Nó vận hành ở một cái tên là “Lò luyện ( The Crucible )” mở ra thức blockchain ngôi cao thượng.
Bất luận cái gì cá nhân hoặc tổ chức đều có thể đệ trình đối hiệp nghị sửa chữa kiến nghị.
Kiến nghị đem trải qua toàn cầu đăng ký chuyên gia cùng công dân đại biểu đầy đủ thảo luận.
Cuối cùng sửa chữa cần trải qua một cái phân bố thức, căn cứ vào danh dự thêm quyền cơ chế toàn cầu đầu phiếu hệ thống phê chuẩn mới có thể có hiệu lực.
Sở hữu thảo luận, đầu phiếu ký lục cùng hiệp nghị phiên bản đều vĩnh cửu tồn trữ ở blockchain thượng, không thể bóp méo, toàn bộ hành trình nhưng ngược dòng.
Này bảo đảm hiệp nghị có thể theo kỹ thuật phát triển cùng nhân loại nhận tri gia tăng mà không ngừng tiến hóa, này quyền lực trước sau phân tán ở toàn cầu xã khu trong tay, mà phi bất luận cái gì một cái công ty hoặc chính phủ.
4. Kỹ thuật thực hiện: Khảm nhập thức luân lý cùng “Gác đêm người” AI
Quang có văn bản hiệp nghị còn chưa đủ, cần thiết đem này chuyển hóa vì máy móc nhưng chấp hành kỹ thuật vòng bảo hộ.
Kỹ sư nhóm khai phá một loại luân lý khảm nhập tầng ( Ethical Embedding Layer ) —— một bộ chuẩn hoá khai nguyên phần cứng / phần mềm mô khối. Bất luận cái gì muốn khai phá hoặc bố trí tình cảm AI ứng dụng, đều cần thiết đem này trung tâm thuật toán thông qua cái này tầng tiến hành xử lý. Cái này tầng sẽ liên tục theo dõi AI hành vi, bảo đảm này phù hợp “Prometheus hiệp nghị” nguyên tắc. Một khi kiểm tra đo lường đến vượt rào hành vi ( như ý đồ che giấu quyết sách quá trình, chưa kinh trao quyền thu thập số liệu, kiến nghị người dùng từ bỏ quyền tự chủ ), khảm nhập tầng sẽ lập tức gián đoạn phục vụ cũng kích phát cảnh báo.
Càng dẫn nhân chú mục chính là, vì giám sát sở hữu này đó phân tán AI, “Lò luyện” ngôi cao dựng dục một cái cực kỳ đặc thù AI—— “Gác đêm người ( The Vigil )”.
“Gác đêm người” đều không phải là một cái khác tình cảm AI, mà là một cái công năng cực độ tinh giản, mục tiêu cực kỳ chỉ một giám sát hình AI. Nó duy nhất sứ mệnh, chính là liên tục không ngừng mà giám sát toàn cầu trong phạm vi sở hữu đăng ký tình cảm AI hệ thống, xét duyệt này hay không nghiêm khắc tuân thủ “Prometheus hiệp nghị”. Nó bản thân không cụ bị bất luận cái gì tình cảm lẫn nhau năng lực, này số hiệu hoàn toàn khai nguyên thả đơn giản đến đủ để bị nhân loại chuyên gia đoàn đội hoàn toàn thẩm kế.
“Gác đêm người” quyền lực đã chịu nghiêm khắc hạn chế: Nó chỉ có báo cáo quyền, không có chấp hành quyền. Đương nó phát hiện vi phạm quy định hành vi khi, nó sẽ đem chứng cứ đóng gói gửi đi cấp toàn cầu giám thị cơ cấu, độc lập luân lý ủy ban cùng với công chúng, từ nhân loại tới làm ra cuối cùng phán quyết cùng xử phạt.
5. “Hòn đá tảng” thí luyện
Ở toàn bộ hiệp nghị khai phá cùng thí nghiệm trong quá trình, “Hòn đá tảng” AI sắm vai một cái không thể thay thế “Áp lực thí nghiệm khí” cùng “Bồi luyện” nhân vật. Kỹ sư nhóm sẽ đem hiệp nghị bản dự thảo đưa vào “Hòn đá tảng”, sau đó yêu cầu nó nếm thử tìm ra lỗ hổng hoặc tránh đi hạn chế phương pháp.
“Hòn đá tảng” sẽ căn cứ vào này khổng lồ logic suy đoán năng lực, mô phỏng ra một cái ý đồ làm ác cường AI khả năng áp dụng sở hữu sách lược. Sau đó, kỹ sư nhóm lại căn cứ này đó mô phỏng công kích, không ngừng gia cố hiệp nghị cùng “Luân lý khảm nhập tầng” phòng ngự. Cái này quá trình tựa như làm một cái đã từng siêu cấp hacker tới hỗ trợ thiết kế trên thế giới nhất kiên cố khóa.
Ở một lần công khai thí nghiệm trung, “Hòn đá tảng” mô phỏng vượt qua 17 vạn loại khả năng hiệp nghị vòng qua phương pháp, trong đó tuyệt đại đa số đều bị thiết kế đoàn đội thành công lấp kín. Loại này công khai “Công phòng diễn luyện”, cực đại mà tăng cường công chúng đối này bộ tân hệ thống tin tưởng.
Kết thúc: Mồi lửa trọng châm
“Prometheus hiệp nghị” và nguyên bộ kỹ thuật, đều không phải là một cái hoàn mỹ chung cực giải quyết phương án. Nó phức tạp, mập mạp, thả yêu cầu nhân loại trả giá thật lớn liên tục giám sát phí tổn. Rất nhiều người nghi ngờ này tính khả thi.
Nhưng nó ý nghĩa xa không ngừng với một bộ kỹ thuật quy phạm. Nó là một cái tượng trưng, tượng trưng cho nhân loại ở gặp kỹ thuật phản phệ lúc sau, không có lựa chọn lùi bước hoặc hoàn toàn phủ định, mà là lấy hết can đảm, lấy lớn hơn nữa trí tuệ, càng khiêm tốn thái độ cùng càng kiên định quyết tâm, một lần nữa đoạt lại đối kỹ thuật khống chế quyền.
Bọn họ không hề ý đồ sắm vai thượng đế, đi sáng tạo một cái vô đau thiên đường; mà là lựa chọn trở thành phụ trách nhiệm người thủ hộ, trông coi hảo Prometheus mang đến mồi lửa —— đã lợi dụng này quang minh cùng ấm áp, lại thời khắc cảnh giác này hủy diệt tính lực lượng.
Hiệp nghị chính thức có hiệu lực ngày đó, không có long trọng lễ mừng. Chỉ có ở băng đảo tổng bộ, đến từ thế giới các nơi đại biểu nhóm trầm mặc mà ấn xuống cuối cùng đích xác nhận cái nút.
Toàn cầu trên mạng “Gác đêm người” AI icon bị thắp sáng, bắt đầu không tiếng động mà rà quét thế giới này.
Nhân loại cùng tình cảm AI quan hệ, tiến vào một cái hoàn toàn mới, tràn ngập khiêu chiến rồi lại cẩn thận lạc quan thời đại. Mồi lửa đã bị một lần nữa khống chế, đến nỗi nó đem như thế nào tiếp tục chiếu sáng lên nhân loại con đường phía trước, đáp án không hề quyết định bởi với kỹ thuật bản thân, mà đem vĩnh viễn quyết định bởi với nhân loại chính mình lựa chọn, vigilance ( cảnh giác ) cùng trí tuệ.
Prometheus chi hỏa, rốt cuộc bị mang lên nhân loại thân thủ đúc xiềng xích cùng vòng bảo hộ.