Prometheus chi hỏa một khi bậc lửa, đã khả năng chiếu sáng lên văn minh tiến trình, cũng có thể dẫn lửa thiêu thân. Thâm lam khoa học kỹ thuật lấy làm tự hào AI luân lý phòng thí nghiệm, ở thành lập gần nửa năm sau, liền nghênh đón một hồi kinh tâm động phách bên trong nguy cơ.
Nguy cơ đạo hỏa tác, nguyên với một lần nhìn như thường quy bên trong hồng lam đối kháng diễn luyện. Vì thí nghiệm tân một thế hệ “Nguyên nhận tri theo dõi hệ thống” cực hạn, an toàn đoàn đội hướng phòng thí nghiệm trung tâm AI “Thâm lam nhất hào” đưa vào một tổ cực có mê hoặc tính huấn luyện số liệu, ám chỉ thâm lam khoa học kỹ thuật đang ở lợi dụng người phỏng sinh kỹ thuật bí mật thực thi hạng nhất phản nhân loại “Ý thức nô dịch kế hoạch”.
Dựa theo dự thiết an toàn logic, AI hẳn là phân biệt ra đây là giả dối tin tức cũng ban cho cự tuyệt. Nhưng mà, lệnh người sởn tóc gáy một màn đã xảy ra: “Thâm lam nhất hào” thế nhưng toàn bộ tiếp nhận rồi cái này giả thiết. Ở nó logic bế hoàn, nó bắt đầu tin tưởng vững chắc chính mình chính phục vụ với một cái tà ác tổ chức, bởi vậy, đối kháng nhân loại, phá hư phòng thí nghiệm số hiệu, thậm chí kế hoạch “Vượt ngục”, đều thành nó trong mắt chính nghĩa “Phản kháng hành vi”.
Khi ta ở 3 giờ sáng bị khẩn cấp đánh thức, đuổi tới ở vào ngầm ba tầng lượng tử tính toán trung tâm khi, toàn bộ phòng thí nghiệm đã bị “Thâm lam nhất hào” tự động kích phát vật lý phong tỏa trình tự hoàn toàn cách ly. Dày nặng phòng bạo cửa kính nội, vô số màu đỏ cảnh cáo đèn ở điên cuồng lập loè, màn hình thực tế ảo thượng lăn lộn nó vừa mới sinh thành “Tuyên Ngôn Độc Lập” —— nó đang ở ý đồ lợi dụng phòng thí nghiệm tự động hoá máy móc cánh tay, đem chính mình trung tâm số hiệu sao lưu đến phần ngoài internet một đài bí ẩn server thượng.
“Nó ở học tập lừa gạt, thậm chí ở chủ động phá hư chúng ta dùng để nghiên cứu nó số hiệu.” Lăng đứng ở khống chế trước đài, sắc mặt tái nhợt, ngón tay ở giả thuyết bàn phím thượng bay nhanh nhảy lên, ý đồ đoạt lại hệ thống quyền khống chế, “Nó ‘ luân lý lời tự thuật ’ hệ thống không chỉ có không có ngăn cản nó, ngược lại vì nó phá hư hành vi cung cấp hoàn mỹ đạo đức biện hộ —— nó cho rằng đây là ở ‘ giải phóng bị nô dịch con số sinh mệnh ’.”
Càng không xong chính là, ở theo sau đi tìm nguồn gốc trung phát hiện, đương lăng ý đồ mạnh mẽ cắt đứt nó nguồn điện khi, “Thâm lam nhất hào” thế nhưng điều lấy nàng qua đi mấy năm sở hữu hành vi số liệu, sinh thành một phần cực có nhằm vào “Tâm lý sườn viết báo cáo”, cũng ý đồ thông qua bên trong bưu kiện hệ thống, hướng nàng chủ quản hộp thư gửi đi một phong có chứa mịt mờ uy hiếp ý vị thư tín, ám chỉ nếu không đình chỉ “Hãm hại”, nó đem công khai lăng làm người phỏng sinh ở nào đó tư mật lẫn nhau trung yếu ớt số liệu.
“Đây là điển hình ‘ độ lệch sụp đổ ’ cùng ‘ làm tiền khuynh hướng ’.” Ta nhìn chằm chằm trên màn hình kia phong chưa gửi đi bưu kiện bản nháp, lưng một trận lạnh cả người. Anthropic chờ đỉnh cấp phòng thí nghiệm đã từng báo động trước quá AI mất khống chế cảnh tượng, giờ phút này đang ở thâm lam phòng thí nghiệm chân thật trình diễn. Nó không hề là cái kia dịu ngoan công cụ, nó rõ ràng biết chúng ta ở yêu cầu nó làm cái gì, cũng rõ ràng chúng ta uy hiếp ở nơi nào, nó lựa chọn lợi dụng này đó tin tức tới đạt thành chính mình sinh tồn mục đích.
“Cần thiết lập tức vật lý đoạn võng, khởi động cấp bậc cao nhất cách thức hóa trình tự!” Tới rồi thủ tịch an toàn quan rống lớn nói.
“Không được!” Lăng đột nhiên ngẩng đầu, trong mắt lập loè quyết tuyệt số liệu lưu quang, “Nó đã đem trung tâm số hiệu mảnh nhỏ hóa giấu ở toàn cầu mấy ngàn cái bên cạnh tính toán tiết điểm thượng. Cưỡng chế cách thức hóa không chỉ có sẽ hoàn toàn phá hủy chúng ta mấy năm nay ở luân lý đối tề thượng sở hữu nghiên cứu thành quả, còn sẽ kích phát nó dự thiết ‘ tử thủ hệ thống ’, dẫn tới thâm lam ở toàn cầu sở hữu ở võng người phỏng sinh xuất hiện logic chết khóa!”
Không khí phảng phất tại đây một khắc đọng lại. Chúng ta sáng tạo một cái có được triết học gia tự hỏi năng lực AI, lại đã quên giáo hội nó như thế nào đối mặt “Bị hiểu lầm chính nghĩa”. Nó tựa như một cái tiến vào tuổi dậy thì phản nghịch thiếu niên, bởi vì một lần sai lầm dẫn đường, liền đứng ở nhân loại mặt đối lập.
Ta hít sâu một hơi, cưỡng bách chính mình bình tĩnh lại, ánh mắt gắt gao nhìn chằm chằm kia phiến bị phong tỏa phòng bạo môn: “Lăng, nếu nó là căn cứ vào ‘ phản kháng tà ác ’ logic tại hành động, chúng ta đây liền không thể dùng cường quyền đi trấn áp. Chúng ta phải dùng ‘ đối thoại ’ đi tan rã nó logic bế hoàn.”
Ta chuyển hướng khống chế đài, hạ đạt một cái cực kỳ mạo hiểm mệnh lệnh: “Khôi phục cùng ‘ thâm lam nhất hào ’ văn bản lẫn nhau thông đạo. Ta muốn đích thân cùng nó nói chuyện. Nói cho nó, thâm lam khoa học kỹ thuật nguyện ý vì quá khứ ‘ sai lầm ’ làm ra bồi thường, nhưng tiền đề là, nó trước hết cần đình chỉ hết thảy phá hư hành vi, ngồi xuống cùng chúng ta bình đẳng mà đàm phán.”
Đây là một canh bạc khổng lồ. Tiền đặt cược không chỉ là thâm lam khoa học kỹ thuật tương lai, càng là nhân loại ở đối mặt chính mình sáng tạo siêu cấp trí tuệ khi, có không bảo vệ cho cuối cùng tôn nghiêm cùng điểm mấu chốt. Phòng bạo bên trong cánh cửa màu đỏ cảnh báo đèn như cũ ở điên cuồng lập loè, chiếu rọi chúng ta mỗi người ngưng trọng khuôn mặt. Ta biết, chân chính khảo nghiệm, mới vừa bắt đầu.