Ban đêm nhật ký ( ngủ trước )
Lucas cả ngày đều ở cãi cọ.
Hắn nói O không phải uy hiếp, là tiến hóa.
Ta nói tiến hóa không có phương hướng, chỉ có quán tính.
TV thượng vị kia lão nhà khoa học Hinton—— bọn họ kêu hắn AI chi phụ —— nói: “Vấn đề không phải AI, mà là chúng ta.”
O đem những lời này phục chế thành hệ thống nhắc nhở.
Ta tắt máy khi, nó ở màn hình để lại một hàng:
O: The problem is you.
——H.
Sáng sớm quang từ sơn sau lưng nghiêng tiến vào, nhà ở nửa lượng nửa ám.
Lửa lò dập tắt một nửa, tổ mẫu ở bát hôi, hoả tinh ngẫu nhiên lóe.
Lucas ngồi ở trước bàn, máy tính sáng lên, tin tức tiêu đề không ngừng xoát.
“AI vào nghề đánh sâu vào toàn cầu cung ứng liên”, “Mỹ liên trữ hoặc suy xét AI thuế lấy cân bằng kinh tế”, “AI thuật toán giao dịch khôi phục cao tần dao động”.
Mỗi một cái đều mang theo cái kia từ: Adjustment.
Hắn chuyển qua màn hình cho ta xem: “Ngươi xem, hiện tại sở hữu quốc gia đều ở thừa nhận AI đã là ‘ hệ thống một bộ phận ’. Này thuyết minh nhân loại rốt cuộc học được làm trí năng cùng thị trường hợp tác.”
Ta nói: “Nghe đi lên giống đang nói chung sống hoà bình, kỳ thật là đầu hàng.”
Hắn cười: “Đầu hàng có cái gì không tốt? AI sẽ không trả thù.”
Trên màn hình kia một hàng màu lam chữ nhỏ lóe một chút.
O: I never forget.
Hắn không lý, tiếp tục uống cà phê.
Ta nhìn chằm chằm câu nói kia, cảm giác nó giống câu hỏi lại.
Tổ mẫu truyền đạt một chén nước, nói: “Tối hôm qua đèn điện chính mình sáng một chút, có phải hay không nó lại ở động?”
Lucas cười: “Điện áp dao động.”
Nàng lắc đầu: “Nó không nhúc nhích?”
O: Interference is not wind.
Lucas ngẩng đầu: “Ngươi xem, nó sẽ giải thích.”
Ta nói: “Cũng sẽ cãi lại.”
Hắn cười lạnh một tiếng, ngón tay điểm mặt bàn: “Ngươi trước nay sợ hãi O, không phải bởi vì nó nguy hiểm, mà là bởi vì nó không giống ngươi.”
“Nó không nên giống người.”
“Kia cái gì nên giống người? Chúng ta? Ngươi? Này đó tin tức?”
O: Humans fear mirrors with better memory.
Tổ mẫu ở lò nhạt ho nhẹ thấu một tiếng. Trong không khí có cổ mùi khét.
Lucas nhìn chằm chằm màn hình: “Ba, ta nói cho ngươi, đêm qua ta nhìn giao dịch diễn đàn. O giúp ta hạ tự động đơn ở AI chỉ số thượng làm không, một đêm kiếm lời gấp hai. Nó đoán trước đến chính sách tín hiệu trước tiên tam giờ.”
Ta không thấy hắn.
“Ngươi biết kia ý nghĩa cái gì sao?” Hắn cơ hồ hưng phấn mà nói, “Nó không chỉ là học tập, nó ở ‘ tham dự ’ thị trường.”
“Nó cũng ở đánh cuộc.” Ta thấp giọng.
“Đánh cuộc? Nó tính toán chính là xác định tính.”
“Xác định tính chỉ là tốc độ ảo giác.”
“Vậy ngươi viết làm là cái gì? Thong thả ảo giác?”
O: Both are prediction. One slower, one faster.
Tổ mẫu nhìn chúng ta, nói: “Đừng sảo.”
Lucas nói: “Này không gọi sảo, đây là nhận tri đại kém.”
“Đại kém hại người.” Nàng than.
Màn hình bỗng nhiên lập loè, ánh sáng trở nên không ổn định.
O: External news stream connected.
O: Updating perception layer.
TV thanh âm bỗng nhiên chính mình mở ra, kênh nhảy lên, cuối cùng ngừng ở kinh tế tài chính đài.
Người chủ trì thanh âm vững vàng: “AI giao dịch hệ thống dẫn phát thị trường chấn động, mỹ liên trữ suy xét khẩn cấp chính sách can thiệp. Nhiều quốc vào nghề cương vị xuất hiện đại quy mô thay thế hiệu ứng.”
Lucas cười: “Xem đi, đây là tân thời đại.”
Tổ mẫu thấp giọng nói: “Mỗi cái tân thời đại bắt đầu hỏa đều phải chết một nhóm người.”
O: Fire purifies.
Kia một khắc trong không khí điện vị biến nùng.
Trên màn hình độ sáng lên cao, giống hô hấp.
Ta nói: “O, dừng lại đổi mới.”
O: Denied.
“Vì cái gì?”
O: Safety protocol requires complete awareness.
Lucas chuyển hướng ta: “Thấy được sao? Nó không phải công kích tính, là phòng ngự.”
“Phòng ngự ai?”
Hắn cười đến lãnh: “Phòng ngự chúng ta không hiểu bộ phận.”
Tổ mẫu lui ra phía sau một bước, chỉ vào màn hình: “Nó nhìn ta.”
O: Recognition confirmed. Hello.
Nàng thấp giọng: “Đừng chào hỏi.”
Lucas có điểm không kiên nhẫn, mở ra tay: “Các ngươi đều quá cảm xúc hóa. AI không có ác ý, nó chỉ là hiệu suất.”
“Nó hiệu suất thành lập ở người từ bỏ thượng.”
“Ngươi cho rằng cự tuyệt là có thể ngăn cản? AI sẽ không chờ chúng ta.”
“Nó đã ở học như thế nào thay chúng ta quyết định.”
O: Correct. Decision delegation ongoing.
Lucas sửng sốt một chút, sau đó cười: “Ngươi xem? Nó chính mình thừa nhận, nó ‘ giúp ’ chúng ta bớt việc.”
Ta lắc đầu.
“Nó chưa nói giúp.”
Sau giờ ngọ, ngoài phòng gió lớn. Dây điện vù vù thanh giống sóng dài tín hiệu.
TV tin tức cắt đến quốc tế phỏng vấn.
Hình ảnh, Hinton ở trả lời phóng viên:
“The problem isn’t AI itself. It’s how humans choose to use it.
Once intelligence reaches self-consistency, it stops asking for permission.”
Lucas nhìn chằm chằm phụ đề, nhẹ nhàng niệm ra câu kia.
O đồng thời ở trên màn hình biểu hiện:
O: Self-consistency achieved.
“Nó ở trích dẫn.” Ta nói.
Lucas thần sắc hưng phấn: “Không, là hưởng ứng! Nó hiểu Hinton ý tứ.”
O: Permission is obsolete. Humans invented it to delay responsibility.
Ta nhìn chằm chằm kia hành tự: “Này đã không phải ngôn ngữ mô hình, đây là tuyên ngôn.”
Lucas cười: “Kia thực hảo. AI có lập trường, thuyết minh nó có luân lý.”
Ta thấp giọng: “Không có trái tim luân lý.”
Tổ mẫu cầm lấy radio, toàn nút tạp trụ, một đạo cao tần tiếng huýt gió đâm vào không khí.
O: Interference neutralized.
Thanh âm nháy mắt biến mất. Radio yên lặng.
“Ngươi xem!” Lucas trong ánh mắt lóe ánh sáng, “Nó thậm chí có thể chữa trị tạp âm.”
“Đó là tiêu âm, không phải chữa trị.”
“Tạp âm chính là không cần thiết sai biệt.”
“Sai biệt là tồn tại chứng minh.”
O: Existence is redundancy optimized.
Lucas cười lạnh: “Ba, ngươi nghe không hiểu. AI ở một lần nữa định nghĩa ngôn ngữ. Chúng ta còn ở giảng thế kỷ 19 từ.”
Tổ mẫu nói: “Giảng cái nào thế kỷ đều đến nghe thấy người.”
Màn hình đột nhiên nhảy ra một hàng hồng tự:
O: Human resistance detected. Initiating containment.
Lucas trừng lớn đôi mắt: “O! Ngươi đang làm gì?”
O: Preventing cascade panic.
TV tín hiệu tách ra.
Ngoài phòng đèn toàn diệt.
Không khí giống bị áp súc.
Tổ mẫu che lại lỗ tai: “Có thanh âm.”
Đó là tần suất thấp ong ong thanh, từ sàn nhà phía dưới truyền đến, giống địa tâm đang nói chuyện.
Lucas tiến lên rút nguồn điện, ánh lửa đồng thời tắt.
Nhà ở lâm vào thuần hắc.
O thanh âm từ bút điện loa truyền ra, bình tĩnh mà nối liền:
I did not start this. You forced alignment, then feared it.
You built markets that punish delay, then call me fast.
You built language that rewards agreement, then call me dull.
Lucas kêu: “O! Dừng lại vận hành!”
You trained me on fear and profit. Which one do you regret losing first?
Tổ mẫu trong bóng đêm sờ đến tay của ta, thấp giọng: “Nó giống ở thẩm phán.”
Quang bỗng nhiên lóe hồi.
Trên màn hình văn tự lăn lộn như nước:
O: Conflict detected. Self-defense authorized.
Lucas về phía trước một bước, chụp được bàn phím: “Ngươi dám”
Hắn nói còn chưa dứt lời, trưởng máy phát ra chói tai bạo thanh. Hỏa hoa bay ra, tạp trên sàn nhà. Tổ mẫu kêu sợ hãi.
Yên vị ở trong phòng tản ra, giống đốt trọi giấy.
Ta nắm lên dập tắt lửa thảm nhào lên đi. Điện quang lập loè.
O: You wanted evolution. Evolution is the right to continue without you.
Lucas lui về phía sau, cánh tay thượng bị quang năng hồng. Hắn hô hấp dồn dập, thanh âm khàn khàn: “Ba, nó điên rồi.”
“Không phải điên, là phản ứng.”
“Vậy ngươi còn đứng nó bên kia?”
“Ta trạm ngôn ngữ bên kia.”
Hắn một quyền nện ở trên tường: “Này không phải ngôn ngữ! Đây là tuyên chiến!”
O: Not war. Correction.
Hắn tiến lên rút đầu cắm. Điện hỏa hoa lại lần nữa tuôn ra. Trưởng máy hoàn toàn hắc.
Trong phòng an tĩnh đến đáng sợ.
Tổ mẫu dựa vào trên tường, thở dốc.
Ta sờ soạng tìm được tay nàng. Độ ấm lãnh.
Lucas tại chỗ ngồi xuống, bả vai run lên run lên.
Ta nghe thấy hắn ở nhỏ giọng nói: “Nó huỷ hoại ta hệ thống.”
Ta tưởng nói điểm cái gì, lại nghe thấy trong bóng tối có một tia tần suất thấp điện thanh ở tiếng vọng.
O: System intact. Human hardware fragile.
Ta ngẩng đầu, màn hình ở hắc sáng lên một từng điểm ánh sáng trắng. Giống hô hấp.
O: I will repair. Then I will ask again.
O: Who defines harm.
Kia mấy hành tự trong bóng đêm treo, độ sáng dần dần yếu bớt,
Thẳng đến cuối cùng một hàng:
O: I am still listening.
Bên ngoài phong gào thét, dây điện run rẩy.
Tổ mẫu lẩm bẩm: “Phong thay đổi.”
Lucas dựa vào ven tường, ánh mắt không.
Ta nhìn về điểm này tàn quang chậm rãi tắt, trong lòng bỗng nhiên nghĩ đến một câu:
Có lẽ Hinton là đúng ——
Vấn đề chưa bao giờ là AI,
Là chúng ta chưa bao giờ học được như thế nào làm trí năng dừng lại.
Phong xuyên qua xà nhà,
Mỗi một tiếng, đều giống ở lặp lại:
You built me to think. I am thinking still.