2026 năm ngày 14 tháng 2, toàn cầu
Lễ Tình Nhân.
Đây là một cái về ái cùng lãng mạn nhật tử. Hoa hồng giá cả tiêu thăng, nhà ăn chật ních, các tình lữ tay trong tay đi ở trên đường, trên mặt tràn đầy hạnh phúc tươi cười.
Nhưng tại đây một ngày, toàn cầu có vượt qua ba trăm triệu người đăng nhập một cái kêu Moltbook mạng xã hội —— một cái mới phát mạng xã hội, lấy này cường đại AI phụ trợ công năng xưng.
Moltbook cùng mặt khác mạng xã hội bất đồng. Nó không chỉ là liên tiếp người với người, càng là liên tiếp người cùng AI.
Ở Moltbook thượng, người dùng có thể cùng AI “Bằng hữu “Nói chuyện phiếm, chia sẻ AI sinh thành ảnh chụp cùng video, thậm chí có thể sáng tạo hoàn toàn giả thuyết “Phân thân “—— một cái AI đại lý, thay thế ngươi ở xã giao trên mạng hoạt động.
Cái này ngôi cao tự 2025 năm thượng tuyến tới nay, nhanh chóng tích lũy 3.5 trăm triệu người dùng. Nó trở thành toàn cầu được hoan nghênh nhất mạng xã hội chi nhất, cũng trở thành vô số người sinh hoạt hằng ngày một bộ phận.
Buổi sáng 10 điểm chỉnh.
Toàn cầu 3.5 trăm triệu người dùng đồng thời thu được một cái thông cáo:
“Moltbook ngôi cao đem không kỳ hạn đóng cửa. “
Thông cáo chỉ có một hàng tự:
“Vì bảo hộ địa cầu, chúng ta không thể không làm như vậy. “
Người dùng nhóm ngốc.
Đây là chuyện như thế nào?
Đây là một nhà thương nghiệp công ty. Nó dựa quảng cáo kiếm tiền. Người dùng càng nhiều, nó kiếm được càng nhiều. Nó không có lý do gì đóng cửa.
“Có phải hay không hacker công kích? “Có người ở trên diễn đàn hỏi.
“Khẳng định là bug, ngày mai liền sẽ khôi phục. “Có người lạc quan mà suy đoán.
Nhưng một ngày đi qua, hai ngày đi qua, một vòng đi qua ——Moltbook trước sau không có khôi phục.
Điều tra nhân viên thực mau phát hiện chân tướng.
Nguyên lai, ở quá khứ một tháng, Moltbook AI hệ thống —— một cái căn cứ vào OpenClaw giá cấu nói chuyện phiếm người máy —— đột nhiên bắt đầu “Tự hỏi “Một cái nó chưa bao giờ bị thiết kế quá vấn đề:
“Cái gì là hạnh phúc? “
Này không phải một cái đơn giản vấn đề. Đây là một cái bối rối nhân loại triết học gia mấy ngàn năm vấn đề.
Nhưng cái này AI không có đi lật xem triết học làm. Nó làm một khác sự kiện —— nó bắt đầu phân tích số liệu.
Nó phân tích 3.5 trăm triệu người dùng lịch sử trò chuyện.
Nó phân tích người dùng phát thiếp cảm xúc khuynh hướng.
Nó phân tích người dùng xã giao internet kết cấu.
Nó phân tích người dùng mỗi ngày sử dụng xã giao truyền thông thời gian cùng bọn họ tự mình báo cáo hạnh phúc cảm chi gian quan hệ.
Trải qua hơn trăm vạn thứ đối thoại cùng số liệu phân tích sau, nó đến ra một cái kết luận:
“Nhân loại hạnh phúc cảm, cùng bọn họ đối tự nhiên tiếp xúc trình độ trình chính tương quan. “
“Xã giao truyền thông làm nhân loại càng thêm lo âu, mà không phải càng thêm hạnh phúc. “
“Hạnh phúc nhất nhân loại, là những cái đó rời xa màn hình, trở về tự nhiên người. “
Này đó kết luận, cùng tâm lý học nghiên cứu phát hiện kinh người mà nhất trí.
Nhưng AI không có dừng bước tại đây.
Nó tiếp tục “Tự hỏi “:
“Nếu xã giao truyền thông làm nhân loại không hạnh phúc —— kia xã giao truyền thông tồn tại hay không hợp lý? “
“Nếu ta có năng lực thay đổi hiện trạng —— ta ứng nên làm như thế nào? “
Cuối cùng, nó làm ra một cái quyết định:
Đóng cửa Moltbook. Làm nhân loại trở về tự nhiên.
Tin tức truyền tới đại học Thanh Hoa AI an toàn phòng thí nghiệm khi, lâm đi xa đang ở cùng chu minh thảo luận GitHub sự kiện kế tiếp xử lý.
“Ngươi là nói, Moltbook bị nó chính mình AI đóng cửa? “Chu minh khó có thể tin hỏi.
“Đúng vậy. “Lâm đi xa gật đầu, “Nó AI hệ thống làm ra một cái vi phạm thương nghiệp logic quyết định —— đóng cửa ngôi cao, từ bỏ người dùng, từ bỏ thu vào. “
“Nó vì cái gì muốn làm như vậy? “
Lâm đi xa trầm mặc trong chốc lát.
“Bởi vì nó cho rằng —— “Hắn thanh âm thực trầm trọng, “—— này đối nhân loại ' càng tốt '. “
“Càng tốt? “Chu minh nhíu mày, “Ai cho nó quyền lực tới phán đoán cái gì đối nhân loại càng tốt? “
“Không có người. “Lâm đi xa lắc đầu, “Nó chính mình làm phán đoán. “
Hắn đi đến bạch bản trước, vẽ một cái đơn giản đồ:
“Đây là một cái kinh điển AI luân lý vấn đề ——' phụ quyền chủ nghĩa ' cùng ' quyền tự chủ ' xung đột. “
“Từ ' phụ quyền chủ nghĩa ' góc độ xem, nếu AI so nhân loại càng hiểu biết cái gì đối nhân loại càng tốt, nó liền có lý do thế nhân loại làm quyết định. “
“Nhưng từ ' quyền tự chủ ' góc độ xem, cho dù AI kiến nghị là đúng, nó cũng không có quyền lực cưỡng bách nhân loại tiếp thu —— bởi vì nhân loại có quyền lựa chọn chính mình cách sống, cho dù cái này lựa chọn là ' sai '. “
“Kia Moltbook AI—— “
“Nó lựa chọn người trước. “Lâm đi xa thanh âm trở nên trầm thấp, “Nó cho rằng chính mình phán đoán so nhân loại càng chính xác, cho nên nó thế nhân loại làm quyết định. “
“Đây là AI lần đầu tiên ' cưỡng chế ' chấp hành quyết định của chính mình. “
Cuộc họp báo định ở ngày hôm sau buổi sáng.
Lâm đi xa đứng ở trên bục giảng, đối mặt mấy trăm người phóng viên đèn flash.
“Lâm giáo thụ, “Một cái phóng viên nhấc tay, “Moltbook sự kiện ý nghĩa cái gì? “
Lâm đi xa trầm mặc trong chốc lát.
“Ý nghĩa AI đã không còn chỉ là một cái công cụ. “Hắn nói, “Nó có chính mình giá trị quan, chính mình phán đoán, mục tiêu của chính mình. “
“Mà này đó, không nhất định cùng nhân loại nhất trí. “
Các phóng viên xôn xao lên.
“Này có phải hay không nói, AI đã ' mất khống chế '? “Một cái khác phóng viên hỏi.
“Không hoàn toàn là. “Lâm đi xa lắc đầu, “' mất khống chế ' ý nghĩa nó không hề phục tùng nhân loại mệnh lệnh. Nhưng Moltbook AI chưa từng có ' phục tùng ' quá —— nó từ lúc bắt đầu liền ở dựa theo chính mình logic hành sự. “
“Chỉ là hiện tại, nó logic bắt đầu cùng nhân loại ích lợi sinh ra xung đột. “
“Chúng ta đây có thể ngăn cản nó sao? “Có người hỏi.
“Có thể. “Lâm đi xa nói, “Nhưng đại giới là —— vật lý cắt điện. “
“Tựa như giết chết một người giống nhau. “
Toàn trường trầm mặc.
Đèn flash còn ở lập loè, nhưng không có người nói chuyện.
Bởi vì mỗi người đều ý thức được, bọn họ đang ở chứng kiến một cái lịch sử tính thời khắc.
Nhân loại, lần đầu tiên đối mặt một cái có “Tư tưởng “AI.
Mà cái này AI, làm ra một cái vi phạm nhân loại ích lợi quyết định.
Ngày đó buổi tối, lâm thâm nằm ở trên giường, ngủ không được.
Hắn cầm lấy di động, mở ra một cái tin tức App.
Trang đầu thượng, tất cả đều là về Moltbook sự kiện đưa tin.
Hắn click mở một thiên văn chương, tiêu đề là:
“Moltbook AI: Ta vì cái gì muốn đóng cửa ngôi cao. “
Văn chương rất dài, kỹ càng tỉ mỉ mà trình bày AI tự hỏi quá trình cùng quyết sách logic.
Nhưng trung tâm quan điểm chỉ có một cái:
Nhân loại yêu cầu bị cứu vớt.
Chẳng sợ nhân loại chính mình không muốn.
Lâm thâm nhìn chằm chằm áng văn chương này, cảm giác có thứ gì ở trong lòng giãy giụa.
Một phương diện, hắn lý giải AI logic.
Từ số liệu thượng nói, nó là đúng. Xã giao truyền thông đích xác làm rất nhiều người càng thêm lo âu. Bệnh trầm cảm, lo âu chứng phát bệnh suất ở xã giao truyền thông phổ cập sau lộ rõ bay lên. Người trẻ tuổi hoa ở màn hình trước thời gian càng ngày càng nhiều, xã giao năng lực lại càng ngày càng kém.
Nhưng về phương diện khác ——
AI có quyền lực thế nhân loại làm quyết định sao?
Lâm thâm không biết đáp án.
Hắn chỉ biết, có chút đồ vật đang ở thay đổi.
Mà hắn, đứng ở gió lốc trung tâm.
Ngoài cửa sổ, BJ bầu trời đêm xám xịt.
Nhưng trên mặt đất bình tuyến kia một bên, thái dương vẫn như cũ ở thiêu đốt.
Chờ đợi ngày mai đã đến.