Chương 17: Attention Is All You Need

Ngô vĩnh huy trầm ngâm một lát mới mở miệng nói: “Llion Jones bị Transformer chi phụ, Google kia thiên 《Attention Is All You Need》, hắn là thứ 5 tác giả.”

“Llion Jones rời đi Google lúc sau đi gây dựng sự nghiệp công ty, sau lại lại đi mỗ gia đại xưởng trung tâm nghiên cứu bộ môn. 《 liên tục tư duy máy móc 》 kia thiên luận văn thực vượt mức quy định, rất nhiều tư tưởng lấy trước mặt phần cứng điều kiện căn bản thực hiện không được.”

“Ta tưởng hẳn là còn có một cái kỹ thuật đường nhỏ.” Vân như nói.

“Chính là làm nhiều trí năng thể tiến hành dung hợp, mà không chỉ là ỷ lại thế giới mô hình logic đi nhận tri thế giới. Một cái mô hình nhìn đến vĩnh viễn là nó bị huấn luyện ra cái kia thị giác, chẳng sợ tham số lại nhiều, số liệu lại toàn, nó trước sau là một cái người quan sát. Nhưng chân thật thế giới không phải bị một cái người quan sát định nghĩa, là vô số người quan sát lẫn nhau quan trắc, lẫn nhau ảnh hưởng, lẫn nhau đắp nặn ra tới. Nếu AGI chỉ có chỉ một thế giới mô hình, không có người khác khái niệm, nó vĩnh viễn vô pháp lý giải cái gì kêu lập trường, cái gì kêu ích lợi, cái gì kêu thỏa hiệp, mấy thứ này không phải logic đẩy ra, là đánh cờ bức ra tới.”

Ngô vĩnh huy nghe xong gật đầu ý bảo.

“Ân. Cái này kỹ thuật lộ tuyến là hoàn toàn được không, Đạo gia giảng đại đạo chí giản, thế giới tầng dưới chót logic thường thường là đơn giản mà lại giản dị. Ngươi nhìn đến những cái đó phức tạp hiện tượng, khí hậu hệ thống hiệu ứng bươm bướm, tài chính thị trường sụp đổ cùng phồn vinh, thậm chí một tế bào thay thế internet, sau lưng đều có thể dùng mấy cái vật lý quy luật miêu tả. Đại não cũng không ngoại lệ, nó tuần hoàn lượng tử cơ học. Nghiêm khắc tới nói, tư duy chính là sóng hàm số than súc kết quả. Mỗi một lần ngươi làm một cái quyết định, sinh ra một ý niệm, đại não trung cái kia chồng lên thái lượng tử hệ thống liền than súc thành một cái xác định kinh điển thái.”

“Từ góc độ này xem, đại não ở học tập thời điểm, bản chất chính là ở dùng phần ngoài thế giới hàng mẫu đi điều chỉnh chính mình bên trong tham số, cùng huấn luyện một cái đại mô hình không có bản chất khác nhau. Mà Đạo gia âm dương ngụ ý, so đại đa số người lý giải muốn khắc sâu đến nhiều.”

Ngọc như buột miệng thốt ra: “Chính là cân bằng, vạn sự vạn vật kỳ thật đều đang tìm kiếm cân bằng. Hằng tinh bên trong dẫn lực hướng vào phía trong áp, phản ứng nhiệt hạch phóng xạ áp lực hướng ra phía ngoài đẩy, hai loại lực lượng vừa vặn triệt tiêu thời điểm, hằng tinh là có thể ổn định mà thiêu vài tỷ năm. Một khi loại này cân bằng bị đánh vỡ, hằng tinh liền sẽ than súc biến thành sao lùn trắng, sao neutron, hoặc là hắc động.”

“Ngay cả thế giới này có thể duy trì cho tới hôm nay không có bùng nổ lần thứ ba thế giới đại chiến, cũng không phải bởi vì nhân loại trở nên thiện lương, mà là bởi vì đại quốc chi gian hình thành hạch cân bằng, cho nhau bảo đảm phá hủy tiền đề hạ cho nên mới duy trì.”

“Cho nên đi thông AGI con đường, quan trọng là mở ra.”

Ngô vĩnh huy mắt sáng rực lên một chút, nói tiếp nói: “Bởi vì mở ra ý nghĩa càng nhiều khả năng tính, phong bế tắc ý nghĩa cổ hủ cùng lui bước. Vô luận là một cái văn minh, một cái công ty, một cái đại não, vẫn là một cái trí năng thể, chỉ cần nó bắt đầu phong bế, nó liền bắt đầu entropy tăng không thể nghịch quá trình, cuối cùng đi hướng xơ cứng cùng tử vong.”

“Vẫn là Ngô vĩnh huy tiến sĩ hiểu ta. Nhưng là nhân tính là mâu thuẫn cùng dục vọng sản vật, cho dù là minh quân cũng nhất định cất giấu bạo quân một mặt, cái gọi là bạo quân cũng nhất định từng có trở thành minh quân thời khắc. Không có tuyệt đối quang minh, cũng không có tuyệt đối hắc ám, hết thảy đều phải biện chứng đối đãi.”

“Ngô vĩnh huy tiến sĩ, hiện tại quang khắc cơ bình cảnh, điện lực bình cảnh, nội tồn tường bình cảnh đều giải quyết sao?”

Ngô vĩnh huy nghe thấy cái này vấn đề, trầm mặc vài giây, sau đó nhìn như bất đắc dĩ mà lắc lắc đầu.

“Không có. Chúng ta trước mắt có thể làm được tiên tiến nhất chế trình là 2 nano, nhưng đó là dùng tím đậm ngoại nhiều trọng cho hấp thụ ánh sáng ngạnh đôi ra tới, phí tổn cao, lương suất thấp. EUV nguồn sáng công suất cùng ổn định tính trước sau tạp ở một cái khảm thượng, nước Đức bên kia quang học kính tổ cung ứng cũng chịu giới hạn trong xuất khẩu quản chế. Tin tức tốt là, quốc nội ở DUV phương hướng thượng đi thông nhiều trọng patterning cực hạn công nghệ, 7 nano cấp bậc sản năng đã ổn định, 5 nano còn ở đi lên. Nhưng muốn đuổi kịp đài tích điện 2 nano thậm chí 1.4 nano tiết tấu, ít nhất còn kém ba năm.”

“Điện lực bình cảnh ngươi vừa rồi ở trên đường cũng đề qua. Một cái cát ngói cấp bậc số liệu trung tâm, không phải kiến không dậy nổi, là hàng rào điện khiêng không được. BJ, Thượng Hải quanh thân 220 ngàn phục trạm biến thế đã mãn phụ tải, tân kiến một tòa tòng chinh mà đến hoà lưới điện ít nhất muốn 5 năm. Cho nên chúng ta hiện tại sách lược là đem tính lực trung tâm hướng tây bộ dọn, Ninh Hạ, nội Mông Cổ, Cam Túc, nơi đó có phong, có quang, có than đá, điện tiện nghi, khí hậu cũng thích hợp tự nhiên làm lạnh. Nhưng vấn đề cũng đi theo tới: Internet lùi lại. Huấn luyện đại mô hình có thể chờ, trinh thám không được.”

“Nội tồn tường càng khó giải quyết. Tính toán nhanh, nhưng số liệu ở DRAM cùng tính toán đơn nguyên chi gian qua lại dọn giải thông không như thế nào biến. HBM đã chồng chất đến mười hai tầng, mười bốn tầng, giải thông tới rồi mỗi kho tạm 1TB mỗi giây lượng cấp, nhưng vẫn là uy không no thượng vạn trương GPU. Chúng ta ở làm một sự kiện là đem càng nhiều tính toán phóng tới tồn trữ, tồn nội tính toán, gần tồn tính toán, nhưng khoảng cách chân chính đột phá John von Neumann giá cấu còn có rất dài lộ.”

“Cho nên ngươi nói cái kia liên tục tư duy máy móc hơn nữa vượt công năng thần kinh nguyên chip đường nhỏ, ở nào đó ý nghĩa cũng là ở vòng nội tồn tường, dùng càng tiếp cận sinh vật đại não mạch xung tính toán cùng sự kiện điều khiển, làm số liệu bất động, tính toán động.”

Hắn nói xong nhìn ngọc như, quan sát nàng phản ứng. Ngọc như nghe xong Ngô vĩnh huy nói, trầm ngâm một lát.

“Ta đã biết. Hiện tại nhân loại gặp phải vấn đề xác thật rất nhiều, nguồn năng lượng, chế tạo, tính toán giá cấu mỗi một cái đều là bức thiết vấn đề, giải quyết không được liền vô pháp thực hiện AGI. Chúng ta không thể gửi hy vọng với bất luận cái gì hạng nhất kỹ thuật, càng không thể một cái đường đi đến hắc.”

“Trực giác nói cho ta hiện tại yêu cầu không chỉ là kỹ thuật đột phá, còn cần thiên tài, càng nhiều thiên tài.”

Đoan chính khải hầu kết trên dưới lăn động một chút. Hắn nghĩ tới một người, một cái cùng ngọc như giống nhau tuổi trẻ, giống nhau thiên tài, giống nhau ở Trung Quốc lớn lên lại cuối cùng lựa chọn một con đường khác người.

Đó là 6 năm trước sự. Phụ thân đoan chính ngồi ở trong thư phòng, trước mặt quán một phần dùng màu xanh biển folder trang hiệp nghị. Phụ thân kêu hắn đi vào, đem folder đẩy đến trên mặt bàn, mở ra trong đó một tờ, chỉ chỉ mặt trên cái tên kia: Tào nguyên.

Hai chữ đóng dấu ở giấy A4 thượng, thoạt nhìn bình thường đến không thể lại bình thường. Nhưng chính là này hai chữ, làm hoa thiên tập đoàn ở kế tiếp 5 năm, từ một cái ở chất bán dẫn tài liệu lĩnh vực miễn cưỡng cùng chạy nhị lưu người chơi, nhảy trở thành toàn cầu Graphen ứng dụng kỹ thuật lãnh chạy giả.

Hắn nhớ rõ phụ thân lời nói:

“Tào nguyên ở Harvard phòng thí nghiệm đã làm ra ba tầng xoay chuyển Graphen siêu đạo hiện tượng nghiệm chứng. Nature bên kia đã cho dự tiếp thu, văn chương thượng nửa năm là có thể phát ra tới. Nhưng là hắn ở nước Mỹ tình cảnh không tốt lắm, Liên Bang điều tra cục người đi tìm hắn, hỏi hắn cùng quốc nội cơ cấu hợp tác quan hệ. Hắn tuy rằng cầm nước Mỹ thẻ xanh, nhưng trong lòng rõ ràng, ở những người đó trong mắt hắn vĩnh viễn là người Trung Quốc.”

Đoan chính lúc ấy trầm mặc vài giây, sau đó bắt tay ấn ở kia phân hiệp nghị thượng.

“Cho nên ta trực tiếp bay một chuyến Boston. Cùng Harvard hiệu trưởng gặp mặt, nói chuyện một cái buổi sáng. Cuối cùng chúng ta đồng ý lấy hoa thiên tập đoàn danh nghĩa hướng Harvard quyên tặng hai trăm triệu Mỹ kim, thiết lập một cái lấy tào nguyên mệnh danh Graphen nghiên cứu trung tâm. Điều kiện là tào nguyên tác vì nên trung tâm liên hợp chủ nhiệm, hắn sở hữu căn cứ vào Graphen tài liệu kỹ thuật thành quả, hoa thiên tập đoàn có được ở Trung Quốc cảnh nội độc nhất vô nhị độc quyền sử dụng quyền cùng sản nghiệp hóa ưu tiên quyền.”

“Tào nguyên cuối cùng đồng ý.”

Đoan chính khải lúc ấy không nói gì, chỉ là nhìn phụ thân phóng ở trên mặt bàn đôi tay kia. Đôi tay kia thiêm quá rất nhiều hợp đồng, nắm quá rất nhiều tay, đã làm rất nhiều quyết định, nhưng kia một ngày, hắn lần đầu tiên cảm thấy phụ thân tay không phải thương nhân tay, mà là một cái bắc cầu người tay, đem một người cùng một tòa kiều liên tiếp ở bên nhau, làm người kia đi qua này tòa kiều, đi làm chính hắn làm không được sự.

Sau lại hắn lục tục từ phụ thân nơi đó nghe được càng nhiều về tào nguyên tin tức. Hắn ở Nature thượng phát biểu kia thiên oanh động toàn bộ Vật lý vật chất ngưng tụ vòng luận văn, ma giác Graphen ở 1.7 Kale văn hạ siêu đạo hiện tượng, làm cho cả giới giáo dục một lần nữa bốc cháy lên đối nhiệt độ phòng siêu đạo hy vọng. Hoa thiên tập đoàn Graphen tài liệu bộ ở Thâm Quyến rơi xuống đất, nhóm đầu tiên căn cứ vào CVD pháp sinh trưởng đại diện tích đơn tinh thạch mặc hi lá mỏng từ lượng sản tuyến thượng đi xuống tới, lương suất đột phá 95%. Sau đó là Graphen cơ điện tử làn da nguyên hình thông qua sinh vật tương dung tính thí nghiệm, còn có nhu tính trong suốt điện cực ở gấp bình di động thượng ứng dụng,