Thứ 587 chương OpenAI làm được, che lấy không thả, quốc nội không có người cùng
Tần Lãng phòng thí nghiệm phóng bay một mình sau, xây dựng công ty gọi hiểu ý.
Hội ý văn phòng tại Đạo Nhất tập đoàn khuôn viên bên cạnh một tòa nhà tầng ba. Không lớn, bốn trăm tới bình, một nửa bày tủ máy, một nửa ngồi người.GPU quạt âm thanh hai mươi bốn giờ không ngừng, giống một đám ong mật ngồi xổm ở góc tường ong ong.
Lâm Nghiễn buổi chiều đến.
Tần Lãng tại phòng máy cửa ra vào chờ hắn, trong tay nắm vuốt một xấp giấy.
" Tiểu đạo chạy không có?" Lâm Nghiễn hỏi.
" Hai vòng." Tần Lãng đem hắn đưa vào phòng máy, chỉ vào một loạt tủ máy.
Tám đài server, mỗi đài tám cái V100.
Sáu mươi bốn tấm tạp, toàn ở chạy.
" 1 ức tham số mô hình, chạy một ngày." Tần Lãng lật ra một trang giấy, " Có thể ra từ, nhưng liền không thành câu."
Lâm Nghiễn liếc mắt nhìn trên màn hình thu phát. Một chuỗi chữ Hán, từng chữ đơn độc nhìn đều biết, liều mạng cùng một chỗ không có bất kỳ ý nghĩa gì. Giống một người đang nói mơ.
" Trong dự liệu." Rừng nghiễn nói, " 1 ức quá nhỏ."
"GPT-2 15 ức." Tần Lãng nói, "OpenAI dùng ba mươi hai khối TPU dạy dỗ bảy ngày, hoa hơn 4 vạn USD. Chúng ta dùng V100, tính năng kém một đoạn. Muốn huấn 15 ức tham số ——"
" Muốn bao nhiêu?"
" Ít nhất hai trăm tấm. Tốt nhất ba trăm."
GPT-2.
Tháng hai phân chuyện.OpenAI làm vật kia, đến bây giờ hơn một tháng, toàn bộ AI vòng tròn còn tại ầm ĩ.
Tần Lãng đem Lâm Nghiễn lãnh về khu làm việc, bật máy tính lên.
" Ngươi xem một chút cái này."
Trên màn hình là một đoạn tiếng Anh. Một cái liên quan tới Unicorn " Tin tức "—— Nói tại An Đệ Tư sơn mạch phát hiện một đám Unicorn, còn có thể nói tiếng Anh. Có dẫn ngữ, có bối cảnh, có nghiên cứu phương pháp đề nghị. Đọc lấy tới cùng thật tin tức giống nhau như đúc.
" Đây là GPT-2 viết." Tần Lãng nói, " Người chỉ cho câu nói đầu tiên, còn lại tất cả đều là chính nó tục."
Lâm Nghiễn nhìn màn ảnh không nói chuyện.
" Còn có cái này." Tần Lãng lại lật một cái. Một thiên nói thu về có hại " Bình luận văn chương ", kết cấu hoàn chỉnh, lôgic trước sau như một với bản thân mình, tất cả đều là sai.
" Nó không phải đang lục soát, cũng không phải đang liều tiếp." Tần Lãng nói, " Nó tại tạo ra. Cho nó một cái mở đầu, chính nó hướng xuống viết. Viết cùng người viết một dạng."
" Ta biết." Rừng nghiễn nói.
Tần Lãng nhìn hắn một cái. Hắn mỗi lần nói " Ta biết " Thời điểm, Tần Lãng đều nghĩ hỏi ngươi làm sao biết. Nhưng cho tới bây giờ không hỏi.
" Nhưng OpenAI không có phóng bản đầy đủ." Tần Lãng nói, " Thả cái nhỏ, hơn 1 ức tham số phiên bản thu nhỏ. 15 ức che lấy. Trên Blog nói quá nguy hiểm —— Tạo ra giả tin tức, giả mạo người khác, tự động sinh sản nhục mạ cùng câu cá bưu kiện."
" Tiếp đó toàn thế giới nổ." Tần Lãng nở nụ cười, không phải buồn cười, "Reddit bên trên có người để bọn hắn CloseAI.
Một cái tên săm Open cơ quan, không mở nguyên.LeCun nói ——' Mỗi người đều có chế tạo giả tin tức tiềm lực, cho nên chúng ta hẳn là ngừng tạo ra con người sao?'"
Lâm Nghiễn khóe miệng bỗng nhúc nhích.
" Quốc nội đâu?" Lâm Nghiễn hỏi.
" Không có người cùng." Tần Lãng rất trực tiếp, " Baidu ERNIE đi là BERT con đường, làm lý giải không làm tạo ra. Cáp Công Đại, hoa vì, toàn ở BERT dàn khung bên trong cuốn.GPT con đường này, quốc nội một nhà cũng không có."
" Thương Thang đâu? Bỏ xem?"
" Thương Thang vừa dung D luận, đánh giá giá trị hơn mười tỉ USD. Bỏ xem đánh giá giá trị mấy chục ức. Toàn ở làm CV—— Mặt người phân biệt, an phòng, trí tuệ thành thị." Tần Lãng lật ra một trang giấy, " Mặt người phân biệt phép tính báo giá từ ngàn vạn ngã xuống 40 vạn, nhưng an phòng đơn đặt hàng còn tại, còn có thể tan đến tiền. Không có người nhìn GPT-2.
Đều cảm thấy là cái có ý tứ đồ chơi. Nguy hiểm, nhưng không có quan hệ gì với mình."
Lâm Nghiễn không nói chuyện. Hắn nhìn trên màn ảnh cái kia đoạn Unicorn " Tin tức ", một lát sau mở miệng.
" Sẽ có người xuất hiện lại." Hắn nói, " Không tốn bao nhiêu tiền. 5 vạn USD, hai cái nghiên cứu sinh đã đủ. Thậm chí một cái sinh viên chưa tốt nghiệp, mấy ngàn khối nhân dân tệ."
Tần Lãng nhìn hắn chằm chằm hai giây.
" Làm sao ngươi biết?"
" Bởi vì không bưng bít được." Rừng nghiễn nói, " Một vật chỉ cần làm được, liền không bưng bít được. Hắn che lấy một cái mô hình, nhưng mô hình không phải tạo bom nguyên tử —— Chỉ cần có người nghĩ xuất hiện lại, luôn có người làm được. Đến lúc đó hắn che không phải kỹ thuật, là mặt mũi."
" Bọn hắn sẽ thả. Phân giai đoạn phóng, nói không chủ định một dạng. Tới cuối năm, bản đầy đủ liền đi ra."
" Ngươi như thế nào xác định?"
" Bởi vì không bưng bít được."
Tần Lãng dựa vào trở về thành ghế, nghĩ một hồi.
" Vậy chúng ta thì sao?" Hắn hỏi, "OpenAI làm được, che lấy không thả. Quốc nội không có người cùng. Chúng ta còn chưa làm đi ra, còn tại đốt tiền. Chúng ta đuổi là cái gì?"
Lâm Nghiễn nhìn xem hắn.
" Bọn hắn làm được, không biết trong tay là cái gì." Rừng nghiễn nói, " Quốc nội người nhìn thấy, không xem ra gì. Chúng ta còn chưa làm đi ra, nhưng biết đó là cái gì."
Tần Lãng không có truy vấn " Làm sao ngươi biết ". Hỏi cũng sẽ không có đáp án. Lâm Nghiễn có đôi khi nói lời, giống như là từ tương lai mang về. Tần Lãng tại Google Brain chờ qua 2 năm, gặp qua rất nhiều người thông minh, nhưng chưa thấy qua ai giống Lâm Nghiễn dạng này —— Không giải thích, không chứng minh, chỉ nói kết luận. Tiếp đó thời gian chứng minh hắn là đúng.
V100 một tấm 5 vạn chín. Ba trăm tấm —— 1770 vạn. Tăng thêm server, tiền điện, giải thông —— Gần hai ngàn vạn.
" Mua." Rừng nghiễn nói.
" Chuyện tiền ——"
" Ta ra. 2000 vạn, cá nhân đầu tư."
Tần Lãng nhìn hắn một cái. Hiểu ý độc lập, không phải đạo một tập đoàn bộ môn. Số tiền này từ Lâm Nghiễn cá nhân tài khoản đi.
" Tạp đến chạy trước đứng lên. Tham số từ 1 ức bắt đầu đi lên thêm. Chạy trước thông, lại chạy lớn."
Tần Lãng gật đầu.
Lâm Nghiễn đứng lên đi tới cửa. Tới cửa ngừng một chút.
"OpenAI một trăm hai mươi lăm người, hơi mềm đầu 10 ức. Thương Thang đánh giá giá trị hơn mười tỉ USD. Chúng ta sáu người, sáu mươi bốn tấm tạp."
Tần Lãng tiếp một câu: " Chênh lệch rất lớn."
" Chênh lệch đại tài muốn theo đuổi." Rừng nghiễn nói, " Bọn hắn một trăm hai mươi lăm người không biết trong tay là cái gì. Thương Thang bỏ xem không biết mình bỏ qua là cái gì. Chúng ta sáu người biết. Đủ."
Tần Lãng tiễn đưa Lâm Nghiễn đến cửa thang máy, trở về ngồi ở trên vị trí công tác.
Hắn mở ra huấn luyện nhật ký, tại " Tiểu đạo " Cái kia một cột viết một nhóm: Vòng tiếp theo, 5 ức tham số, dự tính cần một trăm hai mươi tấm thẻ.
Tiểu đạo. Đạo tâm nhà. Đạo tâm ra Chip, tiểu đạo là huấn đi ra ngoài mô hình.
Còn không có học được nói chuyện. Nhưng sẽ học.
Hắn nhớ tới tại Google Brain thời điểm, làm chính là ngôn ngữ mô hình quy mô hóa. Khi đó không có người cảm thấy việc này có ý nghĩa lớn cỡ nào ——BERT sau khi đi ra tất cả mọi người đều đang làm lý giải, không có người làm tạo ra.GPT con đường bị cho rằng là tử lộ.
Tiếp đó GPT-2 đi ra.OpenAI che lấy không thả, toàn thế giới tại ầm ĩ " Có nên hay không phóng ".
Nhưng không có mấy người đang suy nghĩ " Ta cũng muốn làm một cái ". Quốc nội càng không có.
Lâm Nghiễn đang suy nghĩ.
Tần Lãng từ Google Brain về nước, đợi rất lâu, chờ chính là có người nói với hắn " Xây phòng thí nghiệm ", tiếp đó " Phóng bay một mình ", tiếp đó " Mua ba trăm tấm tạp, huấn lớn mô hình ". Mỗi một bước đều không do dự. Mỗi một bước đều không giải thích.
Điện thoại di động kêu. Trần Tư xa phát tới một phong bưu kiện, tiêu đề viết " Hiểu ý đầu tư dàn khung hiệp nghị bản dự thảo ". Hắn ấn mở nhìn lướt qua: Phía đầu tư Lâm Nghiễn cá nhân, kim ngạch 2000 vạn, chiếm cỗ 70%.
70%. Lâm Nghiễn đem tiền toàn bộ ra, cầm đầu to. Tần Lãng cùng đoàn đội cầm kỹ thuật cỗ.
Hắn nhìn hai giây, không có ý kiến. Tiền là Lâm Nghiễn, phương hướng là Lâm Nghiễn định, phong hiểm cũng là Lâm Nghiễn gánh.
Hắn nhốt bưu kiện, trở lại huấn luyện trên nhật ký.
5 ức tham số. Một trăm hai mươi tấm thẻ. Chạy trước thông lại nói.
Lâm Nghiễn ra khuôn viên, điện thoại di động kêu.
Trương Vĩ.
" 2000 vạn?" Trương Vĩ âm thanh không đúng lắm, " Ngươi hướng về hiểu ý đập 2000 vạn?"
" Ân."
" Ba trăm tấm V100, một tấm 5 vạn chín —— Lâm Nghiễn, cá nhân ngươi lấy ra 2000 vạn huấn một cái mô hình? Thứ này huấn đi ra có thể làm gì? Bán cho ai?"
" Ngươi nghe ai nói?"
" Thương nghiệp cung ứng bên kia lộ ra ngoài. Ba trăm tấm tạp, vòng tròn bên trong đều đang đồn."
Lâm Nghiễn cúp điện thoại.
Truyền ra.