Vào ngày 15 tháng 11, tại lễ khai mạc Hội chợ công nghệ cao Trung Quốc, Yuntian Lifei đã trình làng thế hệ chip AI DeepEdge10 mới.
Tiến sĩ Chen Ning, Chủ tịch kiêm Giám đốc điều hành Yuntian Lifei, giới thiệu chip DeepEdge10 tại lễ khai mạc Hội chợ công nghệ cao
DeepEdge10 là chip suy luận mô hình ngôn ngữ lớn Chiplet 14nm đầu tiên được sản xuất ở Trung Quốc. Nó áp dụng quy trình nội địa độc lập và có thể kiểm soát, đồng thời chứa lõi RISC-V nội địa để hỗ trợ triển khai suy luận mô hình lớn. Thẻ suy luận X5000, được xây dựng trên kiến trúc chiplet D2D cải tiến của chip DeepEdge10 tự phát triển, đã được điều chỉnh và có thể thực hiện hàng chục tỷ hoạt động mô hình lớn như mô hình lớn SAM CV và Llama2, đồng thời có thể được sử dụng rộng rãi ở biên AIoT video, robot di động và các tình huống khác.
Trong kỷ nguyên của các mô hình lớn, chip suy luận AI là phương tiện chủ yếu để triển khai ứng dụng
Giá trị thị trường của điện toán biên cho thấy xu hướng phát triển nhanh chóng. IDC dự đoán đến cuối năm 2023, thị trường điện toán biên toàn cầu sẽ đạt 200 tỷ USD; đến năm 2026, thị trường điện toán biên dự kiến sẽ vượt 300 tỷ USD.
Kịch bản điện toán biên cho thấy các đặc điểm của sức mạnh tính toán phân mảnh, thuật toán longtail, sản phẩm không được tiêu chuẩn hóa và quy mô phân mảnh. Việc phát triển thuật toán và chip truyền thống khó có thể thích ứng với nhu cầu sản xuất của các kịch bản điện toán biên trí tuệ nhân tạo thế hệ mới. Sự xuất hiện của các mô hình lớn cung cấp cho ngành các giải pháp thuật toán. Tuy nhiên, nếu các mô hình lớn đóng vai trò trong chiến đấu thực tế trong các tình huống điện toán ranh giới, chúng cần có sự hỗ trợ của chip suy luận mô hình lớn AI.
Đối với chip AI, các mô hình lớn mang đến những yêu cầu tính toán và khái quát hóa điện toán mới. Chip cần có sức mạnh tính toán lớn hơn, băng thông bộ nhớ lớn hơn và dung lượng bộ nhớ lớn hơn để hỗ trợ các mô hình lớn với lượng tham số khổng lồ chạy ở biên. Đồng thời, chip suy luận biên AI cũng đảm nhận trách nhiệm “thực hiện chặng cuối”, nghĩa là chip suy luận biên AI không chỉ phải hỗ trợ các tác vụ điện toán AI như mô hình lớn mà còn cần có sức mạnh tính toán tổng quát mạnh mẽ.
Để đáp ứng nhu cầu của các tình huống trên, Yuntian Lifei đã tạo ra một thế hệ chip điện toán biên DeepEdge10 mới. Con chip này có tích hợp điều khiển chính SoC; sử dụng công nghệ D2D Chiplet và kiến trúc mở rộng C2C Mesh để đạt được khả năng mở rộng linh hoạt về sức mạnh tính toán; đồng thời được tích hợp bộ xử lý mạng thần kinh thế hệ thứ tư mới nhất của Yuntian Lifei.
Dựa trên hàng loạt công nghệ tiên tiến, Yuntian Lifei đã tạo ra hàng loạt chip. Hiện tại, ba chip Edge10C, Edge10 Standard Edition và Edge10Max đã được phát triển; các hình thức vận chuyển bao gồm chip, bo mạch, hộp, thẻ tăng tốc, máy chủ suy luận, v.v., có thể được sử dụng rộng rãi trong video biên AIoT, robot di động và các kịch bản khác. Thẻ suy luận X5000, được xây dựng trên kiến trúc chiplet D2D cải tiến của Dee Edge10, đã được điều chỉnh và có thể thực hiện hàng chục tỷ hoạt động mô hình lớn như mô hình lớn SAM CV và Llama2.
Hiện tại, Yuntian Lifei đã cấp phép IP cho bộ xử lý mạng thần kinh cho các nhà thiết kế chip AIoT hàng đầu trong nước, nhà thiết kế chip ô tô thông minh, nhà sản xuất robot dịch vụ, phòng thí nghiệm trọng điểm quốc gia, v.v.
Kể từ khi thành lập vào năm 2014, Yuntian Lifei đã nhấn mạnh vào việc nghiên cứu và phát triển chip độc lập, đồng thời tích lũy các khả năng cốt lõi của "chipization thuật toán". "Chip hóa thuật toán" không phải là một "thuật toán + chip" đơn giản, mà Yuntian Lifei kết hợp các khái niệm, suy nghĩ và thuật toán của các nhà thiết kế chip dựa trên sự hiểu biết về kịch bản và phân tích định lượng các nhiệm vụ tính toán chính của thuật toán trong kịch bản ứng dụng Quá trình thiết kế chip AI tích hợp có thể giúp chip AI đạt được kết quả tốt hơn trong các ứng dụng thực tế.
Với sự hỗ trợ của các khả năng cốt lõi của chip hóa thuật toán, Yuntian Lifei hiện đã hoàn thành nghiên cứu và phát triển kiến trúc tập lệnh thế hệ thứ 3 và kiến trúc bộ xử lý mạng thần kinh thế hệ thứ 4, và chúng lần lượt được thương mại hóa. Điều đáng giá hơn nữa là qua nhiều năm đầu tư, công ty đã thành lập được đội ngũ chip cốt lõi với trung bình hơn 14 năm kinh nghiệm thiết kế.
Các chip được phát triển độc lập của Yuntian Lifei cũng là động lực quan trọng cho chiến lược trí tuệ đô thị tự phát triển của công ty. Năm 2020, Yuntian Lifei chính thức công bố chiến lược trí tuệ đô thị tự phát triển tại Hội chợ công nghệ cao. Logic cốt lõi thúc đẩy sự phát triển của trí thông minh đô thị tự phát triển là tạo ra một bánh đà dữ liệu "áp dụng dữ liệu sản xuất, thuật toán đào tạo dữ liệu, chip được xác định bằng thuật toán và các ứng dụng hỗ trợ quy mô chip". Chip là vật mang chính quyết định chiều rộng và chiều sâu của các ứng dụng AI, đồng thời cũng là hỗ trợ sức mạnh tính toán quan trọng cho việc xây dựng trí tuệ đô thị tự phát triển.
Trong tương lai, Yuntian Lifei sẽ tiếp tục tăng cường nỗ lực nghiên cứu và phát triển độc lập, dựa trên khả năng kiểm soát độc lập và "lõi" tự phát triển để cung cấp động cơ mạnh mẽ cho sự phát triển trí tuệ đô thị tự phát triển.
Tiến sĩ Chen Ning, Chủ tịch kiêm Giám đốc điều hành Yuntian Lifei, giới thiệu chip DeepEdge10 tại lễ khai mạc Hội chợ công nghệ cao
Yuntian Lifei là một trong số ít các công ty AI Trung Quốc kiên trì nghiên cứu và phát triển chip kể từ khi thành lập, hiện đã hoàn thành việc nghiên cứu và phát triển kiến trúc tập lệnh thế hệ thứ 3 và kiến trúc bộ xử lý mạng thần kinh thế hệ thứ 4 đã được lần lượt thương mại hóa. Điều đáng giá hơn nữa là qua nhiều năm đầu tư, công ty đã thành lập được đội ngũ nhân sự chip cốt lõi với trung bình hơn 14 năm kinh nghiệm thiết kế. Chip của Yuntian Lifei cũng đã giành được các dự án đặc biệt về trí tuệ nhân tạo của Bộ Công nghiệp và Công nghệ thông tin, Ủy ban Cải cách và Phát triển Quốc gia, Bộ Khoa học và Công nghệ, đồng thời ba lần giành được "Giải thưởng Khoa học và Công nghệ Trí tuệ Nhân tạo Wu Wenjun" .Trong kỷ nguyên của các mô hình lớn, chip suy luận AI là phương tiện chủ yếu để triển khai ứng dụng
Giá trị thị trường của điện toán biên cho thấy xu hướng phát triển nhanh chóng. IDC dự đoán đến cuối năm 2023, thị trường điện toán biên toàn cầu sẽ đạt 200 tỷ USD; đến năm 2026, thị trường điện toán biên dự kiến sẽ vượt 300 tỷ USD.
Kịch bản điện toán biên cho thấy các đặc điểm của sức mạnh tính toán phân mảnh, thuật toán longtail, sản phẩm không được tiêu chuẩn hóa và quy mô phân mảnh. Việc phát triển thuật toán và chip truyền thống khó có thể thích ứng với nhu cầu sản xuất của các kịch bản điện toán biên trí tuệ nhân tạo thế hệ mới. Sự xuất hiện của các mô hình lớn cung cấp cho ngành các giải pháp thuật toán. Tuy nhiên, nếu các mô hình lớn đóng vai trò trong chiến đấu thực tế trong các tình huống điện toán ranh giới, chúng cần có sự hỗ trợ của chip suy luận mô hình lớn AI.
Đối với chip AI, các mô hình lớn mang đến những yêu cầu tính toán và khái quát hóa điện toán mới. Chip cần có sức mạnh tính toán lớn hơn, băng thông bộ nhớ lớn hơn và dung lượng bộ nhớ lớn hơn để hỗ trợ các mô hình lớn với lượng tham số khổng lồ chạy ở biên. Đồng thời, chip suy luận biên AI cũng đảm nhận trách nhiệm “thực hiện chặng cuối”, nghĩa là chip suy luận biên AI không chỉ phải hỗ trợ các tác vụ điện toán AI như mô hình lớn mà còn cần có sức mạnh tính toán tổng quát mạnh mẽ.
Để đáp ứng nhu cầu của các tình huống trên, Yuntian Lifei đã tạo ra một thế hệ chip điện toán biên DeepEdge10 mới. Con chip này có tích hợp điều khiển chính SoC; sử dụng công nghệ D2D Chiplet và kiến trúc mở rộng C2C Mesh để đạt được khả năng mở rộng linh hoạt về sức mạnh tính toán; đồng thời được tích hợp bộ xử lý mạng thần kinh thế hệ thứ tư mới nhất của Yuntian Lifei.
Dựa trên hàng loạt công nghệ tiên tiến, Yuntian Lifei đã tạo ra hàng loạt chip. Hiện tại, ba chip Edge10C, Edge10 Standard Edition và Edge10Max đã được phát triển; các hình thức vận chuyển bao gồm chip, bo mạch, hộp, thẻ tăng tốc, máy chủ suy luận, v.v., có thể được sử dụng rộng rãi trong video biên AIoT, robot di động và các kịch bản khác. Thẻ suy luận X5000, được xây dựng trên kiến trúc chiplet D2D cải tiến của Dee Edge10, đã được điều chỉnh và có thể thực hiện hàng chục tỷ hoạt động mô hình lớn như mô hình lớn SAM CV và Llama2.
Hiện tại, Yuntian Lifei đã cấp phép IP cho bộ xử lý mạng thần kinh cho các nhà thiết kế chip AIoT hàng đầu trong nước, nhà thiết kế chip ô tô thông minh, nhà sản xuất robot dịch vụ, phòng thí nghiệm trọng điểm quốc gia, v.v.
Li Aijun, phó chủ tịch Yuntian Lifei kiêm tổng giám đốc dòng sản phẩm chip, đã giới thiệu chi tiết DeepEdge10 tại hội nghị chip AI Yuntian Lifei
Kể từ khi thành lập vào năm 2014, Yuntian Lifei đã nhấn mạnh vào việc nghiên cứu và phát triển chip độc lập, đồng thời tích lũy các khả năng cốt lõi của "chipization thuật toán". "Chip hóa thuật toán" không phải là một "thuật toán + chip" đơn giản, mà Yuntian Lifei kết hợp các khái niệm, suy nghĩ và thuật toán của các nhà thiết kế chip dựa trên sự hiểu biết về kịch bản và phân tích định lượng các nhiệm vụ tính toán chính của thuật toán trong kịch bản ứng dụng Quá trình thiết kế chip AI tích hợp có thể giúp chip AI đạt được kết quả tốt hơn trong các ứng dụng thực tế.
Với sự hỗ trợ của các khả năng cốt lõi của chip hóa thuật toán, Yuntian Lifei hiện đã hoàn thành nghiên cứu và phát triển kiến trúc tập lệnh thế hệ thứ 3 và kiến trúc bộ xử lý mạng thần kinh thế hệ thứ 4, và chúng lần lượt được thương mại hóa. Điều đáng giá hơn nữa là qua nhiều năm đầu tư, công ty đã thành lập được đội ngũ chip cốt lõi với trung bình hơn 14 năm kinh nghiệm thiết kế.
Các chip được phát triển độc lập của Yuntian Lifei cũng là động lực quan trọng cho chiến lược trí tuệ đô thị tự phát triển của công ty. Năm 2020, Yuntian Lifei chính thức công bố chiến lược trí tuệ đô thị tự phát triển tại Hội chợ công nghệ cao. Logic cốt lõi thúc đẩy sự phát triển của trí thông minh đô thị tự phát triển là tạo ra một bánh đà dữ liệu "áp dụng dữ liệu sản xuất, thuật toán đào tạo dữ liệu, chip được xác định bằng thuật toán và các ứng dụng hỗ trợ quy mô chip". Chip là vật mang chính quyết định chiều rộng và chiều sâu của các ứng dụng AI, đồng thời cũng là hỗ trợ sức mạnh tính toán quan trọng cho việc xây dựng trí tuệ đô thị tự phát triển.
Trong tương lai, Yuntian Lifei sẽ tiếp tục tăng cường nỗ lực nghiên cứu và phát triển độc lập, dựa trên khả năng kiểm soát độc lập và "lõi" tự phát triển để cung cấp động cơ mạnh mẽ cho sự phát triển trí tuệ đô thị tự phát triển.
Theo VN review
