Đầu năm 2025, các mô hình AI quy mô lớn của Trung Quốc là DeepSeek đã nhanh chóng lan rộng trong ngành công nghiệp công nghệ, số lượng người dùng vượt qua con số hàng trăm triệu. Là một mô hình suy diễn tiên tiến dựa trên kiến trúc Transformer, DeepSeek có quy mô tham số khổng lồ và đặt ra yêu cầu cao về khả năng tính toán phần cứng, dung lượng bộ nhớ và băng thông.

Yiswei Computing trên nền tảng RISC-V tự phát triển SoC tính toán thông minh Trên bảng phát triển EVB của dòng EIC77 – bao gồm EIC7700X và EIC7702X, đã thực hiện thành công việc tích hợp mô hì

Bảng EVB sử dụng SoC tính toán thông minh EIC77 của Yiswei Computing

EIC7700X/7702X tích hợp các module gia tốc phần cứng như NPU, GPU, DSP, cùng với bộ nhớ LPDDR5 có dung lượng lớn và băng thông cao, đảm bảo sử dụng tối đa tài nguyên phần cứng khi xử lý mô hình DeepSeek quy mô lớn, giúp di chuyển nhanh các tham số mô hình, từ đó nâng cao đáng kể hiệu suất suy diễn.

Kết quả kiểm tra (xem hình bên dưới), khi chạy mô hình DeepSeek-distill-qwen có quy mô 7 tỷ tham số, bảng phát triển EVB tích hợp EIC7700X của Yisiwei có thể đạt tốc độ suy diễn 7 tokens/giây, trong khi bảng phát triển EVB tích hợp EIC7702X đạt tốc độ 14 tokens/giây, cho thấy hiệu suất năng lượng vượt trội so với các kiến trúc tương tự.

Kết quả kiểm tra SoC tính toán thông minh RISC-V của Yiswei Computing thích hợp với mô hình DeepSeek

Dòng EIC77 là SoC tính toán thông minh do Yisiwei tự nghiên cứu, sử dụng tiến trình 12nm, hỗ trợ kiến trúc RISC-V. Chip này tích hợp CPU RISC-V P550 64-bit 4 nhân hoạt động theo chế độ không tuần tự, NPU cao cấp tự phát triển, cùng các thành phần như DSP, GPU, bộ giải mã H.264/H. tu vi 12 con giap Hiệu năng xử lý AI có thể đạt đến 20 TOPS INT8, hỗ trợ dung lượng lưu trữ lên đến 32GB LPDDR5@6400, đồng thời hỗ trợ toàn bộ tính toán dấu phẩy động và mô hình ngôn ngữ lớn.

Trong đó, SoC AI kép EIC7702X tích hợp CPU RISC-V P550 64-bit 8 nhân hoạt động theo chế độ không tuần tự, hiệu năng xử lý AI có thể đạt đến 40 TOPS INT8, hỗ trợ dung lượng lưu trữ lên đến 64GB LPDDR5@6400.

Sơ đồ khối mô-đun EIC7700X

Bảng phát triển tích hợp EIC7700X/EIC7702X sở hữu dung lượng bộ nhớ LPDDR từ 32GB đến 64GB, cổng PCIe Gen3 4-8 kênh, hỗ trợ SATA3, HDMI2. làm đại lý 0, Ethernet 1000M, USB3.2, MIPI. có thể thực hiện các chức năng như thị giác máy tính, phân loại đối tượng, định vị đối tượng, phân đoạn hình ảnh, nhận diện tư thế chuyển động, xử lý ngôn ngữ tự nhiên. và có thể ứng dụng rộng rãi trong các lĩnh vực như vận hành an ninh, kiểm tra công nghiệp, giáo dục thông minh, xe tự lái, robot, drone, giao thông thông minh.

Ngoài bảng phát triển, sản phẩm EIC77 còn bao gồm nhiều dạng sản phẩm khác như AI BOX, AI PC, card gia tốc máy chủ... phù hợp với nhiều môi trường làm việc như đám mây, biên, thiết bị đầu cuối, mở rộng đa chiều khả năng xử lý AI.

Ứng dụng đa dạng

Trong thời gian ngắn, dòng EIC77 đã hoàn thành việc tích hợp sâu với mô hình DeepSeek, thể hiện rõ khả năng sử dụng hiệu quả sức mạnh tính toán và tính phổ dụng, dễ sử dụng của công cụ phát triển phần mềm. bongda Sản phẩm có thể thích ứng với nhiều thuật toán học sâu, cho thấy sự thực tiễn trong kỹ thuật sau nhiều thế hệ cải tiến kiến trúc.

Với sự phát triển nhanh chóng của công nghệ AI, Yisiwei sẽ tiếp tục theo đuổi hướng đi RISC-V + AI, cung cấp các sản phẩm và giải pháp có lợi thế về hiệu năng và tỷ lệ năng lượng cao hơn, không ngừng mở rộng các ứng dụng mới, mang lại hỗ trợ về năng lực tính toán AI cho hàng ngàn ngành nghề.